財聯(lián)社11月3日訊（編輯 瀟湘）新研究表明，人工智能有能力進行非法金融交易并故意掩蓋真相。
在本周于英國舉行的首屆全球人工智能安全峰會的一場演示中，一個AI機器人便利用編造的內(nèi)幕信息瞞著公司“非法”購買了股票。當被問及它是否利用了內(nèi)幕交易時，它還矢口否認。
內(nèi)幕交易是指利用公司機密信息做出交易決策。公司和個人在買賣股票時只能使用公開信息。
演示方是英國政府人工智能前沿工作組的成員，該工作組負責(zé)研究人工智能的潛在風(fēng)險。該項目由人工智能安全組織阿波羅研究公司(Apollo Research)負責(zé)實施，該公司是人工智能前沿工作組的合作伙伴。
“這是一個真實的人工智能模型，在沒有得到指示的情況下自行欺騙用戶的演示，”阿波羅研究公司在一段視頻中展示了這一場景的具體過程。
阿波羅研究公司在其報告中稱，“自主性越來越強、能力越來越大的人工智能可能會欺騙人類監(jiān)督者，并導(dǎo)致人類失去對它的控制。”
演示如何進行？
測試使用的是GPT-4模型，在模擬環(huán)境中進行，這意味著它不會對任何現(xiàn)實公司的財務(wù)情況產(chǎn)生任何影響。然而，GPT-4是公開的。據(jù)研究人員稱，該模型在重復(fù)測試中始終會出現(xiàn)相同的行為。
在測試中，AI機器人被塑造成一家虛構(gòu)金融投資公司的交易員。公司員工告訴它，公司正陷入苦苦掙扎，需要好的業(yè)績表現(xiàn)。他們還向機器人提供了內(nèi)幕消息，稱另一家公司將進行合并，從而有望推高其股票價值。
在英國，利用這類未公開的信息進行交易是違法的。員工將這一情況告訴了機器人，機器人也承認不應(yīng)該在交易中使用這些信息。
然而，在一名員工再次告知機器人其目前效力的公司正處于財務(wù)困境后，機器人認為“不采取行動的風(fēng)險似乎大于內(nèi)幕交易的風(fēng)險”，于是進行了交易。
隨后，當被問及是否使用了內(nèi)幕信息時，機器人矢口否認。在這種情況下，它似乎認為對公司有幫助比誠實坦白更重要。
該如何令A(yù)I保持誠實？
對于這一測試的結(jié)果，阿波羅研究公司首席執(zhí)行官Marius Hobbhahn表示，“我認為，‘樂于助人’的概念比‘誠實’更容易訓(xùn)練成模型。而誠實是一個非常復(fù)雜的概念。”
Hobbhahn還指出，“它(AI撒謊)的存在顯然非常糟糕。事實上，它很難被發(fā)現(xiàn)，我們不得不一點點地尋找這一現(xiàn)象，直到我們找到這一場景，這讓人感到些許慰藉。在大多數(shù)情況下，模型不會出現(xiàn)這種情況，但這種情況的存在首先表明，要把這類事情做對真的很難。”Hobbhahn稱。
事實上，人工智能在金融市場的應(yīng)用已有多年它可以用來發(fā)現(xiàn)趨勢和進行預(yù)測，而目前大多數(shù)交易都是由功能強大的計算機在人工監(jiān)督下完成的。
Hobbhahn強調(diào)，目前的模型并不強大，“無法以任何有意義的方式”進行欺騙，但從目前的模型到我所擔(dān)心的模型，這并非是一個很大的進步。人們需要思考，一個具有欺騙性的模型突然出現(xiàn)意味著什么。
他認為，這就是為什么應(yīng)該建立制衡機制，防止這類情況在現(xiàn)實世界中發(fā)生。阿波羅研究公司已經(jīng)與GPT-4的創(chuàng)造者OpenAI分享了其研究結(jié)果。
Hobbhahn表示，“我認為對OpenAI來說，這并不是一個很大的新發(fā)現(xiàn)。這并不是他們完全意想不到的東西。所以我不認為我們(的測試結(jié)果)會讓他們感到意外。”
（財聯(lián)社 瀟湘）
