財聯(lián)社7月6日訊(編輯 黃君芝)ChatGPT開發(fā)商OpenAI周三(5日)表示,該公司計劃投入大量資源,并創(chuàng)建一個新的研究團(tuán)隊,以確保其人工智能(AI)對人類來說是安全的,最終實(shí)現(xiàn)AI的自我監(jiān)督。
OpenAI聯(lián)合創(chuàng)始人Ilya Sutskever和負(fù)責(zé)提高系統(tǒng)安全性的AI一致性團(tuán)隊負(fù)責(zé)人Jan Leike在一篇博客文章中寫道:“超級智能的巨大力量可能……導(dǎo)致人類被剝奪權(quán)力,甚至人類滅絕。”
“目前,我們還沒有一個解決方案來操控或控制一個潛在的超智能AI,并防止它失控。”他們寫道。
AI一致性(alignment)指的是AI的行為需符合設(shè)計者的利益和預(yù)期目標(biāo)。
20%算力用來解決AI失控問題
他們預(yù)測,超智能AI(即比人類更聰明的系統(tǒng))可能在這個十年(2030年前)就會到來,人類將需要比目前更好的技術(shù)來控制超智能AI,因此需要在所謂的“一致性研究”方面取得突破,該研究的重點(diǎn)是確保人工智能對人類有益。
根據(jù)他們的說法,在微軟(Microsoft)的支持下,OpenAI將拿出未來四年所獲算力的20%用于解決AI失控的問題。此外,該公司正在組建一個新的團(tuán)隊來組織這項工作,稱為超級一致性團(tuán)隊。
據(jù)悉,該團(tuán)隊的目標(biāo)是創(chuàng)建一個“人類級別”的AI研究人員,然后通過大量的計算能力進(jìn)行擴(kuò)展。OpenAI表示,這意味著他們將使用人類反饋來訓(xùn)練AI系統(tǒng),訓(xùn)練AI系統(tǒng)來輔助人類評估,然后最終訓(xùn)練AI系統(tǒng)進(jìn)行實(shí)際的一致性研究。
專家質(zhì)疑
不過,這一舉措剛剛宣布就受到了專家的質(zhì)疑。人工智能安全倡導(dǎo)者Connor Leahy表示,OpenAI的計劃從根本上存在缺陷,因為可達(dá)到“人類水平”的初級版AI,可能會在被用于解決AI安全問題之前失控并造成嚴(yán)重破壞。“
他在接受采訪時說:“在構(gòu)建人類水平的智能之前,你必須先解決一致性問題,否則默認(rèn)情況下你無法控制它。我個人認(rèn)為這不是一個特別好的或安全的計劃。”
AI的潛在危險一直是AI研究人員和公眾最關(guān)心的問題。今年4月,一群AI行業(yè)領(lǐng)袖和專家簽署了一封公開信,呼吁暫停訓(xùn)練比OpenAI新推出的GPT-4模型更強(qiáng)大的人工智能系統(tǒng)至少6個月,理由是它們對社會和人類構(gòu)成潛在風(fēng)險。
一項最新的民意調(diào)查則發(fā)現(xiàn),超過三分之二的美國人擔(dān)心AI可能產(chǎn)生的負(fù)面影響,61%的人認(rèn)為AI可能威脅到人類文明。
(財聯(lián)社 黃君芝)