人工智能聊天工具ChatGPT的開(kāi)發(fā)商OpenAI周三表示,該公司計(jì)劃投入大量資源,創(chuàng)建一個(gè)新的研究團(tuán)隊(duì),以確保其人工智能對(duì)人類來(lái)說(shuō)是安全的,最終使用人工智能來(lái)監(jiān)督自身。
OpenAI聯(lián)合創(chuàng)始人伊利亞蘇斯克維爾(Ilya Sutskever)和對(duì)齊團(tuán)隊(duì)負(fù)責(zé)人簡(jiǎn)萊克(Jan Leike)在一篇博客文章中寫(xiě)道:“超級(jí)智能的巨大力量可能……導(dǎo)致人類被剝奪權(quán)力,甚至人類滅絕。目前,我們還沒(méi)有一個(gè)解決方案來(lái)操縱或控制一個(gè)潛在的超智能人工智能,并防止它失控。”
他們預(yù)測(cè),超智能人工智能比人類更聰明的系統(tǒng)可能在這個(gè)十年到來(lái)。人類將需要比目前更好的技術(shù)來(lái)控制超智能人工智能,因此需要在所謂的“對(duì)齊研究”(alignment research)方面取得突破,該研究的重點(diǎn)是確保人工智能對(duì)人類有益。
他們寫(xiě)道,由微軟支持的OpenAI將在未來(lái)四年中將其獲得的計(jì)算能力的20%用于解決這個(gè)問(wèn)題。此外,該公司正在組建一個(gè)新的團(tuán)隊(duì)來(lái)組織這項(xiàng)工作,稱為超級(jí)對(duì)齊團(tuán)隊(duì)。
該團(tuán)隊(duì)的目標(biāo)是創(chuàng)建一個(gè)“人類水平”的AI對(duì)齊研究者,然后通過(guò)大量的計(jì)算能力進(jìn)行擴(kuò)展。OpenAI表示,這意味著他們將使用人類反饋來(lái)訓(xùn)練AI系統(tǒng),訓(xùn)練AI系統(tǒng)輔助人類評(píng)估,然后最終訓(xùn)練AI系統(tǒng)進(jìn)行實(shí)際的對(duì)齊研究。
但人工智能安全倡導(dǎo)者康納萊希(Connor Leahy)對(duì)OpenAI的這一計(jì)劃提出了異議,認(rèn)為該計(jì)劃從根本上存在缺陷,因?yàn)樽畛醯娜祟愃降娜斯ぶ悄芸赡軙?huì)在被迫解決人工智能安全問(wèn)題之前失控并造成嚴(yán)重破壞。
他在接受采訪時(shí)說(shuō):“在構(gòu)建人類水平的智能之前,你必須先解決對(duì)齊問(wèn)題,否則默認(rèn)情況下你無(wú)法控制它。我個(gè)人認(rèn)為這不是一個(gè)特別好的或安全的計(jì)劃。”
人工智能的潛在危險(xiǎn)一直是人工智能研究人員和公眾最關(guān)心的問(wèn)題。今年4月,一群人工智能行業(yè)領(lǐng)袖和專家簽署了一封公開(kāi)信,呼吁暫停六個(gè)月開(kāi)發(fā)比OpenAI的GPT-4更強(qiáng)大的系統(tǒng),理由是對(duì)社會(huì)存在潛在風(fēng)險(xiǎn)。益普索今年5月的一項(xiàng)民意調(diào)查發(fā)現(xiàn),超過(guò)三分之二的美國(guó)人擔(dān)心人工智能可能產(chǎn)生的負(fù)面影響,61%的人認(rèn)為人工智能可能威脅到人類文明。