OpenAI聯(lián)合創(chuàng)始人兼首席執(zhí)行官山姆阿爾特曼在倫敦舉行的一場(chǎng)座無(wú)座席的演講中，既受到來自群眾的抗議，也遇到仰慕者要求自拍合影。圖片來源：WIN MCNAMEEGETTY IMAGES
OpenAI聯(lián)合創(chuàng)始人兼首席執(zhí)行官山姆阿爾特曼即將在倫敦大學(xué)學(xué)院（University College London）的地下禮堂發(fā)表演講，禮堂共有985個(gè)座位，排隊(duì)的人從門口往外排，排滿了幾階樓梯，一直排到街上，然后蜿蜒穿過一個(gè)城市街區(qū)。再往前走，就會(huì)看到六個(gè)舉著標(biāo)語(yǔ)的年輕人，他們呼吁OpenAI放棄開發(fā)通用人工智能的努力在大多數(shù)認(rèn)知相關(guān)任務(wù)中，人工智能系統(tǒng)可以達(dá)到人類大腦同等智慧。一名抗議者拿著擴(kuò)音器指責(zé)阿爾特曼的彌賽亞情結(jié)（想要通過拯救他人來實(shí)現(xiàn)自救，通過扮演救世主的角色來體現(xiàn)自己的價(jià)值），稱他為了實(shí)現(xiàn)自我價(jià)值而冒著毀滅人類的風(fēng)險(xiǎn)。
指責(zé)阿爾特曼有彌賽亞情結(jié)可能有點(diǎn)過火了。但在禮堂里，阿爾特曼受到了搖滾明星般的待遇。演講結(jié)束后，他被仰慕者團(tuán)團(tuán)圍住，讓他擺姿勢(shì)進(jìn)行自拍合影，并就創(chuàng)業(yè)公司如何更好地創(chuàng)建“護(hù)城河”（結(jié)構(gòu)性競(jìng)爭(zhēng)優(yōu)勢(shì)）征求他的意見。“這正常嗎？”當(dāng)我們站在阿爾特曼周圍擁擠的人群中時(shí)，一位難以置信的記者向OpenAI的新聞發(fā)言人提問。這位發(fā)言人表示:“我們這次行程所到之處幾乎都是如此。”
阿爾特曼目前正在進(jìn)行OpenAI“世界巡回演講”從里約和拉各斯到柏林和東京等城市與企業(yè)家、開發(fā)者和學(xué)生們討論OpenAI的技術(shù)以及人工智能在更廣泛領(lǐng)域的潛在影響。阿爾特曼以前進(jìn)行過這樣的世界巡回演講。但今年，隨著人工智能聊天機(jī)器人ChatGPT的病毒式流行，它已成為史上增速最快的面向消費(fèi)者的軟件產(chǎn)品。因此，進(jìn)行“世界巡回演講”有一種繞場(chǎng)一周慶祝勝利的感覺。阿爾特曼還將與政府主要領(lǐng)導(dǎo)人會(huì)面。在倫敦大學(xué)學(xué)院的演講結(jié)束后，他將與英國(guó)首相里希蘇納克共進(jìn)晚餐，并將在布魯塞爾與歐盟官員會(huì)面。
我們從阿爾特曼的演講中了解到什么？除了其他方面外，阿爾特曼認(rèn)為埃隆馬斯克讓他意識(shí)到深度科技投資的重要性，他還認(rèn)為高級(jí)人工智能將減少全球不平等，他還將教育工作者對(duì)OpenAI的ChatGPT感到恐懼與前幾代人對(duì)計(jì)算器的出現(xiàn)感到絕望相提并論，但他對(duì)移民火星不感興趣。
阿爾特曼在美國(guó)參議院作證時(shí)呼吁政府對(duì)人工智能進(jìn)行監(jiān)管，最近還與人合寫了一篇博文，呼吁建立一個(gè)類似于國(guó)際原子能機(jī)構(gòu)（International Atomic Energy Agency）這樣的組織，來監(jiān)管全球高級(jí)人工智能系統(tǒng)的發(fā)展。他表示，監(jiān)管機(jī)構(gòu)應(yīng)該在美國(guó)監(jiān)管新技術(shù)方面的傳統(tǒng)自由放任方式和歐洲采取的積極監(jiān)管立場(chǎng)之間取得平衡。他說，他希望看到人工智能的開源開發(fā)蓬勃發(fā)展。他說：“有人呼吁停止開源運(yùn)動(dòng)，我認(rèn)為這將是真正的恥辱。”但“如果有人破解了代碼，并研發(fā)出超級(jí)人工智能（不管你希望如何定義它）。”他警告說，“可能制定全球性規(guī)則是合乎情理的。”
阿爾特曼說:“對(duì)于可能研發(fā)出超級(jí)人工智能的最大規(guī)模的系統(tǒng)，我們至少應(yīng)該像對(duì)待核材料一樣認(rèn)真對(duì)待它。”
這位OpenAI首席執(zhí)行官還警告說，在他自己公司的機(jī)器人ChatGPT和文本生成圖像工具DALL-E等技術(shù)的助力下，可以輕易生成大量錯(cuò)誤信息。比起生成式人工智能被用來擴(kuò)大現(xiàn)有的虛假信息活動(dòng)規(guī)模，阿爾特曼更擔(dān)心的是，這項(xiàng)技術(shù)有可能生成量身定制的、有針對(duì)性的虛假信息。他指出，OpenAI和其他開發(fā)專有人工智能模型的公司可以建立更好的護(hù)欄來防止此類活動(dòng)，但他說，開源開發(fā)可能會(huì)破壞這種努力，因?yàn)殚_源開發(fā)允許用戶修改軟件并移除護(hù)欄。盡管監(jiān)管“可能會(huì)有所幫助”，但阿爾特曼表示，人們需要成為批判性的信息消費(fèi)者，并將其與圖像處理軟件Adobe Photoshop首次發(fā)布時(shí)，人們對(duì)數(shù)字編輯照片感到擔(dān)憂的時(shí)期進(jìn)行比較。他說：“同樣的事情也會(huì)發(fā)生在這些新技術(shù)上。但我認(rèn)為，我們?cè)皆缱屓藗兞私膺@一點(diǎn)越好，因?yàn)檫@樣做能夠引起更普遍的情感共鳴。”
阿爾特曼對(duì)人工智能的看法比以往更為樂觀。雖然有些人認(rèn)為，生成式人工智能系統(tǒng)會(huì)導(dǎo)致普通工人工資下降或造成大規(guī)模失業(yè)，進(jìn)而加劇全球不平等，但阿爾特曼表示，他認(rèn)為事實(shí)恰恰相反。他指出，人工智能有助于實(shí)現(xiàn)全球經(jīng)濟(jì)增長(zhǎng)，并提高生產(chǎn)力，從而幫助人們擺脫貧困，并創(chuàng)造新機(jī)會(huì)。他說:“我對(duì)這項(xiàng)技術(shù)感到非常興奮，它能夠恢復(fù)過去幾十年失去的生產(chǎn)力，并實(shí)現(xiàn)超越追趕。”他提出了基本觀點(diǎn)：全球兩大“限制因素”是智力成本和能源成本。他表示，如果這兩者的成本能夠大幅降低，那么它們對(duì)窮人的幫助應(yīng)該比對(duì)富人的幫助更大。“人工智能技術(shù)將改變整個(gè)世界。”他說。
阿爾特曼還提到，他認(rèn)為人工智能存在不同版本，包括超級(jí)人工智能。一些人，包括阿爾特曼過去曾說過，盡管這種未來技術(shù)可能對(duì)人類構(gòu)成嚴(yán)重威脅，但它實(shí)際上是可以被控制的。他說:“我過去對(duì)超級(jí)人工智能未來走向的看法是，我們將構(gòu)建一個(gè)極其強(qiáng)大的系統(tǒng)。”他指出，這樣的系統(tǒng)本質(zhì)上是非常危險(xiǎn)的。“我現(xiàn)在認(rèn)為，我們已經(jīng)找到了發(fā)展路徑：可以創(chuàng)建越來越強(qiáng)大的工具，并且數(shù)十億、數(shù)萬(wàn)億的副本能夠在世界各地廣泛使用。它們可以幫助個(gè)人提高效率，從而能夠完成更多任務(wù)，個(gè)人的產(chǎn)出可能顯著增加。超級(jí)人工智能的作用不僅僅體現(xiàn)在支持最大的單一神經(jīng)網(wǎng)絡(luò)方面，還體現(xiàn)在我們正在發(fā)現(xiàn)的所有新科學(xué)和我們正在創(chuàng)造的一切新事物中。
當(dāng)被問及從不同導(dǎo)師那里學(xué)到了什么時(shí)，阿爾特曼提到了埃隆馬斯克。他說：“當(dāng)然，我從埃隆身上學(xué)到什么是能夠完成的，以及你不需要接受這樣的事實(shí)：你不能忽視艱苦研發(fā)和硬技術(shù)的重要性，這是很有價(jià)值的。”
阿爾特曼還回答了一個(gè)問題，即他是否認(rèn)為人工智能可以幫助人類在火星上定居。他說：“聽著，我不想去火星生活，這聽起來很可怕，但我對(duì)其他人想去火星生活感到高興。”阿爾特曼建議應(yīng)該首先把機(jī)器人送到火星上，幫助改造火星，使它更適合人類居祝
在禮堂外，抗議者繼續(xù)高呼反對(duì)這位OpenAI首席執(zhí)行官。但在與會(huì)者停下來詢問他們的抗議活動(dòng)時(shí)，他們也停下來與好奇的與會(huì)者進(jìn)行認(rèn)真交談。
“我們努力做的是提高人們的認(rèn)識(shí)，即人工智能確實(shí)對(duì)人類構(gòu)成了威脅和風(fēng)險(xiǎn)，包括就業(yè)和經(jīng)濟(jì)、偏見、錯(cuò)誤信息、社會(huì)兩極分化和僵化，但也造成稍長(zhǎng)期，卻非真正長(zhǎng)期的，更攸關(guān)人類存亡的威脅。”幫助組織抗議活動(dòng)的、時(shí)年27歲的倫敦大學(xué)學(xué)院政治學(xué)和倫理學(xué)研究生阿利斯泰爾斯圖爾特說。
斯圖爾特引用了最近對(duì)人工智能專家的一項(xiàng)調(diào)查，該調(diào)查發(fā)現(xiàn)，48%的專家認(rèn)為，高級(jí)人工智能系統(tǒng)導(dǎo)致人類滅絕或帶來其他嚴(yán)重威脅的可能性為10%或更高。他說，他和其他抗議奧爾特曼出席此類活動(dòng)的人呼吁暫停開發(fā)比OpenAI的GPT-4大型語(yǔ)言模型更強(qiáng)大的人工智能系統(tǒng)，直到研究人員“解決對(duì)齊問題”這一術(shù)語(yǔ)意味著找到一種方法來防止未來的超級(jí)人工智能系統(tǒng)采取可能對(duì)人類文明造成損害的行動(dòng)。
這一暫停開發(fā)的呼吁呼應(yīng)了包括馬斯克和一些知名人工智能研究人員和企業(yè)家在內(nèi)的數(shù)千名公開信的簽名者所發(fā)出的呼吁，該信由生命未來研究所（Future of Life Institute）于3月底發(fā)表。
斯圖爾特說，他所在的組織希望提高公眾對(duì)人工智能所帶來的威脅的認(rèn)識(shí)，這樣他們就可以向政治家施壓，要求他們采取行動(dòng)，對(duì)該技術(shù)進(jìn)行監(jiān)管。本周早些時(shí)候，一個(gè)自稱“暫停人工智能”（Pause AI）的組織的抗議者也開始在谷歌DeepMind（另一個(gè)高級(jí)人工智能研究實(shí)驗(yàn)室）的倫敦辦公室前進(jìn)行抗議。斯圖爾特說，他所在的組織并不隸屬于“暫停人工智能”，盡管這兩個(gè)組織有許多相同的宗旨和目標(biāo)。（財(cái)富中文網(wǎng)）
譯者：中慧言-王芳
