夢(mèng)晨 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI
三位圖靈獎(jiǎng)得主Hinton、Bengio、姚期智，聯(lián)名發(fā)文《在快速發(fā)展的時(shí)代管理AI風(fēng)險(xiǎn)》。
還有UC伯克利宋曉東、Pieter Abbeel，清華張亞勤等更多知名學(xué)者合著。
這是一篇共識(shí)論文（consensus paper），除AI研究者外，還有公共治理方面的學(xué)者，如清華大學(xué)人工智能國(guó)際治理研究院薛瀾，以及諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)得主丹尼爾卡尼曼等。
Hinton認(rèn)為，公司們正計(jì)劃在18個(gè)月內(nèi)把AI模型計(jì)算規(guī)模擴(kuò)大100倍，沒(méi)人知道這些模型會(huì)有多強(qiáng)大，也沒(méi)有關(guān)于他們?nèi)绾问褂眠@些模型的規(guī)定。
（18個(gè)月100倍的計(jì)劃來(lái)自InflectionAI）
目前論文公布在獨(dú)立域名站點(diǎn)managing-ai-risks.com，arXiv版本將在稍后上傳。
正文翻譯
回顧2019年，GPT-2還不能完美地?cái)?shù)數(shù)。
而在短短四年之內(nèi)，深度學(xué)習(xí)技術(shù)已可助力開發(fā)軟件、創(chuàng)造逼真的虛擬環(huán)境、提供專業(yè)的建議，并且讓機(jī)器人具備了語(yǔ)言理解能力。
這些系統(tǒng)的進(jìn)步不斷超越預(yù)期，令人瞠目結(jié)舌。
而接下來(lái)的進(jìn)展或許會(huì)更為驚人。
盡管現(xiàn)有的深度學(xué)習(xí)系統(tǒng)尚有不少局限，但各大公司已在爭(zhēng)相研發(fā)能與人類智慧抗衡的通用AI。他們投入的資源越來(lái)越多，創(chuàng)新的技術(shù)日新月異，且AI的自我進(jìn)化能力加速了這一趨勢(shì)。
沒(méi)有跡象顯示AI的進(jìn)步會(huì)在達(dá)到人類智慧的水平后停滯。
事實(shí)上，在某些特定領(lǐng)域，AI已經(jīng)超越了人類。它們可以更快地學(xué)習(xí)、處理更多的信息，且在大規(guī)模計(jì)算中表現(xiàn)出色，而且可以輕松復(fù)制。
技術(shù)的飛速進(jìn)展令人震撼。一些科技巨頭有能力將其AI訓(xùn)練規(guī)模在短時(shí)間內(nèi)增加數(shù)倍。考慮到AI研發(fā)的持續(xù)投入和自我進(jìn)化的趨勢(shì)，通用AI在未來(lái)十到二十年內(nèi)超越人類的可能性不容忽視。
若被正確和公正地應(yīng)用，先進(jìn)的AI可以為人類解決長(zhǎng)久以來(lái)的問(wèn)題，如疾并貧困和環(huán)境問(wèn)題。但與此同時(shí)，強(qiáng)大的AI也帶來(lái)了巨大的風(fēng)險(xiǎn)，這些風(fēng)險(xiǎn)我們還遠(yuǎn)未準(zhǔn)備好應(yīng)對(duì)。我們需要平衡AI的能力與安全性。
遺憾的是，我們?cè)谡{(diào)整策略方面已經(jīng)稍顯落后。我們需要提前預(yù)見并應(yīng)對(duì)風(fēng)險(xiǎn)，不能等到問(wèn)題真正出現(xiàn)時(shí)再行動(dòng)。環(huán)境問(wèn)題就是一個(gè)例證，但AI發(fā)展的速度意味著我們沒(méi)有太多時(shí)間可等。
AI的高速進(jìn)步對(duì)社會(huì)帶來(lái)了巨大的挑戰(zhàn)。若不加以管理，它們可能加劇社會(huì)不平等、威脅社會(huì)穩(wěn)定并削弱我們對(duì)真實(shí)世界的認(rèn)知。它們甚至可能被用作犯罪工具，或者加劇全球的不平等和沖突。
更令人擔(dān)憂的是，自主AI的發(fā)展可能會(huì)放大這些風(fēng)險(xiǎn)。當(dāng)前的AI雖然尚不完全自主，但這一狀態(tài)正在發(fā)生改變。例如，GPT-4盡管強(qiáng)大，但如果控制了具有自主目標(biāo)追求的機(jī)器人或程序，其行為可能變得難以預(yù)測(cè)，且我們可能難以干預(yù)。
為此，我們呼吁全球共同努力，通過(guò)技術(shù)、政策和法律手段來(lái)規(guī)范自主AI的發(fā)展和應(yīng)用。否則，我們可能會(huì)面臨一個(gè)被AI主宰和誤用的未來(lái)。
這只是開始。我們急切需要更多的研究和討論來(lái)解決這些問(wèn)題，并希望得到社區(qū)的支持和協(xié)助，以確保AI為人類帶來(lái)真正的好處，而非威脅。
參考鏈接：
[1] managing-ai-risks.com
[2] https://twitter.com/geoffreyhinton/status/1717967329202491707
