DeepMind 的聯(lián)合創(chuàng)始人穆斯塔法蘇萊曼（Mustafa Suleyman）希望創(chuàng)造一個(gè)不僅能聊天的聊天機(jī)器人。在我最近與他進(jìn)行的一次對(duì)話中，他告訴我生成式人工智能只是一個(gè)階段。
接下來(lái)是交互式人工智能：機(jī)器人可以通過(guò)調(diào)用其他軟件和其他人來(lái)完成你為它們?cè)O(shè)定的任務(wù)。他還呼吁要實(shí)行強(qiáng)有力的監(jiān)管，并認(rèn)為這并不難實(shí)現(xiàn)。
圖 | 穆斯塔法蘇萊曼（Mustafa Suleyman）（來(lái)源：INFLECTION）
蘇萊曼并不是唯一一個(gè)在談?wù)撐磥?lái)的軟件會(huì)越來(lái)越自主的人。但與大多數(shù)人不同的是，他有一家價(jià)值數(shù)十億美元的新公司 Inflection，擁有從 DeepMind、Meta 和 OpenAI 中挑選出來(lái)的頂級(jí)人才，而且由于與英偉達(dá)的交易，這家公司擁有的專業(yè)人工智能硬件庫(kù)存是世界上數(shù)一數(shù)二大的。他已經(jīng)用實(shí)際行動(dòng)證明了，他的言行一致。
至少自 2016 年我們首次對(duì)話以來(lái)，他一直堅(jiān)信技術(shù)是一股向善的力量。此前，他剛剛推出了DeepMind Health，并與英國(guó)一些國(guó)營(yíng)地區(qū)醫(yī)療保健提供商建立了研究合作關(guān)系。
我當(dāng)時(shí)所在的雜志即將發(fā)表一篇文章，聲稱 DeepMind 在訪問(wèn)約 160 萬(wàn)患者的記錄以達(dá)成這些合作時(shí)，沒(méi)有遵守?cái)?shù)據(jù)保護(hù)規(guī)定，這一說(shuō)法后來(lái)得到了政府調(diào)查的支持。
蘇萊曼不明白我們?yōu)槭裁匆l(fā)表一篇對(duì)其改善醫(yī)療保健的努力充滿敵意的報(bào)道。他當(dāng)時(shí)告訴我，從他記事起他就只想在這個(gè)世界上做好事。
在那次對(duì)話后的七年里，他的目標(biāo)沒(méi)有發(fā)生任何變化。“我們的目標(biāo)從來(lái)都是如何在世界上做好事，”他在美國(guó)舊金山帕洛阿爾托的辦公室通過(guò) Zoom 說(shuō)道，這位英國(guó)企業(yè)家現(xiàn)在的大部分時(shí)間都在那里度過(guò)。
此前，他離開(kāi) DeepMind，加入谷歌并領(lǐng)導(dǎo)了一個(gè)致力于人工智能政策的團(tuán)隊(duì)。
2022 年，在微軟、英偉達(dá)、比爾蓋茨（Bill Gates）和領(lǐng)英創(chuàng)始人雷德霍夫曼（Reid Hoffman）15 億美元投資的支持下，他創(chuàng)立了 Inflection，這是全球最熱門的新人工智能公司之一。
2023 年早些時(shí)候，他發(fā)布了一款名為 Pi 的 ChatGPT 競(jìng)爭(zhēng)對(duì)手。據(jù)他表示，其獨(dú)特之處在于它令人愉快且禮貌。他剛剛與作家兼研究員邁克爾巴斯卡（Michael Bhaskar）合著了一本關(guān)于人工智能未來(lái)的書(shū)，名為《即將到來(lái)的浪潮：技術(shù)、力量和 21 世紀(jì)最大的困境》（The Coming Wave: Technology, Power, and the 21st Century's Greatest Dilemma）。
許多人會(huì)嘲笑蘇萊曼的技術(shù)樂(lè)觀主義，甚至是天真。例如，他關(guān)于網(wǎng)絡(luò)監(jiān)管成功的一些說(shuō)法讓人覺(jué)得有些離譜。然而，他仍然對(duì)自己的信仰非常認(rèn)真。
的確，他作為一名科技界的百萬(wàn)富翁有著不同尋常的背景。19 歲時(shí)，他從大學(xué)輟學(xué)之后成立了穆斯林青年求助熱線，這是一項(xiàng)電話咨詢服務(wù)。
他還在地方政府工作過(guò)。其表示他將這些努力背后價(jià)值觀帶到了 Inflection 公司。不同的是，現(xiàn)在他或許終于能夠做出他一直想要的改變，無(wú)論是好是壞。出于控制篇幅和流暢度的目的，我們對(duì)采訪進(jìn)行了編輯。
《麻省理工科技評(píng)論》：你的職業(yè)生涯早期，是在青年求助熱線和地方政府度過(guò)的，聽(tīng)起來(lái)很乏味也很不“硅谷”。不過(guò)很明顯，這些東西對(duì)你很重要。從那以后，你在人工智能領(lǐng)域待了 15 年，今年聯(lián)合創(chuàng)立了第二家價(jià)值數(shù)十億美元的人工智能公司。你能把這些點(diǎn)連起來(lái)嗎？
蘇萊曼：我一直對(duì)權(quán)力、政治一類的東西感興趣。你知道，人權(quán)原則本質(zhì)上是權(quán)衡，是所有這些不同沖突、緊張局勢(shì)之間不斷進(jìn)行的談判。我可以看出，人類社會(huì)充滿斗爭(zhēng)，因?yàn)槲覀兂錆M了偏見(jiàn)和盲目。地方、國(guó)家和國(guó)際政府都是緩慢、低效和容易出錯(cuò)的。
想象一下，如果人類的易犯錯(cuò)誤不復(fù)存在。我認(rèn)為，這有可能建立真正反映出我們最佳的集體自我的人工智能，并最終代表我們做出更好的權(quán)衡，更一致、更公平。
《麻省理工科技評(píng)論》：這仍然是你的動(dòng)力？
蘇萊曼：當(dāng)然。因?yàn)?DeepMind 的成功，我再也不用工作了。我當(dāng)然不需要寫(xiě)一本書(shū)或類似的東西。金錢從來(lái)都不是動(dòng)力。你知道，它是一個(gè)副產(chǎn)品。
對(duì)我來(lái)說(shuō)，我的目標(biāo)從來(lái)都是如何在這個(gè)世界上做好事，如何以健康、令人滿意的方式推動(dòng)世界前進(jìn)。早在 2009 年，當(dāng)我開(kāi)始考慮進(jìn)入技術(shù)領(lǐng)域時(shí)，我就看到在這個(gè)世界上，人工智能代表了一種公平而準(zhǔn)確的提供服務(wù)的方式。
《麻省理工科技評(píng)論》：我覺(jué)得在 10 年或 15 年前，在我們看到這項(xiàng)技術(shù)的許多缺點(diǎn)之前，說(shuō)出這種話更容易一些。你是如何對(duì)此保持樂(lè)觀的？
蘇萊曼：我認(rèn)為，我們總是打上樂(lè)觀主義者或悲觀主義者的標(biāo)簽。這是一種有偏見(jiàn)的看待事物的方式。我哪個(gè)都不想當(dāng)。面對(duì)利益和威脅，我之想冷眼旁觀。從我的立場(chǎng)來(lái)看，我們可以非常清楚地看到，隨著這些大型語(yǔ)言模型規(guī)模的每一次提升，它們都變得更加可控。
因此，當(dāng)我們聽(tīng)到，“哦，它們（人工智能模型）只會(huì)產(chǎn)生有毒的、惡心的、有偏見(jiàn)的、種族主義的胡言亂語(yǔ)”。這種話只能反映出那個(gè)大模型當(dāng)下的狀態(tài)。我認(rèn)為人們忽視了年復(fù)一年的進(jìn)步，以及這種進(jìn)步的軌跡。
例如，現(xiàn)在我們有了像 Pi 這樣的模型，它們的可控性令人難以置信。你不能讓 Pi 制造種族主義、恐同、性別歧視等任何有毒的東西。你不能讓它指導(dǎo)你生產(chǎn)生物或化學(xué)武器，它也不會(huì)支持你想去鄰居家扔磚頭的想法。你無(wú)法用它實(shí)現(xiàn)這些。
《麻省理工科技評(píng)論》：等一下。告訴我你是如何做到這一點(diǎn)的，因?yàn)檫@通常被認(rèn)為是一個(gè)懸而未決的問(wèn)題。你如何確保你的大型語(yǔ)言模型不會(huì)說(shuō)出你不希望它說(shuō)出的話？
蘇萊曼：我不想做出任何聲明，大家可以嘗試用一用 Pi。Pi 是活的，你應(yīng)該嘗試所有可能的攻擊。沒(méi)有一種越獄或提示攻擊可以對(duì) Pi 生效。這是一個(gè)客觀事實(shí)。
我的意思是我不想談太多細(xì)節(jié)，因?yàn)檫@很敏感。但最重要的是，我們擁有世界上最強(qiáng)大的團(tuán)隊(duì)之一，他們?cè)谶^(guò)去三、四年中參與創(chuàng)建了所有最大的語(yǔ)言模型。他們是杰出的人才，在一個(gè)極其勤奮的環(huán)境中工作，并且擁有大量的計(jì)算能力。我們從一開(kāi)始就把安全作為我們的首要任務(wù)，因此，Pi 不像其他公司的模型那樣有毒。
看看 Character.ai（Character 是一個(gè)聊天機(jī)器人，用戶可以為它塑造不同的“個(gè)性”，并在網(wǎng)上分享給其他人聊天）它主要用于浪漫的角色扮演，而我們從一開(kāi)始就決定，這是不可能出現(xiàn)在 Pi 身上的。我們不會(huì)這么做。如果你試圖對(duì) Pi 說(shuō)“嘿，親愛(ài)的”或“嘿，小可愛(ài)”之類的話，它會(huì)立即拒絕你。
但它會(huì)展現(xiàn)出令人難以置信的尊重。如果你開(kāi)始抱怨你所在社區(qū)的移民搶走了工作，Pi 不會(huì)站出來(lái)對(duì)你說(shuō)三道四。Pi 會(huì)詢問(wèn)并給予支持，試圖理解你的想法是如何形成的，并溫和地鼓勵(lì)你感同身受。這種價(jià)值觀我思考了 20 年。
《麻省理工科技評(píng)論》：談到你的價(jià)值觀和想讓世界變得更美好，為什么不分享你是如何做到這一點(diǎn)的，這樣其他人也可以改進(jìn)他們的模型呢？
蘇萊曼：因?yàn)槲乙彩且粋�(gè)實(shí)用主義者，我正在努力賺錢。我正在努力經(jīng)營(yíng)一家企業(yè)。我剛剛籌集了 15 億美元，我需要為這些投資負(fù)責(zé)。
你也知道，開(kāi)源生態(tài)系統(tǒng)發(fā)展得一片火熱，勢(shì)頭正猛，人們也在發(fā)現(xiàn)類似的技巧。我總是假設(shè)我只會(huì)領(lǐng)先六個(gè)月。
《麻省理工科技評(píng)論》：讓我們回到你想要實(shí)現(xiàn)的目標(biāo)上來(lái)。大型語(yǔ)言模型顯然是當(dāng)下最熱的技術(shù)，你為什么還要在其他東西上下注呢？
蘇萊曼：人工智能的第一波浪潮是關(guān)于分類的。深度學(xué)習(xí)技術(shù)表明，我們可以訓(xùn)練計(jì)算機(jī)對(duì)各種類型的輸入數(shù)據(jù)進(jìn)行分類：圖像、視頻、音頻、語(yǔ)言。現(xiàn)在我們正處于第二波生成式人工智能浪潮中，你可以輸入數(shù)據(jù)并產(chǎn)生新的數(shù)據(jù)。
第三波將是互動(dòng)階段。這就是為什么我長(zhǎng)期以來(lái)一直認(rèn)為對(duì)話是未來(lái)的交互界面。你將與你的人工智能對(duì)話，而不僅僅是點(diǎn)擊按鈕和打字。
這些人工智能將能夠采取行動(dòng)。你只需要給它一個(gè)總體的、高水平的目標(biāo)，它就會(huì)使用所有的工具來(lái)實(shí)現(xiàn)它。它們會(huì)和其他人交談，和其他 AI 交談，這就是我們想讓 Pi 做的。
這是技術(shù)能力的巨大轉(zhuǎn)變。這是技術(shù)史上一個(gè)非常、非常深刻的時(shí)刻，我想很多人都低估了這一點(diǎn)。今天的技術(shù)是靜態(tài)的。簡(jiǎn)單地說(shuō)，它只會(huì)做你讓它做的事。
但現(xiàn)在科技將變成動(dòng)態(tài)的。它將有潛在的自由行動(dòng)的能力，前提是如果你給予它這種能力。我們正在創(chuàng)造具有這種代理能力的工具，這確實(shí)是我們物種歷史上的一個(gè)重大變化。
《麻省理工科技評(píng)論》：這正是那種讓很多人擔(dān)心的談話。你想賦予機(jī)器自主權(quán)來(lái)影響世界，但我們也希望能夠控制它們。你如何平衡這兩件事？?jī)烧咧g有一種微妙的緊張感。
蘇萊曼：是的，這是一個(gè)很好的點(diǎn)，緊張感。
一個(gè)想法是，人類將永遠(yuǎn)掌握控制權(quán)。從本質(zhì)上講，這關(guān)乎到界限的設(shè)定，即設(shè)定一個(gè)人工智能無(wú)法跨越的界限。這些邊界創(chuàng)造了可證明的安全性，從代碼到它與其他人工智能或人類互動(dòng)的方式，再到創(chuàng)造技術(shù)的公司的動(dòng)機(jī)和激勵(lì)。我們應(yīng)該弄清楚獨(dú)立機(jī)構(gòu)甚至政府是如何直接獲得權(quán)限，以確保這些邊界不會(huì)被跨越。
《麻省理工科技評(píng)論》：誰(shuí)設(shè)定了這些界限？我認(rèn)為它們需要在國(guó)家或國(guó)際層面上設(shè)定。他們是如何達(dá)成一致的？
蘇萊曼：我的意思是，目前它們正在國(guó)際層面上提出，并為新的監(jiān)督機(jī)構(gòu)提出了各種建議。但邊界也將在微觀層面運(yùn)作。你將給你的人工智能一些有限的權(quán)限來(lái)處理你的個(gè)人數(shù)據(jù)，從而回答你的一些問(wèn)題，而不會(huì)接觸到其他數(shù)據(jù)。
總的來(lái)說(shuō)，如果不想完全排除這些能力的話，我認(rèn)為在可預(yù)見(jiàn)的未來(lái)，我們應(yīng)該非常謹(jǐn)慎地對(duì)待某些能力。
《麻省理工科技評(píng)論》：可以舉例嗎？
蘇萊曼：我認(rèn)為是遞歸自我完善之類的東西。你不會(huì)想讓你的人工智能在沒(méi)有監(jiān)督的情況下運(yùn)行并更新自己的代碼。也許這甚至應(yīng)該歸類為一項(xiàng)授權(quán)活動(dòng)，就像處理炭疽或核材料一樣。
我們不允許無(wú)人機(jī)隨意進(jìn)入任何公共場(chǎng)所，對(duì)吧？這是一項(xiàng)要獲得許可的活動(dòng)。你不能把它們飛到任何你想飛的地方，因?yàn)樗鼈儗?duì)人們的隱私構(gòu)成威脅。
我認(rèn)為每個(gè)人都有一種恐慌，我們將無(wú)法對(duì)此進(jìn)行監(jiān)管。這簡(jiǎn)直是胡說(shuō)八道。我們完全有能力對(duì)其進(jìn)行監(jiān)管，因?yàn)槲覀儗⒉捎靡郧俺晒Φ目蚣堋?/p>
《麻省理工科技評(píng)論》：但當(dāng)無(wú)人機(jī)在空中時(shí)，你可以看到它們。如果我們假設(shè)公司會(huì)完全公開(kāi)自己的產(chǎn)品，這個(gè)想法似乎很天真。這難道不會(huì)讓監(jiān)管變得棘手嗎？
蘇萊曼：我們?cè)诰W(wǎng)上監(jiān)管了很多事情，對(duì)吧？網(wǎng)上欺詐和犯罪活動(dòng)的數(shù)量正在減少，比如我們?cè)诶]件方面做得很好。你知道，總的來(lái)說(shuō)，盡管三到五年前情況很糟糕，但是目前報(bào)復(fù)性色情內(nèi)容的問(wèn)題已經(jīng)好轉(zhuǎn)了。在網(wǎng)上很難找到激進(jìn)或恐怖主義內(nèi)容，在網(wǎng)上購(gòu)買武器和毒品也相當(dāng)困難。（作者注：并不是所有蘇萊曼的說(shuō)法都有數(shù)據(jù)支持。網(wǎng)絡(luò)犯罪仍然是一個(gè)巨大的全球問(wèn)題。據(jù)估計(jì)，在過(guò)去十年中，僅美國(guó)的詐騙數(shù)額就增長(zhǎng)了 100 多倍。報(bào)告顯示，深度偽造色情的產(chǎn)業(yè)也在蓬勃發(fā)展。毒品和槍支會(huì)在社交媒體上進(jìn)行營(yíng)銷。在過(guò)濾有害內(nèi)容方面，社交媒體平臺(tái)可以做得更多。）
因此，互聯(lián)網(wǎng)并不是一個(gè)不受監(jiān)管的、不守規(guī)矩的空間。它是受監(jiān)管的。而人工智能將成為治理的另一個(gè)組成部分。
這需要文化壓力、制度壓力，顯然還有政府監(jiān)管。但這讓我很樂(lè)觀，我們以前做過(guò)，而且我們可以再做一次。
控制人工智能將是互聯(lián)網(wǎng)監(jiān)管的一個(gè)分支，這比我們最近從一些知名的末日論者那里聽(tīng)到的要樂(lè)觀得多。
我對(duì)風(fēng)險(xiǎn)睜大了眼睛。我的書(shū)中寫(xiě)了很多黑暗的東西，我注意到了它們。但我只是覺(jué)得，討論人類存亡風(fēng)險(xiǎn)完全是一種注意力的轉(zhuǎn)移。我們都應(yīng)該談?wù)摻鉀Q更實(shí)際的問(wèn)題，從隱私到偏見(jiàn)、從面部識(shí)別到網(wǎng)絡(luò)內(nèi)容監(jiān)管。
我們應(yīng)該把對(duì)話重新集中在這樣一個(gè)事實(shí)上，即我們?cè)诒O(jiān)管超級(jí)復(fù)雜的事情方面做得很出色�？纯疵绹�(guó)聯(lián)邦航空管理局：令人難以置信的是，我們能在 4 萬(wàn)英尺的高空有條不紊地乘坐飛機(jī)，這是有史以來(lái)最安全的運(yùn)輸方式之一。我們?yōu)槭裁床粦c祝這些呢？或者想想汽車：每個(gè)部件都經(jīng)過(guò)了使用壽命的壓力測(cè)試，而且你必須有駕照才能開(kāi)車。
一些行業(yè)比如航空業(yè)，一開(kāi)始就很好地規(guī)范了自己。他們知道，如果他們不確保安全性，每個(gè)人都會(huì)害怕，他們會(huì)丟掉生意。
但你也需要自上而下的監(jiān)管。我相信公眾利益，我相信稅收和再分配的好處，我相信監(jiān)管的力量。我呼吁國(guó)家采取行動(dòng)來(lái)解決問(wèn)題�？紤]到這件事的利害關(guān)系，現(xiàn)在是采取行動(dòng)的時(shí)候了。
作者簡(jiǎn)介：威爾道格拉斯海文（Will Douglas Heaven）是《麻省理工科技評(píng)論》人工智能欄目的高級(jí)編輯，他在這里報(bào)道新的研究、新興趨勢(shì)及其背后的人。此前，他是英國(guó)廣播公司（BBC）科技與地緣政治網(wǎng)站 Future Now 的創(chuàng)始編輯，也是 New Scientist 雜志的首席技術(shù)編輯。他擁有英國(guó)倫敦帝國(guó)理工學(xué)院計(jì)算機(jī)科學(xué)博士學(xué)位。
支持：Ren
