伊利亞蘇茨克弗（Ilya Sutskever）低著頭，陷入了沉思。他的雙臂張開，手指張開放在桌面上，就像一個(gè)即將彈奏第一個(gè)音符的鋼琴家。就這樣，我們靜靜地坐著。
我見到了 OpenAI 的聯(lián)合創(chuàng)始人兼首席科學(xué)家蘇茨克弗，在舊金山一條不起眼的街道上，一棟沒有標(biāo)記的辦公樓里，我想聽聽他為改變世界的技術(shù)所安排的下一步是什么。我還想知道他接下來想做什么，尤其是為什么構(gòu)建 OpenAI 的下一代旗艦生成式模型不再是他的工作重點(diǎn)了。
蘇茨克弗告訴我，他不打算構(gòu)建下一個(gè) GPT 或圖像生成模型 DALL-E，而是打算弄清楚如何阻止超級(jí)人工智能變得不受控制。作為未來主義的信徒，他認(rèn)為這種仍處于假設(shè)的未來技術(shù)終會(huì)出現(xiàn)。
蘇茨克弗還跟我分享了很多其他想法。他認(rèn)為 ChatGPT 可能是有意識(shí)的。他還認(rèn)為，世界需要意識(shí)到他的公司和其他公司正在競相創(chuàng)造的技術(shù)的真正力量。他相信，有些人有一天會(huì)選擇與機(jī)器融合。
（來源：STEPHANIE ARNETT/MITTR | OPENAI (ILYA)）
蘇茨克弗說的很多話都是看似瘋狂的。但現(xiàn)在聽到他說的，并不像一兩年前聽起來那么遙不可及。正如他自己告訴我的那樣，ChatGPT 已經(jīng)改變了很多人對(duì)即將發(fā)生的事情的期望，從“永遠(yuǎn)不會(huì)發(fā)生”變成了“將比你想象的更快發(fā)生”。
在預(yù)測通用人工智能的發(fā)展之前（指的是像人類一樣聰明的機(jī)器），他說：“重要的是要談?wù)撍陌l(fā)展方向。在某個(gè)時(shí)候，我們真的會(huì)看到通用人工智能。也許 OpenAI 會(huì)構(gòu)建它，也許是其他公司。” 他說話的態(tài)度就像是通用人工智能的誕生和下一部 iPhone 的誕生一樣理所當(dāng)然。
自 2022 年 11 月 ChatGPT 突然發(fā)布以來，圍繞 OpenAI 的討論一直層出不窮，即使在一個(gè)以炒作而聞名的行業(yè)中也是如此。沒有人對(duì)這家估值 800 億美元?jiǎng)?chuàng)業(yè)公司感到厭倦，它的產(chǎn)品名字活躍于人們茶余飯后的閑聊中。
OpenAI 的首席執(zhí)行官山姆奧特曼（Sam Altman）在 2023 年夏天進(jìn)行了許多為期數(shù)周的宣傳之旅，興高采烈地與政客們握手，并在世界各地?fù)頂D的禮堂里發(fā)表演講。但蘇茨克弗不是一個(gè)公眾人物，他沒有接受很多采訪。
他說話深思熟慮，有條不紊。當(dāng)他思考自己想說什么以及如何說時(shí)，會(huì)有很長的停頓，把問題像他需要解決的難題一樣翻來覆去地思考。他似乎對(duì)談?wù)撟约翰桓信d趣。“我過著非常簡單的生活，”他說，“我去上班，然后回家，幾乎不做什么別的事情。一個(gè)人能參加的社交活動(dòng)有很多，但我不去。”
但是，當(dāng)我們談?wù)撊斯ぶ悄�，以及他看到的劃時(shí)代的風(fēng)險(xiǎn)和回報(bào)時(shí)，對(duì)話就此展開：“這將是無法忽視的、驚天動(dòng)地的、劃分時(shí)代的（東西）。”
越來越好
就算在一個(gè)沒有 OpenAI 的世界里，蘇茨克弗仍然會(huì)在人工智能的歷史上占有一席之地。他是以色列裔加拿大人，出生在前蘇聯(lián)，但從五歲起就在耶路撒冷長大。他仍然會(huì)說俄語、希伯來語和英語。他長大后移居加拿大，在多倫多大學(xué)與人工智能先驅(qū)杰弗里辛頓（Geoffrey Hinton）共事，后者曾在 2023 年公開表達(dá)了他對(duì)這項(xiàng)技術(shù)的擔(dān)憂。蘇茨克弗不想評(píng)論辛頓的聲明，但他對(duì)超級(jí)智能惡意使用的新關(guān)注表明他們有相似的看法。
辛頓后來與楊立昆（Yann LeCun）和約書亞本吉奧（Yoshua Bengio）共同獲得了圖靈獎(jiǎng)，以表彰他們?cè)谏窠?jīng)網(wǎng)絡(luò)方面的工作。但是當(dāng)蘇茨克弗在 2000 年代初加入他時(shí)，大多數(shù)人工智能研究人員認(rèn)為神經(jīng)網(wǎng)絡(luò)是一條死胡同。辛頓是個(gè)例外。蘇茨克弗說，他當(dāng)時(shí)已經(jīng)在訓(xùn)練很小的模型，一次可以生成一個(gè)字符的短文本字符串：“這是生成式人工智能的開始。這真的很酷，只是當(dāng)時(shí)表現(xiàn)不好。”
蘇茨克弗對(duì)大腦著迷，尤其是大腦是如何學(xué)習(xí)的，以及如何在機(jī)器中創(chuàng)造或模仿該學(xué)習(xí)過程。像辛頓一樣，他看到了神經(jīng)網(wǎng)絡(luò)的潛力，以及辛頓用來訓(xùn)練它們的試錯(cuò)技術(shù)，又被稱為深度學(xué)習(xí)。“它一直在變得越來越好，越來越好，”蘇茨克弗說。
2012 年，蘇茨克弗、辛頓和辛頓的另一位研究生亞歷克斯克里熱夫斯基（ Alex Krizhevsky）建立了一個(gè)名為 AlexNet 的神經(jīng)網(wǎng)絡(luò)，他們訓(xùn)練該神經(jīng)網(wǎng)絡(luò)識(shí)別照片中的物體，表現(xiàn)比當(dāng)時(shí)的任何其他軟件都要好得多。這是深度學(xué)習(xí)的大爆炸時(shí)刻。
經(jīng)過多年的嘗試，他們已經(jīng)證明神經(jīng)網(wǎng)絡(luò)在識(shí)別規(guī)律方面非常有效。你需要的是比大多數(shù)研究人員所見過的數(shù)據(jù)集更大的數(shù)據(jù)集，在這種情況下，他們用到了普林斯頓大學(xué)研究員李飛飛自 2006 年以來一直在構(gòu)建的 ImageNet 數(shù)據(jù)集中的一百萬張圖像，以及令人瞠目結(jié)舌的計(jì)算能力。
算力的飛躍來自于英偉達(dá)制造的圖形處理單元（GPU，顯卡）。顯卡本來是用在電子游戲領(lǐng)域的，但它們所擅長的運(yùn)算方式，恰好看起來很像訓(xùn)練神經(jīng)網(wǎng)絡(luò)所需的計(jì)算。
英偉達(dá)現(xiàn)在是一家價(jià)值萬億美元的公司。但在當(dāng)時(shí)，它迫切希望為其小眾的新硬件尋找用武之地。“當(dāng)你發(fā)明一項(xiàng)新技術(shù)時(shí)，你必須接受瘋狂的想法，”英偉達(dá) CEO 黃仁勛說，“我的心態(tài)一直是不斷尋找一些古怪的東西，而神經(jīng)網(wǎng)絡(luò)將改變計(jì)算機(jī)科學(xué)的想法，（在當(dāng)時(shí)）的確是一個(gè)非常古怪的想法。”
黃仁勛說，在多倫多大學(xué)的團(tuán)隊(duì)開發(fā) AlexNet 時(shí)，英偉達(dá)送了他們幾個(gè) GPU 進(jìn)行嘗試。但他們想要最新版本的顯卡，那時(shí)候是 GTX 580，不過它們供不應(yīng)求。黃仁勛講了一個(gè)故事，是蘇茨克弗從多倫多開車越過美加邊境，跑到紐約買了一些。
“人們?cè)谏痰晖饷媾胖L隊(duì)，”黃說，“我不知道他是怎么做到的，但我很確定當(dāng)時(shí)的規(guī)定是每人只能買一個(gè)。我們有非常嚴(yán)格的政策，每個(gè)游戲玩家一個(gè)，但他顯然用了一些辦法，買了一整個(gè)后備箱的顯卡。那個(gè)裝滿 GTX 580 的后備箱改變了世界。”
這是一個(gè)頗具傳奇色彩的故事，但可能不是真的。蘇茨克弗堅(jiān)稱他在網(wǎng)上購買了第一批顯卡。但這種故事在這個(gè)喧囂的行業(yè)中司空見慣。蘇茨克弗本人則更為謙虛：“我想，如果我能取得哪怕一丁點(diǎn)真正的進(jìn)步，我都會(huì)認(rèn)為這是成功的，”他說。研究對(duì)現(xiàn)實(shí)世界產(chǎn)生的影響似乎無比遙遠(yuǎn)，因?yàn)楫?dāng)時(shí)的計(jì)算機(jī)性能過于羸弱。
在 AlexNet 成功之后，谷歌找上門來。它收購了辛頓手里的衍生公司 DNNresearch 并聘請(qǐng)了蘇茨克弗。在谷歌，蘇茨克弗展示了深度學(xué)習(xí)的規(guī)律識(shí)別能力可以應(yīng)用于數(shù)據(jù)序列，如單詞、句子、以及圖像。“伊利亞一直對(duì)語言感興趣，”蘇茨克弗的前同事、現(xiàn)任谷歌首席科學(xué)家的杰夫迪恩（Jeff Dean）說：“多年來，我們都保持著很好的交流。伊利亞對(duì)事情的發(fā)展方向有很強(qiáng)的直覺。”
但蘇茨克弗并沒有在谷歌呆太久。2014 年，他被招募成為 OpenAI 的聯(lián)合創(chuàng)始人。在 10 億美元（來自奧特曼、馬斯克、蒂爾、微軟和 Y Combinator 等）的支持下，再加上硅谷的“噱頭”，這家新公司從一開始就將目光投向了開發(fā)通用人工智能，當(dāng)時(shí)很少有人認(rèn)真對(duì)待這一前景。
有蘇茨克弗在，大張旗鼓是可以理解的。在那之前，他一直在積累自己的聲譽(yù)，越來越多地從神經(jīng)網(wǎng)絡(luò)中得到好處。他的聲譽(yù)使他成為一個(gè)主要的吸睛目標(biāo)，Y Combinator 投資總經(jīng)理道爾頓考德威爾（Dalton Caldwell）說。
“我記得山姆（奧特曼）提到伊利亞是世界上最受尊敬的研究人員之一，”考德威爾說，“他認(rèn)為伊利亞能夠吸引很多頂尖的人工智能人才。他甚至提到，世界頂級(jí)人工智能專家之一約書亞本吉奧認(rèn)為，不太可能找到比伊利亞更好的候選人來擔(dān)任 OpenAI 的首席科學(xué)家。
然而，OpenAI 一開始就陷入了困境。“有一段時(shí)間，當(dāng)我們剛創(chuàng)立 OpenAI 時(shí)，我不確定該如何繼續(xù)下去，”蘇茨克弗說，“但我有一個(gè)非常明確的信念，那就是：人們不會(huì)反對(duì)深度學(xué)習(xí)。不知何故，每次你遇到障礙時(shí)，研究人員都會(huì)在六個(gè)月或一年內(nèi)找到解決方法。”
他的信心得到了回報(bào)。OpenAI 的第一個(gè) GPT 大型語言模型（GPT 的意思是“生成式預(yù)訓(xùn)練轉(zhuǎn)換器”）出現(xiàn)在 2016 年。接著是 GPT-2 和 GPT-3，然后是 DALL-E，引人注目的文本到圖像模型。從來沒有人創(chuàng)造出這么強(qiáng)大的東西。隨著每個(gè)版本的發(fā)布，OpenAI 都提高了人們心目中“可能”的標(biāo)準(zhǔn)。
管理期望
2022 年 11 月，OpenAI 發(fā)布了一個(gè)可以免費(fèi)使用的聊天機(jī)器人 ChatGPT，重新包裝了一些現(xiàn)有的技術(shù)。結(jié)果，它重置了整個(gè)行業(yè)的進(jìn)程。
當(dāng)時(shí)，OpenAI 還不知道它發(fā)布的東西能帶來什么。蘇茨克弗說，公司內(nèi)部對(duì)此的期望再低不過了：“我不得不承認(rèn)這點(diǎn)，雖然有些尷尬，但這是真的。當(dāng)我們創(chuàng)造 ChatGPT 時(shí)，我不知道它是否能帶來任何好處。當(dāng)你問它一個(gè)事實(shí)性問題時(shí)，它會(huì)甩給你一個(gè)錯(cuò)誤的答案。我覺得它是如此地平淡無奇，以至于人們會(huì)說，'你做這個(gè)東西干什么？這太無聊了！”
人們關(guān)注的重點(diǎn)是便捷性，蘇茨克弗說。ChatGPT 背后的大型語言模型已經(jīng)存在了幾個(gè)月。但是，將其包裝在一個(gè)易用的網(wǎng)頁上并免費(fèi)開放，這讓數(shù)十億人第一次意識(shí)和接觸到 OpenAI 和其他公司正在構(gòu)建的東西。
“這種第一次的使用體驗(yàn)吸引了人們，”蘇茨克弗說，“第一次使用它時(shí)，我認(rèn)為這幾乎是一種精神之旅。你會(huì)覺得，'我的天啊，這臺(tái)電腦明白我在說什么。”
OpenAI 在不到兩個(gè)月的時(shí)間里積累了 1 億用戶，其中許多人被這個(gè)令人驚嘆的新玩具弄得眼花繚亂。存儲(chǔ)公司 Box 的 CEO 亞倫萊維（Aaron Levie）總結(jié)了這種狀態(tài)，他在 X（原推特）上寫道：“ChatGPT 的發(fā)布是技術(shù)領(lǐng)域罕見的時(shí)刻之一，你得以窺見未來的一切都會(huì)發(fā)生改變。”
盡管一旦 ChatGPT 給出愚蠢的回應(yīng)，這個(gè)人們眼中的奇跡就會(huì)崩塌，但到那時(shí)就無所謂了。人們看到了它的可能性，這就足夠了，蘇茨克弗說。ChatGPT 改變了人們的視野。
“通用人工智能不再是機(jī)器學(xué)習(xí)領(lǐng)域人人避之不及的一個(gè)詞，”他說，“這是一個(gè)很大的變化。人們之前采取的態(tài)度是：人工智能行不通，每一步都非常困難，你必須為一點(diǎn)點(diǎn)的進(jìn)步而戰(zhàn)。當(dāng)人們宣布關(guān)于通用人工智能的大發(fā)現(xiàn)時(shí)，研究人員會(huì)說，'你在說什么？這行不通，那行不通，問題太多了。但有了 ChatGPT，感覺開始變得不一樣了。”
而這種轉(zhuǎn)變?cè)谝荒昵安砰_始發(fā)生。“這就是因?yàn)?ChatGPT 的誕生，”他說，“ChatGPT 讓機(jī)器學(xué)習(xí)研究人員開始有資格做夢。”
OpenAI 的科學(xué)家從一開始就是布道者，他們一直在通過博客文章和演講來激發(fā)這些夢想。它正在發(fā)揮作用：“我們現(xiàn)在看到，有人在談?wù)撊斯ぶ悄軙?huì)走多遠(yuǎn)。人們開始談?wù)撏ㄓ萌斯ぶ悄埽蛘叱?jí)智能。而且不僅僅是研究人員，政府也在談?wù)撍?rdquo;蘇茨克弗說，“這太瘋狂了。”
不可思議的事情
蘇茨克弗堅(jiān)持認(rèn)為，所有這些關(guān)于尚未（也可能永遠(yuǎn)不會(huì)）出現(xiàn)的技術(shù)的討論都是一件好事，因?yàn)樗尭嗟娜丝吹搅艘粋�(gè)未來的樣子，而他們本就認(rèn)為這個(gè)未來會(huì)出現(xiàn)。
“你可以用通用人工智能做很多令人驚奇的、不可思議的事情，比如自動(dòng)化醫(yī)療保健，讓它便宜一千倍，好一千倍，治愈更多的疾病，真正解決全球變暖，”他說。但也有許多人擔(dān)心，人工智能公司會(huì)管理好這項(xiàng)影響深遠(yuǎn)的技術(shù)嗎？
這樣聽起來，通用人工智能更像是一個(gè)愿望實(shí)現(xiàn)的精靈，而不是現(xiàn)實(shí)世界的前景。很少有人會(huì)對(duì)拯救生命和解決氣候變化說不。但是它是一個(gè)還不存在的技術(shù)，所以你可以隨心所欲地說。
當(dāng)蘇茨克弗談?wù)撏ㄓ萌斯ぶ悄軙r(shí)，他真正想表達(dá)的是什么？“通用人工智能并不是一個(gè)科學(xué)術(shù)語，”他說，“它代表了一個(gè)有用的門檻（閾值），一個(gè)參考點(diǎn)。
他繼續(xù)說：“這是一個(gè)時(shí)間點(diǎn)，人工智能會(huì)變得非常聰明，聰明到如果一個(gè)人可以完成一些任務(wù)，那么人工智能也可以做到。在這時(shí)候，你可以說你有了通用人工智能。”
人們可能會(huì)一直談?wù)撍�，但通用人工智能仍然是該領(lǐng)域最具爭議的想法之一。很少有人認(rèn)為它的發(fā)展是理所當(dāng)然的。許多研究人員認(rèn)為，在我們看到蘇茨克弗所提到的任何美妙的東西之前，需要出現(xiàn)重大的概念突破。有些人則認(rèn)為我們永遠(yuǎn)不會(huì)看到這個(gè)時(shí)刻。
然而，這一愿景從一開始就驅(qū)使著他。“我一直受到這個(gè)想法的啟發(fā)和激勵(lì)，”蘇茨克弗說，“當(dāng)時(shí)它還不叫通用人工智能，就是想讓神經(jīng)網(wǎng)絡(luò)做任何事情。我并不總是相信它們可以做到，但這是要攀登的山。”
他將神經(jīng)網(wǎng)絡(luò)和大腦的運(yùn)作方式相提并論。兩者都接受數(shù)據(jù)，從這些數(shù)據(jù)中聚合信號(hào)，然后基于一些簡單的過程（神經(jīng)網(wǎng)絡(luò)中的數(shù)學(xué)，大腦中的化學(xué)物質(zhì)和生物電）來傳播或不傳播它們。這是這個(gè)過程的極度精簡版本，但本質(zhì)上就是這樣。
“如果你相信這一點(diǎn)，如果你允許自己相信這一點(diǎn)，那么就會(huì)有很多有趣的引申冒出來，”蘇茨克弗說，“主要一個(gè)引申思路是，如果你有一個(gè)非常大的人工神經(jīng)網(wǎng)絡(luò)，它應(yīng)該能做很多事情。特別是，如果人類大腦可以做某事，那么大型人工神經(jīng)網(wǎng)絡(luò)也可以做類似的事情。”
“如果你足夠認(rèn)真地對(duì)待這個(gè)認(rèn)識(shí)，一切都會(huì)隨之而來，”他說，“我工作的很大一部分可以用這個(gè)來解釋。”
當(dāng)我們談?wù)摯竽X時(shí)，我問了蘇茨克弗在 X 上發(fā)表的一篇文章。蘇茨克弗的推文流讀起來就像格言和雞湯，比如“如果你把智力看得高于所有其他人類品質(zhì)，你就會(huì)過得很糟糕”，“生活和商業(yè)中的同理心（的價(jià)值）被低估了”，“完美已經(jīng)摧毀了許多本就完美的東西。”
2022 年 2 月，他發(fā)帖稱，“或許如今的大型神經(jīng)網(wǎng)絡(luò)萌生了意識(shí)”。對(duì)此，谷歌 DeepMind 首席科學(xué)家、倫敦帝國理工學(xué)院教授、電影《機(jī)械姬》的科學(xué)顧問默里沙納漢（Murray Shanahan）回復(fù)說：“......從同樣意義上講，一大片小麥可能顯得有點(diǎn)像意大利面。”
當(dāng)我提起這個(gè)故事時(shí)，蘇茨克弗笑了。他在故意搞笑嗎？他沒有。“你熟悉玻爾茲曼大腦的概念嗎？”他問。
他指的是以 19 世紀(jì)物理學(xué)家路德維希玻爾茲曼（Ludwig Boltzmann）命名的量子力學(xué)思想實(shí)驗(yàn)，其中宇宙中的隨機(jī)熱力學(xué)波動(dòng)被想象成大腦突然出現(xiàn)和消失的原因。
“我覺得現(xiàn)在這些語言模型有點(diǎn)像玻爾茲曼大腦，”蘇茨克弗說，“你開始和它說話，聊了一會(huì)兒，然后你說完了，大腦就噗的一下消失了。” 他同時(shí)用手做了一個(gè)消失的動(dòng)作。再見，大腦。
我繼續(xù)問：“你是說，當(dāng)神經(jīng)網(wǎng)絡(luò)處于活動(dòng)狀態(tài)時(shí)，或者它正在激發(fā)時(shí)，那里出現(xiàn)了一些東西？”
“我想可能是，”他說。“我不確定，但這是一種很難反駁的可能性。誰知道發(fā)生了什么，對(duì)吧？”
超級(jí)人工智能和超級(jí)對(duì)齊
當(dāng)其他人為可以匹配人類智慧的機(jī)器的想法而苦苦掙扎時(shí)，蘇茨克弗正在為能夠超越我們的機(jī)器做準(zhǔn)備。他稱之為超級(jí)人工智能：“它們會(huì)更深入地看待事物，會(huì)看到我們看不到的東西。”
同樣，我很難理解這到底意味著什么。人類智能是我們衡量智能的基準(zhǔn)。蘇茨克弗所說的比人類更聰明的智能是什么意思？
“我們已經(jīng)在 AlphaGo 中看到了一個(gè)非常狹隘的超級(jí)智能的例子，”他說。2016 年，DeepMind 的圍棋人工智能以 4 比 1 擊敗了世界上最好的圍棋選手之一李世石。“它想出了如何以不同于人類數(shù)千年來集體發(fā)展的方式下圍棋，”蘇茨克弗說，“它想出了新的想法。”
蘇茨克弗指出了 AlphaGo 走出的第 37 步。在對(duì)陣?yán)钍朗牡诙䦂霰荣愔校斯ぶ悄茏龀隽艘粋�(gè)讓評(píng)論員感到困惑的舉動(dòng)。他們認(rèn)為 AlphaGo 搞砸了。事實(shí)上，它下出了圍棋史上從未見過的關(guān)鍵一手。“想象一下這種洞察力，可以用到各種地方，”蘇茨克弗說。
正是這種思維導(dǎo)致蘇茨克弗做出了他職業(yè)生涯中最大的轉(zhuǎn)變。他與 OpenAI 的科學(xué)家簡雷克（Jan Leike）一起成立了一個(gè)團(tuán)隊(duì)，專注于他們所謂的“超級(jí)對(duì)齊（superalignment）”。對(duì)齊（alignment）是人工智能領(lǐng)域的術(shù)語，意味著讓人工智能模型只做你想讓它做的事，僅此而已。超級(jí)對(duì)齊，是 OpenAI 應(yīng)用于超級(jí)智能的對(duì)齊術(shù)語。
它的目標(biāo)是，提出一套故障安全程序來構(gòu)建和控制這項(xiàng)未來技術(shù)。OpenAI 表示，它將把五分之一的龐大計(jì)算資源分配給這個(gè)問題，并在四年內(nèi)解決這個(gè)問題。
“現(xiàn)有的對(duì)齊方法不適用于比人類更聰明的模型，因?yàn)樗鼈儚母旧霞僭O(shè)人類可以可靠地評(píng)估人工智能系統(tǒng)正在做什么，” 雷克說，“隨著人工智能系統(tǒng)變得越來越強(qiáng)大，它們將承擔(dān)更艱巨的任務(wù)。因此，這將使人類更難評(píng)估它們。“與伊利亞組建超級(jí)對(duì)齊團(tuán)隊(duì)，意味著我們已經(jīng)開始著手解決這些未來的對(duì)齊挑戰(zhàn)，”他說。
“不僅要關(guān)注大型語言模型的潛在機(jī)會(huì)，還要關(guān)注風(fēng)險(xiǎn)和缺點(diǎn)，這一點(diǎn)非常重要，”谷歌首席科學(xué)家迪恩說。
該公司在 7 月大張旗鼓地宣布了該項(xiàng)目。但對(duì)一些人來說，這更像是幻想。OpenAI 在 X 上發(fā)的帖子引起了大型科技公司著名批評(píng)者的蔑視：在 Mozilla 從事人工智能責(zé)任工作的阿維夫布爾漢（Abeba Birhane）寫道：“一篇博客文章中就有這么多聽起來很宏偉但空洞的詞”；分布式人工智能研究所（Distributed Artificial Intelligence Research Institute）聯(lián)合創(chuàng)始人蒂姆尼特格布魯（Timnit Gebru）表示：“想象一下，ChatGPT 與 OpenAI 更加'超級(jí)一致'，就讓人不寒而栗”；以及人工智能公司 Hugging Face 的首席倫理科學(xué)家瑪格麗特米切爾（Margaret Mitchell）說到：“我的對(duì)齊比你的更大”。
的確，這些都是熟悉的質(zhì)疑聲音。但這也提醒我們，有些人看到 OpenAI 遙遙領(lǐng)先，也有人看到了它在向某個(gè)方向傾斜。
但是，對(duì)于蘇茨克弗來說，超級(jí)對(duì)齊是不可避免的下一步。“這是一個(gè)未解決的問題，”他說。他認(rèn)為，這個(gè)問題沒有足夠多的、像他這樣的核心機(jī)器學(xué)習(xí)研究人員在探索。“我這樣做是我自己的興趣驅(qū)使，”他說，“非常重要的是，任何人建立的任何超級(jí)智能都不會(huì)變成壞蛋。這很顯而易見吧。”
超級(jí)對(duì)齊的工作才剛剛開始。這將需要研究機(jī)構(gòu)的廣泛改變，蘇茨克弗說。但他心中有一個(gè)他想要設(shè)計(jì)的保護(hù)措施的典范：一臺(tái)像父母看待孩子一樣看待人的機(jī)器。“在我看來，這是黃金標(biāo)準(zhǔn)，”他說，“人們真的很關(guān)心孩子，這句話在大部分情況下是對(duì)的。” 蘇茨克弗沒有孩子，但他想有。
我和蘇茨克弗約定的采訪時(shí)間就要結(jié)束了，我一度認(rèn)為已經(jīng)結(jié)束了。但他還在說，還有一個(gè)想法要分享，一個(gè)我沒想到的想法。
“一旦你克服了超級(jí)人工智能的挑戰(zhàn)，那又如何呢？在一個(gè)擁有更智能的人工智能的世界里，人類還有空間嗎？“他說。
“有一種可能性，按照今天的標(biāo)準(zhǔn)可能很瘋狂，但按照未來的標(biāo)準(zhǔn)不會(huì)那么瘋狂，那就是許多人會(huì)選擇成為人工智能的一部分，”蘇茨克弗說，這可能是人類試圖跟上人工智能的方式，“起初，只有最大膽、最冒險(xiǎn)的人才會(huì)嘗試這樣做。也許其他人會(huì)效仿，也許不會(huì)。”
話音剛落，他就要起身離開了。
“你會(huì)這樣做嗎？”我急忙追問，“你會(huì)是第一個(gè)嗎？”
“第一個(gè)？我不知道，“他說，“但這是我在考慮的事情。真正的答案是：也許吧。”
緊接著，他站起來走出了房間。“很高興再次見到你，”他邊走邊說。
支持：Ren
