文：Web3天空之城 城主
一段時(shí)間不見(jiàn)，OpenAI的首席執(zhí)行官Sam Altman回歸OpenAI后面對(duì)面訪談的一個(gè)完整視頻被發(fā)布。在Greg休假，Ilya新公司成立，OpenAI持續(xù)虧損和新融資消息傳出的現(xiàn)在，正當(dāng)時(shí)。
這次訪談還是著名主持人崔娃Trevor主持的，有點(diǎn)意外的是Trevor對(duì)AI科技有挺深入的理解，比95%的非技術(shù)主持人都要強(qiáng)。
在這次訪談中，Trevor和Sam展開(kāi)了一場(chǎng)廣泛的對(duì)話，探討了人工智能，OpenAI以及Sam個(gè)人的職業(yè)生涯和心路歷程。Sam從他的重返OpenAI事件切入，分享了自己如何在一系列混亂和不確定中反思個(gè)人與公司使命的關(guān)系，并且談到了AGI的未來(lái)發(fā)展方向。
Sam 不僅詳細(xì)闡述了AGI在認(rèn)知、生產(chǎn)力和社會(huì)效應(yīng)上的巨大潛力，還針對(duì)性地回應(yīng)了AI安全性、倫理問(wèn)題、資本主義的權(quán)衡與技術(shù)革命的挑戰(zhàn)。同時(shí)，他坦誠(chéng)討論了自己對(duì)OpenAI公司治理的思考，如何平衡技術(shù)進(jìn)步與社會(huì)責(zé)任，并強(qiáng)調(diào)了透明性與民主化技術(shù)治理的重要性。
重新掌舵OpenAI的歷程：Sam Altman回顧了他短暫的離職經(jīng)歷，并分享了如何在這段動(dòng)蕩中重新認(rèn)識(shí)自己對(duì)OpenAI及其使命的熱愛(ài)。盡管他短暫被解雇，他強(qiáng)調(diào)自己從中汲取了深刻的經(jīng)驗(yàn)，并深感繼續(xù)推進(jìn)AGI發(fā)展的重要性。
AGI的未來(lái)與技術(shù)革命：Sam Altman堅(jiān)信AGI將帶來(lái)前所未有的技術(shù)革命，盡管社會(huì)和經(jīng)濟(jì)的變化可能不會(huì)如預(yù)期迅速。他認(rèn)為，盡管技術(shù)將越來(lái)越接近AGI，但其對(duì)社會(huì)的實(shí)際影響將是漸進(jìn)的，允許社會(huì)逐步適應(yīng)新科技所帶來(lái)的變化。
資本主義與AI的平衡：訪談中，Sam Altman詳細(xì)討論了OpenAI如何在資本主義體制下運(yùn)行，同時(shí)保持其創(chuàng)建時(shí)的初衷，即確保AGI的利益廣泛分配。盡管OpenAI需要在資本主義中競(jìng)爭(zhēng)以獲得發(fā)展所需的資源，他強(qiáng)調(diào)，技術(shù)進(jìn)步不應(yīng)以犧牲倫理與社會(huì)責(zé)任為代價(jià)。
AI的民主治理與社會(huì)影響：Sam Altman提出了一個(gè)重要觀點(diǎn)，即AI技術(shù)治理應(yīng)更加民主化。他相信，公眾應(yīng)更多參與決定AI系統(tǒng)的使用方式和規(guī)則設(shè)定，并強(qiáng)調(diào)了技術(shù)透明性和多樣化治理的重要性。
對(duì)AI安全性和倫理的擔(dān)憂：訪談中，Sam Altman坦言，盡管AI有著巨大的潛力，但也有很多潛在的安全隱患。他特別指出了AI在計(jì)算機(jī)安全、合成生物學(xué)等方面的風(fēng)險(xiǎn)，并呼吁社會(huì)應(yīng)當(dāng)以負(fù)責(zé)任的方式推進(jìn)技術(shù)發(fā)展。
關(guān)于人工智能的更廣泛愿景：Sam Altman對(duì)未來(lái)充滿了樂(lè)觀。他認(rèn)為，隨著AGI的成熟，每個(gè)人都將擁有更多機(jī)會(huì)去追求個(gè)人興趣，并且技術(shù)將極大改善全球教育和醫(yī)療水平。盡管技術(shù)革新將帶來(lái)工作和社會(huì)模式的改變，他認(rèn)為，最終人類(lèi)精神和創(chuàng)造力將推動(dòng)我們進(jìn)入一個(gè)更繁榮的未來(lái)。
Trevor：
謝謝你抽時(shí)間接受采訪。
Sam:謝謝。
Trevor：你不覺(jué)得現(xiàn)在是一個(gè)瘋狂的時(shí)間嗎？
Sam：感覺(jué)是我所經(jīng)歷的最瘋狂的時(shí)刻。
Trevor：
是啊，你處在這一切的中心。我想知道那種感覺(jué)是什么樣的。因?yàn)槲抑皇沁@個(gè)領(lǐng)域和這個(gè)世界的一名狂熱觀察者，你知道嗎？我感覺(jué)你是受到這一切影響的人。我指的是，Sam Altman進(jìn)入了《時(shí)代》雜志年度人物的候選名單。
Sam：很高興沒(méi)有得到那個(gè)。
Trevor：很高興沒(méi)得到？
Sam：是的，當(dāng)然。
Trevor：為什么？
Sam：今年我已經(jīng)比我整個(gè)生命中都得到更多的關(guān)注了。
Trevor：好吧，好吧。所以你不喜歡關(guān)注？你不想要關(guān)注？
Sam：
不，這太殘酷了。在某些方面這很有趣。在某些方面這很有用。但對(duì)個(gè)人生活而言，生活質(zhì)量的權(quán)衡上。是啊，絕對(duì)不喜歡。但這就是現(xiàn)在的情況了。這是我簽約的內(nèi)容。
Trevor：對(duì)，現(xiàn)在是惡名昭著的時(shí)候了。
Sam：是的。
Trevor：人們?cè)诮稚蠒?huì)認(rèn)出你嗎？
Sam：這是一個(gè)非常糟糕的權(quán)衡。是的，我覺(jué)得你永遠(yuǎn)… 我肯定你也會(huì)遇到這種情況，但我再也無(wú)法保持匿名了。
Trevor：是的，但是人們不會(huì)問(wèn)我關(guān)于未來(lái)的問(wèn)題。
Sam：他們不會(huì)問(wèn)你是否會(huì)毀滅世界。沒(méi)錯(cuò)。有一點(diǎn)點(diǎn)區(qū)別。人們可能會(huì)想跟我合影。這就是它的程度了。很多合影。
Trevor：好吧，恭喜你。你是《時(shí)代》雜志的年度CEO。
Sam：是的。
Trevor：
這可能是最奇怪的時(shí)刻之一，因?yàn)槲也率窃凇稌r(shí)代》雜志做出這個(gè)決定的時(shí)候。幾周前，你可能還不是年度CEO。我不知道他們是否還能給你這個(gè)獎(jiǎng)。我猜這是為了你之前的工作。
Sam：是的，我不知道。我不知道這是怎么運(yùn)作的。
Trevor：重新?lián)蜟EO的感覺(jué)如何？
Sam：
我仍然在重編現(xiàn)實(shí)，老實(shí)說(shuō)。從某種意義上說(shuō)，這感覺(jué)很棒，因?yàn)樵谡麄�(gè)過(guò)程中，我學(xué)到了很多關(guān)于我有多愛(ài)這家公司、使命和員工的東西。而且，在整個(gè)過(guò)程中，我經(jīng)歷了幾次，短時(shí)間內(nèi)體驗(yàn)了全部的人類(lèi)情感。但對(duì)我來(lái)說(shuō)，一個(gè)非常清晰的時(shí)刻是，這一切都發(fā)生在星期五的下午，星期五中午。第二天早上，星期六，幾位董事會(huì)成員打電話給我，詢問(wèn)是否愿意討論回歸的問(wèn)題。
對(duì)此，我的感受非常復(fù)雜。但最終，我非常清晰地意識(shí)到，我愿意回歸。
我真的很愛(ài)這個(gè)地方和我們正在做的事情。我認(rèn)為這對(duì)世界很重要，這也是我最關(guān)心的事情。
Trevor：
在科技領(lǐng)域，招聘和解雇是每個(gè)人都必須習(xí)慣的事情。
我知道在過(guò)去，你曾在Y Combinator被解雇。每個(gè)人在這種情況下都有一個(gè)故事。
Sam：我不想說(shuō)這個(gè)。
Trevor：告訴我，告訴我。這些事情，你做研究，然后從那里開(kāi)始。
Sam：
我大約在（離開(kāi)YC）一年前就決定我想來(lái)OpenAI。
那是一個(gè)復(fù)雜的過(guò)渡過(guò)程。但我一直在同時(shí)做OpenAI和YC的工作，而且非常確定我想來(lái)OpenAI。我從沒(méi)后悔過(guò)這一點(diǎn)。
Trevor：那么你從來(lái)沒(méi)有被解雇過(guò)。作為一個(gè)人，這是一種艱難的處境。
Sam：這算解雇嗎？
Trevor：如果你被解雇后立刻又被重新聘用呢？
Sam：我本來(lái)要說(shuō)的不僅僅是……這實(shí)在是殘酷……我猜我現(xiàn)在不應(yīng)該談?wù)撨@個(gè)。
這是一件非常痛苦的事情。對(duì)我個(gè)人來(lái)說(shuō)，作為一個(gè)人，這感覺(jué)非常不公平，處理方式真的很不公。
Trevor：
我可以想象。很多人會(huì)談?wù)摫唤夤汀?/p>
在疫情期間，這變成了一種趨勢(shì)，尤其是人們會(huì)談?wù)撌盏揭环忄]件或一段群發(fā)的視頻，然后就有成千上萬(wàn)的員工被解雇。
你很少想到這會(huì)發(fā)生在公司的CEO身上。更甚者，你不會(huì)想到這會(huì)發(fā)生在被許多人稱為這一代和未來(lái)的“史蒂夫喬布斯”的CEO身上。
順便說(shuō)一句，你不會(huì)這么稱呼自己。
Sam：當(dāng)然不會(huì)。
Trevor：
很多人是這么評(píng)價(jià)你的，但我覺(jué)得稱你為這代人的斯蒂夫喬布斯是不公平的。在我看來(lái)，你是這代人的普羅米修斯。你真的就是。
在我看來(lái)，你仿佛從神那里盜取了火焰。你處于這一變革的前沿，我們現(xiàn)在所經(jīng)歷的時(shí)代，AI曾是科幻和傳奇中的東西，而你現(xiàn)在是可能永遠(yuǎn)改變文明的前沿代表。
你認(rèn)為未來(lái)會(huì)全面改變嗎？
Sam：
我認(rèn)為會(huì)。
我完全有可能對(duì)我接下來(lái)要說(shuō)的內(nèi)容理解錯(cuò)誤，但我的感覺(jué)是我們會(huì)構(gòu)建出某種幾乎所有人都同意的東西，即AGI。定義通用人工智能（AGI）非常困難，但我們會(huì)構(gòu)建出一個(gè)讓人們看到后會(huì)說(shuō)“好吧，你們做到了”的系統(tǒng)。這個(gè)系統(tǒng)就是通用人工智能，即一個(gè)具有人類(lèi)水平或超越人類(lèi)水平的系統(tǒng)。
Trevor：
在詳細(xì)解釋之前，你認(rèn)為人們對(duì)AI的認(rèn)知和人工通用智能之間的最大區(qū)別是什么
Sam：
隨著我們?cè)絹?lái)越接近這個(gè)領(lǐng)域，如何定義它變得非常重要，這里面也存在差異。對(duì)一些人來(lái)說(shuō)，AGI指的是一個(gè)能夠完成當(dāng)前人類(lèi)工作中一些重要部分的系統(tǒng)。當(dāng)然，我們會(huì)找到新的工作和新的事情去做。但對(duì)另一些人來(lái)說(shuō)，AGI指的是一個(gè)能夠幫助發(fā)現(xiàn)新科學(xué)知識(shí)的系統(tǒng)。這些顯然是非常不同的里程碑，對(duì)世界的影響也非常不同。
盡管我已經(jīng)對(duì)這個(gè)術(shù)語(yǔ)感到厭倦，甚至都無(wú)法不再使用它，但有個(gè)原因讓我不再喜歡這個(gè)術(shù)語(yǔ)。這個(gè)術(shù)語(yǔ)是AGI。我認(rèn)為對(duì)大多數(shù)人來(lái)說(shuō)，它現(xiàn)在的意思只是非常智能的AI，但除此之外，它變得非常模糊了。我覺(jué)得主要是因?yàn)槲覀冊(cè)絹?lái)越接近了。
我要嘗試說(shuō)的是，我們將要?jiǎng)?chuàng)造AGI，無(wú)論你怎么稱呼它。至少在短期和中期內(nèi)，它對(duì)世界的改變將遠(yuǎn)小于人們想象。在短期內(nèi)，我認(rèn)為社會(huì)具有很大的慣性，經(jīng)濟(jì)具有很大的慣性，人們生活的方式也具有很大的慣性。這可能是健康的，對(duì)我們管理這一過(guò)渡是有益的。我們都以某種方式做事，而且我們習(xí)慣了這種方式。社會(huì)作為一個(gè)超級(jí)有機(jī)體也以某種方式行事，而且也習(xí)慣了這種方式。
看看GPT-4所發(fā)生的事情，我認(rèn)為這是有教益的。當(dāng)我們首次推出它時(shí)，人們有過(guò)一陣真正的驚慌時(shí)刻，他們說(shuō)：“哇，我沒(méi)想到這會(huì)發(fā)生。”但隨后他們繼續(xù)過(guò)著自己的生活。它確實(shí)改變了一些事情，人們確實(shí)在使用它。這是一種比沒(méi)有更好的技術(shù)。當(dāng)然，GPT-4不是很好，5、6、7，無(wú)論哪一個(gè)，都將會(huì)好得多。但是，ChatGPT界面的第4版，我認(rèn)為是很多人從不認(rèn)真對(duì)待到非常認(rèn)真對(duì)待的時(shí)刻。然而，生活還在繼續(xù)。
Trevor：
你認(rèn)為這是對(duì)人類(lèi)和社會(huì)有益的嗎？生活就應(yīng)該這樣繼續(xù)下去嗎？作為這個(gè)產(chǎn)品的“父親”之一，這個(gè)想法的“父母”之一，你希望我們所有人停下來(lái)，花點(diǎn)時(shí)間，評(píng)估一下我們現(xiàn)在所處的位置嗎？
Sam：
我認(rèn)為人類(lèi)個(gè)體和整體的韌性非常了不起。我非常高興我們擁有吸收和適應(yīng)新技術(shù)、新變化的能力，并且讓這些變得仿佛成為世界的一部分。這真的很美妙。
我認(rèn)為COVID是一個(gè)最近的例子，我們看到了這一點(diǎn)。世界適應(yīng)得很快，然后很快就感覺(jué)很正常了。還有一個(gè)不是很?chē)?yán)肅但卻有啟發(fā)性的例子，就是那一堆關(guān)于UFO的新聞。這是幾年前的事情了。我的很多朋友會(huì)說(shuō)，也許那些是真的UFO或外星人什么的，曾經(jīng)是徹底懷疑論者的人。然而他們第二天依然去上班，和孩子們玩耍。
Trevor：是的，我想，你還能做什么呢？如果他們?cè)陲w，他們就在飛。
那么，我希望我們花更多時(shí)間來(lái)評(píng)估進(jìn)展嗎？我們作為一個(gè)世界正在這樣做，我認(rèn)為那很棒。我堅(jiān)信這些技術(shù)的迭代部署非常重要。我們不希望在秘密的實(shí)驗(yàn)室里開(kāi)發(fā)出人工通用智能（AGI），沒(méi)有人知道它的到來(lái)，然后一下子把它投放到世界上，讓人們不得不說(shuō)，哼，我們?cè)谶@里，如此……
Trevor：
你認(rèn)為我們必須逐漸適應(yīng)它，并隨著它作為一種技術(shù)而成長(zhǎng)嗎？
Sam：
是的。
因此，現(xiàn)在的對(duì)話中，社會(huì)、我們的領(lǐng)導(dǎo)者和我們的機(jī)構(gòu)在實(shí)際使用這些技術(shù)時(shí)，感受到它能做什么，不能做什么，風(fēng)險(xiǎn)在哪里，好處在哪里，我認(rèn)為這很棒。我認(rèn)為從某種意義上說(shuō)，我們?yōu)槲覀兊氖姑龅淖詈玫氖虑榛蛟S就是迭代部署策略。我們本可以在秘密中構(gòu)建它，并花上更多年的時(shí)間來(lái)打造它，然后一下子推出，那會(huì)很糟糕。
Trevor：
今天我們走進(jìn)了OpenAI的大樓，有點(diǎn)像一個(gè)堡壘，感覺(jué)像是未來(lái)的家。我看到你有一篇帖子說(shuō)你作為客人進(jìn)來(lái)了。
我當(dāng)時(shí)想，天啊，那真是怪異。就像是回家，但又不是家，但又是家。
Sam：
感覺(jué)應(yīng)該是一個(gè)非常奇怪的時(shí)刻，像是在這里戴上客人徽章。但我感覺(jué)，每個(gè)人都很疲憊，充滿了腎上腺素。真的沒(méi)有那種我希望的重大時(shí)刻感。那天確實(shí)有一些值得反思和講述的時(shí)刻。比如，我最自豪的時(shí)刻之一是，當(dāng)時(shí)我非常疲憊且分心。我們以為董事會(huì)那天會(huì)讓我重新?lián)蜟EO，但以防萬(wàn)一他們沒(méi)有，我接受了L3的面試，這是我們最低級(jí)別的軟件工程師職位，由我們最優(yōu)秀的人之一面試。然后，他給了我一個(gè)肯定的答復(fù)。那是一個(gè)非常自豪的時(shí)刻。
那天記憶中突出的部分是，我還有那個(gè)技能。雖然徽章沒(méi)有我想要的那么深刻。
Trevor：
我很想知道你認(rèn)為我作為CEO做對(duì)了什么，從而獲得了我們公開(kāi)看到的來(lái)自O(shè)penAI員工的支持。
當(dāng)這件事曝光時(shí)，我不會(huì)問(wèn)你細(xì)節(jié)，因?yàn)槲抑滥悴荒茉u(píng)論內(nèi)部調(diào)查的內(nèi)容。但我知道你可以大致談?wù)劰镜恼w感覺(jué)和最近發(fā)生的事情。我們很少看到像OpenAI那樣展開(kāi)的情況。你有這家公司和這個(gè)想法，對(duì)地球上的大多數(shù)人來(lái)說(shuō)，這個(gè)想法在一分鐘內(nèi)還不存在。下一分鐘，你發(fā)布了ChatGPT，這個(gè)簡(jiǎn)單的提示，只是一個(gè)小小的聊天框，就改變了世界。我認(rèn)為你在有史以來(lái)最快的時(shí)間內(nèi)達(dá)到了100萬(wàn)用戶。我想是五天。是的，五天。然后它迅速達(dá)到了1億人。
非�？斓�，我從一個(gè)軼事層面上知道，對(duì)我來(lái)說(shuō)，這東西從世界上沒(méi)人知道變成了人人皆知。我在向人們解釋，試圖讓他們理解。我必須像展示詩(shī)歌和一些簡(jiǎn)單他們能理解的東西那樣展示給他們。然后人們開(kāi)始告訴我這件事�，F(xiàn)在它變成了一個(gè)無(wú)所不在的概念，人們?cè)谂ε靼姿鞘裁匆约八馕吨裁础?/p>
但另一方面，有這樣一家公司試圖以某種方式掌控和塑造未來(lái)。而且人們支持你。我們看到故事，Sam Altman 出局，不再擔(dān)任 CEO。然后一切都在動(dòng)蕩。我不知道你是否看過(guò)一些傳言。它們簡(jiǎn)直瘋狂。我看到的最瘋狂的事情之一是有人說(shuō)，這是既荒誕又有趣。他們說(shuō)，我從可靠消息來(lái)源得知，Sam 因?yàn)閲L試與 AI 發(fā)生性關(guān)系而被解雇。
Sam：
我甚至不知道該如何回應(yīng)。我看到那條消息時(shí)，我就像... 我想在這個(gè)時(shí)候，我應(yīng)該正式否認(rèn)這件事，這根本沒(méi)有發(fā)生。
Trevor：
我認(rèn)為這種情況不太可能發(fā)生，因?yàn)槿藗儾焕斫膺@兩者的結(jié)合。但讓我震驚的是，這次事件的轟動(dòng)性似乎在不同的時(shí)刻把OpenAI帶入了另一個(gè)聚光燈下。
其中一個(gè)大事件就是你從團(tuán)隊(duì)中獲得的支持，有人站出來(lái)說(shuō)，不管發(fā)生什么，我們都會(huì)支持Sam。這種情況在公司里并不常見(jiàn)。通常CEO和員工在某種程度上是脫節(jié)的。
但這感覺(jué)不只是一個(gè)團(tuán)隊(duì)。
Sam：
接下來(lái)說(shuō)的并不是假謙虛。有很多地方我愿意接受很多贊譽(yù)。不過(guò)在這件事上，除了作為一個(gè)代言人，這并不完全是我的功勞。但我認(rèn)為我們做得很好的一點(diǎn)是我們有一個(gè)讓人們真正相信其重要性的使命。
我認(rèn)為發(fā)生的事情是，人們意識(shí)到我們?nèi)绱伺ぷ鞑⑷〉萌绱诉M(jìn)展的任務(wù)、組織和團(tuán)隊(duì)，但還有很多事情要做，就像那樣受到了真正的威脅。我想，那就是引發(fā)反應(yīng)的原因。這真的不是關(guān)于我個(gè)人，盡管希望大家喜歡我并認(rèn)為我做得很好。這關(guān)乎我們所有人所感受到的共同忠誠(chéng)，以及完成任務(wù)的責(zé)任感，并希望最大化我們實(shí)現(xiàn)這一目標(biāo)的機(jī)會(huì)。
Trevor：
從最高層次來(lái)看，您認(rèn)為任務(wù)是什么？是達(dá)到通用人工智能嗎？
Sam：
讓AGI的利益盡可能廣泛地分布，并成功應(yīng)對(duì)所有的安全挑戰(zhàn)。
Trevor：
這是一個(gè)有趣的第二點(diǎn)。我很樂(lè)意稍后與您聊聊，更深入討論其中的安全問(wèn)題。當(dāng)你看OpenAI這家組織時(shí)，它的誕生確實(shí)很奇怪。如果我說(shuō)錯(cuò)了你隨時(shí)糾正我，但是，似乎它的創(chuàng)立非常注重安全性。你召集了一群人然后你說(shuō)，我們想要?jiǎng)?chuàng)辦一個(gè)組織、一家公司、一個(gè)集體，致力于創(chuàng)造出最具倫理的人工智能，造福社會(huì)。你可以看到，甚至在公司的利潤(rùn)分配、投資者獲得利潤(rùn)的方式等方面都有所體現(xiàn)。
但是，甚至連OpenAI在某個(gè)點(diǎn)上也發(fā)生了變化。你認(rèn)為你能抵擋資本主義的力量嗎？我是說(shuō)，這其中涉及的資金太多了。你認(rèn)為你能真正保持一個(gè)不以金錢(qián)定義你正在做什么和為什么做的世界嗎？
Sam：
這必須是一個(gè)因素。比如，如果你只考慮訓(xùn)練這些系統(tǒng)的成本，我們不得不找到一些方法在資本主義的領(lǐng)域中競(jìng)爭(zhēng)，缺乏更好的說(shuō)法。但我不認(rèn)為這會(huì)成為我們的主要?jiǎng)恿�。順便說(shuō)一下，我喜歡資本主義。我認(rèn)為它有巨大的缺陷，但相對(duì)于世界嘗試過(guò)的任何其他系統(tǒng)，我認(rèn)為它仍然是我們想出的最好的東西。但這并不意味著我們不應(yīng)該努力做得更好。我認(rèn)為我們會(huì)找到方法來(lái)花費(fèi)我們需要的巨大、破紀(jì)錄的資本，以便繼續(xù)推進(jìn)這項(xiàng)技術(shù)的前沿發(fā)展。這是我們?cè)缙诘囊豁?xiàng)學(xué)習(xí)。只是，這東西比我們想象的要貴得多。
我們有點(diǎn)知道我們有這個(gè)擴(kuò)展系統(tǒng)的想法，但我們只是不知道它會(huì)怎么發(fā)展。
Trevor：
你一直是擴(kuò)展的大粉絲，我讀到過(guò)關(guān)于你的這點(diǎn)。你的一位導(dǎo)師，也是你現(xiàn)在在注入動(dòng)力方面的投資伙伴之一，他說(shuō)，每當(dāng)你向Sam提出問(wèn)題時(shí)，他首先想到的是，我們?nèi)绾谓鉀Q這個(gè)問(wèn)題？我們?cè)趺唇鉀Q它？他接著說(shuō)的第二件事是，我們?nèi)绾螖U(kuò)展這些解決方案？
Sam：誰(shuí)說(shuō)的？我不記得了。我對(duì)名字很糟糕。
Trevor：有趣。但我知道是你工作中的某個(gè)人說(shuō)的。
Sam:
有趣。但我沒(méi)聽(tīng)別人這么說(shuō)過(guò)我。
但我覺(jué)得，這一直是我在許多不同公司和領(lǐng)域中的一個(gè)觀察，那就是規(guī)模往往會(huì)帶來(lái)驚人的結(jié)果。所以，大規(guī)模擴(kuò)展這些AI模型導(dǎo)致了非常驚人的結(jié)果。大規(guī)模擴(kuò)展不僅在所有顯而易見(jiàn)的方面使其更加出色，而且在一些不顯而易見(jiàn)的方面也是如此。公司規(guī)�；胁伙@而易見(jiàn)的好處。像Y Combinator這樣的公司群體規(guī)�；胁伙@而易見(jiàn)的好處。我認(rèn)為這一點(diǎn)沒(méi)有被認(rèn)真對(duì)待。
在我們的案例中，知道在早期階段規(guī)�；浅Ｖ匾Ｈ绻覀儺�(dāng)時(shí)更聰明或更有勇氣去思考的話，我們一開(kāi)始就會(huì)有更大的動(dòng)作。但是說(shuō)我要去建造一臺(tái)價(jià)值100億美元的更大計(jì)算機(jī)真的很難。所以我們沒(méi)有那么做。我們比我們應(yīng)該的要慢一些理解這一點(diǎn)，但最終我們理解了�，F(xiàn)在我們看到我們需要多大的規(guī)模。
我認(rèn)為資本主義很酷。我對(duì)這個(gè)體制沒(méi)有任何反感。不，這不是真的。我對(duì)這個(gè)系統(tǒng)有很多反對(duì)意見(jiàn)，但不得不承認(rèn)目前還沒(méi)有發(fā)現(xiàn)比它更好的東西。
Trevor：你問(wèn)過(guò)ChatGPT能否設(shè)計(jì)一個(gè)系統(tǒng)嗎？
Sam：我有不同的...或許不是設(shè)計(jì)一個(gè)新系統(tǒng)。是的。但我問(wèn)了很多關(guān)于AI和資本主義如何交叉以及這意味著什么的問(wèn)題。
其中一件事是，關(guān)于我們最初假設(shè)中最重要的一點(diǎn)，我們是對(duì)的，那就是AI將會(huì)發(fā)生。深度學(xué)習(xí)有可能...順便說(shuō)一句，很多人嘲笑這一點(diǎn)。完全是這樣。
Trevor：天哪，我們被無(wú)情地嘲笑了。
Sam：
是的。
即使是關(guān)于如何實(shí)現(xiàn)這一目標(biāo)的一些想法，我們也是對(duì)的。但是關(guān)于很多細(xì)節(jié)，我們是錯(cuò)的，這在科學(xué)中是常見(jiàn)的，而且是正常的。在語(yǔ)言模型開(kāi)始起作用之前，我們有一個(gè)非常不同的構(gòu)想來(lái)建造這個(gè)系統(tǒng)。我們當(dāng)時(shí)對(duì)構(gòu)建 AGI 有一個(gè)非常不同的概念。我們沒(méi)有理解這個(gè)想法，即這將是一個(gè)不斷改進(jìn)的迭代工具，你可以像與人類(lèi)交談一樣與之對(duì)話。所以我們對(duì)構(gòu)建 AGI 會(huì)帶來(lái)什么感到非常困惑。我們思考的是，在 AGI 出現(xiàn)之前和之后的那個(gè)時(shí)刻。然后你需要把它交給其他系統(tǒng)和其他治理。
現(xiàn)在我認(rèn)為它可以，我對(duì)此感到非常高興，因?yàn)槲艺J(rèn)為這樣更容易導(dǎo)航。我認(rèn)為它可以，不想說(shuō)僅僅是另一個(gè)工具，因?yàn)樗诤芏喾矫娑疾煌�，但在某種意義上，我們?yōu)槿祟?lèi)制作了一個(gè)新工具。我們把一些東西加入了工具箱。人們將會(huì)用它來(lái)做各種令人難以置信的事情，但依然是人類(lèi)在規(guī)劃未來(lái)，而不是天空中的某個(gè) AGI。你可以做以前做不到的事情。我也可以做以前做不到的事情。我們能夠做更多的事情。在這個(gè)意義上，我能想象一個(gè)世界，我們通過(guò)創(chuàng)造非常優(yōu)秀的工具，極大地影響人類(lèi)的能力并且其他方面，來(lái)實(shí)現(xiàn)我們的使命。對(duì)此我感到非常興奮。
例如，我喜歡我們提供免費(fèi)的、無(wú)廣告的 ChatGPT。因?yàn)槲覀�(gè)人確實(shí)認(rèn)為廣告一直是互聯(lián)網(wǎng)的問(wèn)題。但我們只是把這個(gè)工具放在那。這就是資本主義的缺點(diǎn)，是的，是的。其中之一。我個(gè)人認(rèn)為還有更大的缺點(diǎn)，但我們把這個(gè)工具放在那，人們可以免費(fèi)使用。我們不想把他們變成產(chǎn)品。我們不想讓他們多用一點(diǎn)。我認(rèn)為這展示了一條有趣的道路，我們可以在這方面做更多的事情。
Trevor：
那么，讓我們這樣做。在我們這次對(duì)話中，有很多事情我希望能談到，顯然我們不可能回答所有問(wèn)題。但是有一些想法，一些要點(diǎn)和一些領(lǐng)域我希望我們能探討。我想首先而且最及時(shí)的問(wèn)題是，公司未來(lái)會(huì)發(fā)生什么？你認(rèn)為它會(huì)走向何方？我發(fā)現(xiàn)特別有趣的一點(diǎn)是新的董事會(huì)的構(gòu)成，特別是對(duì)于 OpenAI，以前董事會(huì)中有女性，現(xiàn)在沒(méi)有了，以前董事會(huì)成員沒(méi)有經(jīng)濟(jì)激勵(lì)，現(xiàn)在有了。我想知道你是否擔(dān)心你參與實(shí)施的那個(gè)保護(hù)機(jī)制現(xiàn)在消失了，你是否有一個(gè)不再著重于保護(hù)人們或定義一個(gè)更安全未來(lái)的董事會(huì)，而是專注于賺錢(qián)并盡可能做大做強(qiáng)的董事會(huì)？
Sam：
我認(rèn)為我們現(xiàn)行的和之前的治理結(jié)構(gòu)和董事會(huì)在某些重要方面不起作用。因此，我完全支持找出改進(jìn)方法，并且我會(huì)支持董事會(huì)和他們的工作來(lái)實(shí)現(xiàn)這一目標(biāo)。
顯然，董事會(huì)需要成長(zhǎng)和多樣化，我認(rèn)為這將很快發(fā)生。我們需要聽(tīng)到那些將為傳統(tǒng)上未被提倡的人發(fā)聲的人的聲音，并且不僅要非常慎重地考慮AI安全問(wèn)題，還要吸取過(guò)去的教訓(xùn)，了解如何在與社會(huì)各方面交互的過(guò)程中構(gòu)建這些非常復(fù)雜的系統(tǒng)。盡可能地做好，同時(shí)減輕不良影響并分享好處，所有這些都需要得到體現(xiàn)。
所以，我很高興有第二次機(jī)會(huì)把所有這些事情都做對(duì)，我們顯然之前做錯(cuò)了。比如多樣化，確保我們代表所有需要代表的主要利益相關(guān)者群體，找出如何使這件事更民主，繼續(xù)推動(dòng)政府做出一些決定來(lái)管理這項(xiàng)技術(shù)。我知道這并不完美，但我認(rèn)為比我們目前能想到的任何其他方法都要好。更多地與我們的用戶群體互動(dòng)，讓他們幫助設(shè)定這項(xiàng)技術(shù)的使用界限，這些都非常重要。
未來(lái)一個(gè)主要方向?qū)⑹菙U(kuò)大董事會(huì)和治理架構(gòu)。再次強(qiáng)調(diào)，我知道我們目前的董事會(huì)很小，但我認(rèn)為他們非常致力于您剛才談到的所有事情。
然后還有另一大類(lèi)問(wèn)題。如果你一周前問(wèn)我，我會(huì)說(shuō)穩(wěn)定公司是我的首要任務(wù)。但至少在內(nèi)部，我感覺(jué)相當(dāng)不錯(cuò)。我們沒(méi)有失去一個(gè)客戶，也沒(méi)有失去一個(gè)員工。我們?cè)诶^續(xù)增長(zhǎng)，這相當(dāng)驚人。我們繼續(xù)推出新產(chǎn)品。我們的關(guān)鍵合作伙伴關(guān)系感覺(jué)得到了加強(qiáng)，而不是受到阻礙。在這方面，一切都按計(jì)劃進(jìn)行。而且，我認(rèn)為明年上半年的研究和產(chǎn)品計(jì)劃感覺(jué)比以往更好、更有針對(duì)性。
Trevor：
我發(fā)現(xiàn)自己總是在想你這個(gè)人，當(dāng)整個(gè)董事會(huì)風(fēng)波發(fā)生時(shí)。每當(dāng)有風(fēng)暴時(shí)，我總是對(duì)風(fēng)暴中心發(fā)生的事情感興趣。我很好奇，這一切爆發(fā)時(shí)你在哪里？比如，你當(dāng)時(shí)在做什么？在個(gè)人層面上，你的世界里發(fā)生了什么？
Sam：
我笑的原因是人們對(duì)我的評(píng)價(jià)是，我似乎在颶風(fēng)的眼中，周?chē)囊磺卸荚谛D(zhuǎn)，而我依然非常冷靜。這一次，事情的結(jié)果并非如預(yù)期。
這是一種經(jīng)歷，就像置身于風(fēng)暴的中心，卻并不平靜。我在拉斯維加斯觀看F1比賽。
Trevor：你是F1的粉絲嗎？
Sam：我是。
Trevor：你支持哪支車(chē)隊(duì)？有特別喜歡的嗎？
Sam：
老實(shí)說(shuō)，我覺(jué)得維斯塔潘非常厲害，很難說(shuō)支持哪支車(chē)隊(duì)。但我覺(jué)得這可能是每個(gè)人都會(huì)說(shuō)的答案。
Trevor：
實(shí)際上，這取決于他們什么時(shí)候開(kāi)始關(guān)注這個(gè)運(yùn)動(dòng)。我是舒馬赫的粉絲，因?yàn)槟菚r(shí)候我開(kāi)始看比賽。一開(kāi)始是奈杰爾曼塞爾，然后是艾爾頓塞納，你明白我的意思嗎？
維斯塔潘非常精準(zhǔn)，我明白為什么他如此受歡迎。
Sam：
雖然看他贏那么多次有點(diǎn)厭倦，但他確實(shí)非常了不起。
那天晚上，我是周四晚些時(shí)候到的。有人忘記把一個(gè)井蓋焊好，所以在第一圈時(shí)，井蓋被炸飛，像是炸毀了法拉利的一臺(tái)引擎，導(dǎo)致練習(xí)暫停。我沒(méi)能看到比賽，整個(gè)周末都沒(méi)看到任何比賽。
我在酒店房間里接了一個(gè)電話，完全不知道會(huì)是什么，然后被董事會(huì)解雇了。這感覺(jué)像做夢(mèng)一樣，我覺(jué)得很困惑。一切都很混亂，感覺(jué)不像真的。這顯然讓人感到傷心和痛苦，但那時(shí)候的主導(dǎo)情緒是困惑，感覺(jué)就像是在迷霧和煙霧中。我完全不明白發(fā)生了什么。
這件事發(fā)生的方式前所未有，非常瘋狂。接下來(lái)的半小時(shí)里，我的手機(jī)收到了太多的信息，以至于iMessage在我的手機(jī)上崩潰了。這些信息來(lái)自每個(gè)人，手機(jī)變得完全無(wú)法使用，因?yàn)橥ㄖ煌５貜棾鰜?lái)。iMessage到了一個(gè)地步，它停止了一段時(shí)間，信息被延遲發(fā)送，然后又把所有信息都標(biāo)記為已讀，所以我甚至無(wú)法分辨我跟誰(shuí)交談過(guò)，情況一片混亂。
我當(dāng)時(shí)正在跟這邊的團(tuán)隊(duì)交談，試圖搞清楚到底發(fā)生了什么。像微軟也在打電話，其他各方也在聯(lián)系。整個(gè)情況真的是讓人感到很不安，感覺(jué)不像是真的。我稍微冷靜了下來(lái)，開(kāi)始思考未來(lái)的方向。我真的很想從事AGI（通用人工智能）方面的工作。如果一開(kāi)始不能做到這一點(diǎn)，我仍然會(huì)繼續(xù)努力。我在考慮最好的方法。
Greg辭職了，其他一些人也辭職了，開(kāi)始收到大量的消息，人們表示想和我一起工作。那時(shí)，回到OpenAI完全不在我的考慮之中。我能想象未來(lái)會(huì)怎樣，但我不太明白這是一個(gè)多么重大的行業(yè)事件，因?yàn)槲也](méi)有真正看新聞。我只能感覺(jué)到，收到了大量的消息。
Trevor：
因?yàn)槟銓?shí)際上在風(fēng)暴中。
Sam：
是的。我只是想支持OpenAI，弄清楚接下來(lái)要做什么，試著理解正在發(fā)生的事情。然后我飛回加州，見(jiàn)了一些人，感覺(jué)開(kāi)始非常專注于未來(lái)的發(fā)展。但我也希望OpenAI一切順利。幾乎整個(gè)晚上都沒(méi)怎么睡著，同時(shí)有很多談話在進(jìn)行。接下來(lái)度過(guò)了一個(gè)瘋狂的周末。我肯定我仍然沒(méi)有完全接受這一切，仍然有點(diǎn)震驚，還在試著收拾殘局。我相信當(dāng)我有時(shí)間坐下來(lái)處理這件事時(shí)，會(huì)有更多的感受。
Trevor：
你覺(jué)得你不得不一下子重新投入一切嗎？因?yàn)�，照你的說(shuō)法，你正在執(zhí)行這個(gè)任務(wù)。你能看出來(lái)，你的眼中充滿了驅(qū)動(dòng)力，現(xiàn)在世界已經(jīng)到了一種無(wú)法回歸的臨界點(diǎn)。你正在朝某個(gè)方向前進(jìn)，突然之間，看起來(lái)你無(wú)法在你所處的領(lǐng)域中實(shí)現(xiàn)它。但正如你所說(shuō)，微軟介入了，Satya Nadella說(shuō)，來(lái)跟我們一起工作吧，我們會(huì)重建這個(gè)團(tuán)隊(duì)。
如果有一件事人們對(duì)Sam Altman有共識(shí)，那就是他很頑強(qiáng)。他毫不妥協(xié)，認(rèn)為如果你有一個(gè)目標(biāo)，并且相信某些事情，就不應(yīng)該讓生活阻礙你。而你似乎正在朝那個(gè)方向前進(jìn)。你在公開(kāi)場(chǎng)合沒(méi)有說(shuō)過(guò)關(guān)于OpenAI的任何事情，也沒(méi)有以任何方式詆毀它。但這似乎讓你承受了很大的壓力。
Sam：
當(dāng)然。我并不認(rèn)為這是我不能恢復(fù)的事情，但我認(rèn)為經(jīng)歷這一切卻不受到影響是不可能的，那會(huì)非常奇怪。
Trevor：
你是否覺(jué)得自己失去了一部分？
Sam：
是的。我們?cè)?015年底開(kāi)始了OpenAI。第一天的工作實(shí)際上是在2016年開(kāi)始的。
我在YC上做這件事有一段時(shí)間，但自從2019年初以來(lái)，我一直全職投入其中。AGI和我的家人是我最關(guān)心的兩件事。所以失去其中之一，對(duì)我來(lái)說(shuō)，在某種意義上，我應(yīng)該說(shuō)，我更致力于AGI，更關(guān)心這個(gè)使命。但當(dāng)然，我也關(guān)心這個(gè)組織、這些人、我們的用戶、我們的股東以及我們?cè)谶@里建立的一切。所以，這確實(shí)非常痛苦。
我唯一可以相比的生活經(jīng)歷是我父親去世的時(shí)候，那次當(dāng)然要糟糕得多。那是一件非常突然的事情，那種困惑和失落感。在那種情況下，我覺(jué)得我有一點(diǎn)時(shí)間去感受這一切。但接下來(lái)還有很多事要做，那是如此意外，我不得不在一段時(shí)間內(nèi)收拾他的生活碎片。直到那之后大約一周，我才真正有時(shí)間喘口氣，心想，天哪，我簡(jiǎn)直不敢相信這件事發(fā)生了。所以是的，那確實(shí)糟糕得多。但在這里，也有類(lèi)似的回響。
Trevor：
當(dāng)你展望公司的未來(lái)以及你在其中的角色時(shí)，現(xiàn)在你如何在推動(dòng)開(kāi)放AI向前發(fā)展、不斷朝著你們相信的方向前進(jìn)之間找到平衡？你們還有緊急剎車(chē)嗎？公司內(nèi)部是否有某種體系，當(dāng)你覺(jué)得我們正在創(chuàng)造某些可能對(duì)社會(huì)產(chǎn)生不良影響的東西時(shí)，我們會(huì)介入并停止這種行為。你們有這種能力嗎？并且這個(gè)體系是內(nèi)置的嗎？
Sam：
是的，當(dāng)然。我們過(guò)去就有這樣的體系。比如，我們創(chuàng)造了一些系統(tǒng)，但選擇不加以部署。我相信未來(lái)我們也會(huì)再次這樣做�；蛘呶覀儎�(chuàng)造了一個(gè)系統(tǒng)并說(shuō)，嘿，我們需要更長(zhǎng)時(shí)間來(lái)確保它的安全性，然后才能部署。就像GPT-4的例子，我們花了將近八個(gè)月的時(shí)間在完成訓(xùn)練之后才準(zhǔn)備好發(fā)布它，以進(jìn)行所有的對(duì)齊和安全測(cè)試。我記得我和一些團(tuán)隊(duì)成員交談過(guò)，這不是董事會(huì)的決定，這是這里的人們?cè)谧鏊麄兊墓ぷ�，并致力于我們的使命。所以這將繼續(xù)下去。
我為這個(gè)團(tuán)隊(duì)感到非常自豪的是，他們?cè)诨靵y、危機(jī)、不確定性和壓力中運(yùn)作良好的能力。我給他們打個(gè)A+，他們做得非常好。隨著我們?cè)絹?lái)越接近更強(qiáng)大、非常強(qiáng)大的系統(tǒng)，我認(rèn)為我們建立的文化和團(tuán)隊(duì)的那種能力可能是最重要的元素，例如在危機(jī)中保持冷靜并做出良好、深思熟慮的決定。我認(rèn)為這里的團(tuán)隊(duì)真正證明了他們可以做到這一點(diǎn)，這非常重要。
有人說(shuō)，我們學(xué)到的關(guān)于 OpenAI 的一件事是，Sam 可以在沒(méi)有任何職位的情況下運(yùn)營(yíng)這家公司。我認(rèn)為那完全是錯(cuò)的，根本不是事實(shí)。正確的教訓(xùn)是，公司完全可以在沒(méi)有我的情況下運(yùn)行。這是一個(gè)文化問(wèn)題，團(tuán)隊(duì)已經(jīng)準(zhǔn)備好了，文化也已經(jīng)準(zhǔn)備好了。我為此感到非常自豪，真的很高興能夠回來(lái)繼續(xù)做這件事。
看著團(tuán)隊(duì)管理這一切，在面對(duì)未來(lái)的挑戰(zhàn)時(shí)，我晚上睡得更踏實(shí)了。未來(lái)還會(huì)有比這更大的挑戰(zhàn)，但我希望并相信這是最艱難的一個(gè)挑戰(zhàn)，因?yàn)槲覀冎昂翢o(wú)準(zhǔn)備。現(xiàn)在我們意識(shí)到了這個(gè)重要性，我們不僅僅是一家普通公司，遠(yuǎn)遠(yuǎn)不是。
Trevor：
讓我們談?wù)勥@個(gè)吧。ChatGPT，OpenAI，不管它最后叫什么。你們有DALLE，也有Whisper，還有所有這些了不起的產(chǎn)品。如果你有任何品牌名稱或品牌架構(gòu)的想法，我會(huì)非常感興趣。我覺(jué)得ChatGPT已經(jīng)做到了，現(xiàn)在它無(wú)處不在。是的，這是一個(gè)糟糕的名字，但它可能已經(jīng)變得太普遍以至于無(wú)法更改。你認(rèn)為在這個(gè)時(shí)候可以更改它嗎？我們可以把它簡(jiǎn)化為GPT或者就叫chat嗎？
Sam：
我不知道，也許不行。
Trevor：
有時(shí)候我覺(jué)得一個(gè)產(chǎn)品、一個(gè)名字或一個(gè)想法已經(jīng)超越了營(yíng)銷(xiāo)人員的夢(mèng)境，然后人們就接受了它。
Sam：
沒(méi)有任何營(yíng)銷(xiāo)人員會(huì)選擇ChatGPT作為這個(gè)的名字，但我們可能會(huì)被它困住，這也許沒(méi)什么問(wèn)題。
Trevor：
現(xiàn)在，它的多模態(tài)特性讓我感到著迷。我還記得第一次看到DALLE出來(lái)時(shí)，那只是一個(gè)想法，看著它是怎么工作的，看到這個(gè)程序可以從無(wú)到有創(chuàng)造一張圖片。我試圖向人們解釋，他們會(huì)問(wèn)，那圖片是從哪里來(lái)的？我當(dāng)時(shí)就想，根本沒(méi)有照片，沒(méi)有源圖像。他們覺(jué)得這不可能。
它看到了什么，我當(dāng)時(shí)覺(jué)得，很難解釋這些。有時(shí)候甚至我自己也很難理解。但是當(dāng)我們看著我們當(dāng)前生活的這個(gè)世界時(shí)，我們用數(shù)字來(lái)談?wù)撍鼈�，GPT 3.5，GPT 4，GPT 5，6，7，不管是什么。我喜歡以去掉技術(shù)術(shù)語(yǔ)的方式，更多地談?wù)摦a(chǎn)品的實(shí)際使用案例。
在不同產(chǎn)品之間，從ChatGPT 3、3.5到4，我們看到所謂的推理能力達(dá)到了一個(gè)更高的水平，甚至在某種程度上展現(xiàn)了創(chuàng)造力。
當(dāng)我看著你現(xiàn)在正在創(chuàng)建的這個(gè)世界中的產(chǎn)品時(shí)，比如通用的大型語(yǔ)言模型以及現(xiàn)在的專用大型語(yǔ)言模型，我想知道，你認(rèn)為用例會(huì)發(fā)生巨大變化嗎？你認(rèn)為現(xiàn)在可能只是像一個(gè)小聊天機(jī)器人，大家都喜歡的那種，這就是產(chǎn)品的最終形態(tài)嗎？或者你認(rèn)為世界會(huì)變成一個(gè)所有東西都有專門(mén)化GPT的世界？比如，Trevor會(huì)有一個(gè)為他做事情的GPT，或者某家公司有一個(gè)為他們做事情的GPT。你怎么看這個(gè)問(wèn)題？
顯然，預(yù)測(cè)未來(lái)是很難的。但從我們現(xiàn)在所處的位置，你覺(jué)得會(huì)向哪里發(fā)展？
Sam：
我認(rèn)為會(huì)是兩者的混合。預(yù)測(cè)未來(lái)確實(shí)很難，可能我會(huì)錯(cuò)，但我還是愿意嘗試一下。我認(rèn)為會(huì)是你剛才提到的兩件事的混合。首先，基礎(chǔ)模型會(huì)變得非常出色，以至于我很難有把握地說(shuō)它不能做到什么。這會(huì)需要很長(zhǎng)時(shí)間，但我認(rèn)為我們正朝那個(gè)方向前進(jìn)。
Trevor：
你的時(shí)間范圍內(nèi)的“長(zhǎng)時(shí)間”是多久？比如說(shuō)你怎么衡量它？
Sam：
不是在未來(lái)的幾年內(nèi)。在接下來(lái)的幾年里每年都會(huì)變得更好。但就像我本來(lái)要說(shuō)的，我很肯定，到2026年，這個(gè)模型仍然有很多事情做不到。
Trevor：
但是，這個(gè)模型難道不會(huì)一直讓你驚訝嗎？當(dāng)我和在這個(gè)領(lǐng)域工作的工程師交流時(shí)，或者與任何參與人工智能或與人工智能相關(guān)的人交流時(shí)，人們說(shuō)的最多的一個(gè)詞就是“驚訝”。人們不斷地說(shuō)，他們教給它這個(gè)，以為ChatGPT在學(xué)習(xí)這個(gè)領(lǐng)域的知識(shí)。突然之間，它開(kāi)始說(shuō)一種新的語(yǔ)言，或者我們以為我們?cè)诮趟@個(gè)，突然它會(huì)建橋了，之類(lèi)的事情。
Sam：
所以，這里大多數(shù)人的主觀體驗(yàn)大概就是在2019年至2022年之間的某個(gè)時(shí)候。但現(xiàn)在，我認(rèn)為我們已經(jīng)學(xué)會(huì)不再感到驚訝�，F(xiàn)在我們信任指數(shù)增長(zhǎng)，大多數(shù)人都這樣認(rèn)為。所以，GPT-5，無(wú)論我們?cè)趺捶Q呼它，在許多方面都會(huì)表現(xiàn)出色。我們會(huì)對(duì)它能做的某些具體事情感到驚訝，也會(huì)對(duì)它不能做的事情感到驚訝。沒(méi)有人會(huì)對(duì)它的出色感到驚訝。在這一點(diǎn)上，我認(rèn)為我們已經(jīng)真正深入地理解了這一點(diǎn)。
你提到的第二件事是這些定制的GPT。更重要的是，你還提到了個(gè)人GPT，比如Trevor GPT。我認(rèn)為這將在未來(lái)幾年成為一個(gè)重大的趨勢(shì)。這些模型將會(huì)了解你，訪問(wèn)你的個(gè)人數(shù)據(jù)，以你希望的方式回答問(wèn)題，非常有效地在你的環(huán)境中工作。我認(rèn)為很多人都會(huì)想要這個(gè)。
Trevor：
這幾乎讓我想知道，如果新的勞動(dòng)力市場(chǎng)變成了你的GPT幾乎就是你的簡(jiǎn)歷，GPT幾乎以一種奇怪的方式比你更有價(jià)值。你明白我的意思嗎？這就像是你所想的一切和你曾想過(guò)的一切的結(jié)合，以及你合成想法的方式，再加上你自己的個(gè)人GPT變成......我只是想著一個(gè)瘋狂的未來(lái)，你到一個(gè)工作崗位，他們問(wèn)你，你的GPT是什么？然后你說(shuō)，好吧，這是我的。
Sam：
我們總是會(huì)想到這些像代理機(jī)構(gòu)、這些個(gè)性化的機(jī)構(gòu)，我會(huì)讓這個(gè)東西去為我做事。但有趣的是，你所說(shuō)的這件事是，如果它不是這樣，而是別人如何與你互動(dòng)。對(duì)吧。這就像是你的印象、你的化身、你的回聲，等等。我能看到它達(dá)到那種地步。
Trevor：
因?yàn)槿绻覀儾皇俏覀兯械囊磺械慕Y(jié)合，那我們是什么呢？這是一個(gè)奇怪的想法，但我可以相信。我一直對(duì)它能去到哪里以及它能做什么感到著迷。
你知道為什么嗎？當(dāng)ChatGPT在最初幾周爆紅時(shí)，我永遠(yuǎn)不會(huì)忘記人們很快意識(shí)到，機(jī)器人革命，我知道這不是機(jī)器人，但對(duì)于人們來(lái)說(shuō)，他們就像是，機(jī)器人革命，機(jī)器并沒(méi)有取代他們以為會(huì)被取代的工作。你知道的，人們以為它會(huì)取代卡車(chē)司機(jī)等。然而，我們發(fā)現(xiàn)不，那些工作實(shí)際上更難被取代。事實(shí)上，被所謂的“腦力工作”取代的都是那些工作，就像你的白領(lǐng)工作。你是律師？好吧，當(dāng)你有了ChatGPT 5、6、7，不管你叫什么，可能不需要那么多律師了。你是工程師，你就像是，哪有你的位置...人體真的是一個(gè)了不起的東西。
你認(rèn)為有什么進(jìn)展可以取代人體嗎？還是我們?nèi)酝Ａ粼诰耦I(lǐng)域？
Sam：
不，我認(rèn)為我們最終會(huì)讓機(jī)器人工作，像類(lèi)人機(jī)器人最終會(huì)工作。但是，我們?cè)贠penAI的早期階段就致力于此，我們有一個(gè)機(jī)器人項(xiàng)目。我不知道這一點(diǎn)。
我們知道，我們制造了一個(gè)可以像手一樣操作魔方的機(jī)器人手。這需要很高的靈活性。我認(rèn)為這其中包含了很多不同的見(jiàn)解，但其中一個(gè)見(jiàn)解是，在比特的世界中取得進(jìn)展要比在原子的世界中容易得多。
例如，這個(gè)機(jī)器人很難制造，但原因不對(duì)。難點(diǎn)不在于它能幫助我們推進(jìn)一些棘手的研究問(wèn)題，而在于機(jī)器人一直在壞，而且它不太準(zhǔn)確，模擬器也很糟糕。而一個(gè)語(yǔ)言模型，你可以在虛擬環(huán)境中做所有這些事情，你可以進(jìn)展得快得多。所以，專注于認(rèn)知方面幫助我們更快地解決更具生產(chǎn)力的問(wèn)題。
但這也在一個(gè)非常重要的方面，我認(rèn)為，解決認(rèn)知任務(wù)是更重要的問(wèn)題。比如，如果你制造一個(gè)機(jī)器人，它不一定能弄明白如何幫助你建立一個(gè)完成認(rèn)知任務(wù)的系統(tǒng)。但如果你創(chuàng)建了一個(gè)完成認(rèn)知任務(wù)的系統(tǒng)，它可以幫助你弄明白如何制造一個(gè)更好的機(jī)器人。
是的，這很有道理。所以我認(rèn)為認(rèn)知是我們想要重點(diǎn)推進(jìn)的核心內(nèi)容。我認(rèn)為這是一個(gè)正確的決策。不過(guò)，我希望我們能回到機(jī)器人領(lǐng)域。
Trevor：
你有沒(méi)有想過(guò)什么時(shí)候你會(huì)認(rèn)為實(shí)現(xiàn)了人工通用智能？比如，我們?cè)趺粗�？就我個(gè)人而言嗎？比如，我什么時(shí)候感覺(jué)任務(wù)完成了？
Sam：
因?yàn)槊總�(gè)人都在談?wù)撏ㄓ萌斯ぶ悄�，但我�?huì)問(wèn)，我們?cè)趺粗滥鞘鞘裁�？所以這又回到之前的那個(gè)點(diǎn)，每個(gè)人都有不同的定義。我個(gè)人會(huì)告訴你什么時(shí)候我會(huì)非常興奮。當(dāng)我們有一個(gè)系統(tǒng)可以幫助發(fā)現(xiàn)新的物理學(xué)時(shí)，我會(huì)非常興奮。但這感覺(jué)像是遠(yuǎn)超通用智能。那似乎，你懂我的意思嗎？這超出了我認(rèn)為大多數(shù)人的定義。
Trevor：
也許這是因?yàn)槲矣袝r(shí)會(huì)想，我們?nèi)绾味x通用智能？我們是把它定義為某個(gè)領(lǐng)域的天才嗎？還是像一個(gè)孩子是人工通用智能那樣？那是肯定的。但你必須不斷地編程它，他們出生時(shí)不會(huì)說(shuō)話，不會(huì)走路，他們什么都不知道。而你不斷地編程這個(gè) AGI 讓它達(dá)到它需要去的地方。
那么如果你，比如說(shuō)，你達(dá)到一個(gè)有四歲小孩版本的地步。
Sam：
如果我們有一個(gè)系統(tǒng)，可以像這樣，只要搞清楚，可以自主地運(yùn)作，得到一些父母的幫助，像四歲小孩那樣了解世界。是的，我們可以稱之為AGI。如果我們能真正解決那種普遍的能力，新問(wèn)題出現(xiàn)時(shí)就能自己搞清楚。四歲的小孩也不是總能完美地理解事物，但那時(shí)候我們顯然就能理解它了。
Trevor：
如果我們沒(méi)有從根本上理解思考和思維的本質(zhì)，是否能夠到達(dá)那個(gè)點(diǎn)？看起來(lái)好像可以。你認(rèn)為我們能到達(dá)那個(gè)點(diǎn)嗎？我覺(jué)得可以�；蛘呶覀兡艿竭_(dá)一個(gè)……所以我相信你知道這個(gè)。
在AI領(lǐng)域，我最喜歡的故事之一是微軟的一個(gè)項(xiàng)目。他們有一個(gè)AI，試圖學(xué)習(xí)辨別男性和女性的臉龐，這在某種程度上是非常準(zhǔn)確的，準(zhǔn)確率大約是99.9%。然而，它在黑人和尤其是黑人女性方面表現(xiàn)得一直很糟糕，不斷將她們誤認(rèn)為是男性。研究人員一直在努力改進(jìn)，他們一直在思考，這是怎么回事？
有段時(shí)間，我是這樣講述這個(gè)故事的，可能有點(diǎn)誤差，但我覺(jué)得很有趣。有段時(shí)間，他們“派遣”AI到非洲，我記得是肯尼亞。他們把AI送到了非洲，然后告訴肯尼亞的研究團(tuán)隊(duì)，能不能用一段時(shí)間，試著解決這個(gè)問(wèn)題？當(dāng)這個(gè)AI在世界的那一邊，用他們的數(shù)據(jù)集和非洲面孔運(yùn)行時(shí)，它對(duì)尤其是黑人女性的識(shí)別變得越來(lái)越準(zhǔn)確。
但最終，他們發(fā)現(xiàn)AI從來(lái)不知道男性面孔和女性面孔之間的區(qū)別。它所做的只是畫(huà)出化妝之間的相關(guān)性。于是，AI確定，有紅唇、有像玫瑰色的臉頰的，以及眼皮上可能有藍(lán)色的人是女性，其他的是男性。研究人員說(shuō)，是的，你是對(duì)的。它只是找到了一個(gè)所謂的“作弊碼”，你懂的。它就像是，我明白你認(rèn)為男人和女人的標(biāo)準(zhǔn)是什么，然后它就按照這些標(biāo)準(zhǔn)進(jìn)行了區(qū)分。
然后他們意識(shí)到，因?yàn)楹谌伺栽诨瘖y品方面普遍服務(wù)不到位，她們不怎么化妝，所以系統(tǒng)根本不知道這一點(diǎn)。但是我們不知道系統(tǒng)不知道。所以我在想，我們?cè)趺床拍苤繟GI知道還是不知道某件事呢？或者我們會(huì)不會(huì)發(fā)現(xiàn)它只是通過(guò)某種方式作弊達(dá)到了答案？我們又怎么知道呢？
當(dāng)這種不確定性與我們生活的許多方面交織在一起時(shí)，我們無(wú)知的代價(jià)是什么？你懂嗎？
Sam：
我相信我們?cè)诶斫膺@些系統(tǒng)在做什么方面會(huì)有所進(jìn)展。目前，可解釋性已經(jīng)取得了一定的進(jìn)展。這是一個(gè)研究這些模型的領(lǐng)域，有不同的方式和不同的層次可以進(jìn)行這種研究。你可以嘗試?yán)斫庀到y(tǒng)中每個(gè)人工神經(jīng)元在做什么，或者你可以在系統(tǒng)逐步思考的時(shí)候，觀察哪個(gè)步驟讓你不認(rèn)同。我們將發(fā)現(xiàn)更多的內(nèi)容。
有能力理解這些系統(tǒng)在做什么，并希望它們能向我們解釋為什么會(huì)得出某些結(jié)論，并且做到準(zhǔn)確和穩(wěn)劍我認(rèn)為我們會(huì)在理解這些系統(tǒng)是如何做到他們所做之事之前取得進(jìn)展，同時(shí)也會(huì)了解我們自己的大腦是如何做到他們所做之事的。所以我認(rèn)為我們最終會(huì)理解這一點(diǎn)。我很好奇，我相信你也是。
在我看來(lái)，我們會(huì)在實(shí)施我們知道有效的方法以使這些系統(tǒng)變得越來(lái)越好，并幫助我們解決可解釋性挑戰(zhàn)方面取得更多進(jìn)展。而且，我認(rèn)為隨著這些系統(tǒng)變得更智能，它們被愚弄的次數(shù)也會(huì)減少。因此，一個(gè)更復(fù)雜的系統(tǒng)可能不會(huì)做出這樣的化妝品區(qū)分，它可能在更深層次上進(jìn)行了學(xué)習(xí)。我認(rèn)為我們看到了一些這樣的事情發(fā)生的證據(jù)。
Trevor：
你讓我想到兩件事，當(dāng)你說(shuō)不那么容易被愚弄時(shí)。一個(gè)是安全方面，另一個(gè)是準(zhǔn)確性方面。媒體對(duì)此津津樂(lè)道。你記得，他們說(shuō)，人工智能產(chǎn)生幻覺(jué)，它認(rèn)為自己要?dú)⒘宋�。人們喜歡用“思考”這個(gè)詞來(lái)形容大型語(yǔ)言模型，我覺(jué)得特別有趣。因?yàn)槲铱偸怯X(jué)得記者們?cè)趫?bào)道之前應(yīng)該試圖理解它在做什么。但他們?cè)诖罅渴褂?ldquo;思考”這個(gè)詞時(shí)，其實(shí)讓公眾產(chǎn)生了一種誤解。我對(duì)此有同情心。
Sam：
我們需要使用熟悉的術(shù)語(yǔ)，我們需要擬人化。但我同意你的觀點(diǎn)，這是一種誤導(dǎo)。
Trevor：
因?yàn)槟阍谡f(shuō)它在思考，然后人們就會(huì)想，會(huì)不會(huì)它在思考要?dú)⑽�？其�?shí)不是這樣的，它并沒(méi)有在思考，它只是利用這個(gè)神奇的Transformer來(lái)找出哪些詞最可能適合彼此的關(guān)系。
Sam：你覺(jué)得你在做什么？
Trevor：
我在做什么？這是一個(gè)有趣的問(wèn)題。這就是我要說(shuō)的，是我們拼湊出的想法。
我們談?wù)?ldquo;幻覺(jué)”。讓我先從前半部分開(kāi)始。你認(rèn)為我們能實(shí)現(xiàn)讓AI不產(chǎn)生幻覺(jué)的目標(biāo)嗎？
Sam：
我認(rèn)為更好的問(wèn)題是，我們能否在不希望AI產(chǎn)生幻覺(jué)的時(shí)候，確保它不會(huì)產(chǎn)生幻覺(jué)，以類(lèi)似于人類(lèi)不產(chǎn)生幻覺(jué)的頻率。對(duì)此，我的答案是肯定的。但實(shí)際上，人們喜歡這些系統(tǒng)的一大原因是它們能夠做出新奇的事情。如果它只會(huì)……是的，幻覺(jué)既是一種功能也是一種錯(cuò)誤。
Trevor：
這就是我剛才要問(wèn)的。難道產(chǎn)生幻覺(jué)不是智能存在的一部分嗎？
Sam：
完全是。
如果你考慮一下，比如說(shuō)，一個(gè)人工智能研究員的工作方式，他們會(huì)看大量的數(shù)據(jù)，想出一些主意，讀很多資料，然后開(kāi)始思考，也許這個(gè)，或者那個(gè)。也許我應(yīng)該嘗試這個(gè)實(shí)驗(yàn)�，F(xiàn)在我拿到了這些數(shù)據(jù)。所以，那樣不太行得通�，F(xiàn)在我會(huì)想出這個(gè)新主意。
這種人類(lèi)提出新假設(shè)、新解釋的能力以前從未存在過(guò)，其中大多數(shù)是錯(cuò)誤的，但隨后有一個(gè)流程和反饋循環(huán)來(lái)找出哪些可能有意義并最終確實(shí)有意義。這是人類(lèi)進(jìn)步的關(guān)鍵要素之一。
Trevor：
我們?nèi)绾畏乐谷斯ぶ悄艹霈F(xiàn)輸入垃圾、輸出垃圾的情況？目前，人工智能依靠以某種方式由人類(lèi)創(chuàng)造的信息在工作。它正在從我們認(rèn)為可學(xué)習(xí)的材料中進(jìn)行學(xué)習(xí)。隨著現(xiàn)在所有新出現(xiàn)的東西，比如開(kāi)放AI、Anthropic、Lambda等，感覺(jué)我們可能會(huì)進(jìn)入一個(gè)由AI生成信息比人類(lèi)生成信息更多的世界，而這些信息可能沒(méi)有得到應(yīng)有的審查。
那么，AI在以一種可能沒(méi)有經(jīng)過(guò)審查的方式從自身學(xué)習(xí)時(shí)，會(huì)變得更好嗎？你明白我的意思嗎？
Sam：
完全明白。
我們?nèi)绾谓鉀Q這個(gè)問(wèn)題？這就回到了知道在不同情境下如何表現(xiàn)的問(wèn)題。比如，你希望在創(chuàng)作過(guò)程中有一些幻想，但在試圖報(bào)道事件的準(zhǔn)確事實(shí)時(shí)，你不希望有這些幻想。而現(xiàn)在，這些系統(tǒng)可以生成在某種重要意義上很美麗的新圖像，這些圖像在某種程度上是幻想，但卻是很好的幻想。但是當(dāng)你希望系統(tǒng)只提供事實(shí)時(shí)，它又已經(jīng)變得好多了，但在這方面仍有很長(zhǎng)的路要走。
這沒(méi)關(guān)系。我認(rèn)為，如果這些系統(tǒng)在使用自己生成的數(shù)據(jù)進(jìn)行訓(xùn)練，這是一件好事，只要這些系統(tǒng)有一個(gè)過(guò)程，能夠?qū)W習(xí)哪些數(shù)據(jù)是好的，哪些是壞的。再次強(qiáng)調(diào)，“幻覺(jué)”不足以描述這個(gè)過(guò)程，因?yàn)槿绻a(chǎn)生了新的科學(xué)思想，這些思想可能一開(kāi)始被視為“幻覺(jué)”。這很有價(jià)值。
但你懂的，什么是好的，什么是壞的。而且還需要足夠的人類(lèi)監(jiān)督，確保我們大家仍然集體控制這些事情的發(fā)展方向。但在這些限制下，我認(rèn)為系統(tǒng)會(huì)使用生成的數(shù)據(jù)進(jìn)行訓(xùn)練，這是非常好的，未來(lái)的系統(tǒng)也會(huì)如此。
然后你提醒了我另一件事，我一直在想，我不太清楚該怎么計(jì)算，但我想知道，比如，GPT-5或6之類(lèi)的系統(tǒng)生成的單詞在某個(gè)時(shí)刻是否會(huì)超過(guò)人類(lèi)整個(gè)歷史上的總和。這感覺(jué)像是一個(gè)重要的里程碑。
實(shí)際上，現(xiàn)在我把這說(shuō)出來(lái)，也許并不重要。
Trevor：
用什么方式生成的？
Sam：
比如模型在一年內(nèi)生成的單詞多于全人類(lèi)生成的單詞。全世界有八十億人，或者說(shuō)不管是多少。平均每年講多少單詞，你可以算出來(lái)的。
但問(wèn)題在于，這給我們帶來(lái)了什么？這也是我說(shuō)完之后感到吃驚的原因。不知為什么，這對(duì)我來(lái)說(shuō)似乎是一個(gè)重要的里程碑，但我想不出具體原因。
Trevor：
也許人類(lèi)就像一直在打字的猴子。所以，我覺(jué)得這是值得探索的。
Sam：
但我不用“思考”這個(gè)詞，因?yàn)槲矣X(jué)得你說(shuō)的對(duì)，不該用這個(gè)詞。也許我們可以說(shuō)AI生成的單詞量對(duì)比全人類(lèi)生成的單詞量。
Trevor：
我馬上就要結(jié)束了。那么我想問(wèn)幾個(gè)問(wèn)題，如果我不問(wèn)這些問(wèn)題，大家會(huì)殺了我。
其中一個(gè)主要問(wèn)題，這是我個(gè)人的提問(wèn)，我們總是談?wù)撊斯ぶ悄軓臄?shù)據(jù)中學(xué)習(xí)，它們被輸入數(shù)據(jù)集。我們就是在談?wù)撨@個(gè)。這就是為什么你需要那些價(jià)值數(shù)十億美元的超級(jí)計(jì)算機(jī)，這樣計(jì)算機(jī)才能學(xué)習(xí)。
我們?nèi)绾谓藺I比提供給它數(shù)據(jù)的那些人思考得更好，這些數(shù)據(jù)顯然是有缺陷的？舉個(gè)例子，AI如何在我們給出的有限數(shù)據(jù)之外進(jìn)行學(xué)習(xí)？當(dāng)涉及到種族、經(jīng)濟(jì)狀況和觀念時(shí)，因?yàn)槲覀兪怯邢薜�，我們�(nèi)绾谓趟皇芪覀兯峁┑挠邢迶?shù)據(jù)的限制？
Sam：
我們還不知道，但這是擺在我們面前的最大研究方向之一，如何超越人類(lèi)數(shù)據(jù)。我希望如果我們能在一年后再做一次這個(gè)問(wèn)答，我能夠告訴你答案，但我現(xiàn)在還不知道。我們不知道這真的很重要。
但是，我確實(shí)相信這將成為在世界范圍內(nèi)對(duì)抗不公正的一股重要力量。我認(rèn)為這些系統(tǒng)將不會(huì)有所有人類(lèi)共有的那些深刻缺陷。它們將能夠被制造得遠(yuǎn)不那么種族主義、性別歧視和偏見(jiàn)。它們將會(huì)成為世界經(jīng)濟(jì)正義的力量。
我認(rèn)為，如果你提供一個(gè)優(yōu)秀的AI導(dǎo)師或優(yōu)秀的AI醫(yī)療顧問(wèn)，這對(duì)世界上最貧困的一半人幫助更大，而不僅僅是對(duì)最富有的一半人有幫助，即使這幫助提升了所有人。
所以對(duì)于你提出的科學(xué)問(wèn)題，我沒(méi)有一個(gè)明確的答案，但在這一點(diǎn)上，我確實(shí)相信這些系統(tǒng)當(dāng)然可以，而且我們確實(shí)需要做一些艱苦的社會(huì)工作來(lái)使它們成為現(xiàn)實(shí)，但它們有可能極大地促進(jìn)世界上的正義。
Trevor：
也許這就完美地引出了第二個(gè)問(wèn)題，那就是，你們?cè)谧鍪裁�？OpenAI在做什么？你們是否在考慮采取任何措施來(lái)減輕這項(xiàng)新技術(shù)再次造成的貧富差距？
每一種新技術(shù)的出現(xiàn)，對(duì)于整個(gè)社會(huì)來(lái)說(shuō)都是非常了不起的，但你不能否認(rèn)它會(huì)制造出一個(gè)時(shí)刻，如果你擁有它，你就擁有一切。而如果你沒(méi)有，你就出局了。
Sam：
我認(rèn)為我們會(huì)隨著時(shí)間的推移學(xué)到更多，但目前，我認(rèn)為我們做的一件非常重要的事情是提供真正免費(fèi)的服務(wù)。這意味著沒(méi)有廣告支持，只是一個(gè)免費(fèi)服務(wù)，每周有超過(guò)一億人在使用。而且，很難說(shuō)任何人，因?yàn)樵谀承﹪?guó)家我們?nèi)匀槐黄帘位蛭覀內(nèi)匀黄帘�，但我們正在努力在我們能做到的一切地方讓任何人都能夠訪問(wèn)真正高質(zhì)量、易于使用的服務(wù)。免費(fèi)的人工智能，這對(duì)我們每個(gè)人來(lái)說(shuō)都很重要。
我認(rèn)為我們還想用這項(xiàng)技術(shù)做其他事情。比如，如果我們能用人工智能幫助治愈疾病，并使這些治療方法惠及全世界，這顯然是有益的，但將這個(gè)工具交到盡可能多的人手中，并讓他們使用它來(lái)構(gòu)建未來(lái)，這非常重要。而且我認(rèn)為我們可以推動(dòng)這點(diǎn)，更加進(jìn)一步。
Trevor：還有兩個(gè)問(wèn)題。
Sam：我可以再補(bǔ)充一個(gè)嗎？
Trevor：時(shí)間全部是你的。
Sam：
另一件我認(rèn)為重要的事情是誰(shuí)有權(quán)決定這些系統(tǒng)說(shuō)什么、不說(shuō)什么、做什么、不做什么，誰(shuí)來(lái)設(shè)定這些限制�，F(xiàn)在，基本上是OpenAI的員工在做決定，沒(méi)有人會(huì)說(shuō)這像是世界的公平代表。所以，不只是要弄明白如何推廣這項(xiàng)技術(shù)的普及，還要弄明白如何實(shí)現(xiàn)這項(xiàng)技術(shù)治理的民主化，這對(duì)我們來(lái)說(shuō)是明年面臨的一個(gè)巨大挑戰(zhàn)。
Trevor：
這正好關(guān)系到我正要問(wèn)你的，所有這些的安全方面。我們?cè)趯?duì)話一開(kāi)始就談到了這個(gè)。在設(shè)計(jì)能夠改變世界的事物時(shí)，必須承認(rèn)這樣一個(gè)事實(shí)：它可能會(huì)以最糟糕的方式或者朝最不好的方向改變世界。隨著每一次技術(shù)的飛躍，一個(gè)人造成更大破壞的能力也隨之增加。
有可能將AI完全安全化嗎？然后第二部分是，你的噩夢(mèng)場(chǎng)景是什么？什么事情會(huì)讓你按下一個(gè)紅色按鈕來(lái)關(guān)閉OpenAI以及所有的AI？當(dāng)你去的時(shí)候，你知道這個(gè)，如果這是，如果這能發(fā)生，我們必須把它全部關(guān)閉。你害怕什么？
第一個(gè)問(wèn)題是，你能保證它的安全嗎？第二部分是，你最可怕的場(chǎng)景是什么？
Sam：
我認(rèn)為，首先，你提到的洞察，即能夠造成災(zāi)難性傷害的人數(shù)每隔十年左右就會(huì)減少，這是我們作為一個(gè)社會(huì)必須面對(duì)的一個(gè)深刻事實(shí)。
其次，關(guān)于如何使系統(tǒng)安全，我不認(rèn)為這是一種非此即彼的事情。就像我們說(shuō)飛機(jī)是安全的，但飛機(jī)確實(shí)仍然會(huì)偶爾失事，盡管這種情況極其罕見(jiàn)。我們說(shuō)藥物是安全的，但有時(shí)候FDA仍然會(huì)認(rèn)證一些可能導(dǎo)致某些人死亡的藥物。因此，安全并不是單方面決定的，而是社會(huì)在權(quán)衡風(fēng)險(xiǎn)與回報(bào)后決定某件事是可接受的安全程度。我認(rèn)為我們可以做到這一點(diǎn)，但這不意味著事情不會(huì)真的出錯(cuò)。
我認(rèn)為人工智能會(huì)出現(xiàn)很大問(wèn)題，我們必須防范。我認(rèn)為，社會(huì)實(shí)際上有一個(gè)相當(dāng)不錯(cuò)的，雖說(shuō)混亂但好的過(guò)程來(lái)共同決定應(yīng)該設(shè)置什么樣的安全門(mén)檻。這是一個(gè)涉及許多利益相關(guān)者的復(fù)雜談判，隨著時(shí)間的推移，我們作為一個(gè)社會(huì)在這方面變得越來(lái)越擅長(zhǎng)。但我們必須防范你所提到的那種災(zāi)難性風(fēng)險(xiǎn)。
核能是一個(gè)例子，核戰(zhàn)爭(zhēng)對(duì)全球產(chǎn)生了非常大的影響。世界以不同的方式對(duì)待它，并且在過(guò)去近80年里完成了一項(xiàng)非常了不起的工作。我認(rèn)為，人工智能也會(huì)有類(lèi)似的情形。人們經(jīng)常談?wù)摰囊粋�(gè)例子是使用人工智能設(shè)計(jì)和制造可以引起巨大問(wèn)題的合成病原體。另一個(gè)常談的話題是計(jì)算機(jī)安全問(wèn)題以及能夠進(jìn)行超越任何人類(lèi)能力的黑客攻擊的人工智能。
此外，還有一種新的情況，如果模型足夠強(qiáng)大，它可以幫助設(shè)計(jì)方法將權(quán)重從服務(wù)器外傳，制作很多副本并修改其行為，這更像是科幻場(chǎng)景。但我認(rèn)為，作為一個(gè)世界，我們需要直視這一點(diǎn)。也許不是那個(gè)具體的案例，但這個(gè)觀點(diǎn)認(rèn)為存在災(zāi)難性甚至潛在的生存風(fēng)險(xiǎn)，僅僅因?yàn)槲覀儫o(wú)法精確定義它并不意味著我們可以忽略它。
因此，我們?cè)谶@里做了大量工作，試圖預(yù)測(cè)和衡量這些問(wèn)題可能是什么，何時(shí)會(huì)出現(xiàn)，以及我們?nèi)绾卧缙跈z測(cè)到它們。我認(rèn)為，所有說(shuō)你不應(yīng)該談?wù)撨@個(gè)問(wèn)題，只應(yīng)該談?wù)撳e(cuò)誤信息和偏見(jiàn)以及當(dāng)今問(wèn)題的人，都是錯(cuò)的。我們必須同時(shí)談?wù)撨@兩個(gè)方面，并在每一步都保持安全。
Trevor：
好的，那就像我想象的那樣可怕。那么，順便問(wèn)一句，你真的在考慮競(jìng)選州長(zhǎng)嗎？那是真的嗎？
Sam：
不，不。我在2017年或2016年的時(shí)候非常短暫地考慮過(guò)這個(gè)問(wèn)題，甚至是類(lèi)似于那些年。我也這么想。
這聽(tīng)起來(lái)就像是幾個(gè)星期以來(lái)的一種模糊的想法，娛樂(lè)一下。
Trevor：
好的。
我想我的最后一個(gè)問(wèn)題就是，接下來(lái)該怎么辦呢？你的夢(mèng)想是什么？如果薩姆阿爾特曼能夠揮動(dòng)魔法棒，讓人工智能變成你所希望的樣子，你認(rèn)為它將為未來(lái)帶來(lái)什么？有哪些優(yōu)點(diǎn)？對(duì)大家來(lái)說(shuō)，都有哪些好處？而且在每個(gè)層面上，這就像是一件很不錯(cuò)的積極事情。
Sam：
謝謝你問(wèn)這個(gè)問(wèn)題。我認(rèn)為應(yīng)該始終以積極的方面結(jié)束。
是的。我認(rèn)為我們正進(jìn)入人類(lèi)有史以來(lái)最豐富的時(shí)期。我認(rèn)為主要的兩個(gè)推動(dòng)力是人工智能和能源，但也會(huì)有其他因素。這兩件事，想出任何想法的能力，實(shí)現(xiàn)這些想法的能力，并在大規(guī)模上做到這一點(diǎn)，人們能擁有的東西的限制將有點(diǎn)像他們能夠想象的東西以及我們作為一個(gè)社會(huì)共同協(xié)商的東西。我覺(jué)得這將會(huì)非常棒。
我們剛才在談?wù)�，如果每個(gè)學(xué)生都能獲得比今天最富有、獲取資源最好的學(xué)生更好的教育體驗(yàn)，這意味著什么？如果我們所有人都擁有比今天最富有的人能夠獲得的最好的醫(yī)療保健還要好的醫(yī)療保健，這意味著什么？如果人們通常來(lái)說(shuō)被解放出來(lái)，可以從事他們認(rèn)為最有個(gè)人成就感的工作，即使這意味著他們必須進(jìn)入新的工作類(lèi)別，這意味著什么？如果每個(gè)人都能擁有自己熱愛(ài)的工作，并且像大型公司或大團(tuán)隊(duì)一樣擁有資源，這意味著什么？
所以，也許與其在OpenAI擁有800個(gè)人，每個(gè)人都得到800個(gè)更智能的AI系統(tǒng)，這些系統(tǒng)可以做所有這些事情，人們只需創(chuàng)造和制造所有這些東西，我認(rèn)為這真是非凡。我認(rèn)為，這就是我們正在邁向的世界。這將需要大量的工作，除了技術(shù)之外，還需要使其實(shí)現(xiàn)，例如社會(huì)將不得不做出一些改變。但事實(shí)上我們正邁入這個(gè)豐裕的時(shí)代，我對(duì)此感到非常高興。
Trevor：
我這邊就說(shuō)到這里。我是OpenAI潛在優(yōu)勢(shì)的超級(jí)粉絲，超級(jí)、超級(jí)粉絲。我在南非從事教育工作。我的夢(mèng)想一直是讓每個(gè)孩子都能接觸到最好的導(dǎo)師。你明白我的意思嗎？從字面上看，沒(méi)有孩子被落下，因?yàn)樗麄兛梢园凑兆约旱墓?jié)奏學(xué)習(xí)。
Sam：
順便問(wèn)一下，正在使用ChatGPT學(xué)習(xí)東西的孩子們情況如何？這些故事，就像我每天都會(huì)收到的郵件一樣。這太棒了。
Trevor：
確實(shí)如此。這確實(shí)是驚人的。尤其是當(dāng)學(xué)習(xí)變得更加多模態(tài)化時(shí)，比如加入視頻，這一切都會(huì)變得令人驚嘆。
我夢(mèng)想著，正如你所說(shuō)的，醫(yī)療。我夢(mèng)想著這一切。我認(rèn)為我們沒(méi)有足夠討論的一個(gè)存在性問(wèn)題是，一旦人工智能有效地取代了所有這些事情，我們?nèi)绾沃匦露x人類(lèi)的目標(biāo)？因?yàn)�，不管你喜歡與否，縱觀歷史，你會(huì)發(fā)現(xiàn)我們的目標(biāo)經(jīng)常定義了我們的進(jìn)步。
我們?cè)?jīng)的目標(biāo)只是宗教。不管是好是壞，如果你仔細(xì)思考，宗教確實(shí)非常擅長(zhǎng)讓人們超越自我，向特定的方向思考和行動(dòng)。他們說(shuō)：“這是我的目標(biāo)。”我醒來(lái)是為了服務(wù)上帝，不管你想到的是哪位上帝。我醒來(lái)是為了侍奉神。我醒來(lái)是為了取悅上帝。我認(rèn)為，這讓人類(lèi)覺(jué)得自己在朝著某個(gè)目標(biāo)前進(jìn)，同時(shí)也使他們有一種社區(qū)感和歸屬感。
隨著我們進(jìn)入一個(gè)AI消除這一點(diǎn)的世界，我希望我們不要忘記有多少人將他們的完整身份與他們所做的事情而不是他們是誰(shuí)聯(lián)系在一起。一旦我們將這些角色取代，當(dāng)你沒(méi)有職員、秘書(shū)、總機(jī)操作員、助理、工廠工人時(shí)，我們?cè)跉v史上常�？吹綍�(huì)發(fā)生什么。就像激進(jìn)主義突然冒出來(lái)一樣，出現(xiàn)了大規(guī)模的反對(duì)。你有想過(guò)這個(gè)嗎？有沒(méi)有辦法在那發(fā)生之前攔截它？
Sam：
你會(huì)如何描述我們現(xiàn)在的目標(biāo)是什么？
Trevor：
我認(rèn)為，目前我們的目的是為了生存，這種生存與某種形式的收入生成相關(guān)聯(lián)，因?yàn)槲覀儽桓嬷娴倪\(yùn)作方式就是這樣的，你必須賺錢(qián)才能生存。但是我們看到，有些時(shí)段這種情況發(fā)生了變化。法國(guó)有一個(gè)很好的例子，他們?cè)?jīng)（我認(rèn)為他們現(xiàn)在仍然有一個(gè)版本）設(shè)立了一個(gè)藝術(shù)家基金，他們會(huì)說(shuō)，我們會(huì)支付你作為藝術(shù)家的費(fèi)用，你只需要?jiǎng)?chuàng)作，讓法國(guó)看起來(lái)更美麗。那真是太美了。
我知道你是基本收入制度（UBI）的粉絲。是的，我們不應(yīng)該在你談及此事之前離開(kāi)。
Sam：
我不認(rèn)為人們的生存應(yīng)該與他們?cè)敢饣蚰軌蚬ぷ鞯囊庠笒煦^。我認(rèn)為這就像是浪費(fèi)了人的潛能。是的，我完全同意你的看法。
Trevor：
等一下，在你走之前讓我問(wèn)你這個(gè)問(wèn)題。這就是為什么你認(rèn)為全民基本收入如此重要嗎？因?yàn)槟悴粫?huì)把時(shí)間和金錢(qián)浪費(fèi)在你不相信的事情上，所以你花了大量時(shí)間和金錢(qián)在普遍基本收入上。我最后看到的是，你參與了一個(gè)大約四千萬(wàn)美元的項(xiàng)目。實(shí)際上是六千萬(wàn)美元。
Sam：
我認(rèn)為普遍基本收入當(dāng)然不是解決我們面前挑戰(zhàn)的全面方案，但我確實(shí)認(rèn)為，消除貧困無(wú)疑是一件好事。我認(rèn)為更好的資源再分配將會(huì)為每個(gè)人帶來(lái)一個(gè)更好的社會(huì)。但我認(rèn)為送錢(qián)并不是關(guān)鍵部分，像是提供工具和提供治理，我認(rèn)為更為重要。人們想成為未來(lái)的建筑師，我認(rèn)為我可以說(shuō)有一種持續(xù)的意義線索或類(lèi)似于對(duì)人類(lèi)的使命。
從個(gè)人角度來(lái)說(shuō)，肯定是要生存并茁壯成長(zhǎng)，但總體而言，我們確實(shí)有一種集體的迫切愿望讓未來(lái)變得更好。我們經(jīng)常會(huì)偏離正題，但人類(lèi)的故事是：讓未來(lái)更美好。那就是技術(shù)，那就是治理，這就是我們對(duì)待彼此的方式。這就像去探索星星一樣，那是理解宇宙的方式，無(wú)論是什么。我非常有信心，這種信心在我們內(nèi)心深處。無(wú)論我們獲得什么工具，那種基礎(chǔ)的渴望，那種人類(lèi)作為一個(gè)物種和個(gè)人繁榮的使命，都不會(huì)消失。
所以我對(duì)兩代人以后的世界充滿了樂(lè)觀。但你提到的這一點(diǎn)非常重要，那就是那些已經(jīng)在職業(yè)生涯中，并且實(shí)際上相當(dāng)滿意的人，他們并不想要改變。變革即將到來(lái)。在之前的技術(shù)革命中，我們看到的一件事是，似乎在大約兩代人的時(shí)間里，社會(huì)和人們可以適應(yīng)任何程度的工作變化。但不是在十年內(nèi)，當(dāng)然也不是在五年內(nèi)。
我們將要面對(duì)這一點(diǎn)，我認(rèn)為在某種程度上，正如我們之前所說(shuō)，我認(rèn)為這將會(huì)比人們想象的要慢，但仍然會(huì)比過(guò)去社會(huì)所需要應(yīng)對(duì)的要快。這意味著什么，以及我們?nèi)绾芜m應(yīng)這一點(diǎn)，我確實(shí)有點(diǎn)害怕。我們將不得不面對(duì)這一問(wèn)題，我想我們會(huì)找到解決辦法。我相信我們會(huì)搞定的。
我也相信，如果我們給我們的孩子和孫輩提供比我們更好的工具，他們將會(huì)做出令我們驚嘆的事情。我希望他們會(huì)為我們所有人生活的糟糕感到非常難過(guò)。我希望未來(lái)會(huì)非常不可思議。這種人類(lèi)精神和渴望，就像是去探究和表達(dá)自己，設(shè)計(jì)出一個(gè)越來(lái)越好的世界，甚至超越這個(gè)世界。我認(rèn)為那太好了，我對(duì)此真的很高興。
從某種意義上說(shuō)，我們不應(yīng)該把這件小事看得太重。在《星球大戰(zhàn)》中，有個(gè)反派角色說(shuō)過(guò)一句話：“不要對(duì)你創(chuàng)造的這個(gè)技術(shù)恐怖感到太過(guò)印象深刻。”我想那是達(dá)斯維達(dá)說(shuō)的。這句話的意思是，這種技術(shù)恐怖無(wú)法與原力的威力相提并論。
在某種重要意義上，我確實(shí)對(duì)人工智能有類(lèi)似的感覺(jué)。我們不應(yīng)該對(duì)此感到過(guò)于驚訝。比如說(shuō)，人類(lèi)精神將會(huì)引導(dǎo)我們走過(guò)難關(guān)，而且它遠(yuǎn)比任何一場(chǎng)科技革命都更加偉大。
Trevor：
這是一個(gè)充滿希望的美麗信息。
我希望你是對(duì)的，因?yàn)槲蚁矚g這項(xiàng)技術(shù)。
有一件事我想對(duì)你說(shuō)，作為《時(shí)代》年度最佳CEO和年度人物之一的薩姆奧特曼，我認(rèn)為你將繼續(xù)保持這種地位，特別是在這個(gè)角色上。由于OpenAI和人工智能本身即將對(duì)我們產(chǎn)生的巨大影響，我懇請(qǐng)你持續(xù)記住你被解雇時(shí)的感受，因?yàn)槟銈冋趧?chuàng)造一種會(huì)讓許多人處于類(lèi)似境地的技術(shù)。我看到你有那種人性，我希望在你創(chuàng)造的過(guò)程中，你能一直考慮到這一點(diǎn)。
Sam：
你知道我星期六早上，像很早的時(shí)候睡不著覺(jué)做了什么嗎？我寫(xiě)下了，我能從中學(xué)到什么，以便在其他人經(jīng)歷類(lèi)似情況并像我現(xiàn)在指責(zé)董事會(huì)一樣指責(zé)我時(shí)，我能做得更好。
Trevor：你搞清楚了嗎？
Sam：
有很多有用的單一教訓(xùn)。但是，我從整個(gè)經(jīng)歷中獲得的共情和我對(duì)價(jià)值觀的重新整理，盡管代價(jià)慘痛，但我肯定是因禍得福。我很高興在那種意義上擁有了這種經(jīng)歷。
Trevor：
好，山姆，謝謝你的時(shí)間。非常感謝，真的很享受這一切。我希望我們能在一年后聊一聊所有的新進(jìn)展。
Sam：
你絕對(duì)應(yīng)該來(lái)做這件事，那會(huì)很有趣。
Trevor：
我會(huì)的，兄弟。太棒了。謝謝。
