劃重點：
1
相對于討論人工智能引發(fā)災(zāi)難的概率，我們更應(yīng)該關(guān)注如何避免人工智能帶來的災(zāi)難。
2
人工智能不會搶奪人類的工作，未來每個人可能都會擁有一個由人工智能驅(qū)動的完整公司。
3
未來計算雙語人才不再適用，更看好人形機器人，人工智能會幫助人類完成所有計算工作。
4
目前是AI領(lǐng)域創(chuàng)業(yè)最佳時機，機會堪比互聯(lián)網(wǎng)、移動計算時代，初創(chuàng)公司擁有速度、迭代和周期優(yōu)勢。
科技新聞訊5月6日消息，據(jù)國外媒體報道，繼OpenAI首席執(zhí)行官薩姆奧特曼（SamAltman）在斯坦福大學(xué)進(jìn)行演講后，隨后又從硅谷橫跨美國來到麻省理工學(xué)院，與該校校長莎莉科恩布魯斯（SallyKornbluth）共同探討了人工智能的未來發(fā)展。
奧特曼在訪談中談到，OpenAI在做的是“人類用的工具”，不是在創(chuàng)造生物；而人類充滿偏見卻往往不自知。人工智能是人類科技樹上的新工具，人類沒必要害怕超級智能的人工智能，每個新模型的缺點也是它們持續(xù)迭代的動力。
雙方還從人工智能監(jiān)管的角度對創(chuàng)業(yè)、就業(yè)的影響進(jìn)行了討論，奧特曼認(rèn)為在接下來很長一段時間里，都是初創(chuàng)公司的最好時機。就具體行業(yè)而言，奧特曼表示自己最關(guān)注人工智能對健康和教育領(lǐng)域的影響，對金融領(lǐng)域的思考并不多。
以下為訪談內(nèi)容全文：
主持人麻省理工學(xué)院董事會主席馬克戈倫伯格（MarkGorenberg）：感謝你們兩位的到來！我可能無需再介紹你們二位，但從活動流程的角度出發(fā)，我還是需要簡述一下�？贫鞑剪斔褂�2023年1月1日當(dāng)選麻省理工學(xué)院第18任校長，她在杜克大學(xué)的18年工作經(jīng)歷為她贏得了聲譽。她是一名出色的管理者，一名創(chuàng)造性的問題解決者，一名優(yōu)秀教師和學(xué)生福利的主要倡導(dǎo)者。在麻省理工學(xué)院的第一年，她也在關(guān)注人工智能技術(shù)，證明了麻省理工學(xué)院為確保人工智能廣泛造福社會所做的努力。
奧特曼是一名企業(yè)家，一名投資者，一名程序員。他在2015年共同創(chuàng)立了OpenAI，目前擔(dān)任該公司的首席執(zhí)行官。OpenAI是一家人工智能研究和部署公司，其使命是確保通用人工智能造福全人類。山姆和莎莉，謝謝你們來到這里！現(xiàn)在輪到你們二位了！請開始你們的對話活動。
科恩布魯斯：非常感謝！我應(yīng)該說，我認(rèn)為這是我來到麻省理工學(xué)院以來見過的最受歡迎的活動。我問的問題是由學(xué)生提交的，并經(jīng)過整理和策劃，但這確實反映了我校師生的好奇心和對你訪問我校所展現(xiàn)出的好奇心。按照《紐約時報》科技專欄作家凱文魯斯（KevinRoose）和其他人的一些觀點，你的“末日概率”（probabilityofdoom，簡寫為P(doom)）是什么？這是一個常見的破冰問題。你們大多數(shù)人可能都知道，“末日概率”指個人認(rèn)為人工智能可能帶領(lǐng)人類走向末日的機率，指標(biāo)的范圍從1到100。數(shù)字越高，就越強烈的認(rèn)為人工智能會消滅所有人類并導(dǎo)致世界末日場景的出現(xiàn)。所以山姆，讓我們開始破冰。你的“末日概率”是什么？
奧特曼：我認(rèn)為這是一個糟糕的問題，我很高興我沒有冒風(fēng)險談?wù)撨^這種問題。對人們來說這是一種很好的方式，聽起來很聰明和重要，就好像我和其他任何人一樣喜歡對數(shù)字發(fā)表意見。我認(rèn)為這個問題表述不太恰當(dāng)，問題假設(shè)了一種靜態(tài)的系統(tǒng)。雖然我自己也樂于對數(shù)字進(jìn)行長篇大論。但不管這個數(shù)字是2、10、20或90，關(guān)鍵點在于它不是0。討論災(zāi)難概率雖然能激發(fā)深思，但相比之下，我們更應(yīng)該關(guān)注如何避免災(zāi)難，確保我們能安全、積極地面對未來。
科恩布魯斯：你在人工智能行業(yè)已工作多年�，F(xiàn)在你對人工智能的看法與十年前有什么不同？五年或十年前，你是否期望人工智能GPT會變得像現(xiàn)在這樣強大？
奧特曼：老實說，我仍然認(rèn)為它不是很好。我認(rèn)為我們會把它做得很好，但我們面前有大量的工作。我想十年前我可能對人工智能有一個更天真的概念，那就是這種技術(shù)能夠自行解決問題，或者這種神奇的超級智能會想辦法解決問題，給我們帶來潑天的富貴，我們只需要考慮如何生活。但這一切都有點令人困惑�，F(xiàn)在，我認(rèn)為人工智能更像其他技術(shù)革命一樣，希望它能夠給人類帶來最大、最好、最重要的好處。我們的人類科技樹上有了一款新工具，人們正在使用它來創(chuàng)造驚人的東西。我認(rèn)為隨著時間的推移，人工智能將變得更有能力和更自主。即使是這樣，我認(rèn)為它也會以一種重要的變革方式融入社會。假設(shè)十年前你問我通用人工智能在明天成為可能，后天會發(fā)生什么，我當(dāng)時會說真的無法想象，這是絕對的奇點轉(zhuǎn)換（transformationsingularity）�，F(xiàn)在所有的事情都突然不同了。我現(xiàn)在認(rèn)為，情況根本不是我十年前想象的那樣。
科恩布魯斯：所以你認(rèn)為在某種程度上你是樂觀的，但是你不能以任何一種方式把自己放在當(dāng)前的時刻。我不知道是樂觀還是悲觀？
奧特曼：我的意思是，有些方面太樂觀了，同時也太悲觀了。如果我們開發(fā)出的東西像這里所有超級聰明的學(xué)生一樣聰明，那是一項了不起的成就。從某種意義上說，世界上已經(jīng)有很多像這樣聰明的人了。也許事物的發(fā)展會變得更快，也許生活質(zhì)量會提高，也許經(jīng)濟周期會加快一點。如果科學(xué)發(fā)現(xiàn)的速度比現(xiàn)在快十倍，我不知道那時我們生活在其中會有什么不同。
科恩布魯斯：你講得非常有趣。只要后退一點，看看當(dāng)前的模型，思考ChatGPT等人工智能系統(tǒng)，你認(rèn)為從系統(tǒng)中消除偏見有什么必要性？能否舉一個例子來思考當(dāng)今人工智能系統(tǒng)中的偏見問題，以及我們該如何思考未來的發(fā)展？
奧特曼：我認(rèn)為我們在如何調(diào)整系統(tǒng)，根據(jù)特定的價值觀行事方面取得了令人驚訝的進(jìn)展。盡管人們喜歡談?wù)撨@個問題，并說你不能使用這些東西，因為它們在散播有毒的內(nèi)容。GPT-4的行為有點像你希望的那樣并且相當(dāng)好，我們能夠讓它遵循一組給定的值。
現(xiàn)在更難的問題是由誰來決定偏見的含義和價值觀的含義，我們?nèi)绾螞Q定系統(tǒng)應(yīng)該做什么，以及社會定義了多大的邊界。作為一名用戶，我們信任你使用工具，但不是每個人都會以我們喜歡的方式使用它，這就是工具的使用情況。我認(rèn)為給人們很大的控制權(quán)來控制他們?nèi)绾问褂眠@些工具非常重要，即使這意味著他們可能會以我們不喜歡的方式使用它們。但是有些事情是系統(tǒng)不應(yīng)該做的，我們必須集體協(xié)商。
科恩布魯斯：能否可以讓模型的偏見比我們?nèi)祟惛伲?/p>
奧特曼：人類本身就是充滿偏見的生物，但往往并不自知。像GPT-4或之后的GPT-5這樣的模型不會存在人類一樣的心理缺陷。雖然它們不完美，但總的來說，我這些系統(tǒng)會比人類表現(xiàn)得更公正。
科恩布魯斯：除了偏見之外，隱私問題對許多人來說是一個很大的問題。我們?nèi)绾卧谟霉蚕頂?shù)據(jù)訓(xùn)練人工智能模型時保護個人隱私？
奧特曼：我可以想象這樣的未來，如果你愿意，你可以擁有一個個性化的人工智能，它可以閱讀每一封郵件，每一條短信，你發(fā)送或接收的每一條信息，可以訪問你生活的完整記錄，知道你看過的每一個文件，每一個電視節(jié)目，你讀過、說過、聽過或看過的所有東西，比如你輸入和輸出的所有信息，你可以想象這將是一件非常有用的事情。
你也可以想象這所帶來的隱私問題。如果我們堅持這個框架，而不是說人工智能應(yīng)該能夠在這些數(shù)據(jù)上進(jìn)行訓(xùn)練，但我們?nèi)绾卧陔[私與效用和安全之間進(jìn)行權(quán)衡，或者隨之而來的安全權(quán)衡，這意味著什么？我們是否需要一個新的特權(quán)信息的定義，防止個性化人工智能在法律上被用于不利于我們的情況。我不知道答案會是什么，也不清楚大多數(shù)人會做出什么樣的權(quán)衡。我們使用的服務(wù)都會犧牲一些隱私來換取效用，但人工智能可以發(fā)展的非�？�，我們不得不協(xié)商所有這些事情。透過隱私我們?nèi)绾慰创诰�廣告？當(dāng)你把它們和人工智能結(jié)合起來時，我認(rèn)為我們將要開始真正面對的更高的風(fēng)險和更大的權(quán)衡。
科恩布魯斯：我知道這很有意思，在個人控制的程度方面也是如此。換句話說，當(dāng)你談?wù)摼酆蠑?shù)據(jù)時，當(dāng)你再次談?wù)摳唢L(fēng)險時，健康記錄數(shù)據(jù)等是非常好的例子。我們能在多大程度上融入某種個人能力，以此來設(shè)定這個滑動標(biāo)尺？你愿意在訓(xùn)練中獲得多少信息？
奧特曼：我認(rèn)為在這種情況下，我們希望通過GPT-5或GPT-6得到什么，如何讓它們成為最佳的推理引擎目前而言，能達(dá)到最佳引擎的唯一路徑就是用海量的數(shù)據(jù)對它們進(jìn)行訓(xùn)練。在這個過程中，我們學(xué)到了一些關(guān)于如何進(jìn)行非常有限的推理或認(rèn)知。但它可以記憶數(shù)據(jù)的，能夠在參數(shù)空間中存儲數(shù)據(jù)�；仡^來看，這有點像是一種奇怪的資源浪費。誠然，GPT-4能夠像數(shù)據(jù)庫一樣工作，但是它的推理速度很慢、成本高昂且效果不盡如人意，這不是我們真正想要的，因為這是我們制作推理引擎模型的唯一方法的副作用。現(xiàn)在推理引擎擁有所有這些其他的屬性，但我假設(shè)在某個時候我們會想出如何把推理引擎從所有需要的海量數(shù)據(jù)中分離出來，我們就能夠把推理引擎作為獨立的東西來對待。
科恩布魯斯：關(guān)于開源的問題，外界有許多關(guān)于OpenAI的討論，稱貴公司并沒有真正開放。你曾經(jīng)說過，它可能不是完全開源的，它在其他方面是開放的。能對此多說一點嗎？
奧特曼：我們讓數(shù)億人可以使用一款偉大的免費人工智能工具，希望將來有數(shù)十億人會使用它。我們不做廣告。我們只是像做公益一樣做這件事，因為我們認(rèn)為把這個工具交付到人們手中很重要。我們希望它可以廣泛使用，非常容易使用，非常有幫助。我認(rèn)為這是一件很酷的事情。
科恩布魯斯：當(dāng)談?wù)撈鹑斯ぶ悄苋绾稳谌胛覀兊娜粘Ｉ钸@個問題時，事實上它一直在不斷發(fā)展。我們大多數(shù)人可能還記得第一次看到ChatGPT的時候，我們當(dāng)時會發(fā)出感慨：“天哪！太酷了！”現(xiàn)在我們嘗試思考下一代模型會是什么樣子。你知道下一代模型會是什么樣子嗎？
奧特曼：在GPT-4發(fā)布的前兩周，人們都感到震驚，并認(rèn)為它超級酷。到了第三周，人們都表示已經(jīng)厭倦了等待，希望看看GPT-5是什么樣子。確切地說，我認(rèn)為這表達(dá)出人類的期望和奮斗是合理而偉大的，以及為什么我們都喜歡繼續(xù)讓事物變得更好。我認(rèn)為，今天出生的嬰兒永遠(yuǎn)不會了解一個沒有智能產(chǎn)品和服務(wù)的世界，也將永遠(yuǎn)不會了解一個認(rèn)知不充分的世界。所以我認(rèn)為這就像人類對現(xiàn)狀的不滿，以及對世界應(yīng)該每年都變得更好的期望。我認(rèn)為這非常好。
科恩布魯斯：在過去的一年中，人工智能和數(shù)據(jù)中心的新電力需求被認(rèn)為是一個環(huán)境問題，同時許多人談到人工智能輔助和脫碳問題。你如何看待人工智能對氣候的影響，和它有可能幫助我們應(yīng)對氣候變化的影響之間的矛盾？
奧特曼：我會具體地回答這個問題。更一般來講，人工智能確實需要大量的能源，但相對于世界上其他產(chǎn)業(yè)的需求而言并不多。如果我們耗費全球1%的電力來訓(xùn)練強大的人工智能，人工智能就能夠幫助我們找到非碳基能源或更好地進(jìn)行碳捕獲，這將是一個巨大的勝利。即使我們沒有這樣做，如果我們花在人工智能上的那百分之一的電力讓人們生活得更好，這也值得我們這么做。
我曾經(jīng)讀過一篇關(guān)于谷歌使用算力的文章，它把通過谷歌獲取信息與與人們過去開車獲取信息所消耗的碳排放量進(jìn)行了比較。有人就此說，谷歌太可怕了，我們應(yīng)該關(guān)閉它，因為它消耗了太多的電能。這純粹是一個智商問題，完全不正確。
舉例來說，通過互聯(lián)網(wǎng)進(jìn)行遠(yuǎn)程會議本身就是一種節(jié)約。所以對人工智能來說，它將需要很多能量。我們將繼續(xù)找出更有效的方法，更有效的算法，結(jié)合獲得的芯片，我們要為這些東西提供電力，所以我認(rèn)為解決這個問題很重要。
我認(rèn)為解決這個問題很重要，但我們會以所有奇妙的方式解決。我認(rèn)為這也指向了另一個問題，也就是你開始提到的“末日概率”。我認(rèn)為我們教育年輕人的方式就像是世界已經(jīng)完蛋了，試圖解決問題沒有任何希望，我們所能做的就是坐在臥室里，在黑暗中思考我們有多糟糕，這非常沒有成效。
我希望麻省理工學(xué)院的學(xué)生與其他許多大學(xué)能夠有所不同，但你們都需要把它作為你們?nèi)松姑囊徊糠郑瑘孕琶髂旰⒆訉⑦^上更好的生活�？倳腥讼胱谀抢镎f，我們不應(yīng)該開發(fā)人工智能，因為我們可能會燃燒更多的碳，或者因為我們還沒有完全解決偏見問題。幾年后我們會發(fā)現(xiàn)，我們在這兩方面都有很大的進(jìn)步。反進(jìn)步傾向的人應(yīng)該有很好的生活，他們通常是那些一開始就有很多特權(quán)的人。
科恩布魯斯：我剛從外校來到麻省理工學(xué)院。我校的核心精神是指出問題并找出解決問題的方法。很高興你能夠來到我校。當(dāng)我們想到人工智能的成本時，你說的另一件事真的打動了我，這不僅僅指資金成本，還包括氣候和其他方面。OpenAI開發(fā)專門影響科學(xué)和工程的工具嗎？或者你們會更專注于商業(yè)和消費者應(yīng)用？
奧特曼：當(dāng)然，我們打算這么做。我個人認(rèn)為我最感興趣的是我們?nèi)绾卫萌斯ぶ悄軄硖岣呖茖W(xué)發(fā)現(xiàn)的速度。我相信這是人類進(jìn)步的核心引擎，也是我們推動經(jīng)濟可持續(xù)增長的唯一途徑。我們之前談到人們不滿足于GPT-4，希望GPT-5能夠問世。他們希望事情變得更好。每個人都希望越來越好，而更快和科學(xué)是我們實現(xiàn)這一目標(biāo)的途徑。在人工智能將實現(xiàn)的所有偉大成就中，我個人對我希望它將對科學(xué)產(chǎn)生的影響最感興趣。也就是說，這一切可能比我們想象的更加一維。如果我們開發(fā)出一款偉大的人工智能工具，可以幫助人們解決他們面前的任何問題，可以幫助人們以新的方式進(jìn)行推理，這對消費者而言非常好，對科學(xué)家、企業(yè)、教育來說也都是好事。通用人工智能時代的到來可能是令人驚訝的一件事。
科恩布魯斯：就像開著你的舊車去圖書館一樣，很多創(chuàng)造性的部分仍然是人類的。但是把很多知識的聚合作為起點，通過預(yù)先向人工智能提出幾個關(guān)鍵問題，真的可以加快進(jìn)程。
奧特曼：我認(rèn)為如果我們能看到每個人在未來10年或20年能做什么，這將使如今的我們感到非常驚訝。這就像是在幾年后，我們每個人都有一個偉大的參謀或博士生，幫助我們優(yōu)化自己，做我們最好的工作和最好的想法等。然后可能在某個時候，就像我們每個人都有一個完整的公司，里面都是各方面的優(yōu)秀專家，他們一起工作非常有成效。
科恩布魯斯：在我們的觀眾當(dāng)中，有很多年輕的研究人員或渴望成為年輕研究人員的人，你對他們有什么樣的建議？你提到了思考可能性，而不是坐在黑暗的臥室里，我認(rèn)為這是一個很好的基本建議。你還想對觀眾說些什么？
奧特曼：首先，我認(rèn)為這可能是幾十年來最激動人心的時刻，也許還是有史以來最激動人心的時刻。不管是什么，這真的是一件大事。我認(rèn)為你們可以比平時承擔(dān)更多的風(fēng)險。即便是你們從事的事業(yè)沒有成功，在很長一段時間內(nèi)仍會有驚人的機會出現(xiàn)。我認(rèn)為你們比一般人更有影響力，所以有溢價。這是一個需要你們非常努力工作的時期，我肯定會偏向于用人工智能做一些事情�？傮w而言，在你們職業(yè)生涯的早期要學(xué)習(xí)的最重要的課程是你可以想出任何事情，沒有人在開始時就有所有的答案，但是在磕磕絆絆地前進(jìn)，它就有很快的迭代速度。你們應(yīng)當(dāng)嘗試去解決最感興趣的問題，和最令人印象深刻的人在一起，并相信你會不斷迭代到正確的事情。學(xué)習(xí)這門課程需要一段時間，但它會讓你知道它在運轉(zhuǎn)，讓你真的開始信任它。我認(rèn)為它比表面上聽起來要深刻得多。決定如何分配時間以及如何努力引導(dǎo)事情的指導(dǎo)原則對我很有幫助。
科恩布魯斯：我認(rèn)為這是追隨你的激情。你也從你畫的一幅有無限可能性的世界的畫中知道，你不能總是對你認(rèn)為對你有好處的事情這么有策略，你想做一些想象所有這些可能性并追隨這些激情的事情嗎？
奧特曼：對我來說，激情這個詞不太恰當(dāng)，它更像是我工作的道德義務(wù)，然后是我不開心的糟糕日子。不知何故，它比我最喜歡做的有趣的事情更能激勵我。
科恩布魯斯：麻省理工學(xué)院文化的真正核心部分是企業(yè)家精神，所以我們有許多有抱負(fù)的企業(yè)家。你如何看待在今天的生態(tài)系統(tǒng)中建立成功的公司？新的創(chuàng)業(yè)公司應(yīng)該把精力集中在哪里？
奧特曼：我再次認(rèn)為目前是創(chuàng)業(yè)的最佳時機，特別是在很長一段時間內(nèi)，創(chuàng)業(yè)公司往往會在大平臺轉(zhuǎn)移的時候取得成功。大公司比初創(chuàng)公司更慢，且缺乏創(chuàng)新性。相比較而言，初創(chuàng)公司在當(dāng)前擁有速度、迭代和周期優(yōu)勢，以及其他許多優(yōu)勢。目前就像是互聯(lián)網(wǎng)、移動計算、云服務(wù)當(dāng)年剛出現(xiàn)的時候一樣。然后再剩下的很長一段時間，比如十多年來我們一直在等待，我認(rèn)為現(xiàn)在我們終于有了一個新的平臺。以史為鑒，我認(rèn)為目前將是創(chuàng)業(yè)的最佳時間段。創(chuàng)辦一家初創(chuàng)公司，你們的優(yōu)勢是可以走得更快，可以比那些有季度、年度或其他規(guī)劃周期的大公司更好地適應(yīng)未來，這就是你獲勝的方式，我認(rèn)為現(xiàn)在就是創(chuàng)業(yè)的好時機。
提一點忠告，對于任何新的技術(shù)平臺，它們總是可以推動驚人的短期增長。對于人工智能創(chuàng)業(yè)公司而言，就像以前的移動初創(chuàng)公司和互聯(lián)網(wǎng)初創(chuàng)公司一樣，我們還沒有建立一個持久性的業(yè)務(wù)，而是建立了這種新奇的東西。這有點自欺欺人，因為神奇的技術(shù)讓初創(chuàng)公司得到了驚人的快速增長。塵埃尚未落定，神奇新技術(shù)并不能讓初創(chuàng)公司擺脫商業(yè)定律，你們?nèi)匀槐仨毾朕k法建立某種轉(zhuǎn)換成本，與客戶建立起關(guān)系。隨著時間推移，這種復(fù)合優(yōu)勢能夠讓你們脫穎而出。在淘金熱時期，我認(rèn)為處于危險中的初創(chuàng)公司往往會忘記這一點，所以你仍然必須像經(jīng)營企業(yè)一樣完成所有工作。這的確是我認(rèn)為非常重要的建議。
科恩布魯斯：像ChatGPT這樣的技術(shù)可能會在哪些方面威脅或幫助未來的工作?它如何幫助人們未來的就業(yè)?
奧特曼：從事人工智能工作的人最讓我惱火的一件事是，當(dāng)他們站起來，面無表情地說：“哦，這永遠(yuǎn)不會導(dǎo)致任何工作崗位的減少，這只是一個附加的事情，這一切都將變得很好，這將減少許多現(xiàn)有的工作崗位，改變許多現(xiàn)有工作崗位的運作方式，創(chuàng)造出全新的工作崗位。”技術(shù)的發(fā)展可能從來沒有這么快，雖然社會的惰性可能會比我們想象的要慢，我有點期待我們只需要一兩代人的時間，就能第一次看到人工智能技術(shù)對真實經(jīng)濟的影響。
有觀點認(rèn)為人工智能將會讓一些職業(yè)消失，但技術(shù)革命也會創(chuàng)造新的職業(yè)機會。人工智能會改變很多工作的性質(zhì)，并帶來全新的職業(yè)類別。這種變化需要時間來顯現(xiàn)其經(jīng)濟影響，好的或壞的，都將是我們可以實際測量和感受到的。在某種程度上，我確實覺得這次有所不同；就速度而言，我真的認(rèn)為會有所不同。我有些擔(dān)心我們能多快適應(yīng)這種變化，但我并不真正擔(dān)心我們最終能否適應(yīng)這種變化。社會契約將會改變，我相信未來的大多數(shù)工作將會與現(xiàn)在不同。在我看來，人類的深層驅(qū)動力似乎并不會消失。
科恩布魯斯：你的回答非常有趣且明顯。不同的工作類別肯定會受到不同的影響。拜登總統(tǒng)最近關(guān)于人工智能的行政命令以及關(guān)于人工智能監(jiān)管的國會聽證會傳遞出令人擔(dān)憂的信號。我們正處于支持創(chuàng)新和競爭，同時確保新興參與者能夠開拓下一個變革性技術(shù)的關(guān)鍵時刻，監(jiān)管框架可能會鞏固現(xiàn)有參與者的地位，扼殺創(chuàng)新競爭。你如何設(shè)想人工智能監(jiān)管？
奧特曼：我認(rèn)為我們面對的是其他種類的監(jiān)管。比如你在雜貨店買的食物不太可能讓你生病，我們都同意那里的監(jiān)管是好的；你希望能夠在后院種植食物，而且繞開一堆審批手續(xù)，你也可以這樣做。我認(rèn)為對于人工智能系統(tǒng)而言，會有一個閾值，超過這個閾值，我們會說：“好吧，這個系統(tǒng)會帶來一定程度的風(fēng)險。如果沒有合理的安全預(yù)防措施，我們不想冒這個風(fēng)險。”完全不監(jiān)管人工智能的想法雖然存在，但最終還是要通過民主進(jìn)程來決定。我完全有沖動說任何監(jiān)管行動都是不可接受的，因為只有大公司會利用它。如果社會決定我們根本不想監(jiān)管人工智能，我們只會碰碰運氣，接受民主進(jìn)程的結(jié)果。如果這個問題的框架是正確的，那么在我看來，不要出于恐懼而行動，而是在合理的范圍內(nèi)謹(jǐn)慎行事是有益的。
科恩布魯斯：麻省理工學(xué)院的教育重點之一，是培養(yǎng)未來的領(lǐng)導(dǎo)者成為計算雙語人才。這意味著無論他們選擇什么領(lǐng)域，都需要精通計算機科學(xué)和人工智能，以推進(jìn)他們的工作。能否評價一下我們的這種理念？
奧特曼：我對計算歷史的一個一般觀察是，隨著時間的推移，它變得越來越容易理解，越來越自然。就像人們很擅長用語言作為使用計算機的一種方式，你可以問一些問題，也可以問給計算機編程的方式，所以你看到這些事情就像匯聚到一個界面，你不必再掌握計算雙語。你可以用同樣的方式和一個人說話，可以和電腦交談。我認(rèn)為這是一件比表面上聽起來更深遠(yuǎn)的事情。我們可以推動人工智能和人擁有相同類型的界面，所以我對人形機器人比對其他形式更感興趣，因為我認(rèn)為這個世界是為人類設(shè)計的，我們應(yīng)該保持這種方式。我們希望機器人帶來好處，它可以幫助我們，我認(rèn)為我們希望人工智能系統(tǒng)能夠認(rèn)知和用語言與我們交流，這是一件非常人性化的事情，所以我希望我們不一定都是計算雙語人才。
科恩布魯斯：你認(rèn)為人工智能將如何影響金融領(lǐng)域，特別是銀行和股票市場？你是如何考慮的？
奧特曼：我沒有像我希望的那樣關(guān)注任何特定領(lǐng)域的問題，因為弄清楚如何獲得通用人工智能以及它意味著什么非常耗費精力。就像教育和醫(yī)療保健一樣，可能是我想到的兩個特定領(lǐng)域。就金融系統(tǒng)而言，我預(yù)計人工智能對該領(lǐng)域的影響會和其他領(lǐng)域一樣，但我沒有什么深刻的見解，能夠說明金融領(lǐng)域?qū)⑷绾无D(zhuǎn)變。
科恩布魯斯：許多人擔(dān)心人工智能會給課堂教學(xué)構(gòu)成影響。但我真的認(rèn)為，人工智能對我們?nèi)绾谓虒W(xué)，以及如何為個人量身定制受訓(xùn)課程等方面有巨大的潛力。你對此有何高見？
奧特曼：正如你所看到的那樣，已經(jīng)有學(xué)生使用GPT-4來充當(dāng)家庭教師。隨著人們開始采用下一代模型，并根據(jù)學(xué)習(xí)體驗對其進(jìn)行定制，我們將處于一個非常好的位置，看到人們已經(jīng)在構(gòu)建的東西，感覺非常棒。聽到老師講述對學(xué)生的影響是很好的。聽到學(xué)生講述他們自己正在學(xué)習(xí)的東西也是很好的，但這似乎是一種很好的使用方式。
科恩布魯斯：當(dāng)你雇用某人時，你會尋找什么？在座的有些人會非常好奇。
奧特曼：我們非常希望收到你們的求職電話，我認(rèn)為這可能是我們歷史上最激動人心的時刻，所以現(xiàn)在是給我們打電話的好時機。有些顯而易見的東西，比如有創(chuàng)見的思考者，聰明的有獻(xiàn)身精神的人，有些人特別喜歡從事人工智能研究，總有一群人會從事高領(lǐng)域的工作。（編譯/無忌）
