劃重點(diǎn)
1
楊立昆認(rèn)為，人工智能會(huì)過度傳播虛假信息，甚至導(dǎo)致人類滅絕的觀點(diǎn)過于悲觀。
2
他呼吁開源人工智能，并稱這項(xiàng)技術(shù)不應(yīng)該由少數(shù)實(shí)體公司控制。
3
楊立昆認(rèn)為OpenAI的初始設(shè)想就是錯(cuò)誤的，AGI也不會(huì)很快出現(xiàn)。
4
楊立昆承認(rèn)，機(jī)器的智力最終會(huì)超越人類，但這可能還需要幾年甚至幾個(gè)世紀(jì)。
科技新聞?dòng)?據(jù)外媒報(bào)道，作為現(xiàn)代人工智能領(lǐng)域的領(lǐng)軍人物和Meta首席人工智能科學(xué)家，楊立昆（Yann LeCun）是這一技術(shù)的堅(jiān)定捍衛(wèi)者。在他看來，那些總喜歡想象人工智能會(huì)帶來各種反烏托邦場景的同行們過于悲觀了，比如擔(dān)心人工智能會(huì)過度傳播虛假信息，甚至導(dǎo)致人類滅絕。
當(dāng)同被譽(yù)為“人工智能教父”的杰弗里辛頓（Geoffrey Hinton）和約書亞本吉奧（Yoshua Bengio）聲稱人工智能可能帶來“大規(guī)模社會(huì)風(fēng)險(xiǎn)”時(shí)，楊立昆選擇反對(duì)，并在給美國總統(tǒng)喬拜登（Joe Biden）的公開信上簽了名，呼吁擁抱開源人工智能，還說人工智能“不應(yīng)由少數(shù)幾家實(shí)體公司控制”。
楊立昆的觀點(diǎn)很重要，他被視為人工智能領(lǐng)域的人類守護(hù)神。他和辛頓、本吉奧一起開創(chuàng)了深度學(xué)習(xí)方法，這被認(rèn)為是提升人工智能水平的關(guān)鍵。他們因此還獲得了計(jì)算領(lǐng)域的最高榮譽(yù)“圖靈獎(jiǎng)”。2013年，Meta聘請楊立昆擔(dān)任Facebook人工智能研究實(shí)驗(yàn)室(FAIR)的創(chuàng)始主管。
楊立昆還說服了Meta的首席執(zhí)行官馬克扎克伯格（Mark Zuckerberg）分享他們公司的人工智能技術(shù)。今年夏天，Meta推出了一個(gè)叫Llama 2的開源大語言模型（LLM），跟OpenAI、微軟和谷歌的大模型一爭高下。但也有批評(píng)聲音說，這種開源策略可能會(huì)讓居心不良的人“鉆空子”，改代碼繞過安全護(hù)欄，導(dǎo)致大模型輸出種族歧視和其他不當(dāng)內(nèi)容。但楊立昆覺得人類有能力應(yīng)對(duì)這種情況。
今年12月初，楊立昆在新奧爾良參加頗具影響力的NeurIPS年度會(huì)議時(shí)，接受了《連線》雜志編輯史蒂芬列維（Steven Levy）的專訪。他們聊了技術(shù)開源、通用人工智能、OpenAI“逼宮”鬧劇、人工智能監(jiān)管等話題。楊立昆認(rèn)為，有關(guān)人工智能的危險(xiǎn)被夸大了：盡管它們可能接管世界，但不會(huì)征服或毀滅人類。
以下為專訪全文：
問：你最近表示“機(jī)器學(xué)習(xí)仍然很糟糕”，作為人工智能的先驅(qū)，你為什么會(huì)這樣說？
楊立昆：機(jī)器學(xué)習(xí)已經(jīng)取得了很大的進(jìn)步，但要達(dá)到人類水平的人工智能，我們還需要解決很多問題。要讓機(jī)器像人類和動(dòng)物那樣高效地學(xué)習(xí)，我們還需要探索一些未知的領(lǐng)域，還有很長的路要走。我并不想抨擊這些系統(tǒng)，也不想說它們毫無用處，畢竟我的整個(gè)職業(yè)生涯都在研究它們。但我們必須抑制某些人的過度興奮，因?yàn)椴⒎侵豢繑U(kuò)大規(guī)模就能讓人工智能達(dá)到人類水平。絕對(duì)不是這樣的。
問：你認(rèn)為指出這些問題是你的責(zé)任嗎？
楊立昆：是的，我認(rèn)為我有責(zé)任提醒人們?nèi)斯ぶ悄艿木窒扌浴ｋm然人工智能會(huì)為世界帶來很多好處，但過度夸大其能力可能會(huì)引發(fā)不必要的恐慌和誤解。這是我們在其他徹底改變世界的技術(shù)上犯下的錯(cuò)誤。以15世紀(jì)印刷機(jī)的發(fā)明為例，雖然它改變了權(quán)力結(jié)構(gòu)并引發(fā)了宗教沖突，但也帶來了啟蒙運(yùn)動(dòng)。因此，我們需要保持理性和客觀，避免過度炒作人工智能。
問：為什么這么多科技界知名人士對(duì)人工智能的快速發(fā)展敲響了警鐘？
楊立昆：有些人可能是因?yàn)閭�(gè)人關(guān)注或者對(duì)技術(shù)的天真理解而發(fā)出警告。但實(shí)際上，人工智能在很多方面已經(jīng)為人類帶來了實(shí)實(shí)在在的好處：比如幫助減少仇恨言論、錯(cuò)誤信息等。在Meta，人工智能系統(tǒng)已經(jīng)能夠提前刪除大部分仇恨言論，大大提高了內(nèi)容監(jiān)管的效率和準(zhǔn)確性。五年前，大約有20%到25%的仇恨言論會(huì)被人工智能系統(tǒng)提前刪除。去年，這個(gè)數(shù)字達(dá)到了95%。
問：你對(duì)聊天機(jī)器人有何看法？它們是否強(qiáng)大到足以取代人類的工作？
楊立昆：聊天機(jī)器人確實(shí)取得了很大的進(jìn)步，它們能夠?qū)懗龇浅Ａ鲿场L(fēng)格各異的文字，甚至在某種程度上增強(qiáng)了人們的創(chuàng)造力。但是，它們?nèi)匀淮嬖谝恍﹩栴}，比如可能會(huì)產(chǎn)生完全錯(cuò)誤的想法或者回答。
問：Meta似乎非常熱衷于開發(fā)人工智能技術(shù)并將其應(yīng)用到產(chǎn)品中？
楊立昆：Meta正在積極探索人工智能技術(shù)的各種可能性，并將其應(yīng)用到產(chǎn)品中。從長遠(yuǎn)來看，人工智能系統(tǒng)將會(huì)成為我們與數(shù)字世界甚至人與人之間交流的重要中介。目前雖然這些技術(shù)還不夠成熟，但Meta正在努力推動(dòng)其發(fā)展。例如，在WhatsApp上與聊天機(jī)器人進(jìn)行交流，或者在生活中使用各種由人工智能輔助生成的內(nèi)容和實(shí)時(shí)翻譯等。
問：在Meta的人工智能推廣過程中，馬克扎克伯格有多投入？
楊立昆：扎克伯格非常投入。今年早些時(shí)候，我和他深入討論過，他對(duì)于人工智能的未來充滿期待。我告訴他，未來我們與數(shù)字世界的所有互動(dòng)都將由人工智能來調(diào)解。ChatGPT等技術(shù)的出現(xiàn)，讓我們看到人工智能可以更早地應(yīng)用于新產(chǎn)品中，而公眾對(duì)這些功能的興趣也遠(yuǎn)遠(yuǎn)超出了我們的預(yù)期。因此，扎克伯格決定成立一個(gè)專注于生成式人工智能的產(chǎn)品部門，以推動(dòng)這一領(lǐng)域的發(fā)展。
問：為什么Meta決定將Llama代碼以開源的方式與其他人共享？
楊立昆：因?yàn)槲覀兿嘈砰_放的平臺(tái)能夠加速人工智能的發(fā)展。當(dāng)很多人都可以為平臺(tái)做出貢獻(xiàn)時(shí)，系統(tǒng)的性能和安全性會(huì)得到更好的提升。想象一下，如果未來我們與數(shù)字世界的所有互動(dòng)都由一個(gè)人工智能系統(tǒng)來協(xié)調(diào)，而這個(gè)系統(tǒng)被少數(shù)幾家大型科技公司控制，那將是多么可怕的事情。你肯定不希望那個(gè)人工智能系統(tǒng)被美國幾家大型科技公司控制。也許美國人不會(huì)在意，美國政府也不會(huì)在意。但我告訴你，在歐洲，他們不喜歡這樣。他們會(huì)說：“這些模型處理英語任務(wù)相當(dāng)不錯(cuò)，那么法語、德語、匈牙利語、荷蘭語或者其他任務(wù)怎么樣？你們是怎么訓(xùn)練它的？這又如何反映我們的文化？”
問：這似乎是一個(gè)讓初創(chuàng)公司使用你們的產(chǎn)品并擊敗競爭對(duì)手的好方法。
楊立昆：我們并不是想打敗任何人，而是希望推動(dòng)人工智能技術(shù)的發(fā)展和應(yīng)用。我們相信開源是推動(dòng)技術(shù)創(chuàng)新和行業(yè)發(fā)展的重要途徑。當(dāng)一個(gè)平臺(tái)成為通信結(jié)構(gòu)的重要組成部分時(shí)，我們需要一個(gè)共同的基礎(chǔ)設(shè)施來促進(jìn)合作和發(fā)展。
問：OpenAI似乎不同意這一點(diǎn)，你本人也似乎不太喜歡這家公司。
楊立昆：我對(duì)OpenAI的看法并不是喜不喜歡的問題，而是基于他們對(duì)人工智能發(fā)展的理解和實(shí)踐。首先，我認(rèn)為OpenAI的初始設(shè)想是錯(cuò)誤的，他們曾計(jì)劃創(chuàng)建一個(gè)非營利組織來做人工智能研究以平衡行業(yè)巨頭的影響力。但我認(rèn)為這是錯(cuò)誤的，事實(shí)也證明這并不現(xiàn)實(shí)。其次，除非你有辦法籌集資金，否則你很難進(jìn)行實(shí)質(zhì)性的人工智能研究。最終，他們不得不創(chuàng)建了一個(gè)以營利為目的的部門，并獲得了微軟的投資。他們基本上已經(jīng)成了微軟的附屬研究機(jī)構(gòu)，盡管保持了一定的獨(dú)立性。最后，OpenAI認(rèn)為實(shí)現(xiàn)通用人工智能（AGI）已經(jīng)指日可待，并將比任何人都更早開發(fā)出它。但我認(rèn)為，這過于樂觀，時(shí)間將會(huì)證明一切。
問：山姆奧特曼（Sam Altman）被短暫解除了首席執(zhí)行官職務(wù)，然后又在董事會(huì)重建的情況下回歸，你如何看待OpenAI的這起戲劇性事件？你認(rèn)為這對(duì)研究界或整個(gè)行業(yè)有何影響？
楊立昆：我認(rèn)為研究界不用太關(guān)心OpenAI了，因?yàn)樗麄兗炔话l(fā)表研究論文，也不透露自己在做什么。我以前的一些同事和學(xué)生在OpenAI工作，我為他們感到難過，因?yàn)樵摴疽廊惶幱趧?dòng)蕩之中。而研究需要非常穩(wěn)定的環(huán)境，當(dāng)你遇到像這樣的戲劇性事件時(shí)，人們會(huì)對(duì)未來充滿疑慮。此外，對(duì)研究人員來說，另一個(gè)重要的方面是保持開放性，而OpenAI實(shí)際上已經(jīng)不再開放了。所以O(shè)penAI在某種意義上已經(jīng)改變了，他們不再被視為研究社區(qū)的貢獻(xiàn)者。
問：OpenAI的這次高層變動(dòng)被看作是人工智能領(lǐng)域“加速主義”的勝利，而加速主義恰恰是末日論的對(duì)立面。我知道你不是末日論者，那你是加速論者？
楊立昆：其實(shí)，我并不喜歡被歸入任何一種思想流派。我傾向于保持審慎，不把任何想法推向極端，因?yàn)檫^于極端的想法很容易讓人做出不明智的決定。
問：歐盟最近出臺(tái)了一套人工智能法規(guī)，其中一項(xiàng)內(nèi)容就是基本上豁免了對(duì)開源模型的限制。這對(duì)Meta和其他公司會(huì)產(chǎn)生什么影響？
楊立昆：這對(duì)Meta產(chǎn)生了一定影響，但我們有足夠的力量去適應(yīng)各種監(jiān)管規(guī)定。對(duì)于那些沒有自有資源的公司來說，從零開始構(gòu)建人工智能系統(tǒng)會(huì)更加困難。他們可以利用開源平臺(tái)來打造符合自身文化、語言和需求的人工智能系統(tǒng)。未來，我們與數(shù)字世界的互動(dòng)將越來越多地由人工智能系統(tǒng)來協(xié)調(diào)，我們不希望這種協(xié)調(diào)權(quán)掌握在少數(shù)幾家加州公司手中。
問：你是否參與了相關(guān)的討論，為監(jiān)管機(jī)構(gòu)提供了一些建議？
楊立昆：是的，雖然我并沒有直接與監(jiān)管機(jī)構(gòu)接觸。我一直在與各國政府進(jìn)行對(duì)話，尤其是法國政府，但也間接與其他國家進(jìn)行了溝通�；旧�，我向他們傳遞了這樣的信息：你們不希望本國公民的數(shù)字生活被少數(shù)人控制。法國政府很早就接受了這一觀點(diǎn)。不過，我并沒有直接與歐盟層面的人接觸，他們受到了一些末日預(yù)言的影響，想要通過監(jiān)管來防止可能發(fā)生的災(zāi)難。但這一觀點(diǎn)被法國、德國和意大利政府所反駁，他們認(rèn)為應(yīng)該為開源平臺(tái)制定特殊的條款。
問：開源人工智能真的很難控制和監(jiān)管嗎？
楊立昆：其實(shí)并非如此。對(duì)于那些關(guān)乎安全的產(chǎn)品，已經(jīng)有相關(guān)的法規(guī)進(jìn)行監(jiān)管。比如，如果你要用人工智能來研發(fā)新藥，已經(jīng)有法規(guī)確保這種產(chǎn)品的安全性。我認(rèn)為這是十分合理的�，F(xiàn)在人們爭議的焦點(diǎn)在于，監(jiān)管人工智能的研發(fā)到底有沒有意義？我認(rèn)為這并不會(huì)起到太大的作用。
問：難道就不能有人利用大公司發(fā)布的復(fù)雜開源系統(tǒng)進(jìn)行改進(jìn)，然后用它來接管世界嗎？通過訪問源代碼和權(quán)重（指用于衡量、調(diào)整不同特征和參數(shù)相對(duì)重要性的數(shù)值），恐怖分子或騙子可能會(huì)給人工智能系統(tǒng)帶來破壞性影響。
楊立昆：他們需要在一個(gè)無人察覺的地方部署2000個(gè)GPU，這需要大量的資金和人才來完成這項(xiàng)工作。我們可以通過不斷進(jìn)步來保持領(lǐng)先地位，而取得更快進(jìn)展的方法則是開放研究，讓更廣泛的社區(qū)為研究做出貢獻(xiàn)。
問：你如何定義通用人工智能（AGI）？
楊立昆：我個(gè)人不太喜歡“通用人工智能”這個(gè)概念，因?yàn)樵谖铱磥恚⒉淮嬖谡嬲耐ㄓ弥悄�。智能并非一個(gè)單一的、可度量的線性概念，而是涉及到各種不同類型的智能實(shí)體和技能。
問：一旦我們成功地讓計(jì)算機(jī)達(dá)到人類的智力水平，你認(rèn)為它們會(huì)止步于此嗎？或者憑借其深厚的知識(shí)、超強(qiáng)的數(shù)學(xué)能力和更先進(jìn)的算法，它們會(huì)創(chuàng)造出所謂的“超級(jí)智能”？
楊立昆：對(duì)此我深信不疑。從長遠(yuǎn)來看，機(jī)器的智力最終會(huì)超越人類。至于這需要多長時(shí)間，可能是幾年，也可能是幾個(gè)世紀(jì)，我們不得而知。
問：在那個(gè)時(shí)刻到來之前，我們是否應(yīng)該提前做好準(zhǔn)備？
楊立昆：當(dāng)那一天真正到來的時(shí)候，我們將會(huì)擁有智能助手，就像與一群超級(jí)聰明的人一同工作一樣。當(dāng)然，它們并不是真實(shí)的人類。有些人可能會(huì)對(duì)此感到恐慌，但我卻對(duì)此充滿期待。因?yàn)榕c比我更聰明的人一同工作，無疑會(huì)提升我的能力。
問：但如果計(jì)算機(jī)真的變得超級(jí)智能，它們?yōu)槭裁催�需要我們呢？
楊立昆：僅僅因?yàn)槿斯ぶ悄芟到y(tǒng)很聰明，并不意味著它們就會(huì)有統(tǒng)治人類的欲望。事實(shí)上，如果我們設(shè)計(jì)得當(dāng)，它們不會(huì)有這樣的動(dòng)機(jī)。
問：但如果出現(xiàn)了意外情況，一個(gè)追求某個(gè)目標(biāo)而忽略了人類安全的人工智能系統(tǒng)，就像哲學(xué)家尼克博斯特羅姆提出的“回形針假設(shè)”那樣，那該怎么辦？（這個(gè)假設(shè)是，一個(gè)人工智能系統(tǒng)被要求制造盡可能多的回形針，它在最大化生產(chǎn)的過程中可能會(huì)毀滅全人類。）
楊立昆：如果我們構(gòu)建一個(gè)人工智能系統(tǒng)而沒有設(shè)置任何限制和防護(hù)措施，那將是非常不負(fù)責(zé)任的。這就好比制造了一輛超過1000馬力的汽車，卻沒有配備剎車系統(tǒng)。因此，為人工智能系統(tǒng)設(shè)定明確的驅(qū)動(dòng)目標(biāo)并確保其可控性是至關(guān)重要的，我稱之為“目標(biāo)驅(qū)動(dòng)型AI”。目前我們尚未有任何相關(guān)的實(shí)際應(yīng)用案例。
問：這是你目前的主要研究方向嗎？
楊立昆：是的。這個(gè)想法的核心是，為人工智能系統(tǒng)設(shè)定明確的目標(biāo)，并確保其行為始終與這些目標(biāo)保持一致。同時(shí)，這些目標(biāo)中也應(yīng)包含一些防止危險(xiǎn)情況發(fā)生的限制條件。這樣才能真正確保人工智能系統(tǒng)的安全可控。
問：你認(rèn)為自己會(huì)因?yàn)橥苿?dòng)人工智能進(jìn)步而感到后悔嗎？
楊立昆：如果我真的會(huì)因此而感到后悔，那我可能就不會(huì)繼續(xù)從事當(dāng)前的工作了。
問：你熱愛爵士樂。那么，人工智能能否創(chuàng)造出與人類相媲美的、迄今為止只有人類才能創(chuàng)作的作品嗎？它能創(chuàng)作出有靈魂的作品嗎？
楊立昆：這個(gè)問題很復(fù)雜。從某種程度上說，人工智能系統(tǒng)最終將能創(chuàng)作出與人類相似的，甚至可能質(zhì)量更高的音樂、視覺藝術(shù)等作品。然而，人工智能系統(tǒng)無法像人類一樣進(jìn)行即興創(chuàng)作，因?yàn)榧磁d音樂依賴于人類的情緒和情感交流。至少現(xiàn)在還沒有實(shí)現(xiàn)。這也是為什么要去現(xiàn)場聆聽爵士樂的原因。
問：你還沒有回答我的問題，即那種音樂是否有靈魂？
楊立昆：有些音樂完全沒有靈魂，它們只是作為餐館里的背景音樂播放。這些音樂主要由機(jī)器生成，以滿足市場需求。
問：但我所說的是藝術(shù)的巔峰之作。如果我播放一段超越查理帕克（Charlie Parker）最高水平的音樂，并告訴你這是由人工智能生成的，你會(huì)覺得被騙了嗎？
楊立昆：在某種程度上會(huì)。因?yàn)橐魳凡粌H僅是一種聽覺體驗(yàn)，它還與文化等很多其他因素有關(guān)。真實(shí)是藝術(shù)體驗(yàn)的重要組成部分。
問：如果人工智能系統(tǒng)足夠好，能夠匹配知名藝術(shù)家的成就，而你卻不知道背后的故事，那么市場上就會(huì)充斥著查理帕克級(jí)別的音樂，而我們卻無法分辨其中的區(qū)別。
楊立昆：我不認(rèn)為這有什么問題。出于同樣的原因，我仍然愿意花300美元購買一個(gè)數(shù)百年前手工制作的碗，盡管我可以花5美元買到看起來幾乎一樣的東西。我們?nèi)匀粫?huì)去聽我最喜歡的爵士音樂家的現(xiàn)場演奏，盡管他們可能被模仿。但人工智能系統(tǒng)的體驗(yàn)是不一樣的。
問：你最近獲得了法國總統(tǒng)頒發(fā)的“榮譽(yù)軍團(tuán)騎士”勛章，你認(rèn)為人工智能模型有可能贏得這個(gè)獎(jiǎng)項(xiàng)嗎？
楊立昆：短期內(nèi)不太可能，而且我個(gè)人也不認(rèn)為這是個(gè)好主意。（編譯/金鹿）
