《AI未來指北》欄目由科技新聞推出，邀約全球業(yè)內(nèi)專家、創(chuàng)業(yè)者、投資人，探討AI領(lǐng)域的技術(shù)發(fā)展、商業(yè)模式、應(yīng)用場景及治理挑戰(zhàn)。
作者 | 科技新聞郝博陽
“深度學(xué)習(xí)三巨頭”這個(gè)稱謂在AI的熱潮之中對各位讀者而言肯定不陌生。但深度學(xué)習(xí)人才濟(jì)濟(jì)之中，是靠什么評價(jià)標(biāo)準(zhǔn)單單拎出Hinton，Yann Lecun，Yoshua Bengio這三位稱為巨頭？沒有比賽，辯論，排名，這個(gè)名頭是靠著AI領(lǐng)域最著名的記者凱德梅茨早在18年用筆定下的。
作為《連線》雜志資深作家，《紐約時(shí)報(bào)》人工智能欄目主筆，《深度學(xué)習(xí)革命》作者凱德梅茨在十幾年的從業(yè)經(jīng)歷之中基本上采訪了所有AI領(lǐng)域的知名專家，Sam Altman 在發(fā)布ChatGPT前和他咨詢意見，Hinton離開谷歌后找他談心。通過接觸這些核心人物，他還深入微軟，谷歌，Meta這樣的AI巨頭之中挖掘出各種核心商業(yè)決策背后的核心時(shí)刻和戲劇場面，前段時(shí)間寫成的《深度學(xué)習(xí)革命》一書，也首次披露了十年前那場改變?nèi)斯ぶ悄苓M(jìn)程的秘密競拍。
書中細(xì)致報(bào)道了發(fā)生在2012年，那場對整個(gè)人工智能行業(yè)都產(chǎn)生了深遠(yuǎn)影響的競拍會。
2012年12月，在太浩湖滑雪山腳下的一家賭場酒店中，因腰椎間盤突出而無法坐下的Hinton和他的兩名學(xué)生入住了一周。他和他剛剛成立，還沒有任何產(chǎn)品的公司接受著這個(gè)世界上最有名的公司們一輪輪的競拍，這些公司中，有微軟，谷歌，Deepmind 和百度。
最戲劇性的畫面出現(xiàn)在Hinton應(yīng)付百度派出的時(shí)任研究院副院長余凱的突然來訪時(shí)，為了“不讓他認(rèn)為我已經(jīng)衰老了”，每次都要求他的學(xué)生們收拾好為了讓他腰痛緩解臨時(shí)用沙發(fā)墊搭出的雨棚，這讓他們頗為手忙腳亂。在某次來訪中，Hinton面對著余凱落下了的背包還和學(xué)生糾結(jié)了半天是否要翻找其中百度底價(jià)的信息。但最終還是尊嚴(yán)讓他們作罷。最后，在一周時(shí)間后，Hinton接受了谷歌的報(bào)價(jià)，把這個(gè)還完全是空殼的公司以4400萬美元的價(jià)格賣給了這個(gè)巨頭，并掀開了巨頭AI戰(zhàn)爭的帷幕。
在他的職業(yè)生涯中，這樣充滿細(xì)節(jié)和戲劇沖突的場景處處可見。因此稱他為AI領(lǐng)域最深入的觀察者并不為過。
在這次訪談中，梅茨再次展示了他對與AI領(lǐng)域的廣博學(xué)識，從深度學(xué)習(xí)的歷史和核心時(shí)刻，談到AI的未來與對人類社會的影響。他還特別對中國的人工智能情況做出了他觀察家式的評價(jià)。
他認(rèn)為Sam Altman之所以能讓OpenAI脫穎而出，主要在于其強(qiáng)大的談判能力促成了OpenAI和微軟的合作。他也認(rèn)為中美在AI上的差距不如大眾所想的那么遠(yuǎn)，因?yàn)楝F(xiàn)有技術(shù)本身沒有什么護(hù)城河。對于AI的未來，他有著和Hinton相似的憂慮，會擔(dān)心AGI的出現(xiàn)會給社會帶來巨大的變革。旁觀者清，以下是來自AI觀察者的灼見。
劃重點(diǎn)：
1AI發(fā)展上的兩個(gè)重要時(shí)刻，一是AlexNet論文發(fā)布，讓學(xué)術(shù)界了解了神經(jīng)網(wǎng)絡(luò)在圖像識別方面可以取得很大的成功。另一個(gè)就是ChatGPT的發(fā)布，它讓公眾大開眼界。
2中國的公司很有可能很快在語言模型方面追上OpenAI，因?yàn)閮烧咧g知識，資金和資源的整體差距不大。
3AI方面的媒體炒作確實(shí)存在，因?yàn)榇蠹覍τ谶@個(gè)系統(tǒng)的缺限了解不深。GPT在推理和預(yù)測方面的能力都很弱，遠(yuǎn)達(dá)不到AGI的水平。但現(xiàn)階段AI的風(fēng)險(xiǎn)確是實(shí)打?qū)嵉摹?/p>
4如果AGI到來，人類的處境會惡化。因?yàn)樗麄冏鳛楣と说膬r(jià)值就會降為零，讓機(jī)器來做所有這些事情比雇傭人類更便宜。但現(xiàn)在的AI還離這個(gè)目標(biāo)很遠(yuǎn)。
01 中美差距沒那么大，AI沒有護(hù)城河
科技新聞：
現(xiàn)在關(guān)于OpenAI的故事已經(jīng)成為人們關(guān)注的焦點(diǎn)，你在書中已經(jīng)寫了很多關(guān)于它的建立和歷程的故事。你能談?wù)凷am Altman嗎？是什么品質(zhì)使他能夠領(lǐng)導(dǎo)OpenAI走到今天的位置？
凱德梅茨：
Sam 很有野心，他擅長說服人們做他想讓他們做的事情。坦白說，他擅長組建團(tuán)隊(duì)，并讓他們走上特定的道路。這不僅僅是關(guān)于開發(fā)技術(shù)的水平。他們需要大量的資金來做到這一點(diǎn)。訓(xùn)練這些類型的系統(tǒng)需要數(shù)千萬美元，甚至數(shù)億美元。我曾說過，分析所有的互聯(lián)網(wǎng)文本并學(xué)習(xí)，并讓這些系統(tǒng)自己學(xué)習(xí)，這需要花費(fèi)數(shù)月時(shí)間，需要大型計(jì)算系統(tǒng)支持，而這些系統(tǒng)實(shí)際上是由大型科技公司擁有和控制的。
Sam大約在2019年就籌集了10多億美元。因此，他的相當(dāng)一部分技能就是通過談判來促成這筆交易。這是一筆巨額交易，Sam獲得了他所需的資金，也獲得了他所需的算力。后來，他們從微軟籌集了另外的110多億美元，也就是總共籌集了近130億美元。這是他如此關(guān)鍵的一個(gè)重要原因。
科技新聞：
您提到了微軟，但它在上一波人工智能浪潮中完全落后于競爭對手。那為什么微軟在這波AI浪潮中能夠抓住這個(gè)機(jī)會，如此迅速的行動起來？
凱德梅茨：
這對微軟來說是一個(gè)有趣的動作。他們曾經(jīng)在這場競爭落后過，但他們意識到正在建立的技術(shù)的重要性。他們之前也遇到了很多困難，他的對手谷歌和其他公司有一個(gè)可以使用這項(xiàng)技術(shù)的場景：谷歌首先在安卓手機(jī)和它的數(shù)字助手Google Home上大規(guī)模部署了神經(jīng)網(wǎng)絡(luò)，用于語音識別。因此，當(dāng)你在家里使用這些智能音箱時(shí)，它們可以回答你的問題。谷歌能如此快的開始部署這項(xiàng)技術(shù)，因?yàn)樗麄冇锌梢圆渴鹚膱鼍昂陀布�。而微軟沒有這個(gè)場景。
但是，當(dāng)微軟終于嘗試部署它時(shí)，他們還是遇到了別的問題。幾年前，他們在美國推出了一個(gè)名為Tay的聊天機(jī)器人，它幾乎一上架就開始產(chǎn)生一些冒犯人的信息，包括種族主義信息。微軟只能很快就將其下架了。
這是AI技術(shù)在美國發(fā)展過程中的故事的一面，因?yàn)檫@些系統(tǒng)有時(shí)會產(chǎn)生不必要的文本，這些文本對某些人有偏見，產(chǎn)生仇恨言論。因此大公司很難下決心推出這種產(chǎn)品，他們不想冒那樣的風(fēng)險(xiǎn)。但是微軟通過和OpenAI的合作，由OpenAI來推出這個(gè)系統(tǒng)，這樣人們就不會像對微軟那樣對其缺陷做出強(qiáng)烈的反應(yīng)。人們會接受這些缺陷來自一個(gè)小而不知名的公司，但不會接受來自像微軟這樣知名的公司的缺陷。
科技新聞：
根據(jù)你的觀察，中美在人工智能領(lǐng)域的差距有多大？你認(rèn)為中國在人工智能方面有哪些優(yōu)勢？
凱德梅茨：
中國在這方面已經(jīng)有一段時(shí)間的研究了。有很多人和公司了解這里所涉及的技術(shù)，但也可能存在困難。訓(xùn)練這些系統(tǒng)所需的計(jì)算機(jī)芯片，在最高水平上是由美國公司制造的�，F(xiàn)在有貿(mào)易禁令，這些芯片不能銷售給中國。這可能是一個(gè)劣勢。
當(dāng)涉及到構(gòu)建這種技術(shù)時(shí)，我們將看到它如何發(fā)揮作用。Sam Altman最近表示，他覺得中國落后了兩年。這是一個(gè)估計(jì)。我認(rèn)為，整個(gè)行業(yè)可以很快跟上他和他公司所做的事情。我們已經(jīng)開始看到這種情況了，我認(rèn)為這在中國也可以發(fā)生。
科技新聞：
這種差距是在變大還是變�。�
凱德梅茨：
由于貿(mào)易禁令的原因，很難說清楚。這是一個(gè)中國面臨的困難。據(jù)我所知，中國正在努力建造、設(shè)計(jì)和供應(yīng)數(shù)據(jù)中心所需的芯片和設(shè)備。
無論是在中國還是在美國，我們都將不得不面對貿(mào)易摩擦如競爭中發(fā)揮的諸多潛在作用。現(xiàn)在人們普遍認(rèn)為，OpenAI的技術(shù)目前領(lǐng)先于大多數(shù)競爭者。但這個(gè)世界上仍有許多其他公司擁有著足夠的知識和資金，并可以接觸到所需的資源來進(jìn)行真正競爭。
因此，在AI競爭上我們還處于早期階段，還有許多道路需要去探索。結(jié)果還需要等等看。
科技新聞：
你在書中提到了百度。中國的這家公司也在2012年開始嘗試這種人工智能技術(shù)，這已經(jīng)是這場競賽的早期階段了。你認(rèn)為今天為什么它沒有展現(xiàn)出優(yōu)勢？你認(rèn)為這種情況的主要影響因素是什么？
凱德梅茨：
我認(rèn)為是想法在推動這個(gè)領(lǐng)域發(fā)展的。深度學(xué)習(xí)在全世界都很有名，中國的研究人員也建立了類似的技術(shù)。但就像在美國一樣，人們對也我之前提到的人類反饋訓(xùn)練這一步驟的效果感到驚訝。因此，他們在將這種技術(shù)（人類反饋訓(xùn)練）應(yīng)用于大型語言模型方面比美國的許多人慢了一步。
科技新聞：
你提到了很多其他公司也在這場競賽中，除了像OpenAI、Google和Meta這樣的大公司之外，還有哪些值得關(guān)注的小公司呢？
凱德梅茨：
有一家名為Anthropic的公司，它由一群離開OpenAI的人創(chuàng)立的。這個(gè)公司不太知名，但在這個(gè)領(lǐng)域里他們將會變得很重要。他們幫助構(gòu)建了許多形成ChatGPT的技術(shù)，并建立了自己的聊天機(jī)器人，但尚未向普通公眾發(fā)布。我估計(jì)它的能力會和ChatGPT相當(dāng)。
在多倫多有一家名為Coherence的公司也正在做類似的事情；在美國有一家由前谷歌員工創(chuàng)立的公司叫做Character.AI；還有一家叫做Inflection AI的公司，是由DeepMind的創(chuàng)始人之一創(chuàng)立的。DeepMind是另一個(gè)位于倫敦的重要實(shí)驗(yàn)室，基本上是由谷歌擁有的。
科技新聞：
對于在AI細(xì)分領(lǐng)域發(fā)展的的公司，它們的機(jī)會在哪里？
凱德梅茨：
這些小領(lǐng)域的工作方式是，一旦有人構(gòu)建了一個(gè)被稱為大型語言模型的系統(tǒng)，你就可以使用它來構(gòu)建各種其他技術(shù)。你可以構(gòu)建一個(gè)聊天機(jī)器人，你可以構(gòu)建一個(gè)搜索引擎，你可以構(gòu)建一個(gè)個(gè)人導(dǎo)師。因此，OpenAI正在做的是他們構(gòu)建了這個(gè)核心系統(tǒng)。他們稱之為GPT-4，然后他們向任何想使用它的其他企業(yè)提供這個(gè)系統(tǒng)。這是創(chuàng)建其他應(yīng)用程序的一種方式。
這就是我們開始看到的。我認(rèn)為你會看到像OpenAI這樣的公司提供這種服務(wù)。每個(gè)人都可以使用它在其上來構(gòu)建自己的應(yīng)用程序。因此，我認(rèn)為有各種各樣的機(jī)會，公司可以利用這個(gè)核心服務(wù)，然后在其上構(gòu)建新的東西并銷售這些應(yīng)用程序。但是最難的是構(gòu)建這個(gè)核心服務(wù)，沒有多少公司能夠做到這一點(diǎn)。在美國有谷歌、微軟、Meta等巨頭，另外只有少數(shù)初創(chuàng)公司擁有所需的資金和人才。就像我之前說的，你需要數(shù)億美元來構(gòu)建這個(gè)核心系統(tǒng)。因此目前對于小公司來說，在構(gòu)建基礎(chǔ)模型方面與它們競爭是很困難的。
很多人認(rèn)為，隨著價(jià)格的下降和開源項(xiàng)目的不斷改進(jìn)，人們將更容易地構(gòu)建自己的核心系統(tǒng)，這種情況最終會發(fā)生改變。但我并不確定。
02 AI發(fā)展的兩個(gè)里程碑：一場競拍與ChatGPT的誕生
科技新聞：
您作為一名資深的AI作者，在自己長達(dá)十幾年的職業(yè)生涯中基本上一直都在專注于深度學(xué)習(xí)這個(gè)領(lǐng)域，并結(jié)實(shí)了這個(gè)領(lǐng)域中的所有重要角色，參與了其間的各個(gè)決定性時(shí)刻。是什么契機(jī)讓您關(guān)注到這個(gè)領(lǐng)域？
凱德梅茨：
大約在2011年或2012年，我加入了舊金山的《連線》雜志。這是我決定專注于的領(lǐng)域之一。在十多年前那個(gè)時(shí)候已經(jīng)可以嗅到這個(gè)領(lǐng)域?qū)兊梅浅Ｖ匾�。那時(shí)發(fā)生了幾個(gè)關(guān)鍵時(shí)刻，讓我對這項(xiàng)技術(shù)產(chǎn)生了興趣。
Hinton是《深度學(xué)習(xí)革命》這本書中的主角，我寫了一些關(guān)于他的崛起以及神經(jīng)網(wǎng)絡(luò)這個(gè)關(guān)鍵概念的文章，正是這個(gè)概念推動了過去10年中許多進(jìn)步的實(shí)現(xiàn)。他最終于2013年加入了谷歌。
后來我才知道，這是全球幾家最大的科技公司之間的一場競拍，包括谷歌、微軟和中國的百度等。那是一個(gè)關(guān)鍵時(shí)刻，你可以看到一些事情開始發(fā)生。多年來，我開始越來越多地報(bào)道這個(gè)領(lǐng)域，并認(rèn)識了像Hinton和他的老同事Yann Lecun這樣的人，他最終加入了Facebook，現(xiàn)在是Meta，以及其他領(lǐng)域的人。我們開始在《連線》雜志上進(jìn)行大量報(bào)道，然后它的影響越來越大。最終，我決定寫一本關(guān)于這個(gè)領(lǐng)域的書，當(dāng)我從《連線》雜志轉(zhuǎn)到《紐約時(shí)報(bào)》時(shí)，我繼續(xù)報(bào)道這個(gè)領(lǐng)域。
科技新聞：
作為長期跟蹤AI的記者，就像穿越了周期一般，你經(jīng)歷了機(jī)器學(xué)習(xí)領(lǐng)域的低谷時(shí)期，在那段時(shí)間中明斯基的符號主義大行其道，深度學(xué)習(xí)被認(rèn)為從原理上都不可能產(chǎn)生出有效的人工智能。在你看來是什么讓辛頓等人堅(jiān)持下來的？
凱德梅茨：
Hinton在1972年開始研究神經(jīng)網(wǎng)絡(luò)。在那時(shí)，幾乎沒有人相信它會成功，因?yàn)?strong>整個(gè)人工智能領(lǐng)域都放棄了神經(jīng)網(wǎng)絡(luò)這個(gè)方向。但Hinton是一個(gè)有主見的人，真正相信自己的信仰，他堅(jiān)定不移地堅(jiān)持著這個(gè)方向。
到了80年代，很大程度上是因?yàn)镠inton 自己的努力，這項(xiàng)技術(shù)取得了一些重大進(jìn)展。很多人開始重新相信這個(gè)想法。但到了90年代初，人們又放棄了，但他繼續(xù)工作，他一直保持著一貫的態(tài)度。他們相信這個(gè)想法會繼續(xù)改進(jìn)，他們是正確的。這個(gè)故事之所以如此有趣，部分原因是即使在面對如此多的懷疑，甚至是來自他們親密的同事，他們?nèi)匀焕^續(xù)工作。
真正讓整個(gè)行業(yè)大開眼界的時(shí)刻是現(xiàn)在被稱為AlexNet論文的那個(gè)時(shí)刻。這是由Hinton和他在多倫多大學(xué)的兩個(gè)學(xué)生撰寫的研究論文，展示了神經(jīng)網(wǎng)絡(luò)在圖像識別方面可以取得很大的成功，可以識別照片中的物體，如花朵、汽車、人、動物等等。
當(dāng)這篇論文在2012年發(fā)表時(shí)，它讓谷歌、微軟、百度和最終Facebook都大開眼界。我們能看到這場人才爭奪戰(zhàn)，看到這場將這個(gè)想法應(yīng)用于地球上一些最大的公司內(nèi)部的熱潮，不僅應(yīng)用于圖像識別，還應(yīng)用于語音識別、翻譯等等。那篇論文是一個(gè)關(guān)鍵時(shí)刻。這就是為什么我的書以那篇論文為開端，那是Hinton將自己的公司拍賣給出價(jià)最高者的時(shí)刻，那引發(fā)了其他一切的發(fā)展。
從那時(shí)起一直到今天，我們一直在持續(xù)進(jìn)步。上面提到的2012年的行業(yè)意識覺醒是一個(gè)關(guān)鍵時(shí)刻，而10年之后的此刻，ChatGPT發(fā)布了，這是另一個(gè)關(guān)鍵時(shí)刻。當(dāng)我們回顧AI的歷史的時(shí)候，這兩個(gè)時(shí)刻都是非常重要的轉(zhuǎn)折點(diǎn)。
科技新聞：
在您的書中，您描述了深度學(xué)習(xí)的發(fā)展過程，像AlphaGo、Deepfake和GPT系列這樣的產(chǎn)品里程碑式的產(chǎn)品都引發(fā)了廣泛的公眾討論。但直到ChatGPT出現(xiàn)，每個(gè)人才真正感到真正的工業(yè)革命來臨，到底是什么讓GPT系列如此與眾不同？
凱德梅茨：
這是一個(gè)很好的問題。GPT和ChatGPT的相關(guān)技術(shù)已經(jīng)被開發(fā)了有一段時(shí)間了。在過去的五年中，幾家公司一直在開發(fā)這種技術(shù)，OpenAI最終開發(fā)了Chat GPT，谷歌、Meta（前Facebook）和微軟等公司也在五年前開始開發(fā)所謂的大型語言模型。
這個(gè)技術(shù)的基礎(chǔ)想法是建立一個(gè)神經(jīng)網(wǎng)絡(luò)，一個(gè)可以從數(shù)據(jù)中學(xué)習(xí)的數(shù)學(xué)系統(tǒng)。盡可能多地輸入文本，然后它會分析這些文本，在分析這些文本的過程中，它學(xué)會了自己生成文本。通過分析維基百科文章、博客文章、聊天記錄和互聯(lián)網(wǎng)上的各種內(nèi)容，它識別出了我們組合單詞的方式中的模式，并學(xué)會了這種方式。在過去的幾年中，我們看到了這種技術(shù)的成果，并且有好幾個(gè)有趣的系統(tǒng)被發(fā)布了。
OpenAI發(fā)布了GPT-2，GPT-3，它們都很令人印象深刻。我們可以看到這些系統(tǒng)開始像人類一樣產(chǎn)生文本。但真正讓普通大眾意識到這一點(diǎn)的是ChatGPT的發(fā)布。其他公司甚至在幾個(gè)月前、幾周前就已經(jīng)發(fā)布了他們自己的聊天機(jī)器人，比如 Meta（前Facebook）在科學(xué)界發(fā)布了一個(gè)聊天機(jī)器人，但這對人們來說不僅無趣，而且還遭到嘲諷。因?yàn)樗鼤a(chǎn)生虛假信息，人們對此感到非常不滿。Meta很快就將其下架了。但在那之后不久，OpenAI在Twitter上發(fā)布了ChatGPT。
它之所一下火爆的部分原因是發(fā)布方式，部分原因是發(fā)布公司。但ChatGPT確實(shí)在某些關(guān)鍵技術(shù)方面得到了改進(jìn)。因?yàn)樵跇?gòu)建這些從整個(gè)互聯(lián)網(wǎng)中學(xué)習(xí)的大型語言模型的過程中，他們將人類反饋應(yīng)用于其中。他們讓人類評價(jià)這個(gè)聊天機(jī)器人的回答。他們讓人類評價(jià)一個(gè)回答是好的嗎？它是真實(shí)的嗎？它有用嗎？他們給它一個(gè)贊或一個(gè)踩，然后他們將這些評分反饋到系統(tǒng)中，并讓它從這些評分中學(xué)習(xí)。
通過這種方式，他們能夠?qū)⑵淠サZ到幾乎每次詢問聊天機(jī)器人時(shí)，它都會產(chǎn)生令人信服的文本。它可能不總是正確的，仍然會產(chǎn)生虛假信息，但它能夠以一種人類真正會用的回應(yīng)方式與人們交流。不僅和是領(lǐng)域內(nèi)的專家交流，而是任何人。這真正的抓住了人們的想象力。人們對這種技術(shù)的看法發(fā)生了實(shí)實(shí)在在的轉(zhuǎn)變，不僅是普通人，也轉(zhuǎn)變了很多這個(gè)技術(shù)領(lǐng)域的研究人員。ChatGPT的火爆開啟了這種類型技術(shù)的新時(shí)代以及一個(gè)朝著越來越令人印象深刻的人工智能進(jìn)發(fā)的新競賽。
科技新聞：
所以你認(rèn)為，ChatGPT取得成功的技術(shù)關(guān)鍵因素主要是RLHF（人類反饋學(xué)習(xí)）？
凱德梅茨：
沒錯(cuò)，如果你使用一些過去的版本，比如GPT-3，當(dāng)你用特定方式提問它時(shí)，有時(shí)它能令人印象深刻。比如你要求它用唐納德特朗普的方式演講，大概有一半的幾率它會產(chǎn)出一個(gè)令人印象深刻的演講。這有點(diǎn)像擲骰子，有時(shí)它會給你想要的東西，有時(shí)它不會。在這種情況這個(gè)系統(tǒng)不會引起普通人的注意。但他們采用了這個(gè)基本系統(tǒng)，但每次系統(tǒng)產(chǎn)生一個(gè)回答時(shí)，他們都讓標(biāo)注員對它進(jìn)行評分。它可以從人類那里獲取評分信息，了解他們?nèi)绾卧u價(jià)這些回答，然后用這個(gè)來再訓(xùn)練這個(gè)系統(tǒng)。標(biāo)注員是在告訴GPT什么樣的回答是好的，什么樣的回答是不好的。
最終，OpenAI得到了一個(gè)聊天機(jī)器人，幾乎每次都能像人類一樣交談。他們把這個(gè)系統(tǒng)放在普通人面前，當(dāng)下這種火熱討論就是人們回應(yīng)它出現(xiàn)的方式。在Twitter上，任何人都可以使用它，人們真正回應(yīng)了它。
03 AGI還遠(yuǎn)，但它的到來會取代人類一切的工作價(jià)值
科技新聞：
前段時(shí)間馬斯克接受采訪時(shí)說AGI會在5，6年內(nèi)實(shí)現(xiàn)，您覺得AGI會是一個(gè)唾手可得的目標(biāo)嗎？
凱德梅茨：
這確實(shí)很難說，在這個(gè)問題上有很多爭議。我們知道今天的AI系統(tǒng)還遠(yuǎn)遠(yuǎn)達(dá)不到那個(gè)水平。它們可以以令人印象深刻的方式產(chǎn)生語言，但它們無法像人類一樣進(jìn)行推理，也沒有人類的常識。
很多人認(rèn)為，我們需要新的方法來賦予它們這種能力，而我們目前的方法無法讓它們達(dá)到AGI。它們需要更多地了解物理世界，而不僅僅是了解語言。對于這個(gè)問題有很多爭論和分歧，但它肯定不是今天我們需要考慮的問題，目前我們也還不夠接近AGI。
科技新聞：
您覺得現(xiàn)在的系統(tǒng)相較于真正的通用人工智能還欠缺什么？
凱德梅茨：
當(dāng)使用這些系統(tǒng)時(shí)，可以很容易發(fā)現(xiàn)現(xiàn)階段AI的缺陷。如果試圖讓它們像人類一樣進(jìn)行推理，有時(shí)它們可以模仿，但大多數(shù)時(shí)候它們做不到。
這是真正的難點(diǎn)。它們與AGI之間的最大差別在于，產(chǎn)生似是而非的文本和能夠真正地進(jìn)行推理。
這些系統(tǒng)非常擅長處理過去發(fā)生的事情，也就是說一些在互聯(lián)網(wǎng)上有記錄的事情。但它們并不談?wù)撐磥�，并推測可能會發(fā)生什么。你和我可以進(jìn)行這樣的對話，我們在談?wù)撐磥�，思考可能會發(fā)生什么。這些系統(tǒng)不擅長這樣做。它們擅長模仿它們以前看到的東西。因此它們非常擅長通過標(biāo)準(zhǔn)化測試。它們在法律考試、高中科學(xué)和數(shù)學(xué)考試等方面的表現(xiàn)非常出色，媒體也對此大肆宣傳。
但其他研究表明，如果你只給它們?nèi)碌膯栴}，也就是在它們接受訓(xùn)練之后編寫的問題，它們的表現(xiàn)就不如前。因此當(dāng)它們回答所有這些標(biāo)準(zhǔn)化問題時(shí)，它們并不一定在進(jìn)行推理。它們所做的是重復(fù)以前看到的東西。
科技新聞：
關(guān)于AI的威脅，比如不透明性，您在書中記錄了Hinton說的一段有趣的話”人們需要忍受‘黑匣子‘問題，即使你看不到內(nèi)部的運(yùn)作機(jī)制，他們也會做他們應(yīng)該做的事", 但最近Hinton退出谷歌，您也對他進(jìn)行了采訪，在其中他表達(dá)了對AI的很多擔(dān)憂。您是如何理解Hinton對于AI態(tài)度的發(fā)生轉(zhuǎn)變這件事的？
凱德梅茨：
他的想法肯定發(fā)生了變化。當(dāng)我出版這本書時(shí)，他認(rèn)為AI的風(fēng)險(xiǎn)相當(dāng)遙遠(yuǎn)。但在過去一年中，當(dāng)他看到我們現(xiàn)在看到的ChatGPT這種技術(shù)時(shí)，他改變了想法。
他開始意識到在某些方面系統(tǒng)比人腦更強(qiáng)大。你和我無法理解整個(gè)互聯(lián)網(wǎng)，這是人力不可及的。我們無法從這么多的數(shù)據(jù)中進(jìn)行學(xué)習(xí)，但系統(tǒng)可以。他擔(dān)心它們被用于傳播虛假信息，在這種情況下，文本不是真實(shí)的，圖像不是真實(shí)的，視頻不是真實(shí)的。
除此以外，他還擔(dān)心系統(tǒng)開始奪走人們的工作；也擔(dān)心某些更大的問題，比如自動化系統(tǒng)被用于戰(zhàn)場，被用作武器；他甚至擔(dān)心在更長的時(shí)間內(nèi)，我們會失去對AI的控制。
科技新聞：
Hinton 的老同僚Yann Lecun和其他人工智能科學(xué)家最近真的討論了很多關(guān)于媒體對人工智能能力和威脅的夸大。你認(rèn)為他是對的嗎？媒體可能會以何種方式使這些事情變得比實(shí)際情況更加復(fù)雜？
凱德梅茨：
我認(rèn)為媒體確實(shí)存在夸張。當(dāng)Chat GPT首次發(fā)布時(shí)，人們沒有看到它的缺陷，過了很久，他們才意識到它會產(chǎn)生錯(cuò)誤信息來誤導(dǎo)人們，包括記者在內(nèi)的很多人都很難理解到底發(fā)生了什么，因此，他們在傳播過程中會繼續(xù)對人們產(chǎn)生誤導(dǎo)。在這種情況下，很容易發(fā)生過度炒作。
當(dāng)然，有時(shí)候故意的夸大來自于誤解，但有些人會故意炒作，有些人則是無意識地。但我認(rèn)為，大部分還是因?yàn)槿藗儾⒉煌耆斫馑麄兯吹降臇|西。
科技新聞：
你認(rèn)為當(dāng)前人工智能繁榮的歷史意義是什么？它是新工業(yè)革命的開始嗎？
凱德梅茨：
這是有可能的。我認(rèn)為我們將會繼續(xù)看到這些系統(tǒng)的改進(jìn)。它們將能夠處理不僅僅是文本，還有圖像。我們已經(jīng)看到OpenAI構(gòu)建的最新版本技術(shù)可以接收圖像并描述其中的內(nèi)容，回答有關(guān)它的問題。這還沒有公開，但這是他們所構(gòu)建的一部分。它越來越多的技能將類似于人類，并不斷改變?nèi)藗兊墓ぷ鳌?/p>
因此，我認(rèn)為過去6個(gè)月所看到的一切表明，未來幾年我們將迎來一個(gè)真正的大變革。這一變革看起來確實(shí)會像第一次工業(yè)革命一樣產(chǎn)生深遠(yuǎn)的影響。我們還處于早期階段。這些事情往往比人們想象的進(jìn)展緩慢。但我認(rèn)為我們正在朝著這個(gè)方向前進(jìn)。
科技新聞：
您覺得從AI將會如何重塑這個(gè)社會？在AGI實(shí)現(xiàn)之時(shí)人的價(jià)值在何處？
凱德梅茨：
我認(rèn)為如果真的擁有一個(gè)能做任何人類大腦可以做的事情的系統(tǒng)，也就是所謂的AGI，對人類來說那將是一個(gè)困難的處境。
如果機(jī)器可以做人類的所有事，那么工人的價(jià)值就會降為零，因?yàn)槭褂脵C(jī)器比雇傭人類更便宜。在我看來，這對人類來說并不是個(gè)好處境。但現(xiàn)在AI還沒有到那個(gè)地步。
以計(jì)算機(jī)程序員為例，今天，系統(tǒng)可以很好的生成計(jì)算機(jī)程序和計(jì)算機(jī)代碼，但代碼可能仍然存在缺陷，還是需要一個(gè)有經(jīng)驗(yàn)的人類程序員來接手他們生成的代碼，并將其編輯、整合到更大的程序中，最終構(gòu)建一個(gè)應(yīng)用程序。隨著時(shí)間的推移，這些系統(tǒng)變得越來越好，它們會越來越多地取代人類所做的事情�，F(xiàn)階段的問題是，AI很快就會開始取代那些經(jīng)驗(yàn)不足的初級程序員，那些處于程序員行業(yè)底端的人，他們做的事和AI差不多，寫一些基礎(chǔ)代碼并將其交給更有經(jīng)驗(yàn)的人去整合。
隨著AI的不斷改進(jìn)，機(jī)器肯定會越來越多地改變事情，但我們還沒有到當(dāng)下就靠AI突然取代大量工作的地步。
另外一個(gè)我的擔(dān)憂就是這些系統(tǒng)可以生成逼真的文本和圖像。它們甚至正在開始即時(shí)生成視頻，我們將無法分辨互聯(lián)網(wǎng)上的真實(shí)和虛假，并且會不得不改變我們在瀏覽互聯(lián)網(wǎng)上幾乎任何東西時(shí)的心態(tài)。你必須問問大眾是否有能力從整體上改變他們的思維方式。
