《AI未來(lái)指北》欄目由科技新聞推出，邀約全球業(yè)內(nèi)專(zhuān)家、創(chuàng)業(yè)者、投資人，探討AI領(lǐng)域的技術(shù)發(fā)展、商業(yè)模式、應(yīng)用場(chǎng)景、及治理挑戰(zhàn)。
自2023年初，ChatGPT讓世人陷入AI狂熱之中。隨著GPT4亮相，它涌現(xiàn)出的種種強(qiáng)大能力讓人們覺(jué)得，只要再過(guò)幾年時(shí)間，AI將成為無(wú)所不能的存在。
但基于大語(yǔ)言模型Transformer范式的AI上限到底在哪里？它是否能真的完全取代我們？這些問(wèn)題曾經(jīng)有過(guò)很多答案。有人認(rèn)為大語(yǔ)言模型將帶來(lái)一個(gè)新的時(shí)代，它距離能夠完成所有人類(lèi)工作的人工智能非常接近；但也有人認(rèn)為它不過(guò)是隨機(jī)鸚鵡，根本無(wú)法理解這個(gè)世界。目前，不論哪一方觀點(diǎn)都缺乏足夠的闡釋和成型的體系。
為了讓人們更全面地看清楚這個(gè)問(wèn)題，中科院外籍院士約瑟夫希發(fā)基思寫(xiě)下了《理解和改變世界》，從認(rèn)知原理的角度闡述了他長(zhǎng)達(dá)幾十年對(duì)于人工智能通向AGI的潛在道路的思考。約瑟夫希發(fā)基思早于Hinton等人十年就已獲得圖靈獎(jiǎng)，這次他非常清晰地從認(rèn)知原理的角度闡述了他對(duì)于“人工智能的能與不能”，“通向AGI的潛在道路和風(fēng)險(xiǎn)”長(zhǎng)達(dá)幾十年的思考。
劃重點(diǎn)：
1人和人工智能是互補(bǔ)的，而非互相替代的關(guān)系。人類(lèi)擁有的常識(shí)知識(shí)和形成模型的抽象能力，這是當(dāng)前范式的人工智能無(wú)法做到的，因此它們也不可能形成原理性的創(chuàng)新。而人工智能是可以在不掌握原理的情況下，對(duì)于可能存在大量變量的復(fù)雜事物進(jìn)行預(yù)測(cè)。這是人因?yàn)檎J(rèn)知能力限制而無(wú)法達(dá)到的，這被希發(fā)基思稱(chēng)為“AI神諭”，它可能帶來(lái)一種“新的科學(xué)”。
2AI會(huì)帶來(lái)的最大威脅是人類(lèi)對(duì)它的依賴(lài)可能導(dǎo)致我們無(wú)限讓渡自己的判斷，喪失決策權(quán)，最終成為“奴隸的奴隸“。為避免這一點(diǎn)，人類(lèi)必須能夠掌握知識(shí)的發(fā)展、應(yīng)用的所有過(guò)程，確保不會(huì)讓這些機(jī)器自身為我們做出關(guān)鍵決策。
3根據(jù)能力互補(bǔ)的情況，對(duì)于人類(lèi)來(lái)說(shuō)，最好的未來(lái)情景是機(jī)器和人類(lèi)之間達(dá)成一種和諧合作，并通過(guò)這種合作達(dá)成新的繁榮。在這個(gè)過(guò)程中，社會(huì)必須以人類(lèi)生活的改善為目標(biāo)發(fā)展并應(yīng)用技術(shù)。
當(dāng)前的AI離AGI還很遠(yuǎn)
科技新聞：ChatGPT的出現(xiàn)對(duì)人工智能意味著什么？它是一個(gè)新的范式，還是更多的是一個(gè)已有范式特定的應(yīng)用？
希發(fā)基思：我認(rèn)為，ChatGPT和其他語(yǔ)言模型的出現(xiàn)是人工智能發(fā)展的重要一步。事實(shí)上，我們經(jīng)歷了一個(gè)范式轉(zhuǎn)變，使得幾乎任何自然語(yǔ)言查詢(xún)都可以得到回應(yīng)，并且通常是和問(wèn)題非常相關(guān)的回答。大語(yǔ)言模型解決了長(zhǎng)期懸而未決的自然語(yǔ)言處理問(wèn)題。這是一個(gè)研究者們幾十年來(lái)一直未能成功的領(lǐng)域，傳統(tǒng)的方法是象征學(xué)派的方法，這一學(xué)派通過(guò)分離語(yǔ)言的語(yǔ)法和語(yǔ)義來(lái)構(gòu)建人工智能的規(guī)則。
而現(xiàn)在，大語(yǔ)言模型采用了不同的方法，他們認(rèn)為一個(gè)詞的含義是由其所有使用上下文定義的。他們使用機(jī)器學(xué)習(xí)來(lái)執(zhí)行概率分布的計(jì)算。對(duì)于單詞，這個(gè)概率分布被用來(lái)預(yù)測(cè)在一個(gè)句子中最可能出現(xiàn)的下一個(gè)單詞。這是一個(gè)非常簡(jiǎn)單但有效的方法。它有點(diǎn)天真，但證明它非常適合概括文本。當(dāng)然，它采用的解決方案的性質(zhì)也決定了它的局限性。語(yǔ)言模型非常適合創(chuàng)建一些文本的摘要，甚至寫(xiě)詩(shī)。如果你讓它對(duì)20世紀(jì)中國(guó)歷史進(jìn)行摘要，它可以做得非常好。但另一方面，如果你問(wèn)一些非常精確的問(wèn)題或解決一些非常簡(jiǎn)單的邏輯問(wèn)題，它可能會(huì)出錯(cuò)。我們可以理解這一點(diǎn)，因?yàn)檫@類(lèi)問(wèn)題無(wú)關(guān)上下文的模型，因此，我們無(wú)法檢查文本的連貫性和它提供的答案。
科技新聞：現(xiàn)在出現(xiàn)了很多新技術(shù)，例如邏輯樹(shù)（LOT），它們可以幫助機(jī)器自我指導(dǎo)了解邏輯過(guò)程�，F(xiàn)在，大語(yǔ)言模型正在訓(xùn)練自己開(kāi)發(fā)更具體或更復(fù)雜的邏輯過(guò)程。在神經(jīng)網(wǎng)絡(luò)中都有很多層，層級(jí)越高，理解越抽象。如果在這些層級(jí)較高的神經(jīng)元可能存在一些像模型或?qū)κ澜绲慕Y(jié)構(gòu)性理解的東西，這是可能的嗎？
約瑟夫希發(fā)基思：在我的書(shū)中，我解釋了人類(lèi)和機(jī)器開(kāi)發(fā)和應(yīng)用不同類(lèi)型的知識(shí)。根據(jù)知識(shí)的有效程度和普遍性，這些知識(shí)使人類(lèi)和機(jī)器能夠解決不同類(lèi)型的問(wèn)題。一個(gè)重要的區(qū)別是“科學(xué)和技術(shù)知識(shí)“與“通過(guò)學(xué)習(xí)獲得的隱式經(jīng)驗(yàn)知識(shí)“之間的區(qū)別。例如，當(dāng)我說(shuō)話、走路時(shí)，我的大腦實(shí)際上解決了非常困難的問(wèn)題，但我并不理解它們的工作原理，而神經(jīng)網(wǎng)絡(luò)產(chǎn)生了同樣的隱式經(jīng)驗(yàn)知識(shí)，使我們能夠解決問(wèn)題，而不必理解它們的工作原理。
這就是我們所說(shuō)的基于數(shù)據(jù)或數(shù)據(jù)驅(qū)動(dòng)的知識(shí)。相反，科學(xué)和技術(shù)知識(shí)是基于使用提供物體、構(gòu)件的物理現(xiàn)象的深入理解的數(shù)學(xué)模型，這是是非常重要的。例如，當(dāng)你建造一座橋時(shí)，（根據(jù)其原理）你可以確信這座橋在未來(lái)幾個(gè)世紀(jì)內(nèi)不會(huì)倒塌。但是，對(duì)于神經(jīng)網(wǎng)絡(luò)來(lái)說(shuō)，我們可以得出某種預(yù)測(cè)，但我們不理解它們的工作原理，構(gòu)建解釋神經(jīng)網(wǎng)絡(luò)行為的理論是不可能的。這一特性使得大語(yǔ)言模型在沒(méi)有人類(lèi)參與的關(guān)鍵應(yīng)用中存在嚴(yán)重的限制。
問(wèn)題是這些GPT-LM系統(tǒng)是否能達(dá)到人類(lèi)水平的智能。這是問(wèn)題所在。我認(rèn)為關(guān)于智能是什么，以及如何實(shí)現(xiàn)智能存在很多混淆。因?yàn)槿绻覀儗?duì)智能沒(méi)有明確的概念，就無(wú)法發(fā)展關(guān)于智能如何工作的理論，也無(wú)法清楚地界定智能。
而當(dāng)今存在著很多混亂。最近，我寫(xiě)了一篇論文討論這個(gè)問(wèn)題。事實(shí)上，如果你打開(kāi)字典，比如牛津詞典，你會(huì)看到智能被定義為學(xué)習(xí)、理解和思考世界的能力，以及實(shí)現(xiàn)目標(biāo)和有目的行動(dòng)的能力。
機(jī)器可以做出令人印象深刻的事情。它們?cè)谟螒蛑锌梢猿饺祟?lèi)。它們能夠執(zhí)行各種任務(wù)。最近也取得了巨大的成就。它們可以執(zhí)行感官能力相關(guān)的任務(wù)，比如視覺(jué)識(shí)別。然而，當(dāng)涉及到情境感知、環(huán)境變化的適應(yīng)和創(chuàng)造性思維時(shí)，機(jī)器無(wú)法超越人類(lèi)。很簡(jiǎn)單，GPT非常擅長(zhǎng)于翻譯自然語(yǔ)言，但它無(wú)法駕駛汽車(chē)。你不能用GPT來(lái)駕駛汽車(chē)。這之間仍然存在很大的差距。我認(rèn)為我們還有很長(zhǎng)的路要走。今天我們只有弱人工智能，我們只有通用智能的一些組件。我們需要更多的東西。
我認(rèn)為朝著通用智能邁出的重要一步將是自主系統(tǒng)。這個(gè)概念現(xiàn)在已經(jīng)很清楚了，自主系統(tǒng)是由進(jìn)一步自動(dòng)化現(xiàn)有組織的需求產(chǎn)生的，通過(guò)用自主代理取代人類(lèi)，這也是物聯(lián)網(wǎng)所設(shè)想的。事實(shí)上，我們談?wù)摰氖亲詣?dòng)駕駛汽車(chē)、智能電網(wǎng)、智能工廠、智能農(nóng)嘗更智能的電信網(wǎng)絡(luò)。這些系統(tǒng)與弱人工智能存在很大的區(qū)別，因?yàn)檫@些系統(tǒng)由代理組成，它們受到實(shí)時(shí)約束，必須處理許多不同的目標(biāo)。這些目標(biāo)涉及許多不同領(lǐng)域的行動(dòng)和活動(dòng)的變化，而GPT在這方面并不擅長(zhǎng)，它擅長(zhǎng)于處理自然語(yǔ)言和文檔的轉(zhuǎn)換。此外，我們還需要能夠與人類(lèi)代理和諧合作的系統(tǒng)。所有這些對(duì)于其他語(yǔ)言模型來(lái)說(shuō)是不可能的。所以我們離人工通用智能還相當(dāng)遙遠(yuǎn)。當(dāng)然，一切還是歸結(jié)到我們究竟認(rèn)為什么是智能的問(wèn)題上，因?yàn)槿绻悄鼙欢x為僅僅是對(duì)話和游戲，那么我們已經(jīng)達(dá)到了人工通用智能，但我不同意這個(gè)定義。
科技新聞：智能過(guò)往的標(biāo)準(zhǔn)測(cè)試是圖靈測(cè)試。很明顯在對(duì)話方面GPT已經(jīng)通過(guò)了圖靈測(cè)試，但它并非是自主的智能。在這種情況下，我們?nèi)绾闻袛郃I的智能程度？
約瑟夫希發(fā)基思：我最近寫(xiě)了一篇論文，論證圖靈測(cè)試是不夠的。我提出了另一個(gè)測(cè)試，我稱(chēng)之為替代測(cè)試。實(shí)際上，這個(gè)想法是，如果我可以用一臺(tái)機(jī)器替代執(zhí)行任務(wù)的另一個(gè)代理，那么我會(huì)說(shuō)這個(gè)代理和執(zhí)行任務(wù)的代理一樣聰明。如果我可以將機(jī)器代替人類(lèi)駕駛汽車(chē)、教人類(lèi)或成為一名優(yōu)秀的外科醫(yī)生，那么我會(huì)說(shuō)機(jī)器和人類(lèi)一樣聰明。
因此，如果采用這個(gè)定義，替代測(cè)試，你會(huì)認(rèn)為人類(lèi)的智能實(shí)際上是一種技能的組合。這樣說(shuō)你明白我們離通用智能有多遠(yuǎn)了嗎？在這個(gè)替代測(cè)試中，有些行為可能必須由機(jī)器，比如機(jī)器人來(lái)完成。當(dāng)你想做園藝工作時(shí)，你需要一臺(tái)機(jī)器人來(lái)完成。GPT只是一個(gè)語(yǔ)言模型，它并不包含這些機(jī)器人部分。
科技新聞：根據(jù)你的定義，只有當(dāng)計(jì)算和系統(tǒng)可以自動(dòng)執(zhí)行大量文本并適應(yīng)不斷變化的環(huán)境時(shí)，我們才能看到人工智能和人類(lèi)智能之間的差距消失。而且現(xiàn)在比如AutoGPT或Baby AGI這種應(yīng)用可以將任務(wù)分成不同的步驟，并試圖通過(guò)不同的過(guò)程實(shí)現(xiàn)任務(wù)的目標(biāo)。它在某種程度上相當(dāng)自動(dòng)化。你認(rèn)為在這個(gè)過(guò)程中，它是否更接近了AGI？
約瑟夫希發(fā)基思：這里有很多問(wèn)題，包括系統(tǒng)工程的問(wèn)題。僅僅擁有一個(gè)超級(jí)智能代理是不夠的，因?yàn)槟氵�必須保證可以解釋它的行為。這也是我在我的論文中廣泛討論的一個(gè)問(wèn)題，就是大家都在談?wù)摰目山忉屓斯ぶ悄芑虬踩斯ぶ悄艿膯?wèn)題。
人們不理解的是，對(duì)于神經(jīng)網(wǎng)絡(luò)來(lái)說(shuō)，我們是無(wú)法理解它們的行為的。顯然你無(wú)法解釋為什么它會(huì)做出如此輸出，因?yàn)槟悴荒苡幸粋�(gè)數(shù)學(xué)模型來(lái)描述它們的行為。當(dāng)然，我們完全理解神經(jīng)網(wǎng)絡(luò)的每個(gè)節(jié)點(diǎn)的數(shù)學(xué)函數(shù)是怎么計(jì)算的。它就是輸入的線性組合，加上一些非線性函數(shù)，所以我們可以理解每一個(gè)節(jié)點(diǎn)的行為。但是當(dāng)我們?cè)噲D理解整個(gè)神經(jīng)網(wǎng)絡(luò)的涌現(xiàn)屬性時(shí)，我們會(huì)感到絕望。但這不是一個(gè)特定于人工智能的問(wèn)題，這是科學(xué)中的一個(gè)普遍問(wèn)題。
你不能僅僅從氧原子和氫原子的性質(zhì)來(lái)推斷水的性質(zhì)。即使你完全理解這一點(diǎn)，還有一個(gè)尺度和復(fù)雜性的問(wèn)題。這是令人絕望的點(diǎn)。我們無(wú)法用技術(shù)組合的邏輯或還原論的方法來(lái)通過(guò)神經(jīng)網(wǎng)絡(luò)中元素的行為去理解它的整體行為。所以我們唯一能應(yīng)用于神經(jīng)網(wǎng)絡(luò)的方法是測(cè)試，因?yàn)槲覀儫o(wú)法驗(yàn)證它的行為，也沒(méi)法通過(guò)推理理解它。但是如果只應(yīng)用測(cè)試，這意味著你采用了一種純粹的實(shí)驗(yàn)方法，而非理論理解。所以你實(shí)際上能夠測(cè)試的內(nèi)容類(lèi)型會(huì)變的很不同：例如，你無(wú)法測(cè)試整體性的安全問(wèn)題，因?yàn)槟銦o(wú)法分析整體行為。但你可以防御性的進(jìn)行安全測(cè)試。
我們一直將測(cè)試應(yīng)用于硬件和軟件。但是為了進(jìn)行測(cè)試，你得有測(cè)試應(yīng)該持續(xù)的時(shí)間的標(biāo)準(zhǔn)。對(duì)于硬件和軟件，我們有模型和覆蓋標(biāo)準(zhǔn)。但對(duì)于神經(jīng)網(wǎng)絡(luò)來(lái)說(shuō)，我們沒(méi)有這種標(biāo)準(zhǔn)。我不是說(shuō)這是一個(gè)非常難解決的問(wèn)題，對(duì)于神經(jīng)網(wǎng)絡(luò)來(lái)說(shuō)，我們有一些備選的可能，比如說(shuō)是對(duì)抗性樣本。但這些操作會(huì)破壞它們行為中的某種魯棒性。所以你看，如果我問(wèn)你一個(gè)問(wèn)題，你會(huì)給出一個(gè)答案。如果我稍微修改你的問(wèn)題，如果你是個(gè)人類(lèi)的話，你會(huì)給出一些類(lèi)似的答案。但我們知道，當(dāng)我們稍微改變神經(jīng)元的輸入時(shí)，響應(yīng)可能會(huì)有很大的不同。所以這也是需要考慮的。
涌現(xiàn)永遠(yuǎn)也無(wú)法被理解
科技新聞：涌現(xiàn)這個(gè)概念，即從基本的能力到更高級(jí)的能力的轉(zhuǎn)化，您認(rèn)為是無(wú)法解釋的嗎？
約瑟夫希發(fā)基思：是的。你把一個(gè)學(xué)科比如物理學(xué)拿出來(lái)。物理學(xué)是一個(gè)非常成熟的學(xué)科。物理學(xué)家試圖在粒子理論、量子理論或廣義相對(duì)論之間建立邏輯聯(lián)系，我認(rèn)為他們?cè)谶@方面永遠(yuǎn)不會(huì)成功，因?yàn)榇嬖谝粋�(gè)尺度問(wèn)題。我認(rèn)為在任何類(lèi)型的系統(tǒng)中都存在類(lèi)似的問(wèn)題。
科技新聞：那么在你看來(lái)，由于這種無(wú)法解釋的出現(xiàn)現(xiàn)象，我們實(shí)際上無(wú)法預(yù)測(cè)大語(yǔ)言模型到底能做到什么？
約瑟夫希發(fā)基思：很明顯，我們無(wú)法建立模型去預(yù)測(cè)它能做什么。我們無(wú)法建立模型，我指的是數(shù)學(xué)模型。在這里，人工智能社區(qū)使用模型這個(gè)詞來(lái)表示神經(jīng)網(wǎng)絡(luò)，這是一種混淆的來(lái)源。
我認(rèn)為我們應(yīng)該采取另一種整體的方法。因?yàn)槲覀冃尾怀上嚓P(guān)的模型，也許我們可以有一種形成一種基于測(cè)試和經(jīng)驗(yàn)觀察的理論。它應(yīng)該是一種關(guān)于統(tǒng)計(jì)學(xué)性質(zhì)的測(cè)試?yán)碚摗?/strong>但依照我的理解，我們有些需求在當(dāng)今的神經(jīng)網(wǎng)絡(luò)中從技術(shù)上很難被滿(mǎn)足。
科技新聞：是的。所以為了理解它們所涌現(xiàn)出的這些能力，我們需要建立類(lèi)似心理學(xué)這樣的學(xué)科去理解它？
約瑟夫希發(fā)基思：完全準(zhǔn)確。這是個(gè)好問(wèn)題。但如果用GPT本身去建立這樣的理解會(huì)有點(diǎn)問(wèn)題。因?yàn)閷?shí)際上有些人現(xiàn)在說(shuō)，GPT成功通過(guò)了成為律師或醫(yī)生的考試，那么為什么這樣的GPT不能成為醫(yī)生或律師呢？
我認(rèn)為這是一個(gè)非常有趣的論點(diǎn)，但這涉及到我之前提到的魯棒性問(wèn)題。同樣是通過(guò)考試，人類(lèi)與神經(jīng)網(wǎng)絡(luò)之間的能力是非常不同的。
魯棒性的問(wèn)題就是如果說(shuō)如果讓一個(gè)神志正常的人去回答問(wèn)題，如果你稍微改變一下問(wèn)題，答案會(huì)是相似。而GPT并不能保證答案的統(tǒng)一性。另一個(gè)問(wèn)題是，人類(lèi)可以依靠邏輯控制他們的行為和應(yīng)該說(shuō)的話。但因?yàn)樯窠?jīng)網(wǎng)絡(luò)，比較典型的就像ChatGPT 對(duì)于它所做的事情沒(méi)有受到語(yǔ)義上的控制，所以它可能會(huì)做一些明顯錯(cuò)誤的事情。有理智的人都不會(huì)犯這種錯(cuò)誤。所以整個(gè)論證的結(jié)論是，如果 GPT 可以有邏輯地控制它所說(shuō)的事情的一致性，而且它還具有相對(duì)應(yīng)的魯棒性的話，那么允許 GPT 成為律師就很棒。但我們實(shí)際上離這種程度的人工智能還很遠(yuǎn)。
科技新聞：ChatGPT為什么會(huì)這么難以控制？是因?yàn)樗鳛橛?jì)算機(jī)的一種分布式運(yùn)算的特性嗎？
約瑟夫希發(fā)基思：GPT 是一種不同類(lèi)型的計(jì)算機(jī)。它是一臺(tái)自然計(jì)算機(jī)。它不是你編寫(xiě)程序時(shí)執(zhí)行程序的計(jì)算機(jī)，你對(duì)系統(tǒng)可以做和不能做有絕對(duì)控制。當(dāng)你訓(xùn)練神經(jīng)網(wǎng)絡(luò)時(shí)，你就失去了這種控制。這些系統(tǒng)可以具有某種意義上的創(chuàng)造性，因?yàn)樗鼈兙哂幸欢ǖ淖杂啥取?/p>
現(xiàn)在，如果我們能夠控制這些自由度并理解它們的行為，那就沒(méi)問(wèn)題了。問(wèn)題是我們無(wú)法控制神經(jīng)網(wǎng)絡(luò)的這種巨大的自由度，理論上去控制它幾乎是無(wú)望的。你可以對(duì)它們的行為做一個(gè)粗略的近似，但你不會(huì)有準(zhǔn)確的結(jié)果。如果你有一個(gè)傳統(tǒng)計(jì)算機(jī)程序，即使它是一個(gè)很長(zhǎng)的程序，你仍然可以提取語(yǔ)義模型并理解里面發(fā)生了什么。這是一個(gè)非常重要的區(qū)別。
科技新聞：能詳細(xì)講講自然機(jī)器的概念嗎？
約瑟夫希發(fā)基思：自然機(jī)器就是利用了自然現(xiàn)象的智能。比如神經(jīng)網(wǎng)絡(luò)就是一種類(lèi)似于量子計(jì)算機(jī)或其他計(jì)算機(jī)的自然機(jī)器。在過(guò)去，當(dāng)我還是學(xué)生的時(shí)候，我們也有很多計(jì)算機(jī)。在構(gòu)建這種自然機(jī)器的過(guò)程中，我們會(huì)利用物理現(xiàn)象中的一些原理，因?yàn)槿魏挝锢憩F(xiàn)象都包含了一些信息內(nèi)容。比如當(dāng)我扔一塊石頭時(shí)，石頭就像一臺(tái)計(jì)算機(jī)，它計(jì)算出一個(gè)拋物線，這就形成了一種運(yùn)算法則。你可以觀察任何現(xiàn)象，并且可以利用自然現(xiàn)象來(lái)制造計(jì)算機(jī)。但是這些計(jì)算機(jī)不是預(yù)先編程的。它們利用了物理學(xué)或數(shù)學(xué)中的某些規(guī)律。神經(jīng)網(wǎng)絡(luò)就是這樣的情況。
科技新聞：讓我們談?wù)勀銜?shū)中的其他一些內(nèi)容，你曾經(jīng)討論過(guò)一些研究和創(chuàng)新的問(wèn)題。我們都知道，雖然神經(jīng)網(wǎng)絡(luò)的許多理念來(lái)自歐洲或日本，但使用它并產(chǎn)出產(chǎn)品的公司，如OpenAI和Deepmind都是在美國(guó)。你認(rèn)為這是什么原因呢？
約瑟夫希發(fā)基思：關(guān)注度和創(chuàng)新能力之間是存在差異的。因?yàn)閯?chuàng)新是將研究應(yīng)用于開(kāi)發(fā)新產(chǎn)品或服務(wù)，以實(shí)現(xiàn)技術(shù)突破的能力。
我認(rèn)為這是美國(guó)的一個(gè)非常強(qiáng)大的優(yōu)勢(shì)，他們?cè)趧?chuàng)新方面做得很出色。這始于加利福尼亞，在那里有我所說(shuō)的創(chuàng)新生態(tài)系統(tǒng)。創(chuàng)新生態(tài)系統(tǒng)匯集了非常優(yōu)秀的學(xué)術(shù)機(jī)構(gòu)、大型科技公司、初創(chuàng)企業(yè)以及風(fēng)險(xiǎn)投資和資本。這種一致性可以有效而高效地轉(zhuǎn)化新的成果和應(yīng)用。其他國(guó)家也采用了這種模式。創(chuàng)新生態(tài)系統(tǒng)的理念是一種普遍的思想，像以色列和瑞士這樣的小國(guó)家也取得了很大的成功。所以總結(jié)一下，我認(rèn)為要實(shí)現(xiàn)創(chuàng)新，你應(yīng)該將卓越的大學(xué)和卓越的產(chǎn)業(yè)聯(lián)系在一起。這不僅取決于物質(zhì)資源，還取決于文化因素、教育以及制度應(yīng)該認(rèn)可個(gè)體的創(chuàng)造力和創(chuàng)業(yè)精神。
神經(jīng)網(wǎng)絡(luò)神諭：一種無(wú)法被理解的新科學(xué)
科技新聞：你剛剛提到神經(jīng)網(wǎng)絡(luò)是模擬生物大腦和物理世界的過(guò)程。在我們對(duì)生物大腦的理解仍然非常有限的情況下，是如何進(jìn)行這種模擬的？這種神經(jīng)網(wǎng)絡(luò)與我們的生物大腦之間的差距有多大？
約瑟夫希發(fā)基思：這是個(gè)好問(wèn)題。我剛才說(shuō)神經(jīng)網(wǎng)絡(luò)是一種自然計(jì)算機(jī)，采用了與傳統(tǒng)計(jì)算機(jī)不同的范式。具體來(lái)說(shuō)，神經(jīng)網(wǎng)絡(luò)是受到我們大腦中的神經(jīng)運(yùn)作啟發(fā)所產(chǎn)生的。它模仿了一些神經(jīng)運(yùn)作的自然過(guò)程。然而，神經(jīng)網(wǎng)絡(luò)只是模仿了大腦的計(jì)算原理，而大腦是更加復(fù)雜的，因?yàn)樗诓煌膮^(qū)域有著不同的結(jié)構(gòu)和功能。而這些不同的功能是建立在更復(fù)雜的架構(gòu)之上的，我們?nèi)栽谂θダ斫馑?/strong>而且大腦的神經(jīng)網(wǎng)絡(luò)是一種并行計(jì)算模式。神經(jīng)網(wǎng)絡(luò)在這方面也與它有很多不同之處。
還應(yīng)該理解的是，如果只研究生物水平的大腦，我認(rèn)為我們無(wú)法完全捕捉到所有的人類(lèi)意圖。舉個(gè)例子，用你的筆記本電腦運(yùn)行一個(gè)軟件。然后我給你電子儀器來(lái)通過(guò)測(cè)量研究這個(gè)硬件怎么工作。如果你已經(jīng)編譯了程序，所有的知識(shí)都在硬件層面上以電信號(hào)的形式呈現(xiàn)了。但只通過(guò)分析這個(gè)電信號(hào)，是不可能找到有問(wèn)題的軟件源代碼的，因?yàn)槟阌羞@個(gè)尺度問(wèn)題。我認(rèn)為這是理解人類(lèi)智能的關(guān)鍵，我們必須研究大腦，但不僅僅是大腦。因此，大腦的計(jì)算現(xiàn)象是電信號(hào)、物理化學(xué)現(xiàn)象和心理現(xiàn)象的結(jié)合。
而今天的問(wèn)題是如何將心理現(xiàn)象與大腦計(jì)算相連接。這是我認(rèn)為的一個(gè)重大挑戰(zhàn)。如果我們?cè)谶@方面不成功，我認(rèn)為我們將永遠(yuǎn)無(wú)法理解人類(lèi)智能。
科技新聞：你曾提到人工智能正在為發(fā)展人類(lèi)知識(shí)開(kāi)辟一條新的道路，突破人類(lèi)大腦處理復(fù)雜性問(wèn)題的限制。那您覺(jué)得AI可以在哪些點(diǎn)上完全的超越人類(lèi)？
約瑟夫希發(fā)基思：是的。在我的書(shū)中，我解釋了機(jī)器可以幫助我們克服一些思維的限制。這一點(diǎn)已經(jīng)得到了心理學(xué)家的確認(rèn)。這里的限制包括人的思維受到認(rèn)知復(fù)雜性的限制。我們?nèi)祟?lèi)無(wú)法理解超過(guò)五個(gè)獨(dú)立參數(shù)之間的關(guān)系。這也是我們發(fā)展的理論都很簡(jiǎn)單的原因。我們沒(méi)有一個(gè)包含1000個(gè)獨(dú)立參數(shù)形成的理論。
我認(rèn)為現(xiàn)在可以發(fā)展出一個(gè)擁有數(shù)千個(gè)參數(shù)的理論。我認(rèn)為今天我們可以借助超級(jí)計(jì)算機(jī)和人工智能構(gòu)建我所稱(chēng)之為"神經(jīng)網(wǎng)絡(luò)神諭"的東西。神經(jīng)網(wǎng)絡(luò)神諭是一個(gè)經(jīng)過(guò)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)，用于理解和分析復(fù)雜的現(xiàn)象或復(fù)雜的系統(tǒng)。這些復(fù)雜現(xiàn)象可能依賴(lài)于成千上萬(wàn)個(gè)參數(shù)。以物理現(xiàn)象為例，現(xiàn)在有一些有趣的項(xiàng)目，比如訓(xùn)練神經(jīng)網(wǎng)絡(luò)來(lái)預(yù)測(cè)地震。這些項(xiàng)目的參與者不需要擁有太多的科學(xué)知識(shí)，只需要用數(shù)據(jù)庫(kù)喂養(yǎng)模型。他們手中都有全球各地的地震數(shù)據(jù)。他們發(fā)表了一篇論文，解釋說(shuō)用非常簡(jiǎn)單的訓(xùn)練過(guò)程，他們可以做出比使用現(xiàn)有復(fù)雜理論更好的預(yù)測(cè)。
所以我認(rèn)為這是未來(lái)非常重要的方向。我們將擁有更多幫助我們預(yù)測(cè)復(fù)雜現(xiàn)象或復(fù)雜系統(tǒng)發(fā)展的"神諭"。例如，我們將擁有智能數(shù)字孿生系統(tǒng)，這些系統(tǒng)將幫助我們進(jìn)行預(yù)測(cè)，但并不理解（預(yù)測(cè)的邏輯）。因此我們將擁有一種新型的科學(xué)。我認(rèn)為能夠使用這種科學(xué)是很有趣的，但我們也需要控制所產(chǎn)生的知識(shí)的質(zhì)量。你應(yīng)該思考這個(gè)問(wèn)題，因?yàn)槿祟?lèi)將不再獨(dú)自享有產(chǎn)生知識(shí)的特權(quán)。現(xiàn)在人得與機(jī)器競(jìng)爭(zhēng)了。
所以對(duì)我們的社會(huì)來(lái)說(shuō)，重要的問(wèn)題是我們是否能夠與機(jī)器合作，掌握由機(jī)器輔助開(kāi)發(fā)的知識(shí)的發(fā)展和演進(jìn)。或者我們將發(fā)展出一種由人驅(qū)動(dòng)的科學(xué)和機(jī)器驅(qū)動(dòng)的科學(xué)并存的情況。如果我們擁有這些機(jī)器所推動(dòng)的并行科學(xué)，那將是一個(gè)有趣的情景。
科技新聞：你提到人類(lèi)思維也是一種計(jì)算系統(tǒng)。與自動(dòng)機(jī)器相比，這兩種系統(tǒng)在其組成部分上非常相似。所以與強(qiáng)人工智能相比，人類(lèi)具有哪些獨(dú)特的能力？
約瑟夫希發(fā)基思：這是一個(gè)非常好的問(wèn)題。因?yàn)槲乙恢痹谘芯孔灾飨到y(tǒng)，所以我嘗試了設(shè)計(jì)自動(dòng)駕駛汽車(chē)。對(duì)于自動(dòng)駕駛汽車(chē)，你會(huì)有一些功能，比如感知，將感官信息轉(zhuǎn)化為概念。你會(huì)有一個(gè)反射功能，基于外部世界建立模型，然后做出決策。做決策意味著管理多個(gè)不同的目標(biāo)。為了實(shí)現(xiàn)這些目標(biāo)，你需要規(guī)劃等等。自主系統(tǒng)和人類(lèi)思維之間確實(shí)有很多相似之處。
然而人和自主系統(tǒng)也存在一些重要的差異。一個(gè)非常重要的差異是人類(lèi)擁有我所稱(chēng)之為常識(shí)知識(shí)。常識(shí)知識(shí)是我們從出生以來(lái)發(fā)展起來(lái)的知識(shí)網(wǎng)絡(luò)。我們擁有一種機(jī)制，我們不知道它是如何工作的。但每天通過(guò)經(jīng)驗(yàn)，你會(huì)豐富這個(gè)網(wǎng)絡(luò)，并獲得理解世界的常識(shí)知識(shí)。對(duì)于人類(lèi)來(lái)說(shuō)，他進(jìn)行思考時(shí)，會(huì)將感官信息與這個(gè)常識(shí)概念模型連接起來(lái)。然后吧分析結(jié)果從概念模型反饋到感官信息。這與神經(jīng)網(wǎng)絡(luò)有很大的區(qū)別。讓我舉個(gè)例子：我向你展示一塊被雪覆蓋了一部分的停車(chē)標(biāo)志，你毫無(wú)疑問(wèn)會(huì)立刻說(shuō)這是停車(chē)標(biāo)志。
現(xiàn)在，如果你想訓(xùn)練一個(gè)神經(jīng)網(wǎng)絡(luò)來(lái)識(shí)別部分被雪覆蓋的停車(chē)標(biāo)志，這意味著由于神經(jīng)網(wǎng)絡(luò)無(wú)法將感官信息與概念模型連接起來(lái)，你將不得不訓(xùn)練神經(jīng)網(wǎng)絡(luò)去了解所有的天氣條件下的情況。這就是為什么兒童比神經(jīng)網(wǎng)絡(luò)更容易學(xué)習(xí)的原因。如果你向兒童展示一次汽車(chē)，他下次就會(huì)說(shuō)這是一輛汽車(chē)。因?yàn)樗麄兺ㄟ^(guò)觀察形成了一個(gè)抽象模型，知道什么是一輛汽車(chē)。他們可以將感官信息與這個(gè)概念模型聯(lián)系起來(lái)。這是當(dāng)今人工智能面臨的最大挑戰(zhàn)之一。這也是自動(dòng)駕駛汽車(chē)所面臨的一個(gè)重要問(wèn)題。自動(dòng)駕駛汽車(chē)應(yīng)該能夠收集感官信息，并將這些信息與地圖等進(jìn)行連接。如果它們僅僅根據(jù)感官信息進(jìn)行決策可能會(huì)造成危險(xiǎn)。我們之前就有過(guò)這樣的例子。
我們并不清楚為什人類(lèi)能夠在缺乏大量分析和計(jì)算的情況下理解復(fù)雜的情境。我們之所以能夠做到這一點(diǎn)，是因?yàn)槲覀兛梢詫⒏泄傩畔⑴c某些概念性信息、抽象信息相連接。因此在我們完全不會(huì)出錯(cuò)的地方，神經(jīng)網(wǎng)絡(luò)可能會(huì)出現(xiàn)很多問(wèn)題。我記得有一次我開(kāi)的特斯拉突然停下來(lái)，因?yàn)樗J(rèn)為月亮和樹(shù)木的組合是是一個(gè)黃色的交通燈。這種情況絕對(duì)不會(huì)發(fā)生在人身上，因?yàn)槿祟?lèi)可以將信息置于背景中進(jìn)行理解。我立即就能理解到那是月亮，因?yàn)榻煌舨豢赡茱h在天空中。
因此當(dāng)有人說(shuō)這些系統(tǒng)在某些方面可以與人類(lèi)競(jìng)爭(zhēng)時(shí)，也許它確實(shí)能。但是人類(lèi)智能的特點(diǎn)是你能夠理解世界，可以有目的地提問(wèn)。人工智能離這個(gè)目標(biāo)還很遠(yuǎn)。
科技新聞：因?yàn)槟阊芯苛俗詣?dòng)駕駛，這已經(jīng)包含了對(duì)環(huán)境、認(rèn)知和感知的理解。Lecun認(rèn)為因?yàn)槲覀兪且曈X(jué)動(dòng)物，我們對(duì)世界的理解很大程度上基于視覺(jué)。如果大語(yǔ)言模型能夠做做到多模態(tài)，也能從環(huán)境中學(xué)習(xí)，他們能夠理解世界本身？
約瑟夫希發(fā)基思：我認(rèn)為如果AI不能將具體知識(shí)與符號(hào)知識(shí)相連接，僅僅依靠大語(yǔ)言模型的方法是做不到對(duì)世界的理解的。只有通過(guò)將具體的知識(shí)，也就是數(shù)據(jù)庫(kù)里的知識(shí)與符號(hào)知識(shí)相結(jié)合，人工智能才能實(shí)現(xiàn)這一點(diǎn)。如果它做不到，那人類(lèi)智能將優(yōu)于機(jī)器。對(duì)此我非常確信。我知道很多人會(huì)不同意我的觀點(diǎn)，因?yàn)橛?jì)算智能可以通過(guò)數(shù)百萬(wàn)個(gè)參數(shù)對(duì)數(shù)據(jù)進(jìn)行分析和提齲人類(lèi)在這方面做得不好。但是人類(lèi)擅長(zhǎng)處理抽象問(wèn)題。
人類(lèi)智能依賴(lài)于使用類(lèi)比和隱喻的能力。即使我們不理解人類(lèi)創(chuàng)造力是如何工作的，我仍然可以說(shuō)這非常重要。因?yàn)樵谌祟?lèi)的創(chuàng)造力中應(yīng)該去區(qū)分發(fā)現(xiàn)和發(fā)明。機(jī)器可以通過(guò)使用數(shù)據(jù)分析從更復(fù)雜、更龐大的數(shù)據(jù)中發(fā)現(xiàn)一些東西。但是發(fā)明是另一回事。發(fā)明是說(shuō)，我發(fā)明了某個(gè)理論。我認(rèn)為我們距離理解人類(lèi)智能的這部分能力還隔得很遠(yuǎn)。
但發(fā)現(xiàn)的能力也是有用的，因?yàn)樗梢詭椭祟?lèi)猜測(cè)更普遍的規(guī)律。這是我們自己的思維無(wú)法發(fā)現(xiàn)。但我不認(rèn)為機(jī)器將能夠創(chuàng)造新的科學(xué)理論或者創(chuàng)造新機(jī)器。它們將提供它們擁有的知識(shí)的綜合。就像蒸餾過(guò)程一樣，它們擁有大量的知識(shí)，然后將其提煉并呈現(xiàn)給你。這是了不起的。但這還不夠。要實(shí)現(xiàn)更多的可能還是需要人類(lèi)的能力。
在我寫(xiě)的一篇論文中，我解釋了實(shí)際上存在不同類(lèi)型的智能。人類(lèi)智能是非常特殊的，因?yàn)槿祟?lèi)智能的發(fā)展的基礎(chǔ)是我們努力生活在的這個(gè)特別的世界。如果我們?cè)诹硪粋�(gè)世界出生，也許我們會(huì)發(fā)展出另一種智能。智能是產(chǎn)生知識(shí)、解決問(wèn)題的能力。當(dāng)然，現(xiàn)在我們看到機(jī)器可以解決一些我們無(wú)法解決的問(wèn)題，它們實(shí)際上擁有另一種智能。這很棒，我們有著某種互補(bǔ)性。
科技的發(fā)展應(yīng)該優(yōu)先考慮改善人類(lèi)的生活
科技新聞：我們剛才進(jìn)行了一些哲學(xué)討論，現(xiàn)在會(huì)討論一些關(guān)于AI對(duì)社會(huì)的道德影響的問(wèn)題。第一個(gè)問(wèn)題是，與樂(lè)觀認(rèn)為新技術(shù)將創(chuàng)造足夠的新工作崗位不同，你提到人工智能將導(dǎo)致嚴(yán)重的失業(yè)問(wèn)題。而且這些問(wèn)題能否在不改變社會(huì)經(jīng)濟(jì)體系的情況下難以得到解決。你能解釋一下為什么這樣說(shuō)嗎？因?yàn)楹芏嗳藢?duì)此感到擔(dān)憂(yōu)。
約瑟夫希發(fā)基思：AI的發(fā)展會(huì)增加生產(chǎn)力。在經(jīng)濟(jì)學(xué)中有一些非常簡(jiǎn)單的規(guī)律：如果生產(chǎn)力增加，那么你就需要越來(lái)越少的人來(lái)做同樣的工作。這一點(diǎn)非常明確。
現(xiàn)在有些人認(rèn)為AI會(huì)創(chuàng)造一些就業(yè)機(jī)會(huì)，尤其對(duì)高素質(zhì)的人來(lái)說(shuō)會(huì)創(chuàng)造某些新的就業(yè)機(jī)會(huì)。但是如果你權(quán)衡AI創(chuàng)造的工作和因?yàn)樗サ墓ぷ�，你�?huì)發(fā)現(xiàn)AI的影響一定是負(fù)面的。
現(xiàn)在每個(gè)人都同意AI會(huì)導(dǎo)致失業(yè)問(wèn)題。這是顯而易見(jiàn)的。但在人類(lèi)歷史的整個(gè)過(guò)程中技術(shù)都能夠提高生產(chǎn)力，這最終改善了人們的生活質(zhì)量。幾個(gè)世紀(jì)以來(lái)，人們的工作時(shí)間變少了。我們應(yīng)該考慮通過(guò)適當(dāng)?shù)慕?jīng)濟(jì)社會(huì)改革來(lái)解決這個(gè)問(wèn)題。包括教育改革，因?yàn)槟惚仨毥逃藗儊?lái)適應(yīng)這個(gè)新的時(shí)代。
科技新聞：在工業(yè)革命中，最初人們的生活并沒(méi)有得到很大改善。他們?cè)诠S里工作，一天可能要工作14個(gè)小時(shí)。你覺(jué)得技術(shù)革新初期，人的生活情況會(huì)不會(huì)更糟？
約瑟夫希發(fā)基思：不，我認(rèn)為工業(yè)革命總體上還是提高了人類(lèi)的生活質(zhì)量。這是問(wèn)題的核心。我認(rèn)為今天社會(huì)的問(wèn)題在于沒(méi)有認(rèn)真對(duì)待這個(gè)目標(biāo)，他們認(rèn)為技術(shù)進(jìn)步是該被優(yōu)先考慮的。但我認(rèn)為最優(yōu)先考慮的是如何改善人類(lèi)的生活，這應(yīng)該是首要任務(wù)。至少我是一個(gè)人道主義者。
科技新聞：我也是一個(gè)人道主義者，明白這個(gè)問(wèn)題有多嚴(yán)重。您覺(jué)得除了失業(yè)，AI還可能帶來(lái)嚴(yán)重后果嗎？
約瑟夫希發(fā)基思：是有這種可能的。但問(wèn)題是，有些人說(shuō)人工智能會(huì)對(duì)人類(lèi)產(chǎn)生威脅，乃至于我們可能會(huì)成為機(jī)器的奴隸。我不喜歡這種說(shuō)法。我在我的書(shū)中說(shuō)了技術(shù)是中立的。你有原子能，你可以用原子能來(lái)發(fā)電，也可以用它來(lái)制造炸彈殺人。這是你的決定。如果你真的有思考過(guò)這個(gè)問(wèn)題，那所有這些說(shuō)人工智能對(duì)人類(lèi)構(gòu)成威脅的人都是完全愚蠢的。因?yàn)榧夹g(shù)的使用是人類(lèi)的責(zé)任。
我認(rèn)為這些人之所以這么說(shuō)，只是因?yàn)樗麄円蚕霚p少人類(lèi)對(duì)此的責(zé)任。因?yàn)樗麄兿Ｍ藗兘邮苋斯ぶ悄埽@太糟糕了。人們應(yīng)該負(fù)起責(zé)任應(yīng)對(duì)可能的問(wèn)題。我不知道中國(guó)的情況怎么樣，但不幸的是，在西方世界人們對(duì)此并不太敏感。他們認(rèn)為技術(shù)（的負(fù)面影響）是命中注定的，這非常糟糕。我在我的書(shū)中也說(shuō)過(guò)，風(fēng)險(xiǎn)不在于人類(lèi)被機(jī)器所統(tǒng)治，而在于人類(lèi)接受機(jī)器做出所有關(guān)鍵決策。如果我有一個(gè)奴隸，它可以按我的心愿做任何事情，就像那些阿拉伯神話里描繪的那樣，那最終我將成為我的奴隸的奴隸。所以危險(xiǎn)來(lái)自于人們。我在法國(guó)的學(xué)校中也看到了這一點(diǎn)，如果一個(gè)孩子能接觸到聊天機(jī)器人，他會(huì)變得寫(xiě)不出作文，組織不了自己的思維，并最終依賴(lài)于機(jī)器。這對(duì)人類(lèi)來(lái)說(shuō)是一個(gè)并不樂(lè)觀的情景。
科技新聞：前幾天很多知名AI領(lǐng)域的人物，包括Sam Altman都簽署了一個(gè)AI滅絕威脅的聲明，您在書(shū)中說(shuō)目前媒體和業(yè)內(nèi)人士都在夸大AI的能力和威脅，這算不算事其中一例？您覺(jué)得當(dāng)下范式的AI有帶來(lái)人類(lèi)文明危機(jī)的可能嗎？
約瑟夫希發(fā)基思：AI帶來(lái)的危險(xiǎn)是明確的，主要可能來(lái)自于對(duì)它的濫用。但不幸的是，今天我們沒(méi)有針對(duì)這種危險(xiǎn)的相關(guān)法規(guī)。因?yàn)檎恢肋@些東西是如何開(kāi)發(fā)的，缺乏透明度也就意味著無(wú)法應(yīng)用法規(guī)。這對(duì)社會(huì)來(lái)說(shuō)太糟糕了。AI非�？赡鼙粸E用，因此我也簽署了請(qǐng)?jiān)笗?shū)，支持對(duì)公司做調(diào)查。
技術(shù)是非常好的，我沒(méi)有反對(duì)技術(shù)。我們擁有聊天機(jī)器人是一件很棒的事情，我們應(yīng)該在這種方向上取得進(jìn)展。人工智能、包括通用人工智能都是好事，我不反對(duì)這些。我所反對(duì)的是對(duì)這些技術(shù)的濫用。各個(gè)國(guó)家、國(guó)際機(jī)構(gòu)應(yīng)該強(qiáng)制執(zhí)行法規(guī)，雖然因?yàn)榇笳Z(yǔ)言模型本身缺乏解釋性，這存在著一定困難。但我們依然可以要求開(kāi)發(fā)公司達(dá)到某種透明度，例如講明數(shù)據(jù)集的構(gòu)建方式，以及這些引擎的訓(xùn)練方式。
科技新聞：最近美國(guó)國(guó)會(huì)就人工智能和標(biāo)準(zhǔn)人舉行了聽(tīng)證會(huì)。包括Sam Altman，Marcus都參加了，歐洲也正在通過(guò)相關(guān)的法案。您認(rèn)為這是個(gè)好的開(kāi)始嗎？
約瑟夫希發(fā)基思：
但問(wèn)題在于，當(dāng)人們談?wù)摪踩娜斯ぶ悄軙r(shí)，很多時(shí)候說(shuō)的并不是同一件事。作為一名工程師，對(duì)我來(lái)說(shuō)安全有著非常明確的定義。而其他人可能認(rèn)為安全的人工智能意味著能像相信人類(lèi)一樣相信人工智能。這個(gè)想法的底層邏輯是把人工智能視為人類(lèi)，而不是機(jī)器。還有許多其他論文認(rèn)為，人工智能所做的事情并不重要，重要的是人工智能的意圖，因此你得能把意圖和結(jié)果分開(kāi)等等。所以有很多討論。我希望所有這些討論能夠帶來(lái)一些嚴(yán)肅的法規(guī)，而不只是愿望清單。
科技新聞：所以讓我們聊些更光明的可能性。如果人工智能不被濫用，它在什么方面可以改變我們的生活？
約瑟夫希發(fā)基思：如果我們不濫用人工智能，那未來(lái)相當(dāng)可期。這是一場(chǎng)巨大的革命。它有巨大的潛力來(lái)發(fā)展知識(shí)，以應(yīng)對(duì)人類(lèi)今天面臨的一些重大挑戰(zhàn)，如氣候變化、資源管理、人口問(wèn)題、大流行病等等。
我之前說(shuō)過(guò)，人與機(jī)器之間存在著明顯的互補(bǔ)性。對(duì)于人類(lèi)來(lái)說(shuō)，最好的情景是機(jī)器和人類(lèi)之間達(dá)成一種和諧合作。而且在這個(gè)過(guò)程中，人類(lèi)將能夠掌握知識(shí)的發(fā)展、應(yīng)用的所有過(guò)程，確保不會(huì)讓這些機(jī)器自身為我們做出關(guān)鍵決策。
未來(lái)的挑戰(zhàn)是我們找到正確的平衡，找到人類(lèi)和機(jī)器之間角色分配的正確平衡。我希望我們能夠成功做到這一點(diǎn)。
