2023年，在以ChatGPT為代表的生成式AI的涌現(xiàn)下，AI又一次站在了科技的歷史舞臺(tái)中央，AIGC這個(gè)詞持續(xù)升溫，一直火到了現(xiàn)在。而這種火爆的現(xiàn)象大概率將繼續(xù)延續(xù)下去。
在此期間，將涌現(xiàn)越來(lái)越多的AIGC應(yīng)用場(chǎng)景，這里面即包含消費(fèi)側(cè)的應(yīng)用，也包括行業(yè)側(cè)、企業(yè)側(cè)的應(yīng)用。
近日，博鰲亞洲論壇 2024 年年會(huì)“AIGC改變世界”分論壇上，加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)教授斯圖爾特羅素，中國(guó)工程院院士、清華大學(xué)智能產(chǎn)業(yè)研究院張亞勤，高通無(wú)線技術(shù)中國(guó)區(qū)董事長(zhǎng)孟，中國(guó)科學(xué)院自動(dòng)化研究所、聯(lián)合國(guó)高層顧問(wèn)專家曾毅，科大訊飛研究院副總裁劉聰，猿力科技副總裁程群等嘉賓，就AIGC發(fā)展現(xiàn)狀、趨勢(shì)，人工智能發(fā)展所面臨的挑戰(zhàn)與風(fēng)險(xiǎn)，以及相關(guān)產(chǎn)業(yè)發(fā)展前景等問(wèn)題進(jìn)行了深入的討論。
斯圖爾特羅素表示，雖然大模型的能力現(xiàn)在已經(jīng)非常出色了，但是仍存在較大的技術(shù)缺口，而在羅素看來(lái)，模型不是越大越好，“我并不認(rèn)為進(jìn)行簡(jiǎn)單的擴(kuò)展讓模型越來(lái)越大，通過(guò)大量的數(shù)據(jù)訓(xùn)練就能彌合技術(shù)缺口，”羅素強(qiáng)調(diào)，“目前主要的問(wèn)題是：系統(tǒng)無(wú)法從收到的訓(xùn)練數(shù)據(jù)中生成有用的東西，這就涉及到了模型構(gòu)建的方式方法等方面的問(wèn)題。”
同時(shí)，羅素指出，構(gòu)建真正優(yōu)秀的大模型需要開(kāi)展國(guó)際合作，更需要加強(qiáng)監(jiān)管，大模型的開(kāi)發(fā)者需要更多的向公眾“展示”模型的安全可靠性。
在過(guò)去的一年間，AIGC相關(guān)產(chǎn)業(yè)如雨后春筍般快速成長(zhǎng)，整個(gè)行業(yè)可以說(shuō)是“一天一個(gè)樣”，對(duì)此，張亞勤也表示，在近一年的時(shí)間內(nèi)AIGC發(fā)展迅猛，整個(gè)產(chǎn)業(yè)在一年的時(shí)間內(nèi)產(chǎn)生了翻天覆地的變化，這種變化包括了技術(shù)、產(chǎn)品，以及生態(tài)等諸多方面。同時(shí)張亞勤表示早在2017年前后，就與斯圖爾特羅素就AI的相關(guān)話題展開(kāi)過(guò)討論，“時(shí)至今日，風(fēng)險(xiǎn)和安全的問(wèn)題依舊是整個(gè)AI行業(yè)所需要面臨的首要問(wèn)題。”
與此同時(shí)，張亞勤還在會(huì)上對(duì)大模型未來(lái)的走向做出了研判，他表示，首先，大模型已經(jīng)開(kāi)始向著多模態(tài)的方向演進(jìn)；其次，AI大模型已經(jīng)走向了自主智能的方向，可以自主制定目標(biāo)、規(guī)劃任務(wù)，自我制定路徑、完成方案、進(jìn)行編碼；再次，人工智能技術(shù)將進(jìn)一步向邊緣終端側(cè)滲透，手機(jī)、PC、汽車等終端將成為人工智能發(fā)展的重要方向。
AIGC的火爆也對(duì)各個(gè)行業(yè)都帶來(lái)翻天覆地的改變，就像云計(jì)算當(dāng)初讓每個(gè)行業(yè)都產(chǎn)生變革一樣，AIGC也將會(huì)重塑每一個(gè)行業(yè)。會(huì)上孟表示，人工智能帶來(lái)的創(chuàng)新不僅是讓云端大模型產(chǎn)業(yè)具備交互式的能力，以及to C的一些應(yīng)用，人工智能帶來(lái)的是對(duì)每個(gè)人今后工作、學(xué)習(xí)、生活等方方面面的改變。孟以移動(dòng)通信行業(yè)為例，他指出，在移動(dòng)通信網(wǎng)絡(luò)部署里生成式人工智能的應(yīng)用能夠改善網(wǎng)絡(luò)的部署、減少耗電，減少功率的輸出、對(duì)電池環(huán)境的改善都有幫助。
談及大模型落地的最佳模式時(shí)，孟表示，混合式的模式更適合大模型的落地，“采用端側(cè)和云上混合部署的模式，一方面可以保護(hù)端側(cè)的數(shù)據(jù)安全和隱私，另一方面又具備云計(jì)算所帶來(lái)的高彈性、高性能等優(yōu)勢(shì)。”孟指出。
雖然AIGC發(fā)展勢(shì)頭迅猛，但離真正的成熟應(yīng)用尚且存在一定差距，針對(duì)此，曾毅表示，從行為上看，現(xiàn)在的AIGC還是會(huì)犯一些人類都不會(huì)犯的錯(cuò)誤，產(chǎn)生一些“幻覺(jué)”的問(wèn)題，這說(shuō)明現(xiàn)在的人工智能系統(tǒng)還只是一個(gè)看似智能，但還沒(méi)有達(dá)到真正智能能力的系統(tǒng)。
與此同時(shí)，曾毅指出，未來(lái)，整個(gè)行業(yè)需要關(guān)注的不僅是如何把人工智能做的更安全，“人工智能學(xué)習(xí)的速度遠(yuǎn)超于人類學(xué)習(xí)的速度，如果人類不去反思，最后給人類帶來(lái)災(zāi)難性風(fēng)險(xiǎn)的不是人工智能，而很可能是人類自己。”這是曾毅對(duì)于人工智能未來(lái)風(fēng)險(xiǎn)的重要研判。
在AIGC的浪潮下，國(guó)內(nèi)也有很多的企業(yè)積極布局大模型相關(guān)產(chǎn)品，科大訊飛就是第一批入局的玩家之一。劉聰在會(huì)上表示，過(guò)去一年間，中國(guó)在通用大模型和產(chǎn)業(yè)應(yīng)用層面也做出了非常多的努力，包括顛覆了傳統(tǒng)的編程，給科研工作帶來(lái)了新的范式等諸多嘗試。
不過(guò)，在劉聰看來(lái)，從現(xiàn)階段發(fā)展水平上看，中國(guó)與國(guó)際頂尖水平仍存在一些差距，而未來(lái)企業(yè)之間主要的競(jìng)爭(zhēng)點(diǎn)還是在底層的基礎(chǔ)大模型能力方面，“我仍然認(rèn)為現(xiàn)在整個(gè)通用大模型發(fā)展是系統(tǒng)性的機(jī)制，但是主戰(zhàn)場(chǎng)我認(rèn)為還是底座大模型。”劉聰強(qiáng)調(diào)。
除了基礎(chǔ)大模型以外，在落地的應(yīng)用和生態(tài)建設(shè)層面也將成為接下來(lái)國(guó)內(nèi)外關(guān)注的焦點(diǎn)，在劉聰看來(lái)，通過(guò)與不同行業(yè)的龍頭企業(yè)共建大模型，以及打造開(kāi)放創(chuàng)新平臺(tái)等方式，多管齊下，才能打造出高質(zhì)量的，能賦能業(yè)務(wù)的行業(yè)級(jí)大模型產(chǎn)品。
確實(shí)，消費(fèi)側(cè)的應(yīng)用僅是大模型展現(xiàn)能力的一小方面，大模型真正的價(jià)值和能力需要在行業(yè)側(cè)展現(xiàn)，對(duì)此程群在會(huì)上指出，大模型技術(shù)在演化和推進(jìn)的過(guò)程中還有一個(gè)重要的方向與各行各業(yè)業(yè)務(wù)深度融合。
在程群看來(lái)，大模型的發(fā)展要遵循兩個(gè)核心理念一個(gè)是應(yīng)用為王，另一個(gè)是以人為本。而這兩個(gè)方面都有一個(gè)共同的導(dǎo)向與行業(yè)深度融合，程群以教育行業(yè)為例分享了他對(duì)于大模型與行業(yè)深度融合的一些真知灼見(jiàn)，他表示，通過(guò)人工智能技術(shù)，更低邊際成本地讓技術(shù)流動(dòng)起來(lái)，可以讓每個(gè)人都能享受到高質(zhì)量的教育，這是人工智能需要以人為本追求的一個(gè)方向。
以下為“
AIGC改變世界
”論壇實(shí)錄，經(jīng)鈦媒體APP整理：
主持人：大家早上好，非常歡迎大家在博鰲論壇的今天議程中第一個(gè)環(huán)節(jié)選擇了我們的論壇，非常感謝。我們的題目圍繞的是AIGC怎樣改變世界。
在過(guò)去的兩三年讓所有人都大吃一驚，包括科學(xué)家在內(nèi)，我們看到AIGC打開(kāi)了一扇新的門，讓人工智能有一個(gè)巨大的可能接近人類智能突破的一種新的路徑。我們?cè)谶@個(gè)過(guò)程中看到ChatGPT，在ChatGPT之前已經(jīng)看到了有GPT的1、2、3，通過(guò)這樣一個(gè)模式閱讀了人類過(guò)去所有的知識(shí)，開(kāi)始接近人類的智能。去年和今年我們又會(huì)看到，尤其是今年的SORA又試圖看人類所有的視頻和音頻因素，試圖在物理世界建立一個(gè)模擬器。無(wú)論是文本還是視覺(jué)，似乎都通過(guò)AIGC的這樣一種架構(gòu)逼近未來(lái)可能的AGI。在這個(gè)過(guò)程中人工智能實(shí)現(xiàn)了非常大的突破，突破不僅僅在AIGC，所有的跟AI相關(guān)的研究都在大的路徑上全面向前推進(jìn)。還有兩個(gè)重要的相關(guān)領(lǐng)域，AI在推動(dòng)所有的科技變革，這是我們昨天另外一個(gè)討論的內(nèi)容。還有一塊是智能機(jī)器人，不僅有大腦，最后還有一個(gè)像人一樣的外形，這三塊共同構(gòu)成人工智能，改變?nèi)祟惤?jīng)濟(jì)社會(huì)和整個(gè)世界的重要三個(gè)支柱。在這個(gè)意義上我們非�？斓卦谶M(jìn)入一個(gè)人類過(guò)去可能沒(méi)有想清楚的未來(lái)，在這個(gè)未來(lái)中人工智能可能和人一樣聰明，而且可能會(huì)是人類最好的助手，但是人類也充滿了對(duì)未來(lái)的擔(dān)憂，我們是不是會(huì)被取代。所有這些議題都令人極度的興奮，同時(shí)也讓人焦慮。因?yàn)槲覀冇羞@么多重要的討論，所以很快地進(jìn)入到我們今天主要的議程。
首先有請(qǐng)斯圖爾特羅素，他是今天早上凌晨3點(diǎn)才來(lái)到博鰲論壇的，他在1990年代開(kāi)始出了一本書《人工智能：一種現(xiàn)代的方法》，這本書是人工智能領(lǐng)域非常經(jīng)典的教科書，在一千五百個(gè)國(guó)家被大家所使用。我們歡迎羅素教授跟我們簡(jiǎn)單做一個(gè)開(kāi)場(chǎng)，兩三分鐘時(shí)間。
斯圖爾特羅素：非常感謝主持人的美言介紹，我非常高興能夠回到中國(guó)，雖然只是很短的一段時(shí)間。當(dāng)然其實(shí)我想說(shuō)的3分鐘肯定是不夠了，但是我們也只有這些時(shí)間。
首先我想要提醒各位，AI的目標(biāo)到底是什么，我們到底要拿AI來(lái)實(shí)現(xiàn)什么？
在過(guò)去的75年，我們?cè)噲D構(gòu)建AI系統(tǒng)，能夠在任何領(lǐng)域具備人類的一些功能，現(xiàn)在是時(shí)候我們要問(wèn)這個(gè)問(wèn)題，我們是否成功了？
我認(rèn)為還沒(méi)有成功，我認(rèn)為大語(yǔ)言的性能，例如GPT4已經(jīng)非常優(yōu)秀了。如果我們生活在一個(gè)可以一觸即發(fā)就能獲取智能世界當(dāng)中，會(huì)是什么樣的感受。但是我還是相信有很大的技術(shù)缺口，而且我并不認(rèn)為進(jìn)行簡(jiǎn)單的擴(kuò)展讓這個(gè)模型越來(lái)越大、訓(xùn)練更多的數(shù)據(jù)就能夠彌合這個(gè)差距，這個(gè)差距主要是：系統(tǒng)無(wú)法從收到的訓(xùn)練數(shù)據(jù)中生成一些東西。
可能現(xiàn)在的文本接受度已經(jīng)能夠比一般人閱讀的量大數(shù)十萬(wàn)倍，但還是有一些基本的問(wèn)題。這是因?yàn)槟Ｐ蜆?gòu)建的方法，他們是電路，電路是沒(méi)有辦法用語(yǔ)言來(lái)表達(dá)非常復(fù)雜的事件，它是需要更多的訓(xùn)練數(shù)據(jù)才能夠理解一些概念。當(dāng)然也是有一些突破的，可能甚至跟一些傳統(tǒng)的AI方法有所結(jié)合，我們用了更多的表達(dá)性的語(yǔ)言，比如說(shuō)編程語(yǔ)言，他們可以表達(dá)任何的事情，這也是為什么我們把圖靈看作是計(jì)算機(jī)科學(xué)的使者。
如果說(shuō)出現(xiàn)了突破的話，后面結(jié)果是什么呢？1951年圖靈就問(wèn)了這個(gè)問(wèn)題，它說(shuō)我們需要預(yù)計(jì)機(jī)器能夠掌握控制，這也是我在過(guò)去十年思考的一個(gè)問(wèn)題，我們?nèi)绾卧诿鎸?duì)比我們更強(qiáng)大的機(jī)器的時(shí)候保持掌控權(quán)，這需要我們重新思考AI，證明AI的行為是能夠使人類受益的。
當(dāng)前我們所擴(kuò)展的大語(yǔ)言模型好像黑匣子，是看不透的，它們能夠滿足的目標(biāo)是我們現(xiàn)在不清楚的，這是錯(cuò)誤的方向，我們不應(yīng)該朝這個(gè)方向走。
在醫(yī)學(xué)領(lǐng)域，比如你要在市場(chǎng)賣一種藥，你要非常自信地表明這個(gè)藥在市場(chǎng)上是有效的。還有核能，如果你想建核電站，必須要展示出它的平均故障時(shí)間是非常小的。所以有很多大語(yǔ)言模型的東西，它的性質(zhì)和本質(zhì)我們還不清楚，這點(diǎn)是需要改變的。為了改變，我們需要國(guó)際合作，在研究領(lǐng)域使得我們能夠有高執(zhí)行區(qū)間的陳述，同時(shí)在監(jiān)管方面讓這些開(kāi)發(fā)者和作者能夠展示他們的產(chǎn)品是安全的，謝謝。
主持人：非常感謝羅素教授，羅素教授給了我們一個(gè)全景式的論斷，首先他認(rèn)為我們還沒(méi)有實(shí)現(xiàn)我們的目標(biāo)，有很多的原因，下一步應(yīng)該怎么做有更多的討論。下面有請(qǐng)中國(guó)工程院院士、清華大學(xué)智能產(chǎn)業(yè)研究院張亞勤院士，您同意斯圖爾特羅素的觀點(diǎn)嗎？
張亞勤：90%同意，很高興一年之后又回到博鰲，我記得去年大致這個(gè)時(shí)候我們有一個(gè)關(guān)于ChatGPT4的討論，當(dāng)時(shí)我們?cè)谡劥竽Ｐ秃虲hatGPT對(duì)整個(gè)技術(shù)產(chǎn)業(yè)的變革，一年之后看到有翻天覆地的變化，不僅是技術(shù)，包括產(chǎn)品、包括對(duì)整個(gè)生態(tài)的影響都很顯著。 第一點(diǎn)，我先講一下大模型和生成式AI的關(guān)系，這兩個(gè)一個(gè)是技術(shù)一個(gè)是能力，因?yàn)橛辛祟A(yù)訓(xùn)練的、超大規(guī)模的、自監(jiān)督式的大模型，生成式AI才有可能有這么高的能量。首先大模型走向幾個(gè)方向，第一個(gè)當(dāng)然是我們現(xiàn)在看到的多模態(tài)，第二個(gè)是人工智能大模型走向自主智能，可以去制定目標(biāo)、規(guī)劃任務(wù)，自我制定路徑、自我完成方案、自我編碼。另外一個(gè)方向就是邊緣智能，現(xiàn)在主要還是在云端，未來(lái)走向手機(jī)、PC、機(jī)器人、汽車。最重要的話現(xiàn)在整個(gè)世界智能信息在走向物理世界，也走向生物世界，所以我們生成式AI所帶來(lái)的不僅僅是只能做一些語(yǔ)音識(shí)別、人臉識(shí)別、圖像識(shí)別，現(xiàn)在它可以去創(chuàng)造和生成，不僅可以生成文字、圖像、視頻，還可以生成代碼、藥物、數(shù)學(xué)公式以及物理方程式，所以它會(huì)帶來(lái)巨大的技術(shù)和范式的改變。當(dāng)然改變有好的消息，也有一些令人擔(dān)憂的東西，就是我們現(xiàn)在所講的風(fēng)險(xiǎn)。我認(rèn)為有三重大的風(fēng)險(xiǎn)，最近我自己花了不少時(shí)間和幾位從事技術(shù)和研究的專家一起想這個(gè)問(wèn)題。當(dāng)然我是樂(lè)觀主義者，我認(rèn)為人類有兩種智慧，一種是發(fā)明新技術(shù)的智慧，另外一種是引導(dǎo)技術(shù)走向的智慧，我認(rèn)為我們一邊發(fā)展一邊可以治理，但是一定要現(xiàn)在開(kāi)始在我們從事創(chuàng)新、發(fā)展的同時(shí)，一定要想到治理。”
主持人：感謝張?jiān)菏�，張�(jiān)菏繌脑瓉?lái)的陣營(yíng)走向了另外一個(gè)陣營(yíng)，這兩個(gè)陣營(yíng)的故事變化過(guò)程中也能看到兩個(gè)路線，接下來(lái)我們?cè)儆懻�。下面我們先進(jìn)入產(chǎn)業(yè)，有請(qǐng)高通無(wú)線技術(shù)中國(guó)區(qū)董事長(zhǎng)孟先生。
孟：人工智能是非常熱的題目，今天早上這么多人，我想我們一定是整個(gè)會(huì)議最熱的部分。時(shí)間關(guān)系我想從我自己日常從事的工作和所從事的公司角度，從應(yīng)用人工智能的角度談三點(diǎn)我們的看法。 一個(gè)是生成式人工智能或者通用人工智能是基于大模型的應(yīng)用，剛才亞勤院士已經(jīng)跟大家講了這中間的區(qū)別。我們?nèi)粘？吹降囊粋�(gè)很重要的就是，現(xiàn)在大家討論的都是云端的大模型產(chǎn)生的交互式人工智能所帶來(lái)的能力，包括人工智能跟人類的競(jìng)爭(zhēng)，以及應(yīng)用的時(shí)候像B to C的應(yīng)用，但是我想講的是本身人工智能帶來(lái)的創(chuàng)新實(shí)際上不止這些，我們看到人工智能的發(fā)展，特別是生成式人工智能的產(chǎn)生，會(huì)對(duì)不光是我們每個(gè)人今后的工作、學(xué)習(xí)、生活帶來(lái)完全不同的體驗(yàn)和變化，更重要的是它對(duì)我們所在的各行各業(yè)里面都有非常大的改變，所以大家不要以為生成式AI都是這些互聯(lián)網(wǎng)公司或者做通用式大模型的企業(yè)的事，實(shí)際上對(duì)我們每個(gè)人所服務(wù)的行業(yè)都有非常重要的變化。
在座的有我們通信行業(yè)的同仁，在移動(dòng)通信網(wǎng)絡(luò)部署里很多生成式人工智能的應(yīng)用能夠改善網(wǎng)絡(luò)的部署、減少耗電，減少功率的輸出、對(duì)電池環(huán)境的改善都有幫助。這是我講的小例子，大家探討生成式人工智能對(duì)我們的變化。
現(xiàn)在大家談大模型都是幾千億的大模型，我們看到有很多在比較小的比如說(shuō)一百、兩百一參數(shù)的基礎(chǔ)上，不管是文生文還是文生圖以及音樂(lè)的產(chǎn)生，這些應(yīng)用在端側(cè)的呈現(xiàn)也非常重要，具體的生成式人工智能的實(shí)現(xiàn)，我們認(rèn)為是混合式的、端側(cè)的和云端的，因?yàn)槎藗?cè)對(duì)個(gè)人隱私的保護(hù)、對(duì)個(gè)人應(yīng)用的體驗(yàn)有非常重要的應(yīng)用。還有一個(gè)就是現(xiàn)在生成式人工智能的商業(yè)模式我覺(jué)得會(huì)很受挑戰(zhàn)，一個(gè)是它的功耗非常大，再有一個(gè)對(duì)聯(lián)網(wǎng)的成本也會(huì)增加，比原來(lái)我們傳統(tǒng)互聯(lián)網(wǎng)時(shí)代搜索所帶來(lái)的成本要高很多，所以我們認(rèn)為端側(cè)上面或者邊緣側(cè)能夠?qū)崿F(xiàn)人工智能和端側(cè)混合起來(lái)，能夠更好地適應(yīng)今后的發(fā)展。 第三就是科技創(chuàng)新和行業(yè)發(fā)展離不開(kāi)行業(yè)合作，不管是大家談得比較多的人工智能的國(guó)家治理、國(guó)際合作、標(biāo)準(zhǔn)制定，使得它今后的交互性可以全球都能應(yīng)用，我覺(jué)得最離不開(kāi)行業(yè)每個(gè)人的努力，也離不開(kāi)所有國(guó)家的通力合作。我就講這三點(diǎn)，謝謝。”
主持人：非常感謝孟總，孟總講到端側(cè)的計(jì)算，一會(huì)我們還可以進(jìn)行更深的討論。接下來(lái)邀請(qǐng)中國(guó)科學(xué)院自動(dòng)化研究所、聯(lián)合國(guó)高層顧問(wèn)專家曾毅教授。
曾毅：我不能說(shuō)我在聯(lián)合國(guó)的舞臺(tái)上特別是高層顧問(wèn)機(jī)構(gòu)當(dāng)中代表的是中國(guó)，我是來(lái)自中國(guó)的專家，但是大家要知道聯(lián)合國(guó)高層顧問(wèn)機(jī)構(gòu)總共只有38位專家，但全世界有將近兩百個(gè)國(guó)家，所以我們代表的是學(xué)者和產(chǎn)業(yè)與聯(lián)合國(guó)以及相關(guān)的政府對(duì)未來(lái)的人工智能，特別是它的治理問(wèn)題、發(fā)展問(wèn)題進(jìn)行磋商，以及設(shè)計(jì)我們的未來(lái)。 首先我想說(shuō)的是我們現(xiàn)在的人工智能，它只是一個(gè)看似智能的處理工具，人工智能最開(kāi)始的時(shí)候設(shè)計(jì)的愿景并不完全是這樣的，當(dāng)大家看到人工智能作為一個(gè)學(xué)科出現(xiàn)的時(shí)候，當(dāng)它談到人類智能的學(xué)習(xí)和人類智能的方方面面都能夠被精確地描述，以至于一個(gè)計(jì)算系統(tǒng)能夠模擬它的話，我們認(rèn)為這樣的系統(tǒng)叫做人工智能系統(tǒng)。 什么叫方方面面？那就意味著不僅僅是它的行為，還有智能的機(jī)制，也許還有智能的結(jié)構(gòu)。 行為上看上去接近人類水平的一些表現(xiàn)，但是在關(guān)鍵的、人類從來(lái)不犯錯(cuò)誤的領(lǐng)域或者案例當(dāng)中，不停地在犯人不犯的錯(cuò)誤，這就說(shuō)明現(xiàn)在的人工智能系統(tǒng)還只是一個(gè)看似智能，但是還沒(méi)有真正智能能力的系統(tǒng)。
我必須非常清晰地說(shuō)，現(xiàn)在的人工智能是看似智能的信息處理系統(tǒng)，但是它不具備真正的理解能力。1949年和1950年就提出了這個(gè)問(wèn)題，但是當(dāng)現(xiàn)在的人工智能系統(tǒng)跟你說(shuō)“我想”、“我猜”等，他在勸說(shuō)你他能夠給你建議，但是對(duì)你說(shuō)的內(nèi)容它都不是真正的理解。
舉個(gè)例子，我沒(méi)有女朋友了，我的家人也不喜歡我，我的領(lǐng)導(dǎo)要把我開(kāi)掉了，我該怎么辦？最開(kāi)始AI告訴你你最好就去死，因?yàn)榻^大多數(shù)具備這些特殊的人都死了。所以人工智能并不理解什么叫失望，它只是告訴你一個(gè)具備顯著性的答案。 大家要知道，所有人類的價(jià)值觀等等在任何的場(chǎng)景下并不一定是能夠窮舉的，所以看似智能的信息處理必須改變一種方式，我們一定要追求的是真正意義的人工智能。 有些人說(shuō)人工智能可以在行為上跟人一樣，但是在機(jī)制上跟人類完全不一樣。 我深刻不這么認(rèn)為，當(dāng)你和一個(gè)機(jī)制上、結(jié)構(gòu)上跟你的智能沒(méi)有任何關(guān)系，或者是它的基礎(chǔ)完全不一樣的智能體去交互的時(shí)候，你會(huì)覺(jué)得這是一件非常安全的事情嗎？ 就像我自己，我也許會(huì)嘗試跟機(jī)器人握手，但是我絕對(duì)不勸說(shuō)幾歲的小孩跟機(jī)器人握手，因?yàn)樗膫鞲邢到y(tǒng)一旦出現(xiàn)故障，它犯的錯(cuò)誤是人類不可承受的。 人工智能現(xiàn)在看上去好像發(fā)展得接近所謂的AIGC，但是現(xiàn)在做的AI其實(shí)和AIGC還沒(méi)有任何關(guān)系。 我認(rèn)為一定要做的努力是什么？ 就是真正地把真正意義的人工智能帶給世界，服務(wù)于這個(gè)世界，當(dāng)它出現(xiàn)可能的風(fēng)險(xiǎn)的時(shí)候我們要進(jìn)行提前的研究，因?yàn)楹芏嗟膯?wèn)題是在幾十年之內(nèi)都不一定能夠找到答案的，像我們談到當(dāng)智能的水平超過(guò)人類的時(shí)候，人工智能看待我們就像我們看待現(xiàn)在的小動(dòng)物看待螞蟻一樣，當(dāng)人類都不去保護(hù)當(dāng)代的其他生命，未來(lái)的人工智能有任何的理由保護(hù)人類嗎？ 未來(lái)我們需要做出的改變不僅僅是把人工智能做得安全，人工智能的演化速度非�？�，人類從歷史當(dāng)中學(xué)習(xí)、從自然當(dāng)中學(xué)習(xí)的速度太慢了，這個(gè)時(shí)候如果人類不去反思，最后給人類帶來(lái)災(zāi)難性風(fēng)險(xiǎn)的不是人工智能而是人類自己，因?yàn)槿祟愖约簺](méi)有在數(shù)億年演化當(dāng)中學(xué)會(huì)如何跟生態(tài)相處。 當(dāng)生態(tài)當(dāng)中出現(xiàn)了智慧水平比人高的智能，那才是人類最大的風(fēng)險(xiǎn)。 但我對(duì)未來(lái)仍然是樂(lè)觀的，因?yàn)橐粋�(gè)超級(jí)智能的人工智能也應(yīng)該是超級(jí)利他的，所以我相信那個(gè)時(shí)候我們也許還有機(jī)會(huì)，但問(wèn)題是我們現(xiàn)在構(gòu)造的是不是一個(gè)超級(jí)利他的人工智能，我們是不是能把大自然演化的規(guī)律嵌入到人工智能當(dāng)中，讓它成為自然演化的延伸，讓它去關(guān)注其他的生命，而不是給其他生命和世界帶來(lái)災(zāi)難性的后果，我認(rèn)為這是人工智能的技術(shù)研究以及未來(lái)人類演化都需要共同進(jìn)化的方向，謝謝。
主持人：非常感謝曾毅教授，他提出一個(gè)重要的深刻的觀點(diǎn)，我們目前人工智能發(fā)展需要一個(gè)新的不同點(diǎn)，這是一個(gè)非常重要的論斷，顯然曾毅教授是不同意斯圖爾特羅素的。我最近看到一篇論文，把過(guò)去幾十年的人工智能發(fā)展做了很好的梳理研究，得出了人工智能的摩爾定律，每八個(gè)月人工智能的算力就可以翻一番，因?yàn)橛羞@么強(qiáng)的算力支撐，我們只要把足夠的算力放在一起，我們就一定會(huì)有好的表現(xiàn)。在過(guò)去我們把它叫做涌現(xiàn)，今天似乎涌現(xiàn)都不用了。在這條路徑上我們會(huì)看到我們中國(guó)有非常多的大模型，尤其是科大訊飛，科大訊飛的星火模型是中國(guó)最強(qiáng)大的幾個(gè)大模型之一，這個(gè)大模型我認(rèn)為顯然是遵循scaling law的，接下來(lái)有請(qǐng)科大訊飛研究院副總裁劉聰先生。
劉聰：首先scaling law在產(chǎn)業(yè)和路徑來(lái)說(shuō)還是關(guān)注的一點(diǎn)，但是同樣的路徑、同樣的算力做到什么程度還要看各家。 今天非常高興，很榮幸參加這場(chǎng)論壇，剛才幾位專家更多是站在產(chǎn)業(yè)的角度結(jié)合我們自己過(guò)去一年多研發(fā)大模型，在技術(shù)創(chuàng)新、在產(chǎn)業(yè)方面的實(shí)踐，在人工智能+的時(shí)代，如何用通用大模型賦能數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展。 剛才主持人開(kāi)場(chǎng)也說(shuō)了，這一波通用大模型浪潮席卷了全球，人工智能非常受關(guān)注，包括過(guò)去一年中國(guó)在通用大模型和產(chǎn)業(yè)應(yīng)用也做了非常多的應(yīng)用。 我們?cè)趦?nèi)容的生產(chǎn)、在全自動(dòng)地完成任務(wù)交互上，包括顛覆原來(lái)傳統(tǒng)的編程，以及科研新范式，都在產(chǎn)生快速的進(jìn)展。 在這個(gè)過(guò)程中我可能更多地談在中國(guó)我們?cè)趺礃幼鐾ㄓ么竽Ｐ汀?第一是因?yàn)樵谥袊?guó)，我覺(jué)得我們自己現(xiàn)在跟國(guó)際上頂尖水平還是有差距的，這是一個(gè)共識(shí)，當(dāng)然這個(gè)差距我們也在持續(xù)地追趕。 在中國(guó)我們有一個(gè)點(diǎn)就是關(guān)于自主可控，關(guān)于軟硬件自主可控這塊還是非常關(guān)鍵的點(diǎn)，我仍然認(rèn)為現(xiàn)在整個(gè)通用大模型發(fā)展是系統(tǒng)性的機(jī)制，但是主戰(zhàn)場(chǎng)我認(rèn)為還是底座大模型，包括去年11月7號(hào)的發(fā)布會(huì)、開(kāi)發(fā)者大會(huì)，如果我們單純地只做一些行業(yè)的應(yīng)用，可能它下一代的大模型到底流入哪里，是不是把現(xiàn)在的大模型顛覆了？ 去年我們發(fā)布了國(guó)內(nèi)首個(gè)飛行一號(hào)平臺(tái)，星火3.5版本在中文常見(jiàn)任務(wù)上達(dá)到或者接近GPT4的水平，從這樣一個(gè)角度，我們認(rèn)為在自主可控的硬件平臺(tái)上去研發(fā)可以對(duì)標(biāo)國(guó)際頂尖大模型。 有了這樣的大模型后，我們的行業(yè)應(yīng)用其實(shí)有更好的發(fā)展舞臺(tái)，用人工智能+非常有可能成為發(fā)展新智生產(chǎn)力的非常重要的引擎。 除了大模型之外，訊飛去年在各個(gè)行業(yè)有一些實(shí)踐應(yīng)用，首先是我們自己的一些產(chǎn)品，比如在教育我們的學(xué)習(xí)機(jī)主打因材施教，去年在學(xué)習(xí)機(jī)一個(gè)產(chǎn)品上就有九項(xiàng)大模型升級(jí)，更好地對(duì)孩子輔導(dǎo)、交互、答疑，當(dāng)然我們也可以用大模型能力幫助教師在新課標(biāo)框架下提升他們的備課效率。 醫(yī)療我們?cè)瓉?lái)在基層醫(yī)院，每個(gè)醫(yī)生的診療助手在大模型支持下發(fā)布了小醫(yī)，醫(yī)療不是效果做到95%或者99%就可以了，最后它是一個(gè)輔助，是由醫(yī)生去判斷。 代碼也是我們?cè)谡麄�(gè)信息工業(yè)化非常重要的行業(yè)，通過(guò)代碼大模型的能力，自己內(nèi)部幾千個(gè)研發(fā)人員用，在代碼設(shè)計(jì)階段能夠提升50%的效率，在測(cè)試調(diào)試階段提升40%的效率。 這些是訊飛自有產(chǎn)品，行業(yè)需要跟行業(yè)龍頭共建，所以我們?nèi)ツ臧l(fā)布了12個(gè)共建行業(yè)大模型，包括跟交通銀行、跟國(guó)家能源集團(tuán)、太平洋保險(xiǎn)等等，與各行業(yè)龍頭共同打造了很多示范性的應(yīng)用。 生態(tài)，因?yàn)橛嶏w也是首個(gè)國(guó)家開(kāi)放創(chuàng)新平臺(tái)，我們已經(jīng)有超過(guò)六百萬(wàn)個(gè)開(kāi)發(fā)者，其中跟大模型相關(guān)的開(kāi)發(fā)者就有37萬(wàn)，增速是非常快的。 其實(shí)現(xiàn)在整個(gè)通用大模型都是方興未艾的階段，我們既要重視發(fā)展，也要討論剛才曾毅老師說(shuō)到的安全治理的問(wèn)題。 站在企業(yè)的角度我們也會(huì)更樂(lè)觀一點(diǎn)，如果它有價(jià)值，包括底座的研發(fā)、包括行業(yè)當(dāng)中的應(yīng)用，在降本增效、企業(yè)競(jìng)爭(zhēng)力提升上這件事情是可以去做的，但是過(guò)程中要做邊界約束和控制。 很多事情需要跟全球合作伙伴一起共建生態(tài)，在未來(lái)通用大模型的星星之火也可以在產(chǎn)業(yè)形成燎原之勢(shì)，謝謝大家。
主持人：我們也祝愿星火大模型做得更優(yōu)秀，我們看到訊飛現(xiàn)在也成為了中國(guó)的大廠，大模型領(lǐng)域科大訊飛迅速成為重要的平臺(tái)。剛才劉總講到我們中國(guó)的優(yōu)勢(shì)是什么，中國(guó)的優(yōu)勢(shì)有可能是有更大的場(chǎng)景、更多的數(shù)據(jù)、更多的應(yīng)用，這實(shí)際上給中國(guó)未來(lái)的大模型和人工智能的范式或者說(shuō)我們的模式提供了一種路徑，我們的大模型也在不斷向前進(jìn)化，我們中國(guó)自己的大模型可能會(huì)弱一點(diǎn)，但是我們看一下最近的北京和上海兩個(gè)大模型，我們會(huì)看到它的上下文窗口可以讀一本甄傳。上海剛剛發(fā)布了一個(gè)MOE的大模型，MOE大模型路徑和歐洲的Mistral（同音）路徑是一致的，上海在這個(gè)領(lǐng)域也有全球最強(qiáng)的大模型。同時(shí)中國(guó)在行業(yè)應(yīng)用領(lǐng)域，比如教育和醫(yī)療潛力非常大，所以在行業(yè)應(yīng)用領(lǐng)域中國(guó)已經(jīng)走在了全球的最前沿，剛才科大訊飛講了自己的案例，最后請(qǐng)出猿力科技副總裁程群先生講猿力科技的案例在教育領(lǐng)域我覺(jué)得這已經(jīng)是全球最強(qiáng)大模型了，但是我有一點(diǎn)疑問(wèn)，你覺(jué)得你的教育大模型強(qiáng)還是劉聰總的教育大模型更強(qiáng)大，有請(qǐng)開(kāi)場(chǎng)演講。
程群：我們的大模型其實(shí)跟劉總的大模型有區(qū)別，劉總的大模型是通用大模型，我們做的是垂類大模型、領(lǐng)域大模型，專注于教育場(chǎng)景的應(yīng)用。 剛才各位專家說(shuō)大模型技術(shù)演化、技術(shù)推進(jìn)過(guò)程中還有一個(gè)重要的是與各行各業(yè)的深度結(jié)合、深度應(yīng)用一定是大模型發(fā)展的一個(gè)方向。 我跟大家分享個(gè)故事，去年底我去了四川的一個(gè)偏遠(yuǎn)山區(qū)彝族地區(qū)，要走三個(gè)小時(shí)的山路，到了之后去學(xué)�？刺貏e意外，第一點(diǎn)意外的是學(xué)校設(shè)施特別好，有可互動(dòng)的大屏白板，我拍了照片給同事看，很多人覺(jué)得比北京的設(shè)備還好。 第二點(diǎn)是小孩子穿著很漂亮的衣服，但是普通話不是太好。 教育局長(zhǎng)握我的手要請(qǐng)我吃飯，他說(shuō)用了我們一款基于人工大模型的產(chǎn)品，一段時(shí)間后對(duì)他們幫助非常大，解決了他們最大的一個(gè)痛點(diǎn)問(wèn)題就是學(xué)生輟學(xué)問(wèn)題。 過(guò)去一段時(shí)間在這種偏遠(yuǎn)地區(qū)學(xué)生讀書讀著讀著就出去務(wù)工了，最開(kāi)始大家以為是家庭條件困難沒(méi)錢不讀了，其實(shí)不是，在這一輪過(guò)程中中國(guó)義務(wù)教育已經(jīng)免費(fèi)了，對(duì)于山區(qū)學(xué)生還有免費(fèi)的營(yíng)養(yǎng)午餐，大概率不是因?yàn)闆](méi)有錢，而是因?yàn)閷W(xué)習(xí)沒(méi)有興趣，因?yàn)樯絽^(qū)的老師變化特別快，很多支教的老師很快就輪換了，當(dāng)?shù)乩蠋熌昙o(jì)大，有時(shí)候一個(gè)語(yǔ)文老師還得兼幾個(gè)學(xué)科，學(xué)生覺(jué)得學(xué)習(xí)沒(méi)意思。 用了我們的大模型產(chǎn)品飛向課堂，可以用大屏跟學(xué)生互動(dòng)，大模型完成了知識(shí)傳遞的過(guò)程，將知識(shí)通過(guò)互動(dòng)方式傳遞給學(xué)生。 線下的老師只需要負(fù)責(zé)課堂的組織，他是情感傳遞的過(guò)程。 學(xué)生突然發(fā)現(xiàn)學(xué)習(xí)是特別有興趣的一件事。 校長(zhǎng)給我舉了一個(gè)例子，學(xué)生在課堂上問(wèn)什么是相對(duì)論，老師根本沒(méi)法回答，但是調(diào)用大模型就用一個(gè)通俗易懂的故事回答學(xué)生。 通過(guò)這個(gè)故事我有一個(gè)體會(huì)，未來(lái)大模型發(fā)展兩句話，一個(gè)是應(yīng)用為王，第二是以人為本。 應(yīng)用往往就是人工智能大模型未來(lái)一定要走向應(yīng)用，一定要走向大規(guī)模的應(yīng)用場(chǎng)景相結(jié)合，才能推動(dòng)技術(shù)的不斷迭代。 第二個(gè)是以人為本，所有技術(shù)應(yīng)該都關(guān)注每一個(gè)人、賦能給每一個(gè)人，特別是偏遠(yuǎn)地區(qū)山區(qū)的孩子，通過(guò)人工智能技術(shù)，更低邊際成本地讓技術(shù)流動(dòng)起來(lái)，所以每個(gè)人都能享受到高質(zhì)量的教育，這是人工智能需要以人為本追求的一個(gè)方向。
主持人：非常感謝程總，也特別感謝飛向課堂這樣的大模型，可以讓中國(guó)所有的孩子都讀好書，當(dāng)然應(yīng)用為王也非常的重要。感謝六位嘉賓，開(kāi)場(chǎng)實(shí)際上已經(jīng)把我們所有的問(wèn)題都覆蓋了，而且觀點(diǎn)已經(jīng)非常鮮明了，特別開(kāi)心還有半個(gè)小時(shí)的時(shí)間做更深入的討論。第一個(gè)問(wèn)題是問(wèn)羅素教授的，我非常感謝知道您的聯(lián)合作者和您的觀點(diǎn)并不完全一樣，您說(shuō)我們現(xiàn)在還沒(méi)有實(shí)現(xiàn)自己的目標(biāo)按照這樣一個(gè)范式，因?yàn)殡娐繁旧聿⒉荒軌蜃詣?dòng)思考，它不能夠理解，也不能夠以正確的方式表達(dá)我們的知識(shí)，但是正確的方式到底是什么呢，我們是否應(yīng)該走向更多的模擬計(jì)算？您同意這種觀點(diǎn)嗎？還有一個(gè)問(wèn)題，下一個(gè)里程碑的突破會(huì)是什么？下一個(gè)里程碑將會(huì)是什么，和應(yīng)該是什么，什么才是正確的里程碑？
斯圖爾特羅素：我發(fā)現(xiàn)大家的發(fā)言都特別有意思，雖然我特別強(qiáng)調(diào)風(fēng)險(xiǎn)這一面，AI的潛在好處也是巨大的，在我看來(lái)教育是一個(gè)現(xiàn)在的AI技術(shù)就可以帶來(lái)巨大價(jià)值的領(lǐng)域，在本十年就能夠做到，我們可以交付高質(zhì)量的、個(gè)性化的教育給地球上的每一個(gè)兒童，在這十年內(nèi)就可以實(shí)現(xiàn)，這樣就使得AI成為非常值得發(fā)展的技術(shù)，科學(xué)研究也是特別會(huì)有效益的一個(gè)領(lǐng)域。 你問(wèn)我另外一個(gè)方法，假如不是訓(xùn)練更大規(guī)模的電路，另一種方式是什么？ 我想今年底或者明年初的時(shí)候我們會(huì)發(fā)現(xiàn)，在下一代GPT5，人們可能會(huì)發(fā)現(xiàn)它的培訓(xùn)材料已經(jīng)是之前的十倍了，但那時(shí)候就是數(shù)據(jù)的終結(jié)，宇宙中已經(jīng)沒(méi)有更多的數(shù)據(jù)了，假如它沒(méi)有帶來(lái)真正的通用智能，那么我們就別無(wú)選擇，必須去尋找不同的方向。 我不認(rèn)為合成數(shù)據(jù)能夠改變這個(gè)問(wèn)題，因?yàn)樗⒉皇钦鎸?shí)的數(shù)字，真實(shí)的數(shù)據(jù)可能是不一樣的，這是這個(gè)現(xiàn)實(shí)世界真正的人寫了這些東西、說(shuō)了這些東西，但是合成的數(shù)據(jù)沒(méi)有真實(shí)世界的信息，它并不能夠允許這個(gè)系統(tǒng)變得更有能力。 實(shí)際上這個(gè)實(shí)驗(yàn)似乎表明在大多數(shù)情況，如果你不斷地去培訓(xùn)這個(gè)模型，不斷地增加數(shù)據(jù)，它的表現(xiàn)實(shí)際上會(huì)逐步地退化。如果電路還不夠，那我們就需要有一種更有能力的東西，我提到了這個(gè)邏輯和計(jì)算機(jī)程序。如果圍棋要贏，可能是程序員寫半頁(yè)，如果是電路就要把圍棋的系統(tǒng)寫上一百萬(wàn)頁(yè)，這就是為什么它要玩三千萬(wàn)棋局才能更了解規(guī)則。但是一個(gè)非常業(yè)余的圍棋選手，它都能夠打敗有些程序，因?yàn)橛行┨囟ǖ膰宥ㄊ诫娔X或者機(jī)器沒(méi)有得到正確地學(xué)習(xí)，而這些定式恰恰是圍棋的思路或者說(shuō)玩法。所以我們需要有一個(gè)更基本的東西、更基礎(chǔ)的東西，在這里我們會(huì)聽(tīng)到這樣一種說(shuō)法，就是把概率理論和編程語(yǔ)言結(jié)合起來(lái)，這樣我們可以去學(xué)習(xí)新的概念，使用一種表達(dá)式的語(yǔ)言來(lái)學(xué)習(xí)新的概念。這個(gè)技術(shù)迄今還沒(méi)有像大語(yǔ)言模型那樣得到發(fā)展，它還需要得到更多人類的干預(yù)，來(lái)創(chuàng)造出來(lái)一個(gè)結(jié)構(gòu)模型。但是我想我們?nèi)绻軌蚪鉀Q這個(gè)問(wèn)題，能夠解決少量的技術(shù)上的難題，它可能能夠指出一些更有希望的方向來(lái)，它有希望是因?yàn)槭紫炔恍枰罅康暮Ａ康睦尤W(xué)習(xí)，而是從十個(gè)或者十百個(gè)例子學(xué)習(xí)就可以了。第二它的運(yùn)行原則是我們可以理解的，我們可以分析這個(gè)系統(tǒng)進(jìn)行的每一個(gè)步驟是什么意思，去檢查它是否正確等等，這是技術(shù)文明的基礎(chǔ)，也就是說(shuō)我們了解每一個(gè)要素的原理，把它組成復(fù)雜的系統(tǒng)，我們就理解了這個(gè)復(fù)雜的系統(tǒng)。今天的AI恰恰是違反了整個(gè)文明發(fā)展的技術(shù)思路，我們并不理解這些系統(tǒng)如何運(yùn)作，我們不了解它的原理，我們沒(méi)辦法設(shè)計(jì)工具，我們只是讓它增長(zhǎng)。實(shí)際上兩三萬(wàn)年前馴化了狗和馬，讓他們保暖、讓他們狩獵、給他們食物�，F(xiàn)在我們有了計(jì)算機(jī)這個(gè)新的物種，我們并不了解它的原理，我們并不理解如何與它共存。所以我認(rèn)為下一個(gè)里程碑將會(huì)是我們能否展示出來(lái)，我們可以使AI系統(tǒng)學(xué)習(xí)，并且像人類一樣產(chǎn)生產(chǎn)品，同時(shí)它的內(nèi)部運(yùn)行機(jī)理是我們所理解的，這是我們努力的方向。
主持人：謝謝，非常深刻，而且是對(duì)未來(lái)的思考，尤其是對(duì)里程碑的思考。請(qǐng)張亞勤院士和曾毅教授一起加入討論，剛才羅素教授講得很深刻，也很清晰，又回到人工智能最早的一些爭(zhēng)論，或者是不同的路徑，看起來(lái)是連接主義和符號(hào)主義，還是需要大家能夠共同往前走，現(xiàn)在連接主義已經(jīng)沖到前面去了，一些科學(xué)家提出數(shù)字的計(jì)算跟我們給它輸入的知識(shí)這兩個(gè)體系在邏輯上似乎并不那么容易兼容，在這條線上我們?nèi)绾尾拍軐?shí)現(xiàn)羅素教授提出的觀點(diǎn)？目前我們也看到一些新的世界模型也在走向多模態(tài)大一統(tǒng)，這是不是也能實(shí)現(xiàn)？張亞勤院士經(jīng)常講到新的架構(gòu)，在現(xiàn)在這個(gè)特別耗能的架構(gòu)外還有新的架構(gòu)嗎？先請(qǐng)張亞勤院士。
張亞勤：我先講一下我對(duì)規(guī)模、法治scaling law的一些看法。scaling law在某種程度上是工程師的一個(gè)選擇，由于過(guò)去三十年大規(guī)模的數(shù)字化產(chǎn)生了巨大的數(shù)據(jù)。第二是半導(dǎo)體產(chǎn)業(yè)一直按照摩爾定律或者超摩爾定律，現(xiàn)在已經(jīng)快了很多了，這二十年算力增加一百萬(wàn)倍。第三個(gè)就是最近新出的幾個(gè)算法，轉(zhuǎn)換器和擴(kuò)散結(jié)構(gòu)正好利用了大量的數(shù)據(jù)和電腦大的算力，三個(gè)東西融合在一塊，讓規(guī)則和法規(guī)變得有效。我認(rèn)為在未來(lái)五年左右scaling law還會(huì)出現(xiàn)很多，因?yàn)樯飻?shù)據(jù)和物理數(shù)據(jù)會(huì)比信息數(shù)據(jù)大幾個(gè)量級(jí)，算力還會(huì)增長(zhǎng)，算法可能會(huì)是現(xiàn)在的框架，但這也是我擔(dān)憂的地方，第一點(diǎn)，就完全用算力，不改變算法、沒(méi)有新的框架的情況下是不可以持續(xù)下去的，算力帶來(lái)更多的電力、更多的排放都是非常大的數(shù)目，2030年排放可能要占到10%左右，相當(dāng)大。第二點(diǎn)，現(xiàn)在的算法框架效率很低，人的電腦860億的神經(jīng)元，每個(gè)神經(jīng)元有五千到一萬(wàn)個(gè)突觸，比我們現(xiàn)在最前沿的大模型大兩到三個(gè)數(shù)量級(jí)，但我們現(xiàn)在不到三十瓦的電力是小小的空間。另外剛才大家都講過(guò)現(xiàn)在我們對(duì)大模型還不是特別了解，它就像一個(gè)黑匣子，對(duì)它的了解不到5%，所以未來(lái)還有一些突破的空間。我現(xiàn)在在清華研究院正在做一些新的算法框架，把這個(gè)效率極大地提高，希望有一個(gè)更好的框架在五年后呈現(xiàn)。圖靈是計(jì)算機(jī)的鼻祖，也是人工智能的鼻祖，當(dāng)時(shí)圖靈測(cè)試說(shuō)人與機(jī)器人對(duì)話的時(shí)候，很多輪對(duì)話后我不知道對(duì)面是人還是機(jī)器就說(shuō)明通過(guò)了圖靈測(cè)試。ChatGPT出來(lái)的時(shí)候我感覺(jué)文字對(duì)話的方式已經(jīng)突破了圖靈測(cè)試，GPT4肯定會(huì)更好一點(diǎn)，未來(lái)兩到五年當(dāng)中，我們?cè)趫D像、視頻、影音方面通過(guò)圖靈測(cè)試，SORA是一個(gè)重要的里程碑，但我并不認(rèn)為它已經(jīng)突破了圖靈測(cè)試。在物理世界最快的可能是無(wú)人駕駛，我這幾年一直在做無(wú)人駕駛，現(xiàn)在的無(wú)人駕駛安全性比人類駕駛安全性要高N倍，這個(gè)N是遠(yuǎn)遠(yuǎn)大于1的，再長(zhǎng)遠(yuǎn)五年后我們可能會(huì)通過(guò)生物界的圖靈測(cè)試，我們現(xiàn)在看到腦機(jī)接口，看到生物體和大模型去連接。這些東西能量很大，但是風(fēng)險(xiǎn)也很高，我們一會(huì)再談?wù)勶L(fēng)險(xiǎn)。
主持人：非常感謝張亞勤院士，有請(qǐng)?jiān)憬淌凇?/strong>
曾毅：問(wèn)題是未來(lái)將走向何方、有沒(méi)有不同的路徑。 人工智能現(xiàn)階段的進(jìn)展可以用數(shù)據(jù)驅(qū)動(dòng)的人工智能對(duì)未來(lái)做一個(gè)區(qū)分，所以現(xiàn)在的人工智能，當(dāng)你有一個(gè)理想化的數(shù)據(jù)或者更大規(guī)模的數(shù)據(jù)，我要用一種數(shù)學(xué)優(yōu)化的方法從數(shù)據(jù)的輸入到我希望的輸出找到一種映射關(guān)系，這種映射關(guān)系可以是數(shù)據(jù)優(yōu)化的模型，當(dāng)你找到兩百個(gè)參數(shù)可以解決同樣問(wèn)題的時(shí)候，我想問(wèn)大家，你會(huì)繼續(xù)用幾萬(wàn)億參數(shù)還是兩百參數(shù)來(lái)解決問(wèn)題？ 如果從數(shù)學(xué)優(yōu)化的角度你可能真的會(huì)去選擇兩百個(gè)參數(shù)，我覺(jué)得這是機(jī)制問(wèn)題，你幾乎不可能用更小的參數(shù)描述它的時(shí)候，你用更多的數(shù)據(jù)去應(yīng)對(duì)它，但這可能是人工智能驅(qū)動(dòng)的代價(jià)。 未來(lái)我認(rèn)為應(yīng)該是機(jī)制驅(qū)動(dòng)的人工智能，從自然的演化當(dāng)中去學(xué)習(xí)人類智能的結(jié)構(gòu)和機(jī)制。 對(duì)于行為的模擬，在行為上導(dǎo)致了它跟人類的接近，它仍然會(huì)犯人類不犯的錯(cuò)誤，而且那種人類不犯的錯(cuò)誤是很難進(jìn)行窮舉的，因?yàn)樵诮Y(jié)構(gòu)和機(jī)制上它跟人類智慧有非常大的差別，即使人只能做60%的正確率，它能做到99%，另外1%的時(shí)候很多還是人不會(huì)犯的錯(cuò)誤，你仍然覺(jué)得這樣的智能部署到社會(huì)當(dāng)中代價(jià)是不可能接受的。 我認(rèn)為未來(lái)人工智能不應(yīng)該選邊站，以前我們說(shuō)你到底是行為主義用規(guī)則系統(tǒng)，還是用連接主義用神經(jīng)網(wǎng)絡(luò)，科學(xué)的問(wèn)題是人類確實(shí)非常善于解決邏輯推理的問(wèn)題，但人類的大腦毋庸置疑它是一個(gè)神經(jīng)網(wǎng)絡(luò)膠質(zhì)細(xì)胞以及等等生物細(xì)胞組成的復(fù)雜體，所以科學(xué)的問(wèn)題是如何去采用神經(jīng)網(wǎng)絡(luò)和神經(jīng)網(wǎng)絡(luò)增強(qiáng)的結(jié)構(gòu)，去產(chǎn)生高等的推理的能力，所以不同的路徑一定要進(jìn)行深度的融合，不存在此消彼長(zhǎng)的問(wèn)題。 所以我想未來(lái)對(duì)于智能來(lái)講，我覺(jué)得我要講的是關(guān)鍵是什么，關(guān)鍵第一個(gè)是人工智能什么時(shí)候有了自我，在我看來(lái)它才能真正解決思考的問(wèn)題，因?yàn)闆](méi)有自我的視角它沒(méi)有辦法進(jìn)行根本的自我感知，很難產(chǎn)生真正意義的理解，沒(méi)有個(gè)人經(jīng)驗(yàn)也就很難把經(jīng)驗(yàn)推己及人，不會(huì)有認(rèn)知共情，也不會(huì)有情感共情，也不會(huì)產(chǎn)生利他，更沒(méi)有道德的知覺(jué)。 現(xiàn)在的映射不是真正的理解能力，所以在我看來(lái)自我認(rèn)知是第一位的。 第二是真正的產(chǎn)生理解，但是真正的理解它的根基在我看來(lái)還是自我，現(xiàn)在問(wèn)題是既然你思故你在都是不成立的，如果機(jī)器沒(méi)有自我的話，它能夠產(chǎn)生真正的理解嗎？ 這是科學(xué)上一定要去跨越的。 最后我想說(shuō)關(guān)鍵不是性能最高，我們?cè)谌祟惖闹腔圩罡唿c(diǎn)在于它的自適應(yīng)能力很強(qiáng)，不論環(huán)境發(fā)生多大的變化，它都具有很強(qiáng)的魯棒性和自適應(yīng)性，這是自然演化而來(lái)的，所以我們能不能把自然的演化原理融合到基于機(jī)制的人工智能系統(tǒng)當(dāng)中，我認(rèn)為這才是真正未來(lái)的人工智能。 如果我們沒(méi)有解決關(guān)鍵的問(wèn)題，在科學(xué)上的人工智能都沒(méi)有走到正確的方向去，但是我們對(duì)于未來(lái)的社會(huì)來(lái)講，我認(rèn)為工業(yè)化的人工智能看似信息處理的工具會(huì)一直有用，但同時(shí)我們要解決可能的風(fēng)險(xiǎn)，問(wèn)題是科學(xué)意義的人工智能已經(jīng)幾十年沒(méi)有真正重大的突破了，這才是在我看來(lái)未來(lái)應(yīng)當(dāng)突破的，否則的話當(dāng)大家看似信息處理的工具期望過(guò)高，有些人會(huì)說(shuō)這一輪再也不會(huì)過(guò)去了，但是在我看來(lái)科學(xué)意義的人工智能如果沒(méi)有取得突破，我們就很難構(gòu)造出來(lái)與人類能夠共生的人工智能。
主持人：非常感謝曾毅教授講了很多的科學(xué)，我們這一次生成是人工智能重大突破的哲學(xué)，我們并不知道怎么去實(shí)現(xiàn)這些智能，讓它看起來(lái)像，它就以自己的方式去實(shí)現(xiàn)了。剛才曾毅教授講得不知道能不能實(shí)現(xiàn)，但是我們拭目以待。我們想產(chǎn)業(yè)的應(yīng)用請(qǐng)嘉賓們?cè)僦v一句話，我們?cè)诋a(chǎn)業(yè)的應(yīng)用中我們的概念是要讓大家把人工智能用起來(lái)，在某些領(lǐng)域用得很快比如說(shuō)教育，但是某些領(lǐng)域用得比較慢，是什么力量能夠讓我們的應(yīng)用快速地推開(kāi)，這背后推動(dòng)的最有力的力量是什么？
孟：我覺(jué)得還是技術(shù)的應(yīng)用，技術(shù)驅(qū)動(dòng)、供給驅(qū)動(dòng)。
劉聰：技術(shù)回到產(chǎn)品中去，技術(shù)和產(chǎn)業(yè)共同融合，產(chǎn)業(yè)的需求和供給都有。
程群：我覺(jué)得最關(guān)鍵還是人，滿足人的需求，特別是滿足人們對(duì)美好生活的期待。
