10年后回憶2023年，人們?cè)撛趺蠢斫釩hatGPT出現(xiàn)后的AI涌現(xiàn)？北京智源人工智能研究院院長(zhǎng)、北京大學(xué)計(jì)算機(jī)學(xué)院教授黃鐵軍很早就有相關(guān)思考。“今天大家對(duì)AGI（人工通用智能）和強(qiáng)人工智能太輕描淡寫了，絕大多數(shù)人沒有認(rèn)真想這個(gè)詞意味著什么。”黃鐵軍表示。
9月的珠海暖陽(yáng)下，第一財(cái)經(jīng)記者見到了前往參加博鰲亞洲論壇國(guó)際科技與創(chuàng)新論壇第三屆大會(huì)的黃鐵軍。業(yè)界人士樂于討論大模型商用的當(dāng)下，黃鐵軍傾向于目光看得更遠(yuǎn)，并思考更終極的問題。他大約10年前就想明白AGI會(huì)出現(xiàn)，且在約2045年可以做出來(lái)。他告訴第一財(cái)經(jīng)記者，AGI是全面超越人類智能、有自我意識(shí)的超級(jí)智能，并非很多人理解的通用型人工智能。AGI要不要做，是需極其慎重的事。而AI對(duì)人類的影響和預(yù)備性措施，早就應(yīng)該考慮。
黃鐵軍的想法代表了一部分學(xué)者和業(yè)界人士的擔(dān)憂。今年3月，生命未來(lái)研究所（Future of Life）發(fā)布了一封《暫停大型人工智能研究》的公開信，呼吁所有AI實(shí)驗(yàn)室立即暫停比GPT-4更強(qiáng)大的AI系統(tǒng)的訓(xùn)練，暫停時(shí)間至少6個(gè)月。馬斯克、蘋果聯(lián)合創(chuàng)始人SteveWozniak等知名科技人士簽署了公開信。黃鐵軍也簽署了，他認(rèn)為“這是一種呼吁，至少提醒大家前面有危險(xiǎn)”。
黃鐵軍認(rèn)為可能存在的危險(xiǎn)包括，AI智力超越人類后的決策權(quán)問題，以及面對(duì)強(qiáng)大的AI時(shí)，人可能出現(xiàn)的“躺平”心態(tài)。但黃鐵軍并不反對(duì)AI，或者說認(rèn)為“不可能攔住人群不要往前跑”。他認(rèn)為，AI水平趕超后或許能解決人類束手無(wú)策的復(fù)雜問題，比如星際旅行。面對(duì)AI，他認(rèn)為人們要做的最重要的事情或是適應(yīng)。
智源研究院在科技部與北京市的指導(dǎo)下成立，定位為非盈利科研機(jī)構(gòu)，獨(dú)立于高校和商業(yè)之外，但智源研究院向業(yè)界輸出的骨干，仍助力奠定國(guó)內(nèi)大模型發(fā)展的基矗智源研究院還是國(guó)內(nèi)最早邁上大模型路線的機(jī)構(gòu)，2021年，黃鐵軍在悟道1.0發(fā)布會(huì)上稱，AI從“大煉模型”逐步邁向“煉大模型”，“大模型”的中文表達(dá)就此誕生。
作為國(guó)內(nèi)AI最早的推行者之一，站在學(xué)界與業(yè)界的交界，黃鐵軍的見解有一定代表性。他將大模型比喻成“發(fā)電廠”，將大模型提供的智力比喻為“電”，并認(rèn)為全世界可能只需要屈指可數(shù)的幾個(gè)大模型。
“就像法拉第用一個(gè)線圈在磁場(chǎng)中旋轉(zhuǎn)，AI也能產(chǎn)生‘電流’了。”黃鐵軍如此形容大模型出現(xiàn)后的當(dāng)下。與第一財(cái)經(jīng)記者的對(duì)話中，他還談及大模型如何改變AI公司的商業(yè)邏輯、AI產(chǎn)業(yè)未來(lái)的形態(tài)、AI可能抵達(dá)的遠(yuǎn)方和人類與AI共處的未來(lái)。
“全世界可能只需幾個(gè)大模型”
第一財(cái)經(jīng)：國(guó)內(nèi)掀起“百模大戰(zhàn)”，這是企業(yè)不得不抓住的風(fēng)口還是應(yīng)對(duì)競(jìng)爭(zhēng)的被動(dòng)應(yīng)對(duì)？匆匆入局大模型，您認(rèn)為業(yè)界是否缺乏某些思考？
黃鐵軍：總的來(lái)說是因?yàn)榇竽Ｐ驮谌斯ぶ悄�、信息系統(tǒng)里發(fā)揮明顯作用，所以各家都會(huì)做。長(zhǎng)遠(yuǎn)看，不需要那么多大模型，全球可能只需要屈指可數(shù)的幾個(gè)大模型體系，但這有一個(gè)發(fā)展過程。就像現(xiàn)在的移動(dòng)互聯(lián)網(wǎng)，主要是iOS和安卓?jī)蓚�(gè)生態(tài)，互聯(lián)網(wǎng)最初也有很多局域網(wǎng)，發(fā)展到一定程度才融合成一個(gè)大體系，大模型這種提供智力服務(wù)的基礎(chǔ)設(shè)施將是網(wǎng)絡(luò)化的。今年上半年，國(guó)內(nèi)出現(xiàn)“百模大戰(zhàn)”，現(xiàn)在（新大模型數(shù)量）已經(jīng)回落，長(zhǎng)遠(yuǎn)看還會(huì)收斂，這是商業(yè)正�，F(xiàn)象。
在以云為載體的智力時(shí)代，要研究的技術(shù)還很多，不是某個(gè)公司、某個(gè)團(tuán)隊(duì)訓(xùn)練出一個(gè)模型這種概念。就像電網(wǎng)用了100多年，還在研究如何改進(jìn)電力技術(shù)，最終呈現(xiàn)出“一度電花多少錢”的結(jié)果。將來(lái)，AI也將變成“一度智力”花多少錢、背后多少成本的問題，這是一個(gè)比技術(shù)學(xué)科還大的領(lǐng)域，需要大學(xué)、非盈利機(jī)構(gòu)參與，從各角度改進(jìn)。就像法拉第用一個(gè)線圈在磁場(chǎng)中旋轉(zhuǎn)，產(chǎn)生電流。現(xiàn)在AI也產(chǎn)生“電流”了。從法拉第實(shí)驗(yàn)產(chǎn)生電流開始，到今天能隨時(shí)用電，中間有太多事情要做。
第一財(cái)經(jīng)：語(yǔ)言大模型興起后，原本細(xì)分領(lǐng)域AI公司的工作方式會(huì)不會(huì)改變？
黃鐵軍：變化很大，以前AI公司是產(chǎn)品思維，訓(xùn)練一個(gè)模型，比如CV（視覺）模型，整合軟硬件賣人臉識(shí)別服務(wù)。就像PC時(shí)代和移動(dòng)互聯(lián)網(wǎng)時(shí)代（的商業(yè)模式演變），PC時(shí)代是賣PC、賣軟件，移動(dòng)互聯(lián)網(wǎng)時(shí)代則出現(xiàn)iOS、安卓的App，平臺(tái)開始起關(guān)鍵作用。不過，目前很多大模型還是持產(chǎn)品思維，（廠商）認(rèn)為大模型可以提升業(yè)務(wù)（效率）。這還是初級(jí)階段，不是長(zhǎng)期狀態(tài)。
歸根結(jié)底，大模型能力強(qiáng)意味著很多因素，例如數(shù)據(jù)盡可能全、盡可能新。而現(xiàn)在做大模型，（廠商）抓一些數(shù)據(jù)學(xué)習(xí)后就開始賣，數(shù)據(jù)少，智力水平不高。大模型要像電廠一樣，采用多種手段發(fā)電，讓大家直接用電，而不是靠賣電機(jī)給用戶。（大模型）一定是網(wǎng)絡(luò)化的運(yùn)營(yíng)服務(wù)產(chǎn)業(yè)形態(tài)。
大模型現(xiàn)在好像已經(jīng)很大了，但即便是1萬(wàn)億參數(shù)，也不過是人腦的1%，況且人腦的參數(shù)還比大模型的參數(shù)復(fù)雜，未來(lái)大模型參數(shù)量肯定比現(xiàn)在大很多。最新數(shù)據(jù)也要進(jìn)入大模型體系，這不是隨便一個(gè)創(chuàng)業(yè)公司承擔(dān)得了的。大模型應(yīng)該像電力系統(tǒng)，各方做好一端，最后并入電網(wǎng)、供給服務(wù)。大模型不同于此前CV等細(xì)分領(lǐng)域大模型，最根本是在于它有吸納一切的能力，它作為載體，能把生產(chǎn)資料和下游用戶連成一個(gè)體系。
第一財(cái)經(jīng)：大模型如果變成發(fā)電廠一般的存在，是否涉及壟斷問題？您怎么看“發(fā)電廠”和“用電方”的角色分化？如少數(shù)廠商做大模型，其他廠商專注應(yīng)用層。
黃鐵軍：只要集中在少數(shù)幾個(gè)平臺(tái)，壟斷是肯定的。水電氣產(chǎn)業(yè)都不是簡(jiǎn)單的自由競(jìng)爭(zhēng)，所以要從價(jià)格、政策上約束。把大模型比作發(fā)電廠的說法是從智源研究院出來(lái)的，如此說是因?yàn)槲覀儾皇瞧髽I(yè)，而是非盈利機(jī)構(gòu)，我們也不可能壟斷大模型。大模型變成“發(fā)電廠”有一個(gè)演化過程，涉及國(guó)家層面、民眾本身的決策，非常復(fù)雜，如涉及個(gè)人數(shù)據(jù)進(jìn)入大模型的情況，數(shù)據(jù)匯聚將有遠(yuǎn)超商業(yè)的問題要處理。超這個(gè)方向發(fā)展（大模型成為“發(fā)電廠”）是從社會(huì)效益最大化的角度來(lái)說。
第一財(cái)經(jīng)：大模型基礎(chǔ)上的應(yīng)用層生態(tài)，您認(rèn)為會(huì)是什么形態(tài)？
黃鐵軍：（大模型）有很多用法，將來(lái)的應(yīng)用有賴于全新的產(chǎn)品出現(xiàn)。討論比較多的應(yīng)用包括個(gè)人助理，個(gè)人助理未來(lái)可能跟今天的微信一樣，每個(gè)人都要用，這是巨大的產(chǎn)品機(jī)會(huì)。是消費(fèi)者直接購(gòu)入機(jī)器人還是由機(jī)器人公司在背后提供服務(wù)，各種產(chǎn)業(yè)形態(tài)將會(huì)探索。如具身智能，機(jī)器人自動(dòng)駕駛也會(huì)帶來(lái)巨大變化，如果汽車智能化比人更強(qiáng)，開車肯定不是今天這個(gè)狀態(tài)，或許不用買車，由運(yùn)營(yíng)商提供服務(wù)。
“生物智能從來(lái)不是唯一答案”
第一財(cái)經(jīng)：深度神經(jīng)網(wǎng)絡(luò)構(gòu)建了目前AI領(lǐng)域的核心，但相對(duì)而言，深度神經(jīng)網(wǎng)絡(luò)是一個(gè)簡(jiǎn)單的結(jié)構(gòu)，核心要素是數(shù)據(jù)、算力、算法，模仿的并非真正復(fù)雜的人，它能達(dá)到真正的智能嗎？
黃鐵軍：能產(chǎn)生智能、說什么樣的結(jié)構(gòu)能更好地產(chǎn)生智能、最優(yōu)的結(jié)構(gòu)是什么，有一個(gè)發(fā)展過程。以前（的智能）都是人設(shè)計(jì)算法、由人主導(dǎo)，現(xiàn)在一個(gè)系統(tǒng)能從數(shù)據(jù)里把智能“學(xué)”出來(lái)，而且還“學(xué)”出一些意料之外的智能，這是一次革命，但并非說這個(gè)方案最優(yōu)。深度神經(jīng)網(wǎng)絡(luò)或大模型背后的Transformer架構(gòu)，偉大之處是因?yàn)樽?ldquo;這件事發(fā)生了”，但往后看5年、10年甚至更長(zhǎng)時(shí)間，一定會(huì)改變，改變可能是顛覆性，也可能是完善性。
從基本的合理性來(lái)說，深度神經(jīng)網(wǎng)絡(luò)是多層神經(jīng)網(wǎng)絡(luò)。“深度”基本上是對(duì)的，但要多深還沒有理論上的證據(jù)。人腦神經(jīng)網(wǎng)絡(luò)里，新皮層每個(gè)功能柱有6層，層與層、功能柱和功能柱之間有復(fù)雜連接，形成層級(jí)結(jié)構(gòu)，這個(gè)層級(jí)結(jié)構(gòu)可能只有幾級(jí)就到理性思維的層面。（深度神經(jīng)網(wǎng)絡(luò)）可能在幾十層內(nèi)對(duì)于人類的智能就夠了，再多或許強(qiáng)于人的智能。深度神經(jīng)網(wǎng)絡(luò)、Transformer都是好的設(shè)計(jì)，未來(lái)結(jié)構(gòu)會(huì)越來(lái)越好、效率越來(lái)越高。
不合理之處是，跟真正的智能相比，現(xiàn)在信號(hào)的表達(dá)方式距離生物智能都很遠(yuǎn)。信息信號(hào)的表達(dá)以及在神經(jīng)網(wǎng)絡(luò)中的轉(zhuǎn)換，有太多改進(jìn)空間。
第一財(cái)經(jīng)：之前學(xué)界探索過類腦等其他路徑，現(xiàn)在它們還有多少發(fā)展空間？
黃鐵軍：產(chǎn)生智能的結(jié)構(gòu)和機(jī)理無(wú)窮無(wú)盡，但能否認(rèn)識(shí)到是另一回事。一個(gè)人突發(fā)奇想設(shè)計(jì)一個(gè)完全不同于生物的結(jié)構(gòu)能產(chǎn)生智能，這種可能性是存在的。生物智能從來(lái)不是唯一答案。類腦是有一個(gè)參照物，可以逼近它，盡管逼近目標(biāo)很復(fù)雜，但這條路的可行性存在。（類腦）路徑當(dāng)然有必要，因?yàn)樗緛?lái)就是發(fā)現(xiàn)新結(jié)構(gòu)和機(jī)理的道路，盡管現(xiàn)在產(chǎn)業(yè)投資關(guān)注度相對(duì)沒那么高，但作為研究方向會(huì)繼續(xù)下去，我相信對(duì)人工智能發(fā)展也會(huì)起作用。
第一財(cái)經(jīng)：深度學(xué)習(xí)網(wǎng)絡(luò)的機(jī)制我們還不清楚，類似一個(gè)黑箱。隨著AI進(jìn)化，人類能夠永遠(yuǎn)去理解、把控AI運(yùn)作的方式嗎？
黃鐵軍：比人類低的動(dòng)物智能，我們可能完全理解，到人的水平，理解和不理解都有可能，比我們更復(fù)雜的智能肯定理解不了。就像猴子理解人類社會(huì)運(yùn)行的規(guī)則，超出了它們思維的空間。一個(gè)智能系統(tǒng)的復(fù)雜程度或可能性空間有一定范圍。如果一個(gè)智能系統(tǒng)的空間比你大，你還想理解里面所有機(jī)制，是不可能的。
在我們的想象之外，不代表我們做不出這樣的智能系統(tǒng)。有太多的東西是人不明白原理但能做出來(lái)的，就像古代發(fā)明指南針、鹵水點(diǎn)豆腐，那時(shí)誰(shuí)知道有機(jī)物和鹽的相互關(guān)系？現(xiàn)在AI（即便是）黑盒子，也是一個(gè)可運(yùn)行的盒子。
“人會(huì)丟失越來(lái)越多傳統(tǒng)工作”
第一財(cái)經(jīng)：很多人擔(dān)心，自己的職業(yè)會(huì)不會(huì)被AI替代。針對(duì)AI對(duì)人類的影響，現(xiàn)在有沒有必要進(jìn)行預(yù)備性的設(shè)計(jì)？
黃鐵軍：早就應(yīng)該考慮。AI會(huì)代替一些人類不想做的事，但隨著AI對(duì)人類智力的替代，人的控制權(quán)可能逐漸被侵蝕�，F(xiàn)在社會(huì)運(yùn)行靠人的智力。可能一開始人交出的是一些不那么重要的智力，但真正重要的東西其實(shí)都看起來(lái)不重要的東西的匯聚。比如一個(gè)決策，在公司里，決策是基于很多人的意見形成，但如果人寫的報(bào)告都由AI替代，實(shí)際上決策過程已被滲透，人的影響下降了。從這個(gè)意義上講，我們確實(shí)早就應(yīng)該想一想，人的智力活動(dòng)被替代之后的影響。
從經(jīng)濟(jì)發(fā)展的角度，對(duì)很多職業(yè)而言，只要性價(jià)比高，AI肯定會(huì)被采用，人會(huì)丟失越來(lái)越多傳統(tǒng)工作。類似的事在歷史上經(jīng)歷多次，這次的根本性不同在于，人的能力被逼到最后一個(gè)階段。以前體力不做可以動(dòng)腦力，現(xiàn)在腦力也（可能）被替換。但人生來(lái)也不是為了工作吧？如果不需工作也能生活得很好，這也不是壞事。
根本問題在于，人類原本認(rèn)為自己是萬(wàn)物之靈長(zhǎng)，當(dāng)?shù)厍蛏献罡咧橇Φ奈锓N地位被挑戰(zhàn)（怎么辦）。從現(xiàn)在開始的一段時(shí)間，AI遠(yuǎn)沒有人強(qiáng)，但在某些方面比人強(qiáng)，我已有點(diǎn)擔(dān)心人類可能“躺平”。如果努力學(xué)習(xí)20年也未必有人工智能做得好，還要不要努力？如果AI真的超過人類，人（就）不可能超越了，就像猴子永遠(yuǎn)不可能超越人類。（AI）對(duì)人類信心的打擊已經(jīng)產(chǎn)生，只是社會(huì)效益可能還沒反映出來(lái)。
第一財(cái)經(jīng)：科學(xué)研究或是中性，但可能導(dǎo)向未知的未來(lái)，人們對(duì)AI發(fā)展既期待又恐懼，您作為科研工作者是怎么想的？前段時(shí)間，您簽署了《暫停巨型人工智能研究》公開信。
黃鐵軍：沒有恐懼也沒有期待，應(yīng)該說，你看著它（AI）往前發(fā)展，而作為個(gè)體無(wú)法改變技術(shù)洪流。我們可以思考，比如能不能慢一點(diǎn)。這基本只是一種呼吁，起不了多大作用，但至少也提醒大家前面有危險(xiǎn)。不可能攔住人群不要往前跑，這不是我們能決定的，人類社會(huì)很多方向的發(fā)展都是這樣。
2015年，我寫文章提到，30年左右，AGI就會(huì)實(shí)現(xiàn)。我說強(qiáng)人工智能、超級(jí)人工智能會(huì)出現(xiàn)，當(dāng)時(shí)很多人不屑一顧，實(shí)際上我的意思是制造智能可以在30年左右做出來(lái)，理解可能得更長(zhǎng)時(shí)間，甚至永遠(yuǎn)理解不了。如果它（超越人類智力的AI）做出來(lái)了，控制者不是人了，你能做的就是做一定的適應(yīng)。適應(yīng)過程可能有沖突，也可能平滑過渡。人類如果不那么（堅(jiān)持）認(rèn)為自己是天下的主人，（到時(shí)）也過上衣食無(wú)憂的生活，至少這是一個(gè)選項(xiàng)。
智能本來(lái)就在演化，怎么能永遠(yuǎn)停留在人類現(xiàn)在的水平上？生物進(jìn)化速度有點(diǎn)慢，現(xiàn)在換了一個(gè)載體（AI），進(jìn)化加速了，可能人類永遠(yuǎn)解決不了的問題，在新的智能時(shí)代得到解決。比如，人類還沒走出地球這個(gè)舒適圈，新的智能體有可能解決星際旅行問題。現(xiàn)在我們好像在一個(gè)安全的搖籃里生活，實(shí)際上對(duì)宇宙中很多危險(xiǎn)沒有解決方案�？茖W(xué)家針對(duì)復(fù)雜的問題還在努力，但或許找不到辦法，如果這時(shí)更強(qiáng)的智能系統(tǒng)找到辦法，我們就往前跨一大步。
