“目前，（AI大模型）風(fēng)險(xiǎn)是可控的。但當(dāng)‘信息智能’延伸到‘物理智能’，‘生物智能’也開(kāi)始使用時(shí)，此時(shí)（AI大模型的）風(fēng)險(xiǎn)會(huì)比較大。”
清華大學(xué)智能產(chǎn)業(yè)研究院院長(zhǎng)、中國(guó)工程院院士張亞勤24日在中國(guó)發(fā)展高層論壇（CDF）2024年年會(huì)期間的一場(chǎng)研討會(huì)上表達(dá)了上述觀點(diǎn)，該研討會(huì)主題為“人工智能發(fā)展與治理”。
張亞勤認(rèn)為，目前，人工智能已發(fā)展到大模型時(shí)代。未來(lái)5年里，大模型可能在各個(gè)領(lǐng)域都進(jìn)入大規(guī)模應(yīng)用階段， 并由此產(chǎn)生三層風(fēng)險(xiǎn)。
第一層風(fēng)險(xiǎn)是信息世界的風(fēng)險(xiǎn)。張亞勤說(shuō)，目前，人類所應(yīng)用的大部分智能還屬于“信息式的智能”，海量的信息中不乏錯(cuò)誤的信息和虛假的信息。
第二層風(fēng)險(xiǎn)則是與生物智能發(fā)展密切相關(guān)。張亞勤認(rèn)為，伴隨機(jī)器人、無(wú)人機(jī)等技術(shù)發(fā)展和應(yīng)用，信息智能已逐步與物理世界相連。當(dāng)大模型進(jìn)一步與生物體、人類大腦連在一起的時(shí)候，風(fēng)險(xiǎn)可能規(guī)模化。
“腦機(jī)接口”是張亞勤“點(diǎn)名”的一類生物智能。所謂“腦機(jī)接口”，首都醫(yī)科大學(xué)宣武醫(yī)院院長(zhǎng)趙國(guó)光曾作出通俗的解釋：通過(guò)采集人的意念，經(jīng)過(guò)算法處理、信號(hào)分析，將其轉(zhuǎn)化為機(jī)器可識(shí)別的指令，并支配氣動(dòng)手、機(jī)械臂、輪椅等外部器械，實(shí)現(xiàn)腦機(jī)聯(lián)合。
作為人腦和電腦連接的橋梁，腦機(jī)接口為難治性神經(jīng)系統(tǒng)疾病治療打開(kāi)了巨大的想象空間。據(jù)市場(chǎng)機(jī)構(gòu)預(yù)測(cè)，腦機(jī)接口 (BCI) 市場(chǎng)正處于轉(zhuǎn)型增長(zhǎng)期，預(yù)計(jì)到2030年將達(dá)到59.9億美元，復(fù)合年增長(zhǎng)率高達(dá)15.9%。
但該技術(shù)也存在倫理方面的隱患當(dāng)癱瘓患者因腦機(jī)接口技術(shù)重獲與外界交互的能力，普通人可能借助腦機(jī)接口變成超人嗎？今年2月科技部印發(fā)的《腦機(jī)接口研究倫理指引》，對(duì)這種為“普通人變超人”帶來(lái)可能性的“增強(qiáng)型腦機(jī)接口研究”作出特殊要求。
再進(jìn)一步看，張亞勤還表示，未來(lái)五年里，當(dāng)AI大模型再連到現(xiàn)實(shí)世界中的經(jīng)濟(jì)體系、金融體系、軍事系統(tǒng)，影響電力等網(wǎng)絡(luò)，也可能產(chǎn)生較大隱憂，這是第三層風(fēng)險(xiǎn)。
“（對(duì)于進(jìn)入AI時(shí)代）人們其實(shí)完全沒(méi)有做好準(zhǔn)備，無(wú)論是在治理，還是在就業(yè)方面。” 香港大學(xué)教授、當(dāng)代中國(guó)與世界研究中心主任李成在同場(chǎng)研討會(huì)上也表達(dá)了相似的擔(dān)憂。
李成提到他近期參加兩場(chǎng)AI治理有關(guān)的跨國(guó)閉門會(huì)議的經(jīng)歷。“與會(huì)者都是全球領(lǐng)先的科學(xué)家，大多數(shù)來(lái)自于西方國(guó)家。當(dāng)時(shí)有54個(gè)國(guó)家的首腦都參與了那個(gè)會(huì)議，探討AI這個(gè)話題。AI其實(shí)已經(jīng)是一頭灰犀牛了，但是沒(méi)有人能夠預(yù)測(cè)它能夠這么快、這么大規(guī)模地出現(xiàn)在我們的社會(huì)里面。”李成說(shuō)。
怎么解決這些問(wèn)題？張亞勤提出了多點(diǎn)建議，其中之一是未來(lái)需要科學(xué)家、技術(shù)從業(yè)者和企業(yè)家一起“邊發(fā)展邊治理”。“我呼吁把10%的經(jīng)費(fèi)投入到大模型風(fēng)險(xiǎn)的研究里面去，這個(gè)研究不僅僅是政策研究，還有其中的很多算法、技術(shù)的研究。”張亞勤說(shuō)。
清華大學(xué)蘇世民書院院長(zhǎng)薛瀾在該場(chǎng)研討會(huì)上也給出5點(diǎn)治理建議：第一，要加強(qiáng)安全領(lǐng)域的技術(shù)研發(fā)和國(guó)際合作；第二，敏捷治理可能是這個(gè)時(shí)代需要考慮的一種模式；第三，鑒于外界的規(guī)制難以解決信息不對(duì)稱的問(wèn)題，要鼓勵(lì)企業(yè)的自我規(guī)制，并建立相關(guān)機(jī)制；第四，倡導(dǎo)全球化治理；第五，減少地緣政治對(duì)全球科技發(fā)展和治理的負(fù)面影響。
“比如，在人工智能領(lǐng)域中美雙方一定要加強(qiáng)合作，這樣才能真正解決人類面臨的各種問(wèn)題。”薛瀾說(shuō)。
