經(jīng)濟(jì)觀察報(bào) 記者 任曉寧當(dāng)清華大學(xué)智能產(chǎn)業(yè)研究院（AIR）院長張亞勤收到那份來自人工智能安全中心 (Center for AI Safety）的簽名邀請(qǐng)時(shí)，沒有太多猶豫，他選擇簽上了自己的名字。
這封后來引發(fā)全球關(guān)注的聯(lián)名信只有一段話：“減輕AI帶來的滅絕風(fēng)險(xiǎn)，應(yīng)該與流行病和核戰(zhàn)爭等其他社會(huì)規(guī)模的風(fēng)險(xiǎn)一起，成為全球優(yōu)先事項(xiàng)。”
包括張亞勤在內(nèi)，全球有超過350名人工智能（AI）領(lǐng)域的行業(yè)高管、專家和教授簽署了那封公開信，其中包括OpenAI公司CEO山姆奧特曼、DeepMind公司CEO戴米斯哈薩比斯再到微軟的創(chuàng)始人比爾蓋茨等等對(duì)于人類AI技術(shù)躍遷至關(guān)重要的名字，幾乎都在這封聯(lián)名信的簽名之中。
張亞勤不僅是教授、院長，之前他還在微軟、百度擔(dān)任過高管。再之前，他是人工智能領(lǐng)域的世界級(jí)科學(xué)家，他也是一個(gè)天才神童。12歲時(shí)，張亞勤考入中國科學(xué)技術(shù)大學(xué)少年班，成為當(dāng)屆中國年紀(jì)最小的大學(xué)生，之后他就讀于美國喬治華盛頓大學(xué)，全球知名的杰出科學(xué)家皮克霍茲教授多次在公眾場合夸耀張亞勤：“他是世界的一份財(cái)富。”31歲時(shí)，張亞勤成為美國電氣和電子工程師學(xué)會(huì)（IEEE）百年歷史上最年輕的院士。
2020年12月，清華大學(xué)智能產(chǎn)業(yè)研究院（AIR）成立，張亞勤擔(dān)任院長，他和他的團(tuán)隊(duì)研究AI大模型，也推進(jìn)產(chǎn)業(yè)落地。
相比對(duì)于人類命運(yùn)的憂慮，張亞勤當(dāng)下更多的精力放在了國內(nèi)的技術(shù)進(jìn)展和產(chǎn)業(yè)應(yīng)用之上。今年4月底，他和他的團(tuán)隊(duì)發(fā)布了生物醫(yī)藥開源模型BioMedGPT。“我希望我們做的研究是有用的，能用到產(chǎn)業(yè)上去的。”張亞勤告訴經(jīng)濟(jì)觀察報(bào)記者。
他所在的清華大學(xué)智能產(chǎn)業(yè)研究院（AIR）位于五道口啟迪科技大廈，這里最近成為了國內(nèi)AI從業(yè)者的“中樞大腦”。那些我們耳熟能詳?shù)墨@得融資的AI新秀公司負(fù)責(zé)人、AI研發(fā)帶頭人，以及頂級(jí)AI投資人，在近期都陸續(xù)來訪這里。他們聊天的共同話題是AI，或者更準(zhǔn)確的說，是大模型。
而和張亞勤有更多的溝通就會(huì)發(fā)現(xiàn)，盡管他在警惕AI風(fēng)險(xiǎn)的公開信上簽名，但在采訪過程中，他多次提到，他是一個(gè)AI樂觀主義者當(dāng)然，這種樂觀是建立在AI可控的前提下。
聽張亞勤聊人工智能時(shí)，能感受到他的興奮。他站起來指著屏幕上今年6月份制作的PPT說，ChatGPT是第一個(gè)通過圖靈測試的產(chǎn)品，“它很不得了。”以前研究AI的人拼盡所能，卻總被困在瓶頸里。大模型出現(xiàn)后，新的方向點(diǎn)亮了，雖然它此刻還不夠完美，但結(jié)局明晰。
當(dāng)人們對(duì)于當(dāng)下國內(nèi)短時(shí)間有近百家公司推出大模型存有疑慮時(shí)，張亞勤同樣對(duì)此保持樂觀。張亞勤覺得，數(shù)量有點(diǎn)多了，但他相信，在充分競爭的市場里打拼，終歸能有一個(gè)好結(jié)果。這方面，久經(jīng)廝殺的中國創(chuàng)業(yè)者最為擅長，他并不懷疑這一點(diǎn)。
這種樂觀使得他并不認(rèn)同更早的另一封同樣震驚海外的公開信。特斯拉創(chuàng)始人馬斯克在那封“呼吁暫停高級(jí)AI的開發(fā)”的風(fēng)險(xiǎn)警示信時(shí)說，AI有毀滅人類的可能性。張亞勤說，他并不擔(dān)心這點(diǎn)，“歷史上，每一次技術(shù)革命都會(huì)帶來風(fēng)險(xiǎn)，但每一次人類都把風(fēng)險(xiǎn)管理得很好，這一次，我想也不會(huì)例外。”
|對(duì)話┃
技術(shù)風(fēng)險(xiǎn)
經(jīng)濟(jì)觀察報(bào)：您簽署了5月30日發(fā)布的警示AI風(fēng)險(xiǎn)的公開信，為什么簽署？
張亞勤：其實(shí)早在20年前，我就一直在呼吁關(guān)注AI可能存在的風(fēng)險(xiǎn)和倫理上的挑戰(zhàn)。其實(shí)不僅是AI，所有的技術(shù)面臨的危機(jī)都是類似的，當(dāng)技術(shù)越來越強(qiáng)時(shí)，它會(huì)出現(xiàn)兩種方式：一種是用的好，可以為人類、為社會(huì)服務(wù)；另一種是用的不好，帶來負(fù)面效果。
我其實(shí)還是樂觀的，我認(rèn)為我們可以控制它的走向，但是必須要有一種風(fēng)險(xiǎn)意識(shí)。我們?nèi)祟愑袃煞N智慧，一種是發(fā)明技術(shù)的能力，一種是控制技術(shù)走向的能力�，F(xiàn)在顯然是智慧二落后于智慧一了，這時(shí)候應(yīng)該加點(diǎn)勁。這種加勁不僅是政策法規(guī)上，技術(shù)上也應(yīng)該加勁。
但我不認(rèn)為縮小差距的方式是叫停前沿的探索。之前有封信建議大家暫停研發(fā)GPT6個(gè)月，我理解他們的顧慮，但我認(rèn)為這是不可能的。因?yàn)槿祟惖暮闷嫘�、人類�?chuàng)新的步伐是擋不住的。人們的出發(fā)點(diǎn)是好的，但很可能這個(gè)公司停了，那個(gè)公司不停，這個(gè)國家停了，那個(gè)國家不停，所以這種呼吁其實(shí)是很難實(shí)現(xiàn)的。
經(jīng)濟(jì)觀察報(bào)：我們應(yīng)當(dāng)如何應(yīng)對(duì)AI風(fēng)險(xiǎn)？
張亞勤：我相信人類擁有管理AI風(fēng)險(xiǎn)的能力，因?yàn)槿祟惖诙N智慧是一直存在的。比如發(fā)射火箭也存在很多未知的風(fēng)險(xiǎn)。而它化解風(fēng)險(xiǎn)的方式是，用不同的、科學(xué)的、技術(shù)的方式做各種測試，比如rocket safety research，在火箭里有一個(gè)分支就是這樣。AI同樣可以有一個(gè)分支做這件事，把所有的風(fēng)險(xiǎn)降到最低。
我們相信，這也是人類可以不斷快速發(fā)展、生存、不斷進(jìn)步的原因。我是個(gè)樂觀主義者，我認(rèn)為技術(shù)創(chuàng)新是推動(dòng)社會(huì)進(jìn)步的最大動(dòng)力，之前工業(yè)革命是技術(shù)的革命，這次也一樣，人工智能就是第四次工業(yè)革命的技術(shù)動(dòng)力。
其實(shí)在每一次技術(shù)革命時(shí)，人類都把風(fēng)險(xiǎn)都管理得很好，雖然不完美，但都管理了。我們?nèi)祟惖膲勖娱L了，社會(huì)生產(chǎn)力發(fā)展了，生活更幸福、更充足了。
大模型進(jìn)化
經(jīng)濟(jì)觀察報(bào)：這一次大模型的出現(xiàn)，和此前的AI技術(shù)迭代有什么不一樣？
張亞勤：人工智能過去一個(gè)重大挑戰(zhàn)是常識(shí)不足，一個(gè)模型只能做某一件事，每個(gè)具體任務(wù)都要專門做一套模型�，F(xiàn)在AI常識(shí)能力越來越強(qiáng)，在向AGI發(fā)展，這個(gè)真的不得了。
而且，AI模仿的不是一個(gè)人，它是模仿全人類。它把人類最好的東西積累起來，所以叫superintelligence。這樣發(fā)展下去，它會(huì)把我們?nèi)祟愃鶎W(xué)的東西，人類的常識(shí)都囊括進(jìn)來。
過去我們開玩笑說，人工智能，做標(biāo)注的人工比智能還多。但現(xiàn)在不需要人類標(biāo)注了。比如下圍棋，你不用告訴它規(guī)則，只要告訴它什么是輸贏，它自己就能學(xué)會(huì)，而且能夠應(yīng)用到其他棋類上。
經(jīng)濟(jì)觀察報(bào)：大模型是否也存在短板？
張亞勤：它現(xiàn)在的效率依然很低。目前的大模型效率比人腦差的太多了，可能至少差1000倍。從規(guī)模和耗能來看，人類的大腦是效率最高的智能體，它有860億個(gè)神經(jīng)元，每個(gè)神經(jīng)元有上萬個(gè)突觸，卻只有不到3斤重，耗能不到20瓦，人腦的儲(chǔ)存量和效率之高，是目前任何大模型都無法比擬的。
所以現(xiàn)在需要提高大模型效率，讓能耗更校而且在人腦中，你問一句話時(shí)，它并沒有調(diào)動(dòng)所有神經(jīng)元，只調(diào)動(dòng)一小部分，越聰明的人調(diào)動(dòng)越少。可大模型不一樣，向大模型提出任何的問題，它可能都要調(diào)動(dòng)所有的資源，這無疑是一種巨大的浪費(fèi)。
不過，解決這些問題是需要時(shí)間的。這也是我們未來研究的方向，要學(xué)習(xí)人腦感知、決策、思維。
但一定要知道，做研究和產(chǎn)品，時(shí)間是不一樣的。大模型什么時(shí)候能耗會(huì)變�。坎粫�(huì)一天就能變校有的研究讓它降低20%，有的研究讓它降低30%，可能多年之后到達(dá)某一個(gè)節(jié)點(diǎn)，就成功了。其實(shí)現(xiàn)在大模型已經(jīng)可以用了，只是能耗很高，所以微軟、谷歌那些公司在大模型方面的業(yè)務(wù)還未能盈利。
經(jīng)濟(jì)觀察報(bào)：清華大學(xué)智能產(chǎn)業(yè)研究院（AIR）能夠?yàn)锳I技術(shù)發(fā)展帶來什么？
張亞勤：我們是一個(gè)基礎(chǔ)研究機(jī)構(gòu)，有20多個(gè)教授，100多個(gè)博士后、博士生和實(shí)習(xí)生。我們和一般學(xué)校的院系研究有些不同，我希望我們做的研究是有用的，能用到產(chǎn)業(yè)上的。這個(gè)研究也許是3年，也許是5年，也許更長，都沒關(guān)系，因?yàn)槲覀兪敲嫦蚪鉀Q真正問題的研究，不是一個(gè)純好奇心的研究。
我們的科研方向有三個(gè)，也是人工智能在未來5年、10年具有巨大影響力的三個(gè)方向。第一個(gè)是機(jī)器人和無人駕駛；第二個(gè)是智慧物聯(lián)，包括綠色計(jì)算、小模型部署到端等；第三個(gè)是智慧醫(yī)療，包括AI驅(qū)動(dòng)的新藥研發(fā)等。
比如我們的劉洋（男）教授一直在做模型之間的調(diào)用，以及模型之間的交互，這是大模型方面的一個(gè)研究。劉云新教授在做輕量模型，就是把大模型的能力小型化。劉菁菁教授做多模態(tài)大模型，把模態(tài)之間的聲音、圖像、文字聯(lián)合訓(xùn)練，她之前在微軟就做大模型。聶再清教授做大數(shù)據(jù)大模型，他的團(tuán)隊(duì)最近發(fā)布了生物醫(yī)藥大模型BioMedGPT。劉洋（女）副教授做聯(lián)邦學(xué)習(xí)、隱私計(jì)算。李鵬副教授也一直做通用大模型，陳亦倫教授也一直在做交通大模型，詹仙園助理教授也在做強(qiáng)化學(xué)習(xí)等，他們的工作在全球都是頂尖的。
我們最近發(fā)布了生物醫(yī)藥開源模型BioMedGPT，這是一個(gè)生物垂直領(lǐng)域的模型。我們的協(xié)同視覺與機(jī)器人實(shí)驗(yàn)室（DISCOVER Lab）代表隊(duì)參加了ICRA 2023 PUB.R國際機(jī)器人競賽并取得冠軍，同時(shí)本次DISCOVER實(shí)驗(yàn)室是國內(nèi)中稿論文最多的課題組、實(shí)驗(yàn)室主任周谷越副教授是全球中稿論文最多的華人學(xué)者、博士生李鵬飛是全球中稿論文最多的學(xué)生作者。
長期主義
經(jīng)濟(jì)觀察報(bào)：此前有不完全統(tǒng)計(jì)顯示，國內(nèi)已經(jīng)有79家公司在做大模型。這是否是同質(zhì)化競爭？
張亞勤：他們雖然都做大模型，但不一定都做橫向模型，有些在做垂直模型。我和很多創(chuàng)業(yè)者討論過，他們大部分都是有想法，想去做事，很聰明的人，他們會(huì)根據(jù)產(chǎn)業(yè)發(fā)展計(jì)劃做調(diào)整，調(diào)到后面就會(huì)有幾個(gè)勝出的。雖然大部分都會(huì)消失，但不經(jīng)過這個(gè)過程，你怎么知道誰會(huì)存在，誰會(huì)消失呢？互聯(lián)網(wǎng)公司都是這樣，比如百團(tuán)大戰(zhàn)、視頻大戰(zhàn)、搜索大戰(zhàn)等。
從互聯(lián)網(wǎng)歷史看，PC互聯(lián)網(wǎng)、移動(dòng)互聯(lián)網(wǎng)到了后期時(shí)，中國公司的規(guī)模創(chuàng)新、平臺(tái)創(chuàng)新都很多。PC時(shí)代我們幾乎都是抄美國，到了移動(dòng)互聯(lián)網(wǎng)時(shí)代，中國的移動(dòng)互聯(lián)產(chǎn)品比如支付、短視頻、微信，以及O2O，都比美國做的要好。
因此，我覺得在人工智能領(lǐng)域，中國以后也能做得好，我們能夠追上來。
經(jīng)濟(jì)觀察報(bào)：這是否意味著全新的創(chuàng)業(yè)機(jī)會(huì)正在出現(xiàn)？
張亞勤：每次產(chǎn)業(yè)平臺(tái)的更迭所產(chǎn)生的效應(yīng)都是數(shù)量級(jí)的增長。從過去來看，移動(dòng)互聯(lián)時(shí)代的產(chǎn)業(yè)機(jī)會(huì)比PC時(shí)代至少大10倍，人工智能時(shí)代的產(chǎn)業(yè)機(jī)會(huì)比PC時(shí)代至少大100倍，比移動(dòng)互聯(lián)時(shí)代大10倍或更高。
我們回溯IT行業(yè)的歷史會(huì)發(fā)現(xiàn)，每次都有小公司顛覆大公司，只是不同公司做的方式不一樣�，F(xiàn)在79個(gè)公司也好，100多個(gè)公司也好，總有人能找到他的新定位。這其中有很多事情可以做，比如垂直模型、自動(dòng)駕駛、生物醫(yī)藥等等，現(xiàn)在有很多很多機(jī)會(huì)。你要相信這些互聯(lián)網(wǎng)時(shí)代出來的人，他們絕對(duì)知道怎么競爭。
經(jīng)濟(jì)觀察報(bào)：外界有憂慮，這一輪生成式AI浪潮會(huì)不會(huì)和此前許多一陣風(fēng)式的技術(shù)風(fēng)口類似。
張亞勤：做研究的還是要有長期主義，心要安靜一點(diǎn)，不要急。你看OpenAI也沒急、DeepMind也沒急。
但必須看到，在很長一段時(shí)間以來，國內(nèi)一旦某個(gè)領(lǐng)域火爆的時(shí)候，大家全都下場，包括投資的人也會(huì)催著創(chuàng)業(yè)者下場做公司，從而形成短暫的狂熱氛圍。可一段時(shí)間之后，好像并沒有新的進(jìn)展，于是大家的注意力又轉(zhuǎn)移到新的地方。一種真正的技術(shù)，短期我們往往高估它的能力，長期又往往低估它的影響。我認(rèn)為現(xiàn)在的情況與互聯(lián)網(wǎng)1998年左右情況類似，然后2000年左右泡沫開始破裂，你看到，那么多的VC都是血本無歸。當(dāng)時(shí)很多人都對(duì)互聯(lián)網(wǎng)公司抱有悲觀預(yù)期，但現(xiàn)在來看，互聯(lián)網(wǎng)依然還是我們最重要的能力之一。
人工智能作為一個(gè)大的平臺(tái)，好的公司會(huì)越來越大，但過兩年可能大家反而又忘掉了。就像前幾年自動(dòng)駕駛很熱，當(dāng)時(shí)整天都在討論�，F(xiàn)在自動(dòng)駕駛正是發(fā)展最好的時(shí)候，大家反而沒反應(yīng)了。
當(dāng)然，能夠看到的是，經(jīng)歷了此前的泡沫之后，長期主義的氛圍也在慢慢的形成。以前大家是錢少，現(xiàn)在有些人賺了很多錢，以后也會(huì)有一些NGO、基金會(huì)或者很富有的個(gè)人。所以我想，我們也不妨多一些耐心和時(shí)間，等待這種轉(zhuǎn)變。
