人工智能，正經(jīng)歷百舸爭(zhēng)流。
近期，隨著國(guó)產(chǎn)大模型陸續(xù)向公眾開放，相關(guān)產(chǎn)品應(yīng)用不斷升溫。而盡管人工智能發(fā)展勢(shì)不可當(dāng)，卻難掩外界對(duì)于其風(fēng)險(xiǎn)和安全的擔(dān)憂。世界工程組織聯(lián)合會(huì)前任主席、中國(guó)新一代人工智能研究院執(zhí)行院長(zhǎng)、信創(chuàng)海河實(shí)驗(yàn)室主任龔克在接受新京報(bào)貝殼財(cái)經(jīng)記者專訪時(shí)坦言，人工智能快速發(fā)展，生成式人工智能突然爆發(fā)，讓監(jiān)管有些措手不及。
他認(rèn)為，生成式人工智能可能發(fā)生的內(nèi)容錯(cuò)誤，如果應(yīng)用到了高敏感度的應(yīng)用里，就會(huì)帶來(lái)極大風(fēng)險(xiǎn)。這也是為什么全球不少聲音強(qiáng)烈呼吁要對(duì)人工智能進(jìn)行治理。他呼吁，加快建立全球多元對(duì)話，促成明確共識(shí)，在全球共識(shí)上來(lái)進(jìn)行立法與規(guī)范，進(jìn)行標(biāo)準(zhǔn)化。
在龔克看來(lái)，標(biāo)準(zhǔn)的建立需要基于價(jià)值共識(shí)以及技術(shù)支撐。沒(méi)有技術(shù)支撐，治理就難以落地。全球需要的是一個(gè)具有人類價(jià)值觀，為全球可持續(xù)發(fā)展服務(wù)的人工智能。他認(rèn)為，百度、阿里、華為等大廠在發(fā)展大模型方面的優(yōu)勢(shì)，在于這些優(yōu)秀的互聯(lián)網(wǎng)企業(yè)聚集了大量的優(yōu)秀人才，擁有強(qiáng)算力和數(shù)據(jù)積累，同時(shí)還擁有資金優(yōu)勢(shì)。但小廠也不可忽視，他們不僅自身創(chuàng)新活躍，而且是大廠生態(tài)的重要組成部分。就中國(guó)國(guó)情來(lái)看，不僅要扶持科技大廠，更要扶持好中國(guó)整體創(chuàng)新生態(tài)。
他直言，并不認(rèn)同國(guó)際上呼吁暫停人工智能大模型研發(fā)的觀點(diǎn)。在他看來(lái)，暫停是沒(méi)有用的。人工智能是先進(jìn)生產(chǎn)力，它的發(fā)展勢(shì)不可擋。他認(rèn)為，人工智能在助力我國(guó)實(shí)現(xiàn)碳達(dá)峰碳中和目標(biāo)、促進(jìn)制造業(yè)即各個(gè)行業(yè)高質(zhì)量發(fā)展、改進(jìn)社會(huì)服務(wù)等各個(gè)方面可能形成國(guó)際優(yōu)勢(shì)與突破。所以，首先要發(fā)展好這個(gè)生產(chǎn)力，在發(fā)展中治理，以治理促進(jìn)和保障其健康發(fā)展。
龔克深耕科研與教育事業(yè)多年，談到了人工智能人才缺乏問(wèn)題時(shí)，他表示，新技術(shù)人才缺口是全球性的問(wèn)題，人才競(jìng)爭(zhēng)在一定意義上是教育體系的競(jìng)爭(zhēng)。中國(guó)教育系統(tǒng)需要深化改革以適應(yīng)智能化發(fā)展。要從娃娃抓起，提升公眾智能化素質(zhì)，讓所有人能夠在不同的程度上正確使用人工智能工具。
龔克表示，現(xiàn)在不學(xué)人工智能，就像在上世紀(jì)八九十年代不學(xué)計(jì)算機(jī)。人工智能是通用技術(shù)，各個(gè)專業(yè)都要學(xué)習(xí)。人工智能具有很強(qiáng)的實(shí)踐性，學(xué)習(xí)人工智能要重實(shí)踐而不是空談理論，實(shí)現(xiàn)知行合一。
談現(xiàn)狀
大廠存三大優(yōu)勢(shì)，大模型突圍不是各自為戰(zhàn)
貝殼財(cái)經(jīng)：目前布局大模型的大多都是互聯(lián)網(wǎng)企業(yè)，例如阿里、百度、騰訊等，以及美國(guó)的微軟和谷歌，互聯(lián)網(wǎng)企業(yè)在做大模型方面有哪些先天優(yōu)勢(shì)？
龔克：這些科技大廠的優(yōu)勢(shì)主要凸顯在三個(gè)方面。一是人才優(yōu)勢(shì)，優(yōu)秀的互聯(lián)網(wǎng)企業(yè)聚集了大量?jī)?yōu)秀人才。第二是技術(shù)優(yōu)勢(shì)，這又體現(xiàn)在兩個(gè)方面，硬優(yōu)勢(shì)即有很強(qiáng)的算力，軟優(yōu)勢(shì)即這些公司有大量數(shù)據(jù)的積累、算法的積累、平臺(tái)好生態(tài)。三是這些公司擁有資金優(yōu)勢(shì)，這點(diǎn)非常重要，因?yàn)槟壳巴瞥龅母黝惔竽Ｐ偷冗�不能快速實(shí)現(xiàn)盈利，但投入是非常大的，需要有這樣的資金優(yōu)勢(shì)。
不過(guò)，除了要看到大廠的先天優(yōu)勢(shì)，也要看到跟大廠一起合作，為產(chǎn)品做出貢獻(xiàn)的生態(tài)伙伴，即一大批創(chuàng)新活躍、獨(dú)具特色的新創(chuàng)企業(yè)。就中國(guó)的國(guó)情來(lái)看，我們不僅要扶持科技大廠，還要扶持好我們中國(guó)的整個(gè)創(chuàng)新生態(tài)。我個(gè)人認(rèn)為，美國(guó)多年進(jìn)行科技創(chuàng)新所形成大廠、小廠一起創(chuàng)新創(chuàng)業(yè)，初創(chuàng)企業(yè)和成熟大企業(yè)相互合作的生態(tài)，值得學(xué)習(xí)。
貝殼財(cái)經(jīng)：文心一言等國(guó)產(chǎn)人工智能大模型陸續(xù)免費(fèi)開放，相對(duì)于國(guó)際上的人工智能大模型，國(guó)產(chǎn)人工智能是否還存在差距？
龔克：對(duì)比中國(guó)和全球通用大模型的發(fā)展，中國(guó)在大模型方面正在迅速趕上，我個(gè)人在使用體驗(yàn)上并未感覺(jué)存在著非常突出的差距。需要強(qiáng)調(diào)的是，中國(guó)發(fā)展人工智能始終貫徹一條主線，即推動(dòng)人工智能和實(shí)體經(jīng)濟(jì)深度融合。讓人工智能助力實(shí)體經(jīng)濟(jì)的產(chǎn)品和服務(wù)提升，通過(guò)深化人工智能應(yīng)用，提高產(chǎn)品質(zhì)量、生產(chǎn)效率，降低成本、能耗和減少碳排。這是一個(gè)非常重要的發(fā)展趨勢(shì)，中國(guó)和世界都在向這些方面發(fā)展。
特別是制造業(yè)、基礎(chǔ)設(shè)施的發(fā)展，比如電力基礎(chǔ)設(shè)施和人工智能結(jié)合，形成更加低碳的、高效的、可靠的、穩(wěn)定的電力網(wǎng)絡(luò)服務(wù)。人工智能大模型大有可為，不僅大廠大有可為，小廠也是大有可為，核心要建設(shè)好專用的、高質(zhì)量的、標(biāo)準(zhǔn)化的數(shù)據(jù)集等，這需要生態(tài)共榮，需要開放平臺(tái)，需要大家合作起來(lái)，而不是各自為戰(zhàn)。
談短板
我國(guó)大模型尚處發(fā)展初級(jí)階段，新技術(shù)人才從娃娃抓起
貝殼財(cái)經(jīng)：如今，有的企業(yè)致力于研究通用大模型，有的做垂類模型，還有的企業(yè)做小數(shù)據(jù)模型，如何看待這幾個(gè)賽道？我國(guó)相關(guān)產(chǎn)業(yè)鏈上下游還有哪些領(lǐng)域亟待布局？
龔克：目前大家所熟知的文心一言、盤古大模型等，都在大力推動(dòng)大模型向?qū)Ｓ没较虬l(fā)展。我們要看到預(yù)訓(xùn)練大模型的成功推出，推動(dòng)了人工智能的發(fā)展，無(wú)論是大公司也好，小公司也好，不必從基礎(chǔ)的數(shù)據(jù)從頭開始訓(xùn)練，而是可以在通用大模型基礎(chǔ)上，用更加專用的數(shù)據(jù)精調(diào)預(yù)訓(xùn)練大模型，這也體現(xiàn)了大模型從Chat到Product（從內(nèi)容到產(chǎn)品）的進(jìn)化過(guò)程，是人工智能發(fā)展的重要階段。
不可忽視的是，我們依舊處在發(fā)展的初級(jí)階段。跟發(fā)達(dá)國(guó)家相比，我們?cè)S多企業(yè)的數(shù)字化程度不夠。企業(yè)有比較好的數(shù)字化，才能有完整的全生命流程的設(shè)計(jì)、制造、檢驗(yàn)、銷售以及用戶反饋數(shù)據(jù)、銷售渠道反饋數(shù)據(jù)等，利用這些相對(duì)完整的數(shù)據(jù)可以調(diào)出專用的大模型。
同時(shí)，我們存在人才弱勢(shì)，基礎(chǔ)研發(fā)人才不足，產(chǎn)業(yè)應(yīng)用的人才也不足。盡管大模型已經(jīng)大大降低了人工智能應(yīng)用的門檻，但是我們?nèi)匀恍枰芎玫墓こ處熌苷莆障嚓P(guān)技術(shù)、用好人工智能工具。要加快人才的培養(yǎng)，不僅是在學(xué)校培養(yǎng)人才，還要在生產(chǎn)崗位上培訓(xùn)我們現(xiàn)有的工程師，去掌握這個(gè)新興的數(shù)字技術(shù)。
貝殼財(cái)經(jīng)：你多年投身于科研和教育事業(yè)，人工智能人才缺乏的問(wèn)題，各方面應(yīng)該如何努力？
龔克：新技術(shù)人才缺口是全球性的問(wèn)題，人才競(jìng)爭(zhēng)在一定意義上是教育系統(tǒng)的競(jìng)爭(zhēng)，這給我們的教育系統(tǒng)提出新的問(wèn)題，即我們的教育和社會(huì)培訓(xùn)體系是不是能迅速適應(yīng)智能化快速發(fā)展的需求。我們首先要在觀念上認(rèn)識(shí)到，人工智能技術(shù)是一個(gè)革命性的通用技術(shù)，不僅要建立專門的學(xué)科來(lái)培養(yǎng)專門的人才，還需要將其作為通識(shí)，從娃娃抓起，提升公眾智能化素質(zhì)，讓所有人能夠在不同程度上正確使用人工智能工具。
今天不學(xué)人工智能，就像在上世紀(jì)八九十年代不學(xué)計(jì)算機(jī)。這兩年，我國(guó)教育系統(tǒng)在這方面下功夫比較多的是搞一個(gè)人工智能專業(yè)或?qū)W院，這當(dāng)然是需要的。但我認(rèn)為更要把人工智能基礎(chǔ)作為一個(gè)通識(shí)，提高公眾的智能化素質(zhì)。全民的智能化素質(zhì)高，就能使中國(guó)成為一個(gè)人工智能高地。我們很難在低谷里去建一個(gè)高峰，要在高原上建高峰。
人工智能作為一個(gè)橫向技術(shù)，打破專業(yè)壁壘，改變行業(yè)面貌，而我們的工程教育是基于工業(yè)化時(shí)代分工的專業(yè)教育，甚至是專業(yè)壁壘高筑，這是必須改變的。我們的整體教育系統(tǒng)要跟著智能化時(shí)代變革，同時(shí)要重實(shí)踐而不是空談理論。要真正認(rèn)識(shí)這個(gè)工具，就必須使用這個(gè)工具，在使用中更加了解工具，實(shí)現(xiàn)知行合一，這也是我國(guó)教育非常需要的改革。
談落地
看到差距也要增強(qiáng)信心，必須對(duì)人工智能進(jìn)行監(jiān)管
貝殼財(cái)經(jīng)：人工智能有三駕馬車：算力、算法、數(shù)據(jù)，我國(guó)人工智能發(fā)展過(guò)程中，算力、算法、數(shù)據(jù)孰更重要，哪部分將面臨較大挑戰(zhàn)？
龔克：數(shù)據(jù)方面，目前全球數(shù)據(jù)共享和數(shù)據(jù)跨境流動(dòng)還存在著很多障礙。同時(shí)，對(duì)于中國(guó)做大模型的公司來(lái)說(shuō)，掌握的中文數(shù)據(jù)相對(duì)更少，質(zhì)量也有限。以互聯(lián)網(wǎng)數(shù)據(jù)為例，中文數(shù)據(jù)還不到10%，相對(duì)英文數(shù)據(jù)占比超過(guò)70%。所以，我們要想辦法提高數(shù)據(jù)的質(zhì)量，以質(zhì)取勝，而且要?jiǎng)?chuàng)新算法，減少數(shù)據(jù)依賴。
算力方面，從國(guó)際統(tǒng)計(jì)數(shù)據(jù)來(lái)看，我國(guó)算力處于世界第二位，暫時(shí)落后于美國(guó)但領(lǐng)先于其他很多國(guó)家。所以，從算力方面來(lái)講，發(fā)展情況相對(duì)較好。不過(guò)，國(guó)產(chǎn)GPU（顯示芯片）、半導(dǎo)體基礎(chǔ)工藝等存在較大差距，這也相對(duì)制約了算力的發(fā)展。
算法方面，目前我國(guó)算法發(fā)展迅速，但必須看到的是，這依賴于國(guó)際上的開放生態(tài)，同時(shí)像深度神經(jīng)網(wǎng)絡(luò)、變換器（transformer）、詞嵌入、隱私計(jì)算等相關(guān)重要算法的首創(chuàng)都不在中國(guó)。我們需要以決心和恒心加強(qiáng)原始創(chuàng)新，實(shí)現(xiàn)基本原理的突破，實(shí)現(xiàn)算法可解釋、風(fēng)險(xiǎn)可預(yù)測(cè)等。
除了算力、算法、數(shù)據(jù)，還有一個(gè)不可忽視的重要因素即人才。無(wú)論是算力的競(jìng)爭(zhēng)、算法的競(jìng)爭(zhēng)、數(shù)據(jù)的競(jìng)爭(zhēng)，其背后都是人才的競(jìng)爭(zhēng)。在看到差距的同時(shí)，我們也要增強(qiáng)信心，與改革開放初期相比，差距已經(jīng)大大縮小了，已經(jīng)在人工智能的基礎(chǔ)硬件、框架、模型和應(yīng)用方面有了許多創(chuàng)新成果和創(chuàng)新能力。我們要有決心、有信心在智能化發(fā)展中走在前列。
貝殼財(cái)經(jīng)：自ChatGPT（OpenAI研發(fā)的一款聊天機(jī)器人程序）爆火以來(lái)，無(wú)論是特斯拉首席執(zhí)行官馬斯克還是OpenAI（一家人工智能公司）高管，都提出要對(duì)人工智能進(jìn)行監(jiān)管，甚至還有逾千名專家呼吁暫停巨型人工智能的研發(fā)，他們?cè)趽?dān)心什么，你是否認(rèn)同？
龔克：我非常認(rèn)同必須對(duì)人工智能進(jìn)行監(jiān)管。其實(shí)，我們對(duì)任何技術(shù)，任何技術(shù)產(chǎn)品都是有監(jiān)管的，只不過(guò)人工智能發(fā)展太快，生成式人工智能突然爆發(fā)，讓監(jiān)管有些措手不及。對(duì)數(shù)字化發(fā)展來(lái)說(shuō)，監(jiān)管與治理都是后置的，只有少數(shù)技術(shù)，比如像通信技術(shù)等，治理和標(biāo)準(zhǔn)建立在前，后面再談產(chǎn)品和服務(wù)。
特別是生成式人工智能，它生成的是內(nèi)容，內(nèi)容帶著價(jià)值觀，涉及真實(shí)性、可靠性和公正性。例如，曾經(jīng)就出現(xiàn)過(guò)人們用人工智能進(jìn)行招聘初篩，該模型把某一個(gè)年齡、非某種學(xué)校畢業(yè)、某性別的申請(qǐng)人直接進(jìn)行排除。原因是社會(huì)存在的歧視反映到數(shù)據(jù)之中，再用數(shù)據(jù)訓(xùn)練模型，使歧視被固化、強(qiáng)化。所以，治理具有必要性。
目前的大模型是基于概率生成內(nèi)容的。例如，你向它提一個(gè)問(wèn)題，它給你一個(gè)回答，這個(gè)回答是怎么生成的呢？這是基于這個(gè)回答中的詞語(yǔ)組合和提問(wèn)中的詞語(yǔ)組合的聯(lián)合分布概率。既然基于概率，就不會(huì)是百分之百正確，換句話說(shuō)，就是百分之百的會(huì)出錯(cuò)。這種錯(cuò)誤如果應(yīng)用到了高敏感度的應(yīng)用里，就可能帶來(lái)極大風(fēng)險(xiǎn)。這就是為什么全球強(qiáng)烈呼吁要對(duì)人工智能進(jìn)行治理。我們希望加快建立全球多元對(duì)話，形成明確共識(shí)，在全球共識(shí)上來(lái)進(jìn)行立法與規(guī)范，推進(jìn)標(biāo)準(zhǔn)化，進(jìn)行風(fēng)險(xiǎn)分類分級(jí)。
不過(guò)，我不并不認(rèn)同，暫停人工智能研發(fā)的主張。暫停是沒(méi)有用的。人工智能是先進(jìn)生產(chǎn)力，它的發(fā)展勢(shì)不可擋。從歷史上來(lái)看，當(dāng)機(jī)械動(dòng)力的紡織機(jī)代替手工紡織的時(shí)候，憤怒的工人砸機(jī)器，但這沒(méi)用，擋不住機(jī)械化的歷史進(jìn)程。當(dāng)汽車出現(xiàn)時(shí)，也曾規(guī)定讓汽車的速度不能超過(guò)馬車，也沒(méi)用，這些都阻擋不了先進(jìn)生產(chǎn)力的發(fā)展。
我們能做的事是建立安全標(biāo)準(zhǔn)，明確生產(chǎn)者和使用者的責(zé)任。人為叫停是不能阻止人工智能發(fā)展的，就像看到汽車行駛飛快，人類害怕沒(méi)有用，擋也是擋不住的，你要做的就是學(xué)會(huì)開車。對(duì)于人工智能，我們也要學(xué)會(huì)駕而馭之。
談規(guī)范
治理需要技術(shù)支撐，加快制定與倫理和公序良俗相關(guān)的標(biāo)準(zhǔn)
貝殼財(cái)經(jīng)：此前你多次提到，“生成式人工智能是有內(nèi)容的，我們必須為它立心，使得它符合我們的標(biāo)準(zhǔn)”，人工智能發(fā)展到目前階段，需要建立什么樣的標(biāo)準(zhǔn)？
龔克：所謂“立心”，就是要讓它遵守人類倫理和價(jià)值觀、遵守法規(guī)和符合標(biāo)準(zhǔn)。目前，聯(lián)合國(guó)教科文組織已經(jīng)推出人工智能倫理建議書，為人工智能全球治理奠定了重要基礎(chǔ)，其中提出了四個(gè)重要的價(jià)值觀。第一，尊重和保障人權(quán)和人的基本權(quán)利；第二，保護(hù)環(huán)境的多樣性和生態(tài)的多樣性；第三，保持人類社會(huì)的多樣性、多元性和包容性；第四，和平和互聯(lián)互通。
這一建議書還突出了“相稱性和不損害”“公平和非歧視”“隱私權(quán)和數(shù)據(jù)保護(hù)”“透明性與可解釋性”“人類的監(jiān)督與決定權(quán)”等十項(xiàng)指導(dǎo)原則。聯(lián)合國(guó)教科文組織要求各成員國(guó)具體落實(shí)這些價(jià)值觀和原則，就需要制定必要的法規(guī)、導(dǎo)則和標(biāo)準(zhǔn)。
我國(guó)已經(jīng)推出了八項(xiàng)治理原則、十八條人工智能倫理規(guī)范，相關(guān)的立法調(diào)研已經(jīng)開展起來(lái)，提出了人工智能標(biāo)準(zhǔn)框架等。最近，聯(lián)合國(guó)在加快推進(jìn)全球人工智能治理的步伐，歐洲率先推出人工智能法案，各國(guó)也都在加速。在標(biāo)準(zhǔn)化層面，中國(guó)在2021年已經(jīng)推出了一個(gè)由相關(guān)部委共同發(fā)布的人工智能技術(shù)標(biāo)準(zhǔn)框架。這個(gè)框架從基礎(chǔ)層到應(yīng)用層，都做了全面的規(guī)范，在這個(gè)框架之下，相關(guān)團(tuán)體企業(yè)都在積極開發(fā)相關(guān)標(biāo)準(zhǔn)。鑒于人工智能是在發(fā)展中的技術(shù)，我們特別提出了“敏捷治理”的概念和原則，這在國(guó)際上是非常突出的。如何讓“敏捷治理”更好落地，還需要我們不斷創(chuàng)新實(shí)踐。
總之，人工智能的治理就是要使“AIwith human values for sustainable development（具有人類價(jià)值觀的可為全球可持續(xù)發(fā)展服務(wù)的人工智能）”。為此，需要技術(shù)支撐，比如為保護(hù)隱私，需要隱私計(jì)算這樣的技術(shù)來(lái)支撐，需要有可測(cè)試檢驗(yàn)的標(biāo)準(zhǔn)。否則，倫理也好、原則也好，都會(huì)成為空談。
貝殼財(cái)經(jīng)：大模型迎來(lái)爆發(fā)節(jié)點(diǎn)，數(shù)據(jù)安全和隱私保護(hù)成為值得關(guān)注的問(wèn)題，在建立、健全關(guān)鍵信息基礎(chǔ)設(shè)施安全、算法安全、數(shù)據(jù)安全、個(gè)人信息保護(hù)等方面，你有哪些建議？
龔克：在上述方面我們要做的事情有很多，從法規(guī)來(lái)講，近年來(lái)我們接連落地更新實(shí)施了《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等，從法律規(guī)定到真正實(shí)踐落地，中間有一個(gè)非常重要環(huán)節(jié)，即建立技術(shù)標(biāo)準(zhǔn)。我建議在發(fā)展建立技術(shù)標(biāo)準(zhǔn)中，重點(diǎn)優(yōu)先發(fā)展用于安全審查、隱私保護(hù)的技術(shù)標(biāo)準(zhǔn)和規(guī)范，先把產(chǎn)品中可能出現(xiàn)的問(wèn)題找出來(lái)，盡可能消除隱患、并在評(píng)估風(fēng)險(xiǎn)的基礎(chǔ)上再投入使用。要加快與倫理和社會(huì)公序良俗相關(guān)的標(biāo)準(zhǔn)制定。
第二個(gè)建議是對(duì)人工智能包括對(duì)其技術(shù)產(chǎn)品的治理，要基于風(fēng)險(xiǎn)區(qū)分。例如，讓生成式人工智能來(lái)直接制定發(fā)展規(guī)劃、產(chǎn)業(yè)政策，這是不行的，一旦出錯(cuò)會(huì)造成高風(fēng)險(xiǎn)。但是如果用人工智能去寫一個(gè)科幻小說(shuō)，那么即便內(nèi)容出現(xiàn)錯(cuò)誤，危害也相對(duì)較校所以，我們要區(qū)分各種領(lǐng)域應(yīng)用的風(fēng)險(xiǎn)，在風(fēng)險(xiǎn)分類分級(jí)的基礎(chǔ)上，針對(duì)不同的應(yīng)用來(lái)制定不同的規(guī)范和標(biāo)準(zhǔn)。
第三個(gè)是建立敏捷治理的機(jī)制，在發(fā)展和應(yīng)用中治理，而不是等法規(guī)和標(biāo)準(zhǔn)都完善后再發(fā)展應(yīng)用。其實(shí)，汽車的治理也是在使用中不斷完善，比如“系安全帶”的規(guī)定，就是在發(fā)展和應(yīng)用中才提出來(lái)的，是由“三角安全帶”的技術(shù)發(fā)明來(lái)支撐落地的。
新京報(bào)貝殼財(cái)經(jīng)記者 程子姣 編輯 王進(jìn)雨 校對(duì) 賈寧
