(經(jīng)濟觀察)AI技術(shù)變革進入快車道，發(fā)展與安全如何兼顧？
中新社北京7月21日電 (記者 劉育英)在本周北京舉行的2023中國互聯(lián)網(wǎng)大會上，以ChatGPT為代表的人工智能(AI)帶來怎樣的風(fēng)險，以及如何管控這些風(fēng)險，成為與會者熱議的話題。
對于AI的發(fā)展前景，北京智源人工智能研究院院長、北京大學(xué)計算機學(xué)院教授黃鐵軍表示，今天ChatGPT有強大的智能，影響深遠(yuǎn)，未來3年，除語言外，大模型正在迅速擴展視覺、聽覺、具身、行動等通用智能，影響將更大。
黃鐵軍預(yù)測，未來10年，智力革命已經(jīng)打響，就像工業(yè)革命解放體力，就像電力革命解決能源流通，全新生態(tài)將構(gòu)建，開源開放生態(tài)終將勝利。ChatGPT是數(shù)據(jù)驅(qū)動的靜態(tài)智能，未來20年是時空環(huán)境驅(qū)動的具身智能，智能載體將是類腦的脈沖神經(jīng)網(wǎng)絡(luò)，有望像生物大腦一樣涌現(xiàn)出更強的智能。
由于大語言模型的智能“涌現(xiàn)”，科學(xué)家尚不可解釋其機理，黃鐵軍認(rèn)為，“只要AI超過人類，人類想進行管控是不可能的”，因此不少業(yè)界專家反對訓(xùn)練GPT-5。
北京市通信管理局副局長王暉認(rèn)為，人工智能在賦能產(chǎn)業(yè)過程中，帶來的風(fēng)險挑戰(zhàn)有數(shù)據(jù)安全問題、算法安全問題、應(yīng)用安全問題和行業(yè)安全問題。
中國電信集團網(wǎng)絡(luò)和信息安全管理部總經(jīng)理谷紅勛表示，隨著AI尤其大模型的廣泛應(yīng)用，網(wǎng)絡(luò)攻擊、數(shù)據(jù)泄露等風(fēng)險日益凸顯，過度采集、歧視性算法，濫用深度偽造等問題可能會帶來影響社會經(jīng)濟運行的嚴(yán)重問題。
AI風(fēng)險問題已經(jīng)引起國際社會的關(guān)注。據(jù)媒體報道，當(dāng)?shù)貢r間7月21日，美國七家領(lǐng)先的人工智能公司，包括亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和OpenAI承諾接受白宮要求，幫助實現(xiàn)人工智能技術(shù)安全、可靠和透明的發(fā)展。
近日，聯(lián)合國安理會首次就人工智能問題舉行會議，來自15個成員國的外交官和人工智能領(lǐng)域的專家參與了這次會議，中方提出了五項原則。
大模型在中國得到快速發(fā)展。根據(jù)5月份發(fā)布的《中國人工智能大模型地圖研究報告》，中國10億參數(shù)規(guī)模以上的大模型已經(jīng)發(fā)布79個，研發(fā)的大模型數(shù)量排名全球第二，僅次于美國。
中國互聯(lián)網(wǎng)協(xié)會常務(wù)副秘書長陳家春表示，中國大模型發(fā)展活躍且快速，具體表現(xiàn)為計算能力不斷提高、數(shù)據(jù)量不斷增加、應(yīng)用場景不斷拓展以及研究方向不斷深入。
中國從監(jiān)管層到產(chǎn)業(yè)界，都高度關(guān)注防范AI風(fēng)險方面并做出探索。7月13日，中國出臺了首份生成式人工智能監(jiān)管發(fā)展文件《生成式人工智能服務(wù)管理暫行辦法》，提出堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則。
奇安信集團副總裁張卓接受采訪時表示，從《辦法》可以看出，數(shù)據(jù)安全和隱私保護貫穿于生成式人工智能數(shù)據(jù)的標(biāo)注、模型預(yù)訓(xùn)練、模型訓(xùn)練、提供服務(wù)等各個環(huán)節(jié)，避免了監(jiān)管盲區(qū)導(dǎo)致的安全風(fēng)險。
中國國內(nèi)啟明星辰、天融信、深信服等公司嘗試把大語言模型用于網(wǎng)絡(luò)安全。有些公司專門訓(xùn)練網(wǎng)絡(luò)安全領(lǐng)域垂直的大模型，有些公司把大語言模型用于產(chǎn)品形態(tài)中。
如何管控大模型帶來的風(fēng)險現(xiàn)在還沒有答案。“人工智能面臨失控風(fēng)險，但不用它是不可能的，如何控制AI的使用，確實是一個問題。”國家計算機網(wǎng)絡(luò)入侵防范中心主任張玉清表示。
黃鐵軍表示，AI越來越強，風(fēng)險與日俱增。如何構(gòu)建安全的AI，現(xiàn)在還沒有完整準(zhǔn)確的答案。面對AI越來越強的智能程度，人類面臨全新的挑戰(zhàn)。(完)
