今年以來(lái)，ChatGPT引領(lǐng)AI技術(shù)率先“出圈”， OpenAI、Google、微軟、英偉達(dá)、百度、華為、阿里巴巴等紛紛入局推出相關(guān)AIGC產(chǎn)品，在科技界卷起“驚濤駭浪”。而今年3月底，意大利個(gè)人數(shù)據(jù)保護(hù)局宣布禁止使用ChatGPT，此后，德國(guó)、加大拿、法國(guó)等也相繼表達(dá)相似態(tài)度，一度讓AIGC在歐洲陷入僵局。5月初，谷歌、微軟、OpenAI等高管與美國(guó)政府官員會(huì)面討論AI立法等問(wèn)題。
以上種種，癥結(jié)在于人工智能可能面臨的數(shù)據(jù)安全、隱私保護(hù)、倫理規(guī)范等方面的風(fēng)險(xiǎn)和挑戰(zhàn)無(wú)法預(yù)測(cè)，業(yè)界甚至有聲音提出要“按下暫停鍵”。
“人工智能教父”杰弗里辛頓今年年初曾經(jīng)警告，人工智能對(duì)人類構(gòu)成的威脅將比氣候變化更加緊迫。如果有人用它來(lái)制作虛假圖像、視頻，傳遞錯(cuò)誤信息，其破壞力遠(yuǎn)大于單純的文字形式。
當(dāng)前，人工智能詐騙案件頻發(fā)應(yīng)驗(yàn)了這一警告。業(yè)內(nèi)人士指出，要更好地發(fā)展和應(yīng)用AI大模型及相關(guān)產(chǎn)品，就必須積極應(yīng)對(duì)其可能帶來(lái)的知識(shí)產(chǎn)權(quán)、安全、倫理、環(huán)境等方面挑戰(zhàn)，實(shí)現(xiàn)科學(xué)有效堅(jiān)持監(jiān)管與創(chuàng)新發(fā)展的平衡。
“目前，我國(guó)人工智能的監(jiān)管是著重于內(nèi)容安全。”北京理工大學(xué)法學(xué)院教授、外交部國(guó)際法咨詢委員會(huì)委員洪延青在2023中關(guān)村論壇院士專家企業(yè)一席談平行論壇上指出。
記者了解到，今年4月，國(guó)家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》（以下簡(jiǎn)稱《辦法》），明確了生成式人工智能的定義，以及相關(guān)產(chǎn)品和服務(wù)提供者的合規(guī)義務(wù)，對(duì)生成式人工智能進(jìn)行專項(xiàng)監(jiān)管，預(yù)計(jì)這個(gè)管理辦法即將生效。
洪延青表示，《辦法》著重強(qiáng)調(diào)生成式AI所產(chǎn)生的文本、圖片、聲音、視頻、代碼的真實(shí)性、準(zhǔn)確性、客觀性。對(duì)于生成式AI的開發(fā)者，應(yīng)承擔(dān)內(nèi)容生產(chǎn)者責(zé)任和個(gè)人信息處理責(zé)任；對(duì)于下游使用生成式AI的應(yīng)用者，應(yīng)當(dāng)向國(guó)家網(wǎng)信部門申報(bào)安全評(píng)估，并履行算法備案和變更手續(xù)等。在洪延青看來(lái)，主要防范的是技術(shù)背后的想象，比如合成人臉、合成聲音來(lái)詐騙等。
在國(guó)外，歐盟和美國(guó)走出的AI監(jiān)管路徑各不相同。洪延青介紹道，歐盟AI法案從人的基本權(quán)利保護(hù)出發(fā)，起初劃分為低風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)AI和禁止性AI，并在通用性AI監(jiān)管和基礎(chǔ)模型層面分別規(guī)定了開發(fā)者的盡責(zé)義務(wù)。當(dāng)技術(shù)進(jìn)展到生成式AI階段，監(jiān)管則主要聚焦兩項(xiàng)內(nèi)容：一是能夠規(guī)避內(nèi)容問(wèn)題，例如虛假信息和誹謗，二是在生成式AI訓(xùn)練中使用到數(shù)據(jù)的版權(quán)問(wèn)題。
洪延青也指出，美國(guó)的AI政策相對(duì)寬松，基本上是鼓勵(lì)發(fā)展的態(tài)度。國(guó)會(huì)4部法律宗旨是要提升全國(guó)AI能力，白宮行政令也是以AI能力建設(shè)為導(dǎo)向，政府使用AI是需要嚴(yán)格監(jiān)管，但對(duì)于社會(huì)消費(fèi)者而言監(jiān)管相對(duì)寬松，只是整體上對(duì)于社會(huì)平等性等問(wèn)題比較關(guān)注。
洪延青總結(jié)道：“總的來(lái)說(shuō)，我國(guó)AI監(jiān)管現(xiàn)階段關(guān)注內(nèi)容安全，歐盟關(guān)注對(duì)人的基本權(quán)利的保護(hù)，美國(guó)到現(xiàn)在為止是一個(gè)推進(jìn)AI能力建設(shè)的路徑，所以三個(gè)不同的國(guó)家和地區(qū)走了三個(gè)不同的方向，但是我相信等歐盟人工智能法案在年底或者明年通過(guò)之后，會(huì)對(duì)全球產(chǎn)生比較大的影響，可能到時(shí)候監(jiān)管格局會(huì)發(fā)生比較大的變化。”
洪延青對(duì)AI企業(yè)提出建議，要高度關(guān)注這些法律的變化，以及不同國(guó)家和地區(qū)法律變化所產(chǎn)生的聯(lián)動(dòng)效應(yīng)。
作者丨盧夢(mèng)琪
編輯丨徐恒
美編丨馬利亞
監(jiān)制丨連曉東
