◆“AI換臉”技術(shù)的“平民化”，讓其潛藏的法律風險更多進入國人視線
◆人臉、聲音等自然人的生物信息具有高度識別性和強關(guān)聯(lián)性，這些信息一旦“丟失”，將可能沖擊網(wǎng)絡(luò)空間的公共秩序，進而影響社會秩序穩(wěn)定
◆針對新興技術(shù)的監(jiān)管要保持戰(zhàn)略定力和應(yīng)有自信，讓技術(shù)先行，并在審慎包容中不斷探明底線，在底線之上給足新技術(shù)發(fā)展空間
◆可以“以AI制AI”，將AI技術(shù)應(yīng)用于犯罪識別、預(yù)警、對抗中，研發(fā)“反換臉”等檢測技術(shù)，利用人工智能技術(shù)提高辦案能力
◆相比于侵權(quán)、詐騙等技術(shù)濫用帶來的危害，更應(yīng)重視其對網(wǎng)絡(luò)社會秩序、現(xiàn)實社會秩序、國家安全乃至社會信任體系、倫理道德規(guī)則等帶來的危害與沖擊
構(gòu)筑AI安全護欄
文|《望》新聞周刊記者于雪劉煜
眼見未必為實。長相、聲音都是熟人，實則卻是“AI換臉”詐騙；“偷來的臉”被制成不雅視頻販賣……近期，類似這種使用“AI換臉”技術(shù)進行詐騙、誹謗、敲詐勒索等新型違法行為日漸增多，詐騙手段愈發(fā)多樣。
公安部8月10日發(fā)布的數(shù)據(jù)顯示，2020年以來，公安機關(guān)依托“凈網(wǎng)”專項行動組織專項會戰(zhàn)，嚴打泄露身份證照片等圖像信息的犯罪源頭，破獲“AI換臉”案件79起，抓獲犯罪嫌疑人515名，該類犯罪發(fā)生勢頭得到有效遏制。
濫用“AI換臉”技術(shù)究竟?jié)摬啬男╋L險？特別是在新一輪科技革命如火如荼的當下，如何監(jiān)管治理并為其劃定合理使用的邊界？諸多問題考驗著治理者的智慧。
王鵬圖/本刊
立法能打敗“魔法”嗎
“只要是能看到的臉都能換”“手機可操作”“30秒內(nèi)出結(jié)果”……一段時間以來，能夠定制換臉視頻的AI軟件利用短視頻平臺、社交賬號等相對隱秘的渠道進行資源共享，少則幾百元、多則兩三千元即可實現(xiàn)單圖換臉、實時換臉、全自動換臉等功能。
有聞智庫創(chuàng)始人陽淼介紹，所謂“AI換臉”技術(shù)，是深度合成技術(shù)的一種，在數(shù)字營銷、在線教育、影視制作、資料修復(fù)、智慧醫(yī)療等領(lǐng)域具有豐富應(yīng)用場景。
中國社科院哲學(xué)所科技哲學(xué)研究室主任、研究員段偉文介紹，“AI換臉”主要應(yīng)用自動編碼解碼和生成對抗網(wǎng)絡(luò)兩大技術(shù)，可完成重現(xiàn)、替換、編輯、合成等功能。
所謂自動編碼，即將一個人的圖像特征抓取出來，并用一串數(shù)字代表，解碼則是將數(shù)字還原成圖像。
生成對抗網(wǎng)絡(luò)技術(shù)包括生成和辨別兩部分，它們是兩個互相博弈的神經(jīng)網(wǎng)絡(luò)，生成網(wǎng)絡(luò)更像是“造假者”，盡力讓對方相信自己生成的是真樣本；辨別網(wǎng)絡(luò)則更像“檢測者”，盡力區(qū)分哪個是假樣本。
“AI換臉”軟件前期通過大量數(shù)據(jù)訓(xùn)練讓自動編碼解碼和生成對抗網(wǎng)絡(luò)這兩大技術(shù)更為精準、成熟、難以辨別，而后期使用者提供的數(shù)據(jù)越多，效果越接近真實。
“AI換臉”技術(shù)的“平民化”，讓其潛藏的法律風險更多進入國人視線。多位受訪專家表示，即便未構(gòu)成刑事犯罪，擅自使用他人人臉、聲音等敏感生物信息，也已涉嫌侵犯公民的肖像權(quán)、隱私權(quán)等人格權(quán)。
中國政法大學(xué)傳播法研究中心副主任朱巍表示，換臉視頻本身是對公民肖像權(quán)的濫用，如果剪輯過程中有丑化或貶損的情形導(dǎo)致被換臉人的社會評價降低，則涉嫌侵犯名譽權(quán)。且無論該行為是否被用于營利目的，均構(gòu)成侵權(quán)。
專家分析，就利用“AI換臉”技術(shù)實施色情、詐騙等違法犯罪行為而言，當前在法律責任的認定上并不困難，難點主要在于追責。
浙江省公共政策研究院研究員高艷東介紹，利用“AI換臉”技術(shù)進行的違法犯罪行為，侵權(quán)主體往往難以直接鎖定、侵權(quán)行為復(fù)雜多樣、侵權(quán)后果難以量化，既需要在司法實踐中給出更細化的解釋，也需要借助更多典型案例，以不斷探索完善相關(guān)案件的裁判理念和規(guī)則。
中國社會科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心執(zhí)行主任劉曉春表示，隨著“AI換臉”技術(shù)快速迭代，侵權(quán)易、維權(quán)難的矛盾將更為突出。比如如何證明侵權(quán)事實的存在，可能需要對處理方式、信息獲娶信息處理加工等情況進行舉證，僅憑公民自身力量有限，即便是司法機關(guān)取證，也會耗費大量時間精力。“對被侵權(quán)人來說，維權(quán)成本高、專業(yè)性強、舉證困難的情況將非常棘手。”
“裝好剎車再上路”
在立法和“AI換臉”“魔法”的對決中，AI技術(shù)治理成為一道必答題。
今年8月施行的《生成式人工智能服務(wù)管理暫行辦法》明確提出，國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管。
段偉文表示，當前AI技術(shù)的發(fā)展臨近第一個“黃金交叉點”，即利用AI技術(shù)生成的內(nèi)容已極大限度趨近真實，僅靠人類的經(jīng)驗判斷和五感很難分辨真?zhèn)�，而未來借助技術(shù)生成的內(nèi)容在精準度、邏輯性等方面甚至能夠超越人類創(chuàng)造的內(nèi)容，其數(shù)量也將指數(shù)級增長，隨之將會迎來第二個“黃金交叉點”。“也就是說，真內(nèi)容將會被假內(nèi)容淹沒，給人類的創(chuàng)造性和判斷力帶來巨大挑戰(zhàn)。”段偉文說。
在段偉文看來，技術(shù)爆炸式的發(fā)展將沖擊人們的既有共識，并將在糾結(jié)矛盾中不斷形成新共識。一方面，人們擔心技術(shù)終將失控；另一方面，每個人也不得不使用新技術(shù)，享受其帶來的便利。因此，如何未雨綢繆，搭建好基礎(chǔ)性的制度框架，實時調(diào)整治理思路，豐富治理手段格外重要。
在高艷東看來，“一刀切”限制“AI換臉”技術(shù)并不可取，而是要規(guī)范其使用方式，避免技術(shù)被濫用。在他看來，目前人類已進入“弱人工智能時代”，未來人類必將和AI共存共生，如何利用技術(shù)更好為人類服務(wù)是行業(yè)發(fā)展的核心目標。“我們需要拋棄零風險的理想主義，務(wù)實地在做好底線監(jiān)管之時，積極擁抱新技術(shù)。”
朱巍表示，針對新興技術(shù)的監(jiān)管要保持戰(zhàn)略定力和自信，讓技術(shù)先行，并在審慎包容中不斷探明底線，在底線之上給足新技術(shù)發(fā)展空間。
中國互聯(lián)網(wǎng)協(xié)會法工委副秘書長胡鋼認為，當前“AI換臉”技術(shù)處于初生階段，屬于“低階人工智能”，在現(xiàn)有由網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個人信息保護法等構(gòu)成的法律框架內(nèi)總體可管可控，但需進一步厘清技術(shù)服務(wù)提供方、平臺方、侵權(quán)責任人等主體的權(quán)責范圍和行為邊界。
專家提示，今年1月正式施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》中最值得注意的，是要求“深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識別信息編輯功能的，應(yīng)當提示深度合成服務(wù)使用者依法告知被編輯者，并取得其單獨同意。”
同時，針對可能導(dǎo)致公眾混淆或者誤認的，如合成人聲、仿聲等語音生成或者顯著改變個人身份特征的編輯服務(wù)，應(yīng)當在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標識，向公眾提示深度合成情況。
胡鋼解釋說，這主要是強化技術(shù)服務(wù)提供方“強制標注”的責任，對所有使用“AI換臉”技術(shù)的影像、聲音強制標注可識別標識，以便發(fā)生侵權(quán)行為時，可溯源、可問責。
進一步強化網(wǎng)絡(luò)平臺的審核監(jiān)管責任也是應(yīng)有之義。比如如何提前預(yù)警、及時核查，特別是對擁有超大用戶規(guī)模、超廣業(yè)務(wù)種類、超高經(jīng)濟體量、超強限制能力的超級平臺，推動其通過技術(shù)迭代提高對內(nèi)容產(chǎn)品的監(jiān)管能力，將智能風險預(yù)警和實時動態(tài)監(jiān)管相結(jié)合，搭建“穿透式”監(jiān)管體系，仍需壓實完善。
受訪專家表示，多部新規(guī)的出臺，為AI技術(shù)的使用劃清了“紅線”和“底線”，但在明確基本原則和框架的基礎(chǔ)上，針對不同行業(yè)、不同場景，如何分類分級管理，有待進一步細化。
胡鋼建議可采用沙盒監(jiān)管模式，即先劃出特定的時空區(qū)域、政策空間，在可控范圍內(nèi)實行容錯糾錯機制，有控制地發(fā)展AI技術(shù)。同時強化監(jiān)管透明度，倒逼企業(yè)事先向利益相關(guān)者公開技術(shù)信息、管理信息和社會責任信息等，以便其作出更加合理的決策。
此外，專家建議“以AI制AI”，即將AI技術(shù)應(yīng)用于犯罪識別、預(yù)警、對抗中，研發(fā)“反換臉”等檢測技術(shù)，利用人工智能技術(shù)提高辦案能力。
胡鋼提示，我國在AI技術(shù)治理的管理思路、法律體系的建立和完善等方面走在世界前列，有力推動了新型網(wǎng)絡(luò)空間治理的法治化進程。但技術(shù)治理亟需形成全球共識，否則任何一個國家無底線的急功冒進，都可能給全人類帶來難以逆轉(zhuǎn)的災(zāi)難。
“人機對齊”能防住技術(shù)失控嗎
如果拉長歷史的視線回顧歷次技術(shù)革命，其均面對一個共同的詰問：人性的韁繩能否駕馭技術(shù)這頭猛獸？就“AI換臉”技術(shù)而言，討論厘清其倫理等爭議已不容回避。
段偉文認為，當前生成式人工智能技術(shù)正在實現(xiàn)從“換臉”到“造臉”的技術(shù)飛躍，盡管尚未廣泛應(yīng)用，但也暴露出一些值得警惕的問題：如果訓(xùn)練的AI做的事情與真實目的不符怎么辦？眼見未必為實，會否引發(fā)潛在的信任危機和倫理問題？
包括段偉文在內(nèi)的多位受訪專家均表示，相比于侵權(quán)、詐騙等技術(shù)濫用帶來的危害，更應(yīng)重視其對網(wǎng)絡(luò)社會秩序、現(xiàn)實社會秩序、國家安全乃至社會信任體系、倫理道德規(guī)則等帶來的危害與沖擊。
北京市社會科學(xué)院法治研究所副所長、副研究員王潔介紹，人臉、聲音等自然人的生物信息具有高度識別性和強關(guān)聯(lián)性，這些信息一旦“丟失”，將可能沖擊網(wǎng)絡(luò)空間的公共秩序，進而影響社會秩序穩(wěn)定。
清華大學(xué)人工智能國際治理研究院副院長梁正表示，深度合成技術(shù)正在不斷模糊虛實邊界，現(xiàn)實世界的一些原有秩序、默認情形和公認原則等，在被平移的同時也可能會被顛覆。
北京執(zhí)象科技副總經(jīng)理、資深架構(gòu)師李新表示，盡管“AI換臉”技術(shù)只是人工智能領(lǐng)域一個很小的應(yīng)用分支，但其可能顛覆人類社會千百年來形成的社會信任體系。
段偉文提醒要特別注意在技術(shù)研發(fā)過程中的“人機對齊”，也就是讓機器生產(chǎn)的內(nèi)容，不僅能夠?qū)崿F(xiàn)人類設(shè)定的目標，而且在價值取向上符合社會規(guī)范和公序良俗。
他建議，一方面要對機器采取強化學(xué)習(xí)的方式，借助人工校正，改進機器生成內(nèi)容在價值觀上的偏差和矛盾；另一方面，人類也要警惕過度借助智能技術(shù)帶來的智力退化，比如為避免機器輕松通過“圖靈測試”，人類需要不斷挑戰(zhàn)認知極限，在與機器的博弈中不斷進步。
美國物理學(xué)家邁克斯泰格馬克在其所著的《生命3.0》一書中提出，智能機器是人類后裔，如同我們對孩童的教育一樣，必須從小進行價值教育，使其確立正確的價值觀，而人工智能技術(shù)正處于孩童期，必須盡快抓住價值教育的窗口，協(xié)同科技、人文等各領(lǐng)域的力量提早布局。
人類發(fā)展的歷史就是不斷利用新技術(shù)解放生產(chǎn)力、提高生產(chǎn)力的歷史。技術(shù)進步必然帶來新的變化，在種種不確定性的背后，有一件事是確定的：技術(shù)進步是依靠人類學(xué)習(xí)的結(jié)果，最終也要為人類服務(wù)。
從這個意義上，人類應(yīng)該思考的不是人工智能技術(shù)的未來，而是如何為其搭建一個合適的框架，使得人類面對變化，能夠不懼、不憂、不怠，擁有更加確定的美好未來。
刊于《望》2023年第38期
監(jiān)制 |潘燕
編輯 | 喻千桓
