P圖機(jī)器人有多種功能。受訪者供圖
6月27日，中央網(wǎng)信辦下發(fā)《關(guān)于開展“清朗2023年暑期未成年人網(wǎng)絡(luò)環(huán)境整治”專項(xiàng)行動(dòng)的通知》，開展為期兩個(gè)月的“清朗2023年暑期未成年人網(wǎng)絡(luò)環(huán)境整治”專項(xiàng)行動(dòng)（以下簡稱“專項(xiàng)行動(dòng)”）。其中特別指出要關(guān)注新技術(shù)新應(yīng)用風(fēng)險(xiǎn)問題，如對(duì)“AI換臉”等技術(shù)生成涉未成年人低俗色情圖片視頻等，要予以重點(diǎn)整治。
如今，“AI脫衣”技術(shù)已生成一條黑色產(chǎn)業(yè)鏈。上游不法分子通過AI技術(shù)生成圖片，并對(duì)這些圖片進(jìn)行整合，打包成圖集，通過成套售賣的方式出售給下游買家，有的人為此建立起“付費(fèi)會(huì)員群”，使一些無辜人士、甚至未成年人陷入“黃謠”漩渦。中青報(bào)中青網(wǎng)記者對(duì)此進(jìn)行了調(diào)查采訪。
不法分子在網(wǎng)絡(luò)上叫賣AI圖集。受訪者供圖
“AI脫衣”圖被公開叫賣
“圖片中確實(shí)是我的臉，但這里的我……怎么沒穿衣服？”
今年5月，還在讀大學(xué)的李亦（化名）收到一名網(wǎng)友給她發(fā)來的圖片，看后，她又氣憤又害怕。
李亦是一名Cosplay（角色扮演）博主，常在社交媒體分享自己扮演各種動(dòng)漫角色的照片。后來，她和網(wǎng)友找到了制作裸照的洛粉（網(wǎng)名）。洛粉承認(rèn)，他將照片放入一款A(yù)I（人工智能）軟件中，不到幾分鐘就能將李亦穿好的衣服“脫下”。在網(wǎng)上，洛粉以5元一張的價(jià)格公開叫賣圖片，聲稱60元能打包買到60多名博主的“裸照”，其中甚至還有未成年人的照片。
“我從來沒有拍過這種照片！”氣憤的李亦著手收集對(duì)方利用AI進(jìn)行不法行為的證據(jù)，意圖追究其法律責(zé)任，于是，她以買家的身份與洛粉加上了好友。
洛粉并非直白地以“AI脫衣”字眼兒招攬生意，而是隱晦地表示自己在“改圖”，“小姐姐，這里接Cosplay的‘改圖’，5元一張。”當(dāng)李亦進(jìn)一步詢問其如何“改圖”時(shí)，洛粉含糊不清地表示，自己是采用AI技術(shù)生成了各種Cosplay的圖片。
李亦從洛粉組建的一個(gè)群聊中發(fā)現(xiàn)了端倪。在這里，洛粉不僅繼續(xù)提供“改圖”的服務(wù)，更發(fā)布了大量帶有暗示挑逗意味的圖片，以圖集形式公開叫賣，稱60元可以買到65張，“預(yù)計(jì)還有總共300張會(huì)通過群聊慢慢更新”。
“這是誰？”李亦從中找到了自己的“裸照”，去找洛粉問個(gè)明白。“這是克羅托（角色名）不穿衣服，博主本人讓這么拍攝的。”洛粉答道，并諱莫如深地提示，“可別亂轉(zhuǎn)亂發(fā)，因?yàn)樘讏D中涉及到的60多名博主本人不同意”。
“他這么說像是我們這些博主自己去拍了大尺度照片！”李亦十分氣憤，亮明身份，與洛粉對(duì)質(zhì)。
“對(duì)不起姐姐！”洛粉承認(rèn)自己“二次創(chuàng)作”了李亦的圖片。李亦表示，這并非正常的“二次創(chuàng)作”范圍，而是侵犯了她的人格權(quán)。
洛粉辯稱，這些系列圖并非出自他手，“是請(qǐng)別人做的”，洛粉并沒有意識(shí)到這件事情的嚴(yán)重性，和李亦商量，“我的卡里余額只有1200元，能不能賠償你650元私了？”
“這不是錢的問題，你已經(jīng)違法了。”李亦和其他博主選擇報(bào)警。
多名受害者被不法分子P圖。受訪者供圖
黑色產(chǎn)業(yè)鏈禍及未成年人
李亦的遭遇并非個(gè)例。AI技術(shù)被濫用，一條黑色產(chǎn)業(yè)鏈正在形成。
在網(wǎng)絡(luò)上，只要輸入關(guān)鍵詞，就能輕易找到提供“AI脫衣”相關(guān)技術(shù)或服務(wù)的商家。他們打著“AI繪畫”“AI改圖”的旗號(hào)在社交媒體上招攬生意，引導(dǎo)顧客添加其聯(lián)系方式，待到一對(duì)一溝通或加入私密群聊后，就拿出具有暗示意味的圖片，誘導(dǎo)網(wǎng)友購買。
“AI脫衣”的受害者眾多，甚至禍及未成年人。一名賣家聲稱自己“資源眾多”，發(fā)來了一整套價(jià)目表，詳細(xì)地將圖集分為“明星”“網(wǎng)紅”“模特”“漫畫”等多個(gè)種類，在他發(fā)來的樣張圖片中，甚至還出現(xiàn)了穿著校服的高中生。他聲稱，如果沒有喜愛的類型，顧客可以發(fā)照片“單圖定制”，兩元一張，“網(wǎng)絡(luò)上的圖都可以作為素材”。
另一名賣家也采用會(huì)員制方式邀請(qǐng)顧客進(jìn)群，稱目前“群里已經(jīng)有兩三百個(gè)圖集”，只要花30元進(jìn)群就可以享受免費(fèi)持續(xù)更新。當(dāng)中青報(bào)中青網(wǎng)記者進(jìn)一步追問其圖集來源時(shí)，他支支吾吾地表示自己的資源是從某網(wǎng)站下載來的，“不是我自己做的”。
“其實(shí)只要掌握了相關(guān)技術(shù)，人們都可以利用AI制作這些圖片。”資深算法工程師藍(lán)天告訴中青報(bào)中青網(wǎng)記者，“AI脫衣”算法稱作“DeepNude”，因?yàn)閭惱韱栴}，目前在美國已被下架，但不排除有人通過其他AI算法訓(xùn)練機(jī)器，以達(dá)到同樣的效果。
在某通訊軟件上，一個(gè)AI機(jī)器人收獲了眾多用戶。它不需要使用者掌握復(fù)雜的算法知識(shí)，只需要按照其提示，就能完成給照片“換臉”“去衣”等操作。這一機(jī)器人還有詳細(xì)的精細(xì)化設(shè)置，能像美顏相機(jī)一樣調(diào)整圖片的各項(xiàng)參數(shù)。
這款機(jī)器人需要付費(fèi)使用，點(diǎn)擊“充值”按鈕后，用戶會(huì)被引導(dǎo)到一個(gè)點(diǎn)卡充值網(wǎng)站當(dāng)中進(jìn)行網(wǎng)上支付。不過，用戶并非付費(fèi)給商家，而是個(gè)人，因此很難追蹤該機(jī)器人的運(yùn)營主體。根據(jù)其價(jià)目表，最低兩元就能生成一張脫衣照。
“機(jī)器是中立的，只要給它‘喂’了足夠多的人體構(gòu)造圖，機(jī)器就能在之后輸入圖片時(shí)，通過識(shí)別面部、身體等特征重繪全圖，生成一張‘脫衣照’。”藍(lán)天稱，機(jī)器“只管照片的生成”，不會(huì)顧及照片中人的意愿，以及是否成年等倫理、法律問題。
“按照技術(shù)工具論的視角，技術(shù)是中性且無害的，但這樣的認(rèn)識(shí)忽略了技術(shù)本應(yīng)具有的道德相關(guān)性問題。”西南政法大學(xué)刑事偵查學(xué)院副教授、碩士生導(dǎo)師謝玲認(rèn)為，技術(shù)之間是有差別的，有一些新技術(shù)如深度偽造技術(shù)等被濫用所產(chǎn)生的后果很難預(yù)料，其道德倫理及法律問題更為復(fù)雜。
從“最有利于未成年人”原則構(gòu)建網(wǎng)絡(luò)安全規(guī)則
北京市京師律師事務(wù)所合伙人姚志斗律師接觸過多起因新技術(shù)濫用侵害未成年人權(quán)益的案例。在一起案件中，一不法分子利用“AI換臉”軟件，將從互聯(lián)網(wǎng)渠道收集到的大批未成年學(xué)生的面部信息進(jìn)行替換，制作生成虛假的換臉淫穢視頻，再將視頻有償銷售。“這不僅侵害未成年學(xué)生的肖像權(quán)及心理健康，同時(shí)這一行為涉嫌傳播淫穢物品牟利犯罪。”
“應(yīng)對(duì)新技術(shù)新應(yīng)用風(fēng)險(xiǎn)，需要從‘最有利于未成年人’原則和‘兒童權(quán)利’的視角來構(gòu)建安全規(guī)則。”中國青少年研究中心青少年法律研究專家郭開元認(rèn)為，針對(duì)新技術(shù)新應(yīng)用帶來的風(fēng)險(xiǎn)，要把握好未成年人的特殊保護(hù)和新技術(shù)應(yīng)用的動(dòng)態(tài)平衡。有關(guān)部門應(yīng)盡快設(shè)立保護(hù)兒童、尊重隱私、設(shè)置特殊保護(hù)的規(guī)則，尤其要建立按照年齡標(biāo)準(zhǔn)進(jìn)行分級(jí)管理規(guī)則、監(jiān)護(hù)人的知情同意規(guī)則等。
謝玲呼吁，對(duì)新技術(shù)的應(yīng)用風(fēng)險(xiǎn)進(jìn)行分類和評(píng)估，建立針對(duì)新技術(shù)規(guī)制的制度屏障，明確技術(shù)合理運(yùn)用的界限。如果沒有針對(duì)技術(shù)濫用設(shè)立屏障，應(yīng)嚴(yán)格規(guī)制這一類高風(fēng)險(xiǎn)新技術(shù)的聯(lián)網(wǎng)應(yīng)用，因?yàn)?ldquo;新技術(shù)極有可能導(dǎo)致未來新型不法行為的產(chǎn)生”。
姚志斗稱，對(duì)網(wǎng)絡(luò)犯罪監(jiān)管存在一定難度。網(wǎng)絡(luò)犯罪證據(jù)主要存儲(chǔ)在網(wǎng)絡(luò)服務(wù)器中，面對(duì)復(fù)雜、形式多樣的電子數(shù)據(jù)，取證存在一定困難。此外，違法行為人的身份確定難度較大，有的犯罪分子身在國外，給案件管轄帶來挑戰(zhàn)。
事實(shí)上，針對(duì)網(wǎng)絡(luò)新技術(shù)新應(yīng)用帶來的風(fēng)險(xiǎn)，有關(guān)部門已加大力度重拳整治。
此次中央網(wǎng)信辦專項(xiàng)行動(dòng)聚焦的七大重點(diǎn)之一，即劍指新技術(shù)新應(yīng)用風(fēng)險(xiǎn)問題，包括利用“AI換臉”“AI繪圖”“AI一鍵脫衣”等技術(shù)生成涉未成年人低俗色情圖片視頻；利用所謂“閱后即焚”的密聊軟件誘騙未成年人提供個(gè)人信息，誘導(dǎo)實(shí)施違法行為；利用生成式人工智能技術(shù)制作發(fā)布涉未成年人有害信息。
“這釋放了國家加大力度整治網(wǎng)絡(luò)環(huán)境，切實(shí)加強(qiáng)對(duì)未成年人網(wǎng)絡(luò)保護(hù)的信號(hào)。”謝玲指出，這一專項(xiàng)行動(dòng)針對(duì)未成年人身心易受影響的特點(diǎn)，意在預(yù)防未成年人不良上網(wǎng)用網(wǎng)行為，避免其成為新型網(wǎng)絡(luò)違法犯罪活動(dòng)的“工具人”，也是落實(shí)未成年人保護(hù)法、預(yù)防未成年人犯罪法相關(guān)法律保護(hù)措施的具體體現(xiàn)。
如今，李亦已走出心理陰影，她說：“不能因?yàn)檫@些事情而停止我對(duì)生活的熱愛。”
來源：中國青年報(bào)
