元數(shù)據(jù)或與數(shù)字圖像文件相關(guān)的信息，可以提供內(nèi)容的基本細(xì)節(jié)，例如照片的拍攝時間和地點等。目前，許多科技公司都支持使用這項技術(shù)在其產(chǎn)品中對AI生成內(nèi)容進(jìn)行某種形式的標(biāo)記。但在找到一個可靠的解決方案之前，事實核查只能靠人工審核來彌補不足。
Witness的執(zhí)行主任薩姆格雷戈里認(rèn)為，解決AI虛假信息的責(zé)任“需要落在那些設(shè)計這些工具、構(gòu)建這些模型并發(fā)布它們的人身上。”目前社交媒體平臺關(guān)于AI生成內(nèi)容的條例還不夠詳細(xì)。
主流的AI生成工具如ChatGPT、DALL-E、Midjourney降低了創(chuàng)建虛假圖像、視頻和文本的難度和成本，使網(wǎng)絡(luò)上的AI生成內(nèi)容泛濫且難以分辨。為了讓用戶和平臺區(qū)分內(nèi)容真假及來源，谷歌、Adobe、微軟等科技公司正在探索如何應(yīng)對這個問題。
截至目前，微軟將在兩款應(yīng)用中添加水印和元數(shù)據(jù)功能；Adobe開發(fā)了一種可以跟蹤AI編輯的內(nèi)容憑據(jù)工具；谷歌將在圖片和文件中標(biāo)記AI生成，并與Midjourney等合作。
然而，這些技術(shù)手段仍處于起步階段，在找到可靠的解決方案之前，事實核查只能靠人工審核來彌補不足。隨著AI生成內(nèi)容產(chǎn)生的速度不斷加快，許多專業(yè)事實核查者要審核的內(nèi)容已經(jīng)遠(yuǎn)遠(yuǎn)超過人類可能處理的范圍。
為內(nèi)容打上AI標(biāo)簽
歐盟執(zhí)法機(jī)構(gòu)“歐洲刑警組織（Europol）”的一份報告預(yù)測，到2026年，互聯(lián)網(wǎng)上多達(dá)90%的內(nèi)容可能是由AI創(chuàng)建或編輯的。反虛假信息平臺NewsGuard表示，目前，已經(jīng)有一些完全由AI生成的新聞信息網(wǎng)站出現(xiàn)，這些網(wǎng)站的數(shù)量比幾周前增加了近三倍。
一個人工智能生成的標(biāo)題出現(xiàn)在TNewsNetwork.com上，這是一個匿名運營的新聞網(wǎng)站，于2023年2月注冊。
專家認(rèn)為，一種使用元數(shù)據(jù)、水印等技術(shù)系統(tǒng)的新方法或許能夠幫助用戶辨別真假。元數(shù)據(jù)或與數(shù)字圖像文件相關(guān)的信息，可以提供內(nèi)容的基本細(xì)節(jié)，例如照片的拍攝時間和地點等。目前，許多科技公司都支持使用這項技術(shù)在其產(chǎn)品中對AI生成內(nèi)容進(jìn)行某種形式的標(biāo)記，并努力讓這些信息更加公開，以幫助用戶判斷內(nèi)容的真實性。
例如，微軟在其年度Build大會上發(fā)布了給AI生成的圖片和視頻添加水印和元數(shù)據(jù)的新功能，旨在標(biāo)記內(nèi)容的來源和生成方式。這項功能將在未來幾個月內(nèi)在微軟的Designer和Image Creator兩款應(yīng)用中推出。
此外，設(shè)計工具開發(fā)者Adobe的內(nèi)容真實性倡議組開發(fā)了一種名為內(nèi)容憑據(jù)的工具，可以跟蹤圖像何時被AI編輯。Adobe將其描述為一個標(biāo)簽，無論文件發(fā)布或存儲在哪里，該標(biāo)簽都會隨文件一起保存。例如，Photoshop的最新功能Generative Fill使用AI在現(xiàn)有圖像中快速創(chuàng)建新內(nèi)容，內(nèi)容憑據(jù)可以跟蹤這些更改。
Adobe內(nèi)容真實性倡議組高級主管安迪帕森斯（Andy Parsons）說，“首先要知道這是什么，在有意義的情況下，誰制造了它或它來自哪里。”
谷歌在其I/O 2023開發(fā)者大會上也表示，未來幾個月內(nèi)，谷歌圖片的AI生成結(jié)果下方將會附上類似于版權(quán)聲明的書面披露。此外，谷歌還將在其AI系統(tǒng)生成的圖像文件中標(biāo)記元數(shù)據(jù)。即用戶在谷歌搜索中看到一個由谷歌AI系統(tǒng)生成的圖像時，它會在下方顯示類似于“由谷歌AI生成”的字樣。與此同時，該公司宣布，它將與Midjourney和攝影圖片網(wǎng)站Shutterstock等合作，讓他們自行標(biāo)記谷歌搜索中的AI生成圖像。
此外，谷歌還在圖像搜索結(jié)果旁邊添加了一個“關(guān)于此圖像（About this image）”的功能，無論它們是否有AI標(biāo)簽。用戶只需點擊即可看到谷歌首次索引這張圖片的時間，它可能首次出現(xiàn)的地方，以及它在網(wǎng)上出現(xiàn)過的其他地方。谷歌搜索公共聯(lián)絡(luò)員 丹尼沙利文（Danny Sullivan）指出，“這些工具未來將整合到谷歌搜索產(chǎn)品中，幫助人們更好地獲取和理解相關(guān)信息。”
谷歌演示人們?nèi)绾问褂?ldquo;關(guān)于此圖像”獲得更多的背景信息。
建立統(tǒng)一的開放標(biāo)準(zhǔn)
除了推出AI產(chǎn)品的科技公司之外，其他行業(yè)巨頭也致力于如何給AI生成的內(nèi)容貼上標(biāo)簽。2021年，包括微軟、Adobe、BBC和英特爾在內(nèi)的一些大公司共同創(chuàng)建了名為C2PA（Coalition for Content Provenance and Authenticity）的聯(lián)盟，并制定了一個互操作的開放標(biāo)準(zhǔn)，讓各個公司能夠共享媒體的來源或所有權(quán)歷史。
例如，一個新聞媒體的攝影師可以標(biāo)記一張?zhí)囟▓D片拍攝的時間、拍攝者，并讓出版商對其進(jìn)行數(shù)字簽名。之后，編輯可以對照片進(jìn)行修改，再次簽名并蓋上經(jīng)過C2PA 標(biāo)準(zhǔn)驗證的真實性印章。這樣，你就知道這張照片是由一個人拍攝的，而不是由AI生成的，并且知道誰在何時對其進(jìn)行了編輯。該技術(shù)使用密碼學(xué)來保護(hù)敏感信息的隱私。
C2PA于去年1月發(fā)布了第一個開放標(biāo)準(zhǔn)，此后，Adobe和微軟相應(yīng)宣布將C2PA標(biāo)準(zhǔn)集成到其產(chǎn)品中，比如微軟的Image Generator和Designer，而Adobe則在其新的AI Firefly產(chǎn)品的內(nèi)容憑證中使用C2PA標(biāo)準(zhǔn)。
“你現(xiàn)在能夠了解一件數(shù)字內(nèi)容從始至終的來源和變化。”數(shù)字內(nèi)容信任平臺Truepic也是C2PA的成員之一，該公司的公共事務(wù)和影響力執(zhí)行副總裁穆尼爾易卜拉欣（Munir Ibrahim）表示。
易卜拉欣稱，C2PA組織正在探討是否要對內(nèi)容證明的顯示方式進(jìn)行統(tǒng)一規(guī)范。未來，C2PA證明可能像瀏覽器窗口里URL旁證明鏈接安全的小鎖標(biāo)志一樣，用戶在看到擬定的C2PA圖標(biāo)時，就能知道他們看到的圖像已經(jīng)通過了來源驗證。
目前，是否采用C2PA標(biāo)準(zhǔn)由公司自行決定，并按照他們的意愿標(biāo)記經(jīng)過驗證的內(nèi)容。“最大的挑戰(zhàn)是我們需要更多的公司加入這個標(biāo)準(zhǔn)。”易卜拉欣說。
除了元數(shù)據(jù)標(biāo)簽之外，另一種方法是讓AI系統(tǒng)在內(nèi)容上添加可見的水櫻例如OpenAI在DALL-E圖像底部添加彩虹條。該公司表示，它也正在為文字生成工具ChatGPT開發(fā)一種水印版本。然而，相較于元數(shù)據(jù)標(biāo)簽，水印很容易被移除。
此外，許多公司也采用事后檢測AI生成內(nèi)容的技術(shù)。今年1月，OpenAI發(fā)布了一個工具，讓用戶交叉檢查一段文本，確定它是否由AI生成。但根據(jù)OpenAI自己的評估，這個工具并不完全可靠，只能正確識別評估中26%的AI生成文本。
面臨艱巨挑戰(zhàn)
對于自動識別AI生成內(nèi)容的技術(shù)平臺來說，這只是起步階段。在找到一個可靠的解決方案之前，事實核查只能靠人工審核來彌補不足。例如，5月30日，推特曾發(fā)表公告稱采用眾包事實核查的方法鑒別AI生成的虛假信息。
人權(quán)與公民新聞網(wǎng)站W(wǎng)itness的執(zhí)行主任薩姆格雷戈里（Sam Gregory）稱，雖然像添加水印這樣的AI識別技術(shù)方案很有前途，但許多事實核查者仍然擔(dān)心在此期間AI可能帶來的虛假信息的猛烈襲擊。事實上，許多專業(yè)事實核查者要審核的內(nèi)容已經(jīng)遠(yuǎn)遠(yuǎn)超過人類可能處理的范圍。
“一個人是否會因為他無法識別一張AI生成的圖片而受到指責(zé)？或者一個事實核查者是否會被這種巨大的審核內(nèi)容數(shù)量壓垮？”格雷戈里認(rèn)為，解決AI虛假信息的責(zé)任“需要落在那些設(shè)計這些工具、構(gòu)建這些模型并發(fā)布它們的人身上。”
此外，格雷戈里認(rèn)為，目前社交媒體平臺關(guān)于AI生成內(nèi)容的條例還不夠詳細(xì)。
TikTok于2023年3月修訂了關(guān)于“合成內(nèi)容”的最新規(guī)定，稱平臺允許AI合成內(nèi)容，但如果它顯示了真實場景，圖像必須用字幕、貼紙或其他方式明確披露。但該平臺不允許合成內(nèi)容包含任何非公共人物或18歲以下人士的肖像。TikTok表示，它與行業(yè)非營利組織Partnership on AI等外部組織合作，就遵守負(fù)責(zé)任的AI實踐框架提供反潰
“雖然我們對AI為創(chuàng)作者提供的創(chuàng)意機(jī)會感到興奮，但我們也堅定地致力于為其安全和透明使用制定保護(hù)措施。”TikTok發(fā)言人在一份聲明中說，“與我們行業(yè)中的大多數(shù)人一樣，我們將繼續(xù)與專家合作，監(jiān)測AI識別技術(shù)的進(jìn)展，并不斷調(diào)整我們的方法。”
除了TikTok，許多其他平臺的政策可能也需要一些更新。目前，Meta（擁有Facebook和Instagram）和YouTube都只有關(guān)于防止AI生成內(nèi)容誤導(dǎo)用戶的一般規(guī)則，但沒有澄清哪些用途是可以接受或不可以接受的。
“AI超越了任何個人、公司或國家的范疇，需要所有利益相關(guān)者的協(xié)作。”Meta在一份聲明中說，“我們正在積極監(jiān)測新的趨勢，并努力調(diào)整現(xiàn)有的監(jiān)管方法。”
完全鑒別AI生成內(nèi)容的方法可能不會很快到來。目前，這些標(biāo)記AI生成內(nèi)容的新工具仍處于早期階段，但可以幫助降低風(fēng)險。從技術(shù)上講，水印或元數(shù)據(jù)能夠被篡改。而且并非所有AI生成系統(tǒng)都愿意披露它是AI生成的。此外，人們往往會忽視事實真相，而選擇相信符合他們個人信仰的謊言。
因此，要知道這些AI標(biāo)簽?zāi)芊窀淖內(nèi)藗兊南敕�，需要更多的研究�?ldquo;有時，標(biāo)簽并不像預(yù)期的那樣起作用。”紐約大學(xué)的約書亞A塔克（Joshua A. Tucker）認(rèn)為，“我們需要測試這些解決方案，看看它們在遇到誤導(dǎo)性的AI內(nèi)容時是否能夠改變?nèi)藗兊南敕ǎ约芭妒裁磧?nèi)容才能產(chǎn)生影響。”
