封面新聞?dòng)浾?邊雪 馬曉玉
在橫空出世的Sora還在用60秒的AI視頻震驚世人眼球時(shí)，科技圈已經(jīng)開始警惕起來(lái)了。
當(dāng)?shù)貢r(shí)間2月16日，包括Adobe、Amazon、AnthroPIC、Google、Meta、Microsoft、OpenAI、TikTok和X在內(nèi)的20家科技公司簽署了一份承諾協(xié)議，以幫助防止虛假的人工智能內(nèi)容擾亂2024年的全球選舉投票。
Sora生成視頻畫面。（圖源：網(wǎng)絡(luò)）
這份協(xié)議簽署于德國(guó)舉行的慕尼黑安全會(huì)議（MSC），其中包括兩家公司承諾在人工智能檢測(cè)工具和其他行動(dòng)方面展開合作，但沒有呼吁禁止與選舉有關(guān)的人工智能內(nèi)容。
Anthrophic公司周五還表示，將禁止其技術(shù)應(yīng)用于政治活動(dòng)或游說(shuō)。在一篇博客文章中，該公司表示，將警告或暫停任何違反其規(guī)則的用戶。該公司制造了一個(gè)名為克勞德的聊天機(jī)器人：“它正在使用經(jīng)過(guò)訓(xùn)練的工具，來(lái)自動(dòng)檢測(cè)和阻止甚至改變錯(cuò)誤信息的影響。”
Sora新興技術(shù)帶來(lái)的社會(huì)影響，AI治理應(yīng)該采用什么樣的態(tài)度？2月19日，西南科技大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院楊春明副教授在接受封面新聞?dòng)浾卟稍L時(shí)表示，智能技術(shù)發(fā)展的目標(biāo)是為人類解決繁雜的體力勞動(dòng)，AI技術(shù)的發(fā)展應(yīng)該以人類的需求為目標(biāo)。
誤導(dǎo)民眾 人工智能如何干預(yù)大選？
2024年對(duì)于人工智能和政治都是具有潛在顛覆性影響的一年，特別是當(dāng)人工智能與選舉重疊時(shí)，局面似乎變得更加難以預(yù)測(cè)。
據(jù)統(tǒng)計(jì)，今年全球5大洲將有超過(guò)70個(gè)國(guó)家和地區(qū)舉行地區(qū)、立法或總統(tǒng)、總理選舉，涵蓋美國(guó)、俄羅斯、歐盟、日本、印度等多個(gè)國(guó)家和地區(qū)，覆蓋近42億人口。與此同時(shí)，美國(guó)中央情報(bào)局和國(guó)土安全部均發(fā)布警告稱，俄羅斯和伊朗等對(duì)手國(guó)家正在使用生成式人工智能來(lái)攻擊美國(guó)的選舉基礎(chǔ)設(shè)施和流程。人工智能已經(jīng)成為美國(guó)大選前最受關(guān)注的政治和社會(huì)問題之一。
“在我那個(gè)時(shí)代，如果一名警察殺死17或18人，也不會(huì)有人給予什么關(guān)注”。2023年2月份芝加哥市四人初選前，一條關(guān)于芝加哥市長(zhǎng)候選人保羅瓦拉斯（Paul Vallas）的發(fā)言視頻在網(wǎng)絡(luò)上迅速走紅，但最后證明，該視頻是生成式人工智能的產(chǎn)物。雖然后面被澄清，但是它對(duì)選民心理的影響已經(jīng)造成，并且難以評(píng)估。
Sora生成視頻畫面。（圖源：X 賬號(hào)@Gabor Cselle）
技術(shù)所造成的網(wǎng)絡(luò)安全問題一直以來(lái)都是政治活動(dòng)的嚴(yán)重隱患。其中最著名的就是2016年美國(guó)大選民主黨全國(guó)委員會(huì)黑客事件，該黑客事件旨在破壞希拉里克林頓 (Hillary Clinton) 的總統(tǒng)競(jìng)選活動(dòng)，并在選舉中制造不信任感。技術(shù)的使用自始至終都是各候選人團(tuán)隊(duì)的重要工具：2016年劍橋分析公司獲取數(shù)百萬(wàn)Facebook用戶的個(gè)人數(shù)據(jù)，對(duì)此展開分析并根據(jù)分析的結(jié)果為2016年泰德克魯茲和唐納德特朗普的總統(tǒng)競(jìng)選活動(dòng)提供政治廣告幫助。
2022年，基于大模型、大數(shù)據(jù)的生成式人工智能工具首次向公眾開放，而這之后的發(fā)展更可能使在政治活動(dòng)、虛假信息、數(shù)據(jù)安全互相作用下的政治選舉的結(jié)果失去客觀性，阿根廷是總統(tǒng)競(jìng)選中人工智能武器化的第一個(gè)案例。
據(jù)《紐約時(shí)報(bào)》報(bào)道，2022年11月，阿根廷右翼自由主義者哈維爾米雷 (Javier Milei）在總統(tǒng)競(jìng)選中大量使用人工智能工具，利用X（Twitter）等平臺(tái)最終以300萬(wàn)票的大優(yōu)勢(shì)獲勝。
深度偽造的圖像、音頻和視頻可能會(huì)促使圍繞虛假丑聞或人為故障的病毒式傳播，進(jìn)一步扭曲國(guó)家在選舉期間的公民對(duì)話：通過(guò)在網(wǎng)絡(luò)空間中散布數(shù)百萬(wàn)個(gè)帖子，惡意行為者可以使用語(yǔ)言模型來(lái)制造政治協(xié)議的假象，或者造成人們普遍相信不誠(chéng)實(shí)的選舉敘事的錯(cuò)誤印象。
影響力活動(dòng)可以部署量身定制的聊天機(jī)器人，根據(jù)選民特征定制互動(dòng)，實(shí)時(shí)調(diào)整操縱策略以增加其說(shuō)服力，可以使用人工智能工具向選舉辦公室發(fā)送一波來(lái)自虛假“選民”的欺騙性評(píng)論，正如一位在2019年使用ChatGPT的前身技術(shù)欺騙愛達(dá)荷州官員的研究人員所顯示的那樣。聊天機(jī)器人和深度偽造音頻還可能通過(guò)個(gè)性化、令人信服且可能比我們過(guò)去看到的更有效的網(wǎng)絡(luò)釣魚活動(dòng)來(lái)加劇對(duì)選舉系統(tǒng)的威脅。
如何確保“AI”在選舉的“決策環(huán)”中？
未來(lái)，不同類型的人工智能工具將在選舉中留下不同的足跡，以各種方式威脅民主，如何保證選舉結(jié)果以民意而非AI干預(yù)，成為各國(guó)重點(diǎn)討論的核心問題。
2024年1月，OpenAI就曾表示，它正在努力防止旗下產(chǎn)品在選舉中被濫用，方法之一是禁止使用它們來(lái)創(chuàng)建偽裝成真人或機(jī)構(gòu)的聊天機(jī)器人。最近幾周，谷歌還表示，“出于高度謹(jǐn)慎”，將限制其人工智能聊天機(jī)器人巴德（Bard）對(duì)某些與選舉有關(guān)的提示做出回應(yīng)。而擁有Facebook和Instagram的Meta則承諾將更好地標(biāo)記在其平臺(tái)上生成內(nèi)容，這樣選民就可以更容易地辨別哪些是真實(shí)的，哪些是假的。
實(shí)際上，美國(guó)立法者已經(jīng)著手開始對(duì)人工智能技術(shù)進(jìn)行立法干預(yù)。2023 年頒布的每一項(xiàng) AI 競(jìng)選法案都獲得了一定程度的跨黨派支持。截至今年1月，美國(guó)已有六個(gè)州頒布了規(guī)范生成式人工智能在活動(dòng)中使用的政策。
2024年年初，威斯康星州麥迪遜的州立法者提出了一項(xiàng)關(guān)于在選舉中使用人工智能的新要求。 一項(xiàng)兩黨法案試圖通過(guò)要求候選人披露競(jìng)選廣告中是否使用了任何合成媒體（例如深度偽造）來(lái)解決這些問題。參議員斯普雷策表示，到目前為止，該提案尚未收到任何反對(duì)意見。他希望該法案能夠在共和黨控制的立法機(jī)構(gòu)通過(guò)，并在4月2日威斯康星州總統(tǒng)初選之前簽署成為法律。
與此同時(shí)，老牌的社會(huì)媒體已經(jīng)在加強(qiáng)自身數(shù)據(jù)安全問題管控。2023年11月，Meta 推出了一項(xiàng)政策，禁止廣告商從2024年開始使用該公司的生成式人工智能軟件在Facebook和Instagram上制作政治廣告。該政策還要求廣告商披露在創(chuàng)建真人或假人的圖像、視頻或音頻時(shí)使用第三方人工智能軟件的情況。廣告商還必須披露廣告中描述的事件是否是虛假的、經(jīng)過(guò)篡改的或真實(shí)的但沒有“真實(shí)”圖像、視頻或音頻的。
另一方面，TikTok等較新的平臺(tái)很可能會(huì)開始在政治內(nèi)容中發(fā)揮更大的作用，也有部分國(guó)家政客正計(jì)劃在Twitch上進(jìn)行直播活動(dòng)，Twitch上還將舉辦人工智能生成的拜登總統(tǒng)和前總統(tǒng)唐納德J特朗普之間的辯論。
然而，即使官員們意識(shí)到人工智能帶來(lái)的新威脅，他們應(yīng)對(duì)它的能力也存在脫節(jié)。根據(jù)網(wǎng)絡(luò)安全公司Arctic Wolf曾公布的一項(xiàng)調(diào)查，超過(guò)三分之一的州和地方政府領(lǐng)導(dǎo)人表示，他們的預(yù)算在某種程度上或非常不足以解決他們對(duì)即將到來(lái)的選舉的網(wǎng)絡(luò)問題。
人工智能公司一直處于開發(fā)這一變革性技術(shù)的前沿。如今，在世界各地都在舉行重大選舉的這一年里，他們也在競(jìng)相為人工智能的使用設(shè)定限制。
人類對(duì)AI技術(shù)的發(fā)展究竟是否可控？
在AI技術(shù)快速更新的時(shí)代，如何準(zhǔn)確把握時(shí)代發(fā)展和社會(huì)運(yùn)行特質(zhì)，深刻反思并應(yīng)對(duì)人工智能引發(fā)的倫理風(fēng)險(xiǎn)，做到有針對(duì)性和前瞻性地進(jìn)行應(yīng)對(duì)？
“利用人工智能去解決實(shí)際的問題，才能在未來(lái)是友好的。”西南科技大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院楊春明副教授告訴封面新聞?dòng)浾�，智能技術(shù)發(fā)展的目標(biāo)是為人類解決繁雜的體力勞動(dòng)，AI技術(shù)的發(fā)展應(yīng)該以人類的需求為目標(biāo)。
“我們可以做一些賦能，甚至是賦予人工智能一些倫理原則，只不過(guò)現(xiàn)在我仍然會(huì)感到緊張，因?yàn)榈侥壳盀橹�，我還想象不到更智能的事物，被一些反倒沒那么智能事物所控制的例子。”圖靈獎(jiǎng)得主、“深度學(xué)習(xí)之父”辛頓 （Geoffrey Hinton）認(rèn)為，一旦 AI 掌握了“欺騙”技能，也就能輕易具備控制人類的能力。“超級(jí)智能控制問題非常重要。我看不出如何防止這種情況發(fā)生。我希望像你們這樣年輕且才華橫溢的研究人員，能弄清楚我們?nèi)绾巫柚惯@種通過(guò)欺騙實(shí)現(xiàn)控制的行為。”
“盡管生成式人工智能對(duì)傳統(tǒng)民法尤其是侵權(quán)法提出了新的挑戰(zhàn)，但是生成式人工智能引發(fā)的侵權(quán)糾紛，沒有完全超出民法典和個(gè)人信息保護(hù)法的相關(guān)規(guī)定，現(xiàn)行法的規(guī)定仍然可以作為處理和解決糾紛的依據(jù)。”中國(guó)人民大學(xué)教授王利明表示，未來(lái)?xiàng)l件成熟時(shí)，還可以通過(guò)特別立法預(yù)防和處理生成式人工智能引發(fā)的各種風(fēng)險(xiǎn)，有效保障民事主體合法權(quán)益，促進(jìn)人工智能產(chǎn)業(yè)的健康發(fā)展。
