俄羅斯、印度、美國等數(shù)十個國家的數(shù)十億選民將在2024年參加選舉投票，這或許將是全球有史以來參加選舉投票人數(shù)最多的“超級大選年”。與此同時，人工智能技術(shù)迎來飛躍式發(fā)展，從生成文字、圖片，到合成聲音、視頻。
當(dāng)選舉遇上人工智能，各國選舉舞臺上的競選者們，手中增添了“新武器”。候選人使用人工智能工具分析選民偏好、撰寫演講稿、設(shè)計社交媒體形象等。更有甚者，人工智能技術(shù)被用于制造虛假錄音、圖片和視頻，成為了抹黑、攻擊或者操縱行為的幫兇。
類似的案例已經(jīng)出現(xiàn)，在今年1月的美國民主黨初選投票前，部分選民接到“美國總統(tǒng)拜登”來電，隨后初步調(diào)查顯示，這些來電中的聲音是由人工智能生成的。在去年的斯洛伐克國民議會選舉中，疑似一名候選人聲音的音頻被指有人工智能加工的痕跡。許多專家表示，各國的選舉進程面臨著被人工智能嚴(yán)重擾亂的風(fēng)險。
2月16日，20家科技公司在德國慕尼黑簽訂協(xié)議，自愿采取措施，防止人工智能被用于擾亂世界各地的選舉。不過，觀察人士對科技行業(yè)“自律”協(xié)議的有效性產(chǎn)生懷疑。多國政府的人工智能監(jiān)管舉措被指跟不上技術(shù)發(fā)展的步伐。
假“拜登”給選民打電話阻止投票
今年1月，美國新罕布什爾州73歲的居民蓋爾亨特利接到一通電話，聽筒那頭傳來了似乎是拜登的沙啞嗓音。亨特利原本計劃在1月23日的民主黨新罕布什爾州初選中為拜登投出一票，但電話中的“拜登”卻敦促她不要這樣做。
“這樣投票只會使得共和黨讓特朗普再次當(dāng)選的計劃得逞。”電話中的“拜登”說。
“真是一派胡言。”亨特利很快意識到這個電話是虛假的，但她起初以為這只是預(yù)先合成的音頻。當(dāng)她發(fā)現(xiàn)電話里的“拜登”可以與人進行對話時，她感到震驚和困惑。
在新罕布什爾州，亨特利并非唯一接到“拜登”電話的人。新罕布什爾州當(dāng)局的初步調(diào)查認(rèn)為，這些電話運用人工智能技術(shù)模仿拜登的聲音，目的是阻止人們在該州的民主黨初選中投票。該州仍在針對此事進行深入調(diào)查。
當(dāng)?shù)貢r間2024年1月23日，美國2024年總統(tǒng)選舉共和黨初選在東北部新罕布什爾州開始，民眾參加投票。 圖/IC photo
幾周后，美國聯(lián)邦政府宣布禁止使用人工智能生成的聲音進行自動電話呼叫。當(dāng)?shù)貢r間2月8日，美國聯(lián)邦通信委員會（FCC）通過一致裁定，根據(jù)美國1991年頒布的“限制使用人工和預(yù)先錄制的語音消息進行騷擾電話”的《電話消費者保護法》，禁止使用人工智能語音克隆工具進行自動電話呼叫，違者可能面臨高額罰款。
當(dāng)?shù)貢r間2月25日，受雇于美國民主黨總統(tǒng)競選人、國會眾議員迪安菲利普斯的政治顧問史蒂夫克雷默承認(rèn)，自己用低價以人工智能技術(shù)炮制出拜登聲音打給新罕布什爾州民主黨初選選民的電話�？死啄闯姓J(rèn)偽造電話受菲利普斯指使，似乎有意把自己的行為描繪成旨在提醒民眾防范人工智能遭誤導(dǎo)性應(yīng)用的“義舉”。
美國媒體評論稱，“拜登”是美國政府、科技公司以及民間社會遇到的首次人工智能大考。在人工智能時代，任何人都可以創(chuàng)造出能夠以假亂真的圖片，或以驚人的相似度克隆他人聲音。接下來，俄羅斯、印度、美國等數(shù)十個國家將迎來選舉，預(yù)計將有數(shù)十億選民參加投票。專家擔(dān)憂，選舉面臨著被人工智能嚴(yán)重擾亂的風(fēng)險。
事實上，在去年的斯洛伐克國民議會選舉和今年2月的印度尼西亞總統(tǒng)選舉中，人工智能以不同方式參與選舉進程的現(xiàn)象已然出現(xiàn)。
“這似乎是來自遙遠未來的事情，但實際上這種威脅已經(jīng)存在。”美國聯(lián)邦通信委員會主席杰西卡羅森沃塞爾說，每個人都可能成為人工智能虛假信息的受害者。
美國媒體評論人士蒂莫西卡爾近日在一篇文章中寫道，科技公司在塑造民主參與活動方面發(fā)揮著巨大的作用。“正如我們在2020年（美國）大選中看到的，社交媒體上的虛假信息可能會對現(xiàn)實世界產(chǎn)生危險的后果。”卡爾認(rèn)為，隨著人工智能工具越來越廣泛地應(yīng)用，社交媒體上的虛假信息將會增加。
印度已故政客被“復(fù)活”用于支持現(xiàn)任政客
在去年的斯洛伐克國民議會選舉中，兩名主要總理候選人菲佐和希梅奇卡之間的競爭受到關(guān)注。在投票日之前的媒體和候選人靜默期間，一段似乎是希梅奇卡私下談話的音頻突然在社交媒體上流傳。音頻中，類似希梅奇卡的聲音講述了一個向邊緣人群賄賂選票來操縱選舉的計劃。
希梅奇卡的競選團隊對上述音頻的真實性予以否認(rèn)。歐洲媒體報道則稱，這段音頻顯示出經(jīng)過人工智能加工的跡象。報道還稱，相關(guān)社交媒體通常對人工智能生成的內(nèi)容有所限制，但發(fā)布者顯然在操作中找到了平臺的漏洞。
在印度，已故名人、政客被人工智能“復(fù)活”，并被用在現(xiàn)任政治人物宣傳活動中。穆圖韋爾卡魯南尼迪（Muthuvel Karunanidhi）是印度已故作家、政治家，他曾在1969年至2011年的五個任期內(nèi)擔(dān)任泰米爾納德邦首席部長近二十年，于2018年逝世。
近半年來，由當(dāng)?shù)匾患铱萍脊纠萌斯ぶ悄芗夹g(shù)生成的卡魯南尼迪的形象在不同場合頻繁出現(xiàn)。在泰米爾納德邦一場政治集會上，人工智能生成的卡魯南尼迪形象出現(xiàn)在舞臺大熒幕上，開口贊揚他的兒子、泰米爾納德邦首席部長M. K. 斯大林的領(lǐng)導(dǎo)能力。
印度一名開發(fā)者Senthil Nayagam表示，他的公司已經(jīng)使用開源軟件生成了45名現(xiàn)任和前任印度政治領(lǐng)導(dǎo)人的形象和聲音，包括“圣雄”甘地和印度總理莫迪。Nayagam認(rèn)為，用人工智能“復(fù)活”已故政客只是出于懷舊。但當(dāng)?shù)赜^察人士擔(dān)憂，印度各黨派可能用人工智能推出各自黨派受民眾喜愛的前領(lǐng)導(dǎo)人，用以提升黨派的支持率。
《麻省理工學(xué)院技術(shù)評論》近日刊文稱，在人工智能可能威脅到選舉的問題上，還有很多想象空間。“真正的危險或許不是我們已經(jīng)看到的，而是我們還無法想象的。”文章稱。
多國政府人工智能監(jiān)管措施被指進展遲緩
面對人工智能的飛速發(fā)展，監(jiān)管機構(gòu)似乎一時難以跟上速度。據(jù)報道，美國參議員和代表已經(jīng)提出了數(shù)十項有關(guān)人工智能監(jiān)管的法案，但截至目前都沒有進入投票環(huán)節(jié)。歐洲議會雖然通過了有史以來最全面的人工智能監(jiān)管法案，但該法案預(yù)計要到2026年才會生效。
英國則因為在人工智能監(jiān)管方面行動遲緩受到批評。2月6日，英國政府宣布，其人工智能監(jiān)管邁出重要一步，即提出“與具有約束力的監(jiān)管相關(guān)的初步想法”，并就此與技術(shù)、法律和社會專家進行討論。英國媒體諷刺道，英國政府“迅速而果斷”地邁出了重要一步那就是“原地踏步”。
美國科技政策專家凱蒂哈巴斯就美國政府在人工智能監(jiān)管領(lǐng)域中的表現(xiàn)稱，其行動還遠遠不夠，政府可能是擔(dān)憂監(jiān)管會對創(chuàng)新起到一定抑制作用。她表示，在短期看來，監(jiān)管人工智能生成內(nèi)容的責(zé)任將落在開發(fā)這些工具的公司身上。
2月16日，包括OpenAI、谷歌、微軟在內(nèi)的20家科技公司在德國慕尼黑安全會議上簽署一項協(xié)議，自愿采取“合理的預(yù)防措施”，防止人工智能被用于擾亂世界各地的選舉。
當(dāng)?shù)貢r間2022年2月18日，德國慕尼黑，慕尼黑安全會議會常圖/IC photo
協(xié)議稱，各方同意采取更恰當(dāng)?shù)氖侄螛?biāo)記和限制在網(wǎng)上傳播的人工智能生成的虛假信息，包括偽造候選人和其他關(guān)鍵利益相關(guān)者外觀、聲音或行為的音頻、視頻和圖像。這些公司還承諾，將分享更多關(guān)于“選民如何保護自己不被操縱或欺騙”的信息。
不過，一些分析人士認(rèn)為，簽訂協(xié)議固然是好事，但這些協(xié)議內(nèi)容如何執(zhí)行則是另一回事。還有部分人士稱20家科技公司簽訂“自律”協(xié)議是一場“公關(guān)活動”。
美國媒體刊登的一篇評論文章稱，由科技公司簽署的這項協(xié)議并沒有明確禁止使用人工智能偽造內(nèi)容，而只是標(biāo)記和限制。另外，即使過去在沒有人工智能的情況下，科技公司也沒能阻止有關(guān)選舉的虛假信息的傳播。因此，該文作者對協(xié)議有效性表示懷疑。
據(jù)美國一家非營利組織稱，近年來，美國科技公司谷歌、Meta和X總共裁員約4萬人，其中，內(nèi)容審核類別的裁員力度很大。該組織警告說，隨著科技公司的裁員，社交媒體特別容易受到使用人工智能工具的不良行為者的利用。
當(dāng)?shù)貢r間2023年10月30日，美國華盛頓，美國總統(tǒng)拜登簽署了一項關(guān)于人工智能的行政命令，為AI建立安全和隱私保護標(biāo)準(zhǔn)，并要求開發(fā)人員對AI新模型進行安全測試。圖/IC photo
候選人使用人工智能工具分析選民
不過，至少在部分人看來，人工智能的發(fā)展對這個全球“超級大選年”來說并非壞事。
在2月舉行的印尼選舉活動中，國會議員候選人法拉普特里納莉亞在前往選區(qū)拉票時，都會求助于人工智能來了解她的選民。
據(jù)當(dāng)?shù)孛襟w報道，一款人工智能軟件在印尼選舉中得到了廣泛應(yīng)用，它通過篩選大數(shù)據(jù)從官方人口普查到當(dāng)?shù)厣缃幻襟w群組的情感分析以及商品價格和民調(diào)數(shù)據(jù)，生成有關(guān)一個地區(qū)選民生活的復(fù)雜場景。
納莉亞說，她所在選區(qū)有300萬選民，使用人工智能分析選民情況將是大勢所趨。“（這里）有多少人完成了學(xué)業(yè)，有多少人營養(yǎng)不良，有哪些工作機會，他們在社交媒體上抱怨什么，以及每個投票站在以前的選舉中的表現(xiàn)。人工智能真的幫助我們簡化了一切。”她說。
此外，在這場選舉中，印尼的候選人不僅用人工智能分析數(shù)據(jù)，還用它寫演講、生成社交媒體帖文，并為競選紀(jì)念品設(shè)計模型。
印尼的政治顧問約塞里扎爾對當(dāng)?shù)孛襟w說，雖然人工智能技術(shù)可能會被濫用來傳播假新聞，但它也有好處。人工智能就像“你的個人專屬政治顧問”，以前需要一個團隊才能完成的詳細(xì)分析、戰(zhàn)略規(guī)劃和文案撰寫等工作，現(xiàn)在交給人工智能工具就行了。
據(jù)里扎爾的不完全統(tǒng)計，約有700名各類別的候選人在此次印尼選舉中使用了人工智能工具。該選舉產(chǎn)生印尼新一屆正副總統(tǒng)、國會議員、地方代表理事會成員和地方議會議員。
關(guān)于人工智能生成虛假信息破壞選舉的擔(dān)憂，一些專家則表示，過分夸大風(fēng)險可能讓選民對所有選舉信息都變得不信任，反而對選舉活動產(chǎn)生不利影響。
“相比人工智能的應(yīng)用，我更擔(dān)心圍繞人工智能的敘述話語。”哈巴斯說，如果夸大敘事，人們會感覺人工智能生成虛假信息的現(xiàn)象比其實際情況更糟糕，僅憑這一點，人們就可能降低對信息環(huán)境僅存不多的信任度。
新京報記者 陳奕凱
編輯 張磊 校對 劉越
