當(dāng)前，人工智能（AI）無(wú)疑是全球可持續(xù)發(fā)展的強(qiáng)大推進(jìn)技術(shù)。在研究AI對(duì)可持續(xù)發(fā)展目標(biāo)的貢獻(xiàn)時(shí)，我們發(fā)現(xiàn)大部分的努力都集中在AI與高質(zhì)量教育以及AI與醫(yī)療保健上，而其他許多重要的主題，如生物多樣性、氣候行動(dòng)、AI與和平，卻鮮有關(guān)注。然而這些都是事關(guān)人類(lèi)未來(lái)的基本問(wèn)題，至少與教育和醫(yī)療保健同等重要，各國(guó)政府應(yīng)該共同努力解決。
軍事人工智能、維護(hù)和平與安全的人工智能是密切相關(guān)的兩個(gè)話題，但在很多重要方面存在根本性不同。促進(jìn)國(guó)際和平的人工智能是實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)的重要支柱，應(yīng)該被積極用以降低安全風(fēng)險(xiǎn)。從和平與安全的角度出發(fā)使用AI，可以用來(lái)識(shí)別不同國(guó)家和政治實(shí)體之間的虛假信息和誤解，使用AI進(jìn)行網(wǎng)絡(luò)防御，禁止使用人工智能進(jìn)行網(wǎng)絡(luò)攻擊。但無(wú)論是出于軍事還是政治目的，都不應(yīng)使用AI制造虛假信息。AI應(yīng)該被用來(lái)連接人類(lèi)與文化，而不是制造隔閡。這就是為什么我們創(chuàng)建了一個(gè)人工智能賦能的文化交互引擎，找出不同的聯(lián)合國(guó)教科文組織世界文化遺產(chǎn)之間的共性和多樣性。從這些世界遺產(chǎn)中，我們發(fā)現(xiàn)文化并沒(méi)有那么割裂，存在著許多的共性。而這些共性是重要的根基，能夠幫助我們欣賞和理解彼此，甚至學(xué)習(xí)互鑒。
目前的人工智能，包括最近的生成式人工智能，其實(shí)都是信息處理工具，還不具備真正的信息理解能力，不是真正的智能。因此它們無(wú)法代替人類(lèi)做決策。例如，雖然世界尚未就致命性自主武器系統(tǒng)達(dá)成可操作的共識(shí)，但至少不應(yīng)直接用AI為人類(lèi)作出生死決定。充分的人機(jī)交互應(yīng)在有效、負(fù)責(zé)任的控制下進(jìn)行。人工智能也不應(yīng)用于自動(dòng)化的外交任務(wù)，尤其是不同國(guó)家之間的外交談判。因?yàn)樗赡軙?huì)利用甚至擴(kuò)大人類(lèi)的局限性和弱點(diǎn)（如欺騙、不信任），帶來(lái)巨大的、甚至災(zāi)難性的風(fēng)險(xiǎn)。生成式人工智能總是以“我認(rèn)為”和“我建議”一類(lèi)的話語(yǔ)來(lái)與人類(lèi)交流，這其實(shí)很可笑、很有誤導(dǎo)性，也是不負(fù)責(zé)任的。因?yàn)楝F(xiàn)在的AI模型并沒(méi)有自我。AI永遠(yuǎn)不應(yīng)該假裝是人、取代人類(lèi)或誤導(dǎo)人們。人工智能可以協(xié)助人類(lèi)，但不能代替人類(lèi)做決策。
我們必須確保所有人工智能賦能的武器系統(tǒng)都在人類(lèi)充分、有效和負(fù)責(zé)任的控制之下。例如，需避免人機(jī)交互中的認(rèn)知過(guò)載。我們必須防止AI賦能的武器系統(tǒng)的擴(kuò)散，因?yàn)橄嚓P(guān)技術(shù)很可能被惡意使用或?yàn)E用。
無(wú)論是短期還是長(zhǎng)期的人工智能，都有威脅人類(lèi)的風(fēng)險(xiǎn)。因?yàn)槎唐趦?nèi)我們無(wú)法避免人工智能利用人類(lèi)的弱點(diǎn)。至于長(zhǎng)期的人工智能，我們還無(wú)法給出任何實(shí)際的理由為什么超級(jí)智能應(yīng)該保護(hù)人類(lèi)，而找到這個(gè)問(wèn)題的答案可能需要幾十年的時(shí)間。我們需要改變彼此之間，以及與其他物種、生態(tài)、環(huán)境的互動(dòng)方式，這需要整個(gè)人類(lèi)社會(huì)共同努力。
這些短期和長(zhǎng)期的挑戰(zhàn)決定了我們不太可能在今天就解決AI賦能和平與安全的問(wèn)題。但進(jìn)行這個(gè)討論必然是一個(gè)良好的起點(diǎn)。為應(yīng)對(duì)未來(lái)短期和長(zhǎng)期的挑戰(zhàn)，可以在聯(lián)合國(guó)安全理事會(huì)層面建立一個(gè)AI賦能和平與安全工作組。因?yàn)閷＜覍用娴慕涣骺梢愿鼮殪`活、科學(xué)，更有可能在科學(xué)和技術(shù)方面達(dá)成共識(shí)，更有可能為理事國(guó)做決策提供科學(xué)指導(dǎo)和支持。
AI的創(chuàng)造是為了幫助人類(lèi)解決問(wèn)題，而不是創(chuàng)造更多的問(wèn)題。曾經(jīng)有個(gè)小男孩問(wèn)過(guò)我，除了在科幻小說(shuō)中，現(xiàn)實(shí)是否可能用AI輔助的核彈來(lái)炸毀正在襲擊地球的小行星，或者改變其軌道以避免與地球相撞來(lái)拯救我們的生命。我認(rèn)為這個(gè)想法目前來(lái)看科學(xué)上可行性并不高，甚至可能有相當(dāng)大的風(fēng)險(xiǎn)，但至少它是使用AI來(lái)解決人類(lèi)的問(wèn)題，比起用AI賦能的核武器攻擊我們要好得多。
包括聯(lián)合國(guó)安理會(huì)常任理事國(guó)在內(nèi)的許多國(guó)家已經(jīng)宣布了AI安全和治理的政策，或是發(fā)表了觀點(diǎn)，我們可以看到其中有許多共性，這是國(guó)際共識(shí)的重要體現(xiàn)，但還遠(yuǎn)遠(yuǎn)不夠。在國(guó)際層面，聯(lián)合國(guó)需要發(fā)揮核心作用，建立AI發(fā)展和治理的框架，確保全球和平與安全。作為人類(lèi)命運(yùn)共同體，各國(guó)需要一起努力建立好這個(gè)議程和框架，不使任何一個(gè)國(guó)家掉隊(duì)。（作者是中國(guó)科學(xué)院自動(dòng)化研究所研究員、人工智能倫理與治理中心主任。本文基于作者在7月18日聯(lián)合國(guó)安全理事會(huì)第9381次會(huì)議“人工智能：國(guó)際和平與安全的機(jī)遇與風(fēng)險(xiǎn)”上的受邀發(fā)言）
