近日，聯(lián)合國發(fā)布了一份關(guān)于人工智能（AI）治理的重要報告，呼吁國際社會共同努力，建立一個真正意義上的全球性 AI 監(jiān)管和治理機制。
這份由聯(lián)合國秘書長的高級別 AI 咨詢機構(gòu)（High Level Advisory Body on AI）撰寫的報告提出了一系列建議，旨在應(yīng)對 AI 帶來的風(fēng)險，同時確保其變革性潛力能夠在全球范圍內(nèi)得到公平分享。
報告強調(diào)，AI 全球治理的必要性是毋庸置疑的。AI 技術(shù)的原材料，包括關(guān)鍵礦產(chǎn)到訓(xùn)練數(shù)據(jù)，都來自全球各地。
通用 AI 技術(shù)會跨越國界部署，在全球范圍內(nèi)產(chǎn)生了多種應(yīng)用。同時，AI 的快速發(fā)展在全球范圍內(nèi)集中了權(quán)力和財富，帶來了地緣政治和經(jīng)濟影響。
圖 | 聯(lián)合國公布的到目前為止的 AI 治理規(guī)劃路線圖（來源：聯(lián)合國官網(wǎng)）
更重要的是，目前沒有人完全理解 AI 的所有內(nèi)部運作機制，無法完全控制其輸出或預(yù)測其演變。
與此同時，決策者也不對開發(fā)、部署或使用他們不了解的系統(tǒng)負責(zé)。而這些決策很可能產(chǎn)生全球性的負面效應(yīng)和下游影響。
為了應(yīng)對 AI 治理安排中的現(xiàn)有差距，該咨詢機構(gòu)提出了幾項重要建議：
成立獨立的國際 AI 科學(xué)小組，由來自不同學(xué)科的專家組成，以個人身份自愿服務(wù)。
啟動雙年度政府間和多方利益相關(guān)者 AI 治理政策對話，這可以在現(xiàn)有聯(lián)合國會議的間隙舉行，為聯(lián)合國 193 個成員國提供一個討論風(fēng)險和達成行動共識的平臺。
成立“AI 標(biāo)準(zhǔn)小組”，負責(zé)開發(fā)和維護一個定義和適用標(biāo)準(zhǔn)的手冊，用于評估 AI 系統(tǒng)。
設(shè)立全球 AI 基金，預(yù)計會由一個新的獨立治理結(jié)構(gòu)管理，旨在彌合 AI 發(fā)展中的鴻溝，特別是支持南半球國家的發(fā)展。
制定全球 AI 數(shù)據(jù)框架，建立“市場塑造數(shù)據(jù)管理和交換機制”，以促進全球本地 AI 生態(tài)系統(tǒng)的蓬勃發(fā)展。
在聯(lián)合國秘書處內(nèi)設(shè)立 AI 辦公室，以輕量級、靈活的結(jié)構(gòu)更好地統(tǒng)一這些倡議。
該報告還建議聯(lián)合國重視較貧窮國家，特別是南半球國家，使其能夠從 AI 中受益并參與其治理。
這些措施包括建立 AI 標(biāo)準(zhǔn)和數(shù)據(jù)共享系統(tǒng)，以及分配培訓(xùn)和教育資源，以幫助各國進行 AI 治理。
一些建議可以通過現(xiàn)有的全球數(shù)字契約（Global Digital Compact）來實現(xiàn)，該契約旨在解決國家間的數(shù)字和數(shù)據(jù)鴻溝問題。
英國南安普敦大學(xué)計算機科學(xué)榮譽教授溫迪霍爾（Wendy Hall）是咨詢機構(gòu)中唯一的英國專家，她強調(diào)：“AI 必須為人類的利益而發(fā)展，如果沒有治理，它有可能以有害于社會的方式演變。
我們迫切需要一種全球性的方法來應(yīng)對 AI 的挑戰(zhàn)，確保它造福每個人。”
然而，AI 治理目前并非一場真正的全球?qū)υ�。報告指出，雖然已有數(shù)百份關(guān)于 AI 治理的指南、框架和原則被各國政府、公司、聯(lián)盟和國際組織采納，但沒有一個具有真正的全球影響力。這導(dǎo)致了代表性、協(xié)調(diào)性和執(zhí)行力方面的問題。
這種權(quán)力分配的不平等也反映在整個國際體系中。
聯(lián)合國秘書長安東尼奧古特雷斯（António Guterres）在 2024 年 1 月的達沃斯世界經(jīng)濟論壇上指出，許多成員國在聯(lián)合國成立時仍處于殖民統(tǒng)治之下，因此在今天的討論中“聲量微乎其微”。
他呼吁改革二戰(zhàn)后建立的國際體系，以便在全球挑戰(zhàn)上采取有效行動。
2024 年 3 月，美國向聯(lián)合國提交了一項決議，呼吁成員國擁抱“安全、可靠和值得信賴的 AI”發(fā)展。
同年 7 月，中國提出了自己的決議，強調(diào)在 AI 開發(fā)中的合作以及使技術(shù)廣泛可用。所有聯(lián)合國成員國都簽署了這兩項協(xié)議。
富裕國家之間在 AI 觀點上的差異已經(jīng)導(dǎo)致市場出現(xiàn)裂痕。歐盟引入了全面的 AI 法規(guī)，其數(shù)據(jù)使用控制促使一些美國公司限制了其產(chǎn)品的可用性。
美國政府采取的放任自由態(tài)度也導(dǎo)致加利福尼亞州提出了自己的、更嚴(yán)格的 AI 規(guī)范。
面對這些挑戰(zhàn)，聯(lián)合國 AI 咨詢機構(gòu)的報告為建立共同立場鋪平了道路。
牛津大學(xué)教授克里斯拉塞爾（Chris Russell）認(rèn)為：“將分析錨定在人權(quán)方面是非常有說服力的。
它為工作提供了廣泛且有力的國際法基礎(chǔ)，并關(guān)注人們遭受的具體傷害。”
然而，AI 正在以如此快的速度發(fā)展，聯(lián)合國將無法單獨管理全球合作。
“聯(lián)合國在 AI 治理方面顯然有重要作用，但它需要成為一種分布式架構(gòu)。”他說，“各個國家也需要直接參與其中。”
最后，雖然各國政府可能將 AI 視為獲得戰(zhàn)略優(yōu)勢的方式，但許多科學(xué)家在對 AI 的擔(dān)憂上達成了一致。
本周早些時候，一群來自西方和中國的著名學(xué)者在奧地利維也納舉行的 AI 安全會議后，聯(lián)合呼吁在 AI 安全問題上加強合作。
總的來說，這份聯(lián)合國報告為國際社會在 AI 治理方面的合作提供了一份藍圖。
然而，正如咨詢機構(gòu)成員阿隆德拉納爾遜（Alondra Nelson）所說：“細節(jié)決定成敗。”
未來，聯(lián)合國及其成員國如何選擇落實這一合作藍圖，將決定全球 AI 治理的成敗。
參考資料：
https://arstechnica.com/ai/2024/09/united-nations-wants-to-treat-ai-with-same-urgency-as-climate-change/
https://www.un.org/techenvoy/ai-advisory-body
https://www.computerweekly.com/news/366611263/UN-body-urges-globally-inclusive-and-distributed-AI-governance
運營/排版：何晨龍
