七國(guó)集團(tuán)（G7）發(fā)布《開(kāi)發(fā)先進(jìn)人工智能系統(tǒng)組織的國(guó)際行為準(zhǔn)則》，包括11點(diǎn)框架。同日，美國(guó)總統(tǒng)拜登發(fā)布一項(xiàng)關(guān)于“安全、可靠和值得信賴的人工智能”的行政命令。
由英國(guó)牽頭的人工智能安全峰會(huì)即將于11月1日召開(kāi)，科技公司的高管和政府官員等近百名代表將出席，包括OpenAI首席執(zhí)行官山姆奧特曼、特斯拉創(chuàng)始人埃隆馬斯克等科技領(lǐng)袖。中國(guó)代表也在受邀名單之列。
今年5月，七國(guó)集團(tuán)在日本廣島舉行峰會(huì)，宣布“廣島人工智能進(jìn)程”。
全球政府或權(quán)力機(jī)構(gòu)監(jiān)管人工智能的行動(dòng)密集展開(kāi)。
當(dāng)?shù)貢r(shí)間10月30日，七國(guó)集團(tuán)（G7）發(fā)布《開(kāi)發(fā)先進(jìn)人工智能系統(tǒng)組織的國(guó)際行為準(zhǔn)則（International Code of Conduct for Organizations Developing Advanced AI Systems）》。該自愿指南以5月宣布的“廣島人工智能進(jìn)程”為基礎(chǔ)，旨在促進(jìn)安全、可靠、值得信賴的人工智能。
同一天，美國(guó)總統(tǒng)拜登發(fā)布一項(xiàng)關(guān)于“安全、可靠和值得信賴的人工智能”的行政命令。同時(shí)，歐盟正在最終確定具有財(cái)務(wù)約束力的《人工智能法案》。
幾天前，聯(lián)合國(guó)成立新的人工智能咨詢委員會(huì)，由39名全球政府、技術(shù)和學(xué)術(shù)領(lǐng)袖組成，有兩名來(lái)自中國(guó)的專家入選，分別是中國(guó)科學(xué)院自動(dòng)化研究所研究員、類腦智能研究中心副主任曾毅，以及中國(guó)政法大學(xué)數(shù)據(jù)法治研究院教授、博士生導(dǎo)師張凌寒。
由英國(guó)牽頭的人工智能安全峰會(huì)即將于11月1日召開(kāi)，科技公司的高管和政府官員等近百名代表將出席，包括OpenAI首席執(zhí)行官山姆奧特曼、特斯拉創(chuàng)始人埃隆馬斯克、微軟總裁布拉德史密斯、和谷歌DeepMind首席執(zhí)行官德米斯哈薩比斯等科技領(lǐng)袖。中國(guó)代表也在受邀名單之列。
“非詳盡”原則清單
由美國(guó)、歐盟（非正式成員）、英國(guó)、加拿大、法國(guó)、德國(guó)、意大利和日本組成的七國(guó)集團(tuán)在一份聲明中表示：“我們……強(qiáng)調(diào)先進(jìn)人工智能系統(tǒng)的創(chuàng)新機(jī)會(huì)和變革潛力，特別是基礎(chǔ)模型和生成式人工智能。”“我們還認(rèn)識(shí)到需要管理風(fēng)險(xiǎn)并保護(hù)個(gè)人、社會(huì)和我們的共同原則，包括法治和民主價(jià)值觀，以人類為中心。”七國(guó)領(lǐng)導(dǎo)人稱，應(yīng)對(duì)這些挑戰(zhàn)需要為人工智能“塑造包容性治理”。
七國(guó)集團(tuán)發(fā)布了新的11點(diǎn)框架，以幫助指導(dǎo)開(kāi)發(fā)人員負(fù)責(zé)任地創(chuàng)建和部署人工智能。該團(tuán)體呼吁各組織致力于遵守行為準(zhǔn)則，同時(shí)承認(rèn)“不同的司法管轄區(qū)可能會(huì)采取自己獨(dú)特的方法來(lái)實(shí)施這些指導(dǎo)原則。”
這11點(diǎn)框架包括：
第一，在整個(gè)開(kāi)發(fā)過(guò)程中采取適當(dāng)?shù)拇胧﹣?lái)識(shí)別、評(píng)估和減輕風(fēng)險(xiǎn)。這可以包括紅隊(duì)（測(cè)試）、測(cè)試和緩解措施，以確保可信性、安全性和保障性。開(kāi)發(fā)人員應(yīng)該啟用與數(shù)據(jù)集、流程和決策相關(guān)的可追溯性。
第二，識(shí)別并減少部署后的漏洞、事件和誤用模式。這可以包括監(jiān)控漏洞、事件和新出現(xiàn)的風(fēng)險(xiǎn)，并促進(jìn)第三方和用戶的發(fā)現(xiàn)和事件報(bào)告。
第三，公開(kāi)報(bào)告先進(jìn)人工智能系統(tǒng)的功能、局限性以及適當(dāng)和不適當(dāng)使用的領(lǐng)域。這應(yīng)該包括由“強(qiáng)大的文檔流程”支持的透明度報(bào)告。
第四，致力于負(fù)責(zé)任的信息共享和事件報(bào)告。這可以包括評(píng)估報(bào)告，有關(guān)安保和安全風(fēng)險(xiǎn)、有意或無(wú)意規(guī)避保障措施的能力的信息。
第五，制定、實(shí)施和披露人工智能治理和風(fēng)險(xiǎn)管理政策。這適用于個(gè)人數(shù)據(jù)、提示和輸出。
第六，投資并實(shí)施安全控制，包括物理安全、網(wǎng)絡(luò)安全和內(nèi)部威脅防護(hù)措施。這可能包括保護(hù)模型權(quán)重和算法、服務(wù)器和數(shù)據(jù)集，包括操作安全措施和網(wǎng)絡(luò)/物理訪問(wèn)控制。
第七，開(kāi)發(fā)和部署可靠的內(nèi)容身份驗(yàn)證和來(lái)源機(jī)制，例如水櫻來(lái)源數(shù)據(jù)應(yīng)包括創(chuàng)建內(nèi)容的服務(wù)或模型的標(biāo)識(shí)符，免責(zé)聲明還應(yīng)告知用戶他們正在與人工智能系統(tǒng)進(jìn)行交互。
第八，優(yōu)先開(kāi)展研究以減輕社會(huì)、安全和安保風(fēng)險(xiǎn)。這可以包括實(shí)施與投資研究和開(kāi)發(fā)緩解工具，并促進(jìn)合作。
第九，優(yōu)先開(kāi)發(fā)人工智能系統(tǒng)，以應(yīng)對(duì)“世界上最大的挑戰(zhàn)”，包括氣候危機(jī)、全球健康和教育。各機(jī)構(gòu)還應(yīng)支持?jǐn)?shù)字素養(yǎng)計(jì)劃。
第十，推動(dòng)國(guó)際技術(shù)標(biāo)準(zhǔn)的制定和采用。這包括促進(jìn)國(guó)際技術(shù)標(biāo)準(zhǔn)和最佳實(shí)踐的開(kāi)發(fā)和使用。
第十一，對(duì)個(gè)人數(shù)據(jù)和知識(shí)產(chǎn)權(quán)實(shí)施適當(dāng)?shù)臄?shù)據(jù)輸入措施和保護(hù)。這應(yīng)包括訓(xùn)練數(shù)據(jù)集的適當(dāng)透明度。
七國(guó)集團(tuán)強(qiáng)調(diào)，人工智能組織必須尊重法治、人權(quán)、正當(dāng)程序、多樣性、公平和非歧視、民主和“以人為本”。先進(jìn)系統(tǒng)的引入不應(yīng)有害、破壞民主價(jià)值觀、助長(zhǎng)恐怖主義、助長(zhǎng)犯罪濫用，“或?qū)Π踩�、安保和人�?quán)構(gòu)成重大風(fēng)險(xiǎn)”。
該組織還承諾引入監(jiān)控工具和機(jī)制，以追究組織的責(zé)任。
為了確保其適合目的和具有響應(yīng)能力，行為準(zhǔn)則將根據(jù)政府、學(xué)術(shù)界和私營(yíng)部門的意見(jiàn)進(jìn)行必要的更新。“非詳盡”原則清單將“作為一份動(dòng)態(tài)文件進(jìn)行討論和闡述”。
七國(guó)集團(tuán)領(lǐng)導(dǎo)人進(jìn)一步聲稱，他們的努力旨在營(yíng)造一個(gè)使人工智能效益最大化的環(huán)境，同時(shí)減輕其“為全球共同利益帶來(lái)的風(fēng)險(xiǎn)”。這應(yīng)該包括發(fā)展中經(jīng)濟(jì)體和新興經(jīng)濟(jì)體，“以縮小數(shù)字鴻溝并實(shí)現(xiàn)數(shù)字包容性”。
白宮行政命令“執(zhí)行困難”
歐盟委員會(huì)發(fā)表聲明對(duì)這一自愿性行為準(zhǔn)則表示歡迎，稱“這些原則和自愿行為準(zhǔn)則將在國(guó)際層面補(bǔ)充歐盟共同立法者目前根據(jù)歐盟《人工智能法案》最終確定的具有法律約束力的規(guī)則”。
歐盟憑借其要求嚴(yán)厲的《人工智能法案》一直處于監(jiān)管新興技術(shù)的最前沿，而日本、美國(guó)和東南亞國(guó)家則采取了更趨向于不干涉的方式來(lái)促進(jìn)經(jīng)濟(jì)增長(zhǎng)。
其中，美國(guó)國(guó)會(huì)距離制定監(jiān)管生成式人工智能的立法還有相當(dāng)長(zhǎng)的距離，但拜登10月30日簽署行政命令，推出了白宮有關(guān)生成式人工智能的首套監(jiān)管規(guī)定，部分原因是希望在明年美國(guó)總統(tǒng)選舉前遏制人工智能帶來(lái)的一些現(xiàn)實(shí)問(wèn)題。
“深度造假利用人工智能生成的音頻和視頻來(lái)抹黑聲譽(yù)、傳播虛假新聞并實(shí)施欺詐。”拜登在白宮簽署該命令時(shí)表示，工作人員向他展示的一項(xiàng)實(shí)驗(yàn)表明，一個(gè)構(gòu)建良好的人工智能系統(tǒng)可以令人信服地創(chuàng)建一份從未發(fā)生過(guò)的總統(tǒng)聲明，從而引發(fā)一場(chǎng)政治或國(guó)家安全危機(jī)。“我說(shuō)，‘我到底什么時(shí)候這么說(shuō)過(guò)？’”
行政命令要求美國(guó)多個(gè)政府機(jī)構(gòu)制定標(biāo)準(zhǔn)，對(duì)人工智能產(chǎn)品進(jìn)行測(cè)試，尋求“水印”等內(nèi)容驗(yàn)證的最佳方法，擬定網(wǎng)絡(luò)安全計(jì)劃，吸引技術(shù)人才，以保護(hù)隱私，促進(jìn)公平和公民權(quán)利，維護(hù)消費(fèi)者和勞動(dòng)者的利益，促進(jìn)創(chuàng)新和競(jìng)爭(zhēng)，提升美國(guó)的領(lǐng)導(dǎo)地位等。
美國(guó)媒體對(duì)行政命令作出了一些評(píng)價(jià)。“盡管拜登擁有監(jiān)管聯(lián)邦政府如何使用人工智能的廣泛權(quán)力，但他接觸私營(yíng)部門的能力卻較差。盡管他說(shuō)他的命令‘代表了大膽的行動(dòng)’，但他承認(rèn)‘我們?nèi)匀恍枰獓?guó)會(huì)采取行動(dòng)’。”《紐約時(shí)報(bào)》評(píng)論道，并援引專家的話稱，該命令中的許多指令將很難執(zhí)行。
“如果沒(méi)有國(guó)會(huì)的行動(dòng)，拜登政府所能取得的成就是有限的。除了提名對(duì)硅谷有敵意歷史的主要執(zhí)行者之外，白宮在科技問(wèn)題上幾乎沒(méi)有采取任何行動(dòng)。與此同時(shí)，盡管多年來(lái)國(guó)會(huì)試圖制定有關(guān)隱私、網(wǎng)絡(luò)安全和新興技術(shù)的規(guī)則，但國(guó)會(huì)尚未通過(guò)任何重大科技立法。”《華盛頓郵報(bào)》評(píng)論稱。
作為外交努力的一部分，美國(guó)副總統(tǒng)哈里斯將出席在倫敦舉行的人工智能安全峰會(huì)。這場(chǎng)峰會(huì)旨在實(shí)現(xiàn)英國(guó)首相蘇納克希望讓英國(guó)成為人工智能監(jiān)管“地理中心”的計(jì)劃，討論議題將包括人工智能發(fā)展的未來(lái)方向、如何加劇全球不平等、對(duì)選舉和教育的影響等。蘇納克表示，英國(guó)將建立“全球首個(gè)”人工智能安全研究所。
英國(guó)科學(xué)、創(chuàng)新和技術(shù)大臣米歇爾唐蘭（左）與英國(guó)首相蘇納克。
在為期兩天的峰會(huì)中，第一天將由英國(guó)科學(xué)、創(chuàng)新和技術(shù)大臣米歇爾唐蘭主持，大多數(shù)科技公司和政府官員將出席首日活動(dòng)。第二天的會(huì)議則由蘇納克主持，只會(huì)邀請(qǐng)小部分政治領(lǐng)導(dǎo)人和科技高管討論具體應(yīng)對(duì)措施。
會(huì)議的全部嘉賓名單尚未公布，但在國(guó)家領(lǐng)導(dǎo)人方面，美國(guó)總統(tǒng)拜登、法國(guó)總統(tǒng)馬克龍、德國(guó)總理朔爾茨和加拿大總理特魯多都將不會(huì)出席，只有歐盟委員會(huì)主席馮德萊恩確認(rèn)參會(huì)。與會(huì)專家包括現(xiàn)代人工智能3位“教父”中的兩位：杰弗里辛頓和約書亞本吉奧。
