10月30日，香山論壇“人工智能安全”論壇現(xiàn)常圖/新京報(bào)記者柯銳 攝
新京報(bào)訊（記者柯銳）第十屆北京香山論壇30日在京開(kāi)幕。在當(dāng)天下午召開(kāi)的“人工智能安全”論壇上，十余位國(guó)內(nèi)外專(zhuān)家學(xué)者、重磅嘉賓就人工智能在軍事等領(lǐng)域的應(yīng)用以及人工智能治理進(jìn)行了深度討論。
無(wú)人機(jī)大出風(fēng)頭引關(guān)注
在烏克蘭危機(jī)中頻繁出現(xiàn)的無(wú)人機(jī)，和近年來(lái)人工智能在軍事領(lǐng)域的運(yùn)用，引起了論壇嘉賓的關(guān)注。
俄羅斯國(guó)立高等經(jīng)濟(jì)大學(xué)歐洲與國(guó)際綜合研究中心主任瓦西里卡申表示，在俄烏前沿陣地，有大量的遙控使用的無(wú)人機(jī)，每天使用量達(dá)數(shù)百個(gè)。這些無(wú)人機(jī)成本低，可大規(guī)模生產(chǎn)。一般是操作員使用VR眼鏡遙控指揮。
AI在武器中的應(yīng)用，不但會(huì)改變現(xiàn)代戰(zhàn)爭(zhēng)的模式，且可能會(huì)對(duì)人類(lèi)社會(huì)帶來(lái)不可預(yù)測(cè)的后果。對(duì)此，紅十字國(guó)際委員會(huì)科學(xué)與政策高級(jí)顧問(wèn)尼爾戴維森表示，AI在軍事上的運(yùn)用，對(duì)人和生命的影響值得關(guān)注。AI控制自助武器，可能會(huì)造成不可逆的影響。國(guó)際社會(huì)要采取措施，減少對(duì)平民和民用設(shè)施的影響。
他認(rèn)為，對(duì)某些致命性自主武器要采取限制措施。例如，在過(guò)去，對(duì)地雷的影響，人們是在大量使用后才研討對(duì)策；現(xiàn)在，對(duì)于采用AI技術(shù)的機(jī)器人武器的使用，人們應(yīng)該先進(jìn)行研判，形成共識(shí)。
近期，基辛格與人合作的新著《人工智能時(shí)代與人類(lèi)未來(lái)》也引起了與會(huì)嘉賓的關(guān)注。該書(shū)提出，人工智能將重塑全球安全與世界秩序。同時(shí)指出，人工智能武器具備核武器不具備的三個(gè)特點(diǎn)：集中在大公司和私人部門(mén)；技術(shù)更容易被復(fù)制，從而容易被非政府組織掌握；小國(guó)也有機(jī)會(huì)掌握。
對(duì)此，秘魯國(guó)家高等研究中心馬林阿里斯塔研究所主任羅伯托比斯卡多建議，成立針對(duì)AI的國(guó)際治理機(jī)構(gòu)，由聯(lián)合國(guó)來(lái)主導(dǎo)。制定AI應(yīng)用的相關(guān)標(biāo)準(zhǔn)，確保倫理法律準(zhǔn)則的實(shí)施。
中國(guó)科學(xué)院類(lèi)腦智能研究中心副主任曾毅表示，關(guān)于AI的規(guī)則標(biāo)準(zhǔn)，美國(guó)、中國(guó)、英國(guó)等國(guó)都有，在此方面，各國(guó)相似的內(nèi)容多于不同的內(nèi)容。各國(guó)應(yīng)該相互學(xué)習(xí)，關(guān)注共同的挑戰(zhàn)。
中國(guó)為治理提供建設(shè)性思路
除了軍事領(lǐng)域，AI在更廣泛領(lǐng)域的應(yīng)用和治理問(wèn)題也引起了論壇嘉賓討論。
論壇上，外交部軍控司參贊高會(huì)君表示，人工智能治理要堅(jiān)持三個(gè)原則。一是要確�？深A(yù)測(cè)性，確保人工智能始終處于人類(lèi)控制之下。二是堅(jiān)持倫理先行，建立并完善人工智能倫理準(zhǔn)則、規(guī)范及問(wèn)責(zé)機(jī)制，堅(jiān)持公平和非歧視性原則，充分尊重并保障各群體的合法權(quán)益。三是逐步建立健全法律和規(guī)章制度，保護(hù)個(gè)人隱私和數(shù)據(jù)安全，反對(duì)非法收集和利用個(gè)人信息的行為。
另外，在人工智能治理方面有幾個(gè)重點(diǎn)。第一是要密切跟蹤技術(shù)發(fā)展形式，提高人工智能治理的技術(shù)能力，要用人工智能技術(shù)來(lái)規(guī)范、助力人工智能治理。第二是要加強(qiáng)信息交流和技術(shù)合作，共同做好風(fēng)險(xiǎn)防范，不斷提升人工智能技術(shù)的安全性、可靠性、可控性、公平性。三是要確保人工智能發(fā)展和治理權(quán)力平等、機(jī)會(huì)平等、規(guī)則平等，增強(qiáng)發(fā)展中國(guó)家代表性和發(fā)言權(quán)，彌合智能鴻溝和治理能力的差距，在尊重各國(guó)政策和實(shí)踐差異的基礎(chǔ)上，推動(dòng)國(guó)際人工智能治理領(lǐng)域形成廣泛共識(shí)。
高會(huì)君表示，中國(guó)人工智能技術(shù)雖比較發(fā)達(dá)，但是在國(guó)際人工智能治理這個(gè)問(wèn)題上，我們非常關(guān)注發(fā)展中國(guó)家、廣大發(fā)展中國(guó)家。中方積極支持在聯(lián)合國(guó)框架下討論成立國(guó)際人工智能治理機(jī)構(gòu)，協(xié)調(diào)國(guó)際人工智能發(fā)展、安全和治理重大問(wèn)題。
10月18日，習(xí)近平主席在第三屆“一帶一路”國(guó)際合作高峰論壇開(kāi)幕式主旨演講中宣布中方將提出《全球人工智能治理倡議》。
高會(huì)君表示，該倡議為各方普遍關(guān)切的人工智能發(fā)展與治理問(wèn)題，提供了建設(shè)性解決思路，最大程度凝聚了國(guó)際共識(shí)，為相關(guān)國(guó)際討論和規(guī)則制定提供了藍(lán)本，是中方踐行人類(lèi)命運(yùn)共同體理念，落實(shí)全球發(fā)展倡議、全球安全倡議和全球文明倡議后又一重要舉措。
“與一些西方國(guó)家處心積慮搞‘小院高墻’、制造‘智能鴻溝’的政策主張相比，倡議反映出中國(guó)在人工智能領(lǐng)域成熟的治理經(jīng)驗(yàn)，彰顯出我們胸懷天下、大公無(wú)私的大國(guó)胸襟。”高會(huì)君說(shuō)。
新京報(bào)記者 柯銳
編輯 鄭偉彬
校對(duì) 賈寧
