本報(bào)記者 曲忠芳 李正豪 北京報(bào)道
6月6日，國際非營利組織“人工智能安全中心”（Center for AI Safety，以下簡稱“CAIS”)主任丹亨德里克斯通過社交媒體表示，上周已有數(shù)百名頂級人工智能科學(xué)家和知名公眾人物簽署了一份關(guān)于人工智能風(fēng)險(xiǎn)的公開聲明，該聲明由CAIS撰寫，其內(nèi)容非常簡短，即“降低人工智能的滅絕風(fēng)險(xiǎn)，應(yīng)當(dāng)與流行并核戰(zhàn)爭等其他大規(guī)模的風(fēng)險(xiǎn)一起納入全球優(yōu)先事項(xiàng)”。
《中國經(jīng)營報(bào)》記者從CAIS官網(wǎng)獲悉，該份公開聲明的簽署者來自美國、中國、俄羅斯、巴西、韓國等20多個(gè)國家，涵蓋人工智能專家、哲學(xué)家、法律專家、企業(yè)家、新聞記者、政治人物等，其中包括2018年圖靈獎(jiǎng)獲得者、被稱為“深度學(xué)習(xí)三巨頭”中的杰弗里辛頓 、約書亞本吉奧，微軟聯(lián)合創(chuàng)始人比爾蓋茨、谷歌DeepMind公司CEO戴米斯哈薩比斯、OpenAI公司CEO山姆奧特曼等，來自中國的清華大學(xué)航空航天研究院院長張亞勤、中國科學(xué)院自動化研究所教授曾毅等也在簽名者行列中。
值得注意的是，隨著今年AI大模型及生成式AI的火爆，AI的安全風(fēng)險(xiǎn)也越來越被廣泛地討論與重視。就在今年3月底，非營利組織“未來生命研究所”發(fā)出一封“呼吁所有AI實(shí)驗(yàn)室立即暫停對比GPT-4更強(qiáng)大的AI系統(tǒng)的訓(xùn)練至少6個(gè)月”的公開信，特斯拉、Space X、推特等公司CEO埃隆馬斯克，杰弗里辛頓、約書亞本吉奧等均在聯(lián)合署名者名單中。
在丹亨德里克斯創(chuàng)建的CAIS看來，人工智能的典型風(fēng)險(xiǎn)集中表現(xiàn)在幾個(gè)方面：武器化如將深度學(xué)習(xí)用于空戰(zhàn)、用機(jī)器學(xué)習(xí)來制造化學(xué)武器等；生成大量錯(cuò)誤信息甚至產(chǎn)生一些有說服力的、帶有任何偏見的內(nèi)容從而引發(fā)強(qiáng)烈的情緒反應(yīng)，導(dǎo)致激化矛盾、阻礙道德進(jìn)步；未來先進(jìn)的AI系統(tǒng)產(chǎn)生意想不到的惡意行為，人類可能會失去對AI的控制等等。丹亨德里克斯援引一項(xiàng)民意調(diào)查稱，約61%的美國人認(rèn)為人工智能威脅人類的未來，人類必須解決各種各樣的人工智能風(fēng)險(xiǎn)。CAIS指出，人工智能的“風(fēng)險(xiǎn)”包括錯(cuò)誤信息、武器化、任意偏見、網(wǎng)絡(luò)攻擊等，“滅絕”是未來先進(jìn)的人工智能系統(tǒng)所帶來的最重要且緊迫的風(fēng)險(xiǎn)，因此CAIS在公開聲明中呼吁將人工智能的滅絕風(fēng)險(xiǎn)列入世界上最重要的問題。
“人工智能不應(yīng)該是一場軍備競賽。想象一群人站在薄冰覆蓋的海上，在遙遠(yuǎn)的海岸，他們看到了金銀財(cái)寶。有些人可能會想沖刺，但他們會冒著破冰且跳入冰冷海水的風(fēng)險(xiǎn)。在這種情況下，即使是自私的人也應(yīng)該謹(jǐn)慎行事。”丹亨德里克斯如是表示。
對于CAIS的這份聲明，英國首相里希蘇納克率先在個(gè)人社交平臺轉(zhuǎn)發(fā)并表示，英國政府正在非常仔細(xì)地研究這一問題。與此同時(shí)，他還透露，前不久他已經(jīng)“向AI企業(yè)強(qiáng)調(diào)了設(shè)置防護(hù)措施以確保AI開發(fā)安全可靠的重要性”。此外，6月5日據(jù)路透社報(bào)道，歐盟委員會副主席維拉喬羅娃公開表示，向包括谷歌、微軟、Meta、TikTok等超過40家科技企業(yè)要求，檢測通過AI生成的文本、圖片和視頻，并且向用戶提供明顯的標(biāo)識。喬羅娃稱，此舉是歐盟委員會打擊虛假信息工作的重要內(nèi)容。另據(jù)《華爾街日報(bào)》報(bào)道，5月23日，美國政府正在尋求制定一項(xiàng)國家人工智能戰(zhàn)略，以防范錯(cuò)誤信息和該技術(shù)帶來的其他潛在問題，目前正在向公眾征集意見。種種跡象表明，AI新技術(shù)帶來的風(fēng)險(xiǎn)與挑戰(zhàn)已越來越引起各個(gè)國家和地區(qū)政策法律制定者的關(guān)注與重視。
在對生成式AI的監(jiān)管規(guī)范方面，國內(nèi)同樣也走在國際前列。今年4月11日，國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》，向公眾征求意見的時(shí)間窗口已于5月10日結(jié)束。該文件中明確生成式AI應(yīng)遵循的合規(guī)要求，重點(diǎn)強(qiáng)化了個(gè)人信息保護(hù)的相關(guān)要求，明確個(gè)人信息處理者的法定責(zé)任和義務(wù)，還要求生成式AI產(chǎn)品或服務(wù)建立評估備案、實(shí)名制、投訴處理等機(jī)制，豐富了包括人工標(biāo)注、防沉迷、內(nèi)容標(biāo)識等管理措施，并且規(guī)定了相應(yīng)的處罰措施。
不難預(yù)測，未來一段時(shí)間，AI大模型及各種新應(yīng)用、新產(chǎn)業(yè)火爆發(fā)展的同時(shí)，AI由此帶來的風(fēng)險(xiǎn)也會更多地被重視，通過立法立規(guī)來約束技術(shù)邊界、強(qiáng)化監(jiān)管和治理也將成為國際范圍內(nèi)的常態(tài)。
（編輯：吳清 校對：燕郁霞）
