近日，在英國召開的
首屆全球人工智能安全峰會
落下帷幕。包括中國、美國、英國、歐盟在內(nèi)的28個國家和地區(qū)簽署了《布萊奇利宣言》，承諾以“安全”“以人為本”“值得信賴”和“負責(zé)任”的方式設(shè)計、開發(fā)、部署和使用人工智能。這份宣言標(biāo)志著多國首次達成一致，認識到人工智能安全問題需要共同關(guān)注和努力。
各國爭奪規(guī)則制定權(quán)和話語權(quán)
作為各國科技創(chuàng)新焦點，人工智能的安全治理也被提上了日程。從大方向來看，目前主要有兩條探索路徑：一是強調(diào)通過政府監(jiān)管和行業(yè)規(guī)則實現(xiàn)安全；二是強調(diào)通過市場驅(qū)動或通過國家規(guī)劃驅(qū)動產(chǎn)業(yè)發(fā)展。
歐盟對人工智能安全治理的態(tài)度最為激進。據(jù)來自歐盟和亞洲的高級官員表示，歐盟正在游說亞洲國家效仿其在人工智能方面的做法，希望像當(dāng)初把歐盟的《通用數(shù)據(jù)保護條例》塑造成全球隱私標(biāo)準那樣，將其最新擬議的《人工智能法》也推廣成為人工智能技術(shù)的全球監(jiān)管標(biāo)準。
美國商務(wù)部長吉娜雷蒙多在此次峰會上表示，人工智能安全研究將評估前沿人工智能模型已知和新出現(xiàn)的風(fēng)險。會后不久，美國總統(tǒng)拜登就簽署了一項行政命令，強調(diào)由政府部門對人工智能技術(shù)的研發(fā)和應(yīng)用進行安全測試和全程監(jiān)管。專家分析稱，美國希望通過政府補貼和人才政策傾斜，確保美國在人工智能領(lǐng)域保持領(lǐng)先地位。
法國負責(zé)數(shù)字問題的副部長讓諾埃爾巴羅特表示，法國政府正在爭取開源人工智能發(fā)展。開源是指模型開發(fā)者讓公眾開發(fā)、修改和迭代他們的模型。“在前幾代技術(shù)中可以看到，開源對于這些技術(shù)的透明度和治理都非常有用。它幫助確保競爭公平，并防止某些領(lǐng)域出現(xiàn)不利于創(chuàng)新的壟斷。”巴羅特說道。
與多國紛紛出手加強人工智能監(jiān)管形成對比的是，英國稱，并不急于通過新的人工智能法律來對本國人工智能進行監(jiān)管，而是建議讓人工智能技術(shù)公司更好地發(fā)現(xiàn)問題并與立法機構(gòu)分享他們的發(fā)現(xiàn)。印度稱，暫時沒有計劃監(jiān)管人工智能的使用和發(fā)展。新加坡、菲律賓、日本等國也表示更傾向于先觀望人工智能技術(shù)的發(fā)展，擔(dān)心過于倉促的監(jiān)管可能會扼殺人工智能創(chuàng)新。
數(shù)據(jù)來源：弗若斯特沙利文
實際上，人工智能治理全球競爭提速的背后，是對人工智能發(fā)展規(guī)則制定權(quán)和話語權(quán)的爭奪。北京計算機學(xué)會數(shù)字經(jīng)濟專委會秘書長王娟在接受《中國電子報》記者采訪時表示，規(guī)則的設(shè)定一定會直接影響到產(chǎn)業(yè)未來發(fā)展的導(dǎo)向和趨勢。各方立場也顯示了不同的國家治理理念。比如，美國一貫強調(diào)問責(zé)機制和明確問責(zé)對象要求，歐盟更注重數(shù)據(jù)隱私保護和倫理治理。
“目前來看，各國都較為認同的是‘敏捷治理’思路，即初期先制定一個頂層框架，在過程中不斷調(diào)整監(jiān)管治理和風(fēng)險控制的措施，通過一些案例和判罰來表明監(jiān)管的態(tài)度，并在實踐推進中不斷加強監(jiān)管認知，從而不斷調(diào)整監(jiān)管思路并釋放這種信號。”王娟說道。
賽迪顧問人工智能產(chǎn)業(yè)研究中心高級分析師于凱迪在接受《中國電子報》記者采訪時表示，積極展開對人工智能的監(jiān)管實際上也是參與全球治理的重要環(huán)節(jié)。掌握監(jiān)管規(guī)則就能在未來技術(shù)路徑選擇、市場需求引導(dǎo)等方面獲得更多話語權(quán)，這對于提升國家影響力、增強國際競爭力等方面都將發(fā)揮重要作用。
此外，人工智能技術(shù)的快速演進也在呼喚全球化規(guī)則的制定。“有效的監(jiān)管規(guī)則會引導(dǎo)人工智能產(chǎn)業(yè)的健康發(fā)展，抑制不良應(yīng)用的發(fā)展。生成式人工智能是一個跨國界、多領(lǐng)域的技術(shù)，這要求全球范圍內(nèi)的監(jiān)管單位進行合作，共同制定國際標(biāo)準和規(guī)則。”安恒信息高級副總裁王欣對《中國電子報》記者表示。
中國人工智能治理走在全球前列
中國科技部副部長吳朝暉在此次峰會上表示，中國將為“人工智能國際機制、擴大參與和基于廣泛共識的治理框架做出貢獻，造福人民，構(gòu)建人類命運共同體”。中方代表團聯(lián)署了會議的重要成果文件關(guān)于人工智能國際治理的《布萊切利宣言》。多位專家表示，中國在人工智能治理方面已經(jīng)走在了全球前列。
8月15日，由工信部等七部門聯(lián)合發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》正式施行。從現(xiàn)有規(guī)則來看，我國的治理路徑與歐盟和美國不同，在倫理規(guī)則和法律法規(guī)方面皆有布局，具體到生成式人工智能治理，我國強調(diào)安全與發(fā)展的“雙輪驅(qū)動”，既采取措施支持和鼓勵生成式人工智能應(yīng)用的發(fā)展，又針對生成式人工智能應(yīng)用場景下可能引發(fā)的風(fēng)險進行規(guī)制。
不同的治理策略與不同的產(chǎn)業(yè)發(fā)展環(huán)境息息相關(guān)。“中國發(fā)展生成式人工智能具有獨特優(yōu)勢，”于凱迪表示，“首先在市場需求方面，中國對于智能對話、內(nèi)容創(chuàng)造、知識管理等領(lǐng)域的應(yīng)用需求量巨大，涌現(xiàn)了大量的商業(yè)機會；此外，中國龐大的互聯(lián)網(wǎng)用戶群體的在線活動產(chǎn)生了大量的多模態(tài)數(shù)據(jù)，包括文本、圖像、音頻和視頻。這些數(shù)據(jù)資源對于生成式人工智能的訓(xùn)練和推理具有重要作用。但同時，受到加速計算芯片等硬件算力水平、人工智能框架的研究起步較晚，以及人工智能領(lǐng)域人才不足等限制，中國在人工智能領(lǐng)域技術(shù)性能方面還存在趕超空間。”
騰訊云副總裁、騰訊云智能解決方案負責(zé)人王麒對《中國電子報》記者表示，我國的科研實力和全球競爭力在不斷提升，例如在自然語言處理、計算機視覺等領(lǐng)域的一些關(guān)鍵技術(shù)已經(jīng)達到了國際領(lǐng)先水平。來自政府層面的積極推動加速了人工智能技術(shù)的產(chǎn)業(yè)化和商業(yè)化進程，為企業(yè)創(chuàng)新和發(fā)展提供了良好的環(huán)境。
中國人工智能產(chǎn)業(yè)的迅猛發(fā)展引來世界矚目。工信部相關(guān)數(shù)據(jù)顯示，
我國人工智能核心產(chǎn)業(yè)規(guī)模達到5000億元，企業(yè)數(shù)量超過4400家，智能芯片、開發(fā)框架、通用大模型等創(chuàng)新成果不斷涌現(xiàn)
。世界知識產(chǎn)權(quán)組織數(shù)據(jù)顯示，2022年中國機構(gòu)人工智能專利申請數(shù)量就多達29853項，占當(dāng)年全球人工智能專利申請總量的40%以上。
數(shù)據(jù)來源：艾瑞咨詢研究院
也正因如此，在此次峰會上，來自中國的聲音受到了多方關(guān)注。多位專家強調(diào)，中國作為在人工智能研發(fā)領(lǐng)域領(lǐng)先的國家之一，在應(yīng)對人工智能風(fēng)險和機遇的全球討論中不可或缺。歐盟委員會副主席維拉朱羅瓦表示，“他們（中國的人工智能企業(yè)）太龐大了，不容忽視”“我認為，他們（中方）在這里很重要。說實話，對于防范真正巨大的全球災(zāi)難性風(fēng)險，我們需要中國的參與”。
中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括表示：“時代已經(jīng)發(fā)生變化，當(dāng)前并不是說有一個人工智能國際規(guī)則需要中國參與融入，現(xiàn)實狀態(tài)是，中國本身就是國際規(guī)則的推動者和重要的共同制定者。人工智能時代，國家地位和力量對比發(fā)生了根本性的變化，我們將會是規(guī)則共同的締造者。”
推動人工智能朝著科技向善發(fā)展
“從國內(nèi)市場來看，大模型的發(fā)展和落地目前還是比較初級的階段，是一個‘百花齊放’的狀態(tài)。大模型的出現(xiàn)，讓我們可以通過更強大的性能、更好的語言理解去和千行百業(yè)結(jié)合做提質(zhì)增效。但任何新技術(shù)、新業(yè)態(tài)的出現(xiàn)都會伴隨著一些問題。”王麒坦言。
首當(dāng)其沖的就是數(shù)據(jù)問題。“生成式人工智能發(fā)展需要大量數(shù)據(jù)投喂，如何合理使用數(shù)據(jù)而不侵犯隱私權(quán)，在合理的監(jiān)管范圍內(nèi)引導(dǎo)人工智能向善發(fā)展值得多方討論。”王欣說道。他表示，由于生成式人工智能的“黑盒”屬性，整個產(chǎn)業(yè)在發(fā)展過程中仍處于“摸著石頭過河”的狀態(tài)，需要一定的監(jiān)管制度來規(guī)范、引導(dǎo)，防止某些領(lǐng)域出現(xiàn)不利于創(chuàng)新的壟斷。
人工智能的有效監(jiān)管的確存在比較高的技術(shù)門檻。于凱迪表示，大模型的訓(xùn)練和推理涉及深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等人工智能技術(shù)，監(jiān)管機構(gòu)需要具備相應(yīng)的專業(yè)知識和技術(shù)能力來理解和評估生成式人工智能的潛在風(fēng)險。不同國家可能有不同的監(jiān)管要求和法律制度，甚至是不同的文化和價值觀，標(biāo)準化監(jiān)管機制的達成也可能是難點之一。
隨著生成式人工智能的飛速發(fā)展，可生成的內(nèi)容形式更加豐富，功能更加多樣，監(jiān)管與發(fā)展的矛盾將更加突出。王娟認為：“創(chuàng)新與監(jiān)管并非矛盾雙方，嚴監(jiān)管是謹慎發(fā)展的警示燈，但產(chǎn)業(yè)發(fā)展不充分也不能都‘甩鍋’監(jiān)管，人工智能產(chǎn)業(yè)的發(fā)展與其自身內(nèi)容基儲原有研究范式及社會群體的行為習(xí)慣都有很大關(guān)系。”
對于新興技術(shù)，仍然可以建立有效的監(jiān)督機制。比如，可以針對生成式人工智能所應(yīng)用的不同領(lǐng)域的特點和風(fēng)險程度進行分類，對于高風(fēng)險領(lǐng)域，類似醫(yī)療行業(yè)或者包含個人身份信息、財務(wù)記錄或其他敏感信息的金融領(lǐng)域，可以采取更嚴格的監(jiān)管措施；還可以針對技術(shù)發(fā)展的不同階段采取不同的監(jiān)管策略等。
于凱迪建議，要充分釋放生成式人工智能的發(fā)展?jié)摿�，科技企業(yè)首先要避免盲目跟風(fēng)、一哄而上的概念炒作和同質(zhì)化研發(fā)，應(yīng)充分研判不同應(yīng)用領(lǐng)域下的場景和業(yè)務(wù)特點，明確垂直領(lǐng)域 Know-how（技術(shù)訣竅），從而更準確地定位生成式人工智能技術(shù)在不同領(lǐng)域的應(yīng)用，更快形成商業(yè)閉環(huán)；其次是要重視生態(tài)培育，可以通過建立開放的平臺，為開發(fā)者、研究人員和合作伙伴提供接口和工具，促進技術(shù)共享和合作。
“未來幾年是人工智能技術(shù)躍遷的重要窗口期，”王欣表示，“要推進人工智能與產(chǎn)業(yè)融合，把握產(chǎn)業(yè)發(fā)展主動權(quán)。技術(shù)創(chuàng)新的同時，需要政策創(chuàng)新的護航。面對人工智能發(fā)展可能引發(fā)的潛在風(fēng)險，也必須前瞻研判，守住法律和倫理底線，推動人工智能朝著科技向善的方向發(fā)展。”
