歐洲議會(huì)周三通過了《人工智能法案》(A.I.Act），預(yù)計(jì)在通過歐盟理事會(huì)取得27個(gè)成員國的批準(zhǔn)后，年底前將成為全球第一部監(jiān)管人工智能的法律。
歐盟已經(jīng)就立法監(jiān)管人工智能進(jìn)行了兩年多的辯論，但計(jì)劃一直在適應(yīng)變化，監(jiān)管總是在追逐創(chuàng)新，中間不停地修改。去年ChatGPT的發(fā)布，使這個(gè)問題變得更加緊迫。生成式人工智能技術(shù)正在迎來大規(guī)模部署的階段，對就業(yè)和社會(huì)潛在的影響，以及技術(shù)本身的安全性，在全球引發(fā)了更大的擔(dān)憂。
全球主要的科技和經(jīng)濟(jì)大國在展開人工智能競賽的同時(shí)，也在監(jiān)管方面你追我趕。從聯(lián)合國、歐盟、七國首腦會(huì)議到主權(quán)國家，都要表示出對人工智能的不安全感。
歐盟要用《人工智能法案》為全球人工智能的發(fā)展和治理設(shè)定基調(diào)，確保這項(xiàng)技術(shù)能夠根據(jù)民主、基本權(quán)利和法治的歐洲價(jià)值觀發(fā)展和使用。
歐洲委員會(huì)執(zhí)行副主席維斯塔格（Margrethe Vestager）認(rèn)為，現(xiàn)在并不是談?wù)撊斯ぶ悄?ldquo;消滅人類”的時(shí)候，當(dāng)下更值得關(guān)注的人工智能風(fēng)險(xiǎn)，是人們會(huì)受到歧視，”人們會(huì)不被視為他們自己。“ 維斯塔格長期負(fù)責(zé)歐盟競爭政策和數(shù)字經(jīng)濟(jì)政策。
法案將：
全面禁止生物識別監(jiān)視、情感識別和預(yù)測性執(zhí)法的人工智能；
像ChatGPT這樣的生成式人工智能系統(tǒng)必須披露內(nèi)容是由人工智能生成的
用于影響選民在選舉中的人工智能系統(tǒng)被視為高風(fēng)險(xiǎn)
以下為歐洲議會(huì)的官宣翻譯：
法規(guī)旨在促進(jìn)以人為本、值得信賴的人工智能的應(yīng)用，并保護(hù)健康、安全、基本權(quán)利和民主免受其有害影響。
歐洲議會(huì)于星期三以499票贊成、28票反對和93票棄權(quán)通過了《人工智能法案》的談判立場，為與歐盟成員國就法律的最終形式進(jìn)行談判做準(zhǔn)備。這些規(guī)定將確保在歐洲開發(fā)和使用的人工智能完全符合歐盟的權(quán)利和價(jià)值觀，包括人類監(jiān)督、安全、隱私、透明度、非歧視性和社會(huì)與環(huán)境福祉。
禁止的人工智能做法
這些法規(guī)采取風(fēng)險(xiǎn)為基礎(chǔ)的方法，根據(jù)人工智能可能產(chǎn)生的風(fēng)險(xiǎn)程度對提供者和部署人工智能系統(tǒng)的人設(shè)立義務(wù)。因此，對于對人們的安全構(gòu)成不可接受風(fēng)險(xiǎn)的人工智能系統(tǒng)將被禁止使用，例如用于社會(huì)評分（根據(jù)人們的社會(huì)行為或個(gè)人特征進(jìn)行分類）的系統(tǒng)。議會(huì)議員還擴(kuò)大了禁止使用侵入性和歧視性人工智能的范圍，例如：
公共場所的實(shí)時(shí)遠(yuǎn)程生物識別系統(tǒng)；“后期”遠(yuǎn)程生物識別系統(tǒng)，只有在司法授權(quán)后，用于執(zhí)法嚴(yán)重罪行的情況下才允許使用；使用敏感特征（例如性別、種族、民族、公民身份、宗教、政治取向）的生物識別分類系統(tǒng)；基于個(gè)人特征（如個(gè)人畫像、位置或過去的犯罪行為）的預(yù)測性執(zhí)法系統(tǒng)；在執(zhí)法、邊境管理、工作場所和教育機(jī)構(gòu)中使用的情感識別系統(tǒng)；未經(jīng)定向的從互聯(lián)網(wǎng)或閉路電視攝像頭中抓取面部圖像以創(chuàng)建面部識別數(shù)據(jù)庫（違反人權(quán)和隱私權(quán)）。
高風(fēng)險(xiǎn)人工智能
議會(huì)議員確保高風(fēng)險(xiǎn)應(yīng)用程序的分類，從現(xiàn)在起將包括對人們的健康、安全、基本權(quán)利或環(huán)境造成重大危害的人工智能系統(tǒng)。將用于影響選民和選舉結(jié)果以及社交媒體平臺上使用的推薦系統(tǒng)（擁有超過4500萬用戶）的人工智能系統(tǒng)，被列入高風(fēng)險(xiǎn)名單。
通用人工智能的義務(wù)
基礎(chǔ)模型提供者（這是人工智能領(lǐng)域中新興且快速發(fā)展的一個(gè)方向）必須在其發(fā)布到歐盟市場之前評估和減輕可能的風(fēng)險(xiǎn)（對健康、安全、基本權(quán)利、環(huán)境、民主和法治），并將其模型注冊在歐盟數(shù)據(jù)庫中。基于這些模型的生成式人工智能系統(tǒng)（例如ChatGPT）必須遵守透明度要求（披露由人工智能生成的內(nèi)容，有助于區(qū)分所謂的深度偽造圖像和真實(shí)圖像），并確保防止生成非法內(nèi)容。用于訓(xùn)練的受版權(quán)保護(hù)數(shù)據(jù)的詳細(xì)摘要也必須公開可得。
支持創(chuàng)新和保護(hù)公民權(quán)利
為了推動(dòng)人工智能創(chuàng)新并支持中小企業(yè)，議會(huì)議員對添加了豁免條款，包括研究活動(dòng)和通過開放源代碼許可提供的人工智能組件。新法律提倡所謂的監(jiān)管沙盒，即公共機(jī)構(gòu)建立的現(xiàn)實(shí)環(huán)境，用于測試人工智能在部署之前的情況。
最后，議員希望增強(qiáng)公民權(quán)利，具此可以對人工智能系統(tǒng)提出投訴，并接受對嚴(yán)重影響其基本權(quán)利的高風(fēng)險(xiǎn)人工智能系統(tǒng)決策的解釋。議會(huì)議員還對歐盟人工智能辦公室的角色進(jìn)行了改革，該辦公室將負(fù)責(zé)監(jiān)督人工智能法規(guī)的實(shí)施情況。
下一步
與歐盟理事會(huì)關(guān)于法律最終形式的談判，當(dāng)天即開始。
