該法案采用風(fēng)險分級的規(guī)制路徑，將人工智能系統(tǒng)的風(fēng)險劃分成不可接受的風(fēng)險、高風(fēng)險、有限風(fēng)險和輕微風(fēng)險四種類型，并針對不同類型施加了不同的監(jiān)管措施。本文將進(jìn)一步展開解讀歐盟人工智能法案的監(jiān)管框架及監(jiān)管措施。
文|趙志東 蔡佳雯
6月14日，歐洲議會（European Parliament）以499票贊成、28票反對、93票棄權(quán)的結(jié)果通過了《關(guān)于“歐洲議會和理事會條例：制定人工智能的統(tǒng)一規(guī)則（人工智能法案）并修訂某些聯(lián)盟立法”的提案》（以下簡稱“歐盟人工智能法案”）。
人工智能已成為全球科技行業(yè)的一個關(guān)鍵戰(zhàn)場，各家科技公司都在爭奪技術(shù)開發(fā)方面的主導(dǎo)地位。歐洲議會批準(zhǔn)了全球首個針對人工智能行業(yè)的綜合性法規(guī)，邁出了歐盟人工智能法案正式生效的重要一步。
該法案采用風(fēng)險分級的規(guī)制路徑，將人工智能系統(tǒng)的風(fēng)險劃分成不可接受的風(fēng)險、高風(fēng)險、有限風(fēng)險和輕微風(fēng)險四種類型，并針對不同類型施加了不同的監(jiān)管措施。本文將進(jìn)一步展開解讀歐盟人工智能法案的監(jiān)管框架及監(jiān)管措施。
圖源：歐洲政策研究中心（Centre for European Policy Studies，CEPS）
一、禁用不可接受的風(fēng)險類型的人工智能系統(tǒng)
根據(jù)歐盟人工智能法案，部分人工智能系統(tǒng)因嚴(yán)重侵犯基本人權(quán)或違反歐盟價值觀，故而被歸類為不可接受的風(fēng)險類型的人工智能系統(tǒng)，無論是其投放市場，或是投入服務(wù)或使用的行為均應(yīng)被禁止。
在被禁用的人工智能系統(tǒng)中，有一類是涉及該人工智能系統(tǒng)可能會通過潛意識操縱用戶，或利用特定用戶在年齡、身體或精神殘疾或其他方面的弱點，實質(zhì)性地改變用戶的行為，并可能給該用戶造成身體或心理傷害。
舉例而言，當(dāng)前市場上面向青少年如同的語音集成類玩具，若其使用的人工智能系統(tǒng)與用戶進(jìn)行游戲或交互過程中，會鼓勵未成年人進(jìn)行一些危險的行為或挑戰(zhàn)，則是利用兒童在年齡、心智方面的不成熟影響其安全。再如，對于通過聲音頻率潛意識影響用戶行為的人工智能系統(tǒng)，如果該系統(tǒng)用于讓卡車司機長時間駕駛，就屬于通過潛意識操控司機，影響了司機的健康和安全，故而被禁用。
另一類被禁止的人工智能系統(tǒng)，則涉及不當(dāng)?shù)臄?shù)據(jù)評估。這類人工智能系統(tǒng)可根據(jù)采集/提供的個人信息、數(shù)據(jù)、資料等，對相關(guān)個人進(jìn)行評估、分類或行為預(yù)測，若該人工智能系統(tǒng)的評估或預(yù)測結(jié)果會導(dǎo)致某些人受到不合理的待遇或不公允的評價，則該人工智能系統(tǒng)屬于不可接受的風(fēng)險類型。
此外，為執(zhí)法目的在公共場所使用實時遠(yuǎn)程生物識別系統(tǒng)也被列入不可接受的風(fēng)險類型，例如在公共場所使用該系統(tǒng)以抓取生物識別數(shù)據(jù)來創(chuàng)建面部識別數(shù)據(jù)庫的行為，就是法案所禁止的。
但是，不同于前述兩類，在公共場所使用實時遠(yuǎn)程生物識別系統(tǒng)有例外許可情形。當(dāng)使用該系統(tǒng)的執(zhí)法目的為有針對性地尋找特定的潛在犯罪受害者；或預(yù)防對人身安全的重大威脅或恐怖主義威脅；或偵查、定位、識別或起訴刑事犯罪嫌疑人時，若事先得到司法機關(guān)的授權(quán)，并在時間、地理和范圍上符合最小必要原則，則在公共場所使用實時遠(yuǎn)程生物識別系統(tǒng)是被允許的。
二、重點監(jiān)管高風(fēng)險類型的人工智能系統(tǒng)
高風(fēng)險類型的人工智能系統(tǒng)是歐盟法案的監(jiān)管重點，具體包括應(yīng)用于自然人生物識別和分類、關(guān)鍵基礎(chǔ)設(shè)施的管理和運營、教育和職業(yè)培訓(xùn)、就業(yè)和員工管理、獲得和享受基本公共服務(wù)及福利資格的評估、執(zhí)法、移民、庇護(hù)和邊境管制、司法程序和民主程序等領(lǐng)域的人工智能系統(tǒng)。
法案針對該類型的人工智能系統(tǒng)，規(guī)定了從入市前到入市后的全流程風(fēng)險管理措施，以預(yù)防并控制高風(fēng)險類型人工智能系統(tǒng)對人類安全或基本人權(quán)產(chǎn)生負(fù)面影響。該等義務(wù)的承擔(dān)主體主要是為人工智能系統(tǒng)的服務(wù)提供者。
所謂提供者，系指開發(fā)人工智能系統(tǒng)或以自身名義/商標(biāo)將人工智能系統(tǒng)投入市場或投入使用(無論是收費還是免費)的自然人、法人、機構(gòu)或其他團(tuán)體。也就是說，無論是開發(fā)、發(fā)行、還是僅僅作為經(jīng)銷商或中間授權(quán)方，只要是提供高風(fēng)險類型的人工智能系統(tǒng)服務(wù)的主體，都屬于受監(jiān)管的對象。
在人工智能系統(tǒng)投入市場前，提供者應(yīng)建立和維持風(fēng)險管理系統(tǒng)，識別已知的和可預(yù)見的投入使用后可能存在的風(fēng)險，并確保人工可對人工智能系統(tǒng)進(jìn)行監(jiān)督，能通過對系統(tǒng)輸出的存在“自動化偏見”的結(jié)果進(jìn)行人為干預(yù)，以調(diào)整或終止其結(jié)果輸出。此外，對于利用數(shù)據(jù)訓(xùn)練模式的人工智能系統(tǒng)，提供者還應(yīng)確保其數(shù)據(jù)訓(xùn)練、驗證和測試均符合歐盟數(shù)據(jù)立法的相關(guān)要求。
人工智能系統(tǒng)在投放入市時，應(yīng)當(dāng)進(jìn)行合格評估，提供者應(yīng)向主管機關(guān)提供AI系統(tǒng)及其開發(fā)過程的描述、關(guān)于AI系統(tǒng)檢測、運作和控制的描述等系統(tǒng)相關(guān)必要信息，確保Al系統(tǒng)的性能始終符合其預(yù)期目的及各項管理要求，并貼上歐洲共同市場安全標(biāo)志（“CE標(biāo)志”），附有CE標(biāo)志的人工智能系統(tǒng)產(chǎn)品方可在歐盟成員國內(nèi)自由流通。
人工智能系統(tǒng)在投入使用后，提供者應(yīng)當(dāng)建立入市后檢測系統(tǒng)，收集、記錄和分析人工智能系統(tǒng)在整個生命周期的可靠性、性能和安全性的相關(guān)數(shù)據(jù)，并評估人工智能系統(tǒng)對法規(guī)的持續(xù)遵守情況。當(dāng)人工智能系統(tǒng)發(fā)生嚴(yán)重故障或侵犯人類基本權(quán)利的事件時，提供者應(yīng)當(dāng)在發(fā)現(xiàn)該事件后的72小時內(nèi)向國家監(jiān)督機構(gòu)報告。
三、有限風(fēng)險或輕微風(fēng)險類型的人工智能系統(tǒng)
有限風(fēng)險類型的人工智能系統(tǒng)，是指使用者在應(yīng)用系統(tǒng)時能夠意識到在與人工智能互動，且使用者仍然能以自己的判斷做出明智的決定。該風(fēng)險類型的人工智能系統(tǒng)在歐盟法案的監(jiān)管框架下有較高的自由度，投放市場或投入使用前無需取得特殊的牌照、認(rèn)證或履行繁雜的報告、監(jiān)督、記錄留存等義務(wù)。當(dāng)前市場上常見的聊天機器人、文字和圖片識別及生成軟件、AI伴侶等大多屬于此一風(fēng)險類型。
而未歸類在不可接受的風(fēng)險、高風(fēng)險或有限風(fēng)險類型的其他人工智能系統(tǒng)，都屬于輕微風(fēng)險類型。該風(fēng)險類型的人工智能系統(tǒng)沒有特殊的干預(yù)和審查制度，但提供者可自愿建立各行業(yè)的行為準(zhǔn)則。
當(dāng)然，與人類交互的人工智能系統(tǒng)仍需要符合透明度規(guī)則，即提供者應(yīng)當(dāng)告知用戶的交互對象是AI而非真人，告知的內(nèi)容根據(jù)人工智能系統(tǒng)的類型有所差異：（1）對于情感識別系統(tǒng)或生物識別分類系統(tǒng)，提供者應(yīng)當(dāng)將系統(tǒng)的運作情況和結(jié)果告知使用者；（2）對于生成或操縱圖像、音頻或視頻內(nèi)容的人工智能系統(tǒng)，如果該種深度偽造會讓人誤以為是真實內(nèi)容的，提供者應(yīng)當(dāng)就深度偽造內(nèi)容進(jìn)行披露和提示，以幫助用戶區(qū)分深度偽造信息和真實信息。
往期報道
元宇宙
Facebook|微軟|谷歌|三星|字節(jié)跳動|百度|中青寶|天下秀|藍(lán)色光標(biāo)|當(dāng)紅齊天|新國脈|Epic Games|昆侖萬維|吉宏股份|星期六|二三四五|山水比德|風(fēng)語筑|……
數(shù)字藏品&NFT
騰訊幻核|阿里|B站|OpenSeal視覺中國|貴州茅臺|AxieInfinityl……
加密貨幣
比特幣|以太坊|狗狗幣|幣安|火幣科技|Microstrategy|Robinhood|BlockFi|Celsius|Voyager Digital|特斯拉|美圖|嘉楠科技|億邦國際|歐科云鏈|……
金融科技
華為|拉卡拉|金融壹賬通|數(shù)秦科技|科藍(lán)軟件|萬向區(qū)塊鏈|分布式資本|BC科技IReddit|……
特色欄目
元宇宙新鮮事|連線創(chuàng)始人|元宇宙之約……
