“
《暫行辦法》明確了堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則。
本文字?jǐn)?shù)4413，閱讀時(shí)長約14分鐘
文｜財(cái)經(jīng)E法 樊朔 楊柳
編輯｜郭麗琴
全球首部AIGC（生成式人工智能）領(lǐng)域的監(jiān)管法規(guī)落地中國，并將于一個(gè)月后正式實(shí)施。
7月13日，國家網(wǎng)信辦、國家發(fā)改委、教育部等七部門發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》（下稱《暫行辦法》），并將于2023年8月15日起施行�！稌盒修k法》規(guī)定，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管。
相較4月11日發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見稿）》（下稱《征求意見稿》），《暫行辦法》直接刪除了“不得進(jìn)行用戶畫像”“用戶實(shí)名制”等爭議性規(guī)定，并修改了“利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息”“保證數(shù)據(jù)的真實(shí)性、準(zhǔn)確性”“對(duì)于運(yùn)行中發(fā)現(xiàn)、用戶舉報(bào)的不符合本辦法要求的生成內(nèi)容，應(yīng)在3個(gè)月內(nèi)通過模型優(yōu)化訓(xùn)練等方式防止再次生成”等爭議性表述。
一位了解立法過程的不愿具名人士對(duì)財(cái)經(jīng)E法透露，《征求意見稿》經(jīng)歷了兩次比較大的改動(dòng)。形成終稿的過程中，充分聽取了企業(yè)、學(xué)者、監(jiān)管機(jī)構(gòu)的意見建議，并經(jīng)歷多輪討論和研究。
對(duì)外經(jīng)貿(mào)大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任許可表示，生成式人工智能不只是一個(gè)網(wǎng)絡(luò)空間的問題，網(wǎng)信部門需要和其他經(jīng)濟(jì)性規(guī)制部門一起去完成生成式人工智能的治理，形成具有經(jīng)濟(jì)性和社會(huì)性規(guī)制的全方位架構(gòu)，充分回應(yīng)生成式人工智能所帶來的革新。
在許可看來，《暫行辦法》第三條明確了發(fā)展與安全并重、創(chuàng)新和依法治理相結(jié)合，用詞排序上，將“發(fā)展”“創(chuàng)新”置于“安全”“治理”之前。同時(shí)，相比于《征求意見稿》，《暫行辦法》使用了“管理暫行辦法”名稱，也意味該辦法是動(dòng)態(tài)可調(diào)整的，反映出中國對(duì)生成式人工智能的監(jiān)管理念：根據(jù)技術(shù)和經(jīng)濟(jì)的發(fā)展，制度做出及時(shí)、動(dòng)態(tài)的回應(yīng)。
01
多個(gè)爭議條款被刪改
與《征求意見稿》相比，《暫行辦法》刪去或修改了多個(gè)爭議較大的條款。
《征求意見稿》第四條要求，利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息�！稌盒修k法》將其表述修改為“提高生成內(nèi)容的準(zhǔn)確性和可靠性”；《征求意見稿》第七條所要求的“能夠保證數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性”，也被《暫行辦法》替換為“增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性”。另外，《征求意見稿》第九條關(guān)于要求用戶提供真實(shí)身份信息的實(shí)名制規(guī)定，則直接被刪除。
許可表示，按照《網(wǎng)絡(luò)安全法》的規(guī)定，只有入網(wǎng)，以及信息內(nèi)容發(fā)布和即時(shí)通訊才會(huì)涉到實(shí)名制，但生成式人工智能不一定會(huì)涉及實(shí)名制規(guī)制的場景。而從技術(shù)角度，訓(xùn)練的數(shù)據(jù)不可能永遠(yuǎn)保證是真實(shí)的，這和大模型自身的技術(shù)特征是不符的。
“對(duì)于這個(gè)問題，監(jiān)管機(jī)構(gòu)秉承著科學(xué)立法、開門立法的精神，及時(shí)地予以修改完善。”許可說。
《征求意見稿》第十五條規(guī)定，對(duì)于運(yùn)行中發(fā)現(xiàn)、用戶舉報(bào)的不符合本辦法要求的生成內(nèi)容，除采取內(nèi)容過濾等措施外，應(yīng)在三個(gè)月內(nèi)通過模型優(yōu)化訓(xùn)練等方式防止再次生成。但《暫行辦法》將其改為“提供者應(yīng)當(dāng)及時(shí)采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改”。
金杜律師事務(wù)所合伙人吳涵也對(duì)財(cái)經(jīng)E法表示，基于當(dāng)前神經(jīng)網(wǎng)絡(luò)等技術(shù)對(duì)于因果關(guān)系推導(dǎo)可回溯性及解釋的難度，現(xiàn)有的技術(shù)水平無法確保在三個(gè)月防止違規(guī)內(nèi)容再次生成。
對(duì)此，許可分析，除了模型優(yōu)化外，還有別的方式進(jìn)行完善。模型優(yōu)化是一個(gè)大工程，可能需要三個(gè)月之久，且并非所有補(bǔ)救完善措施，都必須采取模型優(yōu)化的做法。一旦增加更多修改完善的方式，就不能限定時(shí)間了：有的很快，不需要三個(gè)月，可能調(diào)整一下參數(shù)，一天之內(nèi)就能完成。“當(dāng)補(bǔ)救完善方法多樣化后，沒有必要再設(shè)置一個(gè)很具體、很明確的時(shí)間限制。”許可說。
《暫行辦法》還刪除了《征求意見稿》第十一條中“不得根據(jù)用戶輸入信息和使用情況進(jìn)行畫像”的規(guī)定。對(duì)此，許可認(rèn)為，未來生成式人工智能可能會(huì)成為每個(gè)人定制化的助手，比如把一名學(xué)者所有的論文、書籍等都放到人工智能服務(wù)中，生成式人工智能隨即會(huì)變成一個(gè)學(xué)術(shù)助手。“這類場景必然是和個(gè)人信息相關(guān)聯(lián)的。如果禁止用戶畫像，將導(dǎo)致在應(yīng)用層限制了生成式人工智能個(gè)性化服務(wù)的場景。”許可說。
許可強(qiáng)調(diào)，經(jīng)過用戶授權(quán)就可以進(jìn)行畫像，也更加尊重個(gè)人對(duì)于自身個(gè)人信息的決定權(quán)。
此外，《暫行辦法》限縮了需要安全評(píng)估和算法評(píng)估與備案的生成式人工智能，《征求意見稿》要求需進(jìn)行安全評(píng)估和算法評(píng)估的對(duì)象是 “利用生成式人工智能產(chǎn)品”，現(xiàn)在則聚焦為“提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)”。
許可指出，中國的算法監(jiān)管采取分類分級(jí)監(jiān)管原則，并不是所有的算法都要備案，僅限于具有輿論屬性或者社會(huì)動(dòng)員能力的。《暫行辦法》也是堅(jiān)持了分級(jí)分類的管理思路，對(duì)需要安全評(píng)估和算法評(píng)估與備案的生成式人工智能服務(wù)進(jìn)行了限縮。
吳涵則補(bǔ)充說，關(guān)于分級(jí)分類監(jiān)管，《暫行辦法》目前只在第16條寫入“制定相應(yīng)的分類分級(jí)監(jiān)管規(guī)則或者指引”，仍待后續(xù)出臺(tái)詳細(xì)的規(guī)定，劃分高中低不同風(fēng)險(xiǎn)等級(jí)。
分級(jí)分類也是歐盟在人工智能領(lǐng)域監(jiān)管的核心思路。6月中旬獲得歐洲議會(huì)通過的歐盟《人工智能法案》，將人工智能應(yīng)用按風(fēng)險(xiǎn)等級(jí)分為不可接受風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)和極小風(fēng)險(xiǎn)四類，其整體監(jiān)管架構(gòu)類似于一個(gè)“風(fēng)險(xiǎn)金字塔”，分別建立相應(yīng)的風(fēng)險(xiǎn)防范機(jī)制。（詳見：中歐AI立法同期突破：為ChatGPT設(shè)置“紅綠燈”？）
02
企業(yè)需要關(guān)注的合規(guī)重點(diǎn)
受訪專家認(rèn)為，《暫行辦法》整體對(duì)企業(yè)是利好的。
吳涵表示，新規(guī)不會(huì)令企業(yè)綁住手腳。《暫行辦法》第二條第三款明確，只要企業(yè)、科研機(jī)構(gòu)等，不是向公眾公開提供生成式人工智能服務(wù)，則不適用本法，豁免了企業(yè)或機(jī)構(gòu)內(nèi)部使用情形，這也是一大利好。此外還有一些促進(jìn)性的措施，包括：推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開放，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源；促進(jìn)算力資源協(xié)同共享，提升算力資源利用效能。
對(duì)外經(jīng)貿(mào)大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心執(zhí)行主任張欣也認(rèn)為，《暫行辦法》釋放了積極的政策信號(hào)，進(jìn)一步提升了大模型行業(yè)開發(fā)者和應(yīng)用者的信心。
張欣表示，大模型訓(xùn)練對(duì)于訓(xùn)練數(shù)據(jù)的數(shù)量、質(zhì)量、結(jié)構(gòu)都有著非常高的要求，而目前產(chǎn)業(yè)界模型訓(xùn)練時(shí)面臨高質(zhì)量訓(xùn)練數(shù)據(jù)資源稀缺的問題。《暫行辦法》推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開放，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源都是營造良好的技術(shù)研發(fā)生態(tài)的積極舉措。
南開大學(xué)法學(xué)院副院長陳兵也表示，公共數(shù)據(jù)數(shù)量非常大，且維度豐富，關(guān)乎人們的吃、穿、注行、用、教育等等，因此可以加大生成式人工智能訓(xùn)練的效果。但未來公共數(shù)據(jù)是否包括商業(yè)數(shù)據(jù)中跟公共職能相關(guān)的數(shù)據(jù)等問題還需細(xì)化。
上海華誠律師事務(wù)所高級(jí)合伙人吳月琴認(rèn)為，AI企業(yè)應(yīng)重點(diǎn)關(guān)注辦法中有關(guān)內(nèi)容審核義務(wù)、訓(xùn)練數(shù)據(jù)合規(guī)處理義務(wù)、對(duì)用戶的保護(hù)及監(jiān)督義務(wù)、備案義務(wù)。
吳月琴分析，關(guān)于內(nèi)容審核義務(wù)應(yīng)重點(diǎn)關(guān)注第四條、第九條和第十二條。其中要求：提供者提供生成式人工智能服務(wù)時(shí)應(yīng)遵守的法律法規(guī)要求和道德準(zhǔn)則，應(yīng)對(duì)內(nèi)容進(jìn)行政治審查、合法性審核、防止歧視性內(nèi)容、防止侵犯知識(shí)產(chǎn)權(quán)和不正當(dāng)競爭的要求、防止虛假信息、尊重他人合法利益等，有效地提升服務(wù)的準(zhǔn)確性；提供者還應(yīng)當(dāng)承擔(dān)內(nèi)容生產(chǎn)者責(zé)任、內(nèi)容不合格處理、內(nèi)容標(biāo)識(shí)等審核義務(wù)。
訓(xùn)練數(shù)據(jù)合規(guī)處理角度，應(yīng)重點(diǎn)關(guān)注第七條、第八條，即提供者對(duì)預(yù)訓(xùn)練數(shù)據(jù)和優(yōu)化訓(xùn)練數(shù)據(jù)來源的合法性負(fù)責(zé)；訓(xùn)練數(shù)據(jù)處理活動(dòng)應(yīng)不侵害他人知識(shí)產(chǎn)權(quán)、保護(hù)個(gè)人信息、提高訓(xùn)練數(shù)據(jù)的質(zhì)量等監(jiān)管要求；制定符合辦法要求的清晰、具體、可操作的標(biāo)注規(guī)則。
就對(duì)用戶的保護(hù)及監(jiān)督義務(wù)而言，應(yīng)重點(diǎn)關(guān)注第十條、第十一條和第十四條。其中要求：提供者應(yīng)當(dāng)防止未成年人用戶過度沉迷，不得收集非必要個(gè)人信息，不得非法留存能夠識(shí)別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。同時(shí)建立用戶投訴接收處理機(jī)制，以及及時(shí)處理用戶關(guān)于更正、刪除、屏蔽個(gè)人信息的請(qǐng)求。對(duì)于違法內(nèi)容和違法活動(dòng)，應(yīng)及時(shí)采取整改措施或處置措施，并保留處理記錄，向主管部門報(bào)告。
就備案義務(wù)而言，應(yīng)重點(diǎn)關(guān)注第十七條。其中要求：針對(duì)提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的提供者，應(yīng)當(dāng)履行安全評(píng)估、算法備案和變更、注銷備案的義務(wù)。
值得注意的是，《暫行辦法》第二十三條規(guī)定，法律、行政法規(guī)規(guī)定提供服務(wù)應(yīng)當(dāng)取得相關(guān)行政許可的，提供者應(yīng)當(dāng)依法取得許可。
許可認(rèn)為，這一條款并不意味著以后法律和行政法規(guī)設(shè)置普遍性的行政許可，而有可能針對(duì)特定領(lǐng)域，比如新聞信息、金融等，基于行業(yè)管理的需求，設(shè)定行政許可。
在吳月琴看來，《暫行辦法》在附則中區(qū)分了“提供者”和“使用者”。“提供者”是指利用生成式人工智能技術(shù)提供AIGC服務(wù)（包括通過提供可編程接口等方式提供生成式人工智能服務(wù)）的組織、個(gè)人。“使用者”是指使用AI服務(wù)生成內(nèi)容的組織、個(gè)人。
吳月琴在梳理《暫行辦法》里的合規(guī)義務(wù)條款后發(fā)現(xiàn)，服務(wù)規(guī)范中主要義務(wù)壓實(shí)在提供者側(cè)，如：“依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)；依法承擔(dān)個(gè)人信息處理者責(zé)任，履行個(gè)人信息保護(hù)義務(wù)；對(duì)生成內(nèi)容進(jìn)行標(biāo)識(shí)義務(wù)；發(fā)現(xiàn)違法內(nèi)容的，及時(shí)采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改并報(bào)告義務(wù)；對(duì)使用者利用其服務(wù)從事違法活動(dòng)的，采取警示、限制功能、暫�；蛘呓K止服務(wù)等處置措施，保存記錄并報(bào)告義務(wù)。建立健全投訴、舉報(bào)機(jī)制義務(wù)。”。而對(duì)于“使用者”，在商業(yè)經(jīng)營中如使用的服務(wù)產(chǎn)品，涉嫌違法違規(guī)，則可能影響其業(yè)務(wù)合規(guī)性、產(chǎn)生業(yè)務(wù)中斷風(fēng)險(xiǎn)，也有聲譽(yù)影響。
因此，吳月琴表示，在考慮合規(guī)要求時(shí)，企業(yè)應(yīng)首先明確自己的主體身份定位，是提供者身份還是使用者身份，以便重點(diǎn)落實(shí)自身的合規(guī)義務(wù)，同時(shí)與合作方在協(xié)議中進(jìn)行有效安排。
吳月琴強(qiáng)調(diào)，如果企業(yè)不能滿足上述要求，可能承擔(dān)行政、民事、乃至刑事責(zé)任。例如：如果不配合有關(guān)主管部門接受監(jiān)督檢查的，可能承擔(dān)警告、通報(bào)批評(píng)，責(zé)令限期改正以及責(zé)令暫停提供相關(guān)服務(wù)等行政責(zé)任；如果生成內(nèi)容中存在他人享有的知識(shí)產(chǎn)權(quán)的，可能承擔(dān)停止侵害、賠償損失等民事責(zé)任；如果違反國家有關(guān)向他人出售或者提供公民個(gè)人信息，情節(jié)嚴(yán)重的，可能承擔(dān)罰金、拘役、有期徒刑等刑事責(zé)任。
觀韜中茂（上海）律師事務(wù)所合伙人吳丹君則補(bǔ)充說，《暫行辦法》第七條強(qiáng)調(diào)了訓(xùn)練數(shù)據(jù)來源合法性和不侵犯他人知識(shí)產(chǎn)權(quán)，但本條在現(xiàn)行的《著作權(quán)法》規(guī)定下是存在一定困境的，因?yàn)椤吨鳈?quán)法》規(guī)定的合理使用的情形難以適用于AIGC，因?yàn)樯墒饺斯ぶ悄芗夹g(shù)的開發(fā)通�；谏虡I(yè)目的，較難被認(rèn)定為“個(gè)人學(xué)習(xí)、研究或者欣賞”，且內(nèi)容生成過程中也不會(huì)遵循“適當(dāng)引用”的具體標(biāo)準(zhǔn)。因此，AIGC服務(wù)提供者需在訓(xùn)練數(shù)據(jù)采集挖掘過程中注意受《著作權(quán)法》保護(hù)的作品數(shù)據(jù)。“也期待《著作權(quán)法》對(duì)于“合理使用”的范疇界定進(jìn)行相應(yīng)擴(kuò)大。”吳丹君說。
此外，吳丹君提示，《暫行辦法》第八條對(duì)數(shù)據(jù)標(biāo)注及數(shù)據(jù)標(biāo)注質(zhì)量評(píng)估提出了一定的要求，建議企業(yè)注意標(biāo)注及質(zhì)量評(píng)估工作的留痕，也需關(guān)注監(jiān)管方是否會(huì)進(jìn)一步發(fā)布相關(guān)標(biāo)準(zhǔn)。
