“
面對(duì)技術(shù)發(fā)展帶來的機(jī)遇與挑戰(zhàn)，《生成式人工智能服務(wù)管理暫行辦法》既有制度創(chuàng)新，又保持一貫的監(jiān)管體系，既重視信息內(nèi)容安全，也多方推進(jìn)技術(shù)產(chǎn)業(yè)發(fā)展，不僅引領(lǐng)國(guó)際人工智能治理實(shí)踐，也為中國(guó)人工智能立法做出了有益探索，“暫行”二字更為未來統(tǒng)一的人工智能法留下無限的遐想空間。
本文字?jǐn)?shù)5561，閱讀時(shí)長(zhǎng)約18分鐘
文｜張凌寒 中國(guó)政法大學(xué)教授、博士生導(dǎo)師
編輯｜朱
社會(huì)廣泛關(guān)注的《生成式人工智能服務(wù)管理暫行辦法》（下稱《暫行辦法》）于2023年7月13日公開發(fā)布，將自8月15日起施行。
在三個(gè)月的時(shí)間里，《暫行辦法》經(jīng)歷了向社會(huì)征求意見、組織研討與修改、審議出臺(tái)等一系列流程。最終，七部門拿出的最終版本與《征求意見稿》相比，規(guī)章體例和幾乎所有條款均有形式或?qū)嵸|(zhì)改動(dòng)。
安全和發(fā)展是網(wǎng)絡(luò)立法的永恒命題。在全球激烈競(jìng)爭(zhēng)格局下，不發(fā)展是最大的不安全�？傮w來說，《暫行辦法》的最終版本相較《征求意見稿》，在發(fā)展與安全的利益平衡中，更多傾斜向了發(fā)展一側(cè)。這不僅體現(xiàn)在增加了有關(guān)技術(shù)產(chǎn)業(yè)發(fā)展的四個(gè)條款，也體現(xiàn)在適用范圍、規(guī)制對(duì)象、法律地位、合規(guī)要求、監(jiān)管工具等諸多方面。但也需要看到，仍存在一些需要在立法與實(shí)踐中進(jìn)一步明確之處。
本文嘗試對(duì)諸多改動(dòng)之處進(jìn)行不盡完全的述評(píng)。
01
精準(zhǔn)調(diào)整適用范圍
《暫行辦法》變動(dòng)最大的是適用范圍條款。與《征求意見稿》相比，第二條的改動(dòng)從縱向的產(chǎn)業(yè)分層和橫向的流程上，均限縮了《暫行辦法》的適用范圍。
第三條在適用范圍上，不僅明確了“對(duì)境內(nèi)公眾提供服務(wù)”適用，還明確排除了不適用的場(chǎng)景，即“行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)，未向境內(nèi)公眾提供生成式人工智能服務(wù)”。這意味著，只有對(duì)“公眾”提供的生成式人工智能服務(wù)適用《暫行辦法》，對(duì)大量垂直領(lǐng)域，如支持科研、工業(yè)應(yīng)用等場(chǎng)景則排除適用。
此外，將《征求意見稿》中的“研發(fā)和提供服務(wù)”改為了“提供服務(wù)”，這體現(xiàn)出《暫行辦法》的規(guī)制重點(diǎn)在于服務(wù)應(yīng)用層的信息內(nèi)容安全，對(duì)模型及其相關(guān)技術(shù)作為基礎(chǔ)設(shè)施的功能研發(fā)活動(dòng)并不適用，意在鼓勵(lì)生成式人工智能在多領(lǐng)域的探索應(yīng)用。
第二條的顯著改動(dòng)回應(yīng)了生成式人工智能功能的“基礎(chǔ)模型-專業(yè)模型-服務(wù)應(yīng)用”的分層業(yè)態(tài)，明確其作為數(shù)字基礎(chǔ)設(shè)施的地位�！稌盒修k法》在第七條也提出了“基礎(chǔ)模型”的概念，與“提供服務(wù)”一起，在規(guī)章層面承認(rèn)了分層業(yè)態(tài)。因?yàn)樯墒饺斯ぶ悄艿墓δ苓h(yuǎn)不止于提供信息內(nèi)容服務(wù)，其可以作為“技術(shù)基座”，為金融、醫(yī)療、自動(dòng)駕駛等多個(gè)領(lǐng)域賦能。
根據(jù)生成式人工智能的技術(shù)特點(diǎn)，在產(chǎn)業(yè)分層中，首先要通過海量數(shù)據(jù)使底層大模型“見多識(shí)廣”，具有強(qiáng)大能力；其次通過“術(shù)業(yè)有專攻”的專業(yè)優(yōu)化訓(xùn)練，讓其適配不同行業(yè)和場(chǎng)景；最后再向C端用戶直接提供服務(wù)應(yīng)用。
按照《暫行辦法》目前的適用范圍，把握的節(jié)點(diǎn)在于“對(duì)境內(nèi)公眾提供服務(wù)”。如果基礎(chǔ)模型不直接向公眾（C端）提供服務(wù)，僅僅向垂直領(lǐng)域的B端提供服務(wù)，如生物醫(yī)藥研發(fā)、工業(yè)建模設(shè)計(jì)等，則并不落入其規(guī)制范圍。同樣，如果優(yōu)化訓(xùn)練和二次開發(fā)的專業(yè)模型（B端）僅限于科研和工業(yè)應(yīng)用等場(chǎng)景，并不向社會(huì)公眾提供服務(wù)，也不在《暫行辦法》的適用范圍內(nèi)。
因此，適用范圍條款的改動(dòng)直接回應(yīng)了生成式人工智能的分層業(yè)態(tài)，僅對(duì)可能產(chǎn)生信息內(nèi)容安全風(fēng)險(xiǎn)的服務(wù)應(yīng)用層向境內(nèi)公眾提供服務(wù)提出要求，實(shí)現(xiàn)了分層的精準(zhǔn)治理。當(dāng)然，在實(shí)踐中B端與C端的界定有待進(jìn)一步明確。如有企業(yè)使用專業(yè)模型生成的內(nèi)容直接向用戶提供服務(wù)，又或有企業(yè)進(jìn)行基礎(chǔ)模型的初步訓(xùn)練，形成具有僅限一定范圍內(nèi)生成功能的服務(wù)應(yīng)用（如點(diǎn)菜、專業(yè)咨詢），但C端用戶并不與模型在線互動(dòng)等。這些特殊情形是否落入適用范圍，仍有待實(shí)踐的進(jìn)一步明確。
02
首次提出模型治理
模型首次成為了規(guī)制對(duì)象進(jìn)入立法，這一改變可以說迅速回應(yīng)了技術(shù)發(fā)展，也標(biāo)志著技術(shù)治理進(jìn)入到新的發(fā)展階段�！稌盒修k法》圍繞模型治理，建立了覆蓋生成式人工智能生命周期的監(jiān)管制度。
首先，在《暫行辦法》的術(shù)語定義中，第二十二條的定義就落在了模型上，即“生成式人工智能技術(shù)，是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)”。模型既是生成式人工智能應(yīng)用前的技術(shù)工程，又直接影響到最終生成的內(nèi)容，它在技術(shù)層面將技術(shù)支持者、服務(wù)提供者與內(nèi)容生產(chǎn)者融為了一體，因此有必要專門將其作為治理對(duì)象。這也體現(xiàn)出《暫行辦法》與《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》的區(qū)別：針對(duì)的底層技術(shù)邏輯不同�！稌盒修k法》基于海量數(shù)據(jù)訓(xùn)練大模型的技術(shù)邏輯來設(shè)計(jì)監(jiān)管制度，與深度合成服務(wù)以生成合成類算法作為規(guī)制對(duì)象有所差別，體現(xiàn)近年來中國(guó)“算法深度合成生成式人工智能”的制度體系迭代路徑。
其次，模型是生成式人工智能服務(wù)監(jiān)管的抓手。模型通過訓(xùn)練成為融合了數(shù)據(jù)、算法、算力的新型治理對(duì)象�！稌盒修k法》第四條將“算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)”作為生成式人工智能服務(wù)的流程，而無論哪個(gè)流程環(huán)節(jié)，模型均可成為治理抓手。在第十四條也在違法內(nèi)容的處置方式中新增了“模型優(yōu)化訓(xùn)練”等措施。可以說，這充分抓住了技術(shù)產(chǎn)業(yè)發(fā)展的最新變化。
再次，《暫行辦法》首次提出了“基礎(chǔ)模型”的概念。第七條提出要求“適用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型”。然而，在基礎(chǔ)模型的層面如何定義“合法來源”有待明確。目前LLaMA等開源基礎(chǔ)模型已為業(yè)界所用，盡管這些模型公布了訓(xùn)練數(shù)據(jù)集，但對(duì)數(shù)據(jù)合法合規(guī)情況并不明晰，這有待后續(xù)《暫行辦法》適用中的進(jìn)一步明確。
目前，中國(guó)與歐盟均對(duì)生成式人工智能做出了相應(yīng)立法。歐盟的《人工智能法案》將“人工智能系統(tǒng)或基礎(chǔ)模型”作為調(diào)整對(duì)象，第28b條專門規(guī)定了基礎(chǔ)模型提供者的義務(wù)。不同的是，歐盟在2023年初緊急調(diào)整了整部法案，中國(guó)則采用了小切口立法、急用現(xiàn)行的方案。
但是，如何實(shí)現(xiàn)模型的分類分級(jí)監(jiān)管仍有待進(jìn)一步明確。《暫行辦法》的第三條與第十六條均提出，進(jìn)行審慎包容與分級(jí)分類監(jiān)管，制定相應(yīng)的規(guī)則與指引。目前中國(guó)的分類分級(jí)體系中包括數(shù)據(jù)、算法、主體、場(chǎng)景四類標(biāo)準(zhǔn)。而模型已經(jīng)將這四類標(biāo)準(zhǔn)有機(jī)融合，建議未來應(yīng)考慮將模型生成能力作為分類分級(jí)的考量，同時(shí)包含了數(shù)據(jù)處理量級(jí)和應(yīng)用場(chǎng)景等因素。
03
優(yōu)化調(diào)整責(zé)任機(jī)制
《暫行辦法》將《征求意見稿》第五條的“內(nèi)容生產(chǎn)者責(zé)任”改為了“網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任”，要求生成式人工智能服務(wù)提供者履行網(wǎng)絡(luò)信息安全義務(wù)。這不僅從法律地位上發(fā)生了較大改變，同時(shí)在第四條減輕了服務(wù)提供者的合規(guī)義務(wù)。
將“內(nèi)容生產(chǎn)者責(zé)任”改為“網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任”，實(shí)際上限縮了服務(wù)提供者可能的法律責(zé)任。生成式人工智能如果被界定為內(nèi)容生產(chǎn)者，則意味著服務(wù)提供者成為了AIGC內(nèi)容生產(chǎn)者。目前國(guó)外實(shí)踐中，相關(guān)方一般通過協(xié)議等方式對(duì)AIGC生成內(nèi)容的歸屬作出明確規(guī)定，主要的路徑即約定權(quán)益歸屬于最終用戶，AIGC技術(shù)提供方獲得相應(yīng)的使用授權(quán)。如果規(guī)章明確將服務(wù)提供者界定為內(nèi)容生產(chǎn)者，則其可能需要基于“內(nèi)容生產(chǎn)者”的法律地位，承擔(dān)起AIGC的知識(shí)產(chǎn)權(quán)侵權(quán)、人格權(quán)侵權(quán)、個(gè)人信息侵權(quán)等一系列責(zé)任。
而“網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任”則將服務(wù)提供者的責(zé)任范圍限縮到了“網(wǎng)絡(luò)信息安全責(zé)任”上。《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》規(guī)范了網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者的相應(yīng)義務(wù)，包括鼓勵(lì)積極信息、不得制作復(fù)制發(fā)布違法信息、防范和抵制不良信息。這一修改明確將生成內(nèi)容的監(jiān)管目標(biāo)設(shè)置在了網(wǎng)絡(luò)信息內(nèi)容安全上。
除此之外，服務(wù)提供者的信息內(nèi)容合規(guī)義務(wù)也有所減輕。第四條將《征求意見稿》第四條的表述從“……不得含有暴力、淫穢色情信息，虛假信息，以及可能擾亂經(jīng)濟(jì)秩序和社會(huì)秩序的內(nèi)容”，改為“不得生成暴力、淫穢色情，以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容”。從“虛假信息”更改為了“虛假有害信息”的改變，增加了對(duì)于虛假信息危害后果的要求。同時(shí)也解除了業(yè)界關(guān)于生成“虛構(gòu)（fiction）信息”是否屬于“虛假信息”的困惑。同時(shí)，第四條第五款也將《征求意見稿》對(duì)生成內(nèi)容“真實(shí)準(zhǔn)確”的要求，改為“基于服務(wù)類型特點(diǎn)，采取有效措施，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準(zhǔn)確性和可靠性”，這種柔性要求，進(jìn)一步減輕了企業(yè)的內(nèi)容合規(guī)義務(wù)。
04
完善訓(xùn)練數(shù)據(jù)要求
《暫行辦法》第七條有關(guān)訓(xùn)練數(shù)據(jù)要求的修改，大大減輕了企業(yè)在研發(fā)和訓(xùn)練過程中的負(fù)擔(dān)，第八條則明確了對(duì)于數(shù)據(jù)標(biāo)注這一重要環(huán)節(jié)的規(guī)則要求。
由于模型的訓(xùn)練數(shù)據(jù)直接關(guān)系到生成結(jié)果，因此成為規(guī)制對(duì)象，并被提出合規(guī)要求。中國(guó)首次對(duì)訓(xùn)練數(shù)據(jù)提出合規(guī)要求是在《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十四條，“深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)加強(qiáng)訓(xùn)練數(shù)據(jù)管理，采取必要措施保障訓(xùn)練數(shù)據(jù)安全；訓(xùn)練數(shù)據(jù)包含個(gè)人信息的，應(yīng)當(dāng)遵守個(gè)人信息保護(hù)的有關(guān)規(guī)定。”
深度合成的技術(shù)形態(tài)與生成式人工智能并不相同，所以此前并未對(duì)深度合成的訓(xùn)練數(shù)據(jù)做除了數(shù)據(jù)安全和個(gè)人信息保護(hù)之外的其他要求。但是生成式人工智能模型的訓(xùn)練數(shù)據(jù)與生成結(jié)果之間的關(guān)系并不相同，其超越了“算法黑箱”的復(fù)雜性，數(shù)據(jù)規(guī)模產(chǎn)生“涌現(xiàn)”現(xiàn)象，更類似于食物被消化后長(zhǎng)成了骨骼肌肉。因此，《暫行辦法》第七條既提出了來源合法、形式合法和數(shù)據(jù)質(zhì)量要求三個(gè)訓(xùn)練數(shù)據(jù)的合規(guī)向度，又相較《征求意見稿》降低了對(duì)企業(yè)的合規(guī)要求。
首先，將《征求意見稿》中“服務(wù)提供者對(duì)來源合法性負(fù)責(zé)”改為“使用具有合法來源”的訓(xùn)練數(shù)據(jù)。這一改變明確了訓(xùn)練數(shù)據(jù)只要“具有合法來源”即可，即符合《數(shù)據(jù)安全法》第三十二條規(guī)定：“任何組織、個(gè)人收集數(shù)據(jù)，應(yīng)當(dāng)采取合法、正當(dāng)?shù)姆绞�，不得竊取或者以其他非法方式獲取數(shù)據(jù)。”
其次，對(duì)于涉及知識(shí)產(chǎn)權(quán)、個(gè)人信息的訓(xùn)練數(shù)據(jù)，要求符合相關(guān)法律的規(guī)定。這為未來知識(shí)產(chǎn)權(quán)相關(guān)制度做出“合理使用”的制度安排或創(chuàng)新預(yù)留了空間，也強(qiáng)調(diào)了有關(guān)個(gè)人信息的訓(xùn)練數(shù)據(jù)獲取需符合《個(gè)人信息保護(hù)法》規(guī)定，以滿足處理個(gè)人信息的合法性基矗
最后，也是最重要的，《暫行辦法》將對(duì)訓(xùn)練數(shù)據(jù)“真實(shí)性、準(zhǔn)確性、客觀性、多樣性”的強(qiáng)制性要求改為了鼓勵(lì)性要求，即“采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性”。這體現(xiàn)了“讓產(chǎn)業(yè)向高質(zhì)量方向發(fā)展”的政策導(dǎo)向，但現(xiàn)階段限于產(chǎn)業(yè)實(shí)踐并不做出強(qiáng)制性要求。
第八條則針對(duì)數(shù)據(jù)標(biāo)注做出明確規(guī)定，提出制定“清晰、具體、可操作的標(biāo)注規(guī)則；開展數(shù)據(jù)標(biāo)注質(zhì)量評(píng)估，抽樣核驗(yàn)標(biāo)注內(nèi)容的準(zhǔn)確性”。這些具體制度充分考量了生成式人工智能的技術(shù)特點(diǎn)，相比《征求意見稿》第十七條有關(guān)數(shù)據(jù)標(biāo)注的規(guī)定，也做出了細(xì)化的制度安排。
05
充分重視要素供給
《暫行辦法》增加了系列條款，從基礎(chǔ)技術(shù)與制度層面，鼓勵(lì)數(shù)據(jù)、算法、算力要素的發(fā)展與供給。有關(guān)人工智能三要素的各項(xiàng)具體制度開啟了通用人工智能立法的序幕。
中國(guó)既有的人工智能治理制度，主要是分領(lǐng)域分場(chǎng)景出臺(tái)的相關(guān)規(guī)范。如對(duì)算法基于功能領(lǐng)域分類的監(jiān)管，對(duì)自動(dòng)駕駛、未成年人保護(hù)等基于場(chǎng)景和主體的分類治理等。《暫行辦法》則創(chuàng)造性地將數(shù)據(jù)、算力、模型等人工智能要素作為抓手。在算力方面，提出“促進(jìn)算力資源協(xié)同共享、提升算力資源利用效能”；在數(shù)據(jù)方面，提出“推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開放，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源、對(duì)公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè)”。
與此同時(shí)，考慮到基礎(chǔ)模型可接入千行百業(yè)，從而具有通用性，可能成為人工智能時(shí)代的新型基礎(chǔ)設(shè)施，《暫行辦法》提出“推進(jìn)生成式人工智能基礎(chǔ)設(shè)施建設(shè)”，鼓勵(lì)算法、框架、芯片及配套軟件平臺(tái)等基礎(chǔ)技術(shù)的自主創(chuàng)新，并鼓勵(lì)采用安全可信的芯片、軟件、工具、算力和數(shù)據(jù)資源。
在生成式人工智能要素的制度供給之外，《暫行辦法》致力營(yíng)造多方協(xié)同促進(jìn)中國(guó)生成式人工智能發(fā)展的制度環(huán)境。具體體現(xiàn)在第五條，“支持行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等在生成式人工智能技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用、風(fēng)險(xiǎn)防范等方面開展協(xié)作。”并在第十六條作出了網(wǎng)信、發(fā)改等多部門協(xié)同的生成式人工智能服務(wù)的管理安排。
《暫行辦法》協(xié)調(diào)多個(gè)監(jiān)管部門對(duì)人工智能的多要素治理，提出完善與創(chuàng)新發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式，邁向了通用人工智能時(shí)代的基礎(chǔ)性治理，拉開了中國(guó)通用人工智能治理的序幕。
06
積極增進(jìn)制度協(xié)調(diào)
第一，有關(guān)個(gè)人信息保護(hù)的制度更加協(xié)調(diào)。作為可能的個(gè)人信息處理者，大模型的技術(shù)業(yè)態(tài)與個(gè)人信息處理的“最小必要”原則的不協(xié)調(diào)、更正刪除權(quán)履行困難等問題，一直是學(xué)界和業(yè)界關(guān)注的焦點(diǎn)。
《暫行辦法》延續(xù)了《征求意見稿》對(duì)于服務(wù)提供者可能成為“個(gè)人信息處理者”的法律責(zé)任，要求其履行個(gè)人信息保護(hù)義務(wù)。但在具體規(guī)則上，《辦法》第十一條增加了 “提供者應(yīng)當(dāng)依法及時(shí)受理和處理個(gè)人關(guān)于查閱、復(fù)制、更正、補(bǔ)充、刪除其個(gè)人信息等的請(qǐng)求”，回應(yīng)了社會(huì)的擔(dān)憂。同時(shí)，保留了“不得非法留存能夠識(shí)別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄”，給用戶提供了更為周延的個(gè)人信息保護(hù)。
第二，《暫行辦法》第三章“服務(wù)規(guī)范”沿用了中國(guó)以往的監(jiān)管制度，以保障信息內(nèi)容安全，體現(xiàn)了監(jiān)管的體系性和穩(wěn)定性。如第十七條要求，提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的，應(yīng)當(dāng)開展安全評(píng)估并履行算法備案、變更、注銷備案手續(xù)。第十二條則要求服務(wù)提供者按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》的要求，對(duì)圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí)，延續(xù)了對(duì)于生成內(nèi)容的標(biāo)識(shí)要求。由此可見，《暫行辦法》與中國(guó)既有的信息內(nèi)容監(jiān)管制度保持一致。
生成式人工智能的發(fā)展，標(biāo)志著人工智能正在從專用智能邁向通用智能，進(jìn)入了全新的發(fā)展階段。中央政治局4月28日召開會(huì)議指出，要重視通用人工智能發(fā)展，營(yíng)造創(chuàng)新生態(tài)，重視防范風(fēng)險(xiǎn)。面對(duì)技術(shù)發(fā)展帶來的機(jī)遇與挑戰(zhàn)，《暫行辦法》既有制度創(chuàng)新，又保持一貫的監(jiān)管體系，既重視信息內(nèi)容安全，也多方推進(jìn)技術(shù)產(chǎn)業(yè)發(fā)展，不僅引領(lǐng)國(guó)際人工智能治理實(shí)踐，也為中國(guó)人工智能立法做出了有益探索，“暫行”二字更為未來統(tǒng)一的人工智能法留下無限的遐想空間。
