編者的話：近日，國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局公布《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱“《辦法》”），自2023年8月15日起施行。《辦法》提出，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管。《辦法》體現(xiàn)出當(dāng)前我國(guó)怎樣的監(jiān)管思路？生成式AI企業(yè)間的競(jìng)賽進(jìn)入“下半場(chǎng)”，未來(lái)行業(yè)發(fā)展將呈現(xiàn)哪些特征？
用規(guī)范促進(jìn)行業(yè)健康發(fā)展
李愛(ài)君
《辦法》對(duì)我國(guó)的生成式人工智能行業(yè)發(fā)展不僅起到了規(guī)范作用，更從制度層面著手，對(duì)該行業(yè)進(jìn)一步健康發(fā)展起到良好促進(jìn)作用。具體可從以下三個(gè)方面進(jìn)行解讀：
其一，《辦法》明確了促進(jìn)人工智能健康發(fā)展為其實(shí)施的核心目標(biāo)。在《辦法》第一條中，開宗明義提出上述目標(biāo)，其背后有三層含義：一是以科技與行業(yè)的健康發(fā)展為宗旨；二是要明確具體規(guī)范的相關(guān)應(yīng)用；三是必須維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益。
在《辦法》第三條、第四條中，“堅(jiān)持發(fā)展和安全并重”“實(shí)行包容審慎和分類分級(jí)監(jiān)管”以及“采取有效措施提高算法透明度”等表述都進(jìn)一步體現(xiàn)了在具體執(zhí)行中以支持促發(fā)展的基調(diào)，并對(duì)服務(wù)提供者在提供算法透明度的義務(wù)上有所減輕。
此外，《辦法》第十四條提出，“提供者發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當(dāng)及時(shí)采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改，并向有關(guān)主管部門報(bào)告”。這些可以說(shuō)是為服務(wù)提供者賦予了類似“安全港”的免責(zé)規(guī)定，即只要不越門檻，就屬于合法。也反映出法規(guī)制定者對(duì)科學(xué)技術(shù)的認(rèn)知，以及借助規(guī)范推動(dòng)行業(yè)向上向善的努力。
其二，《辦法》明確了生成式人工智能服務(wù)提供者的義務(wù)與責(zé)任。規(guī)范應(yīng)用是促進(jìn)行業(yè)發(fā)展的基礎(chǔ)，執(zhí)行層面則體現(xiàn)于對(duì)生成式人工智能服務(wù)提供者的義務(wù)與責(zé)任的明確�！掇k法》從生成式人工智能服務(wù)提供者的算法設(shè)計(jì)與備案、訓(xùn)練數(shù)據(jù)、模型，用戶隱私、商業(yè)秘密的保護(hù)，到監(jiān)督檢查和法律責(zé)任等方面進(jìn)行了義務(wù)與責(zé)任的規(guī)定，進(jìn)一步體現(xiàn)了包容審慎監(jiān)管和鼓勵(lì)發(fā)展的精神。
此外,《辦法》的義務(wù)規(guī)定與已有的《網(wǎng)絡(luò)安全法》《個(gè)人信息保護(hù)法》《數(shù)據(jù)安全法》等相關(guān)法律緊密銜接，并充分尊重了生成式人工智能在訓(xùn)練數(shù)據(jù)方面的客觀特征。
其三，《辦法》加強(qiáng)了對(duì)未成年人的保護(hù)�！掇k法》在第10條中，明確表示提供者應(yīng)“采取有效措施防范未成年人用戶過(guò)度依賴或者沉迷生成式人工智能服務(wù)”。明確地將保護(hù)未成年人的主體責(zé)任壓實(shí)在服務(wù)提供者的一方，科學(xué)且充分體現(xiàn)了對(duì)未成年人的保護(hù)。有效防范了在資本支配下，企業(yè)通過(guò)影響未成年人身心健康而獲得不法利益的行為。（作者是中國(guó)政法大學(xué)互聯(lián)網(wǎng)金融法律研究院院長(zhǎng)）
歐美：起步較早但仍有風(fēng)險(xiǎn)
姚佳
對(duì)生成式人工智能實(shí)施監(jiān)管，美國(guó)、歐盟已通過(guò)相關(guān)法案并采取行動(dòng)。
美國(guó)延續(xù)其一向?qū)夹g(shù)發(fā)展的開放態(tài)度，以互聯(lián)網(wǎng)公司“自律監(jiān)管”為基礎(chǔ)，同步預(yù)判新技術(shù)可能帶來(lái)的變革和產(chǎn)生的新問(wèn)題。2023年5月，美國(guó)召開參議院聽證會(huì)，討論如何監(jiān)管生成式人工智能，以確保其符合美國(guó)的國(guó)家利益和價(jià)值觀。美國(guó)聯(lián)邦政府層面近年來(lái)也針對(duì)AI的監(jiān)管采取系列行動(dòng)。比如，白宮科學(xué)和技術(shù)政策辦公室于2022年10月發(fā)布了《人工智能權(quán)利法案藍(lán)圖》等文件，聚焦討論安全且有效率的系統(tǒng)，防范算法歧視，保護(hù)數(shù)據(jù)隱私，以及人們的權(quán)利、機(jī)會(huì)和獲取路徑等等。
就歐盟而言，盡管沒(méi)有大型數(shù)字產(chǎn)業(yè)基礎(chǔ)，但是在布魯塞爾效應(yīng)（指歐盟憑借市場(chǎng)力量單方面監(jiān)管全球市場(chǎng)的能力）的帶動(dòng)下，歐盟實(shí)現(xiàn)了對(duì)全球市場(chǎng)進(jìn)行單邊監(jiān)管的能力，并著力向世界輸出歐式數(shù)據(jù)保護(hù)治理理念和規(guī)則。2023年6月，歐洲議會(huì)通過(guò)《歐盟人工智能法案》，是首個(gè)對(duì)人工智能進(jìn)行風(fēng)險(xiǎn)管制的法案，它基于風(fēng)險(xiǎn)預(yù)防理念，為人工智能系統(tǒng)制定了覆蓋全過(guò)程的風(fēng)險(xiǎn)規(guī)制體系。歐盟將人工智能可能涉及的風(fēng)險(xiǎn)系統(tǒng)劃分為不可接受風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、低風(fēng)險(xiǎn)和最小風(fēng)險(xiǎn)四類，著重規(guī)制前兩類風(fēng)險(xiǎn)，并對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)的全生命周期監(jiān)管做了詳細(xì)規(guī)定，覆蓋關(guān)鍵基礎(chǔ)設(shè)施、公民教育、產(chǎn)品安全組件、就業(yè)、公共服務(wù)、執(zhí)法、出入境等相關(guān)領(lǐng)域。
盡管美歐起步較早，但仍有一些問(wèn)題沒(méi)有正面應(yīng)對(duì)，并可能帶來(lái)較大風(fēng)險(xiǎn)。一是利用生成式人工智能工具所產(chǎn)生的作品的著作權(quán)問(wèn)題，至少美國(guó)版權(quán)局至今對(duì)此仍未置可否，只是強(qiáng)調(diào)用戶不得侵權(quán)，但仍未正面解決生成式人工智能可能涉及的著作權(quán)歸屬問(wèn)題；二是生成式人工智能在基礎(chǔ)生成算法的基礎(chǔ)上，可以在海量數(shù)據(jù)上進(jìn)行無(wú)監(jiān)督預(yù)訓(xùn)練，但是這些訓(xùn)練數(shù)據(jù)的來(lái)源和利用的合法性問(wèn)題，仍是一個(gè)關(guān)鍵問(wèn)題，而且具有全球性和緊迫性的特征。（作者是中國(guó)社會(huì)科學(xué)院法學(xué)研究所教授）
“后時(shí)代”的企業(yè)競(jìng)爭(zhēng)不僅是技術(shù)
歐智堅(jiān)
生成式人工智能發(fā)展勢(shì)頭迅猛，用“一日千里”來(lái)形容也不為過(guò)。與此同時(shí)，全球?qū)υ摷夹g(shù)的發(fā)展和提供服務(wù)的企業(yè)進(jìn)行監(jiān)管的呼聲也從未停歇。
此番由七部門聯(lián)合發(fā)布的《辦法》出臺(tái)，從安全和發(fā)展兩條主線出發(fā)，充分體現(xiàn)了當(dāng)前我國(guó)在人工智能領(lǐng)域堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則。就底層邏輯而言，《辦法》堅(jiān)持了技術(shù)應(yīng)服務(wù)于人類進(jìn)步的本質(zhì)訴求，有助于進(jìn)一步通過(guò)有效規(guī)范促進(jìn)科學(xué)技術(shù)發(fā)展“向上向善”。在全球范圍亦體現(xiàn)出引領(lǐng)及示范意義。
對(duì)于當(dāng)前快速成長(zhǎng)的大模型企業(yè)而言，《辦法》對(duì)當(dāng)前生成式人工智能在發(fā)展中的一些潛在問(wèn)題進(jìn)行了規(guī)范。比如，對(duì)生成式AI在涉及個(gè)人信息、重要數(shù)據(jù)、數(shù)據(jù)安全、信息真?zhèn)蔚榷喾教魬?zhàn)，《辦法》提出人工智能企業(yè)需按相關(guān)規(guī)定對(duì)其提供的服務(wù)進(jìn)行安全評(píng)估、算法備案等，對(duì)生成式人工智能服務(wù)的透明度和生成內(nèi)容的可靠性提出治理要求。此外，《辦法》強(qiáng)調(diào)了信息收集者對(duì)個(gè)人信息的保護(hù)義務(wù)，要求對(duì)于深度合成的圖片必須予以標(biāo)識(shí)，等等。這些自上而下的規(guī)定，為企業(yè)提供了發(fā)展中應(yīng)遵循的準(zhǔn)則。
《辦法》鼓勵(lì)了人工智能在各行業(yè)的應(yīng)用，實(shí)行包容審慎和分類分級(jí)監(jiān)管。相關(guān)規(guī)范下，企業(yè)成長(zhǎng)路徑也更為清晰。一方面，將監(jiān)管的“利劍”高懸于上，有助于企業(yè)認(rèn)清“紅線”，在發(fā)展中自主、自覺(jué)阻斷非法內(nèi)容的生成或傳播。另一方面，《辦法》敦促了企業(yè)應(yīng)不斷從社會(huì)責(zé)任角度出發(fā)，開發(fā)可靠技術(shù)、傳遞可靠信息，不應(yīng)為追逐經(jīng)濟(jì)利益而忽略其社會(huì)責(zé)任。
當(dāng)前全球已進(jìn)入大模型“后時(shí)代”，下一階段的企業(yè)間競(jìng)爭(zhēng)，將不僅僅是科技力量的競(jìng)爭(zhēng)，企業(yè)社會(huì)責(zé)任的競(jìng)爭(zhēng)同樣關(guān)鍵。如何保障公眾利益，開發(fā)高可靠的人工智能？如何減少無(wú)效競(jìng)爭(zhēng)，實(shí)現(xiàn)產(chǎn)業(yè)各方協(xié)同進(jìn)步？如何有效減少碳排放，降低“高耗能”開發(fā)所需的資源成本？這些都是“后時(shí)代”的新問(wèn)題和新挑戰(zhàn)。未來(lái)能夠長(zhǎng)遠(yuǎn)發(fā)展的企業(yè)，必定是技術(shù)創(chuàng)新發(fā)展與社會(huì)責(zé)任擔(dān)當(dāng)并舉的企業(yè)。
后續(xù)，如何讓監(jiān)管進(jìn)一步落地執(zhí)行，需要政府、企業(yè)和學(xué)術(shù)界三方的共同努力。不斷結(jié)合技術(shù)發(fā)展，共同迎接挑戰(zhàn)，在規(guī)范中實(shí)現(xiàn)生成式人工智能技術(shù)的“向上向善”。（作者是清華大學(xué)副教授、博士生導(dǎo)師，人機(jī)對(duì)話、人工智能領(lǐng)域?qū)＜遥伎萍悸?lián)合創(chuàng)始人）
