國家網(wǎng)信辦聯(lián)合國家發(fā)改委、教育部、科技部、工信部、公安部、廣電總局公布《生成式人工智能服務管理暫行辦法》（下稱《辦法》），自2023年8月15日起施行。
近年來，生成式人工智能技術快速發(fā)展，為經(jīng)濟社會發(fā)展帶來新機遇的同時，也產(chǎn)生了傳播虛假信息、侵害個人信息權益、數(shù)據(jù)安全和偏見歧視等問題，如何統(tǒng)籌生成式人工智能發(fā)展和安全引起各方關注。出臺《辦法》，既是促進生成式人工智能健康發(fā)展的重要要求，也是防范生成式人工智能服務風險的現(xiàn)實需要。
國家互聯(lián)網(wǎng)信息辦公室有關負責人指出，生成式人工智能服務的發(fā)展與治理需要政府、企業(yè)、社會、網(wǎng)民等多方參與，共同促進生成式人工智能健康發(fā)展，讓生成式人工智能技術更好地造福人民。
《
辦法
》
鼓勵技術發(fā)展創(chuàng)新
，
強調(diào)
安全
與
依法
管理
《南方日報》評論稱，就傳播虛假信息來看，人們已經(jīng)越來越難以確定一項內(nèi)容到底出自真實的人類還是人工智能。生成式人工智能的訓練數(shù)據(jù)大都源于互聯(lián)網(wǎng)，很有可能把一些違法信息、爭議性觀點等引用過來，給用戶植入偏見和負面刻板印象。
對此，《辦法》從不同角度作出系統(tǒng)性回應。比如在服務規(guī)范環(huán)節(jié)，規(guī)定提供者應當對生成內(nèi)容進行標識，可以有效避免以假亂真；在開展預訓練、優(yōu)化訓練等數(shù)據(jù)處理活動環(huán)節(jié)，規(guī)定應使用具有合法來源的數(shù)據(jù)和基礎模型，不得侵害知識生產(chǎn)，應取得個人同意等，有利于打消用戶顧慮；而在提供和使用環(huán)節(jié)，明確規(guī)定應當遵守法律、行政法規(guī)，尊重社會公德和倫理道德，包括尊重知識產(chǎn)權、商業(yè)道德，尊重他人合法權益，采取有效措施防止歧視等，有助于防止擾亂網(wǎng)絡秩序的行為發(fā)生。
此外，《南方日報》指出，生成式人工智能關系到生產(chǎn)力的提升，是國際競爭的熱點所在。因此，關鍵在于不斷探索并完善與創(chuàng)新發(fā)展相適應的科學監(jiān)管方式，在創(chuàng)新發(fā)展與風險規(guī)避之間尋求平衡�！掇k法》在明確指出防范風險的同時，也提出實行包容審慎和分類分級監(jiān)管，鼓勵行業(yè)的創(chuàng)新發(fā)展。比如明確鼓勵在各行業(yè)、各領域推廣應用，鼓勵在算法、框架、芯片及配套軟件平臺等基礎技術上自主創(chuàng)新，推動基礎設施和公共訓練數(shù)據(jù)資源平臺建設等，體現(xiàn)的正是“發(fā)展和安全并重、促進創(chuàng)新和依法治理相結合”的原則。
《互聯(lián)網(wǎng)法律評論》特約作者時蕭楠律師指出，在4月的征求意見稿中，國家互聯(lián)網(wǎng)信息辦公室就已經(jīng)提出了鼓勵生成式人工智能行業(yè)發(fā)展的相關內(nèi)容，本次正式公布版更是進一步明確監(jiān)管的整體原則除了單純的鼓勵以外，還明確強調(diào)了安全與依法治理，并且通過規(guī)定分類分級監(jiān)管的方式實現(xiàn)這一原則的落地，除此之外，還提出了針對分類監(jiān)管。
她表示，對于公司內(nèi)部/自然人使用人工智能技術是否存在相應的監(jiān)管合規(guī)要求一直是市場經(jīng)常探討的內(nèi)容，《辦法》明確規(guī)定，研發(fā)和應用生成式人工智能技術，只要未向境內(nèi)公眾提供服務的，就無需適用《辦法》。但縱觀《辦法》，監(jiān)管將對應用生成式人工智能服務的使用者的管理義務賦予了服務提供者，例如《辦法》第10條、第11條、第12條中均規(guī)定了服務提供者對使用者的管理，如果使用者進行違法行為是因為服務提供者未按照規(guī)定進行管理，監(jiān)管可以追究其法律責任。需要注意的是，在利用人工智能服務生成虛假信息進行詐騙等行為已經(jīng)開始頻頻出現(xiàn)的背景下，使用者如利用人工智能服務進行違法犯罪行為將被直接追究法律責任。
漢坤律師事務所的漢坤表示，與《征求意見稿》相比，《辦法》體現(xiàn)出了對尚不成熟的生成式人工智能服務更多的包容，更側重鼓勵技術發(fā)展創(chuàng)新，在原理和制度層面更好地統(tǒng)籌兼顧了發(fā)展與安全。在適用范圍上吸納了公眾意見，明確將未向境內(nèi)公眾提供服務的生成式人工智能技術的研發(fā)、應用排除出適用范圍。在監(jiān)管路徑上顯示了包容審慎、分類分級監(jiān)管的路徑，強調(diào)統(tǒng)籌協(xié)調(diào)多部門監(jiān)管。在模型訓練上《辦法》吸取了業(yè)界的反饋意見，更充分考慮了當前訓練數(shù)據(jù)質(zhì)量、生成內(nèi)容可靠性、準確性等方面的技術障礙與局限，適度放寬了生成式人工智能數(shù)據(jù)訓練、模型應用和優(yōu)化的具體合規(guī)要求等。
他進一步指出，《辦法》成稿體現(xiàn)了產(chǎn)業(yè)界和公眾對《征求意見稿》提出的許多建議，更充分的考慮當前生成式人工智能的技術局限，在明確安全規(guī)范“紅線”的基礎上，基于“審慎包容”的原則適度放松了生成式人工智能從研發(fā)、模型訓練到應用、優(yōu)化各階段的合規(guī)要求，體現(xiàn)出了鼓勵新技術發(fā)展、應用的政策導向。
國盛證券研報指出，《辦法》出臺利好生成式人工智能健康發(fā)展。在監(jiān)管方式上，完善與創(chuàng)新發(fā)展相適應的科學監(jiān)管方式，制定相應的分類分級監(jiān)管規(guī)則或者指引。并且在監(jiān)管范圍上《辦法》進一步細化，在備案要求方面，防沉迷方面，和服務規(guī)范方面均細化了監(jiān)管范圍。在促進發(fā)展具體措施上更是具體詳細的覆蓋。
政策落地利好AI產(chǎn)業(yè)發(fā)展
多家券商認為，政策落地全面利好AI產(chǎn)業(yè)的發(fā)展。一方面明確了監(jiān)管主體和備案等監(jiān)管措施，有望拉動AI 安全監(jiān)管的產(chǎn)品和需求；另一方面實現(xiàn)發(fā)展和安全并重，算力、算法、應用類產(chǎn)業(yè)有望邁入快車道。
國盛證券表示，管理辦法落地，大模型正式落地在即，國內(nèi)AI發(fā)展即將進入應用落地階段。本次《辦法》明確社會責任與法律責任，利好AI在C端的落地：明確生成式人工智能開發(fā)者、供應商和使用者的社會責任與法律責任，可以保證在生成式人工智能系統(tǒng)出現(xiàn)錯誤、造成損害或出現(xiàn)侵權時能夠進行合法追責，有利于為生成式AI在C端的進一步落地，提供可靠的法律依據(jù)，大模型C端合規(guī)未來可期。
開源證券指出，推動生成式人工智能基礎設施建設，關注AI時代的“賣鏟人”。并且認為《辦法》提出鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術的自主創(chuàng)新，推動生成式人工智能基礎設施和公共訓練數(shù)據(jù)資源平臺建設。
光大證券表示生成式AI服務管理暫行辦法重磅發(fā)布，將促進AI應用落地及大模型層廠商發(fā)展。隨著《辦法》出臺及正式實施，商業(yè)化產(chǎn)品應用落地加速；其次，國產(chǎn)大模型百舸爭流，作為價值鏈中最核心部分，建議中長線持續(xù)關注。
廣發(fā)證券表示，《辦法》整體符合預期，產(chǎn)業(yè)爆發(fā)初期為行業(yè)規(guī)范發(fā)展提供指引。一方面，《辦法》的正式落地為行業(yè)提供了明確的監(jiān)管依據(jù)，為我國生成式AI 產(chǎn)業(yè)發(fā)展形成政策支撐。另一方面，預計《辦法》短期從情緒面形成提振，中期仍需回歸產(chǎn)品兌現(xiàn)度，密切關注后續(xù)產(chǎn)品落地和上線情況。
