本報記者 秦梟 北京報道
7月13日，國家網信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局發(fā)布了《生成式人工智能服務管理暫行辦法》（以下簡稱“《辦法》”），自2023年8月15日起施行。國家網信辦表示，出臺《辦法》，旨在促進生成式人工智能健康發(fā)展和規(guī)范應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。
在此之前，4月11日，國家網信辦起草了《生成式人工智能服務管理辦法（征求意見稿）》。
去年年底，由ChatGPT掀起的新一輪人工智能的熱潮還在持續(xù)。以生成式人工智能（AIGC）和大模型為代表的新一代智能技術發(fā)展日新月異，成為本輪世界科技革命和產業(yè)變革的先導力量。但是，AI技術的發(fā)展在產生一系列成果的同時，也帶來了巨大的不確定性和潛在的風險因素。有關AI監(jiān)管的討論正在升溫。
浙江大學國際聯(lián)合商學院數(shù)字經濟與金融創(chuàng)新研究中心聯(lián)席主任、研究員盤和林對《中國經營報》記者表示，生成式AI如火如荼，實際上我國也在著力推動生成式AI產業(yè)發(fā)展，但就像車輛行駛需要交通標識和交警管理，AIGC要上線也需要有一定的規(guī)則。當前AIGC的風險主要是安全方向。
天使投資人、資深人工智能專家郭濤認為，當前，生成式人工智能產業(yè)還處于發(fā)展的早期階段，研發(fā)與應用的相關法律法規(guī)、標準體系和倫理規(guī)范等還不健全，存在隱私與數(shù)據(jù)保護風險、著作權侵權風險、深度偽造風險、失業(yè)加劇風險，以及歧視與偏見風險等潛在問題，制約行業(yè)長遠健康發(fā)展，迫切需要對生成式人工智能服務加強規(guī)范管理，進一步細化明確相關監(jiān)管要求，完善相關法律、法規(guī)和標準體系等。
記者注意到，《辦法》明確了提供和使用生成式人工智能服務的總體要求，提出國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管。
盤和林表示，相比于之前的《征求意見稿》，這次發(fā)布的《辦法》已經具備了不錯的可執(zhí)行性，個人認為可以通過這些大原則去規(guī)范，當前AIGC國內大模型很多，但都在試用階段，沒有公開，而《辦法》明確了規(guī)則，能夠推動生成式AI有序發(fā)展。
深度研究院院長張孝榮認為，從《辦法》的主旨來看，主要是為了防范風險規(guī)范發(fā)展。生成式人工智能技術快速發(fā)展，為經濟社會發(fā)展帶來新機遇，也產生了一系列新問題，引起了全球性關注�！掇k法》的出臺也是試圖平衡創(chuàng)新和發(fā)展的矛盾，防患于未然。
在明確總體要求的同時，《辦法》也圍繞促進生成式人工智能技術發(fā)展提出了具體措施：一是明確鼓勵生成式人工智能技術在各行業(yè)、各領域的創(chuàng)新應用，生成積極健康、向上向善的優(yōu)質內容，探索優(yōu)化應用場景，構建應用生態(tài)體系。二是支持行業(yè)組織、企業(yè)、教育和科研機構、公共文化機構、有關專業(yè)機構等在生成式人工智能技術創(chuàng)新、數(shù)據(jù)資源建設、轉化應用、風險防范等方面開展協(xié)作。三是鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術的自主創(chuàng)新，平等互利開展國際交流與合作，參與生成式人工智能相關國際規(guī)則制定。四是提出推動生成式人工智能基礎設施和公共訓練數(shù)據(jù)資源平臺建設。促進算力資源協(xié)同共享，提升算力資源利用效能。推動公共數(shù)據(jù)分類分級有序開放，擴展高質量的公共訓練數(shù)據(jù)資源。鼓勵采用安全可信的芯片、軟件、工具、算力和數(shù)據(jù)資源。
對此，盤和林表示，《辦法》主要是從安全性角度出發(fā)，包括數(shù)據(jù)確權、數(shù)據(jù)隱私保護，以及內容上的合規(guī)性。這里內容合規(guī)是我國獨有的需求，需要讓AIGC和自媒體采取一樣的尺度，防止非法內容傳播。
郭濤認為，《辦法》的實施，對推動生成式人工智能行業(yè)健康、可持續(xù)發(fā)展有重要的意義。一方面，《辦法》做出了一系列的規(guī)范和管理措施，例如要求服務提供者需要取得相應的資質和許可，并且需要遵守一系列的技術規(guī)范和安全標準等，這些規(guī)定確保了生成式人工智能服務的合規(guī)性和安全性，保護了用戶的數(shù)據(jù)和隱私安全，可以減少人工智能帶來的不良影響；另一方面，《辦法》明確規(guī)定了生成式人工智能服務的范圍和標準，以及相關責任和義務，這些規(guī)定可以指導企業(yè)、個人和監(jiān)管機構在生成式人工智能服務方面進行規(guī)范操作，避免了一些可能存在的法律和道德風險。
在張孝榮看來，《辦法》主要適用于生成式AI技術，大凡利用生成式人工智能技術向中華人民共和國境內公眾提供生成文本、圖片、音頻、視頻等內容的服務，需要遵守《辦法》規(guī)制。目前國外的生成式AI尚未正式入華，而國內的相關項目不足100個，均在初創(chuàng)期，尚未形成應用生態(tài)，《辦法》明確提出了生成式人工智能服務應當遵守的各種規(guī)定，為生成式AI的對齊工作畫出了清晰的邊界。但這些項目未來形態(tài)難以判斷，因此需要一些時間觀察。
與此同時，張孝榮強調，《辦法》標志著我國AI治理已經走在國際前列，生成式AI需要認真學習，打磨技術，以便維護產業(yè)健康發(fā)展，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。
不過，郭濤也建議，當前，生成式人工智能服務在監(jiān)管方面還存在相關法律法規(guī)與標準體系不健全、缺乏多部門協(xié)同的自上而下的監(jiān)管體系、監(jiān)管技術手段落后等突出問題，在實施《辦法》的同時，政府有關部門還需要進一步建立健全人工智能研發(fā)與應用相關法律法規(guī)和標準體系，建立或完善倫理審查制度和監(jiān)管體系，加強對科技企業(yè)、媒體平臺、應用場景、使用者的監(jiān)管，搭建多方參與協(xié)同治理的平臺，平衡管理和規(guī)范與發(fā)展創(chuàng)新之間的關系，推動生成式人工智能產業(yè)的發(fā)展和規(guī)�；涞貞�。
（編輯：張靖超 校對：顏京寧）
