狂飆半年的生成式人工智能系上了“安全帶”。7月13日，國家網(wǎng)信辦發(fā)布消息稱，國家網(wǎng)信辦等七部門聯(lián)合公布《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱《辦法》），自2023年8月15日起施行。國家網(wǎng)信辦表示，出臺《辦法》，既是促進(jìn)生成式人工智能健康發(fā)展的重要要求，也是防范生成式人工智能服務(wù)風(fēng)險(xiǎn)的現(xiàn)實(shí)需要。
以ChatGPT為代表的生成式人工智能的出現(xiàn)，意味著人工智能正式從1.0時(shí)代邁入2.0時(shí)代。創(chuàng)新工場董事長兼CEO李開復(fù)曾斷言，AI2.0是絕對不能錯(cuò)過的一次革命，它會是一個(gè)平臺級別的趨勢，超過移動互聯(lián)網(wǎng)10倍。彭博行業(yè)研究曾在報(bào)告中預(yù)計(jì)，ChatGPT將給生成式人工智能市場帶來為期十年的繁榮，市場規(guī)模將以42%的速度擴(kuò)張。
抓住這一輪歷史機(jī)遇至關(guān)重要�！掇k法》明確提及，鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應(yīng)用場景，構(gòu)建應(yīng)用生態(tài)體系。
而在基礎(chǔ)設(shè)施等方面，《辦法》也提及，鼓勵(lì)生成式人工智能算法、框架、芯片及配套軟件平臺等基礎(chǔ)技術(shù)的自主創(chuàng)新。推動生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺建設(shè)。促進(jìn)算力資源協(xié)同共享，提升算力資源利用效能。推動公共數(shù)據(jù)分類分級有序開放，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源。鼓勵(lì)采用安全可信的芯片、軟件、工具、算力和數(shù)據(jù)資源。
地方層面已有“回應(yīng)”。以北京為例，今年5月，北京市啟動通用人工智能產(chǎn)業(yè)創(chuàng)新伙伴計(jì)劃。目前伙伴計(jì)劃中，有10余家算力伙伴計(jì)劃提供不少于4000P低成本優(yōu)質(zhì)算力，供北京市人工智能中小企業(yè)開展大模型訓(xùn)練和推理。10個(gè)數(shù)據(jù)伙伴開放18個(gè)、近500T高質(zhì)量數(shù)據(jù)集供大模型企業(yè)訓(xùn)練使用。
生成式人工智能有理想的一面，也有現(xiàn)實(shí)的一面。正如國家網(wǎng)信辦所言，近年來，生成式人工智能技術(shù)快速發(fā)展，為經(jīng)濟(jì)社會發(fā)展帶來新機(jī)遇的同時(shí)，也產(chǎn)生了傳播虛假信息、侵害個(gè)人信息權(quán)益、數(shù)據(jù)安全和偏見歧視等問題，如何統(tǒng)籌生成式人工智能發(fā)展和安全引起各方關(guān)注。
為此，《辦法》也為生成式人工智能服務(wù)劃出了諸多“紅線”。例如數(shù)據(jù)方面，《辦法》提到，生成式人工智能服務(wù)提供者（以下簡稱“提供者”）應(yīng)當(dāng)依法開展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動，采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性等。
此外，提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識。在信息安全方面，提供者應(yīng)對使用者的輸入信息和使用記錄應(yīng)當(dāng)依法履行保護(hù)義務(wù)，不得收集非必要個(gè)人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄等。
在答記者問時(shí)，國家網(wǎng)信辦表示，《辦法》提出國家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務(wù)實(shí)行包容審慎和分類分級監(jiān)管。
北京市社會科學(xué)院副研究員王鵬對北京商報(bào)記者分析稱，《辦法》對于什么是生成式人工智能、哪些行為合法、哪些行為違法等做出了明確的界定，有利于解決現(xiàn)實(shí)問題，也更有利于行業(yè)的規(guī)范發(fā)展。另外，《辦法》也充分體現(xiàn)了我國對于人工智能，尤其是生成式人工智能鼓勵(lì)、支持和引導(dǎo)的態(tài)度。整體來說，《辦法》對于我國人工智能行業(yè)，包括基礎(chǔ)研發(fā)、垂直落地應(yīng)用以及相關(guān)生態(tài)的形成都是有利的。
北京商報(bào)記者 楊月涵
