3月27日，抖音發(fā)布關(guān)于不當(dāng)利用A生成虛擬人物的治理公告。針對(duì)違規(guī)使用AI生成虛擬人物的行為，平臺(tái)會(huì)對(duì)違規(guī)視頻下架，對(duì)違規(guī)賬號(hào)進(jìn)行取消其投稿和營(yíng)利權(quán)限、抹除賬號(hào)粉絲、封禁賬號(hào)等處置，并利用模型、技術(shù)識(shí)別能力等手段，進(jìn)行長(zhǎng)期系統(tǒng)的識(shí)別發(fā)現(xiàn)和處置。同時(shí)，平臺(tái)已掌握部分黑產(chǎn)團(tuán)伙不當(dāng)使用AI生成虛擬人物用于犯罪的線索，將報(bào)警打擊
人工智能技術(shù)的快速發(fā)展，豐富了互聯(lián)網(wǎng)內(nèi)容生態(tài)，但也帶來技術(shù)濫用的挑戰(zhàn)。方正證券認(rèn)為，從源頭上對(duì)于數(shù)據(jù)安全、隱私和知識(shí)產(chǎn)權(quán)的保護(hù)、對(duì)于AI內(nèi)容的監(jiān)管等，已經(jīng)成為生成式人工智能發(fā)展的重要前提。在政府充分發(fā)揮監(jiān)管職能的同時(shí)，安全廠商積極布局，發(fā)揮技術(shù)能力守住安全底線。
國(guó)投證券此前分析稱，伴隨人工智能在大模型等技術(shù)的帶動(dòng)下向通用化邁進(jìn)，相應(yīng)的AI安全和監(jiān)管問題將會(huì)愈發(fā)凸顯。因此，無論從產(chǎn)業(yè)技術(shù)角度，還是從政策法規(guī)角度，對(duì)于AI的安全監(jiān)管必將進(jìn)一步發(fā)展，從而帶來新的產(chǎn)業(yè)需求，帶動(dòng)AI安全監(jiān)管產(chǎn)業(yè)的發(fā)展。建議關(guān)注AI安全監(jiān)管的核心標(biāo)的美亞柏科，以及相關(guān)的網(wǎng)絡(luò)和數(shù)據(jù)安全公司如啟明星辰、奇安信、安恒信息、深信服、三未信安、信安世紀(jì)、格爾軟件、永信至誠(chéng)、中新賽克等。
