周鴻
封面新聞?dòng)浾?雷強(qiáng)
10月13日，在第38次全國(guó)計(jì)算機(jī)安全學(xué)術(shù)交流會(huì)上，三六零(以下稱“360”)公司創(chuàng)始人周鴻以“構(gòu)建‘安全、向善、可信、可控’大模型”為題發(fā)表演講，并透露360大模型安全解決方案細(xì)節(jié)。他表示，大模型發(fā)展已經(jīng)進(jìn)入第二階段，重點(diǎn)是放低身段，賦能產(chǎn)業(yè)數(shù)字化發(fā)展，最大的障礙是如何打造真正安全可用的大模型。
“大模型是一把雙刃劍，將帶來(lái)前所未有的安全挑戰(zhàn)。”周鴻將安全風(fēng)險(xiǎn)劃分為短期、中期、長(zhǎng)期三個(gè)階段。他認(rèn)為，短期風(fēng)險(xiǎn)是當(dāng)前最迫切要解決的問(wèn)題，主要圍繞大模型自身引發(fā)的安全問(wèn)題，如網(wǎng)絡(luò)安全、數(shù)據(jù)安全、生成內(nèi)容安全。中期風(fēng)險(xiǎn)主要指人為地對(duì)大模型的惡意應(yīng)用，如日益猖獗的AI換臉、AI換聲詐騙。長(zhǎng)期風(fēng)險(xiǎn)則是當(dāng)更強(qiáng)大的人工智能誕生，對(duì)人類生存帶來(lái)的安全挑戰(zhàn)。
周鴻表示，基礎(chǔ)大模型的安全問(wèn)題，都會(huì)“遺傳”給垂直大模型。為此，360在國(guó)家級(jí)安全能力基礎(chǔ)上，打造原生安全大模型“360智腦”。周鴻介紹，在“安全、向善、可信、可控”這一安全四原則的基礎(chǔ)上，360已經(jīng)構(gòu)建體系化的大模型安全解決方案，保證大模型在企業(yè)級(jí)場(chǎng)景落地。細(xì)節(jié)上，他透露，為了讓大模型“不作惡”，360“向善”解決方案的核心是研發(fā)安全垂直“小模型”訓(xùn)練和監(jiān)控大模型，保證大模型輸出結(jié)果安全。
在解決大模型“可控”問(wèn)題上，360將推出Agent框架，把人的能力賦予大模型，一方面讓大模型變得更強(qiáng)大，另一方面也能起到對(duì)大模型的約束作用。面對(duì)國(guó)內(nèi)大模型安全需求的井噴，周鴻表示，360的原生大模型安全解決方案能夠平移、復(fù)制給有需求的行業(yè)合作伙伴和客戶，以外掛式的“360大模型安全管家”的形式對(duì)外賦能，提供網(wǎng)絡(luò)與數(shù)據(jù)安全、內(nèi)容護(hù)欄、搜索知識(shí)增強(qiáng)、可視化數(shù)據(jù)監(jiān)測(cè)等能力。
最后，周鴻表示，大模型不僅會(huì)帶來(lái)新型安全風(fēng)險(xiǎn)，也可以作為“正義助手”服務(wù)安全發(fā)展。
