圖片系A(chǔ)I生成
在新技術(shù)和產(chǎn)業(yè)的發(fā)展史上，安全始終是一門伴生技術(shù)，總是先有攻擊，再有防護(hù)，大模型也不例外。
“新的技術(shù)必然帶來(lái)新的安全問題和安全需求，但是挑戰(zhàn)又在于攻擊者往往快我們一步發(fā)現(xiàn)安全風(fēng)險(xiǎn)，發(fā)動(dòng)攻擊，因此要求我們帶來(lái)更快地響應(yīng)和改變。”亞信安全高級(jí)副總裁陳奮表示。
直到今天，大模型的落地場(chǎng)景依然有限，行業(yè)人士會(huì)考慮新技術(shù)不成熟、投入產(chǎn)出比、沒有好的應(yīng)用方向等因素，但黑客們只需要一個(gè)理由，用大模型做新的矛，能攻破更高價(jià)值的盾。
攻擊方式?jīng)Q定了防守方式，網(wǎng)絡(luò)安全公司標(biāo)配大模型也成為必選項(xiàng)。
全球安全公司快速行動(dòng)起來(lái)，微軟在5月份正式商用了Security Copilot，谷歌去年發(fā)布了網(wǎng)絡(luò)安全專有大模型，網(wǎng)絡(luò)安全巨頭Paloalto、CROWDSTRIKE均在其安全運(yùn)營(yíng)平臺(tái)集成了大模型的安全運(yùn)營(yíng)能力。
相關(guān)數(shù)據(jù)顯示，在中國(guó)，80%以上的網(wǎng)絡(luò)安全公司都在將大模型技術(shù)集成到網(wǎng)絡(luò)安全產(chǎn)品中，30%的公司已經(jīng)開始做大模型安全的研究，也出現(xiàn)了一些安全創(chuàng)業(yè)的浪潮。
新的安全攻防戰(zhàn)
ChatGPT發(fā)布之后，以大模型為代表AGI技術(shù)讓全球的黑客開始狂歡，AGI技術(shù)驅(qū)動(dòng)了網(wǎng)絡(luò)攻擊和網(wǎng)絡(luò)犯罪的升級(jí)，過(guò)去一個(gè)黑客生產(chǎn)一個(gè)攻擊病毒需要數(shù)月時(shí)間，現(xiàn)在通過(guò)AGI的工具可能幾分鐘就能生成，黑客攻擊的效率和范圍大大提高。
大模型對(duì)于編程語(yǔ)言的理解能力也非常強(qiáng)，攻擊者可以利用大模型迅速發(fā)現(xiàn)軟件漏洞，同時(shí)還有一波急功近利的黑客，利用AI算法在視頻中做人臉偽造，產(chǎn)生了新一波網(wǎng)絡(luò)詐騙犯罪案件。
亞信安全還發(fā)現(xiàn)，攻擊者的攻擊目標(biāo)從傳統(tǒng)資產(chǎn)盯上了AI算力基礎(chǔ)設(shè)施和大模型AI算力基礎(chǔ)設(shè)施主要是高價(jià)值的GPU集群，對(duì)攻擊者來(lái)說(shuō)具有巨大的誘惑力，短短一年時(shí)間，針對(duì)大模型的攻擊手段已經(jīng)涌現(xiàn)出數(shù)十種不同的類型。
年初美國(guó)一個(gè)數(shù)千臺(tái)服務(wù)器的算力集群被攻破，被拿去挖比特幣，黑客只要發(fā)現(xiàn)有利可圖，很快就會(huì)盯上這些高價(jià)值的資產(chǎn)，甚至大模型本身也有可能被利用。
亞信安全還復(fù)現(xiàn)了一次攻擊行為，通過(guò)向大模型提交一個(gè)經(jīng)過(guò)特殊構(gòu)造的攻擊樣本，攻擊樣本不是正常的提示詞，而是很復(fù)雜的語(yǔ)言，這時(shí)候再提交正常的請(qǐng)求，在過(guò)程中亞信安全還特意把攻擊停止，但哪怕停止攻擊以后，同樣的一個(gè)請(qǐng)求，大模型需要60秒以上才能返回結(jié)果，是原來(lái)所需時(shí)間的20倍以上。
可以想象，如果未來(lái)核心應(yīng)用都是大模型驅(qū)動(dòng)的AI原生應(yīng)用，類似攻擊將會(huì)讓大模型算力消耗急劇上升，從而出現(xiàn)拒絕攻擊，用戶核心業(yè)務(wù)將陷入癱瘓，這只是一個(gè)相對(duì)比較基礎(chǔ)的攻擊。
未來(lái)家庭和個(gè)人用戶，也可能成為攻擊目標(biāo)，假如人工智能的滲透率足夠高，電腦、手機(jī)、家電和汽車都是智能的，甚至未來(lái)每個(gè)家庭都有一個(gè)人工智能，黑客不會(huì)放過(guò)這一塊“肥肉”。
“從現(xiàn)在開始，網(wǎng)絡(luò)安全的攻防從原來(lái)人和人之間的對(duì)抗，已經(jīng)升級(jí)到AI和AI之間的對(duì)抗，只有AI驅(qū)動(dòng)的網(wǎng)絡(luò)安全防護(hù)檢測(cè)技術(shù)才能識(shí)別AI驅(qū)動(dòng)的黑客攻擊技術(shù)。”陳奮表示。
“安全大模型”，是不是蹭熱點(diǎn)？
如同千行百業(yè)都正在被大模型改造和重塑，大模型技術(shù)未來(lái)將推動(dòng)網(wǎng)絡(luò)安全產(chǎn)品全面革新，可能帶來(lái)網(wǎng)絡(luò)安全產(chǎn)品設(shè)計(jì)范式的徹底變化，從威脅檢測(cè)到產(chǎn)品體驗(yàn)，再到安全運(yùn)營(yíng)，如果沒有大模型的加持，一家安全公司可能就難言競(jìng)爭(zhēng)力。
但是，“安全大模型”概念的泛化，也難免陷入蹭熱點(diǎn)之嫌，以至于有質(zhì)疑安全大模型是新瓶裝舊酒。
安全公司使用AI技術(shù)早有先例，例如用AI做垃圾郵件檢測(cè)，用機(jī)器學(xué)習(xí)算法做漏洞自動(dòng)化修復(fù)，AI還能實(shí)現(xiàn)自動(dòng)化的運(yùn)營(yíng)分析，安全策略生成，并提供告警評(píng)估和攻擊研判等。
一位安全行業(yè)人士表示，很多安全公司去年著急發(fā)布GPT應(yīng)用，產(chǎn)品構(gòu)建并不完整，有企業(yè)只想著在單點(diǎn)場(chǎng)景使用，比如在安全運(yùn)營(yíng)里快速集成GPT對(duì)語(yǔ)言的理解，因?yàn)榘踩录彩且环N語(yǔ)言，更多是落在這種場(chǎng)景上。
亞信安全沒有第一時(shí)間發(fā)布大模型，更多是在思考大模型能否變成產(chǎn)品的原生能力。亞信安全想把大模型能力變成產(chǎn)品的內(nèi)生能力，現(xiàn)在可能還達(dá)不到，但這是其發(fā)展思路。
所以亞信安全沒有一開始就讓產(chǎn)品線馬上集成大模型，而是因?yàn)榛烁鄷r(shí)間建設(shè)底層通用框架，做好MaaS服務(wù)平臺(tái)，再疊加上面的智能體框架。安全公司有很多產(chǎn)品線，如果每條產(chǎn)品線路都要單獨(dú)去思考怎么集成大模型，會(huì)帶來(lái)很多資源浪費(fèi)。
在此基礎(chǔ)上，亞信安全正式發(fā)布了網(wǎng)絡(luò)安全行業(yè)領(lǐng)域自研大模型信立方，其能力分為五個(gè)層次，第一層是算力調(diào)度平臺(tái)；第二層是在微調(diào)開源大模型和閉源大模型基礎(chǔ)上做智能的混合調(diào)度；第三層是在大模型基礎(chǔ)之上做MaaS服務(wù)層，讓上層的安全應(yīng)用能夠快速調(diào)度大模型，同時(shí)MaaS服務(wù)的API架構(gòu)完全參考OpenAI的標(biāo)準(zhǔn)，從而能夠快速使用全球開源工具的生態(tài)。
第四層是網(wǎng)絡(luò)安全Agent靈活架構(gòu)，亞信安全在參考開源基礎(chǔ)上重構(gòu)了亞信安全的智能體開發(fā)框架，在該框架上，所有產(chǎn)線團(tuán)隊(duì)能夠快速集成整個(gè)安全大模型能力。第五層是多個(gè)場(chǎng)景的安全智能體應(yīng)用。
同時(shí)，亞信安全進(jìn)一步發(fā)布“信計(jì)劃XPLAN”，包含兩部分：Security For AI和AI For Security。Security For AI主要聚焦在保護(hù)算力安全的基礎(chǔ)設(shè)施，以及保護(hù)大模型的安全，AI For Security主要聚焦在網(wǎng)絡(luò)安全行業(yè)的垂直大模型的研發(fā)以及在上面做網(wǎng)絡(luò)安全的智能體以及安全應(yīng)用。
AI安全需要系統(tǒng)視角
中國(guó)工程院院士、清華大學(xué)智能產(chǎn)業(yè)研究院（AIR） 院長(zhǎng)張亞勤表示，大模型的到來(lái)意味著構(gòu)建了一個(gè)全新的生態(tài)，大模型將成為新的操作系統(tǒng)，PC互聯(lián)網(wǎng)、移動(dòng)互聯(lián)網(wǎng)都形成了與之匹配的生態(tài)，人工智能時(shí)代的生態(tài)規(guī)模移動(dòng)互聯(lián)網(wǎng)要高至少一個(gè)數(shù)量級(jí)。
與之相對(duì)應(yīng)地，行業(yè)內(nèi)部趨于達(dá)成一個(gè)共同認(rèn)知只做大模型安全，無(wú)法解決大模型安全問題，AI安全需要從系統(tǒng)性全局視角，共建生態(tài)。
亞信安全高級(jí)副總裁兼CDO吳湘寧表示，大模型產(chǎn)業(yè)鏈非常長(zhǎng)，周邊業(yè)態(tài)會(huì)更加豐富，真正做大模型的廠商不會(huì)多，未來(lái)可能集中在幾家頭部廠商，而利用大模型的企業(yè)或者行業(yè)會(huì)越來(lái)越多，這就對(duì)安全方面提出了新的要求。
圖片系A(chǔ)I生成
“僅把大模型安全做得好比較有限，舉一個(gè)簡(jiǎn)單例子，原來(lái)隱私計(jì)算應(yīng)用的場(chǎng)景非常狹小，更多是一些部委、金融和企業(yè)數(shù)據(jù)交換過(guò)程中做一些查詢，但是未來(lái)如果所有的企業(yè)都要把數(shù)據(jù)送到算力上去算的話，想象空間就非常大，整個(gè)生態(tài)鏈打開以后，可能很多技術(shù)使用場(chǎng)景都會(huì)發(fā)生改變。”他說(shuō)。
多項(xiàng)安全生態(tài)合作與成果也在逐漸顯露。網(wǎng)絡(luò)勒索響應(yīng)與治理中心暨獵狐計(jì)劃正式啟動(dòng)，由亞信安全、中國(guó)聯(lián)通江蘇分公司、四川省數(shù)字產(chǎn)業(yè)有限責(zé)任公司、人民數(shù)據(jù)管理有限公司聯(lián)合發(fā)起，建立區(qū)域性和行業(yè)性的網(wǎng)絡(luò)勒索響應(yīng)與治理中心，形成常態(tài)化一體化的網(wǎng)絡(luò)勒索安全運(yùn)營(yíng)，這也是安全生態(tài)共建的一個(gè)典型。
此外，東數(shù)西算安全聯(lián)合創(chuàng)新中心也發(fā)布了新成果，亞信安全與四川能投、西云算力等廠商合作，在大模型安全、隱私計(jì)算、算網(wǎng)調(diào)度、全棧云安全均有技術(shù)突破。這些成果將推動(dòng)?xùn)|西部算力和數(shù)據(jù)資源的安全調(diào)度和流通，促進(jìn)人工智能和數(shù)據(jù)產(chǎn)業(yè)的發(fā)展。
亞信安全也與鴻蒙生態(tài)達(dá)成合作，雙方將深度投入鴻蒙生態(tài)建設(shè)，結(jié)合終端安全能力，為用戶提供更加安全、可靠的終端環(huán)境，保障用戶的信息安全。
在技術(shù)、政策、法規(guī)、社會(huì)共識(shí)等多方面的共同努力，將成為大模型安全生態(tài)構(gòu)建的長(zhǎng)久方向。（本文首發(fā)于鈦媒體APP，作者 | 張帥，編輯 | 蓋虹達(dá)）
