編者按：AI大模型的蓬勃發(fā)展將深刻影響網(wǎng)絡安全產(chǎn)業(yè)，未來可能會催生一些新的安全敞口和攻擊手段，網(wǎng)絡安全產(chǎn)業(yè)將面臨全新的機遇和挑戰(zhàn)。近日，騰訊安全提出的“數(shù)字安全免疫力”理念受到廣泛關(guān)注。“數(shù)字安全免疫力”究竟是什么？面對網(wǎng)絡安全產(chǎn)業(yè)發(fā)展的新趨勢、新特點，企業(yè)應該如何打造自身“數(shù)字安全免疫力”？怎樣應對以AI大模型為代表的新技術(shù)帶來的潛在安全風險？6月13日，中國電子報總編輯胡春民與騰訊集團副總裁、騰訊安全總裁丁珂圍繞上述問題進行了深度對話。
對話人：
騰訊集團副總裁、騰訊安全總裁 丁珂
中國電子報總編輯 胡春民
時 間：2023年6月13日
地 點：北京嘉里大酒店
新技術(shù)與網(wǎng)絡安全正處于博弈關(guān)鍵期
胡春民：當前，網(wǎng)絡安全受到了高度重視，同時這個產(chǎn)業(yè)也在高速成長中。作為深耕行業(yè)的專家，你認為這幾年網(wǎng)絡安全行業(yè)發(fā)生了哪些變化？有什么特征？
丁 珂：作為一個從業(yè)者，首先，我最大的感觸是現(xiàn)階段網(wǎng)絡安全發(fā)展還處在一個強規(guī)范的周期中，得益于國家層面積極部署、法律法規(guī)的不斷健全，網(wǎng)絡安全相關(guān)邊界以及集體性、系統(tǒng)性的思考比以前進步了很多。
其次，網(wǎng)絡安全的定義正在從傳統(tǒng)的邊界安全以保護辦公流程為主用途，逐漸向保護企業(yè)核心資產(chǎn)的方向發(fā)展。同時，網(wǎng)絡安全已經(jīng)滲透到供應鏈管理、風控反欺詐、客戶優(yōu)質(zhì)數(shù)據(jù)資產(chǎn)和業(yè)務資產(chǎn)保護等核心業(yè)務場景之中。伴隨企業(yè)自身數(shù)字化能力進一步增強，大家對網(wǎng)絡安全的定義、建設的范式和創(chuàng)新技術(shù)要求也在與時俱進。
最后，在網(wǎng)絡安全技術(shù)解決方案方面，本土安全廠商的自主創(chuàng)新能力與水平不斷提升。尤其值得一提的是，AI大模型的蓬勃發(fā)展將為網(wǎng)絡安全產(chǎn)業(yè)帶來大變量，未來可能會催生一些新的安全敞口和攻擊手段，從而倒逼網(wǎng)絡安全產(chǎn)業(yè)的快速演進。比如，AIGC（生成式人工智能）可能會讓以前需要人工編排的釣魚郵件等攻擊方式門檻大幅降低，也可能會讓詐騙視頻中的臉和聲音以假亂真。這個過程是攻防雙方博弈的關(guān)鍵時期。
胡春民：近年來，網(wǎng)絡安全事件層出不窮，涉及互聯(lián)網(wǎng)、金融、汽車等各行各業(yè)，與日常生產(chǎn)、生活場景息息相關(guān)。請問這些網(wǎng)絡安全事件呈現(xiàn)了哪些新特點？
丁 珂：這幾年，網(wǎng)絡安全事件在全球范圍內(nèi)愈演愈烈。最常見的一類是以違法獲取企業(yè)所屬的用戶數(shù)據(jù)資產(chǎn)和隱私為手段，達到勒索、詐騙的目的，相關(guān)黑產(chǎn)逐步形成和擴大。實際上，黑灰產(chǎn)、不法黑客的技術(shù)手段演進得非�？臁C年代最早出現(xiàn)的病毒“蠕蟲”其實原本是一個用來炫技的惡作劇，而發(fā)展到今天，攻擊方明顯變得越來越趨利了。公開數(shù)據(jù)顯示，到2031年，全球因勒索軟件造成的損失將超過2650億美元。
目前來看，比較典型的網(wǎng)絡攻擊主要有兩類：一類是DDoS拒絕服務攻擊。黑灰產(chǎn)或者網(wǎng)絡罪犯以低成本的大流量攻擊式訪問目標服務器，導致線上服務在短時間內(nèi)宕機，3~4個小時內(nèi)讓用戶不能連接服務器，給企業(yè)造成巨大的經(jīng)營損失，這類攻擊在金融服務和電商、在線游戲等服務里比較常見；另一類是數(shù)據(jù)泄露。企業(yè)數(shù)據(jù)資產(chǎn)的價值越來越高，如果防護手段不足的話，一旦這些數(shù)據(jù)泄露出來，企業(yè)容易被勒索，流出去的數(shù)據(jù)又會形成次生災害，導致嚴重后果。
胡春民：網(wǎng)絡安全事件頻發(fā)給行業(yè)帶來了哪些改變？能否以工業(yè)制造業(yè)為例談一談新變化、新趨勢？
丁 珂：網(wǎng)絡安全涉及的領域越來越多，根本性的原因在于千行百業(yè)的數(shù)字化程度越來越高。傳統(tǒng)觀念中制造業(yè)的數(shù)字化程度不高，但其實并非如此。哪怕是做一些電子零配件的制造企業(yè)，也已實現(xiàn)了設計圖、用戶資料等有價值數(shù)據(jù)的線上化。
智能工廠正在由傳統(tǒng)的工業(yè)制造向工業(yè)4.0的方向升級，然而坦率地講，多數(shù)智能工廠仍處于數(shù)字化的階段，更多的是把數(shù)字化變成傳統(tǒng)企業(yè)管理流程的輔助工具，而不是真正意義上的把人流、物流、信息流與營銷關(guān)聯(lián)在一起，這個行業(yè)領域的安全管控和安全態(tài)勢仍處在成長階段。
智能網(wǎng)聯(lián)汽車是一個新課題，也是一個復合性的課題。它不僅是簡單的制造，而是大規(guī)模應用了智能駕駛、實時路況判斷等各種數(shù)字化能力，車輛控制系統(tǒng)需要上傳實時數(shù)據(jù)，導航也要跟云端強交互，因此存在諸多安全隱患。
騰訊和國內(nèi)絕大多數(shù)的汽車制造新勢力、轉(zhuǎn)型的傳統(tǒng)汽車廠商建立了深度合作。早在2016年，騰訊安全科恩實驗室就曾以“遠程無物理接觸”的方式成功進入了特斯拉的網(wǎng)絡安全系統(tǒng)，彼時在全球尚屬首次。簡單地說，研究人員只需坐在辦公室，就能通過技術(shù)手段干擾智能汽車的傳感器和算法，從而實現(xiàn)解鎖車輛、調(diào)節(jié)轉(zhuǎn)向燈、突然剎停等遠程控制�？贫鲗嶒炇覍l(fā)現(xiàn)的所有漏洞細節(jié)都提交給了特斯拉官方，特斯拉安全團隊也在第一時間展開了對漏洞的修復工作。后來，騰訊安全也深入?yún)⑴c到車廠智能系統(tǒng)、車機、智能駕駛等的開發(fā)過程中，通過深入合作排除一些潛在的安全問題。
安全防御思路逐漸從“被動”轉(zhuǎn)為“主動”
胡春民：伴隨網(wǎng)絡攻擊手段不斷發(fā)生變化，網(wǎng)絡安全企業(yè)和網(wǎng)絡安全市場的著力點有沒有發(fā)生改變？
丁 珂：第一，企業(yè)安全保護范圍更加偏向于頭部資產(chǎn)，比如企業(yè)數(shù)據(jù)資產(chǎn)和用戶隱私數(shù)據(jù)�，F(xiàn)在很多的企業(yè)，尤其是互聯(lián)網(wǎng)企業(yè)，最值錢的資產(chǎn)就是用戶數(shù)據(jù)、交易行為、活躍度等。因此在做安全建設、體系化規(guī)劃時，會把以前簡單的純邊界防護，調(diào)整到以數(shù)據(jù)作為安全防御的核心。
第二，業(yè)務安全、業(yè)務風控變成了企業(yè)安全保護的關(guān)鍵范疇。事實上，企業(yè)現(xiàn)在的業(yè)務，跟企業(yè)核心的資產(chǎn)流、供應鏈、信息流、物流以及跟客戶是沒有辦法完全隔絕的，所以像防火墻、內(nèi)外網(wǎng)隔絕等傳統(tǒng)的安全防護手段正在失效。最近幾年，我們已經(jīng)進入了“復合驅(qū)動”的安全時代，在國家政策、網(wǎng)絡安全形勢、企業(yè)需求等多方因素的復合驅(qū)動下，安全防護思路和手段也在隨之變化。
第三，主動防御思路正在被越來越多的企業(yè)用戶所接受與認可。首先要明確企業(yè)核心數(shù)據(jù)資產(chǎn)是什么，安全邊界在哪里，每個人的權(quán)限是怎樣的，并在這個基礎上動態(tài)地根據(jù)安全事件去反應，這樣才能讓整體的安全防御思路變“被動”為“主動”。
胡春民：包括人工智能、量子計算、5G、Web3.0等在內(nèi)的很多新技術(shù)，對網(wǎng)絡安全產(chǎn)生哪些新的挑戰(zhàn)？
丁 珂：每一項新技術(shù)對整個數(shù)字系統(tǒng)都會帶來新的變量，而且會帶來不同的影響。相較之下，以GPT為代表的AI大模型的發(fā)展，對我們這些安全從業(yè)人員的震撼是最大的。之前一直感覺大模型可能是十年一遇或者二十年一遇的新技術(shù)挑戰(zhàn)和機會，但是隨著研究的深入，越來越感覺它很可能是一個百年一遇的新機遇和挑戰(zhàn)。
不過，大模型在國內(nèi)落地應用所面臨的第一道坎，就在于它的內(nèi)容合規(guī)性、合法性以及能否符合文化道德的要求。當模型大到一定程度的時候，首先模型的可解釋性難度就非常大，一旦出現(xiàn)問題，將很難溯源或者調(diào)整。其次，大模型還很容易受到“Prompt攻擊”（誘導注入攻擊），即使用者通過反復、多次提醒對大模型進行引導，可能會使模型給出不合適的答案。這些不完全是技術(shù)問題，還需要有法律法規(guī)的界定。
其實，大模型的能力在安全應用的潛力還遠遠沒有被完全挖掘出來。比如可以給模型一類病毒或者一類攻擊方法的數(shù)據(jù)讓它去學習，它可以做出很多類似的東西，它的學習能力是非常強的。但是如果這種能力被反過來利用，所產(chǎn)生的破壞力也非常大。騰訊安全的多個前沿實驗室目前正在探索應該如何防御此類攻擊。
胡春民：大模型在建設初期的時候，安全問題是不是要前置？
丁 珂：不僅像騰訊安全這樣的安全廠商在考慮大模型帶來的安全風險，還有很多GPT大模型廠商本身都在拉高前置安全的門檻。國內(nèi)廠商對大模型生成內(nèi)容安全的要求，會比國外走得更快。其實GPT只是一個效率非常高的工具，怎么用它，如何制定規(guī)則，尤其是建立類似免疫力的規(guī)則，現(xiàn)在我們?nèi)蕴幱谇捌谂囵B(yǎng)階段，需要逐步完善。
胡春民：Web3.0的安全難點在什么地方？
丁 珂：Web3.0最大的技術(shù)難點是，由于去中心化導致安全風險也會分散，一旦中樞節(jié)點被綁架，會讓整個鏈條產(chǎn)生風險。在巨大的利益下，黑灰產(chǎn)很容易利用新技術(shù)去發(fā)動更有殺傷力的攻擊，頻發(fā)的安全事件很可能會讓人們對這個新技術(shù)的信任基礎變得非常薄弱，特定場景中的信任度會大受影響�，F(xiàn)階段，Web3.0在管理上存在主責缺失的問題，只有先明確責任主體，才能開展業(yè)務。
“數(shù)字免疫力”怎么理解？如何建設？
胡春民：騰訊安全提出的“數(shù)字安全免疫力”概念應該如何理解？能不能分享一些具體案例？
丁 珂：“數(shù)字安全免疫力”的主體是企業(yè)。企業(yè)數(shù)字化快速發(fā)展的過程就像一個人在逐漸長大，面對的風險越來越大，可能會接觸到的病毒越來越多。構(gòu)建“數(shù)字安全免疫力”的核心是清晰界定自身的核心價值，并建立一套有針對性的防御機制。首先要從端點安全、邊界安全和應用開發(fā)等維度，設置安全防御邊界，做到“皮膚級別”的安全防護。然后逐步往內(nèi)，威脅情報和安全運營管理體系就像是人體血液里的白血球一樣，可以時刻幫你監(jiān)測周圍情況，做好提前預防，或者及時處置。
企業(yè)核心數(shù)據(jù)資產(chǎn)就相當于人的內(nèi)臟和大腦，業(yè)務流轉(zhuǎn)就像是運動系統(tǒng)、肌肉系統(tǒng)等的運轉(zhuǎn)，這一類系統(tǒng)都會有相應的安全能力和工具。相較于以前，最大的不同是一旦碰到安全風險問題，體內(nèi)的免疫機制會自發(fā)地把風險排除在體外，或者把入侵傷害控制在很小的范圍，并進行及時處理，這是我們基于免疫力的新安全范式的相關(guān)思考。
騰訊自身有超過20多年構(gòu)建安全體系的經(jīng)驗，基本是按照“數(shù)字安全免疫力”建設的思路在做。由于騰訊有比較豐富的業(yè)務形態(tài)，比如互娛類、內(nèi)容類、即時通信類等，我們對自身核心的數(shù)據(jù)資產(chǎn)做了清晰的界定和用戶隱私保護，這個機制相當于在血液里面已經(jīng)形成了白血球。同時，我們構(gòu)建了云原生體系，從最初的系統(tǒng)底層建設開始，再到數(shù)據(jù)的流轉(zhuǎn)，以及業(yè)務流程設計等方面，都在層層免疫，做到了“細胞級”的安全防御等級。
同時，我們也把這種安全服務提供給客戶，幫助他們建立“數(shù)字安全免疫力”。比如順豐，其業(yè)務特征導致其有龐大的終端接入量，業(yè)務流程復雜，易受攻擊。通過在零信任應用、終端權(quán)限分類、邊界保護等方面的合作，我們幫助順豐形成了原生型的安全能力，快速提升了企業(yè)內(nèi)部的安全免疫力。另外一個例子是江蘇銀行，銀行系統(tǒng)特殊的業(yè)務屬性導致其交易都很閉環(huán)，容易做數(shù)據(jù)模型。我們用聯(lián)邦學習建模的方法幫助他們提升風控效率，經(jīng)過模型判定是否批貸以及批貸的額度，有效提升了其貸款效率，促進了銀行業(yè)務的健康發(fā)展。
胡春民：在AI時代，你對企業(yè)首席安全官（CSO）的工作有什么建議？
丁 珂：國內(nèi)大企業(yè)的CSO群體這兩年成長很快，在專業(yè)能力上相對成熟。但在有些領域，尤其是從傳統(tǒng)行業(yè)轉(zhuǎn)向數(shù)字化時，可能普遍面臨兩個鴻溝：一方面，在整體信息化規(guī)劃時，對數(shù)字資產(chǎn)、業(yè)務資產(chǎn)核心定位缺乏意識，對安全投入也不夠充分。很多企業(yè)早期在做IT預算的時候會把安全當成投入項，不重視、不投入。然而過了一段時間就會發(fā)現(xiàn)安全非常重要，這時候再基于安全的目標重組數(shù)字化系統(tǒng)，拆舊建新的成本非常高，系統(tǒng)也非常地復雜。所以安全建設必須提前規(guī)劃，明確資產(chǎn)核心價值，把安全變成一件常抓不懈的事。
另一方面，在構(gòu)建網(wǎng)絡安全體系時，傳統(tǒng)的慣性思維還是要建防火墻，通過把內(nèi)網(wǎng)封住來保障數(shù)據(jù)安全。但實際上，現(xiàn)代企業(yè)的業(yè)務不可避免地會與用戶產(chǎn)生海量的數(shù)據(jù)交互，數(shù)據(jù)泄露防不勝防。所以我們需要“數(shù)字安全免疫力”這樣一個全新的安全范式，尤其是在前期信息化建設階段就要聯(lián)動布局、綜合考慮。
“數(shù)字安全免疫力”并非是一套工具，也不是面向企業(yè)銷售的一套安全產(chǎn)品，而是我們和數(shù)千位CSO、數(shù)十位行業(yè)專家學者共同提出的一套安全建設范式。它更像是一套“教材”，讓企業(yè)管理層按照這套學習方法逐步建立自身具有彈性、自適應、可擴展的安全能力，從源頭出發(fā)，徹底解決被動安全防御的問題，為企業(yè)長期穩(wěn)定發(fā)展提供支撐。
作者丨宋婧
編輯丨劉晶
美編丨馬利亞
視頻丨彭東浩
監(jiān)制丨趙晨
