本報記者 曲忠芳 北京報道
“大語言模型最后要變成應(yīng)用來提供服務(wù)，怎么樣讓大語言模型為企業(yè)內(nèi)不同的人提供不同的API（應(yīng)用程序編程接口），以前是靠應(yīng)用程序和網(wǎng)絡(luò)邊界來隔離的，現(xiàn)在網(wǎng)絡(luò)邊界已經(jīng)不足夠了，網(wǎng)絡(luò)邊界只是用戶認(rèn)證的基礎(chǔ)條件，大語言模型的出現(xiàn)加速了零信任在企業(yè)中的落地。”近日，亞馬遜云科技大中華區(qū)解決方案架構(gòu)部總監(jiān)代聞如是表示。
《中國經(jīng)營報》記者了解到，今年以來，生成式AI及AI大模型大爆發(fā)，各個行業(yè)領(lǐng)域的企業(yè)在業(yè)務(wù)催生旺盛需求的同時，技術(shù)部門也面臨著前所未有的挑戰(zhàn)。據(jù)國際開源安全組織OWASP報告，大語言模型面臨十大威脅，包括數(shù)據(jù)泄露、訓(xùn)練數(shù)據(jù)污染、人工智能調(diào)整能力不足、錯誤處理不當(dāng)、訪問控制不足等等。就在今年年初，接連出現(xiàn)生成式AI應(yīng)用的數(shù)據(jù)泄露事件，泄露的內(nèi)容涵蓋產(chǎn)品的良品率、代碼、會議內(nèi)容等。另據(jù)最新的《人工智能在電子郵件安全中的作用》報告，網(wǎng)絡(luò)罪犯正在迅速采用AI工具以推動其利益，有91.1%的受訪組織稱已遭受到被AI增強(qiáng)的電子郵件攻擊。
不難看出，生成式AI所帶來的安全問題已刻不容緩。全球網(wǎng)絡(luò)安全巨頭派拓網(wǎng)絡(luò)（Palo Alto Networks）大中華區(qū)技術(shù)總監(jiān)董春濤在接受記者采訪時指出，生成式AI技術(shù)發(fā)展在安全領(lǐng)域催生了新的變化與思考，這表現(xiàn)在三個方面：一是數(shù)據(jù)的價值凸顯，數(shù)據(jù)是AI最核心的因素，擁有高質(zhì)量的數(shù)據(jù)才能更好地利用AI新技術(shù)；二是在公有云開展安全解決方案，對AI能力的賦能提供了便利條件；三是企業(yè)的安全防護(hù)需求，已從原先的碎片化轉(zhuǎn)向平臺化、系統(tǒng)化。
“生成式AI應(yīng)用就像是海面上的冰川，我們想要在企業(yè)里安全地駕馭這項(xiàng)新技術(shù)，還需要關(guān)注海面下的冰川。”代聞解釋道，從構(gòu)建生成式AI開始，就需要把安全作為企業(yè)AI戰(zhàn)略發(fā)展中的核心環(huán)節(jié)。那么應(yīng)該從哪里開始？依靠一個什么樣的框架？“這要求我們不能只是關(guān)注AI應(yīng)用本身，而是要從一個全棧的角度，去全面審視應(yīng)用、模型、數(shù)據(jù)、基礎(chǔ)架構(gòu)的安全規(guī)范、技術(shù)策略和平臺工具。”
對此，亞馬遜云科技建立了零信任體系，包括身份認(rèn)證、可信網(wǎng)絡(luò)，以及高顆粒度的權(quán)限管理以及審計(jì)。
需要指出的是，“零信任”理念在當(dāng)前網(wǎng)絡(luò)安全領(lǐng)域非常熱門和流行。傳統(tǒng)安全防護(hù)是基于邊界的“看大門式”防護(hù)，即在網(wǎng)絡(luò)邊界部署防火墻、IPS（入侵防御系統(tǒng)）等安全設(shè)備，也就是說“門口看得緊，進(jìn)門隨便玩”，一次驗(yàn)證后再不過問，然而隨著業(yè)務(wù)上云、遠(yuǎn)程辦公、智能物聯(lián)網(wǎng)及數(shù)字化轉(zhuǎn)型等趨勢，網(wǎng)絡(luò)邊界被打破，內(nèi)外部威脅加劇，這樣以往那種“大門口一次驗(yàn)證”的方式已完全不夠，由此零信任應(yīng)運(yùn)而生。在亞馬遜云科技看來，在大模型時代中，需要將零信任與網(wǎng)絡(luò)控制結(jié)合起來，零信任能夠?qū)崿F(xiàn)按需的授權(quán)和認(rèn)證，與網(wǎng)絡(luò)控制結(jié)合才能夠?qū)崿F(xiàn)企業(yè)端到端的應(yīng)用安全。
對于構(gòu)建AI應(yīng)用來說，數(shù)據(jù)和模型安全是關(guān)鍵。為了給生成式AI提供高質(zhì)量的數(shù)據(jù)支持，亞馬遜云科技提供了貫穿生成式AI全周期的數(shù)據(jù)治理從數(shù)據(jù)源的獲取到數(shù)據(jù)的存儲和查詢，再到將數(shù)據(jù)傳輸給 AI平臺進(jìn)行模型的訓(xùn)練、調(diào)優(yōu)和推理，以及全面實(shí)施數(shù)據(jù)分類和治理。針對高質(zhì)量的數(shù)據(jù)，亞馬遜云科技有兩個保護(hù)重點(diǎn)，即防止數(shù)據(jù)泄露和防止數(shù)據(jù)篡改，推出了敏感數(shù)據(jù)保護(hù)解決方案，利用機(jī)器學(xué)習(xí)、模式匹配的方式自動識別敏感數(shù)據(jù)，并提供可視化面板，幫助客戶對敏感數(shù)據(jù)進(jìn)行管理和保護(hù)。
IDC中國研究總監(jiān)王軍民指出，IDC 在調(diào)研中發(fā)現(xiàn)企業(yè)組織在整個的數(shù)字化轉(zhuǎn)型過程中，對于網(wǎng)絡(luò)安全的擔(dān)憂是最大的。“安全是全球最高管理層數(shù)字化舉措面臨的最大障礙，因此安全也是最高管理層技術(shù)投資的關(guān)鍵任務(wù)，尤其是云計(jì)算市場在全球的快速發(fā)展極大推動了客戶對IT安全軟件及服務(wù)的需求。亞馬遜云科技用高標(biāo)準(zhǔn)的安全理念，不斷提升安全合規(guī)能力及標(biāo)準(zhǔn)。”
“安全與AI驅(qū)動的業(yè)務(wù)發(fā)展是伴生關(guān)系”
“近年來能夠看到，當(dāng)經(jīng)濟(jì)下行時，安全領(lǐng)域的企業(yè)往往在向上發(fā)展，這是一個趨勢。”董春濤向記者表示，從企業(yè)IT支出中，安全常年以來都屬于一個小眾的組成部分附著在IT部門里，大部分的組織結(jié)構(gòu)采取的是CEO（首席執(zhí)行官）CIO（首席信息官）CISO（首席信息安全官）的模式。而現(xiàn)在，生成式AI的出現(xiàn)改變了IT組織結(jié)構(gòu)，對于企業(yè)數(shù)字化起到了催化劑的作用。在生成式AI主導(dǎo)的業(yè)務(wù)促進(jìn)過程中，安全會是一個伴生關(guān)系，突破了原來的傳統(tǒng)IT范疇。與此同時，這一趨勢對于整個安全從業(yè)及服務(wù)人員來說也將是一個促進(jìn)因素，因?yàn)樗麄兛赡軙嗟嘏c業(yè)務(wù)負(fù)責(zé)人談?wù)摪踩膹?fù)雜性。
IDC數(shù)據(jù)顯示，今年全球安全解決方案和服務(wù)支出預(yù)計(jì)將達(dá)到2190億美元，相比去年增長12.1%。在網(wǎng)絡(luò)攻擊的持續(xù)威脅、提供安全混合工作環(huán)境的需求以及滿足數(shù)據(jù)隱私和治理要求的需求的推動下，與網(wǎng)絡(luò)安全相關(guān)的硬件、軟件和服務(wù)的投資預(yù)計(jì)到 2026年將達(dá)到近3000億美元。
董春濤介紹，派拓網(wǎng)絡(luò)自2018年開始全面擁抱云，通過與亞馬遜云科技的合作，將單一產(chǎn)品擴(kuò)展至平臺化產(chǎn)品，涵蓋網(wǎng)絡(luò)安全、云原生安全、運(yùn)營安全，威脅情報和咨詢，提供完善的綜合安全解決方案。在亞馬遜云科技中國區(qū)域落地的Prisma Cloud和Prisma SASE，為中國企業(yè)帶來更多元化的安全解決方案；讓跨國企業(yè)使用中國區(qū)域時能夠保持全球一致的安全體驗(yàn)，高效植根中國。以某跨國制造業(yè)公司為例，通過采用Prisma Cloud獲得與亞馬遜云科技的安全日志和服務(wù)實(shí)現(xiàn)整合和統(tǒng)一的安全可視性，覆蓋所有云上資源，在6個月內(nèi)將警報數(shù)量從1.5萬個減少到 2500個，將歐盟《通用數(shù)據(jù)保護(hù)條例》（GDPR）、PCI合規(guī)報告等簡化為一鍵式，在 30 秒或更短的時間內(nèi)加入新的云賬戶以支持業(yè)務(wù)快速擴(kuò)張。
“AI觸動了企業(yè)管理者的思想轉(zhuǎn)變，AI是以多項(xiàng)技術(shù)為支撐的，不是一個簡單的東西。所以在這個過程中，安全從業(yè)者就會逐漸把每一個技術(shù)領(lǐng)域里面的安全技術(shù)融進(jìn)去，因此不再是一個‘頭痛醫(yī)頭，腳痛醫(yī)腳’的過程了。”董春濤指出，“安全項(xiàng)目原來就是一個防火墻，或者是幾個終端方的證書，而現(xiàn)在已經(jīng)變成了一個大型的項(xiàng)目、一個自上而下的場景了。”
（編輯：吳清 校對：翟軍）
