根據(jù)Juimo《2024在線身份研究報(bào)告》（簡(jiǎn)稱《報(bào)告》）對(duì)包括美國(guó)、英國(guó)、新加坡和墨西哥等在內(nèi)的多個(gè)國(guó)家超8000名消費(fèi)者的調(diào)研顯示：近四分之三的消費(fèi)者（72%）每天都擔(dān)心被深度偽造欺騙，從而泄露敏感信息或被騙金錢。只有15%的全球消費(fèi)者（新加坡只有7%）表示他們從未遇到過(guò)深度偽造的視頻、音頻或圖像。
深度偽造正在成為網(wǎng)絡(luò)欺詐的重點(diǎn)難題
伴隨著生成式AI的發(fā)展，AI技術(shù)在給帶來(lái)便捷的同時(shí)也被不法分子所利用，網(wǎng)絡(luò)犯罪的成本更低、效率更高，且更難被人們識(shí)破。奇安信集團(tuán)發(fā)布的《2024人工智能安全報(bào)告》中顯示，2023年基于AI的深度偽造欺詐暴增3000%，基于AI的釣魚(yú)郵件增長(zhǎng)1000%。
Jumio亞太區(qū)區(qū)域總監(jiān)丁娜娜告訴鈦媒體APP，深度偽造技術(shù)是數(shù)字世界的隱蔽“傀儡師”，他們操縱視覺(jué)內(nèi)容，通過(guò)使用強(qiáng)大的算法和人工智能實(shí)現(xiàn)”換臉”，并創(chuàng)建非常逼真但完全虛構(gòu)的視頻或圖像，從而捏造虛假現(xiàn)實(shí)。新興換臉技術(shù)的出現(xiàn)是深度偽造的又一次演變，涉及網(wǎng)絡(luò)犯罪分子結(jié)合現(xiàn)有視頻或直播的新方法，并在原始信息流上實(shí)時(shí)疊加另一個(gè)身份。
據(jù)統(tǒng)計(jì)，僅 2022年一年，冒名欺詐就給英國(guó)消費(fèi)者造成了 1.07 億英鎊的損失，給美國(guó)消費(fèi)者造成了 26 億美元的損失，給新加坡造成了 1.01 億新元的損失。
不僅于此，在中國(guó)，利用AI實(shí)施電信詐騙的案例也已屢見(jiàn)不鮮。2023年5月，內(nèi)蒙古包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起使用智能AI技術(shù)進(jìn)行電信詐騙的案件，福州市某科技公司法人代表郭先生10分鐘內(nèi)被騙430萬(wàn)元。
案件具體如下：4月20日中午，郭先生的好友突然通過(guò)微信視頻聯(lián)系他，自己的朋友在外地競(jìng)標(biāo)，需要430萬(wàn)元保證金，且需要公對(duì)公賬戶過(guò)賬，想要借郭先生公司的賬戶走賬。基于對(duì)好友的信任，加上已經(jīng)視頻聊天核實(shí)了身份，郭先生沒(méi)有核實(shí)錢款是否到賬，就分兩筆把430萬(wàn)轉(zhuǎn)到了好友朋友的銀行卡上。郭先生撥打好友電話，才知道被騙。騙子通過(guò)智能AI換臉和擬聲技術(shù)，佯裝好友對(duì)他實(shí)施了詐騙。
顯然，生成式AI技術(shù)的發(fā)展，已經(jīng)對(duì)線上交流的“信任度”造成了極大的沖擊。在企業(yè)側(cè)亦是如此，Gartner預(yù)測(cè)，到2026年，30%的企業(yè)將因?yàn)锳I生成的人臉生物識(shí)別深度偽造攻擊，而認(rèn)為此類身份認(rèn)證和驗(yàn)證解決方案不再能夠起到可靠的作用。
通過(guò)深度偽造技術(shù)，不法分子可偽造員工身份，進(jìn)而非法訪問(wèn)企業(yè)內(nèi)部系統(tǒng)。通過(guò)精心制作的偽造視頻和音頻，攻擊者可以模仿高層管理人員的面部表情、語(yǔ)氣甚至行為模式，從而增加對(duì)指令的信任度，實(shí)現(xiàn)非法操作或竊取敏感數(shù)據(jù)。這不僅可能導(dǎo)致企業(yè)遭受重大經(jīng)濟(jì)損失，還可能泄露核心商業(yè)機(jī)密，影響企業(yè)的競(jìng)爭(zhēng)力。
另一方面，Gartner預(yù)測(cè)，到2025年，生成式AI的采用將導(dǎo)致企業(yè)機(jī)構(gòu)所需的網(wǎng)絡(luò)安全資源激增，使應(yīng)用和數(shù)據(jù)安全支出增加15%以上。
用AI抵抗AI
面對(duì)AI帶來(lái)的日益嚴(yán)峻的安全挑戰(zhàn)，“用AI抵抗AI”已經(jīng)成為安全行業(yè)的共識(shí)，“面對(duì)AI大模型時(shí)代的深度偽造技術(shù)欺詐，我們建議企業(yè)使用先進(jìn)的人工智能和生物識(shí)別分析來(lái)防范和對(duì)抗，”丁娜娜告訴鈦媒體APP，“為了防止深度偽造，解決方式是必須控制自拍過(guò)程并拍攝一系列圖像，以確定該人是否真實(shí)存在并保持清醒，而不是睡眠狀態(tài)，不是面具、照片或視頻，也不是深度偽造。”
從企業(yè)角度出發(fā)，企業(yè)應(yīng)該將基于機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的圖像、視頻、音頻檢測(cè)算法等在內(nèi)的技術(shù)引入到自身安全系統(tǒng)之中，這些技術(shù)可以幫助識(shí)別出偽造內(nèi)容，從而減少虛假信息的傳播。
在丁娜娜看來(lái)，真實(shí)性檢測(cè)步驟必須使用先進(jìn)的AI和機(jī)器學(xué)習(xí)模型，而這些模型已經(jīng)通過(guò)各種真實(shí)世界數(shù)據(jù)的訓(xùn)練�！斑@一步對(duì)于阻止欺詐者絕對(duì)至關(guān)重要，因?yàn)槠墼p者現(xiàn)在可以輕而易舉地制造出非常逼真的深度偽造照片，輕松騙過(guò)舊的身份驗(yàn)證技術(shù)�！倍∧饶葟�(qiáng)調(diào)。與此同時(shí)，自拍驗(yàn)證步驟還應(yīng)該提供其他生物識(shí)別檢查，如年齡評(píng)估，以標(biāo)記與身份證件數(shù)據(jù)不符的自拍照。
通過(guò)活體檢測(cè)技術(shù)，企業(yè)可以發(fā)現(xiàn)復(fù)雜的攻擊，包括人臉交換、人臉變形和其他高級(jí)的欺騙攻擊。不僅于此，在丁娜娜看來(lái)，企業(yè)還應(yīng)當(dāng)采用包括主動(dòng)光源、視頻注入檢測(cè)以及眼部和面部運(yùn)動(dòng)分析等在內(nèi)的先進(jìn)技術(shù)，阻止攻擊，并確認(rèn)當(dāng)前用戶及其身份證件確實(shí)存在�！皩�(duì)于Jumio來(lái)說(shuō)，我們能夠基于面部的生物識(shí)別技術(shù)將自拍照中的特定面部特征（如眼睛、鼻子和耳朵的間距）與身份證件照片中的面部特征進(jìn)行比較，來(lái)判斷兩者是否為同一個(gè)人�！倍∧饶戎赋觥�
以金融行業(yè)為例，金融行業(yè)在傳統(tǒng)的eKYC（基于區(qū)塊鏈的企業(yè)電子身份認(rèn)證信息系統(tǒng)）之外，結(jié)合生物識(shí)別認(rèn)證技術(shù)將有助于增強(qiáng)安全性。例如，驗(yàn)證用戶的個(gè)人身份信息 (PII)、驗(yàn)證年齡、評(píng)估用戶電子郵件和電話號(hào)碼的信用級(jí)別、通過(guò) IP 地址驗(yàn)證用戶的位置，評(píng)估設(shè)備的可信度以評(píng)估用戶的風(fēng)險(xiǎn)等級(jí)。擁有高度準(zhǔn)確和主動(dòng)化的身份驗(yàn)證解決方案，將有助于實(shí)時(shí)攔截可疑交易并迅速采取適當(dāng)?shù)男袆?dòng)。對(duì)于出海企業(yè)來(lái)說(shuō)，還需要考慮不同國(guó)家和地區(qū)的客戶盡調(diào)標(biāo)準(zhǔn)和跨境支付工作流程。
40+模型接入，黑名單數(shù)據(jù)庫(kù)......讓客戶轉(zhuǎn)化率提升40%
通過(guò)AI模型的技術(shù)，能讓企業(yè)在進(jìn)行eKYC時(shí)，效率更高，準(zhǔn)確率更高，線上用戶提供自拍進(jìn)行人臉身份認(rèn)證登入賬號(hào)，增強(qiáng)了平臺(tái)的安全性的同時(shí)，還可以確保KYC的合規(guī)性。
以Jumio的eKYC身份證件驗(yàn)證系統(tǒng)為例，該系統(tǒng)擁有200余個(gè)國(guó)家，超5000款證件的模板，并接入了40多個(gè)機(jī)器學(xué)習(xí)模型，并且依托于全球第二大黑名單數(shù)據(jù)庫(kù)。據(jù)丁娜娜介紹，通過(guò)自動(dòng)化在線身份驗(yàn)證技術(shù)，用戶可以在幾秒內(nèi)就能完成KYC流程，從而提升用戶體驗(yàn)和客戶轉(zhuǎn)化率約40%。與此同時(shí)，實(shí)施線上身份驗(yàn)證解決方案后，對(duì)于跨境的企業(yè)而言，可以在保持低運(yùn)營(yíng)成本的同時(shí)，在全球范圍內(nèi)招攬更多的用戶。
而面對(duì)鈦媒體APP提出的，用戶是采用本地化部署，還是云付費(fèi)的模式時(shí)，Jumio亞太區(qū)副總裁Frederic Ho則表示，無(wú)論是采用哪家提供的eKYC服務(wù)，用戶使用該服務(wù)的最好的方式還是采用云計(jì)算的模式，“有些用戶會(huì)在交付的時(shí)候，提出交付eKYC系統(tǒng)的方式，但這類方式讓企業(yè)只能看到公司內(nèi)部的數(shù)據(jù)，以及安全趨勢(shì)，”Frederic Ho指出，“而采用云的方式，企業(yè)可以實(shí)時(shí)掌握全球的安全趨勢(shì)，并具備全域數(shù)據(jù)訓(xùn)練出的模型能力�！�（本文首發(fā)于鈦媒體APP，作者｜張申宇，編輯丨蓋虹達(dá)）
「關(guān)于創(chuàng)新場(chǎng)景50」
場(chǎng)景不是案例，它更加精準(zhǔn)、也更加抽象。數(shù)字化就是創(chuàng)新場(chǎng)景的不斷疊加和迭代。
在此背景下，鈦媒體重磅推出「創(chuàng)新場(chǎng)景50」評(píng)選，每年遴選并解讀50個(gè)全行業(yè)與業(yè)務(wù)深度融合的創(chuàng)新性場(chǎng)景及其解決方案，并在鈦媒體年度ITValue Summit 數(shù)字價(jià)值年會(huì)上隆重頒獎(jiǎng)、深度交流。
目前場(chǎng)景正在征集中，更精準(zhǔn)的解讀、更廣泛的曝光、更強(qiáng)大的品牌勢(shì)能，歡迎你提出問(wèn)題，更歡迎你留下解決的方法和工具。
