北京商報訊（記者劉四紅實習記者董晗萱）5月21日，在2023清華五道口全球金融論壇上，北京瑞萊智慧科技有限公司（以下簡稱“瑞萊智慧”）高級副總裁朱萌發(fā)言。
朱萌指出，發(fā)現很多金融機構的人臉識別系統(tǒng)存在被假臉識別和特殊花紋破解的安全問題，這些都是金融機構被實際樣本攻擊的案例。
那如何應對大模型時代的AI安全風險？朱萌進一步提出了穩(wěn)固三角形的概念，即構建“智能測評、攻擊應對以及AI安全防御”的三角模型。從發(fā)現風險、處置風險和防范風險三個視角，系統(tǒng)提升金融領域在新技術條件下的安全水平。
發(fā)現風險就是對人工智能的系統(tǒng)展開安全評測，這是當前的一個重點、也是一個難點。瑞萊智慧發(fā)揮了過去幾十年在人工智能安全領域積攢的經驗，采用檢測方法，及時發(fā)現所有人工智能模型的弱點。簡單來說就是提前發(fā)現，防止這些模型帶病上線、帶病上崗。
第二是處置風險。通過構建人工智能安全防火墻措施，形成針對各類對抗攻擊或者數據投毒等新時代攻擊方法的應對能力，并且不斷地根據攻擊方法形成新的應對方法。
第三是防范風險。針對未來預期到的大規(guī)模人工智能研發(fā)將應用在實際的工作場景中，瑞萊智慧構建了人工智能安全的靶場，使得安全因子貫穿整個人工智能的研發(fā)和過程當中，從源頭上提升人工智能的安全防御能力。
朱萌表示，金融領域網絡安全的風險伴隨著人工智能的技術發(fā)展進入到大模型時代之后，安全風險、維度、影響范式都可能和過去的網絡時代不一樣，必須提早應對，避免出現能力代差。未來人工智能在保障產業(yè)發(fā)展、社會安全、生活安全中都會成為剛需。聚焦到金融領域，要持續(xù)加強工作，打造精細化、自動化、標準化的能力，聯合金融機構、科技提供方，積極參與人工智能安全金融行業(yè)標準和規(guī)范研討，為行業(yè)的安全可控發(fā)展貢獻力量。
