財(cái)聯(lián)社8月31日訊（編輯 卞純）英國(guó)官員日前警告公司不要將人工智能（AI）聊天機(jī)器人整合到他們的業(yè)務(wù)中，稱(chēng)越來(lái)越多的研究表明，它們可能被誘騙執(zhí)行有害任務(wù)。
英國(guó)國(guó)家網(wǎng)絡(luò)安全中心（NCSC）在周三發(fā)表的兩篇博客文章中表示，專(zhuān)家們尚未掌握與可以生成類(lèi)似人類(lèi)互動(dòng)的算法（大型語(yǔ)言模型）相關(guān)的潛在安全問(wèn)題。
人工智能工具目前正以聊天機(jī)器人方式實(shí)現(xiàn)一些早期運(yùn)用，一些人設(shè)想，聊天機(jī)器人不僅可以取代互聯(lián)網(wǎng)搜索，還會(huì)取代客戶(hù)服務(wù)工作和電話銷(xiāo)售。
NCSC表示，這樣做可能帶來(lái)風(fēng)險(xiǎn)，尤其是如果此類(lèi)模型被嵌入公司的重要業(yè)務(wù)流程時(shí)。學(xué)者和研究人員已經(jīng)多次發(fā)現(xiàn)，如果輸入惡意指令或欺騙它繞過(guò)內(nèi)建的防護(hù)機(jī)制，就可以擾亂聊天機(jī)器人。
例如，如果黑客正確下達(dá)指令，那么銀行部署的AI聊天機(jī)器人可能會(huì)被誘騙執(zhí)行一筆未經(jīng)授權(quán)的交易。
“公司在利用大語(yǔ)言模型搭建服務(wù)時(shí)需要小心，就像它們?cè)谑褂锰幱跍y(cè)試階段的產(chǎn)品或代碼庫(kù)的時(shí)候一樣。”NCSC表示。“它們不會(huì)讓那種產(chǎn)品參與代表客戶(hù)進(jìn)行交易的工作，而且也不會(huì)完全信任這樣的產(chǎn)品。同樣的審慎也適用于大語(yǔ)言模型。”
AI安全成全球關(guān)注焦點(diǎn)
眼下，世界各國(guó)政府都在努力應(yīng)對(duì)大語(yǔ)言模型的崛起，比如OpenAI的ChatGPT，企業(yè)正在將其納入廣泛的服務(wù)中，包括銷(xiāo)售和客戶(hù)服務(wù)。人工智能的安全影響也成為人們關(guān)注的焦點(diǎn)，美國(guó)和加拿大當(dāng)局表示，他們已經(jīng)看到黑客采用了這項(xiàng)技術(shù)。
路透社/益普索最近的一項(xiàng)調(diào)查發(fā)現(xiàn)，許多企業(yè)員工都在使用ChatGPT這樣的工具來(lái)幫助完成基本任務(wù)，比如起草電子郵件、總結(jié)文件和進(jìn)行初步研究。
約10%的受訪者表示，他們的老板明確禁止使用外部人工智能工具，而四分之一的人不知道他們的公司是否允許使用這項(xiàng)技術(shù)。
網(wǎng)絡(luò)安全公司RiverSafe的首席技術(shù)官Oseloka Obiora表示，如果企業(yè)領(lǐng)導(dǎo)人未能引入必要的檢查，將人工智能融入商業(yè)實(shí)踐將產(chǎn)生“災(zāi)難性后果”。
“高管們應(yīng)該三思，而不是盲目追隨最新的人工智能趨勢(shì)。”他稱(chēng)。“評(píng)估收益和風(fēng)險(xiǎn)，并實(shí)施必要的網(wǎng)絡(luò)保護(hù)，以確保公司免受傷害。”
（財(cái)聯(lián)社 卞純）
