本報(bào)記者 杜麗娟 北京報(bào)道
機(jī)器是否能夠思考？這是哲學(xué)家經(jīng)常爭議的一個話題，伴隨生成式AI的出現(xiàn)，這一問題正在變得不再有意義。
“由于計(jì)算能力的增強(qiáng)以及代碼的優(yōu)化，生成式AI技術(shù)可以在許多方面模仿人類的認(rèn)知能力。無論它在哲學(xué)意義上是否具備智能，從實(shí)際意義上來說，它確實(shí)具備了這種能力。”德勤中國管理咨詢合伙人韓光輝在回應(yīng)《中國經(jīng)營報(bào)》記者時說。
近年來，從ChatGPT到國產(chǎn)AI大模型Kimi的爆火，生成式機(jī)器正在應(yīng)用于我們生活的各個方面。然而，生成式AI究竟開啟了什么樣的商業(yè)世界，目前仍有不同觀點(diǎn)。
韓光輝認(rèn)為，在工業(yè)環(huán)境中，生成式AI可以實(shí)現(xiàn)生產(chǎn)力和生產(chǎn)效率的大幅提升。由于機(jī)器可以像人類一樣行動，理解和敘述，這種能力從更廣泛的意義上看，將不斷影響商業(yè)環(huán)境和我們生活的世界。
“隨著AI工具的大量涌現(xiàn)，通過網(wǎng)絡(luò)進(jìn)行假冒與欺詐變得非常簡單，目前許多人正在使用深度偽造技術(shù)繞過基于聲音和面部識別的訪問控制，或進(jìn)行網(wǎng)絡(luò)釣魚的方式對企業(yè)進(jìn)行攻擊，這使互聯(lián)網(wǎng)的安全風(fēng)險(xiǎn)不斷增加。”4月10日，在《技術(shù)趨勢2024》中德勤做出了這樣的預(yù)判。
調(diào)研顯示，AI生成的內(nèi)容使攻擊者能夠以更少的時間、更低的成本投入來創(chuàng)造這種個人化的聯(lián)系。與此同時，通過冒充可信來源來突破安全漏洞的問題，也變得愈演愈烈。
德勤中國管理咨詢企業(yè)技術(shù)與績效事業(yè)群總裁周令坤表示，目前AI在創(chuàng)造逼真內(nèi)容方面的能力，大大超過了人們識別它的能力。“我們的調(diào)研顯示，大多數(shù)人表示他們能夠區(qū)分AI生成的內(nèi)容和人類生成的內(nèi)容，但還有20%的人對此持不確定的觀點(diǎn)。”周令坤說。
事實(shí)上，從現(xiàn)實(shí)情況看，第一組人可能過于自信。
根據(jù)德勤的調(diào)研，很少有人能夠準(zhǔn)確地區(qū)分AI生成和人類生成的內(nèi)容，因?yàn)锳I內(nèi)容生成器是基于人類創(chuàng)造的內(nèi)容進(jìn)行訓(xùn)練的，AI只是盡可能地復(fù)制它。“人們可能期望AI生成的內(nèi)容在某種程度上看起來或聽起來像機(jī)器人生成的，但現(xiàn)實(shí)是它更像人類的作品。”周令坤說。
也是基于這種現(xiàn)實(shí)，AI生成的內(nèi)容不可避免地成為了部分人群互相攻擊的一把“利器”。在這樣的背景下，如何通過制度改革、策略優(yōu)化來識別有害內(nèi)容，并提高員工的風(fēng)險(xiǎn)意識，成為互聯(lián)網(wǎng)時代企業(yè)的一門必修課。
《技術(shù)趨勢2024》指出，伴隨生成式AI的快速發(fā)展，企業(yè)也在積極采取措施來應(yīng)對。比如，對在線通信持懷疑態(tài)度，驗(yàn)證與您進(jìn)行通信的人的身份，并要求提供多種身份驗(yàn)證以訪問敏感資產(chǎn)等，這些都是企業(yè)防范這種新攻擊的方法。
相關(guān)數(shù)據(jù)顯示，到2025年，有90%的在線內(nèi)容將由AI合成生成，其中大部分將用于合法目的，比如營銷和客戶互動，但不可忽視的是，網(wǎng)絡(luò)犯罪分子可能會利用生成工具謀取不法利益，這使企業(yè)識別員工所接觸內(nèi)容的真實(shí)性變得異常重要。
德勤中國管理咨詢事業(yè)群總裁孟曉凡認(rèn)為，生成式AI的真正價(jià)值可能在于組織能夠利用它來進(jìn)行業(yè)務(wù)轉(zhuǎn)型，并在降低成本、重塑產(chǎn)品、提高服務(wù)和創(chuàng)新周期等方面實(shí)現(xiàn)流程效率的提高。
為了實(shí)現(xiàn)這一目標(biāo)，企業(yè)應(yīng)該考慮更多地采用漸進(jìn)式方法來制定企業(yè)數(shù)據(jù)和技術(shù)戰(zhàn)略的安全防護(hù)墻。其中一個重要的探索是，為企業(yè)的特定需求制定一個量身定制的訓(xùn)練模型。
根據(jù)德勤的調(diào)研，目前有超過三分之一的企業(yè)已經(jīng)計(jì)劃在未來為其業(yè)務(wù)需求訓(xùn)練和定制私有的語言模型。
報(bào)告認(rèn)為，對企業(yè)來說，私有的語言模型是生成式AI的真正潛力所在。這些模型由專業(yè)組織開發(fā)和維護(hù)，底層代碼對公眾保密。“這些模型針對特定的目的被開發(fā)且被安全地托管，再基于私有數(shù)據(jù)進(jìn)行訓(xùn)練，它們可以為組織提供巨大的競爭優(yōu)勢，這也是生成式AI發(fā)展的下一波浪潮。”周令坤預(yù)測。
（編輯：孟慶偉 審核：郝成 校對：顏京寧）
