1956年人工智能的概念被首次提出，直到去年ChatGPT出現(xiàn)，各行各業(yè)大談大模型，人工智能才更廣泛地在各種層面的應(yīng)用中出現(xiàn)在人們的生活里。一方面人工智能重塑各行各業(yè)，另一方面也帶來了隱私保護(hù)、儲存安全等問題。
10月25日，由澎湃新聞和上海漕河涇新興技術(shù)開發(fā)區(qū)聯(lián)合主辦，上海人工智能研究院學(xué)術(shù)支持的科創(chuàng)先鋒論壇以“大模型與數(shù)字治理”為主題在漕河涇會議中心成功召開。在圓桌沙龍環(huán)節(jié)，圍繞“AI大模型的產(chǎn)業(yè)應(yīng)用與數(shù)字安全”這一話題，澎湃新聞內(nèi)容風(fēng)控首席運(yùn)營官孫光海與上海市計算機(jī)軟件評測重點實驗室副主任，研究員陳敏剛、螞蟻財富保險事業(yè)群首席技術(shù)架構(gòu)師曹剛以及智己汽車副CTO郭輝展開了精彩對話，分享了大模型在城市治理、金融、自動駕駛以及傳媒領(lǐng)域的應(yīng)用。
左起：澎湃新聞內(nèi)容風(fēng)控首席運(yùn)營官孫光海、上海市計算機(jī)軟件評測重點實驗室副主任，研究員陳敏剛、螞蟻財富保險事業(yè)群首席技術(shù)架構(gòu)師曹剛、智己汽車副CTO郭輝
以下為對話實錄，略有刪減：
大模型何為“大”？
上海市計算機(jī)軟件評測重點實驗室副主任，研究員 陳敏剛
陳敏剛：大模型的大主要表現(xiàn)是模型參數(shù)規(guī)模非常大。在學(xué)術(shù)界有個規(guī)律，當(dāng)模型參數(shù)量達(dá)一定規(guī)模會出現(xiàn)“智能的涌現(xiàn)”，也就是說只有參數(shù)規(guī)模足夠大，才會執(zhí)行復(fù)雜的推理。此外，訓(xùn)練數(shù)據(jù)量很大。據(jù)了解，維基百科的語料只占到ChatGPT訓(xùn)練語料的約3%。最后，需要用到的算力非常大。據(jù)OpenAI的聲稱，GPT-3的一次訓(xùn)練，單次大約需要450萬美元。
但是我覺得最本質(zhì)的是應(yīng)用范圍很大。大模型擁有很好的泛化能力。以前人工智能都是弱人工智能或者是窄人工智能，一個應(yīng)用就需要開發(fā)一個模型。但是在大模型時代，人類可以通過一些提示工程（Prompt）快速地去泛化到下游的各類任務(wù)，一站式地解決各類任務(wù)。所以我覺得大模型為未來產(chǎn)業(yè)可能帶來最大的變革，就在于它這種對于各種場景的泛化和適配的能力。
螞蟻財富保險事業(yè)群首席技術(shù)架構(gòu)師 曹剛
曹剛：我理解大模型的“大”是，對人工智能產(chǎn)業(yè)技術(shù)的影響非常大。類似像ChatGPT這樣一個“殺手級”應(yīng)用，基本上花2個多月時間就可以做到1億的MAU（月活躍用戶數(shù)量）。而國內(nèi)，以大家用得最多的抖音為例，差不多要花9個月的時間。
螞蟻集團(tuán)今年也制定了集團(tuán)的三大戰(zhàn)略，其中之一是AI-First。我們不能把AI技術(shù)僅僅視作拓覆蓋、提效率的錦上添花的能力，而是用AI-First這種理念指導(dǎo)業(yè)務(wù)的生產(chǎn)，重塑整個業(yè)務(wù)的鏈條，推進(jìn)業(yè)務(wù)走向下一個階段。
大模型在不同行業(yè)正在解決什么問題？
陳敏剛：首先談到城市治理這個話題，前幾年非常火的一個概念叫做“智慧城市”，有些地方也稱為“城市大腦”。城市大腦、智慧城市的目標(biāo)就是要實現(xiàn)城市的數(shù)字化轉(zhuǎn)型，提升城市治理的體系和治理的現(xiàn)代化。因為這一段時間ChatGPT實在太火，好像把智慧城市、城市大腦的聲音給淹沒了。在我看來大模型是可以對現(xiàn)有的城市大腦做一次升級，下面我舉幾個例子。
首先，政務(wù)大模型。比如說像政務(wù)咨詢，如果有了大模型，我們可以更加準(zhǔn)確地去理解用戶辦事要求，甚至可以引導(dǎo)用戶說出他真正想要辦的業(yè)務(wù)。
另外城市大腦有一個很重要的應(yīng)用，是要用AI感知城市發(fā)生各種的事件，快速做處置和處理。以前在大模型沒有出現(xiàn)之前，可能每一個具體的視覺場景，比如占道經(jīng)營，就需要一個視覺的模型去發(fā)現(xiàn)這些不合適的場景。未來我們有了多模態(tài)大模型以后，是否有機(jī)會讓一個大模型去解決掉我們城市感知的各個問題？用一個大模型可能就可以解決掉違法占道、違法停車、交通違法、道路積水等所有長尾的場景。
第三，OpenAI近期提供了一個很強(qiáng)大的插件，原來叫代碼解釋器，現(xiàn)在更新成Advanced-Data-Analysis插件，可以快速自動化地、用人機(jī)交互的方式去做數(shù)據(jù)分析。有這樣的工具后，我們在城市治理的場景下，可以快速對城市發(fā)生的各種采集數(shù)據(jù)進(jìn)行精準(zhǔn)、快速、高效的處理，然后來輔助我們政府的決策。
曹剛：螞蟻集團(tuán)一直都深耕在金融領(lǐng)域。就現(xiàn)在而言，我們理財和保險領(lǐng)域核心是把大模型用在兩個方面：第一個，用戶體驗的提升；第二個，提效業(yè)務(wù)生產(chǎn)鏈路。
首先講講用戶體驗的提升。我們之前發(fā)布了支小寶的2.0，是一個個人理財助理，同時也是保險助理，你在上面可以通過問答的方式問一些關(guān)于理財保險的知識。通過大模型的技術(shù)進(jìn)行產(chǎn)品升級，整個問答端的準(zhǔn)確率可以得到大幅提升，目前能夠達(dá)到95%以上。
在生產(chǎn)力提升方面，我們發(fā)布了支小助1.0，這是一個針對金融從業(yè)者的業(yè)務(wù)專家助手，類似于微軟的Copilot。在金融領(lǐng)域，我們的服務(wù)鏈條非�？v深，涉及許多業(yè)務(wù)專家。我們使用大模型的技術(shù)來重塑傳統(tǒng)工作流程，讓支小助成為一個大模型驅(qū)動的產(chǎn)品，從而顯著提高整個業(yè)務(wù)專家和金融從業(yè)者的效率。
舉例來說，我們?yōu)槔碡攷煹念檰枅F(tuán)隊和保險代理人團(tuán)隊提供了一個支小助的服務(wù)版，通過大模型的加持，我們的團(tuán)隊管理范圍的服務(wù)人數(shù)提升了70%以上。另外，在營銷領(lǐng)域，我們使用大模型技術(shù)生產(chǎn)文案、圖片和視頻等創(chuàng)意，讓有限的產(chǎn)品上疊加無限的創(chuàng)意，從而顯著提升業(yè)務(wù)轉(zhuǎn)化效果。在保險領(lǐng)域的理賠問題上，我們通過大模型的技術(shù)實現(xiàn)了圖像信息提取和推理技術(shù)的聯(lián)合，形成了全自動化的能力，大大縮短了用戶理賠的時間。
智己汽車副CTO 郭輝
郭輝：我分享一下在汽車領(lǐng)域大模型應(yīng)用的狀態(tài)。大模型會大大提升我們在自動駕駛領(lǐng)域里面人工智能模型的迭代速度。首先大模型在云端有非常豐富的參數(shù)，能夠幫助我們進(jìn)行相應(yīng)的仿真測試，在有足夠豐富數(shù)據(jù)輸入前提下，我們可以使用大模型訓(xùn)練小模型，部署在車端，大大提升我們在車端運(yùn)行小模型的迭代效率。其次是大家熟悉的智艙。在與人類的交互過程當(dāng)中，我們在車上更多是使用語音的交互功能，怎么樣更好識別人的意圖，能夠給人提供準(zhǔn)確的內(nèi)容，這是我們在落地實現(xiàn)的。
澎湃新聞內(nèi)容風(fēng)控首席運(yùn)營官 孫光海
孫光海：澎湃新聞在內(nèi)部也進(jìn)行了AI繪畫、AI寫作、AI審核三方面的探討。尤其是我在跟其他新聞網(wǎng)站同行交流，我說澎湃新聞每天發(fā)布400多條的原創(chuàng)稿件，每篇稿件都要配插圖、配圖。如果AI技術(shù)發(fā)展到一定程度，可以通過AI生成圖片來節(jié)省相關(guān)的運(yùn)營成本，減輕美編的工作負(fù)擔(dān)。
在AI協(xié)作方面，我們在智能跟評方面也在做內(nèi)部的測試，更為成熟的一點是內(nèi)容安全這方面。比方說現(xiàn)在大家看到APP有些突然下架了，訪問有一個欄目突然停更了，這些情況十有八九是內(nèi)容合規(guī)方面導(dǎo)致的。澎湃新聞開發(fā)了澎湃清穹服務(wù)，正式對外為黨政、媒體、國有企業(yè)、資訊平臺服務(wù)，目前的效果還是不錯的，尤其是在社政領(lǐng)域。
具體到場景，大模型如何提升？
曹剛：通用大模型在金融領(lǐng)域要落地是一個非常復(fù)雜的系統(tǒng)工程，起碼要解決三個挑戰(zhàn)。
首先，通用大模型對金融領(lǐng)域的認(rèn)知有短板。比如，我能不能買到一個保本保息高收益的產(chǎn)品？實際上在市場上這種產(chǎn)品基本上不存在，因為這都是有嚴(yán)格的金融監(jiān)管以及金融的體系來維護(hù)的，所以我們需要對它進(jìn)行專業(yè)的金融通識相關(guān)的訓(xùn)練，甚至我們自己場景對于金融業(yè)務(wù)的理解也需要讓它訓(xùn)練起來，灌入到它整個知識結(jié)構(gòu)當(dāng)中。
第二個挑戰(zhàn)，在金融領(lǐng)域其實有很多推理和決策的內(nèi)容，最簡單的：你到底要不要買這個股票？這涉及大的推理過程和決策過程，這是目前我們看到通用大模型很難直接給出答案的。
第三，整個金融因為是非常嚴(yán)謹(jǐn)?shù)�，具有很�?qiáng)的量化數(shù)字的屬性，我們知道往往通用大模型比較擅長文科相關(guān)的工作，對于數(shù)字計算、復(fù)雜的量化計算這部分能力還是比較欠缺的。加上金融領(lǐng)域合規(guī)性要求非常高，一個投資者過來到底能買什么產(chǎn)品，不能買什么產(chǎn)品，起碼得遵守合格投資者的管理辦法才能把合格的產(chǎn)品推薦給他，這些通用大模型基本上很難做到。
郭輝：汽車領(lǐng)域來看，我們解決兩類問題，一類是成本和效率的問題，就是在云端的大模型，包括它的訓(xùn)練，以及最終部署到服務(wù)器，甚至我們把它進(jìn)行裁剪，最后放到車端整個代價是什么？
第二是解決時延的問題，哪怕今天的網(wǎng)絡(luò)條件，也總有連不上網(wǎng)的時候。連不上網(wǎng)怎么滿足智能駕駛安全方面的需求？大模型+小模型并行的方式，我們在探索這個方向。
數(shù)據(jù)安全如何保障？
曹剛：國家層面其實已經(jīng)看到這樣的問題，此前出臺的《生成式人工智能管理辦法》一定程度上就是為了規(guī)避這些問題。就螞蟻集團(tuán)而言，我們是一家科技公司，底層積累了非常多的數(shù)據(jù)，個人安全和隱私保護(hù)，我們集團(tuán)層面一直非常重視這個問題。所以從數(shù)據(jù)的采集、加工、傳輸、存儲，集團(tuán)有專門的部門進(jìn)行管理，有相應(yīng)的數(shù)據(jù)分級分類以及一些各類管理機(jī)制以及規(guī)范。
陳敏剛：數(shù)據(jù)泄露是一個重要問題，大模型存在Prompt攻擊的漏洞，攻擊者可以通過輸入特定提示繞過安全機(jī)制引導(dǎo)大模型說出有害內(nèi)容。
此外，大模型應(yīng)用中存在幻覺問題，即輸出的信息在語義、語法上可能是正確的，但具有誤導(dǎo)性、錯誤性或矛盾性。我們團(tuán)隊的測試結(jié)果顯示，ChatGPT4在幻覺輸出概率上達(dá)到30%，國內(nèi)大模型這一數(shù)據(jù)超過50%。這樣一些現(xiàn)象，就提醒我們在大模型真正應(yīng)用落地的時候要注意非常的小心。
郭輝：汽車行業(yè)兩大類的安全，一類我們叫功能安全，另外一類叫信息安全。在功能安全方面，汽車廠商需要確保硬件、軟件和模型的冗余設(shè)計，以防止單點失效導(dǎo)致人身安全的威脅。而對于人工智能模型的安全性保證，需要建立一個可解釋的、規(guī)則明確的安全框架來兜底。此外，在開發(fā)流程中還需要進(jìn)行針對人工智能的對抗性訓(xùn)練，包括對抗樣本生成等，以增強(qiáng)模型的魯棒性和安全性。
而在信息安全方面，汽車行業(yè)需要從設(shè)計系統(tǒng)本身的防護(hù)能力、整體的安全架構(gòu)以及失效后的檢測和防護(hù)機(jī)制等方面進(jìn)行考慮，以保障網(wǎng)絡(luò)和數(shù)據(jù)的安全。此外，還需要進(jìn)行利民攻擊測試以及隱私安全保護(hù)，包括最小化數(shù)據(jù)采集和確保數(shù)據(jù)安全合規(guī)的要求。
算力的提升對不同場景有何影響？
曹剛：國家在基礎(chǔ)算力方面布局是非常好的事情。首先，基礎(chǔ)算力基礎(chǔ)設(shè)施的布局有助于解決技術(shù)卡脖子的問題。螞蟻金融大模型底座是跑在萬卡的異構(gòu)集群上面的。實際上萬卡里面絕大部分的GPU卡資源都是采購于英偉達(dá)，只有少部分是采購國產(chǎn)的GPU資源。所以公共算力資源的布局，有利于讓更多的企業(yè)能夠進(jìn)來，降低了準(zhǔn)入門檻。整個產(chǎn)業(yè)活躍度起來后，真正受益的應(yīng)該是終端消費(fèi)者。只有這樣，我們有很多的想法才能滿足。
郭輝：我補(bǔ)充另外一個經(jīng)濟(jì)性維度。第一，國產(chǎn)化相應(yīng)大算力的芯片有助于良性的市場競爭，使得最后我們消費(fèi)者能夠享受到普惠。第二，我們從行業(yè)的應(yīng)用來看，不同公司波峰和波谷一定存在不均勻的情況，如果可以消除波峰波谷，就像電力一樣，我相信各個行業(yè)都能夠獲益。
陳敏剛：算力提升會加速通用大模型商業(yè)化的應(yīng)用。其次，會加速我們垂直領(lǐng)域大模型的研究和應(yīng)用的落地和大模型深度應(yīng)用。什么叫深度應(yīng)用？前面我也提到了OpenAI開放了很多的插件，這些插件可以幫助你快速去交互式分析大規(guī)模的數(shù)據(jù)，這就是深度應(yīng)用。深度應(yīng)用肯定需要用到大量的算力。同時，未來如果算力足夠，大模型和我們具身智能相結(jié)合，可能會推動像人形機(jī)器人非常前沿技術(shù)的快速應(yīng)用和落地。
孫光海：我們有一種說法，人工智能1.0如果說是相當(dāng)于發(fā)明了電，那人工智能3.0在AIGC大模型這樣的情況下相當(dāng)于一張電網(wǎng)。從短期來看AIGC改變了基礎(chǔ)生產(chǎn)力的一個工具，有些說中期來看改變了社會生產(chǎn)關(guān)系，長遠(yuǎn)來看改變了社會生產(chǎn)力。我們也希望AI+時代會有更驚艷的商業(yè)創(chuàng)新和商業(yè)模式，助力我們的生活更加美好。
