科技新聞?dòng)?月7日，世界人工智能大會(huì)期間，騰訊舉辦以“無限可能”為主題的論壇。騰訊云副總裁、騰訊云智能負(fù)責(zé)人、優(yōu)圖實(shí)驗(yàn)室負(fù)責(zé)人吳運(yùn)聲發(fā)表《騰訊云MaaS，激活產(chǎn)業(yè)發(fā)展新動(dòng)能》主題演講，分享了關(guān)于大模型行業(yè)應(yīng)用觀點(diǎn)，同時(shí)介紹了騰訊云行業(yè)大模型技術(shù)解決方案的最新進(jìn)展。
騰訊云副總裁、騰訊云智能負(fù)責(zé)人、優(yōu)圖實(shí)驗(yàn)室負(fù)責(zé)人吳運(yùn)聲
吳運(yùn)聲認(rèn)為，產(chǎn)業(yè)場(chǎng)景已經(jīng)成為大模型的最佳練兵場(chǎng)，但企業(yè)在應(yīng)用大模型時(shí)，又會(huì)面臨計(jì)算資源少、數(shù)據(jù)質(zhì)量差、投入成本高、專業(yè)經(jīng)驗(yàn)少等現(xiàn)實(shí)問題的挑戰(zhàn)。
對(duì)此，騰訊云不久前公布了行業(yè)大模型技術(shù)解決方案。該方案依托騰訊云TI平臺(tái)打造行業(yè)大模型精選商店，為客戶提供MaaS一站式服務(wù)，客戶只需要加入自己獨(dú)有的場(chǎng)景數(shù)據(jù)，就可以快速生成專屬模型，結(jié)合實(shí)際業(yè)務(wù)場(chǎng)景需求，開發(fā)低成本、高可用的智能應(yīng)用和服務(wù)。
據(jù)吳運(yùn)聲介紹，繼6月19日公布解決方案后，騰訊云MaaS平臺(tái)能力敏捷迭代，在行業(yè)大模型技術(shù)底座、應(yīng)用場(chǎng)景、助力科學(xué)計(jì)算等方向，均有所優(yōu)化和提升。
在技術(shù)底座層面，騰訊不久前發(fā)布了自研星脈高性能計(jì)算網(wǎng)絡(luò)、向量數(shù)據(jù)庫，為大模型的行業(yè)應(yīng)用提供更充沛的算力基礎(chǔ)設(shè)施；在應(yīng)用創(chuàng)新方面，騰訊云也將行業(yè)大模型的能力，應(yīng)用到金融風(fēng)控、交互翻譯、數(shù)智人客服等場(chǎng)景中，提升智能應(yīng)用效率；在科學(xué)計(jì)算方面，騰訊云始終堅(jiān)持“AI for Science”，今年將大模型技術(shù)，應(yīng)用在天文探索、甲骨文考釋等科研場(chǎng)景。
吳運(yùn)聲最后強(qiáng)調(diào)，AI大模型技術(shù)發(fā)展和產(chǎn)業(yè)探索，離不開產(chǎn)業(yè)鏈協(xié)同和生態(tài)共建，騰訊希望與行業(yè)伙伴攜手，共同推進(jìn)大模型在產(chǎn)業(yè)領(lǐng)域的創(chuàng)新和落地。
以下為吳運(yùn)聲主題演講全文：
尊敬的各位嘉賓、媒體朋友們，大家下午好，歡迎來到騰訊論壇！我是騰訊的吳運(yùn)聲。
作為國內(nèi)規(guī)格最高、影響力最大的技術(shù)盛會(huì)，世界人工智能大會(huì)已經(jīng)連續(xù)舉辦六屆，很多新的技術(shù)趨勢(shì)、創(chuàng)新方案、產(chǎn)業(yè)成果在這里發(fā)布，已經(jīng)成為人工智能技術(shù)發(fā)展的風(fēng)向標(biāo)�；仡櫲斯ぶ悄馨l(fā)展歷史，這項(xiàng)技術(shù)自誕生之初，就始終伴隨人們的期待與失望，呈螺旋式上升的發(fā)展趨勢(shì)。今天，大語言模型驅(qū)動(dòng)“智慧涌現(xiàn)”，又一次將人工智能技術(shù)推到了一個(gè)新的制高點(diǎn)。
在過去這段時(shí)間里，我們發(fā)現(xiàn)大語言模型在智能問答、內(nèi)容創(chuàng)作、智能決策、智能風(fēng)控等很多業(yè)務(wù)場(chǎng)景，表現(xiàn)出令人驚艷的應(yīng)用效果。尤其是廣泛的產(chǎn)業(yè)場(chǎng)景，已經(jīng)成為大模型的最佳練兵常
快速了解、應(yīng)用大模型能力，是新一輪人工智能技術(shù)浪潮中，保持市場(chǎng)核心競(jìng)爭(zhēng)力的關(guān)鍵。這也成為越來越多企業(yè)家共同思考的方向，同時(shí)也存在一些焦慮。
實(shí)際上，大模型雖好，但用起來還是有很高的門檻。尤其對(duì)一些傳統(tǒng)領(lǐng)域企業(yè)而言，通用大模型無法精準(zhǔn)適配、達(dá)到降本增效的預(yù)期。企業(yè)需要的，是在實(shí)際場(chǎng)景中真正解決某個(gè)問題，而不是在100個(gè)場(chǎng)景中解決了70%-80%的問題。
相比之下，訓(xùn)練和部署專屬行業(yè)大模型，讓“通才”變“專才”，對(duì)企業(yè)來說或許是一個(gè)可行路徑，但又普遍存在計(jì)算資源少、數(shù)據(jù)質(zhì)量差、投入成本高、專業(yè)經(jīng)驗(yàn)少等現(xiàn)實(shí)挑戰(zhàn)。此外，安全、合規(guī)，也是企業(yè)需要考慮的關(guān)鍵因素。
針對(duì)這些問題，我們?cè)?月19日推出了騰訊云MaaS一站式行業(yè)大模型解決方案：基于騰訊云TI平臺(tái)，打造一站式行業(yè)大模型精選商店，TI平臺(tái)內(nèi)置多個(gè)行業(yè)高質(zhì)量大模型，同時(shí)支持客戶多模型訓(xùn)練任務(wù)，客戶只需要加入自己獨(dú)有的場(chǎng)景數(shù)據(jù)，就可以快速生成自己的“專屬模型”，結(jié)合實(shí)際業(yè)務(wù)場(chǎng)景需求，開發(fā)低成本、高可用的智能應(yīng)用和服務(wù)。
目前，我們已經(jīng)聯(lián)合金融、文旅、政務(wù)、傳媒、教育等十多個(gè)行業(yè)頭部客戶，共同打造了超過50個(gè)行業(yè)大模型解決方案。
在金融領(lǐng)域，我們助力中金所技術(shù)公司，打造自有模型，降低技術(shù)開發(fā)與運(yùn)營成本，支撐多部門業(yè)務(wù)。針對(duì)資源、開發(fā)等需求，基于騰訊云TI平臺(tái)能力，實(shí)現(xiàn)資源統(tǒng)一調(diào)度，按需擴(kuò)縮容，降低開發(fā)門檻、成本，提高模型開發(fā)效率，支持投服部等部門的輿情數(shù)據(jù)分析場(chǎng)景，每日調(diào)用峰值高達(dá)1億次，整體調(diào)用成功率超過99%。
在文旅領(lǐng)域，我們聯(lián)合一家線上旅游OTA公司，共同探索文旅行業(yè)大模型的應(yīng)用。過去，傳統(tǒng)智能客服需要人工進(jìn)行對(duì)話配置：知識(shí)維護(hù)量大、耗時(shí)長，但運(yùn)營人力有限、人力配置成本高，涉及訂單等復(fù)雜業(yè)務(wù)場(chǎng)景，在無配置的情況下無法通過機(jī)器人閉環(huán)解決問題。精調(diào)后的客戶專屬模型，無需配置對(duì)話流程，即可實(shí)現(xiàn)端到端解決業(yè)務(wù)問題。提升任務(wù)完成率，降低對(duì)話構(gòu)建成本。
在傳媒領(lǐng)域，我們聯(lián)合央視總臺(tái)，打造了傳媒大模型方案。央視總臺(tái)積累了海量的音視頻、圖片、文稿等信息資源，但人工編目低效且成本高，傳統(tǒng)檢索方式召回率低，無法滿足時(shí)效性和高質(zhì)量需求。通過騰訊云智能媒體AI中臺(tái)的大模型能力，央視總臺(tái)實(shí)現(xiàn)智能標(biāo)簽理解、泛化能力提升，以及人臉、圖像、視頻和自然語言描述的精準(zhǔn)檢索，提高了資源管理效率和準(zhǔn)確性，推動(dòng)了媒體內(nèi)容生產(chǎn)與傳播的智能化進(jìn)程。
騰訊云MaaS行業(yè)大模型精調(diào)解決方案，具備五大優(yōu)勢(shì)�；隍v訊深耕產(chǎn)業(yè)互聯(lián)網(wǎng)的行業(yè)經(jīng)驗(yàn)積累，我們?cè)赥I平臺(tái)內(nèi)置了高質(zhì)量的行業(yè)大模型，同時(shí)我們提供完善的平臺(tái)工具，成熟的流程方法，全面配套服務(wù)，領(lǐng)先的安全能力保障，可以為客戶提供從模型選擇、到落地部署的一站式服務(wù)。
同時(shí)，在過去兩周多時(shí)間里，我們也在不斷優(yōu)化和升級(jí)騰訊云MaaS平臺(tái)能力，旨在為客戶提供更普惠的行業(yè)大模型解決方案。在技術(shù)底座層面，我們前幾天剛剛發(fā)布了自研星脈高性能計(jì)算網(wǎng)絡(luò)、向量數(shù)據(jù)庫，為大模型的行業(yè)應(yīng)用提供更充沛的算力基礎(chǔ)設(shè)施。在應(yīng)用創(chuàng)新方面，我們也將行業(yè)大模型能力，應(yīng)用到金融風(fēng)控、交互翻譯、數(shù)智人客服等場(chǎng)景中，極大提升了智能應(yīng)用效率。在科學(xué)計(jì)算方向，AI for Science一直是我們關(guān)注的重要方向。今年，我們也將大模型技術(shù)，應(yīng)用在天文探索、甲骨文考釋等科研場(chǎng)景，取得了不錯(cuò)的成果。
首先，行業(yè)大模型加持的金融風(fēng)控解決方案，相比之前有了10倍效率提升。騰訊云風(fēng)控大模型融合了騰訊過去20多年黑灰產(chǎn)對(duì)抗經(jīng)驗(yàn)，和上千個(gè)真實(shí)業(yè)務(wù)場(chǎng)景，整體反欺詐效果比傳統(tǒng)模式有20%左右的提升。企業(yè)可以基于prompt模式，迭代風(fēng)控能力，從樣本收集、模型訓(xùn)練到部署上線，實(shí)現(xiàn)全流程零人工參與，建模時(shí)間也從2周減少到僅需2天。
同時(shí)，很多企業(yè)受限于積累的樣本有限，或者是新品剛剛上線，面臨“零樣本”搭建風(fēng)控體系，制定策略非常困難。我們也可以基于騰訊云風(fēng)控大模型豐富的場(chǎng)景樣本快速搭建能力，助力客戶跳過“冷啟動(dòng)”過程。
行業(yè)大模型在交互翻譯場(chǎng)景，也有不錯(cuò)的提升效果。過去的同傳技術(shù)，往往需要大量樣本數(shù)據(jù)進(jìn)行訓(xùn)練，尤其涉及一些特別專業(yè)領(lǐng)域的翻譯，也需要人工加持進(jìn)行調(diào)優(yōu)，才能保障翻譯效果�；谛袠I(yè)大模型技術(shù)，不再需要百萬級(jí)的訓(xùn)練數(shù)據(jù)，使用小樣本訓(xùn)練便也可以獲得不錯(cuò)的翻譯結(jié)果，讓每一次交互翻譯，都對(duì)下一句的翻譯提升發(fā)揮實(shí)時(shí)作用，目前已經(jīng)在多個(gè)垂直行業(yè)落地。大家看到今天會(huì)場(chǎng)，以及世界人工智能大會(huì)開幕式、主論壇的同傳翻譯，都是由騰訊同傳進(jìn)行的技術(shù)支持，我們已經(jīng)連續(xù)6年為大會(huì)提供同傳翻譯服務(wù)。
今年早些時(shí)候，我們推出了小樣本數(shù)智人工廠，僅需少量數(shù)據(jù)、24小時(shí)即可復(fù)刻2D數(shù)字分身，大幅提升了生產(chǎn)效率。接下來，我們依托AI生成算法，提升3D形象復(fù)刻速度，推進(jìn)生成式動(dòng)作驅(qū)動(dòng)，結(jié)合行業(yè)大模型能力，讓企業(yè)獲得更“個(gè)性化、專業(yè)、自然逼真”的數(shù)智員工，讓“面對(duì)面”專業(yè)服務(wù)成為可能。這幾天，我們?cè)谡古_(tái)設(shè)置了小樣本數(shù)智人體驗(yàn)，現(xiàn)場(chǎng)拍攝3分鐘素材，24小時(shí)就可以領(lǐng)取專屬數(shù)字分身。
與此同時(shí)，我們也看到大模型在科學(xué)計(jì)算方面，也有非常驚艷的表現(xiàn)。在關(guān)注AI產(chǎn)業(yè)落地同時(shí)，AI for Science是我們一直關(guān)注的方向。早在2021年，我們將AI技術(shù)應(yīng)用在天文領(lǐng)域，聯(lián)合國家天文臺(tái)、復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院，發(fā)起“探星計(jì)劃”，旨在通過人工智能技術(shù)，提升天文發(fā)現(xiàn)和科研的效率，已經(jīng)幫助Fast發(fā)現(xiàn)30顆脈沖星。
在今年，我們首次通過AI技術(shù)助力，從巡天觀測(cè)數(shù)據(jù)中發(fā)現(xiàn)了2顆快速射電暴。相比脈沖星，快速射電暴因?yàn)榘l(fā)現(xiàn)時(shí)間晚、AI訓(xùn)練數(shù)據(jù)少、出現(xiàn)頻率低，發(fā)現(xiàn)難度相比脈沖星要大很多。為此，團(tuán)隊(duì)通過全新設(shè)計(jì)的端到端AI算法，提升數(shù)據(jù)運(yùn)算速度。引入多示例學(xué)習(xí)、注意力機(jī)制，同時(shí)結(jié)合騰訊云行業(yè)大模型輔助AI訓(xùn)練，通過自監(jiān)督預(yù)訓(xùn)練+數(shù)據(jù)精調(diào)，提升模型精度，降低數(shù)據(jù)標(biāo)注成本。
在文化領(lǐng)域，我們與內(nèi)外部多個(gè)部門攜手合作，首次將文字檢測(cè)、摹本生成、字形匹配等多種AI算法，綜合應(yīng)用于甲骨文研究。截至目前，已建立覆蓋143萬字的全球最大甲骨文單字?jǐn)?shù)據(jù)庫，提升甲骨內(nèi)容提娶甲骨文識(shí)別與考釋等效率，探索甲骨文研究的人機(jī)協(xié)同新模式。
大模型訓(xùn)練，算力是基矗騰訊云在大模型算力方面擁有領(lǐng)先優(yōu)勢(shì)，今年早些時(shí)候，我們發(fā)布了面向大模型訓(xùn)練新一代HCC高性能計(jì)算集群，整體性能比過去提升了3倍。就在過去一周，騰訊云首次完整披露了自研星脈高性能計(jì)算網(wǎng)絡(luò)，能提升40%的GPU利用率，節(jié)省30%~60%的模型訓(xùn)練成本，為AI大模型帶來10倍通信性能提升�；隍v訊云新一代算力集群HCC，可支持10萬卡的超大計(jì)算規(guī)模。
最新發(fā)布的AI原生向量數(shù)據(jù)庫最高支持10億級(jí)向量檢索規(guī)模，延遲控制在毫秒級(jí)，相比傳統(tǒng)單機(jī)插件式數(shù)據(jù)庫檢索規(guī)模提升10倍，同時(shí)具備百萬級(jí)每秒查詢（QPS）的峰值能力。這些技術(shù)底座能力的持續(xù)提升，將為客戶的模型訓(xùn)練提供強(qiáng)大的支持和動(dòng)力。
當(dāng)然，AI大模型技術(shù)發(fā)展和產(chǎn)業(yè)探索，離不開產(chǎn)業(yè)鏈協(xié)同和生態(tài)共建，這也是騰訊在AI發(fā)展方面一直堅(jiān)持的態(tài)度。為此，我們也在早些時(shí)候發(fā)布了騰訊云行業(yè)大模型共建計(jì)劃。我們?cè)概c行業(yè)伙伴攜手，去探索無限的可能性。謝謝大家！
