展會(huì)信息港展會(huì)大全

大模型落地,百度智能云的關(guān)鍵一步|甲子光年
來(lái)源:互聯(lián)網(wǎng)   發(fā)布日期:2023-10-19 18:58:54   瀏覽:7400次  

導(dǎo)讀:大模型落地排位賽開(kāi)啟。 作者|武靜靜 編輯|栗子 大模型的角逐戲切換到了下一幕。 在基礎(chǔ)大模型排位賽如火如荼進(jìn)行的同時(shí),隨著各家產(chǎn)品逐步面向公眾開(kāi)放,圍繞AI原生應(yīng)用的賽跑拉開(kāi)了帷幕。 縱觀全球市場(chǎng),基于生成式AI構(gòu)建的AI原生應(yīng)用已經(jīng)應(yīng)接不暇。數(shù)據(jù)...

大模型落地排位賽開(kāi)啟。

作者|武靜靜

編輯|栗子

大模型的角逐戲切換到了下一幕。

在基礎(chǔ)大模型排位賽如火如荼進(jìn)行的同時(shí),隨著各家產(chǎn)品逐步面向公眾開(kāi)放,圍繞AI原生應(yīng)用的賽跑拉開(kāi)了帷幕。

縱觀全球市場(chǎng),基于生成式AI構(gòu)建的AI原生應(yīng)用已經(jīng)應(yīng)接不暇。數(shù)據(jù)顯示,GitHub上AI開(kāi)源項(xiàng)目截止8月底數(shù)量達(dá)到了91萬(wàn),相較于去年全年的增幅達(dá)到264%。根據(jù)Replit的數(shù)據(jù),23年二季度AI項(xiàng)目環(huán)比增速達(dá)80%,相較于去年同期同比增長(zhǎng)了34倍。

多位投資人都向「甲子光年」談道,目前只看AI應(yīng)用層機(jī)會(huì)。根據(jù)CBInsights數(shù)據(jù),截至2023年第二季度,生成式AI的投融資較去年全年的25億美元,增長(zhǎng)了4.6倍,其中生成式AI應(yīng)用層融資金融占三成?梢灶A(yù)見(jiàn),這個(gè)比例將在接下來(lái)持續(xù)擴(kuò)大。

這個(gè)機(jī)會(huì)大廠顯然不會(huì)錯(cuò)過(guò)。百度作為國(guó)內(nèi)大廠中第一個(gè)做出對(duì)標(biāo)ChatGPT產(chǎn)品的企業(yè),也在將AI原生應(yīng)用作為當(dāng)下重點(diǎn)。在2023年百度世界大會(huì)上,李彥宏談道:“沒(méi)有構(gòu)建于基礎(chǔ)模型之上的豐富的AI原生應(yīng)用,大模型就一文不值。”

百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖稱(chēng):“我們每個(gè)月都在支持上萬(wàn)家客戶(hù)的應(yīng)用開(kāi)發(fā),百度智能云看到了五大需求。”

1.一切圍繞落地

硅谷創(chuàng)業(yè)導(dǎo)師的Elad Gil發(fā)博客稱(chēng),生成式AI的機(jī)會(huì)會(huì)經(jīng)歷四個(gè)階段:①GenAI原生企業(yè) → ②早期AI初創(chuàng)企業(yè)、部分大企業(yè) → ③目前正在成立的下一波初創(chuàng)企業(yè) → ④大企業(yè)運(yùn)用潮,如今正處于第二個(gè)階段向第三階段發(fā)展的過(guò)程中。

生成式AI公司 Writer 在今年4月進(jìn)行的一項(xiàng)對(duì)美國(guó)公司的調(diào)查數(shù)據(jù)顯示,近 60% 的公司在2023年已經(jīng)購(gòu)買(mǎi)或計(jì)劃購(gòu)買(mǎi)至少一種生成式AI工具。

中國(guó)的大模型發(fā)展速度雖然不及美國(guó),但隨著基礎(chǔ)大模型的逐步開(kāi)放,應(yīng)用層的機(jī)會(huì)顯然是接下來(lái)的重頭戲。

沈抖稱(chēng),在大模型落地時(shí)代,百度智能云看到五重需求端機(jī)會(huì):

第一類(lèi),對(duì)高效的算力的需求,很多企業(yè)用戶(hù)和開(kāi)發(fā)者都希望降低大模型訓(xùn)練和推理的成本;

第二類(lèi),希望直接調(diào)用API,快速便捷的做開(kāi)發(fā)和落地;

第三類(lèi),需要大模型二次開(kāi)發(fā)的工具鏈,來(lái)進(jìn)行針對(duì)性的再訓(xùn)練、微調(diào)、評(píng)估和部署;

第四類(lèi),對(duì)大模型開(kāi)發(fā)服務(wù)的需求,希望更便捷的開(kāi)發(fā)AI原生應(yīng)用;

第五類(lèi),對(duì)AI應(yīng)用的需求。

這些需求,來(lái)自于與百度智能云千帆大模型平臺(tái)上超過(guò)17000家客戶(hù)的交流和溝通。據(jù)透露,千帆大模型API的調(diào)用量還在持續(xù)高速攀升,更多企業(yè)和開(kāi)發(fā)者在不斷地加入。

大模型技術(shù)來(lái)到了真刀真槍跑落地的階段。

在今年3月發(fā)布文心一言之時(shí),李彥宏就宣稱(chēng),看好這波浪潮中AI應(yīng)用的機(jī)會(huì)。他說(shuō):“真正的機(jī)會(huì)并不是從頭開(kāi)始做ChatGPT和文心一言這樣的基礎(chǔ)大模型,而是基于通用大語(yǔ)言模型搶先開(kāi)發(fā)重要的應(yīng)用服務(wù)。未來(lái),將會(huì)有更多的殺手級(jí)應(yīng)用、現(xiàn)象級(jí)產(chǎn)品出現(xiàn)。”

半年后,在百度世界2023大會(huì)上,百度公布了在AI原生應(yīng)用的全新布局:一頭是一系列百度自研的AI原生應(yīng)用,一頭是圍繞AI原生應(yīng)用開(kāi)發(fā)全新升級(jí)了“云智一體”戰(zhàn)略,面向五類(lèi)需求打造能提供全棧服務(wù)方案的“大模型超級(jí)工廠”。

應(yīng)用側(cè),百度發(fā)布了文心大模型4.0,以及被文心大模型改造的百度搜索、如流“超級(jí)助理”、百度文庫(kù)、百度網(wǎng)盤(pán)智能助理 “云一朵”產(chǎn)品,和AI原生打造的百度 GBI (生成式商業(yè)智能)。

圖片來(lái)自百度

服務(wù)方案?jìng)?cè),百度智能云“大模型超級(jí)工廠”針對(duì)性的提供了算力、API、工具鏈、能力組件、AI原生應(yīng)用開(kāi)發(fā)工作臺(tái)五類(lèi)服務(wù)方案。

算力層,千帆平臺(tái)的萬(wàn)卡規(guī)模集群訓(xùn)練的加速比達(dá)到95%,萬(wàn)卡集群有效訓(xùn)練時(shí)間占比超過(guò)96%,大幅降低算力與時(shí)間成本,且還兼容昆侖芯、騰、海光DCU、英偉達(dá)、英特爾等國(guó)內(nèi)外主流AI芯片,支持客戶(hù)以最小的切換成本完成算力適配。沈抖透露,面壁智能的“知海圖AI”大模型和多模態(tài)大模型Luca,就是基于百度智能云提供的AI算力集群打造,其在千卡集群上的有效訓(xùn)練時(shí)間占比高達(dá)99%。

模型層面,目前百度千帆平臺(tái)納管了42個(gè)國(guó)內(nèi)外主流大模型,企業(yè)客戶(hù)可以快速調(diào)取包括文心大模型在內(nèi)的各種大模型的API,獲取大模型能力。

對(duì)于希望基于現(xiàn)有大模型進(jìn)行二次開(kāi)發(fā)的客戶(hù),千帆平臺(tái)可以提供大模型再訓(xùn)練、微調(diào)、評(píng)估和部署等環(huán)節(jié)的全生命周期工具鏈,以及業(yè)界最多的41個(gè)高質(zhì)量行業(yè)數(shù)據(jù)集,幫助開(kāi)發(fā)者和企業(yè)針對(duì)自身業(yè)務(wù)場(chǎng)景快速優(yōu)化。百度稱(chēng),中國(guó)郵政儲(chǔ)蓄銀行、度小滿(mǎn)、金山辦公、河北高速集團(tuán)等諸多行業(yè)頭部客戶(hù)都在通過(guò)千帆平臺(tái)提供的工具鏈服務(wù)進(jìn)行專(zhuān)屬大模型開(kāi)發(fā)。

針對(duì)想基于大模型服務(wù)開(kāi)發(fā)AI原生應(yīng)用的需求,百度智能云推出了“千帆AI原生應(yīng)用開(kāi)發(fā)工作臺(tái)”,提供了一系列能力組件與框架,讓企業(yè)和開(kāi)發(fā)者可以快速開(kāi)發(fā)AI原生應(yīng)用。

此外,百度智能云上線(xiàn)了類(lèi)似安卓、IOS的國(guó)內(nèi)首個(gè)AI原生應(yīng)用商店,讓用戶(hù)可以直接使用成熟的AI原生應(yīng)用產(chǎn)品的,這是百度智能云推出的首個(gè)大模型全鏈路生態(tài)支持體系中的重要內(nèi)容。

2.AI原生應(yīng)用浪潮中的平臺(tái)機(jī)會(huì)

隨著算法及模型的快速進(jìn)步,技術(shù)的閘口打開(kāi)之后,如何借助生成式AI技術(shù)打造這個(gè)時(shí)代的殺手锏應(yīng)用是很多企業(yè)和創(chuàng)業(yè)者當(dāng)下的課題。IDC報(bào)告預(yù)計(jì),到2024年,人工智能市場(chǎng)將達(dá)到5543億美元,增長(zhǎng)的很大一部分將由生成式人AI初創(chuàng)公司推動(dòng),來(lái)自營(yíng)銷(xiāo)、設(shè)計(jì)、客戶(hù)支持、金融科技、媒體制作和互動(dòng)娛樂(lè)等應(yīng)用層的機(jī)會(huì)巨大。

這波機(jī)會(huì)中,平臺(tái)層的機(jī)會(huì)除了云計(jì)算等基礎(chǔ)設(shè)施之外,更新的增量空間在于為AI 應(yīng)用開(kāi)發(fā)做支撐,提供可以支撐全生命周期的工具鏈和組件服務(wù)。

由于大模型是一項(xiàng)新的技術(shù),基礎(chǔ)模型公司百花齊放,在工程設(shè)計(jì)、接口方案等方面尚未形成一個(gè)標(biāo)準(zhǔn)化的共識(shí),開(kāi)發(fā)者也沒(méi)有太多的經(jīng)驗(yàn)可以借鑒。要開(kāi)發(fā)一個(gè)AI原生應(yīng)用產(chǎn)品會(huì)面臨復(fù)雜的工具選擇過(guò)程。市場(chǎng)需要圍繞開(kāi)發(fā)而生的一體化平臺(tái)和成熟的工具鏈服務(wù)。

國(guó)內(nèi)外的科技大廠是擔(dān)任這個(gè)角色的關(guān)鍵力量,他們作為有錢(qián)、有人、有經(jīng)驗(yàn)的一方,有更大的資本為開(kāi)發(fā)者構(gòu)建產(chǎn)品運(yùn)營(yíng)的“高速公路”。

百度正在優(yōu)先布局這層機(jī)會(huì)。此次,在百度世界大會(huì)上,百度智能云推出的“千帆AI原生應(yīng)用開(kāi)發(fā)工作臺(tái)”,這是一個(gè)沉淀了百度開(kāi)發(fā)大模型應(yīng)用的常見(jiàn)模式、工具、流程的平臺(tái)。

百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖發(fā)布“千帆AI原生應(yīng)用開(kāi)發(fā)工作臺(tái)”,圖片來(lái)自百度

千帆AI原生應(yīng)用開(kāi)發(fā)工作臺(tái)主要由應(yīng)用組件、應(yīng)用框架兩層服務(wù)構(gòu)成。

應(yīng)用組件服務(wù)是將底層服務(wù)能力進(jìn)行了組件化封裝,由AI和基礎(chǔ)云兩大類(lèi)組件構(gòu)成。其中,“AI組件”中既包含諸如問(wèn)答、思維鏈(CoT,ChAIn of Thought)等大語(yǔ)言模型組件,還包括文生圖、語(yǔ)音識(shí)別等多模態(tài)組件;另一類(lèi)是基礎(chǔ)云組件,包含向量數(shù)據(jù)庫(kù)、對(duì)象存儲(chǔ)等。

應(yīng)用框架則是將這些組件有選擇地串聯(lián)、組合的一整套經(jīng)驗(yàn),可以讓開(kāi)發(fā)者快速搭建一個(gè)特定場(chǎng)景的任務(wù)。目前,千帆平臺(tái)中的檢索增強(qiáng)生成(RAG)、智能體(Agent)、生成式商業(yè)智能(GBI)就是典型的AI原生應(yīng)用框架。此外,每個(gè)框架下,百度智能云還提供了豐富的樣板間,支撐開(kāi)發(fā)者敏捷、高效地進(jìn)行AI原生應(yīng)用開(kāi)發(fā)。

“這些組件能力都是百度在過(guò)去10年逐步沉淀下來(lái)的。”沈抖說(shuō)。

現(xiàn)場(chǎng),百度實(shí)時(shí)演示了用檢索增強(qiáng)生成(RAG)能力,結(jié)合三一重工提供的一款挖掘機(jī)操作保養(yǎng)手冊(cè),用幾分鐘時(shí)間,就在三一重工官網(wǎng)上快速搭建一個(gè)7×24小時(shí)在線(xiàn)服務(wù)的智能客服。

“RAG的原理是,把一個(gè)大文件切成一片一片的小文件,用向量引擎來(lái)索引這些片段,構(gòu)建出一個(gè)向量數(shù)據(jù)庫(kù)。當(dāng)客戶(hù)進(jìn)行提問(wèn),系統(tǒng)就可以在片段里找出相關(guān)內(nèi)容,讓大模型根據(jù)內(nèi)容提煉,最后生成回復(fù)。”沈抖談道。

另一個(gè)AI原生應(yīng)用框架Agent(智能體)則能自動(dòng)拆解任務(wù),做規(guī)劃,并調(diào)各種組件完成任務(wù),且能根據(jù)完成的效果去反思改進(jìn)自己的能力。百度稱(chēng),Agent已經(jīng)在工業(yè)、交通等領(lǐng)域落地。

其中一個(gè)案例就是制造業(yè)頭部企業(yè)“中天鋼鐵”,通過(guò)Agent應(yīng)用框架,實(shí)現(xiàn)了在鋼產(chǎn)量不足的情況下,調(diào)動(dòng)各種各樣的應(yīng)用,生成一個(gè)解決方案,調(diào)整排產(chǎn)計(jì)劃,最后把整個(gè)方案用郵件的方式再發(fā)給調(diào)度員的任務(wù)閉環(huán)。過(guò)程中的原理就是進(jìn)行任務(wù)指令感知、基于工具集的任務(wù)分解、以及多任務(wù)的自動(dòng)執(zhí)行應(yīng)用。

從這些實(shí)踐可以看出,“千帆AI原生應(yīng)用開(kāi)發(fā)工作臺(tái)”就是百度依靠自身在大模型的模型訓(xùn)練、數(shù)據(jù)整合、應(yīng)用開(kāi)發(fā)、應(yīng)用部署的全流程實(shí)踐總結(jié)的一整套方法論。

“我們想讓每一個(gè)開(kāi)發(fā)者聚焦在自己的業(yè)務(wù)訴求上,不再為研發(fā)過(guò)程發(fā)愁。”沈抖說(shuō)。

3.生態(tài)的“大謀”:造大模型時(shí)代的大船

工具鏈和平臺(tái)只是百度在AI 大模型時(shí)代,MaaS服務(wù)中的一環(huán)。這些基礎(chǔ)之上,百度更大的謀劃在造生態(tài)上。

目前,百度智能云大模型生態(tài)伙伴計(jì)劃包括10+綜合伙伴、100+應(yīng)用伙伴、1萬(wàn)+創(chuàng)業(yè)企業(yè),以及代理伙伴。

大模型時(shí)代,MaaS模式中,生態(tài)的戰(zhàn)略和打法也要經(jīng)歷新的變化。

這與新技術(shù)帶來(lái)的環(huán)境變化有關(guān),隨著大模型技術(shù)的持續(xù)推進(jìn),云計(jì)算賽道的本質(zhì)正在發(fā)生轉(zhuǎn)變過(guò)去十年,云計(jì)算服務(wù)的本質(zhì)是資源,所有的生態(tài)伙伴和服務(wù)方都在圍繞資源云運(yùn)作;大模型時(shí)代,云計(jì)算從資源服務(wù)轉(zhuǎn)變成只能服務(wù),需要內(nèi)嵌到應(yīng)用中,通過(guò)應(yīng)用呈現(xiàn)能力。

整個(gè)云計(jì)算賽道的供給規(guī)則也在隨之發(fā)生變化,云廠商和生態(tài)伙伴的關(guān)系也在迎來(lái)新的轉(zhuǎn)變。百度智能云產(chǎn)業(yè)發(fā)展部總經(jīng)理段永華告訴「甲子光年」:“以前,云廠商只是單純的售賣(mài)資源,如今,資源之外,云廠商還要和應(yīng)用伙伴一塊,打造端到端的智能化應(yīng)用,真正支撐業(yè)務(wù)價(jià)值。”

“應(yīng)用在這個(gè)時(shí)代會(huì)變得更重要,應(yīng)用廠商會(huì)成為聚光燈下的最重要的角色。”段永華說(shuō)。

所以,升級(jí)后百度智能云生態(tài)體系的重點(diǎn)會(huì)圍繞AI原生應(yīng)用來(lái)打造。他們希望和生態(tài)伙伴一起打造應(yīng)用的樣板間,探索大模型落地的路徑。

在世界大會(huì)上,百度智能云也基于伙伴發(fā)展計(jì)劃,率先推出了國(guó)內(nèi)第一個(gè)大模型全鏈路生態(tài)支持體系:圍繞伙伴和創(chuàng)企,提供包括培訓(xùn)賦能支持、AI原生應(yīng)用創(chuàng)新孵化支持、銷(xiāo)售商機(jī)支持、市場(chǎng)營(yíng)銷(xiāo)支持,以及千帆社區(qū)、千帆AI原生應(yīng)用商店的服務(wù)。

“千帆AI原生應(yīng)用商店”就是其中一個(gè)重要的生態(tài)動(dòng)作。

圖片來(lái)自百度

我們可以將“千帆AI原生應(yīng)用商店”理解成一個(gè)AI原生應(yīng)用的App Store,旨在更好的連接AI原生應(yīng)用的供給方和需求方。

“千帆AI原生應(yīng)用商店”不僅會(huì)做應(yīng)的展示,還支持便捷效的應(yīng)交易。”段永華提到,“我們希望它不僅可以提高我們企業(yè)客戶(hù)選型和采購(gòu)方面的效率,也希望幫助這些商家能夠快速的把他們開(kāi)發(fā)的應(yīng)用推向市常”

目前,商店中首批精選應(yīng)用已經(jīng)正式上線(xiàn),金蝶就是首批入駐應(yīng)用商店的伙伴之一,公司基于千帆打造了國(guó)內(nèi)首個(gè)財(cái)務(wù)管理領(lǐng)域的大模型,正在推進(jìn)大模型與全業(yè)務(wù)場(chǎng)景的融合落地。

商店之外,百度搭建的千帆社區(qū)專(zhuān)門(mén)為大模型而生,匯聚一線(xiàn)實(shí)踐經(jīng)驗(yàn),并提供了豐富的產(chǎn)品工具。此外,百度智能云打造了業(yè)內(nèi)第一個(gè)大模型實(shí)訓(xùn)營(yíng)千帆AGI House,以及各種創(chuàng)新孵化支持,其中,千帆AGI House已經(jīng)覆蓋了北京、上海、深圳等地區(qū)的上百家伙伴。百度也在持續(xù)落地千帆AI加速器的項(xiàng)目,為伙伴做技術(shù)賦能、技術(shù)資源投入、牽引投資和營(yíng)銷(xiāo)資源支持。百度稱(chēng),通過(guò)千帆AI加速器,已經(jīng)開(kāi)發(fā)出超過(guò)22個(gè)商業(yè)化應(yīng)用,加速器的成員中,70%以上為創(chuàng)始人、董事長(zhǎng)、CXO。

百度智能云生態(tài)合作伙伴庖丁科技,此前只聚焦金融行業(yè)。許多銀行、券商、交易所等金融機(jī)構(gòu)都在利用其應(yīng)用AutoDoc審核文檔,確保信息披露文件的準(zhǔn)確性,F(xiàn)在,基于千帆平臺(tái),庖丁科技開(kāi)發(fā)了智能文檔應(yīng)用“庖丁解文 ChatDOC”,極大降低了跨行業(yè)的成本,具備跨行業(yè)的能力,正在向新能源、醫(yī)藥等領(lǐng)域推進(jìn)落地。

這是百度在大模型時(shí)代造生態(tài)的一整套新方法論。

通往AGI的未來(lái)之路上,百度希望造新的大船。

“大模型時(shí)代來(lái)了,風(fēng)起云涌,有人爭(zhēng)著弄潮,有人忙著逐浪,而我們致力于造一艘堅(jiān)實(shí)的大船。”沈抖說(shuō)。

(封面圖來(lái)源:百度)

贊助本站

人工智能實(shí)驗(yàn)室
相關(guān)內(nèi)容
AiLab云推薦
推薦內(nèi)容
展開(kāi)

熱門(mén)欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實(shí)驗(yàn)室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動(dòng)態(tài) | 免責(zé)聲明 | 隱私條款 | 工作機(jī)會(huì) | 展會(huì)港