在過去幾個月的大模型落地實(shí)踐中，業(yè)界遇到了方方面面的挑戰(zhàn)。為了攻下行業(yè)山頭，華為常務(wù)董事、華為云CEO張平安在華為全聯(lián)接大會2023上，提出了 “解難題、做難事、行致遠(yuǎn)”的號召。華為云今年還將派出200多位博士和天才少年，與行業(yè)頭部企業(yè)、戰(zhàn)略伙伴一起，開展大模型落地會戰(zhàn)。
文｜趙艷秋
編｜�；�
9月21日，在盤古大模型3.0推出兩個多月后，華為云在華為全聯(lián)接大會2023上又推出了汽車、醫(yī)學(xué)等新的行業(yè)大模型，并對政務(wù)、礦山、氣象、數(shù)字人直播、軟件研發(fā)等大模型進(jìn)行了升級。
與會者觀察到，華為云全力在行業(yè)大模型的道路上快速推進(jìn)，打法路徑更為明晰。會議上宣布了礦山、氣象、政務(wù)等大模型落地的標(biāo)桿案例。
由于不少行業(yè)處于大模型落地早期，在過去幾個月的實(shí)踐中，業(yè)界普遍反映，遇到了方方面面不小的困難。華為常務(wù)董事、華為云CEO張平安在會上提出了“解難題、做難事、行致遠(yuǎn)”的號召。
數(shù)智前線獲悉，為了攻下行業(yè)山頭，華為云今年還將增派200多位博士和天才少年到一線，與頭部企業(yè)、戰(zhàn)略伙伴一起，開展各種會戰(zhàn)。
01
大模型的路線“分歧”
今年7月華為云發(fā)布盤古大模型3.0后，很多客戶和業(yè)界朋友找到軟通動力華為云智能服務(wù)總經(jīng)理魏建勛咨詢，華為云所說的大模型，為什么與OpenAI的ChatGPT大語言模型不同？
華為云對大模型的定義和發(fā)展路徑，在業(yè)界也引發(fā)爭論。不少大廠今年強(qiáng)力投入的是大語言模型，但華為云發(fā)布的是自然語言、視覺、科學(xué)計(jì)算、預(yù)測、多模態(tài)等五個基礎(chǔ)大模型以及數(shù)個行業(yè)大模型，對大語言模型并未特別強(qiáng)調(diào)。
有人士認(rèn)為，這混淆了大模型的概念，也有人士認(rèn)為，解決行業(yè)問題才是硬道理。不過，魏建勛發(fā)現(xiàn)，最近一個多月，華為云的大模型單子越來越多，找華為云和軟通動力合作的企業(yè)也越來越多。“大家看到在行業(yè)中，尤其在礦山和氣象領(lǐng)域的典型落地案例后，無論在惠民，還是在企業(yè)收益上，大家都漸漸有了感知。”
“華為云主打的是行業(yè)，行業(yè)有縱深，會遇到多種多樣的訴求。”魏建勛告訴數(shù)智前線，在這種情況下，只有大語言模型是不行的。
華為云一位高管告訴數(shù)智前線，之所以選擇這個模式，是因?yàn)樗麄冇X得一個模型解決不了所有問題。“有的模型擅長文，有的擅長理，比如我們的科學(xué)計(jì)算大模型，能解決調(diào)度這類復(fù)雜問題。我們的盤古氣象大模型，研究成果上了《自然》雜志，就是因?yàn)樗幸粋�獨(dú)立的模型。”
“從本質(zhì)上看，華為云的大模型道路是一條可落地、可變現(xiàn)、不燒錢的商業(yè)路徑。”從事數(shù)字人應(yīng)用開發(fā)的云蝠智能創(chuàng)始人魏佳星觀察。
他坦言，華為云選擇這條路徑與ToB基因密切相關(guān)。國內(nèi)外有多個大廠在做大語言模型，但在大語言模型還未展現(xiàn)出明確商業(yè)化優(yōu)勢前，“在這樣一個競爭氛圍里，我感覺華為即使去做，勝算也不會太高”。而在產(chǎn)業(yè)這塊就不同了，像華為云盤古氣象大模型，一兩年內(nèi)可能就是市場上的獨(dú)家技術(shù)。“在這個窗口期內(nèi)，它可以繼續(xù)加大數(shù)據(jù)、加大算力，做到占領(lǐng)市常”
實(shí)際上，在華為全聯(lián)接大會2023上，張平安介紹，盤古氣象大模型已在歐洲中期天氣預(yù)報(bào)中心、國家氣象局等開始試用。泰國氣象局也啟動了與盤古的合作。在礦山領(lǐng)域，山東能源集團(tuán)已把礦山大模型全面應(yīng)用到9大業(yè)務(wù)系統(tǒng)、21個場景中。目前，礦山大模型在全國其他8個礦井開始規(guī)模使用......
華為判斷，人工智能應(yīng)用迎來奇點(diǎn)，正在加速進(jìn)入行業(yè)生產(chǎn)系統(tǒng)，未來2年將深入到50%以上的行業(yè)核心場景，逐步成為數(shù)字經(jīng)濟(jì)增長的主引擎。
“這是不是有點(diǎn)像5年前新能源車的狀況？”魏佳星說，“在純電賽道沒有一個明確的定論前，一些企業(yè)先做增程式，比做純電跑得要快，但大家一開始也有爭議。”
不過，大模型落地行業(yè)，并不是一件容易的事。
一位金融行業(yè)資深人士向數(shù)智前線描述了今年銀行落地大模型的狀態(tài)：二三月，大家都很焦慮，怕落后；四五月，紛紛組建團(tuán)隊(duì)去做；之后幾個月，大家在找方向、落地上遇到了困難，開始變得理性；現(xiàn)在，他們看標(biāo)桿，把驗(yàn)證過的場景拿來試用。
在這個過程中，除了編程助手這類開箱即用的功能外，業(yè)界發(fā)現(xiàn)，大模型與業(yè)務(wù)場景結(jié)合的難度不小，一方面需要大算力，不少頭部企業(yè)因?yàn)閿?shù)據(jù)與合規(guī)要求，要構(gòu)建基礎(chǔ)設(shè)施，投資大，有一定周期；另一方面，在行業(yè)或企業(yè)大模型的訓(xùn)練上，即便是微調(diào)，也可能要一兩萬條數(shù)據(jù)，還要找到適宜的方法，企業(yè)都在探索中；同時，不少企業(yè)還要開發(fā)算子，解決公有云和私有云協(xié)同。
魏建勛觀察，目前階段，華為云的打法是聚焦頭部企業(yè)，找到具有代表性和普適性的痛點(diǎn)，結(jié)合盤古大模型和企業(yè)know-how，打造行業(yè)標(biāo)桿，為行業(yè)復(fù)制打基矗
02
大模型落地大會戰(zhàn)
打造標(biāo)桿是一件具有開拓性的事。在華為內(nèi)部有著密密麻麻的Roadmap，科學(xué)家和數(shù)學(xué)家進(jìn)一步下沉一線，識別行業(yè)難點(diǎn)，更快構(gòu)建行業(yè)大模型，拓展行業(yè)深度。
華為云人工智能算法專家金博士，參與了盤古汽車大模型的構(gòu)建。“下到一線后，我充分理解到自動駕駛中數(shù)據(jù)的價值。”數(shù)據(jù)是個吞金獸，一個包含視覺、雷達(dá)等多傳感器的10秒圖像文字訓(xùn)練，數(shù)據(jù)采集標(biāo)注成本要幾百元，而自動駕駛需要幾百萬小時的行駛數(shù)據(jù)。
同時，如何補(bǔ)足“鬼探頭”這類Corner Case長尾數(shù)據(jù)，解決幾年前自動駕駛車將橫穿馬路的白色大卡車誤判為云朵，而釀成事故的這類問題，是行業(yè)難題之一。
在盤古汽車大模型中，采用NeRF構(gòu)建的數(shù)字孿生、元宇宙虛擬環(huán)境中，利用大模型的生成和泛化能力，產(chǎn)出大量虛擬數(shù)據(jù)，而且只要訓(xùn)練一次，就可生成適配不同新車型視角的視頻，讓Corner Case閉環(huán)周期，從兩周以上縮短到兩天內(nèi)，也降低了實(shí)際道路采集標(biāo)注成本。
盤古汽車大模型也進(jìn)入汽車的研產(chǎn)供銷服場景中，一汽解放數(shù)字化部宋磊部長，在會上分享了一汽解放，應(yīng)用盤古汽車大模型的實(shí)踐。
在金融領(lǐng)域，負(fù)責(zé)盤古金融大模型的祝博士，下到一線后，了解到銀行的痛點(diǎn)之一，是傳統(tǒng)智能客服仍要依賴大量人工，而對一線人員的知識傳遞也存在瓶頸。大模型結(jié)合知識庫，可理解專業(yè)知識，實(shí)現(xiàn)專業(yè)問答，成為一線人員的助手。基于盤古金融大模型的網(wǎng)點(diǎn)問答，7月在工行上線后，陸續(xù)推廣了幾百個網(wǎng)點(diǎn)，答案采納率超過85%，獲得一線業(yè)務(wù)的好評。目前，文檔問答孵化成的標(biāo)準(zhǔn)解決方案，又快速復(fù)制到交行、農(nóng)行、銀聯(lián)以及上交所等。
值得關(guān)注的是，工行向祝博士反映，他們在人才上面臨兩難：一方面不希望員工被大模型取代；另一方面很多崗位還有人才缺口。他們期望大模型釋放出的員工，能做更多高價值的事。在這一訴求下，華為聯(lián)合工行實(shí)驗(yàn)室的人力資源團(tuán)隊(duì) ，梳理了大模型在企業(yè)應(yīng)用的人員轉(zhuǎn)身實(shí)踐，設(shè)計(jì)了系列培訓(xùn)課程，如Prompt調(diào)優(yōu)、微調(diào)、大模型運(yùn)營等，并與遠(yuǎn)程銀行、網(wǎng)點(diǎn)等部門合作，建立聯(lián)合項(xiàng)目組，驅(qū)動企業(yè)人員能力提升。
“這樣的實(shí)踐，也驅(qū)動我們梳理了一整套企業(yè)落地方法論，真正做到授人以漁，讓企業(yè)和員工深入擁抱新技術(shù)，提升生產(chǎn)力。”祝博士說。
在氣象領(lǐng)域，盤古氣象大模型此前創(chuàng)造了臺風(fēng)路徑的預(yù)測紀(jì)錄。這次升級后，它又攻克了暴雨預(yù)測這一全球氣象領(lǐng)域Top級難題，讓暴雨紅色預(yù)警從3小時預(yù)報(bào)，提前到24小時發(fā)出，這對政府的災(zāi)害防御、老百姓的生產(chǎn)生活極為關(guān)鍵。
深圳氣象局也在與華為合作，基于盤古氣象大模型，打造深圳區(qū)域氣象預(yù)報(bào)大模型。數(shù)智前線獲悉，這或?qū)⒊蔀槿蚴讉�區(qū)域氣象預(yù)報(bào)模型，有望實(shí)現(xiàn)大約三公里精度的氣象預(yù)報(bào)。
9月30日，華為云還將啟動盤古氣象平臺的邀測，這是一個SaaS服務(wù)，讓全球用戶可以直接調(diào)用降水預(yù)測等功能。
在醫(yī)學(xué)領(lǐng)域，喬博士和劉博士的團(tuán)隊(duì)在解決醫(yī)療大模型嚴(yán)肅性和專業(yè)性的挑戰(zhàn)。“通用NLP大模型通過公開數(shù)據(jù)學(xué)習(xí)，能力非常有限。”喬博士介紹，他們通過大量醫(yī)學(xué)數(shù)據(jù)，并定義了大量醫(yī)學(xué)任務(wù)，教會NLP大模型學(xué)習(xí)醫(yī)學(xué)的知識和場景。“大模型還結(jié)合搜索、知識圖譜，進(jìn)一步保障大模型的可溯源性。”劉博士說。
盤古醫(yī)學(xué)大模型的目標(biāo)是讓每個醫(yī)生擁有可信賴的臨床助手，這對普惠醫(yī)療的實(shí)現(xiàn)也意義深遠(yuǎn)。目前，在由10個科室真實(shí)病例構(gòu)成的檢驗(yàn)報(bào)告解讀測試中，在三個對照組中，盤古醫(yī)學(xué)助手幾乎達(dá)到了對照組1，也就是相當(dāng)于臨床醫(yī)生的平均水平。
在大會期間還公布了多個大模型的落地進(jìn)展，如政務(wù)大模型首次將NLP大模型與CV大模型融合，讓城市各類開放和長尾事件秒級發(fā)現(xiàn)、分鐘級分撥。礦山大模型，讓山能濟(jì)寧二號煤礦每年多產(chǎn)出8000噸精煤，增收數(shù)千萬元；數(shù)字人直播，讓丹寨農(nóng)特產(chǎn)和非遺產(chǎn)業(yè)蠟染走出大山，走向全球。
過去幾個月，華為攻克行業(yè)難題的各種會戰(zhàn)中，合作伙伴的能力和價值也在快速釋放中。他們識別行業(yè)關(guān)鍵問題，結(jié)合自身行業(yè)know-how，推動盤古進(jìn)入行業(yè)。魏建勛告訴數(shù)智前線，軟通動力在嘗試突破車險理賠的難點(diǎn)，將原來理賠定損，從幾天逐步縮短到小時級、分鐘級，“現(xiàn)場就能解決”，目前該項(xiàng)目與車企客戶在PoC階段。
03
支撐百模千態(tài)
在大模型訓(xùn)練和落地過程中，算力目前是行業(yè)的“集體焦慮”。這也是華為全聯(lián)接大會2023上，與會者最關(guān)注的事情之一。
“大家都在到處找算力，供需比大約在 1：10 之間。”一位算力行業(yè)人士說，“大模型廠商都在各地密集訪談，到處尋找穩(wěn)定算力的合作伙伴，每家對算力的需求都在萬P以上。”
不光是大模型廠商，一些行業(yè)頭部企業(yè)，如銀行也已開始入場搶算力了。“銀行動不動就幾十萬、上百萬資料，他們要去做企業(yè)模型訓(xùn)練，首先就要購置算力。”
有資深人士判斷，國內(nèi)目前H800的缺口達(dá)到45萬張。面對中國的算力需求熱，上述算力行業(yè)人士稱，英偉達(dá)的發(fā)貨政策是優(yōu)先美國本土，中國供貨量不到兩成，而這樣的供貨還有隨時被卡的風(fēng)險。
此前，由于美國禁令，英偉達(dá)為中國提供了特供的A800和H800，今年以來仍不斷有消息認(rèn)為，美國還在考慮打壓升級，包括進(jìn)一步限制A800和H800的出口，限制中國企業(yè)使用美國AI云服務(wù)等。
面對算力的稀缺和昂貴，在9月21日的會議中，張平安宣布了華為云騰AI云服務(wù)正式上線。華為云投入很大，在貴安、烏蘭察布和蕪湖建設(shè)了非常大的AI算力中心。企業(yè)只需通過一鍵接入，即可隨取隨用AI云服務(wù)。
有趣的是，此前業(yè)界云廠商紛紛宣布支持各類開閉源大模型，華為云這次也宣布，除了支持盤古大模型，還將適配業(yè)界主流的近一百個開源大模型，如Llama2，GLM等，支持企業(yè)既可以基于盤古基礎(chǔ)大模型和行業(yè)大模型，也可以基于開源大模型，打造自己的專屬大模型。
9月20日，華為云騰AI云服務(wù)“百模千態(tài)”專區(qū)上線。千卡訓(xùn)練30天長穩(wěn)率達(dá)到90%，訓(xùn)練作業(yè)故障自動恢復(fù)，非自動場景下恢復(fù)時長小于30分鐘；此外，還提供了開發(fā)、遷移工具鏈，30多種可視化調(diào)優(yōu)部署工具，自動化實(shí)施工具，典型模型遷移周期可降低到兩周。此前，針對華為在《自然》雜志上發(fā)表的華為云盤古氣象大模型的論文，任正非就在內(nèi)部講話中談及，要“在新的淘金時代賣鏟子”。
為了應(yīng)對千模百態(tài)的需求，在會議期間，華為云CTO張宇昕也介紹，華為云以系統(tǒng)架構(gòu)創(chuàng)新的思路，正式發(fā)布分布式QingTian架構(gòu)，打破了計(jì)算、存儲、網(wǎng)絡(luò)的邊界，把過去主從式架構(gòu)升級為對等架構(gòu)，來提升AI算力。
正如華為輪值董事長孟晚舟所言，華為致力于打造中國堅(jiān)實(shí)的算力底座，為世界構(gòu)建第二選擇。
