智東西（公眾號：zhidxcom）
作者 | ZeR0
編輯 | 漠影
智東西12月19日報道，在生成式AI熱潮中，憑借與英偉達的合作以及拿下10億級GPU算力大單，成立僅1年多的英博數(shù)科成為現(xiàn)象級“算力黑馬”，并帶動其母公司彩票巨頭鴻博股份股價今年迄今漲幅高達347%。
在新華社國家重點實驗室指導(dǎo)下，英博數(shù)科本周一舉辦了首屆AI Tech Day暨人工智能生態(tài)發(fā)展峰會。英博數(shù)科的多家生態(tài)合作伙伴及客戶們在會上進行主題分享。
百川智能創(chuàng)始人、CEO王小川，軟通智慧CTO楊旭青，潞晨科技Colossal-AI云平臺負責(zé)人崔子源，無問芯穹聯(lián)合創(chuàng)始人、CEO夏立雪，愛奇藝AI基礎(chǔ)服務(wù)總監(jiān)董峰，分別從大模型的技術(shù)發(fā)展、體系設(shè)計、能效優(yōu)化、降低成本、生成式AI應(yīng)用實踐等角度輸出了大量干貨。
這場大會上，英博數(shù)科正式宣布戰(zhàn)略升級，從1.0階段定位大模型算力服務(wù)商，升級到2.0定位“AGI全棧生態(tài)服務(wù)平臺”為AGI全產(chǎn)業(yè)鏈客戶提供充足穩(wěn)定的算力和全棧式解決方案。
同時，英博數(shù)科重磅推出“搏博云”，作為匯聚生態(tài)開發(fā)者、提供增值服務(wù)的產(chǎn)品平臺，以開源生態(tài)助力實現(xiàn)產(chǎn)業(yè)價值落地。
AI Tech Day期間還宣布包括“AGI泛娛樂聯(lián)盟”、“梧桐計劃”、“MM豆計劃”在內(nèi)的眾多生態(tài)重磅商業(yè)化落地項目，并成立了北京AI創(chuàng)新賦能中心技術(shù)委員會，從而更好地解決軟硬件融合、讓算力自由可控的研發(fā)課題，為中國人工智能（AI）產(chǎn)業(yè)打造最領(lǐng)先的技術(shù)解決方案樣板工程。
一、10月份累計交付3000P AI算力，迄今累計簽約超過18億元
鴻博股份副總裁、英博數(shù)科CEO周首先回顧了英博數(shù)科發(fā)展歷程和關(guān)鍵節(jié)點：
英博數(shù)科于2022年6月在北京成立，同年與中關(guān)村服務(wù)聯(lián)盟、英偉達共同合作成立北京AI創(chuàng)新賦能中心，并獲得了24個城市IDC運營許可。
進入今年，英博數(shù)科在2月交付首個DGX A800 AI算力集群，10月累計交付3000P AI算力，持續(xù)擴張單一通訊集群超大智算單元，截至今年12月累計簽約額超過18億人民幣。
其客戶類型既有像百川智能、MiniMax、深言科技等國內(nèi)頭部大模型客戶，也有像潞晨科技、無問芯穹這樣的頭部中間層算法技術(shù)服務(wù)商。同時，英博數(shù)科入資布局了包括公安經(jīng)偵大模型創(chuàng)新企業(yè)中科朗克和大模型泛娛樂短劇、游戲公司等首批應(yīng)用場景的優(yōu)質(zhì)公司。
▲鴻博股份副總裁、英博數(shù)科CEO周
周回憶說，作為第一批吃螃蟹的人，2021年英博數(shù)科啟動之初，就開始集海內(nèi)外多方力量、資源、團隊為算力儲備努力，目標就是打造北京智算中心樣板，在全國推廣復(fù)制�；诖�，英博數(shù)科并沒有因為對華芯片限制受太大影響，反而超預(yù)期的完成了第一階段的算力落地和儲備目標。
“英博數(shù)科和客戶的關(guān)系更像是親人、手足或者是師生，我們能夠坦誠面對雙方的需求，互相扶持，各施所長，共同成長。”周談道，客戶與英博數(shù)科共同搭建調(diào)試出了超越原廠商標準參數(shù)的智算集群訓(xùn)練效果，用高性能國產(chǎn)通訊設(shè)備跑出了與昂貴進口設(shè)備基本持平的效果。
二、升級AGI全棧生態(tài)服務(wù)平臺，發(fā)布搏博云V1.0版本
周宣布，英博數(shù)科啟動第二階段商業(yè)戰(zhàn)略從專業(yè)AI多模態(tài)大模型訓(xùn)練平臺的定位升級為AGI（通用人工智能）全棧生態(tài)服務(wù)平臺。
在IaaS基建層，英博數(shù)科攜手京能集團共建北京AI創(chuàng)新賦能中心，打造對標英偉達H系列產(chǎn)品的單一物理空間、單一通訊單元的萬卡智算集群作為算力主單元，并在其他城市特別是東數(shù)西算的主要節(jié)點城市建設(shè)規(guī)模不等的智算中心子單元，從而最大限度滿足不同模型階段客戶的分布式訓(xùn)練以及合作伙伴AI生態(tài)工具交付業(yè)務(wù)的需求。
在中間的PaaS層，客戶可在搏博云及其工具商店里購買無問芯穹、潞晨科技等英博數(shù)科生態(tài)合作伙伴提供的PaaS訓(xùn)練加速解決方案，還可以基于未來英博數(shù)科和合作共同研發(fā)的最新X架構(gòu)最大限度降低大模型智算集群的傳輸效率衰減，從而匹配市面幾乎所有兼容CUDA的GPU解決方案，以幫助平臺上的AGI研發(fā)者降本增效。
第三層SaaS服務(wù)層提供數(shù)據(jù)工程服務(wù)，以高效精準的向量數(shù)據(jù)庫和數(shù)據(jù)產(chǎn)品化服務(wù)提供為核心，幫助擁有數(shù)據(jù)資產(chǎn)的客戶實現(xiàn)收益變現(xiàn)。
第四層Data&MaaS層由模型商店、數(shù)據(jù)商店組成，可輕松下載體驗各種開源模型，或是購買垂類應(yīng)用模型，也可以在租用搏博云的算力空間來實現(xiàn)定制模型的私有化部署使用和訓(xùn)練。
周認為，通過搭建AI商業(yè)交易平臺，實現(xiàn)良性經(jīng)濟自循環(huán)的閉環(huán)產(chǎn)業(yè)鏈，是讓AI產(chǎn)業(yè)做大做強的重要一環(huán)。英博數(shù)科將自己定位為一個企業(yè)服務(wù)平臺，希望能夠加快進步，處理客戶的多樣化商業(yè)需求。據(jù)她透露，英博數(shù)科計劃將AI Tech Day持續(xù)性辦成一個常規(guī)化的開發(fā)者活動，邀請出色的產(chǎn)品團隊開發(fā)者直接面對市場進行交流。
向客戶交付增值服務(wù)工具和匯聚生態(tài)開發(fā)者的平臺，就是搏博云（Best of the Best Cloud）。
它是一個GPU云平臺，現(xiàn)階段主要是連接大模型頭部客戶和希望加入AI產(chǎn)業(yè)的開發(fā)者，通過工具、應(yīng)用、數(shù)據(jù)、應(yīng)用商店，提供自助開戶、商業(yè)交易，并可對接代理商、加盟商進行算力的商業(yè)化調(diào)度、為客戶進行跨平臺數(shù)據(jù)遷移、虛擬GPU等功能，實現(xiàn)算力像水和電一樣隨取隨用。
搏博云將基于算力供給、客戶模型全周期陪伴式專家調(diào)優(yōu)、數(shù)據(jù)工程、數(shù)據(jù)資產(chǎn)化與數(shù)據(jù)集市的一站式聚合云服務(wù)，并打造數(shù)據(jù)產(chǎn)品、工具服務(wù)、模型產(chǎn)品及眾多開源產(chǎn)品的動態(tài)閉環(huán)生態(tài)環(huán)境，供給、開發(fā)者與需求方的閉環(huán)，加速大模型從開發(fā)到落地的進程。
同時，搏博云提供豐富多樣的工具包，用戶既可為大模型加載獨立的數(shù)據(jù)集，也能單獨升級基礎(chǔ)模型或能力集；工具包能將復(fù)雜的大模型開發(fā)過程流程化、標準化，幫助用戶實現(xiàn)一站式開發(fā)，并支撐構(gòu)建大模型原生應(yīng)用。
三、披露分階定價計劃，積極與ISV服務(wù)商合作
會上，英博數(shù)科披露了戰(zhàn)略升級后的收入構(gòu)成，包括搏博云各類商店的分成，異構(gòu)調(diào)度、vGPU云服務(wù)收入，算力、產(chǎn)品和服務(wù)代理收入的梧桐計劃，各地算力納管銷售分成的MM豆計劃甚至是相關(guān)金融衍生產(chǎn)品等。
填補高端算力和創(chuàng)新需求之間的鴻溝，需要一個強有力的生態(tài)系統(tǒng)支撐。英博數(shù)科致力于構(gòu)建生態(tài)系統(tǒng)，打造基于多樣性算力平臺的全線自研產(chǎn)品和通用解決方案。
英博數(shù)科商務(wù)副總裁孟健雄分享了英博數(shù)科的MMD算力聚合，要基于算力、結(jié)合金融手段，實現(xiàn)算力的融合、放大和多樣化。
第一，通過搏博云聚合納管，將傳統(tǒng)IDC的計算算力、電信專業(yè)IDC的計算算力實現(xiàn)跨云融合；
第二，通過金融工具和資本合作的方式，持續(xù)的追求做國內(nèi)最大的單一物理空間集群；
最后通過智算中心的建設(shè)項目，托管代運營的服務(wù)和私有云等方式，進一步實現(xiàn)服務(wù)和算力部署的多樣化。
比如在金融方案中，民營資本在面對智算項目時可能會缺乏客戶儲備、相應(yīng)技術(shù)背景和實際運營運維的經(jīng)驗，作為金融租賃服務(wù)角色，英博數(shù)科充當了一個項目啟動期運營平臺的角色，在項目前三年提供一個收益的兜底方案。
孟健雄說，這樣的組合能夠充分利用民營資本、經(jīng)營優(yōu)勢、英博數(shù)科充裕的算力資源以及對市場需求的準確預(yù)判，實現(xiàn)雙方利益的最大化。
在定價上，結(jié)合實際積累的業(yè)務(wù)經(jīng)驗與客戶成長規(guī)律，英博數(shù)科將客戶分成大致三類，根據(jù)不同需求提供符合其發(fā)展階段的定制化內(nèi)容：
1）戰(zhàn)略合作伙伴，如百川智能、MiniMax等，在超大規(guī)模集群和數(shù)據(jù)資產(chǎn)方面開展深入合作；
2）成長性客戶，即仍需進行市場驗證的中型客戶群體，英博數(shù)科除了提供標準化戰(zhàn)略供應(yīng)外，會努力幫助他們將模型產(chǎn)品推向市場；
3）潛力客戶，面向更廣泛的尚處在發(fā)展初期的企業(yè)，最大化降低技術(shù)門檻，提供靈活的付費選項。
孟健雄談道，僅憑英博數(shù)科一己之力，難以全面涵蓋所有的客戶需求，因此英博數(shù)科愿意用開放的態(tài)度積極與更貼近客戶、了解客戶需求的ISV服務(wù)商建立合作關(guān)系，將在明年開始推進其ISV服務(wù)商體系，即梧桐計劃。
經(jīng)過深入研究，英博數(shù)科發(fā)現(xiàn)目前算力市場由賣方主導(dǎo)，這滋生出一些問題，例如虛假的算力供應(yīng)、價格不透明且頻繁上漲，算力的期貨活動缺乏違約的懲罰條款等現(xiàn)象。
英博數(shù)科在設(shè)計梧桐計劃時充分考慮到這些痛點，同時利用技術(shù)制度和金融工具來解決問題，為英博數(shù)科的服務(wù)商群體賦能：
第一，通過搏博云的算力聚合串珠成鏈，撮合零散的算力，供給與需求端實現(xiàn)算力的彈性超售；
第二，通過遠期合約作為衍生品的工具，為買方對沖算力供應(yīng)商違約的風(fēng)險，為金融參與者創(chuàng)造機會，真正做到算力供應(yīng)的可交可產(chǎn)；
最后，利用搏博云算力供應(yīng)的平臺優(yōu)勢，提供給客戶與中間商之間的交易擔(dān)保服務(wù)。
孟健雄舉例說，一個年服務(wù)于大概15~20家中小型客戶的服務(wù)商，通過算力服務(wù)費和搏博云增值服務(wù)費的銷售返傭，結(jié)合資源鎖定工具，粗略計算每年可得到大幾十萬的毛利收入。
四、大模型占中國智算需求近6成，多家生態(tài)伙伴拆解落地實踐與算力挑戰(zhàn)
艾瑞咨詢在峰會期間發(fā)布《2023年中國智能計算中心行業(yè)發(fā)展白皮書》。據(jù)艾瑞咨詢產(chǎn)業(yè)數(shù)字化研究院負責(zé)人徐樊磊分享，2023年中國智能算力需求中，訓(xùn)練占70%，推理占30%；其中大模型占據(jù)2023年中國智能算力總需求的58.8%，是智能算力的最大需求方。
通過分析，他總結(jié)出了未來AGI時代的創(chuàng)新解決方案：擁有足夠的高端智能算力和不斷優(yōu)化的軟硬件融合解決方案；可以構(gòu)建生態(tài)匯聚上下游、全鏈條、各領(lǐng)域的參與者；不論是開發(fā)者還是使用者，門檻都要足夠低和便利。
隨后，英博數(shù)科從算力服務(wù)、算法優(yōu)化、場景數(shù)據(jù)模型使用等方面的全棧生態(tài)服務(wù)客戶和用戶們分別進行了分享。
百川智能是英博數(shù)科首個算力租賃和戰(zhàn)略客戶，也是國內(nèi)迄今為止算力云服務(wù)最大金額訂單購買者。本月初，鴻博股份宣布英博數(shù)科于近期與百川智能簽訂云服務(wù)協(xié)議，未來三年向百川智能提供協(xié)議約定規(guī)模的英偉達智算服務(wù)器所有的算力和資源以及配套軟件、應(yīng)用以及技術(shù)服務(wù)，交易總金額預(yù)計13.82億元。
百川智能創(chuàng)始人、CEO王小川現(xiàn)場分享了大模型的發(fā)展與技術(shù)思考。他談道，今年是通用人工智能（AGI）元年，語言模型是AGI的起點。他相信大模型帶來的行業(yè)賦能包括三個分支：1）生產(chǎn)力提升，通過提供數(shù)字員工幫助企業(yè)更好地降本增效；2）智能助理，打造私人醫(yī)生、私人老師、私人律師等更多“專家”；3）開放世界，從做出情感陪伴角色走向創(chuàng)造原創(chuàng)劇情、構(gòu)建虛擬世界，預(yù)計在娛樂行業(yè)未來會有巨大發(fā)展。
從技術(shù)角度來看，王小川認為，大模型+搜索才能構(gòu)成完整技術(shù)棧，通過搜索經(jīng)驗和能力來助力大模型研發(fā)，補齊大模型短板，減少幻覺并優(yōu)化時效性、安全性。他希望與英博數(shù)科一起推動大模型行業(yè)的發(fā)展，百川智能的宗旨是幫助大眾輕松、普惠地獲取世界知識和專業(yè)服務(wù)。
軟通智慧CTO楊旭青分享了多模態(tài)大模型在城市治理場景中的體系設(shè)計。在他看來，光靠大數(shù)據(jù)不足以解決讓城市有智慧的問題，以前一個城市構(gòu)建了一個擁有很多碎片式AI算法的體系，但把這些算法管理起來、充分融合并不容易，而大模型本身的泛化性使其能將各種實踐關(guān)聯(lián)起來，大大提升算法及前端硬件使用率和準確率。
他提到很多大模型應(yīng)用面臨的問題是結(jié)合城市場景中的數(shù)據(jù)進行微調(diào)加再訓(xùn)練，以及與Self-ASK和React等多種大語言模型Agents技術(shù)，才能真正服務(wù)于城市場景。軟通智慧近年來交付了一批城市級AI計算中心、多樣性算力中心相關(guān)成功案例，在建設(shè)、運維、運營、使能服務(wù)等方面積累了大量經(jīng)驗。不久前，軟通智慧聯(lián)合華為發(fā)布城市大模型聯(lián)合解決方案，深化了智慧應(yīng)用和創(chuàng)新場景建設(shè)，通過探索超大型城市中心城區(qū)治理新路，提升治理體系和治理能力現(xiàn)代化水平。
潞晨科技Colossal-AI云平臺負責(zé)人崔子源談道，AI大模型面臨訓(xùn)練耗時長、顯卡稀缺且昂貴、開發(fā)和運維人力成本高等挑戰(zhàn)，Colossal-AI通過大規(guī)模的大模型異構(gòu)內(nèi)存優(yōu)化和管理系統(tǒng)、高效的多維模型并行計算管理系統(tǒng)、自研低延遲高吞吐推理引擎等方案來最大限度幫助企業(yè)級AI大模型降本增效。
其云服務(wù)提供了大模型訓(xùn)練、微調(diào)、推理、部署的能力，同時也提供了多種無代碼、低代碼方式，有助于大幅減少垂直企業(yè)領(lǐng)域招聘AI團隊的人力成本。潞晨科技將參加英博數(shù)科的梧桐計劃，同時把Colossal-AIPaaS云平臺原生融入到搏博云的生態(tài)，和英博數(shù)科將攜手進行大模型科技前沿和商業(yè)探索，為更多的垂直領(lǐng)域的企業(yè)提供優(yōu)質(zhì)的大模型服務(wù)。
無問芯穹創(chuàng)始成員主要來自清華大學(xué)電子工程系。據(jù)無問芯穹聯(lián)合創(chuàng)始人、CEO夏立雪博士稱，共同構(gòu)建一個大模型的生態(tài)，能夠進一步讓很多有自己想法的、一些好的創(chuàng)業(yè)者和開發(fā)者，能夠更方便享受到更經(jīng)濟更高效率的算力應(yīng)用。在未來的賽道競爭上，把“全棧生態(tài)服務(wù)平臺”打造好才能讓真正的中國的AI能夠騰飛起來。
他談道，能效是衡量生產(chǎn)力和競爭力的測度，GPU可使用性不足、多元異構(gòu)GPU生態(tài)分散、算力/存儲/貸款不足等難題限制了大模型落地的極致能效。無問芯穹想要在多元異構(gòu)硬件和軟件模型生態(tài)之間打造一個高度靈活、高兼容性的中間層，實現(xiàn)M x N的高效統(tǒng)一部署，最終能夠讓所有應(yīng)用與算力之間的銜接又快又好。其“M x N”中間層產(chǎn)品中最核心的是Infini-ACC大模型計算優(yōu)化引擎，該工具使得其很多模型、系統(tǒng)、硬件優(yōu)化能力可被自動加入研發(fā)工作中。
五、布局AI+泛娛樂應(yīng)用場景，成立北京AI創(chuàng)新賦能中心技術(shù)委員會
在AI Tech Day上，由英博數(shù)科牽頭的“AGI泛娛樂聯(lián)盟”正式啟動。
愛奇藝AI基礎(chǔ)服務(wù)總監(jiān)董峰分享了愛奇藝的AIGC實踐。愛奇藝已經(jīng)規(guī)�；貙I技術(shù)與業(yè)務(wù)進行結(jié)合，基于文生文、文生圖、文生視頻等方案，有兩大AIGC落地方向：一是智能制作，涉及策略、制作、宣發(fā)；二是用戶體驗，涉及播放、搜索、推薦、廣告。
AIGC賦能內(nèi)容制作的整個生命周期涵蓋策劃、開發(fā)、制作、宣發(fā)四個部分，設(shè)計語言表達、創(chuàng)意發(fā)散、美術(shù)設(shè)計等能力的運用，具體應(yīng)用案例有劇本小說評估、概念海報和前期設(shè)計、宣發(fā)視頻制作、包括AI配音和藝人補錄對白在內(nèi)的奇聲智能配音、衍生品設(shè)計與同人創(chuàng)作、基于AI視頻理解和智能海報素材的用戶增長宣發(fā)素材、搜索體驗提升、推薦素材生成和廣告素材制作提升、播放體驗提升（本集看點、綠鏡功能升級）等。
周說，從AI向AGI的發(fā)展，需要跨學(xué)科的深度融合，英博數(shù)科不僅要打造一個一站式服務(wù)的生態(tài)閉環(huán)，更要通過這個生態(tài)，匯聚中國乃至全球最頂尖的技術(shù)伙伴，專注于尋找硬件側(cè)的融合創(chuàng)新算力解決方案和軟件側(cè)的數(shù)據(jù)、模型、算法優(yōu)化提升方案，從而對現(xiàn)階段高端智算設(shè)備單一品牌路徑依賴的問題實現(xiàn)突圍。
面向這個目標，大會現(xiàn)場成立了北京AI創(chuàng)新賦能中心技術(shù)委員會。
北京AI創(chuàng)新賦能中心由技術(shù)委員會領(lǐng)導(dǎo)，專注于尋找硬件側(cè)和算法側(cè)的解決方案，希望以此打破現(xiàn)階段高端AI訓(xùn)練方面設(shè)備單一品牌路徑依賴的問題。技術(shù)委員將輪值擔(dān)任執(zhí)行主席。
據(jù)介紹，超大型智算平臺可滿足目前頭部AGI開發(fā)者們的研發(fā)訴求，一方面提供算力供給，另一方面通過引入由汪玉教授、CCF中國計算機學(xué)會包括國際知名院校專家學(xué)者所組建的技術(shù)委員會進行硬件側(cè)融合創(chuàng)新、自主可控，算法側(cè)通過算子庫優(yōu)化、模型壓縮等方式解決算力緊缺問題。
大會基于北京AI創(chuàng)新賦能中心合作計劃、搏博云數(shù)據(jù)服務(wù)合作簽約、搏博云開發(fā)者計劃簽約、商業(yè)代理梧桐計劃、大模型與算存解決方案實驗室合作計劃，與一眾國內(nèi)人工智能產(chǎn)業(yè)頭部企業(yè)共同成立了生態(tài)聯(lián)盟。
結(jié)語：讓AGI在具體實踐中發(fā)揮出實際價值
英博數(shù)科與一眾生態(tài)合作伙伴在這場技術(shù)盛會上對前瞻性技術(shù)與前沿應(yīng)用進行了深度探討，輸出了在大模型時代需要多少算力、如何用好算力、最佳算力調(diào)度與調(diào)優(yōu)方法等關(guān)鍵議題的獨到見解，為AI產(chǎn)業(yè)創(chuàng)新發(fā)展思路提供了參考。
作為AI算力板塊龍頭，英博數(shù)科判斷，推動場景落地、賦能產(chǎn)業(yè)發(fā)展，是決定AI能否在產(chǎn)業(yè)中發(fā)揮出更大價值的核心因素。在技術(shù)發(fā)展過程中以算力為“養(yǎng)分”，讓應(yīng)用去“生長”，不斷學(xué)習(xí)和優(yōu)化，才能讓AGI在具體實踐中發(fā)揮出實際價值。
戰(zhàn)略升級后的英博數(shù)科，在高速增長的算力租賃收入之余，探路可能會以更快速的增長和更高的利潤率逐步超越算力租賃占比的生態(tài)和服務(wù)未來帶來的收入，這構(gòu)建了一個新的樣板。英博數(shù)科選此次推出生態(tài)藍圖、建立聯(lián)盟，是其戰(zhàn)略迭代升級關(guān)鍵的一步，其生態(tài)布局也將是未來能否穩(wěn)固住AGI全棧服務(wù)商的重要陣地。
