6月28日，伴隨大模型落地從通用技術(shù)進(jìn)步逐步邁向行業(yè)可用，螞蟻數(shù)科旗下多云PaaS平臺(tái)SOFAStack正式發(fā)布大模型服務(wù)平臺(tái)AI Max。該平臺(tái)兼容適配主流開源大模型、國產(chǎn)算力，向企業(yè)提供進(jìn)行模型訓(xùn)練、部署、評(píng)估、優(yōu)化等一站式模型工作臺(tái)，并實(shí)現(xiàn)可視化研發(fā)、管理多種具備行業(yè)知識(shí)庫的Agent（智能體）應(yīng)用，助力企業(yè)跑完企業(yè)AI應(yīng)用業(yè)務(wù)落地的最后一公里。
中國信息通信研究院云大所副所長栗蔚
“大模型的高速發(fā)展使得AI不得不面臨算力管理復(fù)雜、訓(xùn)練推理成本高、任務(wù)調(diào)度難等多方面發(fā)展瓶頸，云原生憑借其高可用、彈性、可擴(kuò)展等優(yōu)勢(shì)成為突破AI困境的關(guān)鍵�！敝袊畔⑼ㄐ叛芯吭涸拼笏彼L栗蔚指出，“云原生PaaS平臺(tái)的大模型產(chǎn)品工具鏈不斷完善，將加速大模型技術(shù)在行業(yè)應(yīng)用中落地�！�
“對(duì)企業(yè)來說，大模型訓(xùn)練耗時(shí)耗力耗資源，AI Max不僅支持主流開源大模型的一鍵微調(diào)訓(xùn)練，還提供三步即完成的零代碼模型開發(fā)環(huán)境，把原先耗費(fèi)至少3天的訓(xùn)練縮短至1小時(shí)。螞蟻?zhàn)匝械念A(yù)訓(xùn)練模型與先進(jìn)的多模態(tài)算法，僅需小量數(shù)據(jù)即可進(jìn)行訓(xùn)練，進(jìn)一步提升數(shù)據(jù)的利用率和模型訓(xùn)練的效率�！蔽浵仈�(shù)科云原生產(chǎn)品資深總監(jiān)馬振雄介紹。
據(jù)了解，基于SOFAStack多云兼容屬性，AI Max具備兩層核心特性：
螞蟻數(shù)科云原生產(chǎn)品資深總監(jiān)馬振雄
在資源層，支持多種國產(chǎn)GPU算力平臺(tái)納管部署，企業(yè)按需靈活使用資源，使得有限的GPU資源可以高效的被利用起來，同時(shí)大大降低服務(wù)器使用成本；
在應(yīng)用層，企業(yè)可以根據(jù)業(yè)務(wù)需求快速輸出定制化的AI模型，構(gòu)建服務(wù)業(yè)務(wù)需求的智能體,極大地簡化了技術(shù)實(shí)施過程。
當(dāng)企業(yè)開始構(gòu)建大模型應(yīng)用，還需要結(jié)合具備行業(yè)特性的業(yè)務(wù)經(jīng)驗(yàn)。針對(duì)金融行業(yè)場景，SOFAStack融合金融助理支小助的最佳實(shí)踐，包含其模型訓(xùn)練、推理能力、智能體研發(fā)等方面，可以幫助機(jī)構(gòu)一鍵生成自身業(yè)務(wù)特色的智能體應(yīng)用。過去9年，SOFAStack助力130家金融機(jī)構(gòu)完成云原生架構(gòu)轉(zhuǎn)型。
螞蟻數(shù)科云原生事業(yè)部總經(jīng)理王磊
“在大模型時(shí)代，SOFAStack可以承擔(dān)PaaS在多云時(shí)代扮演的角色通過構(gòu)建AI原生軟件服務(wù)，成為連接算力與應(yīng)用的中堅(jiān)力量�！蔽浵仈�(shù)科云原生事業(yè)部總經(jīng)理王磊表示。
當(dāng)天，SOFAStack與行云創(chuàng)新、AutoMQ、聯(lián)創(chuàng)集團(tuán)、諧云科技等生態(tài)伙伴簽約，將共建多云、多模型生態(tài)，加速大模型在各行業(yè)落地。
自今年3月份獨(dú)立化運(yùn)營以來，螞蟻數(shù)科悄然推進(jìn)AI toB戰(zhàn)略，SOFAStack、蟻盾等多個(gè)代表性產(chǎn)品均發(fā)布了大模型相關(guān)服務(wù)，積極借助AI技術(shù)助力產(chǎn)業(yè)智能化升級(jí)。
