8月15日，訊飛星火認(rèn)知大模型V2.0升級(jí)發(fā)布會(huì)上，科大訊飛攜手華為發(fā)布星火一體機(jī)。
據(jù)介紹，“星火一體機(jī)”是國(guó)產(chǎn)軟硬件一體化的私有專屬大模型解決方案，開箱即可使用，提供從底層算力、AI框架、訓(xùn)練算法、推理能力、應(yīng)用成效等全棧AI能力，幫助企業(yè)打造專屬大模型。
星火一體機(jī)的訓(xùn)練和推理一體化部署，可用于問答系統(tǒng)、對(duì)話生成、知識(shí)圖譜構(gòu)建、智能推薦等多個(gè)領(lǐng)域的應(yīng)用，具備大模型預(yù)訓(xùn)練、多模態(tài)理解與生成、多任務(wù)學(xué)習(xí)和遷移等能力。
目前，星火一體機(jī)內(nèi)已涵蓋辦公、代碼、運(yùn)維、客服、營(yíng)銷、采購(gòu)等10多個(gè)場(chǎng)景包，支持對(duì)話開發(fā)、任務(wù)編排、插件執(zhí)行、知識(shí)接入、提示工程等5種定制優(yōu)化模式，并將持續(xù)拓展更多專業(yè)場(chǎng)景和模式優(yōu)化，為客戶快速定制企業(yè)專屬大模型。
星火一體機(jī)還針對(duì)星火認(rèn)知智能大模型的訓(xùn)練算法和推理應(yīng)用進(jìn)行了硬件的量身定制，可大大降低企業(yè)的使用成本。
圖源：觀察者網(wǎng)
大模型在企業(yè)深度應(yīng)用有三個(gè)關(guān)鍵要素
科大訊飛董事長(zhǎng)劉慶峰在發(fā)布會(huì)上表示，認(rèn)知大模型的深度賦能時(shí)代已經(jīng)到來，大模型在企業(yè)深度應(yīng)用的三個(gè)關(guān)鍵要素是：第一，安全可控：內(nèi)容安全，要有正確價(jià)值觀，算力安全，要在完全自主可控的平臺(tái)上進(jìn)行；第二，場(chǎng)景驅(qū)動(dòng)：在看得見摸得著的場(chǎng)景產(chǎn)生實(shí)實(shí)在在的價(jià)值，并能夠用數(shù)據(jù)去證明成效；第三，專屬定制：內(nèi)容匹配需求，基于行業(yè)和企業(yè)的私域數(shù)據(jù)構(gòu)建私有化專屬大模型，提升應(yīng)用效果。
企業(yè)應(yīng)用大模型并不是盲目追風(fēng)口，要從自身需求出發(fā)，讓大模型真正結(jié)合業(yè)務(wù)，提升效能、創(chuàng)造價(jià)值。場(chǎng)景驅(qū)動(dòng)和專屬定制是企業(yè)大模型的基礎(chǔ)，而安全可控則是底線。
2023年4月28日，中共中央政治局會(huì)議就強(qiáng)調(diào)：“重視通用人工智能發(fā)展，營(yíng)造創(chuàng)新生態(tài),重視防范風(fēng)險(xiǎn)”；2023年7月，7部委聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，再次強(qiáng)調(diào)“發(fā)展和安全并重”。
在內(nèi)容安全方面，星火一體機(jī)基于訊飛星火認(rèn)知大模型，針對(duì)污語料和幻覺問題，形成立體化的“內(nèi)容安全機(jī)制”。無監(jiān)督的互聯(lián)網(wǎng)語料，經(jīng)過語句判別器、質(zhì)量判別器、隱私判別器、安全判別器等關(guān)卡，得到清洗后的高質(zhì)量文本；為了解決“幻覺問題”，科大訊飛針對(duì)各類型任務(wù)構(gòu)建專業(yè)知識(shí)庫(kù)，以類搜索插件技術(shù)實(shí)現(xiàn)知識(shí)獲取，基于大模型的理解和概括摘要能力給出答案。
在算力安全上，星火一體機(jī)基于騰AI硬件、思AI開源框架，提供業(yè)界領(lǐng)先的大模型訓(xùn)練、推理能力，為大模型全流程創(chuàng)新提供堅(jiān)實(shí)的自主創(chuàng)新算力底座。
基于自主創(chuàng)新的算力底座才有大未來
大模型的研發(fā)過程，需要可以支撐千億參數(shù)規(guī)模的大模型并行訓(xùn)練的算力和框架，還需要幾千張卡同時(shí)連續(xù)運(yùn)行�；诖�，系統(tǒng)架構(gòu)以及并行訓(xùn)練的集群能力成為國(guó)內(nèi)大模型研發(fā)的關(guān)鍵。
在今年的7月6日，科大訊飛就公布訊飛星火將與騰AI強(qiáng)強(qiáng)聯(lián)合，打造基于中國(guó)自主創(chuàng)新的通用智能新底座。一方面，訊飛星火認(rèn)知大模型基于訓(xùn)練推理一體化設(shè)計(jì)，實(shí)現(xiàn)大模型稀疏化、低精度量化的技術(shù)突破，能高效適配騰AI，加速大模型的行業(yè)落地應(yīng)用和迭代；另一方面，以騰AI為核心，軟硬件協(xié)同優(yōu)化，構(gòu)建算力集中、性能優(yōu)越、供給穩(wěn)定、數(shù)據(jù)安全的大模型訓(xùn)練集群。
此次發(fā)布的星火一體機(jī)，是科大訊飛與華為在AI算力、大模型的合作落地之一，將面向行業(yè)、企業(yè)客戶，提供基于專用數(shù)據(jù)的自主可控私有化大模型，加速推動(dòng)重點(diǎn)企業(yè)的數(shù)智化轉(zhuǎn)型升級(jí)。國(guó)產(chǎn)大模型只有基于中國(guó)自主創(chuàng)新的算力底座才有大未來。之后，雙方將持續(xù)深化合作，放眼全球，聯(lián)合攻關(guān)算力國(guó)產(chǎn)化核心難題，實(shí)現(xiàn)從單點(diǎn)算力到集群算力、從節(jié)點(diǎn)創(chuàng)新到系統(tǒng)創(chuàng)新。
