企業(yè)用戶對(duì)模型精準(zhǔn)要求高，要求解決實(shí)際問(wèn)題，即使是最大參數(shù)模型也不一定能達(dá)到企業(yè)要求，所以大模型卷價(jià)格對(duì)企業(yè)用戶而言并不十分有用。通用大模型更應(yīng)提升模型精準(zhǔn)度和模型效果，才能真正具備競(jìng)爭(zhēng)力。
要讓大模型變成“理科生”，成為專業(yè)領(lǐng)域的專家模型。大模型的新趨勢(shì)是用RAG（檢索增強(qiáng)生成）和Agent（智能體）技術(shù)提升模型精準(zhǔn)度，或?qū)⒂楷F(xiàn)出一批Agent，構(gòu)建Agent的過(guò)程就是教大模型如何使用內(nèi)部工具。
星環(huán)科技創(chuàng)始人、CEO孫元浩。
“大模型卷價(jià)格對(duì)企業(yè)用戶來(lái)說(shuō)幫助并不大，企業(yè)用戶對(duì)模型的精準(zhǔn)度要求高，通用大模型更應(yīng)通過(guò)提升模型精準(zhǔn)度和模型效果，贏得競(jìng)爭(zhēng)力。”5月31日，企業(yè)級(jí)基礎(chǔ)軟件供應(yīng)商星環(huán)信息科技（上海）股份有限公司（星環(huán)科技，688031）創(chuàng)始人、CEO孫元浩在向星力未來(lái)數(shù)據(jù)技術(shù)峰會(huì)期間接受采訪時(shí)作出上述表示。
僅依靠低價(jià)很難讓用戶形成粘性
近期，國(guó)內(nèi)通用大模型價(jià)格戰(zhàn)打得火熱，科技巨頭紛紛參戰(zhàn)。孫元浩表示，這是由中國(guó)特殊生態(tài)造成的。在他看來(lái)，眼下降價(jià)的都是一些小模型，但企業(yè)用戶對(duì)于模型的精準(zhǔn)度要求很高，希望能夠解決實(shí)際問(wèn)題，當(dāng)前即使是市場(chǎng)上最大參數(shù)的模型也未必能達(dá)到企業(yè)要求，所以降價(jià)對(duì)企業(yè)用戶而言幫助有限。“企業(yè)的要求遠(yuǎn)比現(xiàn)在的模型能力高很多”，據(jù)他所知，有的企業(yè)部署了五六個(gè)模型，但沒(méi)有一個(gè)達(dá)到要求。
在孫元浩看來(lái)，僅依靠低價(jià)很難讓用戶形成粘性，“降價(jià)是為了給開(kāi)發(fā)者提供低廉的Token價(jià)格，基于通用大模型開(kāi)發(fā)應(yīng)用，從而試圖構(gòu)建生態(tài)，收集高質(zhì)量數(shù)據(jù)。但事實(shí)上，模型是很容易被替代的，用戶想換就換，因?yàn)榻涌谌渴亲匀徽Z(yǔ)言，沒(méi)有額度限制。”
去年，孫元浩判斷，要讓大模型變成“理科生”，成為專業(yè)領(lǐng)域的專家模型。今年，他認(rèn)為大模型的新趨勢(shì)是還需要用RAG（檢索增強(qiáng)生成）和Agent（智能體）技術(shù)提升模型精準(zhǔn)度。“現(xiàn)在大家又開(kāi)始開(kāi)發(fā)Agent，可能馬上會(huì)出現(xiàn)成千上萬(wàn)個(gè)Agent，這可能是現(xiàn)在大模型能力不夠造成的，模型沒(méi)辦法聰明地學(xué)習(xí)現(xiàn)在該用什么工具、怎么用，構(gòu)建Agent的過(guò)程就是教大模型怎么使用內(nèi)部工具。”
大模型落地，每個(gè)環(huán)節(jié)都有挑戰(zhàn)
目前，通用大模型數(shù)量快速增加，并不斷升級(jí)迭代，但卻不能完全適應(yīng)企業(yè)AI應(yīng)用需求。企業(yè)對(duì)行業(yè)大模型需求增加，迫切需要降低使用門檻。“現(xiàn)在每個(gè)大模型應(yīng)用開(kāi)發(fā)都要很久，重復(fù)訓(xùn)練量很大。我們想把整套AI基礎(chǔ)設(shè)施建好，用戶再在大模型上開(kāi)發(fā)應(yīng)用就快了。”孫元浩表示，過(guò)去一年幫助企業(yè)客戶落地大模型時(shí)，發(fā)現(xiàn)每個(gè)環(huán)節(jié)都遇到了挑戰(zhàn)。為此，星環(huán)科技開(kāi)發(fā)了語(yǔ)料處理、模型訓(xùn)練、知識(shí)庫(kù)建設(shè)等工具鏈，就是為了幫助企業(yè)建立行業(yè)大模型，快速使用AIGC。
在AI基礎(chǔ)設(shè)施中，星環(huán)科技無(wú)涯大模型Infinity可為各行業(yè)定制自有大模型，提供意圖理解、語(yǔ)義召回、數(shù)據(jù)處理和分析能力�；跓o(wú)涯大模型，星環(huán)科技推出無(wú)涯問(wèn)知、無(wú)涯問(wèn)數(shù)、無(wú)涯金融、無(wú)涯工程等AI原生應(yīng)用，可應(yīng)用于金融、能源、制造、工程等領(lǐng)域。
孫元浩表示，大模型擅長(zhǎng)生成文本，但回答嚴(yán)肅問(wèn)題不可控，為此團(tuán)隊(duì)經(jīng)過(guò)微調(diào)、增加語(yǔ)料，將模型訓(xùn)練成“理科生”，同時(shí)將企業(yè)內(nèi)部數(shù)據(jù)知識(shí)化，利用RAG提升模型準(zhǔn)確度。
語(yǔ)料質(zhì)量決定了模型質(zhì)量，高質(zhì)量語(yǔ)料也是解決行業(yè)大模型幻覺(jué)、可信可控等核心落地難點(diǎn)的重要手段。孫元浩表示，大模型結(jié)構(gòu)已不是秘密，訓(xùn)練方法也不是秘密，但語(yǔ)料散落在各種地方，導(dǎo)致工作量大，“目前最大的挑戰(zhàn)是把現(xiàn)有資料整理起來(lái)訓(xùn)練或微調(diào)模型，企業(yè)應(yīng)用要求100%準(zhǔn)確，所以用現(xiàn)在的語(yǔ)料還不夠，我們正在構(gòu)建知識(shí)圖譜用于推理，再結(jié)合大模型提升準(zhǔn)確度。”
