Meta剛發(fā)布的最新開源大模型Llama 3系列,現(xiàn)已上線國家超算互聯(lián)網(wǎng)。
即日起,開發(fā)者可限時免費(fèi)在國家超算互聯(lián)網(wǎng)上搭建專屬開發(fā)環(huán)境、使用專屬微調(diào)大模型,“一鍵”開啟Llama 3推理。歡迎廣大AI開發(fā)者登錄國家超算互聯(lián)網(wǎng)(www.scnet.cn),搜索“Llama”關(guān)鍵詞注冊體驗(yàn)。
作為全球知名開源大模型,Llama 3系列在數(shù)據(jù)訓(xùn)練規(guī)模、長文本支持、能耗、安全性等方面具有一定先發(fā)優(yōu)勢,因此受到全球AIGC行業(yè)關(guān)注。
而為滿足國內(nèi)開發(fā)者需求,國家超算互聯(lián)網(wǎng)還提供多款Llama系列原生、量化、優(yōu)化模型,包括Llama-3-8B-chinese-chat中文微調(diào)版本,以提高其在中文環(huán)境下表現(xiàn),更有GGUF/GPTQ等多款量化版本模型上線。
更易用、安全的Llama大模型
國家超算互聯(lián)網(wǎng)上線的Llama模型版本更安全和易用,平臺上的Llama系列源碼包均經(jīng)過嚴(yán)密審核。相比國外網(wǎng)站可能存在的錯誤版本,國家超算互聯(lián)網(wǎng)上的Llama源碼包具有更高的可信度、準(zhǔn)確性和穩(wěn)定性。
為讓國內(nèi)AI開發(fā)者更快上手,國家超算互聯(lián)網(wǎng)特別為Llama系列模型編制中文使用手冊,以便用戶掌握模型功能和操作流程。(手冊下載鏈:https://mallcdn.accloud.cn/icszy_zs_ai/0f93110897970c24c2c8e526d56839d8.pdf?Llama3%E7%94%A8%E6%88%B7%E6%89%8B%E5%86%8C.pdf)
“一鍵”啟動AI訓(xùn)練、推理
最新發(fā)布的Llama3系列模型,其龐大的參數(shù)規(guī)模在提升AI推理、多任務(wù)性能的同時,對開發(fā)環(huán)境配置要求也相應(yīng)提高,開發(fā)者自行搭建環(huán)境需投入巨大成本。
為此,國家超算互聯(lián)網(wǎng)上所有AI大模型均支持“一鍵”啟動Notebook服務(wù),用戶能夠在云端實(shí)現(xiàn)快捷在線訓(xùn)練與實(shí)時推理,簡化操作流程,實(shí)現(xiàn)了無需繁瑣配置的高效體驗(yàn)。
值得關(guān)注的,上線國家超算互聯(lián)網(wǎng)的Llama系列大模型,已能在國產(chǎn)加速器上實(shí)現(xiàn)在線推理服務(wù),超算互聯(lián)網(wǎng)平臺不僅能為垂直行業(yè)大模型訓(xùn)練提供算力資源,也可為用戶提供大模型即服務(wù)(MaaS)。這對推動我國AI產(chǎn)業(yè)生態(tài)完善,降低外部技術(shù)依賴具有深遠(yuǎn)意義。
除Llama3系列外,國家超算互聯(lián)網(wǎng)還可深度支持Stable Diffusion、Gemma、Mistral、Phi、StarCoder2、ChatGLM、通義千問等50余款A(yù)I應(yīng)用模型商品。
注: “限時免費(fèi)”活動詳情以平臺上商品頁信息為準(zhǔn)。
