每經(jīng)記者：楊卉每經(jīng)編輯：梁梟
7月24日，《每日經(jīng)濟新聞》記者從英偉達處獲悉，英偉達推出了全新NVIDIA AI Foundry服務(wù)和NVIDIA NIMTM推理微服務(wù)，與同樣剛推出的Llama 3.1系列開源模型一起，為全球企業(yè)提供生成式AI相關(guān)服務(wù)。
根據(jù)英偉達方面的數(shù)據(jù)，Llama 3.1多語種大語言模型（LLM）集合是一個具有8B、70B和405B三種參數(shù)規(guī)模的生成式AI模型集合。當(dāng)與適用于Llama 3.1 405B的NVIDIA NIM推理微服務(wù)結(jié)合使用時，NeMo Retriever NIM微服務(wù)可以為RAG工作流中的開放和商業(yè)文本問答帶來極高的檢索準(zhǔn)確性。NVIDIA AI Foundry能提供一種可用于快速構(gòu)建自定義超級模型的端到端服務(wù)。
根據(jù)英偉達的說法，借助NVIDIA AI Foundry，企業(yè)能使用Llama 3.1模型和NVIDIA NeMo平臺（包含在Hugging Face RewardBench上排名第一的NVIDIA Nemotron-4 340B Reward模型）創(chuàng)建自定義模型；還可以使用自有數(shù)據(jù)以及由Llama 3.1 405B和NVIDIA Nemotron Reward模型生成的合成數(shù)據(jù)，來訓(xùn)練這些超級模型。
創(chuàng)建自定義模型后，企業(yè)可構(gòu)建NVIDIA NIM推理微服務(wù)，以便在其首選的云平臺和全球服務(wù)器制造商提供的NVIDIA認證系統(tǒng)上，使用自己選擇的最佳機器學(xué)習(xí)運維（MLOps）和人工智能運維（AIOps）平臺在生產(chǎn)中運行這些模型。
英偉達創(chuàng)始人兼首席執(zhí)行官黃仁勛提出，Llama 3.1開源模型標(biāo)志著全球企業(yè)采用生成式AI的關(guān)鍵時刻已經(jīng)到來，Llama 3.1將掀起各個企業(yè)與行業(yè)創(chuàng)建先進生成式AI應(yīng)用的浪潮。
Meta創(chuàng)始人兼首席執(zhí)行官馬克扎克伯格則表示，全新的Llama 3.1模型是開源AI邁出的極其重要的一步，英偉達還和Meta一起為Llama 3.1提供了一種提煉方法，供開發(fā)者為生成式AI應(yīng)用創(chuàng)建更小的自定義模型。
每日經(jīng)濟新聞
