展會(huì)信息港展會(huì)大全

Meta憋大招!明年初訓(xùn)練全新開(kāi)源大模型 對(duì)標(biāo)GPT-4、正搶購(gòu)更多H100芯片
來(lái)源:互聯(lián)網(wǎng)   發(fā)布日期:2023-09-12 13:09:10   瀏覽:9310次  

導(dǎo)讀:《科創(chuàng)板日?qǐng)?bào)》9月11日訊(編輯 宋子喬) 據(jù)《華爾街日?qǐng)?bào)》爆料, Meta正在加緊研發(fā)全新的開(kāi)源大模型,支持免費(fèi)商用,能力對(duì)標(biāo)GPT-4,參數(shù)量比Llama2還要大上數(shù)倍,計(jì)劃在2024年初開(kāi)始訓(xùn)練 。 報(bào)道稱(chēng), Meta一直在搶購(gòu)更多的英偉達(dá)H100人工智能訓(xùn)練芯片,并...

《科創(chuàng)板日?qǐng)?bào)》9月11日訊(編輯 宋子喬)據(jù)《華爾街日?qǐng)?bào)》爆料,Meta正在加緊研發(fā)全新的開(kāi)源大模型,支持免費(fèi)商用,能力對(duì)標(biāo)GPT-4,參數(shù)量比Llama2還要大上數(shù)倍,計(jì)劃在2024年初開(kāi)始訓(xùn)練。

報(bào)道稱(chēng),Meta一直在搶購(gòu)更多的英偉達(dá)H100人工智能訓(xùn)練芯片,并正在加強(qiáng)其數(shù)據(jù)中心建設(shè),以便這一次它不再需要依賴(lài)微軟的Azure云平臺(tái)來(lái)訓(xùn)練新的聊天機(jī)器人。其在今年早些時(shí)候組建了一個(gè)團(tuán)隊(duì)來(lái)構(gòu)建該模型,目標(biāo)是加快創(chuàng)建可以模仿人類(lèi)表情的人工智能工具。

《華爾街日?qǐng)?bào)》強(qiáng)調(diào),對(duì)于這個(gè)籌劃中的大模型,細(xì)節(jié)有可能發(fā)生變化。

Meta堅(jiān)守“開(kāi)源”路線(xiàn)

在這場(chǎng)人工智能競(jìng)賽中,“開(kāi)源”是Meta最鮮明的旗幟。大模型可以被免費(fèi)地用于研究和商業(yè)用途,意味著個(gè)人開(kāi)發(fā)者和中小型企業(yè)能夠以最低的成本調(diào)用Llama2大模型,而不是花費(fèi)高昂的成本采購(gòu)閉源大模型,這也有利于開(kāi)源大模型用戶(hù)的吸納與培養(yǎng)以及大模型開(kāi)源生態(tài)的構(gòu)建。

2月份,Meta憑借開(kāi)源的Llama大模型回到生成式AI核心陣列,并在5個(gè)月后火速發(fā)布Llama2。Llama2有70億、130億和700億三種參數(shù)規(guī)模,其中700億參數(shù)模型能力已與GPT-3.5接近。

綜合來(lái)看,扎克伯格的想法是,一邊加大投入,讓自家大模型性能上追趕OpenAI,一邊通過(guò)開(kāi)源,讓AI社區(qū)以自家模型為基礎(chǔ)來(lái)不斷迭代,為自己的產(chǎn)品打造更開(kāi)放的生態(tài)環(huán)境。扎克伯格在闡述為什么要開(kāi)源時(shí)寫(xiě)道:“開(kāi)源推動(dòng)創(chuàng)新,因?yàn)樗垢嗟拈_(kāi)發(fā)人員能夠使用新技術(shù)進(jìn)行開(kāi)發(fā)。我相信,如果生態(tài)系統(tǒng)更加開(kāi)放,將會(huì)帶來(lái)更大的進(jìn)步。”

今年以來(lái),Meta開(kāi)源的大模型包括語(yǔ)言大模型MMS、計(jì)算機(jī)視覺(jué)模型SAM/I-JEPA、多模態(tài)AI模型ImageBind。

有評(píng)論稱(chēng),讓像Llama這樣復(fù)雜的模型廣泛地供企業(yè)免費(fèi)使用,可能會(huì)顛覆OpenAI等公司在新生的人工智能軟件市場(chǎng)上建立起來(lái)的早期主導(dǎo)地位。

生成式AI競(jìng)技場(chǎng)高手如云

不過(guò),Meta的大模型研發(fā)之路并非一帆風(fēng)順。6月初國(guó)會(huì)一封質(zhì)詢(xún)信直接寄到的扎克伯格手上,措辭嚴(yán)厲的要求他說(shuō)明3月份Llama泄漏事故的前因后果。一波未平一波又起,近日該公司又陷入大模型團(tuán)隊(duì)內(nèi)訌、人員流失嚴(yán)重的困境,科技媒體The Information稱(chēng),初代Llama模型的14位核心原作者中,已有超過(guò)一半的人全部離職。

與此同時(shí),生成式AI領(lǐng)域的競(jìng)爭(zhēng)日趨白熱化

盡管OpenAI在4月份、6月份均表示尚未開(kāi)始訓(xùn)練GPT-5,但OpenAI一直在推出GPT-3.5的微調(diào)版本,公司還透露,GPT-4的微調(diào)功能將于今年秋天推出。另有蛛絲馬跡顯示,OpenAI的上述發(fā)言只是“煙霧彈”。8月1日,有外媒報(bào)道稱(chēng),OpenAI已經(jīng)為GPT-5申請(qǐng)了商標(biāo)。

其他對(duì)手同樣虎視眈眈。據(jù)科技媒體最新報(bào)道,蘋(píng)果計(jì)劃每天在人工智能上投資數(shù)百萬(wàn)美元,多個(gè)團(tuán)隊(duì)正在同時(shí)開(kāi)發(fā)多種人工智能模型,內(nèi)部模型Ajax據(jù)稱(chēng)已超過(guò)GPT-3.5;谷歌和微軟都在各自的生產(chǎn)力工具中擴(kuò)大人工智能的使用,谷歌希望在谷歌助手中使用生成式人工智能;亞馬遜在其整個(gè)組織內(nèi)開(kāi)展了生成式人工智能計(jì)劃,可以產(chǎn)生一個(gè)由聊天機(jī)器人驅(qū)動(dòng)的Alexa……

巨頭依然在狂奔,這場(chǎng)圍繞生成式人工智能的年度大戲,依然看點(diǎn)迭出、精彩紛呈。

贊助本站

人工智能實(shí)驗(yàn)室
相關(guān)內(nèi)容
AiLab云推薦
推薦內(nèi)容
展開(kāi)

熱門(mén)欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實(shí)驗(yàn)室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動(dòng)態(tài) | 免責(zé)聲明 | 隱私條款 | 工作機(jī)會(huì) | 展會(huì)港