展會信息港展會大全

Meta首次公布AI芯片細節(jié) 功耗低于英偉達
來源:互聯(lián)網(wǎng)   發(fā)布日期:2023-05-19 15:12:10   瀏覽:5233次  

導讀:為了更好地支持人工智能項目,科技巨頭競相在企業(yè)內(nèi)部研發(fā)AI芯片。Facebook母公司Meta在5月18日首次宣布了其AI自研芯片項目,并分享了數(shù)據(jù)中心項目的新細節(jié)。 Meta并不像谷歌、微軟等科技巨頭從事銷售云計算服務的業(yè)務,過去公司從未公開談論其內(nèi)部數(shù)據(jù)中心...

為了更好地支持人工智能項目,科技巨頭競相在企業(yè)內(nèi)部研發(fā)AI芯片。Facebook母公司Meta在5月18日首次宣布了其AI自研芯片項目,并分享了數(shù)據(jù)中心項目的新細節(jié)。

Meta并不像谷歌、微軟等科技巨頭從事銷售云計算服務的業(yè)務,過去公司從未公開談論其內(nèi)部數(shù)據(jù)中心芯片項目。但Meta高管稱,全球科技界都對此表現(xiàn)出興趣,所以有必要與外界溝通。

Meta當天股價上漲近2%。今年以來,該公司累計漲幅已經(jīng)翻番。

在一篇博客文章中,Meta公司表示,它早在2020年就設計了第一代芯片,作為Meta訓練和推理加速器(MTIA)計劃的一部分,主要用于提升廣告投放和其他內(nèi)容推薦模型的效率。

據(jù)Meta介紹,首個MTIA芯片將專注于AI推理。Meta軟件工程師Joel Coburn表示,Meta最初考慮將GPU用于推理任務,但后來發(fā)現(xiàn)GPU并不不太適合推理工作。

“GPU在真實模型應用方面的效率仍然很低,而且部署起來成本高昂。”Coburn表示,“這就是我們需要MTIA的原因。”

研究機構Gartner分析師盛陵海對第一財經(jīng)記者表示:“英偉達的GPU也可以用于推理,但是效能不一定合適,因為推理需要的算力區(qū)別很大,很多時候會浪費算力,就好像重型卡車不適合做保姆車。還是要根據(jù)具體應用場景,匹配相應的算力。”

市場認為,AI芯片最終將支持更高級的元宇宙相關任務,例如虛擬現(xiàn)實和增強現(xiàn)實,以及新興的生成式人工智能領域。

今年2月,Meta發(fā)布了新的大型語言模型LLaMA之后,扎克伯格宣布公司正在創(chuàng)建一個專注于生成式AI研發(fā)的頂級團隊。

目前Meta使用由16000個英偉達A100 GPU組成的超級計算機來訓練LLaMA語言模型。公司稱,最大的LLaMA語言模型LLaMA 65B包含650億個參數(shù)。相比之下,谷歌最新發(fā)布的大型語言模型PaLM 2包含了3400億個參數(shù)。

Meta去年開啟大規(guī)模裁員,并轉(zhuǎn)而加大對AI技術基礎設施的投資建設。不過,它沒有就MTIA新型芯片的部署時間表發(fā)表評論。

Meta承認,MTIA芯片在處理高復雜度AI模型時仍然面臨挑戰(zhàn),但在處理中低復雜度模型時,比競爭對手的芯片更有效。

“MTIA芯片的功耗僅為25瓦,遠低于英偉達等廠商的芯片功耗,并使用RISC-V的開源芯片架構。”Meta在博客中表示,“性能的改進將證明投資是合理的。”

另據(jù)博客文章介紹,該芯片處理器采用臺積電7納米工藝制造。不過公司沒有進一步透露相關的細節(jié)。

Meta還介紹了一種稱作“可規(guī);曨l處理器”(MSVP)的芯片,可用于處理視頻并傳輸,同時降低能源需求。公司稱,每天需要處理40億個視頻的任務。

贊助本站

人工智能實驗室
相關內(nèi)容
AiLab云推薦
展開

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實驗室 版權所有    關于我們 | 聯(lián)系我們 | 廣告服務 | 公司動態(tài) | 免責聲明 | 隱私條款 | 工作機會 | 展會港