展會(huì)信息港展會(huì)大全

自研只為自用,微軟新出兩款芯片要降低AI服務(wù)成本
來源:互聯(lián)網(wǎng)   發(fā)布日期:2023-11-16 18:44:34   瀏覽:5424次  

導(dǎo)讀:當(dāng)?shù)貢r(shí)間11月15日,微軟在西雅圖舉行的Ignite開發(fā)者大會(huì)上,推出兩款定制芯片,以應(yīng)對(duì)不斷增加的大模型訓(xùn)練成本挑戰(zhàn),并試圖降低提供AI服務(wù)的成本。 微軟表示,新發(fā)布的芯片不會(huì)出售,僅供支持自己的產(chǎn)品,并作為微軟云Azure云計(jì)算服務(wù)的一部分。亞馬遜和谷...

當(dāng)?shù)貢r(shí)間11月15日,微軟在西雅圖舉行的Ignite開發(fā)者大會(huì)上,推出兩款定制芯片,以應(yīng)對(duì)不斷增加的大模型訓(xùn)練成本挑戰(zhàn),并試圖降低提供AI服務(wù)的成本。

微軟表示,新發(fā)布的芯片不會(huì)出售,僅供支持自己的產(chǎn)品,并作為微軟云Azure云計(jì)算服務(wù)的一部分。亞馬遜和谷歌等科技巨頭也已經(jīng)使用了自研芯片,并部分向客戶提供。

微軟最新推出的兩款芯片分別為用于加速AI計(jì)算任務(wù)的Maia芯片,以及采用Arm CPU架構(gòu)的Cobalt芯片。Maia芯片旨在運(yùn)行大型語(yǔ)言模型。微軟云和人工智能部門執(zhí)行副總裁Scott Guthrie表示,希望通過優(yōu)化這款A(yù)I芯片來提供更快、成本更低、質(zhì)量更高的解決方案。

微軟沒有透露這些芯片相對(duì)于傳統(tǒng)芯片具體有多少能力提升的技術(shù)細(xì)節(jié)。但微軟Azure硬件系統(tǒng)和基礎(chǔ)設(shè)施副總裁Rani Borkar表示,兩款芯片均采用臺(tái)積電5納米制造技術(shù)制造。

此外,Maia芯片的構(gòu)建方式與英偉達(dá)使用的網(wǎng)絡(luò)連接技術(shù)也有所不同,Maia芯片與標(biāo)準(zhǔn)以太網(wǎng)電纜連接在一起。

不過微軟推出自研AI芯片并不是希望取代英偉達(dá)等廠商。微軟表示,明年將為Azure客戶提供云服務(wù),這些服務(wù)就是運(yùn)行在英偉達(dá)和AMD的最新旗艦芯片上。微軟正在AMD的最新旗艦芯片上測(cè)試OpenAI最先進(jìn)的模型GPT-4。

研究公司Creative Strategies首席執(zhí)行官本巴賈林(Ben Bajarin)分析認(rèn)為,通過推出AI芯片Maia,微軟希望在云端銷售人工智能服務(wù),而更長(zhǎng)遠(yuǎn)的目標(biāo)是能夠在PC電腦和手機(jī)上來處理這些人工智能服務(wù)。

微軟推出的另一款芯片Cobalt則是用來回應(yīng)亞馬遜云AWS的競(jìng)爭(zhēng)。微軟表示,已經(jīng)在測(cè)試使用Cobalt為Teams等消息應(yīng)用提供支持。

AWS也將于本月下旬召開Reinvent開發(fā)者大會(huì)。AWS正在開發(fā)未來幾代基于AWS設(shè)計(jì)的芯片。AWS方面除了使用基于英偉達(dá)H100 GPU芯片之外,還推出了基于AWS自研的機(jī)器學(xué)習(xí)推理芯片Amazon Inferentia 2以及AWS自研機(jī)器學(xué)習(xí)訓(xùn)練芯片Amazon Trainium。AWS方面還表示,OPPO、Airbnb等客戶都在使用AWS的專用加速器來處理機(jī)器學(xué)習(xí)工作負(fù)載。

當(dāng)?shù)貢r(shí)間11月15日,微軟在西雅圖舉行的Ignite開發(fā)者大會(huì)上,推出兩款定制芯片,以應(yīng)對(duì)不斷增加的大模型訓(xùn)練成本挑戰(zhàn),并試圖降低提供AI服務(wù)的成本。

微軟表示,新發(fā)布的芯片不會(huì)出售,僅供支持自己的產(chǎn)品,并作為微軟云Azure云計(jì)算服務(wù)的一部分。亞馬遜和谷歌等科技巨頭也已經(jīng)使用了自研芯片,并部分向客戶提供。

微軟最新推出的兩款芯片分別為用于加速AI計(jì)算任務(wù)的Maia芯片,以及采用Arm CPU架構(gòu)的Cobalt芯片。Maia芯片旨在運(yùn)行大型語(yǔ)言模型。微軟云和人工智能部門執(zhí)行副總裁Scott Guthrie表示,希望通過優(yōu)化這款A(yù)I芯片來提供更快、成本更低、質(zhì)量更高的解決方案。

微軟沒有透露這些芯片相對(duì)于傳統(tǒng)芯片具體有多少能力提升的技術(shù)細(xì)節(jié)。但微軟Azure硬件系統(tǒng)和基礎(chǔ)設(shè)施副總裁Rani Borkar表示,兩款芯片均采用臺(tái)積電5納米制造技術(shù)制造。

此外,Maia芯片的構(gòu)建方式與英偉達(dá)使用的網(wǎng)絡(luò)連接技術(shù)也有所不同,Maia芯片與標(biāo)準(zhǔn)以太網(wǎng)電纜連接在一起。

不過微軟推出自研AI芯片并不是希望取代英偉達(dá)等廠商。微軟表示,明年將為Azure客戶提供云服務(wù),這些服務(wù)就是運(yùn)行在英偉達(dá)和AMD的最新旗艦芯片上。微軟正在AMD的最新旗艦芯片上測(cè)試OpenAI最先進(jìn)的模型GPT-4。

研究公司Creative Strategies首席執(zhí)行官本巴賈林(Ben Bajarin)分析認(rèn)為,通過推出AI芯片Maia,微軟希望在云端銷售人工智能服務(wù),而更長(zhǎng)遠(yuǎn)的目標(biāo)是能夠在PC電腦和手機(jī)上來處理這些人工智能服務(wù)。

微軟推出的另一款芯片Cobalt則是用來回應(yīng)亞馬遜云AWS的競(jìng)爭(zhēng)。微軟表示,已經(jīng)在測(cè)試使用Cobalt為Teams等消息應(yīng)用提供支持。

云服務(wù)廠商正在通過向客戶提供更具成本優(yōu)勢(shì)的解決方案,占據(jù)更多市常受人工智能需求的提振,微軟云服務(wù)銷售大增。

微軟上個(gè)季度公布最新財(cái)報(bào)顯示,在關(guān)鍵的云業(yè)務(wù)領(lǐng)域,微軟云業(yè)務(wù)的銷售額同比增長(zhǎng)19%至243億美元,成為該公司業(yè)務(wù)增長(zhǎng)的最大驅(qū)動(dòng)力,貢獻(xiàn)了超過40%的收入。

目前在全球云服務(wù)市場(chǎng),占據(jù)最大份額的是亞馬遜云AWS,微軟云Azure位居第二,谷歌排名第三。

AWS也將于本月下旬召開Reinvent開發(fā)者大會(huì)。AWS正在開發(fā)未來幾代基于AWS設(shè)計(jì)的芯片。AWS方面除了使用基于英偉達(dá)H100 GPU芯片之外,還推出了基于AWS自研的機(jī)器學(xué)習(xí)推理芯片Amazon Inferentia 2以及AWS自研機(jī)器學(xué)習(xí)訓(xùn)練芯片Amazon Trainium。AWS方面還表示,OPPO、Airbnb等客戶都在使用AWS的專用加速器來處理機(jī)器學(xué)習(xí)工作負(fù)載。

贊助本站

人工智能實(shí)驗(yàn)室
相關(guān)內(nèi)容
AiLab云推薦
推薦內(nèi)容
展開

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實(shí)驗(yàn)室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動(dòng)態(tài) | 免責(zé)聲明 | 隱私條款 | 工作機(jī)會(huì) | 展會(huì)港