記者 肖余林
12 月 7 日，AMD 在加利福尼亞州圣何塞舉行 Advancing AI 發(fā)布會(huì)，推出了 AI GPU 加速器 Instinct MI300X 和全球首款數(shù)據(jù)中心 APU Instinct MI300A。兩款產(chǎn)品采用了 3.5D 封裝技術(shù)，為急缺算力的生成式 AI 和 HPC 市場(chǎng)提供了新的動(dòng)力來(lái)源。
\AMD 的 MI300X 是一款與英偉達(dá) H100 對(duì)標(biāo)的算力產(chǎn)品，在訓(xùn)練任務(wù)上與 H100 性能相當(dāng)，但在推理任務(wù)中表現(xiàn)更好。另外，雖然 MI300X 參數(shù)上不如英偉達(dá)最新產(chǎn)品 H200，但由于 H200 的出貨時(shí)間在明年二季度，因此 MI300X 仍被認(rèn)為是對(duì)當(dāng)前算力市場(chǎng)的有力補(bǔ)充。
AMD 沒(méi)有透露新品的定價(jià)，但 CEO 蘇姿豐聲稱比市場(chǎng)上的其它產(chǎn)品有更高的性價(jià)比，目前已向眾多 OEM 合作伙伴發(fā)貨。
微軟首席技術(shù)官 Kevin Scott 作為發(fā)布會(huì)的演講嘉賓宣布，MI300X 已經(jīng)部署到 Azure 當(dāng)中，Azure ND MI300X 虛擬機(jī)現(xiàn)已推出預(yù)覽版。 Meta 還宣布將在其數(shù)據(jù)中心部署 MI300 處理器。還有報(bào)道稱，甲骨文的云計(jì)算部門(mén)也計(jì)劃使用這些芯片。
此前，AMD 預(yù)計(jì) AI 芯片將在新財(cái)季帶來(lái) 4 億美元增收，收入在明年將超過(guò) 20 億美元。作為對(duì)比，英偉達(dá)的數(shù)據(jù)中心硬件在最新財(cái)季的收入為 145 億美元，高于去年同期的 38 億美元。
AMD 今年 8 月預(yù)測(cè)，AI 芯片行業(yè)規(guī)模將達(dá)到 1500 億元，這次發(fā)布會(huì)上，蘇姿豐稱四年內(nèi)的規(guī)模將達(dá)到 4000 億美元。
MI300X 加速器和 MI300A NPU
Instinct MI300X 是 AMD 最小芯片設(shè)計(jì)的頂峰，混合鍵合了 8 個(gè) 12 層 HBM3 內(nèi)存，從而實(shí)現(xiàn)了高達(dá) 192GB 的 HBM3 內(nèi)存容量。一臺(tái)服務(wù)器最多可組合八個(gè) MI300X，使得 HBM3 內(nèi)存膨脹到1.5TB。
得益于此， MI300X 組合可以容納比 H100 組合多兩倍的 30B 參數(shù)訓(xùn)練模型和 70B 參數(shù)推理模型。此外，MI300X 平臺(tái)最多可支持 70B 訓(xùn)練和 290B 參數(shù)推理模型。
綜合來(lái)看，MI300X 內(nèi)存是英偉達(dá) H100 的 2.4 倍，內(nèi)存帶寬是 1.6 倍，F(xiàn)P8/16 TFLOPS 算力是 1.3 倍。
Instinct MI300X 的優(yōu)勢(shì)在于推理，AMD 給出了與 H100 基準(zhǔn)測(cè)試的對(duì)比。在使用 Llama 2 70B 模型的單卡推理測(cè)試中，MI300X 比 H100 高出 20% 的性能，8x 組合測(cè)試中性能高出 40%。使用更高參數(shù)的 Bloom 176B 模型，8x 組合的 MI300X 表現(xiàn)出內(nèi)存優(yōu)勢(shì)，性能高出 60%。
另一款產(chǎn)品是 AMD Instinct MI300A，這是首個(gè)數(shù)據(jù)中心 APU，與 Nvidia 的 Grace Hopper Superchips 競(jìng)爭(zhēng)。不同之處在于，它將 CPU 和 GPU 放在同一個(gè)封裝中，后者是兩個(gè)獨(dú)立封裝。
MI300A 已經(jīng)應(yīng)用在惠普 El Capitan 超級(jí)計(jì)算機(jī)中，AMD 表示正在給其合作伙伴發(fā)貨。
終端 AI 性能增強(qiáng)
AMD 還發(fā)布了面向消費(fèi)者的 Ryzen 8040 系列移動(dòng)處理器，新產(chǎn)品為終端的筆記本產(chǎn)品強(qiáng)化了 AI 性能。AMD 表示，8040 系列的 AI 處理性能是之前型號(hào)的 1.6 倍，并集成了升級(jí)的 XDNA NPU。
配合 Ryzen AI 軟件平臺(tái)，開(kāi)發(fā)人員能夠在 Ryzen 驅(qū)動(dòng)的筆記本電腦上構(gòu)建 AI 模型，將模型裝載到專用的 NPU 中，從而降低 CPU 的功耗。
這次發(fā)布會(huì)后，AMD、英偉達(dá)和英特爾已經(jīng)在 AI 芯片上形成了角逐攻勢(shì)，英偉達(dá)憑借 H100 GPU 占據(jù)了最大的市場(chǎng)份額。根據(jù) Omdia Research 的數(shù)據(jù)，2023 年第三季度，H100 GPU 共出貨 50 萬(wàn)塊，Meta 與微軟各自購(gòu)買(mǎi) 15 萬(wàn)塊，谷歌、亞馬遜、甲骨文，以及國(guó)內(nèi)多家公司分別購(gòu)買(mǎi) 5 萬(wàn)塊。
