展會信息港展會大全

調(diào)查:AMD AI芯片 Instinct MI300X 吸引大量用戶棄用英偉達
來源:互聯(lián)網(wǎng)   發(fā)布日期:2024-03-11 08:26:42   瀏覽:5981次  

導讀:IT之家 3 月 10 日消息,根據(jù)最近的一項調(diào)查,大量人工智能專業(yè)人士正計劃從英偉達轉(zhuǎn)向采用 AMD Instinct MI300X GPU。 TensorWave 聯(lián)合創(chuàng)始人 Jeff Tatarchuk 透露,他們進行了一項獨立調(diào)查,涵蓋 82 名工程師和人工智能專業(yè)人士。其中,約有 50% 的受訪者...

IT之家 3 月 10 日消息,根據(jù)最近的一項調(diào)查,大量人工智能專業(yè)人士正計劃從英偉達轉(zhuǎn)向采用 AMD Instinct MI300X GPU。

TensorWave 聯(lián)合創(chuàng)始人 Jeff Tatarchuk 透露,他們進行了一項獨立調(diào)查,涵蓋 82 名工程師和人工智能專業(yè)人士。其中,約有 50% 的受訪者表示他們對 AMD Instinct MI300X GPU 充滿信心,因為相比于英偉達的 H100 系列產(chǎn)品,MI300X 不僅擁有更出色的性價比,而且供應(yīng)充足,避免了遇到貨源緊張的問題。Jeff 還提到,TensorWave 公司也將采用 MI300X 人工智能加速器。這對于 AMD 來說無疑是個好消息,因為以往其 Instinct 系列產(chǎn)品相比英偉達的競品,市場占有率一直處于劣勢。

據(jù)IT之家了解,AMD Instinct MI300X 人工智能加速器基于 CDNA 3 架構(gòu)打造,采用混合的 5nm 和 6nm 制程工藝,擁有多達 1530 億晶體管 (MI300X 型號)。存儲方面也獲得了巨大提升,MI300X 的 HBM3 容量比上一代的 MI250X (128 GB) 高出 50%。

與英偉達 H100 相比,MI300X 擁有以下優(yōu)勢:

內(nèi)存容量高出 2.4 倍

內(nèi)存帶寬高出 1.6 倍

FP8 性能 (TFLOPS) 高出 1.3 倍

FP16 性能 (TFLOPS) 高出 1.3 倍

在 1v1 對比測試中,性能方面可領(lǐng)先 H100 (Llama 2 70B) 最多 20%

在 1v1 對比測試中,性能方面可領(lǐng)先 H100 (FlashAttention 2) 最多 20%

在 8v8 服務(wù)器對比測試中,性能方面可領(lǐng)先 H100 (Llama 2 70B) 最多 40%

在 8v8 服務(wù)器對比測試中,性能方面可領(lǐng)先 H100 (Bloom 176B) 最多 60%

AMD 的旗艦 Instinct 人工智能加速器 MI300X 不僅在性能上取得了巨大飛躍,而且上市時機也非常巧妙,因為英偉達目前正被積壓的訂單困擾,這限制了他們拓展新客戶的機會。雖然此前 AMD 在人工智能領(lǐng)域的表現(xiàn)并不盡如人意,但未來似乎一片光明,有望在激烈的競爭中占據(jù)一席之地。

贊助本站

人工智能實驗室

相關(guān)熱詞: 調(diào)查 AMD 芯片 Instinct MI300X 吸引

相關(guān)內(nèi)容
AiLab云推薦
推薦內(nèi)容
展開

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實驗室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動態(tài) | 免責聲明 | 隱私條款 | 工作機會 | 展會港