芝能智芯出品
在當(dāng)前數(shù)據(jù)中心 GPU 加速器的發(fā)展中，HBM
（High Bandwidth Memory）內(nèi)存的角色變得愈發(fā)重要，特別是對(duì)于AI訓(xùn)練任務(wù)。
英偉達(dá)在2024財(cái)年結(jié)束時(shí)，現(xiàn)金和銀行投資略低于260億美元。這使得Nvidia在2024年繼續(xù)增長(zhǎng)的情況下，收入有望突破1000億美元，其中約50%以上將以凈利潤(rùn)的形式體現(xiàn)出來(lái)。財(cái)大氣粗的英偉達(dá)這能夠輕松購(gòu)買(mǎi)昂貴的HBM內(nèi)存，這是數(shù)據(jù)中心級(jí)GPU所需的核心關(guān)鍵組件。
Part 1
HBM供應(yīng)緊張，價(jià)格攀升
在當(dāng)前推動(dòng)英偉達(dá)數(shù)據(jù)中心GPU加速器發(fā)展的諸多因素中，最重要的因素并非即將推出的“Blackwell” B100架構(gòu)，也不是英偉達(dá)是否能從臺(tái)積電取回?cái)?shù)百萬(wàn)顆H100和B100 GPU芯片。最關(guān)鍵的因素是金錢(qián)，財(cái)務(wù)狀況和資本投入是推動(dòng)業(yè)務(wù)發(fā)展的決定性因素。
截至2024年1月，Nvidia現(xiàn)金和銀行投資略低于260億美元，且預(yù)計(jì)本財(cái)年的收入將突破1000億美元，這些資金的主要用途將是為數(shù)據(jù)中心級(jí)GPU購(gòu)買(mǎi)HBM堆棧DRAM內(nèi)存所需的費(fèi)用。
HBM內(nèi)存的需求和供應(yīng)情況對(duì)GPU加速器業(yè)務(wù)至關(guān)重要。
HBM內(nèi)存的改進(jìn)速度在提升，但其供應(yīng)仍可能無(wú)法滿足需求，導(dǎo)致HBM內(nèi)存價(jià)格繼續(xù)攀升。
隨著美光科技加入供應(yīng)商行列，供應(yīng)量有所改善，但仍然不足以滿足需求。這導(dǎo)致HBM內(nèi)存的價(jià)格持續(xù)攀升，成為影響GPU加速器價(jià)格的重要因素。
在HBM3E市場(chǎng)上，SK Hynix、Micron Technology和三星都展示了其最新的產(chǎn)品。SK Hynix展示了16高HBM3E堆棧，提供48 GB容量和1.25 TB/秒的帶寬。Micron Technology宣布開(kāi)始生產(chǎn)其首款HBM3E內(nèi)存，具有24 GB容量。而三星推出了Shinebolt HBM3E，提供36 GB堆棧和1.25 TB/秒的帶寬。這些產(chǎn)品的推出將進(jìn)一步推動(dòng)HBM內(nèi)存的發(fā)展。
HBM4的發(fā)布可能需要等到2025年，但目前的HBM3E技術(shù)已經(jīng)在提供更大的容量和更高的帶寬。
這使得HBM內(nèi)存在AI訓(xùn)練領(lǐng)域的應(yīng)用更加廣泛，購(gòu)買(mǎi)力將直接影響他們?cè)跀?shù)據(jù)中心GPU市場(chǎng)的控制權(quán)。在這場(chǎng)技術(shù)競(jìng)賽中，擁有HBM內(nèi)存的人將更容易制定規(guī)則，掌握AI訓(xùn)練的關(guān)鍵。
Part 2
競(jìng)爭(zhēng)對(duì)手的情況
AMD的現(xiàn)金和投資僅為57.8億美元，不太可能在HBM內(nèi)存上投入巨額資金。雖然英特爾有更多的閑置資金，但代工廠的建設(shè)非常昂貴，使其無(wú)法揮霍在HBM內(nèi)存上。這使得英偉達(dá)在競(jìng)爭(zhēng)中具備更大的優(yōu)勢(shì)。
英偉達(dá)GPU加速器業(yè)務(wù)受益于客戶在GenAI繁榮時(shí)期愿意為大量數(shù)據(jù)中心GPU支付高昂費(fèi)用。原始Hopper H100 GPU的價(jià)格已經(jīng)超過(guò)30000美元，而新的H200 GPU有望在價(jià)格上進(jìn)一步增長(zhǎng)。這進(jìn)一步鞏固了Nvidia在市場(chǎng)上的地位。
AMD也在努力反擊，推出了Antares Instinct MI300X GPU加速器，
具有更高的HBM3容量和帶寬，有望通過(guò)對(duì)MI300X的高收費(fèi)來(lái)保持競(jìng)爭(zhēng)力，并甚至有可能升級(jí)到更先進(jìn)的HBM3E內(nèi)存，以保持對(duì)Nvidia的競(jìng)爭(zhēng)。
小結(jié)
HBM內(nèi)存的發(fā)展將在一定程度上決定GPU加速器的性能和價(jià)格。在當(dāng)前的市場(chǎng)環(huán)境下，Nvidia憑借財(cái)務(wù)實(shí)力和對(duì)高價(jià)購(gòu)買(mǎi)HBM內(nèi)存的能力，能夠在AI訓(xùn)練領(lǐng)域占據(jù)主導(dǎo)地位。
隨著技術(shù)的不斷進(jìn)步和市場(chǎng)的競(jìng)爭(zhēng)，未來(lái)GPU加速器和HBM內(nèi)存的發(fā)展將是一個(gè)備受關(guān)注的領(lǐng)域。
