本文參考自“從云到端，AI產(chǎn)業(yè)的新范式（2024）”，通常單臺(tái)傳統(tǒng)服務(wù)器價(jià)格在1萬(wàn)美金以內(nèi)，而搭載8張H100算力卡的DGX H100AI服務(wù)器價(jià)值量可達(dá)40萬(wàn)美金（300萬(wàn)人民幣左右）。
處理器性能不斷提升，“內(nèi)存墻”成為計(jì)算機(jī)系統(tǒng)的瓶頸。計(jì)算機(jī)系統(tǒng)的運(yùn)行受到處理器和內(nèi)存的配合影響，但處理器性能因摩爾定律不斷提升，而內(nèi)存DRAM的傳輸帶寬沒(méi)有跟隨工藝的演進(jìn)而快速增長(zhǎng)，導(dǎo)致訪存時(shí)延遲高、效率低，嚴(yán)重制約處理器性能發(fā)揮，即出現(xiàn)“內(nèi)存墻”。在AI和視覺(jué)等領(lǐng)域，需要大量的內(nèi)存帶寬來(lái)支持復(fù)雜的計(jì)算操作，若內(nèi)存性能落后，會(huì)導(dǎo)致實(shí)際算力下降50%甚至90%。
HBM是目前用于打破“內(nèi)存墻”的重要技術(shù)之一。高帶寬存儲(chǔ)器（HBM）是一種基于3D堆棧工藝的高性能DRAM，可以提供更高的內(nèi)存帶寬和更低的能耗，適用于高存儲(chǔ)器帶寬需求的應(yīng)用場(chǎng)合，如HPC、網(wǎng)絡(luò)交換設(shè)備等。最新的HBM3E產(chǎn)品可提供超過(guò)1TB/s的數(shù)據(jù)帶寬，具有8Gb/s的I/O速率，緩解了因內(nèi)存部件延遲而阻礙算力增長(zhǎng)的問(wèn)題。
HBM技術(shù)細(xì)節(jié)請(qǐng)參考“HBM三足鼎立：海力士、三星和美光爭(zhēng)奪戰(zhàn)”。
根據(jù)Yole Group統(tǒng)計(jì)，2023年海力士以55%的營(yíng)收占比在HBM市場(chǎng)占據(jù)主導(dǎo)權(quán)，其后是三星和美光，營(yíng)收占比分別為41%和3%。美光早期在堆棧式DRAM的探索中最先選擇了HMC技術(shù)，在數(shù)據(jù)傳輸時(shí)延遲和速度方面存在劣勢(shì)，但其及時(shí)轉(zhuǎn)向，在2020年推出首款HBM2產(chǎn)品，此后躍過(guò)HBM3，直接投入研發(fā)HBM3E，并于2023年7月發(fā)布24GB 8-HighHBM3E。
三家原廠最新的HBM3E產(chǎn)品對(duì)比來(lái)看，低能耗是美光的主要競(jìng)爭(zhēng)優(yōu)勢(shì)，三星擁有更小的堆疊間隙，有利于更高層數(shù)堆疊，SK海力士則得益于其開(kāi)發(fā)的MR-MUF技術(shù)，散熱性能優(yōu)異。
AI服務(wù)器需求核心在于更大帶寬的存儲(chǔ)，帶來(lái)了存儲(chǔ)技術(shù)路線變革：
1）CXL（compute express link）：全新的互聯(lián)技術(shù)標(biāo)準(zhǔn)，其帶來(lái)的DRAM池化技術(shù)可以大大節(jié)約數(shù)據(jù)中心的建設(shè)成本，同時(shí)帶動(dòng)DRAM的用量。
2）MCR/MDIMM（Multiplexer Combined Ranks）：大大提高內(nèi)存帶寬，AMD已經(jīng)在MemCon 2023上表達(dá)了它幫助推動(dòng)JEDEC的MRDIMM開(kāi)放標(biāo)準(zhǔn) 的承諾，英特爾也與SK hynix和瑞薩合作，基于與MRDIMM類似的概念，開(kāi)發(fā)了多路合并陣列（MCR）DIMM。
3）PCIe 5.0（Peripheral Component Interconnect Express 5.0）：新一代總線技術(shù)，構(gòu)建了更加高速的串行通信系統(tǒng)標(biāo)準(zhǔn)。
MCR/MRDIMM可以很好的滿足AI服務(wù)器對(duì)內(nèi)存帶寬的高需求，該技術(shù)將多個(gè)DRAM內(nèi)存模塊組合在一起，通過(guò)將兩個(gè)Rank形成偽多內(nèi)存通道（Pseudo Channel），并使用專門的控制器（接口芯片）來(lái)管理它們之間的數(shù)據(jù)傳輸，并大大提高內(nèi)存帶寬，理論上，MCR/MRDIMM內(nèi)存的帶寬是DDR5的兩倍。
瀾起科技已于2022年完成MCR控制芯片（MRCD/MDB）研發(fā)。
美光在HBM市場(chǎng)起步晚于三星和SK海力士，但于2023年7月率先發(fā)布HBM3E完成新產(chǎn)品反超。后續(xù)產(chǎn)品規(guī)劃上，根據(jù)美光披露的產(chǎn)品路線圖，其預(yù)計(jì)將于2025年發(fā)布36GB 12-High HBM3E用以完善其HBM3E產(chǎn)品線，并于2026年推出革命性產(chǎn)品36GB 12-High HBM4，帶寬預(yù)計(jì)將超過(guò)1.5TB/s。
預(yù)計(jì)在2027年前，美光將對(duì)HBM4產(chǎn)品容量進(jìn)一步升級(jí)，發(fā)布48GB 16-High HBM4。2028年，美光預(yù)計(jì)發(fā)布帶寬升級(jí)至2 TB/s 以上的HBM4E。2023-2028年內(nèi)，美光幾乎年均推出一款HBM系列新產(chǎn)品，展示出其對(duì)高速增長(zhǎng)HBM市場(chǎng)的勃勃雄心。
瀾起科技擁有兩大產(chǎn)品線，互連類芯片產(chǎn)品線和津逮服務(wù)器平臺(tái)產(chǎn)品線。其中，互連類芯片產(chǎn)品主要包括內(nèi)存接口芯片、內(nèi)存模組配套芯片、PCIe Retimer芯片、MXC芯片、CKD芯片等，津逮服務(wù)器平臺(tái)產(chǎn)品包括津逮CPU和混合安全內(nèi)存模組。
新品序列基本在2023年完成研發(fā)及送樣，未來(lái)業(yè)績(jī)核心驅(qū)動(dòng)一是DDR5芯片不斷迭代保持價(jià)值量，二是新品逐步上量打開(kāi)成長(zhǎng)空間。高性能運(yùn)力產(chǎn)品方面Retimer，MRCD/MDB已經(jīng)實(shí)現(xiàn)出貨，并在推進(jìn)開(kāi)展DDR5第四子代RCD、第二子代MRCD/MDB芯片和PCIe 6.0 Retime芯片的研發(fā)。
聚辰股份是國(guó)產(chǎn)EEPROM龍頭廠商。產(chǎn)品主要包括EEPROM、音圈馬達(dá)驅(qū)動(dòng)芯片、智能卡芯片和NOR Flash，并廣泛應(yīng)用于智能手機(jī)、汽車電子、白色家電等眾多領(lǐng)域。公司持續(xù)拓寬EEPROM產(chǎn)品的應(yīng)用領(lǐng)域，與瀾起科技合作開(kāi)發(fā)的SPD EEPROM產(chǎn)品于2021年第四季度實(shí)現(xiàn)量產(chǎn)。
內(nèi)存邁入DDR5世代，SPD EEPROM必需性突顯。除內(nèi)存接口芯片RCD、DB外，串行檢測(cè)集線器（SPD）是內(nèi)存管理系統(tǒng)的關(guān)鍵組成部分，適用于DDR5系列LRDIMM、RDIMM、UDIMM、SODIMM等內(nèi)存模組。伴隨DDR5內(nèi)存滲透率不斷提升，SPD EEPROM將迎來(lái)更廣闊的的市場(chǎng)空間。
