IT之家 4 月 11 日消息，曾幾何時，英偉達用于人工智能計算的 H100 GPU 供不應(yīng)求。然而據(jù) Digitimes 報道，臺積電的臺灣地區(qū)總經(jīng)理 Terence Liao 表示，過去幾個月英偉達 H100 的交貨等待時間已經(jīng)大幅縮短，從最初的 3-4 個月降至目前的 2-3 個月（8-12 周）。服務(wù)器代工廠商也透露，相比 2023 年幾乎無法買到英偉達 H100 的情況，目前供應(yīng)瓶頸正在逐步緩解。
盡管交貨等待時間有所縮短，Terence Liao 表示，對于人工智能硬件的需求仍然非常旺盛。即使價格昂貴，用于人工智能的服務(wù)器采購也正在取代通用服務(wù)器的采購。但他認(rèn)為，交付周期太長正是導(dǎo)致需求看起來居高不下的主要原因。
IT之家注意到，目前 2-3 個月的交貨等待時間是英偉達 H100 GPU 史上最短的。僅僅 6 個月之前，等待時間還長達 11 個月，大多數(shù)英偉達的客戶需要等待將近一年的時間才能拿到他們訂購的人工智能 GPU。
自 2024 年初以來，H100 GPU 交貨等待時間一直在顯著縮短。今年年初，等待時間就已經(jīng)從最初的數(shù)月降至 3-4 個月�，F(xiàn)在又進一步縮短了一個月。依這樣的速度，到今年年底甚至更早，或許將不再需要等待。
導(dǎo)致這種情況變化的部分原因可能是，一些公司持有過剩的 H100 GPU 庫存，并且為了降低閑置庫存的高額維護成本而進行轉(zhuǎn)售。此外，亞馬遜云科技 (AWS) 方便了用戶通過云端租賃英偉達 H100 GPU，這也幫助緩解了部分對 H100 的需求壓力。
目前唯一仍在承受供應(yīng)限制的英偉達客戶是一些大型企業(yè)，例如 OpenAI，這類公司正在研發(fā)自己的大型語言模型 (LLM)。訓(xùn)練大型語言模型需要成千上萬顆 GPU 才能快速高效地完成，因此這些公司仍然面臨著供應(yīng)瓶頸的挑戰(zhàn)。
