劃重點(diǎn)
01OpenAI正在與博通合作開發(fā)首款定制AI推理芯片,以處理大規(guī)模的AI工作負(fù)載,預(yù)計2026年開始生產(chǎn)。
02為此,OpenAI組建了一支約20人的研發(fā)團(tuán)隊,包括曾參與谷歌Tensor處理器項目的首席工程師。
03除此之外,OpenAI計劃通過定制芯片設(shè)計來管理成本和訪問AI服務(wù)器硬件,以減少對英偉達(dá)的依賴。
04目前,OpenAI已經(jīng)在微軟的Azure云平臺上使用AMD芯片進(jìn)行模型訓(xùn)練,以應(yīng)對芯片短缺和訓(xùn)練成本高昂的問題。
以上內(nèi)容由大模型生成,僅供參考
據(jù)路透社報道,OpenAI 正在與博通(Broadcom)合作開發(fā)其首款定制 AI 推理芯片,旨在處理其大規(guī)模的 AI 工作負(fù)載,特別是推理任務(wù)。為此,OpenAI 已經(jīng)組建了一支約 20 人的研發(fā)團(tuán)隊,包括曾參與谷歌 Tensor 處理器項目的首席工程師在內(nèi)。消息稱博通將會幫助 OpenAI 進(jìn)行芯片設(shè)計,并確保由臺積電(TSMC)進(jìn)行制造,預(yù)計 2026 年開始生產(chǎn)。
OpenAI 將自研 AI 芯片(圖源:cnBeta)關(guān)注 AI 第一新媒體,率先獲取 AI 前沿資訊和洞察
為了實現(xiàn)芯片供應(yīng)的多元化,OpenAI 此前計劃建立芯片制作代工廠。但由于成本高昂,并且構(gòu)建代工廠網(wǎng)絡(luò)需要大量時間,OpenAI 已經(jīng)擱置了這一計劃,轉(zhuǎn)而專注于內(nèi)部芯片設(shè)計。OpenAI 這一通過「定制芯片設(shè)計來管理成本和訪問 AI 服務(wù)器硬件」的戰(zhàn)略意味著其走上了 Meta 和 Google 等科技公司的老路,而后者作為 OpenAI 的競爭對手,已經(jīng)經(jīng)歷了幾代人的努力。并且,市面上不乏成熟且廣泛部署應(yīng)用的 AI 芯片,如 Google 推出的「TPU」、微軟的「Maia 100」等等。也就是說,OpenAI 需要更多的資金才能彌補(bǔ)這些差距,登上牌桌。
微軟推出的 AI 芯片「Maia 100」(圖源:techmonitor)除了滿足不斷增長的基礎(chǔ)設(shè)施需求,減少訓(xùn)練和運(yùn)行成本以外,「減少對英偉達(dá)(NVIDIA)的依賴」也是 OpenAI 的「小算盤」之一。OpenAI 的 CEO 奧特曼(Altman)指出,之所以要「獲得更多芯片」,是因為兩個問題:為 OpenAI 軟件提供動力的先進(jìn)處理器的短缺,以及為其工作和產(chǎn)品提供動力的硬件運(yùn)行所需的「令人眼花繚亂」的成本。他還曾公開抱怨市場資源匱乏,而 NVIDIA 主導(dǎo)并控制著最適合運(yùn)行 AI 應(yīng)用的芯片全球 80% 以上的市場。作為英偉達(dá)圖形處理單元(GPU)的最大買家之一,OpenAI 此前幾乎完全依賴 NVIDIA GPU 進(jìn)行訓(xùn)練。2020 年以來,OpenAI 在微軟建造的大型超級計算機(jī)上開發(fā)了其生成式人工智能技術(shù),這臺計算機(jī)使用了 10000 個 NVIDIA GPU。
NVIDIA H100 GPU(圖源:NVIDIA)但由于芯片短缺和供應(yīng)延遲,以及訓(xùn)練成本高昂的問題,OpenAI 不得不開始探索替代方案。他們計劃通過微軟的 Azure 云平臺使用 AMD 芯片進(jìn)行模型訓(xùn)練。值得一提的是,AMD 在去年推出了 MI300 AI 芯片,致使其數(shù)據(jù)中心業(yè)務(wù)在一年內(nèi)翻了一番。種種跡象表明,AMD 正在追趕市場領(lǐng)導(dǎo)者 NVIDIA。
AMD MI300 芯片(圖源:AMD)此外,消息人士稱 OpenAI 仍在決定是否為其芯片設(shè)計開發(fā)或收購其他元件,并可能會聘請更多合作伙伴。盡管「不惜一切代價構(gòu)建 AGI(通用人工智能)」的 OpenAI 和號稱「下一個英偉達(dá)」的博通之間和合作很可能引起英偉達(dá)的不滿,但 OpenAI 表示「希望與仍致力于合作的芯片制造商保持良好的關(guān)系,特別是在使用其新一代 Blackwell 芯片方面」。對此,英偉達(dá)暫時不予置評。唯一的回應(yīng)是市場。合作消息一出,博通的股價應(yīng)聲大漲,AMD 也延續(xù)了早盤漲幅。文|范津瑞