展會(huì)信息港展會(huì)大全

GPT-5被5萬張H100卡脖子!奧特曼籌數(shù)十億美元,欲建AI芯片帝國
來源:互聯(lián)網(wǎng)   發(fā)布日期:2024-01-22 18:52:43   瀏覽:9590次  

導(dǎo)讀:最近,外媒曝出Sam Altman正計(jì)劃籌集數(shù)十億美元,為OpenAI建起全球性的半導(dǎo)體晶圓廠網(wǎng)絡(luò)。GPT-5訓(xùn)練嚴(yán)重缺芯,OpenAI誓不讓英偉達(dá)掌握主動(dòng)權(quán),干脆自己做新的AI芯片霸主? Sam Altman正在籌集數(shù)十億美元,建立一個(gè)全球性的半導(dǎo)體晶圓廠網(wǎng)絡(luò)! 這一事件背后的...

最近,外媒曝出Sam Altman正計(jì)劃籌集數(shù)十億美元,為OpenAI建起全球性的半導(dǎo)體晶圓廠網(wǎng)絡(luò)。GPT-5訓(xùn)練嚴(yán)重缺芯,OpenAI誓不讓英偉達(dá)掌握主動(dòng)權(quán),干脆自己做新的AI芯片霸主?

Sam Altman正在籌集數(shù)十億美元,建立一個(gè)全球性的半導(dǎo)體晶圓廠網(wǎng)絡(luò)!

這一事件背后的原因很可能就是,OpenAI已經(jīng)無「芯」訓(xùn)練「GPT-5」了。

此前,據(jù)英國《金融時(shí)報(bào)》報(bào)道,OpenAI 正在開發(fā)一種新的AI模型,該模型將是 GPT-4 的「重大升級(jí)」,預(yù)計(jì)將于今年晚些時(shí)候發(fā)布。

訓(xùn)練GPT-4,用了大約25000塊A100 GPU 。而訓(xùn)練GPT-5,還需要5萬張H100。如今,英偉達(dá)的H100售價(jià)為2.5萬至3萬美元。

英偉達(dá)的AI芯片,基本壟斷了市場,這一命脈怎能掌握在他人手中?

果然,最近外媒接連曝出,Sam Altman正在和中東投資者以及臺(tái)積電談判,展開合作關(guān)系,以訓(xùn)練和運(yùn)行AI模型的芯片。

算力貨幣決定著OpenAI的前途,絕不能把握在英偉達(dá)手里!Altman這次,是下定決心了。

訓(xùn)GPT-5,OpenAI對(duì)芯片的需求只會(huì)越來越大

Altman的野心是,隨著AI技術(shù)的廣泛應(yīng)用,在未來幾年建成一個(gè)自給自足的半導(dǎo)體供應(yīng)鏈帝國。

所以,OpenAI也有意跟英特爾、臺(tái)積電和三星等行業(yè)巨頭競爭了?

Altman在達(dá)沃斯經(jīng)濟(jì)論壇上表示,今后世界的兩大貨幣,就是算力和能源

比起亞馬遜、谷歌、微軟等大廠,Sam Altman顯然有更宏大的計(jì)劃:建立一個(gè)AI芯片工廠網(wǎng)絡(luò)。

Altman應(yīng)該是很確信,現(xiàn)在的臺(tái)積電、三星、英特爾之類的代工廠,未來幾年內(nèi)肯定無法滿足對(duì)AI芯片的需求。

現(xiàn)在,Altman正在籌集數(shù)十億美元,目標(biāo)就是建立一個(gè)遍布全球的AI芯片工廠網(wǎng)絡(luò)。

現(xiàn)在,他正在和多家潛在的大型投資者進(jìn)行談判,包括總部設(shè)在阿布扎比的G42和軟銀集團(tuán)。

顯然,在AGI時(shí)代,芯片會(huì)供不應(yīng)求。Altman現(xiàn)在十分擔(dān)心,隨著AI技術(shù)的日益普及,現(xiàn)有的芯片供應(yīng)將無法滿足大規(guī)模部署的需求。

目前生產(chǎn)的AI芯片,遠(yuǎn)遠(yuǎn)落后于預(yù)期的需求。只有立刻行動(dòng),才能確保十年內(nèi)能有充足的芯片供應(yīng)。

然而,建立一個(gè)全球性的芯片工廠網(wǎng)絡(luò)需要龐大的投資,并且耗時(shí)多年。

而且,與行業(yè)中其他公司不同的是,建設(shè)和維護(hù)半導(dǎo)體工廠的成本要高得多。一個(gè)先進(jìn)工廠的建設(shè)成本,可能高達(dá)數(shù)百億美元。

亞馬遜、谷歌、微軟都傾向于設(shè)計(jì)自家的定制芯片,將制造外包,這也是因?yàn)榻ㄔ旌途S護(hù)半導(dǎo)體的晶圓廠的成本,實(shí)在太高了!

畢竟,建造一家最先進(jìn)的晶圓廠可能需要數(shù)百億美元的投資,而建立這樣的設(shè)施網(wǎng)絡(luò)可能需要數(shù)年時(shí)間。

根據(jù)彭博社的報(bào)道,僅在OpenAI與G42的談判中,涉及金額就接近80億到100億美元。

OpenAI新金主:中東土豪

OpenAI的前任金主是微軟。而現(xiàn)在為了籌資,Altman聯(lián)系上了中東土豪們,比如阿聯(lián)酋的一些投資者。

其中一位,就是阿布扎比最富有、最有影響力的人物之一謝赫塔赫努恩。

謝赫塔赫努恩是阿聯(lián)酋最有權(quán)勢的人之一,是總統(tǒng)謝赫穆罕默德的兄弟,還是阿聯(lián)酋的國家安全顧問。

他還負(fù)責(zé)監(jiān)督迅速擴(kuò)張的商業(yè)帝國,并擔(dān)任阿布扎比若干最強(qiáng)國家投資基金的主席。其中包括8000億美元的阿布扎比投資局和另一家國有投資實(shí)體ADQ。

另外,他還擔(dān)任國際控股公司和G42的主席。前者是一家龐大的企業(yè)集團(tuán),已迅速成為阿聯(lián)酋最大的上市公司;而G42是一家雄心勃勃的AI公司,已經(jīng)和微軟、OpenAI建立起了合作伙伴關(guān)系。

目前還不清楚Altman具體的籌款金額,但要與市值接近1.5萬億美元的英偉達(dá)競爭,保守來說至少會(huì)花費(fèi)數(shù)十億美元。

G42集團(tuán)CEO Peng Xiao和Sam Altman簽訂協(xié)議

別的不說,Sam Altman的社交手腕,是真的達(dá)到了人類天花板級(jí)別。

建廠要花費(fèi)的,是天文數(shù)字

咱們來盤一盤,要建起一座晶圓廠,Sam Altman究竟需要花多少錢。

開發(fā)2nm或3nm工藝技術(shù)的成本,高達(dá)數(shù)十億美元,并且隨著工藝節(jié)點(diǎn)的縮小,這一成本還在上升。

同時(shí),一個(gè)能夠大規(guī)模生產(chǎn)3nm或2nm芯片的現(xiàn)代晶圓廠,如今成本可達(dá)300億美元。

并且,晶圓廠的成本還在迅速上升,比如一臺(tái)低數(shù)值孔徑(Low-NA)極紫外(EUV)光刻設(shè)備的價(jià)格,約為2億美元,而高數(shù)值孔徑(High-NA)的光刻機(jī),預(yù)計(jì)售價(jià)在3億至4億美元之間。

一個(gè)領(lǐng)先的晶圓廠要想生產(chǎn)最先進(jìn)的AI和高性能計(jì)算(HPC)芯片,這種設(shè)備怎么也得備上若干臺(tái)。

AI浪潮中,英偉達(dá)坐收漁翁之利

現(xiàn)在,谷歌、亞馬遜、Meta、OpenAI和微軟,都在使用英偉達(dá)的GPU來訓(xùn)練AI、向客戶部署模型。僅Meta一家,就計(jì)劃在年底前為服務(wù)器安裝340,000塊H100。

可以說,英偉達(dá)壟斷了目前的AI算力市場,并且手持定價(jià)權(quán),這就導(dǎo)致其收入飛速增長。

像Graphcore這樣的芯片初創(chuàng)公司,已經(jīng)很難與英偉達(dá)的主導(dǎo)地位競爭了,這是由軟件和硬件之間的相互作用造成的。僅僅制造一個(gè)更快的芯片,已經(jīng)遠(yuǎn)遠(yuǎn)不夠的,何況這本身就相當(dāng)困難。

顯然,各大科技公司都很早就開始布局了。

亞馬遜、谷歌和微軟這樣的大科技公司是這么做的設(shè)計(jì)自己的定制半導(dǎo)體產(chǎn)品,將生產(chǎn)過程外包給其他公司。

現(xiàn)在,各家都到了收獲的季節(jié)。去年11月底,微軟就推出了首款A(yù)I芯片,同時(shí),微軟也在和AMD加緊合作;23年春季之前,Meta也推出了自家芯片;谷歌和亞馬遜,則分別研發(fā)TPU和Trainium芯片多年。

微軟的最新Azure Maia 100芯片

OpenAI曾怒甩5100萬刀狂買AI芯片

去年12月,Altman就被曝出正在進(jìn)行「芯片交易」,而這也疑似成為OpenAI宮斗的導(dǎo)火索。

當(dāng)時(shí)有外媒曝出,OpenAI在2019與AI芯片初創(chuàng)公司Rain AI簽訂了一份價(jià)值5100萬美元的意向書,會(huì)在Rain AI的芯片上市后購買芯片。

Rain AI正在研發(fā)一種「類腦」NPU芯片,能大幅降低AI算力的成本,預(yù)計(jì)將在12月流片,并于2024年10月開始供貨。

而且值得注意的是,Sam Altman作為Rain AI的股東,本人也親自斥資,投入了100萬美元。

根據(jù)一位不愿意公開身份的人士透露,Sam Altman之前被OpenAI前董事會(huì)解雇,部分原因就是他的其他投資與OpenAI糾葛的關(guān)系。

據(jù)悉,Altman曾為了這個(gè)代號(hào)為Tigris的項(xiàng)目在中東籌集資金

RainAI開發(fā)的神經(jīng)形態(tài)處理單元(NPU),能模仿人類大腦的功能,有希望提供比當(dāng)今的GPU更高的處理能力和能源效率。

這個(gè)NPU「類腦」芯片,號(hào)稱比GPU高出100倍的計(jì)算能力,而在訓(xùn)練方面的能效,甚至比GPU高出10000倍。

Rain的目標(biāo)是提供一種芯片,既能用于模型和算法的訓(xùn)練,又能用于之后的推理運(yùn)行。

根據(jù)Rain的說法,這種芯片將允許AI模型根據(jù)周圍環(huán)境實(shí)時(shí)定制或微調(diào)。

從這個(gè)角度來看,它并不是當(dāng)下英偉達(dá)H100之類GPU的直接競品。

相關(guān)人士表示,這些功能對(duì)OpenAI來說是一個(gè)強(qiáng)大的吸引力,OpenAI希望利用這些芯片來降低數(shù)據(jù)中心的成本,并將自己的模型部署在手機(jī)和手表等設(shè)備中。

如果能夠開發(fā)成功,OpenAI自然不會(huì)再受制于英偉達(dá)。

其實(shí),Altman的布局很早。

早在2018年,他就領(lǐng)導(dǎo)了Rain的種子輪融資,一年后,OpenAI通過了這份價(jià)值5100萬美元的芯片購買意向書。

當(dāng)然,Altman的計(jì)劃也不是一帆風(fēng)順的。

此前Rain的領(lǐng)導(dǎo)層曾改組,公司的投資者也發(fā)生了變化。一個(gè)負(fù)責(zé)監(jiān)管國家安全風(fēng)險(xiǎn)投資的跨部門政府機(jī)構(gòu),要求沙特阿拉伯附屬基金Prosperity7 Ventures出售其Rain的股份,之后,硅谷的Grep VC收購了這些股份。

這一切變動(dòng),可能會(huì)增加Rain將新型芯片技術(shù)推向市場的難度,也使OpenAI的5100萬美元訂單的兌現(xiàn)日期,變得不太清晰。

總的來說,與Rain的這項(xiàng)交易也顯示,OpenAI愿意花費(fèi)大量資金,來確保自己的AI項(xiàng)目所需的芯片供應(yīng)。

現(xiàn)在,從Rain AI購買的價(jià)值5100萬美元的AI芯片,只是OpenAI在AI芯片上巨額投入的一小部分而已。

OpenAI的野心,正在悄悄部署

年前,OpenAI就任命了前谷歌TPU的負(fù)責(zé)人為硬件主管,并且正在招聘「數(shù)據(jù)中心設(shè)施設(shè)計(jì)專家」。

消息稱,由芯片工程師Richard Ho領(lǐng)導(dǎo)生成式AI創(chuàng)業(yè)公司的新部門,幫助優(yōu)化合作伙伴的數(shù)據(jù)中心網(wǎng)絡(luò)、機(jī)架和架構(gòu)。

「他在TPU的創(chuàng)建中也發(fā)揮了重要作用。也曾在DE Shaw工作并設(shè)計(jì)過ASIC。到目前為止,他更多地負(fù)責(zé)軟件硬件集成、DC設(shè)計(jì)和加速器芯片選擇。但OpenAI最近也聘請(qǐng)了不少編譯器和內(nèi)核方面的專家。」

另外,Altman還曾與包括芯片設(shè)計(jì)公司Arm在內(nèi)的半導(dǎo)體高管進(jìn)行過討論,商討如何盡早設(shè)計(jì)出新的芯片,為OpenAI降低成本。

OpenAI的GPU短缺有多嚴(yán)重?Altman:都先別用ChatGPT了

去年一整年,Sam Altman都在抱怨OpenAI已經(jīng)陷入了嚴(yán)重的GPU短缺。

生成式AI爆發(fā)仍舊沒有放緩,對(duì)算力提出了更高的要求。很多公司都在用英偉達(dá)性能極高的H100來訓(xùn)練模型,但H100非常昂貴。

馬斯克就表示,GPU如今比drug還緊俏。

Sam Altman表示,OpenAI已經(jīng)嚴(yán)重受到GPU限制,不得不推遲了眾多短期計(jì)劃(微調(diào)、專用容量、32k上下文窗口、多模態(tài))。

甚至,因?yàn)镚PU的短缺,Altman都不希望有很多人使用ChatGPT。

我們的GPU非常短缺,使用我們產(chǎn)品的人越少越好。

如果人們用的越少,我們會(huì)很開心,因?yàn)槲覀儧]有足夠的GPU。

OpenAI許多用戶都在抱怨API的可靠性和速度,對(duì)此Sam Altman解釋道,原因也是在于GPU太缺了。

訓(xùn)練GPT-5,需要5萬塊H100,但此前曾有報(bào)道稱,英偉達(dá)最好的芯片H100,將在2024年之前就會(huì)售罄。

如果市場上GPU跟不上,將會(huì)阻礙OpenAI提升和訓(xùn)練新模型的能力。

如今到處奔走的Altman,能為建立晶圓廠籌到數(shù)十億甚至數(shù)千億美元的資金嗎?能維持廠子的運(yùn)營嗎?

目前我們只知道,他的舉動(dòng)有可能改變整個(gè)代工市場的格局。

參考資料:

https://www.tomshardware.com/tech-industry/artificial-intelligence/openais-sam-altman-raises-billions-to-build-chip-empire-report

https://the-decoder.com/gpt-4-successor-reportedly-a-major-upgrade-openais-altman-in-talks-with-tsmc-for-ai-chips/

https://www.ft.com/content/1cdaadc3-b384-4f50-88ff-291c062c8376

贊助本站

人工智能實(shí)驗(yàn)室
相關(guān)內(nèi)容
AiLab云推薦
推薦內(nèi)容
展開

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實(shí)驗(yàn)室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動(dòng)態(tài) | 免責(zé)聲明 | 隱私條款 | 工作機(jī)會(huì) | 展會(huì)港