“AI芯片賽道會(huì)在年底再度爆發(fā)，芯片危機(jī)最快會(huì)在明年解決。”
早在半年前，就有很多AI和芯片業(yè)內(nèi)人士對(duì)算力危機(jī)提出了樂(lè)觀預(yù)期。業(yè)內(nèi)普遍認(rèn)為，以谷歌研發(fā)TPU芯片為例，各家重注投資AI大模型的公司一定都會(huì)投入AI芯片的賽道。
其最主要的原因就是，資本巨頭們不會(huì)讓英偉達(dá)長(zhǎng)期獨(dú)占市常
誠(chéng)如預(yù)期。最近兩周，AI大模型的頭部玩家相繼放出了最新的芯片戰(zhàn)略。先是亞馬遜給OpenAI最強(qiáng)競(jìng)對(duì)Anthropic注資40億美元，買(mǎi)斷了他們?cè)贏I訓(xùn)練方面的“芯片選擇權(quán)”；其后是微軟AI芯片Athena被媒體曝出將在下月發(fā)布；最后則是這兩天路透社的報(bào)道，稱(chēng)OpenAI正在評(píng)估潛在的芯片公司收購(gòu)。
雖說(shuō)OpenAI投資芯片研發(fā)在情理之中，但相對(duì)于其他重注AI大模型的巨頭來(lái)說(shuō)，OpenAI畢竟體量有限。如此迅速地殺入芯片研發(fā)賽道，會(huì)不會(huì)有些倉(cāng)促？
事實(shí)上，OpenAI入局芯片也是逼不得已。一方面，芯片價(jià)格持續(xù)上漲，這也說(shuō)明OpenAI正在被迫把自己辛苦研發(fā)AI賺到的錢(qián)，上供給英偉達(dá)。另一方面，GPU短缺的現(xiàn)狀，也的確正在制約AI公司的發(fā)展。
OpenAI的CEO山姆奧特曼就曾在2023年中的一場(chǎng)閉門(mén)討論中抱怨：GPU短缺的問(wèn)題打亂了OpenAI的短期計(jì)劃。
山姆奧特曼在這次會(huì)議中提到，OpenAI在GPT-4發(fā)布之初就計(jì)劃把ChatGPT的上下文長(zhǎng)度提升到32k token，但GPT-4上線很長(zhǎng)一段時(shí)間，這一預(yù)期都沒(méi)有實(shí)現(xiàn)，其根本原因就是OpenAI也面臨著GPU短缺，以及算力太貴等問(wèn)題。
不過(guò)，對(duì)于剛剛崛起的AI獨(dú)角獸來(lái)說(shuō)，研發(fā)AI芯片，除了是要反抗英偉達(dá)的“壓榨”，投資芯片還隱含另一層原因，就是要努力花錢(qián)。
燙手的鈔票
在大模型的資本狂歡中，AI公司賬上的錢(qián)，越來(lái)越多。
OpenAI年初收獲微軟100億美元注資；在亞馬遜給Anthropic注資40億美元之前，谷歌就已經(jīng)給這家公司投資了數(shù)億美元，在亞馬遜之后，谷歌還有計(jì)劃繼續(xù)對(duì)該公司追加投資。國(guó)內(nèi)AI大模型的明星公司智譜AI，近期也曝出了B-4輪融資的消息，目前估值或達(dá)10億美金。
除了大量融資涌入，AI公司的技術(shù)升級(jí)也在給研發(fā)省下很多錢(qián)。
今年3月，OpenAI公布的API接入價(jià)格就出現(xiàn)了大幅下降，據(jù)OpenAI公布的數(shù)據(jù)，ChatGPT的推理運(yùn)算成本，在3個(gè)月時(shí)間里下降了至少90%。
雖然半年過(guò)后的今天，OpenAI并沒(méi)有公布推理和訓(xùn)練成本的下降最新情況。但可以預(yù)見(jiàn)的是，在不考慮算力芯片漲價(jià)的情況下，AI訓(xùn)練和推理的單位算力成本大概率是在持續(xù)下降的。
當(dāng)然，在原有基礎(chǔ)上AI公司肯定會(huì)擴(kuò)大研發(fā)規(guī)模，但技術(shù)研發(fā)并不會(huì)無(wú)限擴(kuò)張。如果算力成本能保持3個(gè)月“打一折”的下降速度，那么可以想見(jiàn)，OpenAI的很多研發(fā)預(yù)算，短期內(nèi)都會(huì)閑置在賬戶(hù)里。
資金快進(jìn)慢出，對(duì)于創(chuàng)業(yè)公司不是好事。
一方面會(huì)導(dǎo)致投資者對(duì)公司資金管理能力的疑慮，另一方面大量現(xiàn)金也有可能降低創(chuàng)業(yè)公司的投資回報(bào)率。
拿到巨額融資，本應(yīng)是好事，但對(duì)于短期盈利預(yù)期并不明朗的AI公司來(lái)說(shuō)，錢(qián)多了反而使這些公司的掌舵人開(kāi)始發(fā)愁：這么多錢(qián)怎么花？
要全部投在模型訓(xùn)練上嗎？這顯然不合理。
首先所有技術(shù)的研發(fā)都是周期性的，不管一次融了多少錢(qián)，花錢(qián)都要按部就班地來(lái)。另外，現(xiàn)階段AI大模型公司開(kāi)銷(xiāo)的大頭主要是AI訓(xùn)練過(guò)程中產(chǎn)生的算力費(fèi)用。但如果把錢(qián)全花在算力付費(fèi)上，那這些錢(qián)就完全是研發(fā)開(kāi)支。
但大模型研究其實(shí)有點(diǎn)像**，并不是說(shuō)每次訓(xùn)練都能得到滿(mǎn)意的結(jié)果。如果大模型研發(fā)效果好，那么巨大的算力開(kāi)支還算說(shuō)得過(guò)去。但如果反復(fù)訓(xùn)練，沒(méi)有達(dá)到預(yù)期的效果，那這些為算力支付的費(fèi)用就只能是試錯(cuò)成本。這也就使得AI公司在算力方面支付的錢(qián)，也變成了**，為算力付的錢(qián)，有多少是真的投資了未來(lái)，又有多少打了水漂呢？
然而，如果能在研發(fā)AI的同時(shí)，把這些錢(qián)花在算力芯片上，那就完全不一樣了。
投資AI芯片，最直接的好處就是賬面上好看，收購(gòu)芯片研發(fā)公司，就可以把原本要燒在算力上的錢(qián)，沉淀成了資產(chǎn)。這不僅能增強(qiáng)自己的核心競(jìng)爭(zhēng)力，還能給早期投資人和未來(lái)的投資人花錢(qián)的合理解釋。一旦公司IPO，這些沉淀下來(lái)的資金，也可以幫助推高公司的估值。
芯片最適合AI公司燒錢(qián)
多數(shù)技術(shù)公司花錢(qián)的最好的辦法都是買(mǎi)買(mǎi)買(mǎi)。但是買(mǎi)誰(shuí)，也有講究。
過(guò)去一段時(shí)間里，很多AI公司在“燒掉多余的錢(qián)”方面，都會(huì)選擇收購(gòu)業(yè)務(wù)相似的同行，或者是與自身業(yè)務(wù)強(qiáng)相關(guān)的上下游企業(yè)。國(guó)內(nèi)很多財(cái)大氣粗的AI公司，就已經(jīng)收購(gòu)了不少金融、制造等數(shù)字化轉(zhuǎn)型服務(wù)公司，有的甚至還自己投資新建了不少相關(guān)公司。
不過(guò)，從過(guò)去二三十年，互聯(lián)網(wǎng)、軟件公司的發(fā)展來(lái)看，AI技術(shù)研發(fā)、數(shù)字化轉(zhuǎn)型，這些偏重互聯(lián)網(wǎng)、云和軟件等業(yè)務(wù)的研發(fā)花銷(xiāo)普遍不大，未必能達(dá)到把錢(qián)花好的目的。
以美股頭部公司為例。市值3012億美元的甲骨文，2023財(cái)年的研發(fā)費(fèi)用是66.4億，占營(yíng)收的17%。2018億美元市值的Salesforce，2023財(cái)年的研發(fā)費(fèi)用是50.55億，投研比為16%。
相對(duì)來(lái)說(shuō)，芯片研究要比軟件貴得多。同類(lèi)型的芯片公司，即使體量不大，研發(fā)費(fèi)用也要高過(guò)這些軟件公司。
最火的英偉達(dá)，2023財(cái)年研發(fā)成本73.39億美元，占比27.2%，2022財(cái)年52.68億美元，占比19.6%。雖然英偉達(dá)目前市值超萬(wàn)億，但在2023財(cái)年中，英偉達(dá)股價(jià)的平均值還不到現(xiàn)在的一半。
其他的芯片公司，AMD的2022財(cái)年研發(fā)費(fèi)用為50.05億美元，占營(yíng)收的21.2%；英特爾2023財(cái)年研發(fā)費(fèi)用82億美元，投研比33.2%；高通的2022財(cái)年研發(fā)費(fèi)用81.94億，投研比19%。
更有趣的是，給芯片行業(yè)做工具軟件的EDA公司們的研發(fā)投入更大。主流EDA軟件Synopsys上一財(cái)年的研發(fā)費(fèi)用為16.8億美元，投研比33.07%。過(guò)去幾年中，這家公司的投研比也全部高于30%，有的年份甚至超過(guò)40%。
互聯(lián)網(wǎng)/芯片公司近一財(cái)年研發(fā)投入
對(duì)于現(xiàn)階段急需花錢(qián)的AI公司來(lái)說(shuō)，AI芯片公司如此高的研發(fā)成本，算是很適合“燒錢(qián)”了。
AI公司能打破英偉達(dá)的壁壘嗎？
AI公司做AI芯片，聽(tīng)起來(lái)很合理，但實(shí)際上并不容易。
目前市面上除了英偉達(dá)的GPU以外，還有很多公司在設(shè)計(jì)AI芯片。包括谷歌為T(mén)ensorFlow設(shè)計(jì)的TPU (Tensor Processing Unit)；華為正在研究的專(zhuān)為神經(jīng)網(wǎng)絡(luò)計(jì)算設(shè)計(jì)的NPU (Neural Processing Unit)；以及傳說(shuō)被孫正義盯上的英國(guó)公司Graphcore開(kāi)發(fā)的，專(zhuān)門(mén)用于AI任務(wù)的IPU。
這些芯片多數(shù)也都經(jīng)歷了很長(zhǎng)時(shí)間的研發(fā)迭代，但商業(yè)表現(xiàn)和英偉達(dá)明顯相去甚遠(yuǎn)。
其中，谷歌從2015年就開(kāi)始研發(fā)TPU，并在內(nèi)部推廣使用。2018年，谷歌開(kāi)放了TPU的第三方應(yīng)用，作為其云基礎(chǔ)設(shè)施的一部分。不過(guò)到目前為止，TPU仍沒(méi)有大規(guī)模走入AI芯片市常
事實(shí)上，即使TPU開(kāi)放了商業(yè)化，目前主流的GPT模型要在TPU上運(yùn)行，也會(huì)受到一定限制。因?yàn)镚PT采用了與TensorFlow不同的PyTorch架構(gòu)，雖然PyTorch中已經(jīng)增加了對(duì)TPU的支持，但在運(yùn)行過(guò)程中還需要一些額外的優(yōu)化工作。
這也是困擾一眾AI芯片的問(wèn)題，多數(shù)AI芯片的硬件性能其實(shí)已與英偉達(dá)相差不遠(yuǎn)，但是底層軟件和開(kāi)發(fā)工具對(duì)應(yīng)用的支持遠(yuǎn)不如英偉達(dá)。
不久前，科大訊飛總裁劉慶峰曾公開(kāi)稱(chēng)贊華為的AI芯片性能，稱(chēng)其已經(jīng)可以對(duì)標(biāo)英偉達(dá)的高端顯卡了。對(duì)此，很多業(yè)內(nèi)人士其實(shí)并不感到奇怪，“顯卡的裸金屬性能要趕上英偉達(dá)，其實(shí)不難。”中科院自動(dòng)化所主管劉昊告訴虎嗅，中科院自動(dòng)化所的紫東太初大模型就一直與武漢智算中心合作，使用華為騰Ascend 910和910b訓(xùn)練AI大模型。
騰Ascend 910
劉昊認(rèn)為，在性能方面華為的算力芯片確實(shí)與A100差不多，但在訓(xùn)練大模型的過(guò)程中卻無(wú)法替代英偉達(dá)顯卡。“雖然華為芯片的性能沒(méi)有問(wèn)題，但在實(shí)際的AI大模型訓(xùn)練中，它的工具鏈不夠完善，裸金屬的性能并不能完全發(fā)揮出來(lái)。”
英偉達(dá)的壁壘，并不是GPU硬件性能，而是基于CUDA的開(kāi)發(fā)環(huán)境。雖然華為在這方面也在開(kāi)發(fā)類(lèi)似的CANN，但相對(duì)于已經(jīng)推出超過(guò)15年的CUDA來(lái)說(shuō)，差距還比較明顯。
不過(guò)，這對(duì)于OpenAI、Anthropic這樣的AI公司來(lái)說(shuō)，正是可以發(fā)揮優(yōu)勢(shì)的部分。
AI公司可以在軟件和硬件之間進(jìn)行緊密的協(xié)同設(shè)計(jì)，確保芯片的設(shè)計(jì)完全滿(mǎn)足算法的需求，從而提高效率和性能。同時(shí)，AI公司可以圍繞其芯片產(chǎn)品建立完整的生態(tài)系統(tǒng)，包括軟件庫(kù)、工具、框架和支持服務(wù)，從而為客戶(hù)提供一站式的解決方案。
除此之外，AI公司對(duì)機(jī)器學(xué)習(xí)和深度學(xué)習(xí)算法的理解更深入，這使得它們能夠?yàn)樘囟ǖ乃惴ɑ蛉蝿?wù)定制和優(yōu)化芯片。在實(shí)際應(yīng)用中使用機(jī)器學(xué)習(xí)模型，它們可以根據(jù)實(shí)際的應(yīng)用需求和場(chǎng)景，也可以對(duì)芯片設(shè)計(jì)進(jìn)行反復(fù)迭代。
賺錢(qián)預(yù)期的分歧
過(guò)去9個(gè)月時(shí)間里，英偉達(dá)股價(jià)翻了3倍，市值突破一萬(wàn)億美元。目前的市盈率TTM為102.03，靜態(tài)市盈率為242.75。而Invesco半導(dǎo)體ETF的30家美國(guó)半導(dǎo)體公司平均市盈率為21倍，其他在AI上重投入的科技巨頭們的市盈率都在20-40倍之間，英偉達(dá)的賺錢(qián)能力幾乎強(qiáng)過(guò)他們10倍。
有消息稱(chēng)，2023年第二季度英偉達(dá)最先進(jìn)的H100顯卡出貨量達(dá)800多噸，且持續(xù)供不應(yīng)求。多位國(guó)內(nèi)GPU服務(wù)器渠道商向虎嗅透露，一臺(tái)百萬(wàn)多的GPU服務(wù)器，交貨周期不同，價(jià)格上浮空間超過(guò)50%。
在今天，買(mǎi)GPU服務(wù)器的AI公司、云廠商，像極了國(guó)內(nèi)奢飾品店門(mén)口排隊(duì)買(mǎi)LV和GUCCI的人。在英偉達(dá)門(mén)口，攥著錢(qián)，排著隊(duì)。好不容易交了錢(qián)，還要等貨。如果再?zèng)]有能打的競(jìng)爭(zhēng)對(duì)手出現(xiàn)，英偉達(dá)的銷(xiāo)售們沒(méi)準(zhǔn)也要開(kāi)始讓客戶(hù)“配貨”買(mǎi)GPU了。
不過(guò)，在這樣賺錢(qián)的賽道里，資本對(duì)AI芯片的情緒其實(shí)比較復(fù)雜。畢竟AI芯片的賺錢(qián)周期太長(zhǎng)了。大家都想像英偉達(dá)一樣賺錢(qián)，但沒(méi)幾個(gè)人愿意經(jīng)歷芯片研發(fā)的漫長(zhǎng)等待期。
由此，資本市場(chǎng)對(duì)AI芯片公司的態(tài)度也出現(xiàn)了分歧。在OpenAI要做芯片的傳聞之前，國(guó)內(nèi)AI芯片行業(yè)就有兩則新聞值得關(guān)注。
首先是寒武紀(jì)近期發(fā)布公告稱(chēng)，國(guó)投基金減持完畢，基本清倉(cāng)。而這已經(jīng)不是寒武紀(jì)創(chuàng)投股東們首次出現(xiàn)清倉(cāng)式減持。第二則是背靠騰訊的燧原科技宣布完成D輪融資20億元。
作為AI芯片第一股，寒武紀(jì)遇到的最大問(wèn)題，就是持續(xù)虧損，長(zhǎng)期燒錢(qián)卻落地緩慢。在AI芯片上直接燒錢(qián)的做法似乎不太適合中國(guó)公司，中國(guó)的AI公司和AI芯片公司，可能更適合Anthropic和亞馬遜的合作模式。在AI芯片研發(fā)方面，多方協(xié)作，發(fā)揮自身特長(zhǎng)。AI公司把AI推理、訓(xùn)練的應(yīng)用需求用好，芯片公司把芯片設(shè)計(jì)技術(shù)用好，再配合大廠的技術(shù)、資金優(yōu)勢(shì)，從而加快產(chǎn)品的研發(fā)、迭代速度，從而在市場(chǎng)中占領(lǐng)一席之地。
