展會(huì)信息港展會(huì)大全

美國(guó)國(guó)防部資助私密邊緣計(jì)算,與EnCharge AI聯(lián)合開(kāi)發(fā)超強(qiáng)邊緣計(jì)算芯片
來(lái)源:互聯(lián)網(wǎng)   發(fā)布日期:2024-05-17 22:08:13   瀏覽:3445次  

導(dǎo)讀:由于人工智能的蓬勃發(fā)展,芯片世界正在經(jīng)歷一場(chǎng)巨大的轉(zhuǎn)型。 我們對(duì)能夠更快地訓(xùn)練人工智能模型的芯片,以及能夠在手機(jī)端運(yùn)行模型的芯片的需求正在增加,后者使我們能夠在不泄露私人數(shù)據(jù)的情況下使用這些模型。 政府、科技巨頭和初創(chuàng)公司都想從不斷增長(zhǎng)的半...

由于人工智能的蓬勃發(fā)展,芯片世界正在經(jīng)歷一場(chǎng)巨大的轉(zhuǎn)型。

我們對(duì)能夠更快地訓(xùn)練人工智能模型的芯片,以及能夠在手機(jī)端運(yùn)行模型的芯片的需求正在增加,后者使我們能夠在不泄露私人數(shù)據(jù)的情況下使用這些模型。

政府、科技巨頭和初創(chuàng)公司都想從不斷增長(zhǎng)的半導(dǎo)體市場(chǎng)中分一杯羹。

以下是未來(lái)一年的四個(gè)趨勢(shì),它們將定義未來(lái)的芯片是什么樣子的,誰(shuí)將制造它們,以及它們將解鎖哪些新技術(shù)。

(來(lái)源:AI 生成,圖文無(wú)關(guān))

世界各地的芯片法案

在美國(guó)鳳凰城郊區(qū),世界上最大的兩家芯片制造商,臺(tái)積電和英特爾正在沙漠中建造工廠,它們希望這些園區(qū)能強(qiáng)化美國(guó)的芯片制造能力。

這些努力背后的共同點(diǎn)是資金。2024 年 3 月,美國(guó)總統(tǒng)拜登宣布,為英特爾在美國(guó)的擴(kuò)張?zhí)峁?85 億美元的聯(lián)邦資金和 110 億美元的貸款。幾周后,他又向臺(tái)積電提供了 66 億美元。

這些資助只是美國(guó)向芯片行業(yè)提供補(bǔ)貼的一部分,依據(jù)是 2022 年簽署的 2800 億美元《芯片與科學(xué)法案》。

這筆龐大的資金意味著,任何涉足半導(dǎo)體生態(tài)系統(tǒng)的公司都在思考如何重組其供應(yīng)鏈,然后從補(bǔ)助中受益。

雖然大部分資金旨在促進(jìn)美國(guó)的芯片制造業(yè)發(fā)展,但無(wú)論是設(shè)備制造商,還是利基材料初創(chuàng)公司,都可以參與其中。

但美國(guó)并不是唯一一個(gè)試圖在本土打造(部分)芯片制造供應(yīng)鏈的國(guó)家。日本在本國(guó)的芯片法案上撥款了 130 億美元,歐洲將拿出 470 多億美元。2024 年早些時(shí)候,印度也宣布投入 150 億美元建設(shè)芯片廠。

美國(guó)塔夫茨大學(xué)教授、《芯片戰(zhàn)爭(zhēng)》一書(shū)的作者克里斯米勒(Chris Miller)說(shuō),這一趨勢(shì)的根源可以追溯到 2014 年。

他說(shuō):“這創(chuàng)造了一種動(dòng)態(tài),在這種動(dòng)態(tài)中其它政府得出結(jié)論,它們別無(wú)選擇,只能提供激勵(lì)措施。”

這種不安感,加上人工智能熱潮的興起,導(dǎo)致西方政府都在為替代方案提供資金。在接下來(lái)的一年里,這可能會(huì)產(chǎn)生滾雪球效應(yīng),更多的國(guó)家會(huì)因?yàn)閾?dān)心落后而開(kāi)展自己的芯片項(xiàng)目。

米勒說(shuō),這筆錢不太可能培養(yǎng)出全新的芯片競(jìng)爭(zhēng)者,也不太可能從根本上動(dòng)搖芯片制造行業(yè)。相反,它將主要鼓勵(lì)像臺(tái)積電這樣的行業(yè)頭部企業(yè)在多個(gè)國(guó)家開(kāi)枝散葉。

但僅靠資金還不足以迅速做到這一點(diǎn),臺(tái)積電在美國(guó)亞利桑那州建廠的努力陷入了泥潭,完工日期一再推遲,還遭遇了勞資糾紛,英特爾也同樣未能兌現(xiàn)此前承諾的完工期限。

目前尚不清楚這些工廠何時(shí),甚至是否能開(kāi)始運(yùn)轉(zhuǎn),以及它們的設(shè)備和員工能否與這些公司國(guó)外最先進(jìn)的工廠保持相同的水平。

米勒說(shuō):“供應(yīng)鏈只會(huì)在幾年,甚至幾十年內(nèi)緩慢轉(zhuǎn)變。但情況正在發(fā)生變化。”

更關(guān)注邊緣人工智能

目前,我們與 ChatGPT 等人工智能模型的交互大多都是通過(guò)云進(jìn)行的。

這意味著,當(dāng)你要 ChatGPT 挑選一套衣服(或成為你的男朋友)時(shí),你的請(qǐng)求會(huì)被發(fā)送到 OpenAI 的服務(wù)器,由服務(wù)器上的模型對(duì)其進(jìn)行處理,并在回復(fù)你之前完成推理(就像是得出一個(gè)結(jié)論)。

依賴云服務(wù)有一些缺點(diǎn)。例如,它需要聯(lián)網(wǎng),這也意味著你的一些數(shù)據(jù)要與模型運(yùn)營(yíng)商共享。

這就是為什么人們和資金對(duì)人工智能的邊緣計(jì)算很感興趣。在邊緣計(jì)算中,人工智能模型的調(diào)用和運(yùn)算都在你的設(shè)備上,比如筆記本電腦或智能手機(jī)上。

該行業(yè)正在大力發(fā)展更加了解用戶的人工智能模型。OpenAI 的 CEO 山姆奧特曼(Sam Altman)曾向我描述了他眼中的殺手級(jí)人工智能應(yīng)用程序,它“完全了解我的一生,我的每一封電子郵件,每一次對(duì)話”。

因此,人們對(duì)更快的邊緣計(jì)算芯片有了需求,這種芯片可以在不共享私人數(shù)據(jù)的情況下運(yùn)行模型。

這些芯片面臨著與數(shù)據(jù)中心芯片不同的限制,它們通常必須更孝更便宜、更節(jié)能。

美國(guó)國(guó)防部正在資助大量針對(duì)快速私密邊緣計(jì)算的研究。2024 年 3 月,其研究部門國(guó)防高級(jí)研究計(jì)劃局(DARPA,Defense Advanced Research Projects Agency )宣布與芯片制造商 EnCharge AI 合作,開(kāi)發(fā)一種用于人工智能推理的超強(qiáng)邊緣計(jì)算芯片。

EnCharge AI 正在努力制造一種能夠保護(hù)隱私的芯片,也可以在非常小的功率下運(yùn)行。這將使其適用于衛(wèi)星和離網(wǎng)監(jiān)視設(shè)備等軍事應(yīng)用。該公司預(yù)計(jì)將在 2025 年推出它們。

人工智能模型的某些應(yīng)用將始終依賴于云,但對(duì)改進(jìn)邊緣計(jì)算的新投資和興趣可能會(huì)為我們的日常設(shè)備帶來(lái)更快的芯片,從而帶來(lái)更多的人工智能。

如果邊緣芯片足夠孝足夠便宜,我們很可能會(huì)在家里和工作場(chǎng)所看到更多人工智能驅(qū)動(dòng)的智能設(shè)備。如今,人工智能模型大多局限于數(shù)據(jù)中心。

EnCharge AI 聯(lián)合創(chuàng)始人納文維爾瑪(Naveen Verma)表示:“我們?cè)跀?shù)據(jù)中心看到的許多挑戰(zhàn)都將被解決。我希望看到(行業(yè))對(duì)邊緣的關(guān)注,我認(rèn)為這對(duì)大規(guī)模部署人工智能至關(guān)重要。”

科技巨頭進(jìn)軍芯片制造

無(wú)論是快時(shí)尚、還是草坪護(hù)理,更行各業(yè)的公司都在支付高昂的計(jì)算成本,為其業(yè)務(wù)創(chuàng)建和訓(xùn)練人工智能模型。

目前的應(yīng)用包括掃描和總結(jié)文檔的模型,以及面向外部的技術(shù)如虛擬代理,可以指導(dǎo)你如何修理冰箱。這意味著使用云計(jì)算訓(xùn)練這些模型的需求已經(jīng)達(dá)到頂峰。

提供大部分云計(jì)算服務(wù)的公司是亞馬遜、微軟和谷歌。多年來(lái),這些科技巨頭一直希望通過(guò)在數(shù)據(jù)中心使用自主研發(fā)的芯片來(lái)提高利潤(rùn)率,而不是從英偉達(dá)這樣的公司購(gòu)買芯片。

英偉達(dá)幾乎壟斷了最先進(jìn)的人工智能訓(xùn)練芯片,其市值超過(guò)了 183 個(gè)國(guó)家的 GDP。

亞馬遜于 2015 年收購(gòu)了初創(chuàng)公司 Annapurna Labs,開(kāi)啟了自主芯片研發(fā)的旅程。

谷歌在 2018 年推出了自己的 TPU 芯片。微軟在 2023 年推出了首款人工智能芯片,Meta 則在 2024 年推出了新版人工智能訓(xùn)練芯片。

這一趨勢(shì)可能會(huì)影響英偉達(dá)的份額。但在大型科技公司眼中,英偉達(dá)除了扮演競(jìng)爭(zhēng)對(duì)手的角色,還是必不可少的供應(yīng)商。

無(wú)論它們自己的內(nèi)部努力是否成功,云計(jì)算巨頭的數(shù)據(jù)中心仍然需要它的芯片。

這是因?yàn)樗鼈冏约旱男酒圃炷芰o(wú)法滿足所有需求,而且它們的客戶也希望自己能使用性能最好的英偉達(dá)芯片。

微軟 Azure 硬件部門負(fù)責(zé)人拉尼博卡(Rani Borkar)表示:“這實(shí)際上是為了讓客戶有選擇權(quán)。”

她說(shuō),她無(wú)法想象微軟在其云服務(wù)中全部使用自研芯片的未來(lái):“我們將繼續(xù)維持強(qiáng)有力的合作伙伴關(guān)系,并部署與我們合作的所有伙伴的芯片。”

就在云計(jì)算巨頭試圖從芯片制造商那里搶走市場(chǎng)份額的同時(shí),英偉達(dá)也在采取類似的行動(dòng)。

2023 年,該公司推出了自己的云服務(wù),這樣客戶就可以繞過(guò)亞馬遜、谷歌和微軟,直接在英偉達(dá)芯片上訪問(wèn)云服務(wù)。

隨著這場(chǎng)爭(zhēng)奪市場(chǎng)份額的激烈斗爭(zhēng)的展開(kāi),未來(lái)一年的問(wèn)題將是,客戶如何看待大型科技公司的芯片,是與英偉達(dá)最先進(jìn)的芯片旗鼓相當(dāng),還是更像它的備胎。

英偉達(dá)與創(chuàng)業(yè)公司作戰(zhàn)

盡管英偉達(dá)占據(jù)芯片行業(yè)的主導(dǎo)地位,但仍有一波投資流向初創(chuàng)公司,這些公司的目標(biāo)是在未來(lái)芯片市場(chǎng)的某些領(lǐng)域擊敗英偉達(dá)。

這些初創(chuàng)公司都承諾加速人工智能的訓(xùn)練,從量子到光子,再到可逆計(jì)算,它們對(duì)這些新鮮的計(jì)算技術(shù)有著不同的想法。

28 歲的穆拉特奧南(Murat Onen)是芯片初創(chuàng)公司 Eva 的創(chuàng)始人。這家公司是從他的麻省理工學(xué)院博士工作中誕生的,他描述了現(xiàn)在創(chuàng)辦一家芯片公司是什么感覺(jué)。

“英偉達(dá)站在山的最高處,這就是我們生活的世界。”他說(shuō)。

許多初創(chuàng)公司,如 SambaNova、Cerebras 和 Graphcore,正試圖改變芯片的底層架構(gòu)。

想象一下,一個(gè)人工智能加速器芯片不斷地在不同區(qū)域之間來(lái)回移動(dòng)數(shù)據(jù)。

一條信息存儲(chǔ)在存儲(chǔ)區(qū),但必須移動(dòng)到處理區(qū),在那里進(jìn)行計(jì)算,然后送回存儲(chǔ)區(qū)進(jìn)行保管。所有這些活動(dòng)都需要時(shí)間和能量。

提高這一過(guò)程的效率將為客戶提供更快、更便宜的人工智能訓(xùn)練條件,但前提是芯片制造商擁有足夠好的軟件,使人工智能訓(xùn)練公司能夠無(wú)縫過(guò)渡到新芯片。

如果軟件轉(zhuǎn)型過(guò)于笨拙,OpenAI、Anthropic 和 Mistral 等模型制造商可能會(huì)選擇大牌芯片制造商。

這意味著采用這種方法的公司如 SambaNova,不僅要在芯片設(shè)計(jì)上花費(fèi)大量時(shí)間,還要在軟件設(shè)計(jì)上花費(fèi)大量時(shí)間。

奧南提出了更深層次的變革。幾十年來(lái),傳統(tǒng)的晶體管越來(lái)越小,效率越來(lái)越高,他使用了一種稱為質(zhì)子門控晶體管(proton-gated transistor)的新組件。

他表示,Eva 公司專門為人工智能訓(xùn)練里面的數(shù)學(xué)需求設(shè)計(jì)了這種組件。

它允許設(shè)備在同一個(gè)地方存儲(chǔ)和處理數(shù)據(jù),節(jié)省時(shí)間和計(jì)算能耗。使用這種組件進(jìn)行人工智能推理的想法可以追溯到 20 世紀(jì) 60 年代,但當(dāng)時(shí)的研究人員無(wú)法找到將其用于人工智能訓(xùn)練的方法。

部分原因是材料不夠先進(jìn),它需要一種能夠在室溫下精確控制電導(dǎo)率的材料。

奧南說(shuō),有一天在實(shí)驗(yàn)室里,“通過(guò)優(yōu)化這些數(shù)字,我們非常幸運(yùn)地得到了我們想要的材料。突然之間,這個(gè)設(shè)備變得不一樣了,不再是科研項(xiàng)目了。”

這增加了大規(guī)模使用這種組件的可能性。經(jīng)過(guò)數(shù)月的數(shù)據(jù)確認(rèn),他創(chuàng)立了 Eva。這項(xiàng)工作的相關(guān)論文發(fā)表在 Science 上。

但在一個(gè)許多創(chuàng)始人都承諾但未能推翻領(lǐng)先芯片制造商主導(dǎo)地位的行業(yè),奧南坦率地承認(rèn),他還需要幾年的時(shí)間才能知道他的設(shè)計(jì)是否能按照預(yù)想工作,以及制造商是否會(huì)同意生產(chǎn)。

他說(shuō),領(lǐng)導(dǎo)一家公司度過(guò)這種不確定性,需要靈活性和頂住他人的懷疑。

他說(shuō):“我認(rèn)為,有時(shí)人們太執(zhí)著于自己的想法了,導(dǎo)致缺乏安全感。他們會(huì)想,如果這個(gè)想法失敗了,那就什么都沒(méi)有了。我不這么認(rèn)為,我一直在尋找挑戰(zhàn)我們并說(shuō)我們做錯(cuò)了的人。”

支持:Ren

運(yùn)營(yíng)/排版:何晨龍

贊助本站

人工智能實(shí)驗(yàn)室
相關(guān)內(nèi)容
AiLab云推薦
推薦內(nèi)容
展開(kāi)

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實(shí)驗(yàn)室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動(dòng)態(tài) | 免責(zé)聲明 | 隱私條款 | 工作機(jī)會(huì) | 展會(huì)港