作者：子渝
編輯：王與桐
據(jù) TechCrunch 報道，人工智能初創(chuàng)公司「Modular 」獲新一輪1億美元融資，由General Catalyst領(lǐng)投，GV（Google Ventures），SV Angel，Greylock和Factory參投。截止目前，Modulal總?cè)谫Y額達(dá)1.3億美元。其首席執(zhí)行官Chris Lattner表示，Modulal將利用此輪融資增強(qiáng)其AI編程語言和其他產(chǎn)品，繼續(xù)研發(fā)“AI Engine”軟件工具，從而為用戶提供更好的簡化開發(fā) AI 系統(tǒng)過程的工具。
Modular 成立于 2022 年，由前谷歌員工 Lattner與Davis共同創(chuàng)立。Lattner和Davis都認(rèn)為AI如今面臨受到過于復(fù)雜和分散的技術(shù)基礎(chǔ)設(shè)施的阻礙，所以創(chuàng)立Modulal，專注于消除大規(guī)模構(gòu)建和維護(hù)AI系統(tǒng)的復(fù)雜性。
Lattner說：“因為我們在一個需要高度專業(yè)知識的深度技術(shù)領(lǐng)域，我們打算利用這筆資金來支持我們團(tuán)隊的發(fā)展。這筆資金不會主要用于人工智能計算，而是改進(jìn)和擴(kuò)展我們的核心產(chǎn)品以滿足客戶需求。我們的平臺使客戶能夠?qū)λ麄兊腁I技術(shù)堆棧進(jìn)行碎片化整理 ，從而更快地將更多創(chuàng)新推向生產(chǎn)，并從他們在AI的投資中實現(xiàn)更多價值。我們正在通過從AI軟件與AI硬件的結(jié)合開始，解決困擾AI堆棧的碎片化問題，從而應(yīng)對當(dāng)今AI開發(fā)的復(fù)雜性。”
目前，市場上已有許多初創(chuàng)公司專注于提供這樣的技術(shù)。例如，由英特爾支持的Deci也是可以提供該技術(shù)的初創(chuàng)公司之一，這些技術(shù)可以使經(jīng)過訓(xùn)練的AI模型更高效，性能更高。該類別中的另一個初創(chuàng)公司是OctoML，也可以實現(xiàn)自動優(yōu)化、基準(zhǔn)測試和整合一系列不同硬件的模型。
無論如何，在Lattner看來，人工智能的需求正在迅速接近可持續(xù)性的極限。這使得任何減少計算需求的技術(shù)都會非常有效。正如《華爾街日報》最近的一篇文章所指出的那樣，當(dāng)今流行的生成式人工智能模型比舊的人工智能模型大10到100倍，而且許多公共云基礎(chǔ)設(shè)施并不是為運行這些系統(tǒng)而構(gòu)建的。
實際上，上述問題已經(jīng)產(chǎn)生了影響。該公司在一份收益報告中提出警示，Microsoft正面臨著運行人工智能所需的服務(wù)器硬件短缺，這可能導(dǎo)致服務(wù)中斷。與此同時，對人工智能推理硬件（主要是GPU）暴增的需求已將GPU提供商英偉達(dá)的市值推高至1萬億美元。然而據(jù)報道，英偉達(dá)表現(xiàn)最好的AI芯片將在2024年之前已售罄。
根據(jù)標(biāo)準(zhǔn)普爾全球 2023 年的一項民意調(diào)查，由于上述原因，頂級公司中超過一半的人工智能決策者報告表示，在部署最新的人工智能工具時面臨障礙。
對此，Modular提供了一個引擎，試圖提高CPU上AI模型的推理性能，并且可以與現(xiàn)有的云環(huán)境，機(jī)器學(xué)習(xí)框架（如Google的TensorFlow和Meta的PyTorch）甚至其他AI加速器引擎兼容。Modular的引擎目前處于預(yù)覽狀態(tài)，允許開發(fā)人員導(dǎo)入經(jīng)過訓(xùn)練的模型，并運行。Lattner聲稱，其運行速度比在本機(jī)框架上快7.5倍。
除此之外，Modulal還開發(fā)了一種名為Mojo的編程語言，將其定位為更快的編程替代方案。該語言的語法幾乎與Python相同，易于使用。根據(jù)Modular的說法，其與Python關(guān)鍵的區(qū)別在于Mojo的速度提高了35000倍。目前，Modular 可供幾百名早期試用者預(yù)覽，計劃在下月初正式發(fā)布。
但根據(jù)一項調(diào)查，截至 2020 年，87% 的數(shù)據(jù)科學(xué)家定期使用 Python。而Lattner認(rèn)為，Mojo的好處將推動開發(fā)人員開始更多地使用Mojo。
對此，Lattner說：“關(guān)于人工智能應(yīng)用程序，人們普遍誤解的一件事是，它們不僅僅是一個高性能加速器問題。今天的人工智能是一個端到端的數(shù)據(jù)問題，涉及加載和轉(zhuǎn)換數(shù)據(jù)、預(yù)處理、后處理和網(wǎng)絡(luò)化。這些輔助任務(wù)通常在Python和C++中完成，只有Modular與Mojo的方法才能將所有這些組件結(jié)合在一起，在不犧牲性能和可擴(kuò)展性的情況下在一個統(tǒng)一的技術(shù)基礎(chǔ)中工作。”
Lattner聲稱，自Modular在5月初的產(chǎn)品主題演講以來的四個月內(nèi)，Modular社區(qū)發(fā)展到超過120，000名開發(fā)人員，“領(lǐng)先的科技公司”已經(jīng)在使用Modular的基礎(chǔ)設(shè)施，其中30，000名在候補(bǔ)名單上。
Lattner說：“Modular最重要的敵人是復(fù)雜性：軟件層中僅在特殊情況下工作的復(fù)雜性，與特定硬件相關(guān)的軟件以及由高性能加速器的低級性質(zhì)驅(qū)動的復(fù)雜性。使人工智能成為如此強(qiáng)大和變革性技術(shù)的原因正是因為它需要如此多的努力才能達(dá)到規(guī)模，如此多的人才投資于構(gòu)建定制解決方案以及如此多的計算能力來提供一致的結(jié)果。Modular引擎和Mojo共同創(chuàng)造了公平的競爭環(huán)境，而這僅僅是個開始。”
