劃重點(diǎn)：
科技新聞?dòng)?5月19日消息，過(guò)去幾年，F(xiàn)acebook母公司Meta在元宇宙上投入巨資，并不斷致力于相關(guān)硬件和軟件的開發(fā)，甚至可能為此忽略了人工智能領(lǐng)域的最新趨勢(shì)。但隨著生成式人工智能爆火，Meta似乎重新調(diào)整了公司方向，開始在人工智能領(lǐng)域發(fā)力。美國(guó)當(dāng)?shù)貢r(shí)間周四，Meta發(fā)布了兩款用于人工智能的自研芯片，并透露了其在人工智能超算方面取得的最新進(jìn)展。
在周四的虛擬活動(dòng)中，Meta展示了其為人工智能工作負(fù)載開發(fā)的內(nèi)部基礎(chǔ)設(shè)施，包括支持運(yùn)行生成式人工智能，該公司在新推出的廣告設(shè)計(jì)和創(chuàng)作工具中都集成了這種新技術(shù)。這是Meta展示實(shí)力的一次嘗試。此前，該公司在采用對(duì)人工智能友好的硬件系統(tǒng)方面始終行動(dòng)遲緩，這削弱了其與谷歌和微軟等競(jìng)爭(zhēng)對(duì)手保持同步的能力。
Meta負(fù)責(zé)基礎(chǔ)設(shè)施的副總裁亞歷克西斯比約林說(shuō)：“建立我們自己的硬件能力，使我們能夠控制從數(shù)據(jù)中心設(shè)計(jì)到培訓(xùn)框架的每一層堆棧。這種水平的垂直整合是推動(dòng)人工智能研究向前發(fā)展的必要條件。”
在過(guò)去十年左右的時(shí)間里，Meta花費(fèi)了數(shù)十億美元招募頂級(jí)數(shù)據(jù)科學(xué)家，并構(gòu)建了新型人工智能，包括現(xiàn)在為其應(yīng)用和服務(wù)中的發(fā)現(xiàn)引擎、審核過(guò)濾器和廣告推薦提供支持的人工智能。但該公司始終難以將許多雄心勃勃的人工智能研究創(chuàng)新轉(zhuǎn)化為產(chǎn)品，尤其是在生成式人工智能方面。
直到2022年，Meta才通過(guò)使用CPU和為加速人工智能算法而設(shè)計(jì)的定制芯片來(lái)運(yùn)行其人工智能工作負(fù)載。但Meta取消了原計(jì)劃于2022年大規(guī)模推出的定制芯片，因?yàn)檫@需要對(duì)其幾個(gè)數(shù)據(jù)中心進(jìn)行重大重新設(shè)計(jì)，它轉(zhuǎn)而訂購(gòu)了價(jià)值數(shù)十億美元的英偉達(dá)GPU。
AI加速器芯片
為了扭轉(zhuǎn)局面，Meta計(jì)劃開始開發(fā)一種更雄心勃勃的內(nèi)部芯片，并定于2025年推出。這種芯片能夠用于訓(xùn)練人工智能模型，也能支持運(yùn)行它們。
Meta將這款新芯片稱為Meta訓(xùn)練和推理加速器，簡(jiǎn)稱MTIA，并將其歸類為加速人工智能訓(xùn)練和推理工作負(fù)載的“芯片家族”。“推理”指的是運(yùn)行某個(gè)經(jīng)過(guò)訓(xùn)練的模型。MTIA是一種專用集成電路(ASIC），即將不同電路組合在一塊電路板上的芯片，允許被編程以并行執(zhí)行一個(gè)或多個(gè)任務(wù)。
圖1：為人工智能工作負(fù)載定制的人工智能芯片
比約林繼續(xù)說(shuō)道：“為了在我們的重要工作負(fù)載中獲得更好的效率和性能，我們需要一個(gè)與模型、軟件堆棧和系統(tǒng)硬件共同設(shè)計(jì)的定制解決方案。這為我們的用戶在各種服務(wù)上提供了更好的體驗(yàn)。”
定制人工智能芯片越來(lái)越成為大型科技公司的主打產(chǎn)品。谷歌開發(fā)了一種處理器TPU（張量處理單元），用于訓(xùn)練PaLM-2和Imagen等大型生成式人工智能系統(tǒng)。亞馬遜向AWS客戶提供專有芯片，用于培訓(xùn)(Trainium)和推理(Inferentia)。據(jù)報(bào)道，微軟正在與AMD合作開發(fā)一款名為“雅典娜”的內(nèi)部人工智能芯片。
Meta表示，該公司在2020年開發(fā)了第一代MTIA（MTIA v1），并使用7納米工藝生產(chǎn)。它可以從128 MB的內(nèi)存擴(kuò)展到128 GB，在Meta設(shè)計(jì)的基準(zhǔn)測(cè)試中，Meta聲稱MTIA能比GPU更有效地處理“低復(fù)雜度”和“中復(fù)雜度”的人工智能模型。
Meta表示，在芯片內(nèi)存和網(wǎng)絡(luò)領(lǐng)域仍有很多工作要做，隨著人工智能模型規(guī)模的增長(zhǎng)，這些領(lǐng)域都還存在瓶頸，需要將工作負(fù)載分散到多個(gè)芯片上。令人覺得巧合的是，Meta最近收購(gòu)了英國(guó)芯片獨(dú)角獸Graphcore位于奧斯陸的人工智能網(wǎng)絡(luò)技術(shù)團(tuán)隊(duì)。就目前而言，MTIA的重點(diǎn)是針對(duì)Meta應(yīng)用系列的“推薦工作量”上進(jìn)行嚴(yán)格的推理，而不是培訓(xùn)。
但Meta強(qiáng)調(diào)，在運(yùn)行推薦工作負(fù)載時(shí)，不斷改進(jìn)的MTIA“大大”提高了公司的效率，從而使Meta能夠運(yùn)行“更多增強(qiáng)”和“尖端”的人工智能工作負(fù)載。
人工智能超級(jí)計(jì)算機(jī)
也許將來(lái)有一天，Meta會(huì)將其大部分人工智能工作負(fù)載交給MTIA負(fù)責(zé)。但目前，這家社交網(wǎng)絡(luò)巨頭依靠的是其專注于研究的超級(jí)計(jì)算機(jī)Research SuperCluster。
Research SuperCluster于2022年1月首次亮相，由企鵝計(jì)算、英偉達(dá)和Pure Storage合作組裝，目前已經(jīng)完成了第二階段的建設(shè)。Meta表示，Research SuperCluster現(xiàn)在總共包含2000個(gè)英偉達(dá)DGX A100系統(tǒng)，配備16000個(gè)英偉達(dá)A100 GPU。
那么，Meta為什么要在內(nèi)部建造超級(jí)計(jì)算機(jī)呢？首先，這里有其他科技巨頭帶來(lái)的壓力。幾年前，微軟對(duì)其與OpenAI合作開發(fā)的人工智能超級(jí)計(jì)算機(jī)進(jìn)行了大肆宣傳，最近又表示將與英偉達(dá)合作，在Azure云上構(gòu)建新的人工智能超級(jí)計(jì)算機(jī)。同時(shí)，谷歌也在吹捧自己的人工智能超級(jí)計(jì)算機(jī)，該計(jì)算機(jī)擁有26000個(gè)英偉達(dá)H100 GPU，遠(yuǎn)遠(yuǎn)超過(guò)Meta的超算。
圖2：Meta公司用于人工智能研究的超級(jí)計(jì)算機(jī)
但Meta表示，除了保持與其他同行同步，Research SuperCluster還允許其研究人員使用Meta系統(tǒng)中的現(xiàn)實(shí)世界示例來(lái)訓(xùn)練模型。這與該公司之前的人工智能基礎(chǔ)設(shè)施不同，后者只能利用開源和公開可用的數(shù)據(jù)集。
Meta發(fā)言人表示：“Research SuperCluster人工智能超級(jí)計(jì)算機(jī)用于推動(dòng)人工智能研究在幾個(gè)領(lǐng)域的發(fā)展，包括生成式人工智能。這實(shí)際上與人工智能研究的工作效率息息相關(guān)。我們希望為人工智能研究人員提供最先進(jìn)的基礎(chǔ)設(shè)施，使他們能夠開發(fā)模型，并為他們提供一個(gè)促進(jìn)人工智能發(fā)展的培訓(xùn)平臺(tái)。”
在其巔峰時(shí)期，Research SuperCluster的計(jì)算能力可以達(dá)到5 exaflop，Meta聲稱這是世界上最快的計(jì)算機(jī)之一。Meta表示，它使用Research SuperCluster來(lái)訓(xùn)練大語(yǔ)言模型LLaMA。今年早些時(shí)候，Meta向研究人員開放了“封閉發(fā)布”的大語(yǔ)言模型訪問(wèn)權(quán)限。Meta說(shuō)，最大的LLaMA模型在2048個(gè)A100 GPU上進(jìn)行了訓(xùn)練，耗時(shí)21天。
Meta發(fā)言人稱：“Research SuperCluster將幫助Meta的人工智能研究人員建立新的、更好的人工智能模型，這些模型可以從數(shù)萬(wàn)億個(gè)例子中學(xué)習(xí)，工作跨越數(shù)百種不同的語(yǔ)言，無(wú)縫地分析文本、圖像和視頻，以及開發(fā)新的增強(qiáng)現(xiàn)實(shí)工具等。”
視頻轉(zhuǎn)碼器
除了MTIA， Meta還在開發(fā)另一種芯片來(lái)處理特定類型的計(jì)算工作負(fù)載。這款芯片被稱為Meta可擴(kuò)展視頻處理器，簡(jiǎn)稱MSVP，它是Meta內(nèi)部開發(fā)的第一個(gè)專用集成電路(ASIC)解決方案，專為應(yīng)對(duì)視頻點(diǎn)播和流播的處理需求而設(shè)計(jì)。
有些人可能還記得，Meta多年前就開始構(gòu)思定制的服務(wù)器端視頻芯片，并在2019年宣布了一款用于視頻轉(zhuǎn)碼和推理工作的ASIC。MSVP就是這些努力的成果之一，也是在流播領(lǐng)域重新推動(dòng)競(jìng)爭(zhēng)的結(jié)果。
Meta技術(shù)主管哈里克里希納雷迪和陳云青（音）在他們合著的博客文章中寫道：“僅在Facebook上，人們就把50%的時(shí)間花在了觀看視頻上。我們需要服務(wù)于世界各地的各種設(shè)備(如移動(dòng)設(shè)備、筆記本電腦、電視等)，例如上傳到Facebook或Instagram的視頻被轉(zhuǎn)碼成多個(gè)比特流，它們具有不同的編碼格式、分辨率和質(zhì)量，MSVP是可編程和可擴(kuò)展的，可以配置為有效地支持VOD所需的高質(zhì)量轉(zhuǎn)碼，以及直播所需的低延遲和更快的處理時(shí)間。”
圖3：Meta的定制芯片旨在加速視頻工作負(fù)載，如流播和轉(zhuǎn)碼
Meta表示，該公司的計(jì)劃是最終將大部分“穩(wěn)定而成熟”的視頻處理工作負(fù)載轉(zhuǎn)移給MSVP，只對(duì)需要特定定制和“顯著”提高質(zhì)量的工作負(fù)載使用軟件視頻編碼。Meta還稱，通過(guò)智能去噪和圖像增強(qiáng)等預(yù)處理方法，以及偽影去除和超分辨率等后期處理方法，MSVP在提高視頻質(zhì)量方面的工作仍在繼續(xù)。
雷迪和陳云青稱：“將來(lái)，MSVP將使我們能夠支持更多Meta最重要的用例和需求，包括短視頻，從而實(shí)現(xiàn)生成式人工智能、AR/VR和其他虛擬現(xiàn)實(shí)內(nèi)容的高效交付。”
人工智能焦點(diǎn)
如果說(shuō)最新硬件公告中有一個(gè)共同點(diǎn)的主線，那就是Meta正在拼命加快人工智能的發(fā)展步伐，特別是在生成式人工智能方面。
今年2月，據(jù)稱Meta首席執(zhí)行官馬克扎克伯格已將提升Meta的人工智能計(jì)算能力作為首要任務(wù)，他宣布成立新的頂級(jí)生成式人工智能團(tuán)隊(duì)，用他的話說(shuō)，這將為公司的研發(fā)“渦輪增壓”。Meta首席技術(shù)官安德魯博斯沃思最近也表示，生成式人工智能是他和扎克伯格花費(fèi)最多時(shí)間的領(lǐng)域。據(jù)Meta首席科學(xué)家楊立昆透露，該公司計(jì)劃部署生成式人工智能工具，在虛擬現(xiàn)實(shí)中創(chuàng)造物品。
今年4月，扎克伯格在Meta第一季度財(cái)報(bào)電話會(huì)議上表示：“我們正在探索WhatsApp和Messenger的聊天體驗(yàn)，F(xiàn)acebook和Instagram上的帖子和廣告的視覺創(chuàng)作工具，以及隨著時(shí)間推移的視頻和多模式體驗(yàn)。我希望這些工具對(duì)每個(gè)人都有價(jià)值，從普通人到創(chuàng)作者再到企業(yè)都是如此。例如，我預(yù)計(jì)，一旦我們獲得了這種體驗(yàn)，就會(huì)有很多人對(duì)商業(yè)信息傳遞和客戶支持方面的人工智能代理產(chǎn)生興趣。隨著時(shí)間的推移，這也將擴(kuò)展到我們?cè)谔摂M世界的工作中，在那里人們將更容易創(chuàng)建化身、對(duì)象、世界和將所有這些聯(lián)系在一起的代碼。”
在某種程度上，Meta正感到到越來(lái)越大的壓力，投資者擔(dān)心該公司的行動(dòng)不夠快，無(wú)法在生成式人工智能的巨大潛在市場(chǎng)分一杯羹。目前，該公司還沒有推出可與Bard、必應(yīng)或ChatGPT等聊天機(jī)器人競(jìng)爭(zhēng)的產(chǎn)品。在圖像生成方面也沒有取得太大進(jìn)展，這是另一個(gè)爆炸式增長(zhǎng)的關(guān)鍵領(lǐng)域。
如果這些預(yù)測(cè)是正確的，生成式人工智能軟件的總目標(biāo)市場(chǎng)規(guī)�？赡苓_(dá)到1500億美元。美國(guó)投行高盛預(yù)測(cè)，這將使GDP增長(zhǎng)7%。
即使部分預(yù)測(cè)成真，也可以彌補(bǔ)Meta在增強(qiáng)現(xiàn)實(shí)頭盔、會(huì)議軟件和Horizon Worlds等元宇宙技術(shù)上的數(shù)十億美元投資損失。Meta負(fù)責(zé)增強(qiáng)現(xiàn)實(shí)技術(shù)的部門Reality Labs上個(gè)季度凈虧損40億美元，預(yù)計(jì)整個(gè)2023年的運(yùn)營(yíng)虧損將繼續(xù)增加。（金鹿）
