【環(huán)球時報報道 記者 劉揚】馬斯克計劃造大模型超級計算機的消息近日備受關注，特別是有關該超算要在明年秋天之前運行并為新版本人工智能大模型Grok提供算力支持引發(fā)猜測。馬斯克這一做法將會對人工智能領域造成哪些影響？又給中國大模型發(fā)展帶來哪些啟示呢？
據(jù)路透社報道，美國富豪馬斯克最近告訴投資者，他的人工智能初創(chuàng)公司xAI正計劃建造一臺超級計算機，為其下一版本的人工智能聊天機器人Grok提供算力。
據(jù)報道，馬斯克表示，他希望在 2025年秋季之前讓擬議的超級計算機運行，并表示xAI可以與甲骨文公司合作來開發(fā)這臺大型計算機。
馬斯克向投資者所做的演示稱，完成后，連接的芯片組英偉達的旗艦H100 GPU數(shù)量將至少是當今最大GPU集群的4倍。
馬斯克在今年稍早表示，訓練Grok2模型需要大約2萬塊英偉達H100，而Grok3模型及更高版本將需要10萬塊英偉達H100。
中國科學院計算技術研究所研究員張云泉對《環(huán)球時報》記者表示，當大模型的運算規(guī)模達到1萬塊GPU，甚至10萬塊時，就需要通過發(fā)展大模型專用超算來突破能耗墻、可靠性墻、并行墻等算力瓶頸。這是大模型發(fā)展到一定程度的必然趨勢。
目前OpenAI與微軟以及谷歌等巨頭都在發(fā)展大模型超算項目，希望通過搭建幾十萬塊甚至百萬塊GPU搶占全球最強大模型的技術制高點。
在回答大模型超算與通用超算之間存在什么區(qū)別的提問時，張云泉表示，主要是計算的算法、精度和工作負載以及需要的軟件棧不同。
北郵人機交互與認知工程實驗室主任劉偉接受《環(huán)球時報》記者采訪時表示，若馬斯克準備把算力及大模型等與AI相關的產(chǎn)業(yè)關鍵節(jié)點都自己做，可能會對AI行業(yè)產(chǎn)生以下影響：馬斯克成功地控制了這些關鍵節(jié)點，可能會導致AI產(chǎn)業(yè)的集中化程度提高，進而會對競爭環(huán)境產(chǎn)生影響，減少其他公司進入市場的機會。并且，控制大量的數(shù)據(jù)和算力可能引發(fā)數(shù)據(jù)隱私和安全方面的擔憂，確保數(shù)據(jù)的合法使用和保護用戶隱私將成為重要問題。若出現(xiàn)這種情況，其他公司可能會面臨更大的競爭壓力，尤其是那些依賴于與馬斯克競爭的關鍵技術或服務的公司。另外，還可能會促使行業(yè)制定更嚴格的規(guī)范和監(jiān)管，以確保AI技術的合理使用和保護公眾利益。與此同時，鑒于馬斯克在技術領域豐富的經(jīng)驗和資源，他的投入可能會加速AI技術的發(fā)展，推動新的創(chuàng)新和突破。
張云泉表示，他在今年兩會提案中提到，在西方高端GPU對我國“卡脖子”的背景下，短期內突破大模型算力瓶頸，中國有一條路可走：利用過去二十多年積累的先進超算技術，研發(fā)大模型專用超算，克服大模型算力瓶頸問題，使我國可以緊緊咬住全球大模型最先進水平，不至于掉隊。
