智東西（公眾號：zhidxcom）
作者 | 云鵬
編輯 | 漠影
隨著“Gen-AI”時代的到來，AI手機、AI PC等關鍵核心移動設備都在快速與生成式AI結合，越來越多的AI新功能涌現(xiàn)，深刻影響著我們每個人的生活和工作。
需求變得多樣化，場景也更加復雜，生成式AI帶來新的算力挑戰(zhàn)和存儲挑戰(zhàn)，加速著背后一系列硬件、軟件、算法、生態(tài)等方面的技術迭代。
作為一切移動計算“根基”提供者的Arm，也在積極開拓新的解決方案，給行業(yè)帶來新的解題思路。
近年來，Arm已不止于提供IP，從架構、硬件、軟件到生態(tài)，Arm轉型為一家計算平臺公司，為產業(yè)提供完整的計算解決方案。
針對云數(shù)據(jù)中心和汽車應用，Arm相繼推出對應的計算子系統(tǒng)（CSS），而就在上周，Arm為終端設備市場發(fā)布了首款終端計算子系統(tǒng)（CSS），結合了最新Armv9架構的特性，其中CPU和GPU在AI方面都有大幅性能提升。此外，Arm還為開發(fā)人員量身定制了開發(fā)工具Kleidi。
今年Arm從全面計算解決方案（TCS）升級到了終端CSS，兩者的主要不同之處在于，Arm首次提供了CPU和GPU物理實現(xiàn)，這可以讓構建和部署基于Arm架構的解決方案變得更加簡單。顯然，這樣的改變正是為了讓生態(tài)伙伴可以快速把握AI新機遇，加速產品上市進程。
可以說，這無疑是Arm面向AI時代的一次關鍵發(fā)力，Arm這一系列重磅技術和新品都瞄準了端側AI。
此次智東西對話Arm 終端事業(yè)部產品管理副總裁James McNiven，對背后的關鍵突破進行了深入挖掘，對Arm在生成式AI時代的布局和深入思考進行了探討。
我們可以清晰地看到，Arm正在通過橫跨架構、硬件、軟件、生態(tài)的完整解決方案，讓合作伙伴的產品快速與AI結合并推向市場，實現(xiàn)落地，為行業(yè)打造一個“AI百寶箱”。
一、移動生成式AI浪潮涌起，Arm深入底層，從架構到軟硬件全家桶賦能
在今天的智能終端產業(yè)中，AI手機和AI PC無疑已經成為了產業(yè)關注的焦點賽道，生成式AI在這兩個領域的融合也最為快速。終端設備能夠處理的任務越來越復雜，并且生成式AI在感知、理解、交互等方面都帶來了全新的技術挑戰(zhàn)，涌現(xiàn)出更多的計算需求。
行業(yè)需要重新思考：什么才是適合生成式AI時代的計算平臺？
如今一切移動端生成式AI的運行幾乎都離不開Arm的CPU和GPU，據(jù)了解，有70%的第三方安卓ML工作負載都是在CPU上運行的，因此CPU仍然是AI時代計算的核心。
在這樣的背景下，Arm作為底層關鍵技術提供者，無疑已成為這場AI變革的關鍵變量。
1、AI能力大幅提升背后，Arm的“DNA”與生成式AI相契合
為什么如此關鍵？AI時代帶來了諸多挑戰(zhàn)，其中最明顯的就是，高性能和高能效的重要性被放到了空前高度，而能效恰恰是Arm的DNA。
新的終端CSS基于最新的Armv9構建，計算和圖形性能提升幅度超過30%，同時其AI推理速度提高了59%，這些提升對于處理要求更加嚴苛的安卓實際用例以及AI、ML和計算視覺工作負載都十分重要。
采用3nm工藝的新Arm Cortex-X925主頻飆至3.8GHz，配合微架構的改進，與2023年旗艦智能手機采用的4nm SoC相比，其單線程性能提高了36%。
在AI性能方面，Cortex-X925的token 首次響應時間提高了41%，這可以提升如大語言模型等端側生成式AI的響應能力。
McNiven透露，為了提升AI算力，Arm采用了迄今為止最寬的解碼和矢量的微架構設計，實現(xiàn)了50% TOPS數(shù)的增長。
GPU方面，新Arm Immortalis-G925 GPU在各類頭部手游應用中實現(xiàn)了37%的性能提升，在多個AI和ML網絡上實現(xiàn)了34%的性能提升。
值得一提的是，Arm終端CSS還具備基于3nm工藝生產就緒的 CPU 和 GPU 物理實現(xiàn)。
據(jù)了解，物理實現(xiàn)中包括晶體管的設計和線路，可以顯著幫助Arm的合作伙伴節(jié)省芯片開發(fā)的時間，同時優(yōu)化芯片的性能和能效。
2、給開發(fā)者打造一把解鎖更強性能的“鑰匙”
除了架構和硬件設計，在工具和軟件庫方面，Arm還首次發(fā)布了Arm Kleidi，其中包括面向AI工作負載的KleidiAI和面向計算機視覺應用的KleidiCV。
Arm做Kleidi最核心的目的，就是要確保開發(fā)者能夠快速獲得開發(fā)生成式AI應用所需的性能、工具和軟件庫。
簡單理解，KleidiAI是一套面向AI框架開發(fā)者的計算內核，像PyTorch、Tensorflow、MediaPipe這樣的熱門AI框架都已經集成到KleidiAI中了，這對于加速主流AI大模型是十分重要的。
值得一提的是，在Arm看來，CPU是唯一可以確保運行未來網絡的計算引擎，因此對于可以解鎖 Arm CPU 最高性能的Kleidi，無疑是開發(fā)人員解鎖AI應用的最佳利器。
總體來看，此次Arm終端CSS出色的架構升級、性能和能效的大幅提升為功能更豐富、性能更強、更智能的終端設備鋪路，擴展了移動設備的可能性和能力。同時Arm的軟件層面的開發(fā)工具和平臺則讓開發(fā)者可以快速地將這些Arm的技術優(yōu)勢落地到應用和產品中，可以說Arm打造了移動端AI落地的“百寶箱”。
二、AI PC火爆加速WoA生態(tài)生長，移動端AI生態(tài)圈Arm挑大梁
正如前文所說，Arm提供的不僅僅是某一單點技術或產品，而是一個完整的解決方案，這背后，基于架構、硬件、軟件之上實現(xiàn)的生態(tài)優(yōu)勢，也是Arm最硬的底牌之一。
在AI手機和AI PC兩大移動智能終端設備快速發(fā)展的當下，Arm生態(tài)迎來一輪新的增長高潮。隨著微軟等廠商對于移動AI PC的大力推動，Windows與Arm生態(tài)的融合加速，我們將有望看到越來越多的PC終端巨頭推出基于Arm架構處理器的AI PC。
在本周的臺北國際電腦展上，Arm首席執(zhí)行官喊出，五年內Arm架構的PC將搶下50%市場份額。這強大的自信很大一部分是來自 “Arm原生”的爆發(fā)式增長。
McNiven特別談到，對于WoA生態(tài)系統(tǒng)來說，今年是成果豐碩的一年。除了Microsoft Office、Dropbox、Zoom、Adobe套件，越來越多的應用正在成為Arm 原生應用，尤其是百度、嗶哩嗶哩、Chrome 瀏覽器、愛奇藝、搜狗、騰訊QQ音樂等頭部應用。
此外還有許多針對創(chuàng)作者的開源工具，例如最近新增的Audacity、Blender和OBS Studio，這些應用整合了大量的開源庫和開發(fā)者工具。
Arm與微軟合作，通過資助開源和發(fā)布面向Windows的Arm性能庫來發(fā)展生態(tài)系統(tǒng)。據(jù)了解，對于大多數(shù)用戶來說，他們絕大部分時間都在基于Arm CPU的AI PC上運行Arm原生應用。
微軟CEO薩蒂亞納德拉（Satya Nadella）在Build大會上說，現(xiàn)有Arm PC應用程序中有87%都是原生的Arm版本，這一數(shù)字還在不斷增長。
可以預見，隨著越來越多Arm原生應用的加入，Arm PC的體驗和WoA生態(tài)也將更加完善。
據(jù)了解，如今Arm的技術合作伙伴已經有1000多家，Arm無疑有著芯片領域的“最強朋友圈”，而這個朋友圈，更直觀的來看，就是Arm生態(tài)更多的設備基于Arm，更多的應用基于Arm，移動終端AI體驗，離不開Arm。
生態(tài)是Arm最硬的王牌之一，Arm也成為移動智能終端產業(yè)的“幕后王者”。
今天的Arm，正在提升企業(yè)和開發(fā)者快速把AI用在產品中，用對、用好，實現(xiàn)落地的能力，真正打造出生成式AI時代的移動芯片百寶箱。
結語：從IP到計算子系統(tǒng)，Arm成為移動AI生態(tài)隱形王者
可以看到，Arm正將前沿的CPU和GPU技術、生產就緒的物理實現(xiàn)和持續(xù)的軟件優(yōu)化相結合，終端計算子系統(tǒng)（CSS）與Kleidi軟件的結合，也令其成為當下芯片設計領域新AI計算平臺的優(yōu)秀范例。
如今，Arm低功耗處理器設計和軟件平臺已應用于超過2800億顆芯片，從傳感器到智能手機乃至超級計算機。在AI變得無處不在的未來，Arm同樣將無處不在�？梢哉f，Arm架構是未來的基石，Arm生態(tài)也將繼續(xù)加速生長。
面向生成式AI的未來，移動智能終端產業(yè)必然將涌現(xiàn)出更多創(chuàng)新，Arm將如何通過技術創(chuàng)新保持自身的核心競爭力并不斷壯大自身的生態(tài)，我們拭目以待。
