人工智能已成為推動(dòng)經(jīng)濟(jì)結(jié)構(gòu)優(yōu)化、增長(zhǎng)動(dòng)能轉(zhuǎn)換的一大關(guān)鍵動(dòng)力，其正在幫助企業(yè)利用先進(jìn)的語(yǔ)言、文本生成圖像和代碼生成 AI 模型等新模式，實(shí)現(xiàn)降本增效，并創(chuàng)造新商機(jī)。Grand View Research的研究顯示
，至2030 年，全球 AI 市場(chǎng)的年復(fù)合增長(zhǎng)率將達(dá)37%，此外40% 的高管表示企業(yè)正在投資于生成式 AI，而69% 的企業(yè)和機(jī)構(gòu)將在生產(chǎn)中采用 AI。
在中國(guó)市場(chǎng)，據(jù)報(bào)告顯示
，2023年中國(guó)智能算力規(guī)模同比增長(zhǎng)超59%，有超六成中國(guó)企業(yè)已探索應(yīng)用AIGC，且將更多地使用已有的人工智能數(shù)據(jù)中心設(shè)施和生成式AI服務(wù)器集群，并將更加關(guān)注效率、可靠性、時(shí)延、訓(xùn)練時(shí)間和成本等因素。這無(wú)疑表明，人工智能的廣泛應(yīng)用在為算力服務(wù)市場(chǎng)帶來(lái)新機(jī)會(huì)的同時(shí)，也對(duì)服務(wù)商提出了更高、更多元化的要求。
應(yīng)用戶擁抱AI、創(chuàng)造新商機(jī)并加速價(jià)值實(shí)現(xiàn)所需，英特爾在近日全新推出第五代至強(qiáng)可擴(kuò)展處理器。第五代至強(qiáng)專為AI加速而設(shè)計(jì)，通過(guò)增強(qiáng)型架構(gòu)、內(nèi)置AI加速技術(shù)，實(shí)現(xiàn)了卓越的性能，能夠幫助用戶更高效地應(yīng)對(duì)要求嚴(yán)苛的 AI工作負(fù)載，讓智能開發(fā)及應(yīng)用無(wú)處不在。
架構(gòu)增強(qiáng)，讓AI更高效
算力、數(shù)據(jù)、算法是智能世界三要素，其中算力平臺(tái)是核心基矗有專家指出，算力的成本將關(guān)系到AI模型的“價(jià)格”
。人工智能的突破，除了技術(shù)提升之外，通過(guò)提供強(qiáng)勁且高效的算力，平衡計(jì)算成本也是必不可少。
為了改善工作負(fù)載的性能，第五代至強(qiáng)可擴(kuò)展處理器通過(guò)架構(gòu)增強(qiáng)，實(shí)現(xiàn)了算力的全面優(yōu)化。較上一代產(chǎn)品，第五代至強(qiáng)在相同 TDP 下平均性能提升高達(dá)21%，內(nèi)存帶寬提升高達(dá) 16%，三級(jí)緩存容量提升近 3倍，能夠?yàn)锳I訓(xùn)練和推理提供更高的支持，AI推理性能提升高達(dá) 42%，且更適用于大型模型。
借助第五代英特爾至強(qiáng)可擴(kuò)展處理器提升的基礎(chǔ)性能以及AI訓(xùn)練與推理能力，用戶無(wú)疑可繼續(xù)使用 CPU 將 AI 應(yīng)用到各個(gè)領(lǐng)域，從而解決GPU挑戰(zhàn)，幫助廣泛的產(chǎn)業(yè)用戶將AI融入業(yè)務(wù)邏輯各環(huán)節(jié)，并應(yīng)對(duì)部署中可能遭遇的硬件可用性、成本、集成和擴(kuò)展方面的挑戰(zhàn)，實(shí)現(xiàn)在通用的服務(wù)器基礎(chǔ)架構(gòu)上高效運(yùn)行AI應(yīng)用，提升性能成本收益。
內(nèi)置AI加速器，促進(jìn)應(yīng)用落地與優(yōu)化
英特爾至強(qiáng)可擴(kuò)展處理器內(nèi)置AI加速器，有助于提高性能和效率，減少另行添置專用硬件的需求，在云端和本地環(huán)境中，可支持AI等目前最為常見的嚴(yán)苛工作負(fù)載，促進(jìn)應(yīng)用落地與優(yōu)化。
第五代英特爾至強(qiáng)
可擴(kuò)展
處理器每個(gè)內(nèi)核都具備 AI 加速功能，英特爾 AVX-512及英特爾 AMX 助力用戶無(wú)需添加獨(dú)立加速器，就可處理要求嚴(yán)苛的 AI 工作負(fù)載，幫助用戶在使用生成式 AI ，例如從大語(yǔ)言模型 (LLM) 和文本到圖像生成模型時(shí)，都擁有更順暢的體驗(yàn)，且可滿足多種 SLA、
提供實(shí)時(shí)用戶體驗(yàn)等要求。
其在運(yùn)行參數(shù)量低于 200 億的大語(yǔ)言模型時(shí)，詞元處理時(shí)延不超過(guò) 100 毫秒，非常適合運(yùn)行 GPT-J 等特定域?qū)Ｓ媚Ｐ突蚋〉哪Ｐ蜁r(shí)使
用。
另外，英特爾AMX可大幅提升深度學(xué)習(xí)訓(xùn)練和推理性能，避免了使用獨(dú)立加速器帶來(lái)的成本和復(fù)雜性。借助在自然語(yǔ)言處理 (NLP) 推理方面的性能飛躍，英特爾AMX能夠更高效支持智能助手、聊天機(jī)器人、預(yù)測(cè)性文本、語(yǔ)言翻譯等工作負(fù)載，使得響應(yīng)速度更快，用戶體驗(yàn)更順暢；且在遷移學(xué)習(xí)和再訓(xùn)練方面同樣出色，無(wú)需額外添置硬件即讓用戶模型保持最新狀態(tài)。
基于第五代英特爾至強(qiáng)可擴(kuò)展處理器，京東云推出新一代服務(wù)器，實(shí)現(xiàn)整機(jī)性能代際提升23%，AI視覺類通用模型推理性能提升38%，通用大語(yǔ)言模型LlaMA v2 13B推理性能提升51%；在11.11大促用戶訪問(wèn)峰值同比提升170%、智能客服咨詢服務(wù)量超14億次的情況下，以AI賦能產(chǎn)業(yè)，為百姓的實(shí)惠生活保“價(jià)”護(hù)航。阿里云采用第五代至強(qiáng)，打造了“生成式AI模型及數(shù)據(jù)保護(hù)”的創(chuàng)新實(shí)踐，使第八代ECS實(shí)例在安全性和AI性能上都獲得顯著提升，其推理和數(shù)據(jù)庫(kù)性能雙雙提升25%，同時(shí)基于英特爾TDX，實(shí)現(xiàn)數(shù)據(jù)全流程保護(hù)。
出色的軟件工具和生態(tài)系統(tǒng)，助力AI更快普及
為了幫助開發(fā)者、用戶應(yīng)對(duì)算法開發(fā)效率低、場(chǎng)景之間遷移能力差，以及難以滿足泛化性、安全性要求等挑戰(zhàn)，滿足AI應(yīng)用場(chǎng)景多樣化、開發(fā)和部署逐步走向深水區(qū)、日益多樣化等需求，英特爾構(gòu)建起龐大的生態(tài)系統(tǒng)、豐富的工具集，支持用戶可跨云、數(shù)據(jù)中心和邊緣采用最新第五代至強(qiáng)可擴(kuò)展處理器，快速開發(fā)和部署 AI。
英特爾至強(qiáng)可擴(kuò)展處理器擁有廣受歡迎的軟件庫(kù)和框架加持，具備數(shù)十個(gè)經(jīng)過(guò)優(yōu)化的預(yù)訓(xùn)練 AI 模型，提供開箱即用的出色 AI 性能，且讓開發(fā)人員能夠在不同硬件架構(gòu)和供應(yīng)商間自由遷移代碼，從而提高效率和減少投資。
英特爾oneAPI 深度神經(jīng)網(wǎng)絡(luò)庫(kù)（英特爾oneDNN）的軟件優(yōu)化已集成到 TensorFlow 和 PyTorch 的主流發(fā)行版中，開發(fā)人員可以更輕松地使用內(nèi)置 AI 加速功能。
英特爾是開源社區(qū)的重要貢獻(xiàn)者，有 90% 的開發(fā)人員都在使用由英特爾開發(fā)或優(yōu)化的軟件。特別是在 AI 方面，英特爾構(gòu)建的開源 AI 參考套件可幫助加速各個(gè)行業(yè)的模型開發(fā)和 AI 創(chuàng)新。
人工智能正在滲透到社會(huì)經(jīng)濟(jì)各個(gè)領(lǐng)域，刺激和驅(qū)動(dòng)企業(yè)加速技術(shù)創(chuàng)新和業(yè)務(wù)重塑，打造新優(yōu)勢(shì)，但面對(duì)降低成本和風(fēng)險(xiǎn)等壓力，部署 AI 時(shí)選擇更信賴的 CPU應(yīng)該是更明智之眩目前，大多數(shù)據(jù)中心的 AI 推理都在英特爾至強(qiáng)可擴(kuò)展處理器上運(yùn)行，英特爾至強(qiáng)處理器的部署規(guī)模已超 1 億。第五代英特爾至強(qiáng)可擴(kuò)展處理器的推出，無(wú)疑可幫助企業(yè)充分應(yīng)用其多項(xiàng)更優(yōu)異的特性，抓住AIGC、大語(yǔ)言模型等應(yīng)用新機(jī)遇，加速創(chuàng)新，創(chuàng)造無(wú)限可能。
作者丨沈叢
編輯丨
張心怡
美編丨馬利亞
監(jiān)制丨連曉東
