展會信息港展會大全

華為發(fā)布新一代AI計算集群:支持萬億參數(shù)大模型訓(xùn)練
來源:互聯(lián)網(wǎng)   發(fā)布日期:2023-09-20 19:56:33   瀏覽:8882次  

導(dǎo)讀:華為常務(wù)董事、ICT基礎(chǔ)設(shè)施業(yè)務(wù)管理委員會主任、企業(yè)BG總裁汪濤 騰訊科技訊 9月20日消息,華為今日舉辦的全聯(lián)接大會上,華為常務(wù)董事、ICT基礎(chǔ)設(shè)施業(yè)務(wù)管理委員會主任、企業(yè)BG總裁汪濤發(fā)表加速行業(yè)智能化主題發(fā)言,同時發(fā)布支持萬億參數(shù)大模型訓(xùn)練的騰AI計算...

華為常務(wù)董事、ICT基礎(chǔ)設(shè)施業(yè)務(wù)管理委員會主任、企業(yè)BG總裁汪濤

科技新聞訊 9月20日消息,華為今日舉辦的全聯(lián)接大會上,華為常務(wù)董事、ICT基礎(chǔ)設(shè)施業(yè)務(wù)管理委員會主任、企業(yè)BG總裁汪濤發(fā)表“加速行業(yè)智能化”主題發(fā)言,同時發(fā)布支持萬億參數(shù)大模型訓(xùn)練的騰AI計算集群Atlas 900 SuperCluster。

汪濤認(rèn)為,落實加速行業(yè)智能化這一目標(biāo),需要從智聯(lián)萬物、智算萬數(shù)、智賦萬業(yè)三個方面著力。

汪濤介紹稱,“過去三年,華為成立行業(yè)軍團(tuán),深入行業(yè)、深入場景,縱向縮短管理鏈條,更好地響應(yīng)客戶智能化需求;橫向快速整合研發(fā)資源。”

據(jù)了解,華為目前已經(jīng)面向城市、金融、交通、制造等20多個行業(yè)打造了200多個智能化解決方案。

在主題演講環(huán)節(jié),汪濤還發(fā)布了支持萬億參數(shù)大模型訓(xùn)練的騰AI計算集群Atlas 900 SuperCluster。

據(jù)介紹,新集群采用華為星河AI智算交換機(jī)CloudEngine XH16800,借助其高密的800GE端口能力,兩層交換網(wǎng)絡(luò)即可實現(xiàn)2250節(jié)點(等效于18000張卡)超大規(guī)模無收斂集群組網(wǎng)。

官方表示,新集群同時使用了創(chuàng)新的超節(jié)點架構(gòu),大大提升了大模型訓(xùn)練能力,借助華為在計算、網(wǎng)絡(luò)、存儲、能源等領(lǐng)域的基建,將大模型訓(xùn)練穩(wěn)定性從天級提升到月級。

此外,華為還發(fā)布了全新的CANN7.0,全面兼容業(yè)界AI框架、加速庫和主流大模型,并深度開放底層能力,讓AI框架和加速庫可以更直接地調(diào)用和管理計算資源,使能開發(fā)者自定義高性能算子。

而面向Transformer網(wǎng)絡(luò)模型的開發(fā),華為也升級了Ascend C編程語言,簡化算子實現(xiàn)邏輯,將融合算子的開發(fā)周期從2人月縮短到2人周,使能AI模型與應(yīng)用的快速開發(fā)。

贊助本站

人工智能實驗室
相關(guān)內(nèi)容
AiLab云推薦
推薦內(nèi)容
展開

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實驗室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動態(tài) | 免責(zé)聲明 | 隱私條款 | 工作機(jī)會 | 展會港