展會(huì)信息港展會(huì)大全

英偉達(dá)發(fā)布性能可提升90%的頂級(jí)AI芯片H200,當(dāng)日股價(jià)一度漲1.4%
來(lái)源:互聯(lián)網(wǎng)   發(fā)布日期:2023-11-14 19:33:50   瀏覽:4080次  

導(dǎo)讀:圖片來(lái)源:視覺(jué)中國(guó) 當(dāng)?shù)貢r(shí)間11月13日,英偉達(dá)發(fā)布最新AI芯片H200 Tensor Core GPU,配備 141 GB 顯存,可為生成式AI和高性能計(jì)算工作負(fù)載處理海量數(shù)據(jù)。據(jù)官方披露,與英偉達(dá)H系列上一代 H100 芯片相比,容量近乎翻倍,性能提升高達(dá) 60% 至 90%。而上一代H1...

圖片來(lái)源:視覺(jué)中國(guó)

當(dāng)?shù)貢r(shí)間11月13日,英偉達(dá)發(fā)布最新AI芯片H200 Tensor Core GPU,配備 141 GB 顯存,可為生成式AI和高性能計(jì)算工作負(fù)載處理海量數(shù)據(jù)。據(jù)官方披露,與英偉達(dá)H系列上一代 H100 芯片相比,容量近乎翻倍,性能提升高達(dá) 60% 至 90%。而上一代H100芯片,即全球關(guān)注度最高的人工智能初創(chuàng)公司OpenAI用來(lái)訓(xùn)練大語(yǔ)言模型GPT-4的芯片。

廣義上講,只要能運(yùn)行AI算法的處理器,都可稱(chēng)為AI芯片,包括GPU、FPGA、ASIC等。狹義上的AI芯片面向AI算法設(shè)計(jì),常犧牲一定的通用性,來(lái)?yè)Q取AI算法專(zhuān)用性能的提升。

據(jù)《新智元》報(bào)道,英偉達(dá)H200是首款采用HBM3e擴(kuò)展版高帶寬儲(chǔ)存器的GPU,顯存高達(dá)141GB,相比于上一代H100的80G,近乎翻倍。H200與H100基于相同的Hopper架構(gòu),可以加速基于Transformer架構(gòu)的LLM和其他深度學(xué)習(xí)模型。

H200的性能提升最主要體現(xiàn)在大模型的推理性能表現(xiàn)上,其處理Llama2 70B大語(yǔ)言模型的速度是H100的近乎兩倍。H200處理高性能計(jì)算(HPC)應(yīng)用程序的性能相比上代也有近20%的提升。

顯存帶寬對(duì)于 HPC 應(yīng)用程序很關(guān)鍵,可以實(shí)現(xiàn)更快的數(shù)據(jù)傳輸,減少?gòu)?fù)雜的處理瓶頸。對(duì)于模擬、科學(xué)研究和人工智能等內(nèi)存密集型 HPC 應(yīng)用,H200 更高的內(nèi)存帶寬可確保高效地訪問(wèn)和操作數(shù)據(jù),與 CPU 相比,獲得結(jié)果的時(shí)間最多可加快 110 倍。

另外,據(jù)英偉達(dá)官網(wǎng)數(shù)據(jù),H200也提高了能源利用效率,其能耗相比于H100減少了約50%。

目前,英偉達(dá)的全球合作伙伴服務(wù)器制造商生態(tài)系統(tǒng)包括華擎 Rack、華碩、戴爾科技、Eviden、技嘉、慧與、英格拉科技、聯(lián)想、QCT、Supermicro、緯創(chuàng)資通和緯穎科技等,可以直接使用 H200 更新其現(xiàn)有系統(tǒng)。除了英偉達(dá)自己投資的CoreWeave、Lambda和 Vultr 之外,亞馬遜網(wǎng)絡(luò)服務(wù)、谷歌云、微軟 Azure 和甲骨文云等云服務(wù)提供商將從明年開(kāi)始首批部署H200芯片。

H200芯片發(fā)布當(dāng)天,英偉達(dá)股票上漲0.59%,盤(pán)中一度漲1.4%。英偉達(dá)官網(wǎng)目前尚未披露H200芯片的售價(jià)。據(jù)CNBC報(bào)道,上一代芯片H100 于今年早些時(shí)候開(kāi)始量產(chǎn),每個(gè) GPU 的售價(jià)約為 25,000 美元(約合182,000人民幣)。

據(jù)《新智元》報(bào)道,英偉達(dá)將H100 GPU和Grace CPU整合在一起的超級(jí)芯片GH200,在新一代H200芯片的加持下,將為全球各地的超級(jí)計(jì)算中心提供總計(jì)約200 Exaflops的AI算力。德國(guó)尤里希超級(jí)計(jì)算中心、日本先進(jìn)高性能計(jì)算聯(lián)合中心、德克薩斯高級(jí)計(jì)算中心、美國(guó)國(guó)家超級(jí)計(jì)算應(yīng)用中心等世界大型超算中心,都將使用英偉達(dá)GH200構(gòu)建超級(jí)計(jì)算機(jī)。

據(jù)外媒報(bào)道,業(yè)內(nèi)專(zhuān)家表示AMD即將推出的 MI300加速器有望成為有競(jìng)爭(zhēng)力的AI產(chǎn)品。AMD 將于12月6日舉辦“推進(jìn)人工智能”主題演講,揭曉代號(hào)為 MI300 的Instinct 加速器系列。

AI芯片的研發(fā)與跨國(guó)銷(xiāo)售,也處于國(guó)際政治漩渦的中心。今年10月,美國(guó)收緊對(duì)中國(guó)的AI芯片出口,美國(guó)政府要求英偉達(dá)向中國(guó)客戶出售A100等芯片前需獲取許可證,英偉達(dá)和英特爾在中國(guó)市場(chǎng)受阻。

目前國(guó)內(nèi)AI芯片相關(guān)廠商主要包括寒武紀(jì)、景嘉微、云天勵(lì)飛、恒爍股份、海光信息、復(fù)旦微電、安路科技、瀾起科技、航宇微、國(guó)芯科技、紫光國(guó)微、國(guó)科微等,其中寒武紀(jì)的ASIC芯片是國(guó)內(nèi)AI芯片龍頭,景嘉微的GPU芯片是國(guó)內(nèi)GPU龍頭。

此外,還有其他中國(guó)科技巨頭和創(chuàng)業(yè)公司也已經(jīng)在AI芯片領(lǐng)域有一定布局。

贊助本站

人工智能實(shí)驗(yàn)室
相關(guān)內(nèi)容
AiLab云推薦
推薦內(nèi)容
展開(kāi)

熱門(mén)欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實(shí)驗(yàn)室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動(dòng)態(tài) | 免責(zé)聲明 | 隱私條款 | 工作機(jī)會(huì) | 展會(huì)港