劃重點
01萬卡集群的AI數(shù)據(jù)中心在美國田納西州孟菲斯市啟動，每天消耗100萬加侖水和150兆瓦電力。
02由于AI訓(xùn)練集群的需求，數(shù)據(jù)中心面臨冷卻系統(tǒng)、供電系統(tǒng)和占地面積等方面的挑戰(zhàn)。
03液冷系統(tǒng)成為數(shù)據(jù)中心耗水問題的主要解決方案，但高昂的建設(shè)和維護成本引發(fā)環(huán)保人士擔(dān)憂。
04為此，數(shù)據(jù)中心行業(yè)轉(zhuǎn)向設(shè)備一體化、提升電能傳輸效率等創(chuàng)新解決方案，以應(yīng)對快速部署和建設(shè)周期需求。
05同時，預(yù)制化基礎(chǔ)設(shè)施在滿足環(huán)保要求和縮短建設(shè)周期方面展現(xiàn)出巨大潛力。
以上內(nèi)容由大模型生成，僅供參考
2024年7月22日凌晨，xAI創(chuàng)始人Elon Musk在推特上正式宣布，在凌晨4:20分正式啟動了世界上最強的AI訓(xùn)練集群。
這個訓(xùn)練集群建設(shè)在美國田納西州孟菲斯市，集合了10 萬個液冷H100芯片。
然而，這在當?shù)貐s引發(fā)了居民們的抗議和不滿。
這樣巨大的AI訓(xùn)練集群每天會消耗100萬加侖的水和150兆瓦的電力，因此也是引發(fā)了當?shù)丨h(huán)保人士的擔(dān)心和抗議。
隨著萬卡集群，甚至十萬卡集群成為科技巨頭們訓(xùn)練AI大模型的標配，這樣的巨型數(shù)據(jù)中心到底意味著什么？
消耗電力好理解，那為什么會消耗如此多的水呢？冷卻系統(tǒng)與供電系統(tǒng)等關(guān)鍵基礎(chǔ)設(shè)施是如何運作的？目前數(shù)據(jù)中心的主計算芯片開始從CPU轉(zhuǎn)向GPU，這會帶來如何的變革？
可能大家對CPU、GPU這類計算芯片了解較多，卻很少會關(guān)注配套的基礎(chǔ)設(shè)施。
但事實上，它們就像冰山藏在水下的部分一樣，不僅是整個數(shù)據(jù)中心的支柱，還是至關(guān)重要的安全樞紐。
我們來揭秘一下萬卡集群的數(shù)據(jù)中心到底是如何運作的，也非常榮幸邀請了專注于數(shù)據(jù)中心基礎(chǔ)設(shè)施的公司維諦技術(shù)的多位專家一起來探討，AI爆發(fā)給數(shù)據(jù)中心的基礎(chǔ)設(shè)施帶來的挑戰(zhàn)與機遇。
01 AI時代數(shù)據(jù)中心面臨的挑戰(zhàn)首先，我們先簡單了解下，數(shù)據(jù)中心的組成結(jié)構(gòu)。
從物理結(jié)構(gòu)上來看，數(shù)據(jù)中心會劃分成三個系統(tǒng)，主機房、供電系統(tǒng)和冷卻系統(tǒng)。
如果咱們把數(shù)據(jù)中心類比成一支軍隊，你看這主機房陳列的一排排機柜，像不像前線征戰(zhàn)的士兵，它們承擔(dān)著整個數(shù)據(jù)中心的核心功能運算。
而冷卻與供電系統(tǒng)則是軍隊后方的保障機構(gòu)。冷卻系統(tǒng)負責(zé)保障士兵的健康與安全，供電系統(tǒng)負責(zé)糧草的運送與分配。
此外還有綜合管理系統(tǒng)來維護兵器等等，它們就像數(shù)據(jù)中心的“兵部尚書”，雖然不在一線征戰(zhàn)，卻起到了關(guān)鍵作用。
如今一些數(shù)據(jù)中心開始由通用計算轉(zhuǎn)向?qū)Ｓ糜嬎�，其中以AI為主的數(shù)據(jù)中心被稱為“智算數(shù)據(jù)中心”，主力芯片從CPU變成了GPU，這也將對所有基礎(chǔ)設(shè)施帶來巨大的挑戰(zhàn)。
顧華
維諦技術(shù)市場營銷與產(chǎn)品應(yīng)用高級總監(jiān)：
因為傳統(tǒng)的CPU其實過去十多年的時間一直在采用的X86的結(jié)構(gòu)，它CPU的功耗，包括服務(wù)器的功耗都相對比較標準和恒定，所以我們在過去的近十多年的時間，看到數(shù)據(jù)中心的平均的機柜的功率密度，大概一直在3~5千瓦左右。
但是現(xiàn)在隨著GPU的采用，AI模型的推理和訓(xùn)練，需要集中大量的GPU來進行并行的浮點運算，需要通過集群的方式，通過軟件互聯(lián)通信在非常小的空間里面集中大量的GPU。
這使得GPU的服務(wù)器，包括單機柜的功率密度會迅速的提高。所以我們也看到機柜的功率密度從過去的5千瓦，現(xiàn)在迅速的提升到了10千瓦、 20千瓦、 40千瓦，甚至80千瓦、100千瓦以上。
智算機柜功率密度的提升對基礎(chǔ)設(shè)施來說，我覺得主要有四大方面的挑戰(zhàn)。
首先是給散熱能力帶來的挑戰(zhàn)，第二個方面是給高效的能源供應(yīng)帶來的挑戰(zhàn)，第三個是占地面積，第四是快速的部署。
所以，GPU芯片的迅速更新迭代給數(shù)據(jù)中心配套設(shè)施帶來了這四大挑戰(zhàn)。如何應(yīng)對這四個問題，我們先來看看冷卻系統(tǒng)，為什么它會如此耗水？
02 冷卻系統(tǒng)Chapter 2.1 冷卻系統(tǒng)的重要性
電子器件運行時會產(chǎn)生熱量，而芯片對熱量尤其敏感，如果過熱，輕則觸發(fā)芯片的自我保護機制，降低運行頻率，重則導(dǎo)致服務(wù)器故障，業(yè)務(wù)中斷，甚至燒毀硬件。
隨著數(shù)據(jù)中心的功率密度越來越高，這時如果冷卻系統(tǒng)發(fā)生故障，留給維護人員的反應(yīng)時間，可能只有一兩分鐘。
王超
維諦技術(shù)熱管理解決方案部高級經(jīng)理：
如果單機柜到了10千瓦，按照我們過去的仿真經(jīng)驗，可能很快，一兩分鐘，（環(huán)境）就能到 30多度甚至40度，那就宕機了。
因此，芯片算力的升級也直接帶來了對數(shù)據(jù)中心冷卻系統(tǒng)的升級需求。我們在《搶電、圈地、對賭，深聊科技巨頭的千億美元AI能源大戰(zhàn)》那期文章里也講過，隨著功率密度的提升，廠商們開始轉(zhuǎn)向液冷方案。
而恰恰是這個液冷，導(dǎo)致了不少環(huán)保人士抵制。
除了開頭說的xAI訓(xùn)練集群外，2023年烏拉圭民眾也聯(lián)合抗議谷歌建設(shè)數(shù)據(jù)中心，還有新墨西哥州的農(nóng)民抗議Meta數(shù)據(jù)中心遷入。
大家抵制的原因之一就是，這些數(shù)據(jù)中心耗水太多，甚至加劇了當?shù)氐母珊登闆r。
那為什么液冷會消耗如此多的水呢？
Chapter 2.2 液冷為何如此耗水
在回答這個問題前，我們需要簡單科普下冷卻系統(tǒng)的結(jié)構(gòu)。目前冷卻系統(tǒng)主要分為兩個大類，風(fēng)冷與液冷。
我們先來聊聊風(fēng)冷。如果你進入過數(shù)據(jù)中心，那第一感覺應(yīng)該是：太吵了！這個噪音就來自于機柜中用于給芯片降溫的風(fēng)扇。
風(fēng)扇的作用是將芯片的熱量散發(fā)到空氣中，但如果熱量全部堆積在空氣中，也會降低散熱效果，所以還需要空調(diào)對空氣降溫。
空調(diào)也分為很多種，我們這里就不一一舉例了。
顯而易見的是，空氣的熱交換效率較低，在功率密度不斷提升下，必須采用效率更高的散熱介質(zhì)，那就是液體。
液冷散熱的原理就是通過水的蒸發(fā)潛熱帶走芯片的熱量，液冷散熱也分為很多種，目前全球主流的兩類是冷板液冷和浸沒液冷。
王超
維諦技術(shù)熱管理解決方案部高級經(jīng)理：
當然在國內(nèi)還有一種是噴淋液冷技術(shù)。噴淋也是一個比較創(chuàng)新的技術(shù)，但這個技術(shù)目前還是受到了一定的限制，所以不是很多。
冷板液冷是讓冷板與芯片緊密貼合，讓芯片熱量傳導(dǎo)至冷板中的冷卻液，并將冷卻液中的熱量運輸至后端冷卻。
而浸沒液冷是將整個主板都浸沒在特定液體中，但對于目前主流的GPU設(shè)備來說，浸沒液冷卻不太適用。
王超
維諦技術(shù)熱管理解決方案部高級經(jīng)理：
因為所有GPU它都是還是按照冷板液冷這種規(guī)格來開發(fā)的，所以不太適配浸沒。
冷卻系統(tǒng)會分為一次側(cè)和二次側(cè)，一次側(cè)是將整體熱量散走，并與二次側(cè)的冷卻分發(fā)單元（Cooling Distribution Units，簡稱CDU）來交換熱量。
通常提到的液冷散熱，都是指二次側(cè)，由CDU將冷水分配到各個機柜中。而當前的液冷散熱系統(tǒng)一次側(cè)大部分也是水冷方式，最終在室外通過水的顯熱交換和潛熱交換帶走全部熱量。
顯熱交換是水在加熱或冷卻過程中，會吸收或釋放的熱量，水的狀態(tài)不變。
而潛熱交換就是水在相變過程中，如蒸發(fā)、凝結(jié)、融化、凝固時，吸收或釋放的熱量，而溫度保持不變。
就像咱們天氣熱時，如果給房間放一盆水，水溫慢慢升高，這就是顯熱交換；同時水會慢慢蒸發(fā)，這就是潛熱交換，兩種交換共同進行，使得水盆上方的空氣溫度降低。
前面我們說到環(huán)保人士抵制AI數(shù)據(jù)中心，就是因為萬卡集群的AI數(shù)據(jù)中心，浪費的水實在太多了。
王超
維諦技術(shù)熱管理解決方案部高級經(jīng)理：
這其實就回到那個規(guī)模效應(yīng)了，如果說咱們只是建一兩個數(shù)據(jù)中心，比如就是像20兆瓦，或者甚至即使到100兆瓦都沒事。但是如果進一步擴大，那個耗水量是非常巨大的，可能會對當?shù)氐牡叵滤Y源有一定的影響，可以肯定一定會存在數(shù)據(jù)中心和人搶水的這個問題。
你可能想問，就算水蒸發(fā)了，那不是還會變成雨降下來嗎？為什么會被稱為“浪費”呢？我們分兩個方面來說。
首先，水蒸發(fā)后變成云，飄到哪兒降落就不好說了，數(shù)據(jù)中心就像個抽水機，把當?shù)氐乃樽吆笏偷搅似渌胤�，對于原本降雨量低的地區(qū)，加劇了干旱情況。
其次，數(shù)據(jù)中心對水的質(zhì)量要求也不低，但高質(zhì)量的水蒸發(fā)后，如果降落在污染地或海面，這些水很難再利用了。
同時，使用高質(zhì)量的水，也意味著數(shù)據(jù)中心要和居民搶水，甚至可能造成民用水不夠的情況。
那為什么一定要用高質(zhì)量的水呢？
王超
維諦技術(shù)熱管理解決方案部高級經(jīng)理：
水如果蒸發(fā)，它就會跟制冷設(shè)備的一些部件會有接觸，不管是水滴還是水霧，它到制冷設(shè)備上面，如果水質(zhì)不太好，比如酸堿度不太好，偏酸偏堿都可能會導(dǎo)致腐蝕。如果鈣鎂離子的含量比較多，就像咱們家里燒開水一樣，那可能水垢就會附著在表面上。
一旦水垢附著在換熱設(shè)備的表面，帶來的影響就是換熱設(shè)備的效率會下降。本來我是 200千瓦的散熱量，但是因為水溝問題，可能會導(dǎo)致它衰減到80%，甚至更低，那帶來的就是冷量可能不夠這一類的問題。
有報道稱，每個數(shù)據(jù)中心平均每天要消耗100萬到500萬加侖的水，比如開頭提到的xAI萬卡集群，每天消耗100萬加侖的水，可供3000多戶家庭使用一天。
而GPT-3在訓(xùn)練期間消耗了700萬噸水，后續(xù)的推理階段，每回答20個問題，就相當于倒掉了一瓶500毫升的礦泉水。
NPJ的一份名為《數(shù)據(jù)中心用水調(diào)查》報告顯示，數(shù)據(jù)中心耗水來源58%是飲用水，這其中還存在耗水不透明度的問題，長此以往甚至?xí)斐蓺夂蝻L(fēng)險。
所以也難怪AI數(shù)據(jù)中心會遭到抵制了。
同時，也有企業(yè)做過海底數(shù)據(jù)中心，如此一來不就解決了耗水問題嗎？但很遺憾，這就涉及到冷卻系統(tǒng)面臨的另一大挑戰(zhàn)，經(jīng)濟賬的問題了。
Chapter 2.3 冷卻系統(tǒng)的經(jīng)濟賬
海底數(shù)據(jù)中心就是把服務(wù)器放置在殼體內(nèi)并沉到海水里，因為海水的溫度較低，可以直接為殼體降溫，而且不需要額外補充機械能。
聽上去是個既節(jié)能又環(huán)保的方案，但維諦的專家告訴我們，這將對技術(shù)提出更高的要求。
王超
維諦技術(shù)熱管理解決方案部高級經(jīng)理：
因為沉到海水里邊，整個數(shù)據(jù)中心的殼體、包括一些光纜還有電纜之類的，它都要能下海，其實提出了更高的要求。
更高的技術(shù)要求，就意味著企業(yè)需要在研發(fā)上投入更多，但長期來看，這確實是一個創(chuàng)新的解決方案。
除了技術(shù)難題外，冷卻系統(tǒng)的用電也一直居高不下。有數(shù)據(jù)顯示，冷卻系統(tǒng)通常占數(shù)據(jù)中心平均電力消耗的40%，不少巨頭都在努力降低冷卻系統(tǒng)的能源消耗，但搞不好反而會弄巧成拙。
有論文研究稱，數(shù)據(jù)中心每將送風(fēng)溫度提高1°C，可以降低大約2-5%的制冷功率，因此數(shù)據(jù)中心開始呈現(xiàn)把冷卻系統(tǒng)溫度從75（約23.9℃）提高到85（約29.4℃）的趨勢，連谷歌也采取了這樣的做法。
但這個做法還挺危險的，這相當于你設(shè)置的溫度，距離數(shù)據(jù)中心能承受最高溫度的緩沖區(qū)間縮窄了，反倒會導(dǎo)致系統(tǒng)性風(fēng)險。
比如，2021年，新加坡一家數(shù)據(jù)中心運營商為了節(jié)省冷卻成本，將溫度提高到危險的臨界水平，結(jié)果導(dǎo)致數(shù)據(jù)中心服務(wù)器大面積故障，這種情況持續(xù)了近一周，真是得不償失。
同時，這篇論文也發(fā)出了警告：數(shù)據(jù)中心受到熱攻擊的原因之一，是因為采用了激進的冷卻策略，也就是系統(tǒng)溫度設(shè)置的太高，減少了冗余度。
所以如何讓冷卻系統(tǒng)更節(jié)能，成為了AI時代的挑戰(zhàn)之一。
維諦技術(shù)的專家告訴我們，要降低冷卻系統(tǒng)能耗，主要分為三大方向。
王超
維諦技術(shù)熱管理解決方案部高級經(jīng)理：
現(xiàn)在從節(jié)能角度來講，其實是可以分為三大方向。一個是從風(fēng)側(cè)來做自然冷來做節(jié)能，然后另外的話就是水側(cè)自然冷，還有就是氟側(cè)自然冷。
所謂的“自然冷”（Free-Cooling），是指利用室外的低溫冷源，來給室內(nèi)降溫，達到降低能耗的一種技術(shù)方法。
想象一下冬天我們悶在房間里非常熱，如果打開窗戶讓室外的冷空氣進入，房間就涼快了，這就是自然冷。
而風(fēng)側(cè)自然冷，就是在窗戶邊放一些風(fēng)扇向房間吹風(fēng)，加速室外冷空氣進入。
水側(cè)自然冷和氟側(cè)自然冷，則是將導(dǎo)體替換為了水和氟。
王超
維諦技術(shù)熱管理解決方案部高級經(jīng)理：
風(fēng)側(cè)自然冷它是受地理條件的限制比較大，因為它是會把新風(fēng)引到機房里來，對空氣質(zhì)量之類有一定的要求，其實就是即使做新風(fēng)也是會結(jié)合一些機械冷的。從我們來講，我們還是更專注于水側(cè)自然冷和氟側(cè)自然冷。
氟側(cè)自然冷就是我們常規(guī)的風(fēng)冷空調(diào)這個系統(tǒng)，在溫度相對來說比較低，以及冬季的時候，來通過氟泵工作來利用室外自然冷源，那這會就不需要開壓縮機了，壓縮機的功耗就是整個系統(tǒng)里邊制冷功耗最大的部分，那如果可以在一部分時間里邊把壓縮機替換成氟泵，因為氟泵的功率是很低的，那當然可以大大的節(jié)約能耗。
水側(cè)自然冷，做節(jié)能就是通過室外的一些蒸發(fā)之類的，把它的那個冷的能力間接的帶到室內(nèi)來。
風(fēng)側(cè)自然冷受到地理限制較大，水側(cè)自然冷蒸發(fā)的水太多，所以目前既省電又省水的方案，就是氟側(cè)自然冷。
王超
維諦技術(shù)熱管理解決方案部高級經(jīng)理：
氟側(cè)自然冷它就是一個無水的智能解決方案，天然的它就不需要水，它是靠氟泵、靠冷媒來實現(xiàn)自然冷的，不需要靠水的蒸發(fā)。
但這種方式就對技術(shù)提出了很大挑戰(zhàn)，需要長期的積累經(jīng)驗，才能控制好整套系統(tǒng)。
王超
維諦技術(shù)熱管理解決方案部高級經(jīng)理：
怎么才能更好的控制，讓氟泵的工作時長更長一點點，讓氟泵和壓縮機的切換能夠更加的穩(wěn)定、更少的波動、然后讓它更節(jié)能。它的難度是比做水側(cè)自然冷是要更難的，所以最大的難點就還是在于技術(shù)儲備。
除了節(jié)能環(huán)保外，如今數(shù)據(jù)中心還面臨著芯片升級的挑戰(zhàn)。
我們之前的文章中有提到，英偉達新出的Blackwell芯片，由于功耗上升，老舊的數(shù)據(jù)中心難以直接部署，甚至一些公司由于業(yè)務(wù)轉(zhuǎn)型，需要將以CPU為主的計算設(shè)備，升級到以GPU為主，如何改造成了當下的難題。
Chapter 2.4 數(shù)據(jù)中心如何升級？
王超
維諦技術(shù)熱管理解決方案部高級經(jīng)理：
在AI來之前，數(shù)據(jù)中心的分類其實都是以風(fēng)冷為主的，那它的單機柜功率密度才5~10千瓦，而且其實10千瓦的都不是很多了，主要是5~6千瓦這樣的為主。那現(xiàn)在我要升級智算，首先要把風(fēng)冷設(shè)備的散熱量加夠，然后再去額外的再去補充液冷部分。
既然冷卻系統(tǒng)可以升級，為什么還有些企業(yè)會選擇花很多資金重建數(shù)據(jù)中心呢？這就不得不說到，舊機房升級的瓶頸了。
王超
維諦技術(shù)熱管理解決方案部高級經(jīng)理：
對于制冷它主要就是空間的問題，一般情況下，從我們當前的設(shè)計經(jīng)驗來看，制冷設(shè)備的空間往往可能是夠的。因為原先的單機柜6千瓦，現(xiàn)在單機柜40千瓦，那單機柜的功率密度提升了6倍還多，原先6個機柜解決的問題，現(xiàn)在只需要一個機柜。
行業(yè)里邊有一個說法，就是數(shù)據(jù)中心的盡頭其實是電力，所以咱們在擴容的時候，往往首先要考慮的還是電力的問題。
為什么電力是制約數(shù)據(jù)中心升級的因素？AI爆發(fā)又給供電系統(tǒng)帶來了哪些挑戰(zhàn)呢？接下來我們聊聊供電系統(tǒng)。
03 供電系統(tǒng)Chapter 3.1 AI給供電系統(tǒng)帶來的挑戰(zhàn)
我們在AI電力爭奪戰(zhàn)那期文章里講過，AI數(shù)據(jù)中心帶來了大量電能消耗，未來將給電網(wǎng)帶來供應(yīng)缺口，其實不止是外部的電網(wǎng)，AI數(shù)據(jù)中心內(nèi)部的供電也同樣面臨巨大壓力，其中很大的因素就在于占地面積。
趙呈濤
維諦技術(shù)ACP解決方案部高級經(jīng)理：
因為整個的功率密度提升，供配電和IT機房的占比出現(xiàn)了很大的偏差，占地面積成為了一個很大的挑戰(zhàn)。
正是因為這些難點，成為了老舊數(shù)據(jù)中心升級困難的原因，其中最為棘手的就是占地問題。
在解析這個問題前，為了便于大家理解，我們先簡單介紹下供電系統(tǒng)的結(jié)構(gòu)。
Chapter 3.2 供電系統(tǒng)結(jié)構(gòu)及占地問題
供電系統(tǒng)的結(jié)構(gòu)主要分為四個層級：市電或發(fā)電機將電能輸送到變配電系統(tǒng)，變配電系統(tǒng)會給冷卻系統(tǒng)、不間斷電源（Uninterruptible Power Supply，即UPS）供電，UPS再將電能送到主機房的電源分配單元（Power Distribution Unit，即PDU），由PDU給每個機柜分配電能。
其中發(fā)電機是為了在市電發(fā)生故障時有應(yīng)急的電力輸入，但發(fā)電機啟動需要一定時間，而UPS包含了大容量電池，能保證服務(wù)器繼續(xù)運行5到15分鐘，為發(fā)電機啟動爭取時間。
當然，供電系統(tǒng)還會根據(jù)市電線路數(shù)和冗余結(jié)構(gòu)的不同，分為DR架構(gòu)、RR架構(gòu)、2N架構(gòu)，這里我們就不多贅述了。
那回到占地面積的問題，由于服務(wù)器功耗增加后，需要額外的供電設(shè)備，但是，供電設(shè)備實在太占地了。
趙呈濤
維諦技術(shù)ACP解決方案部高級經(jīng)理：
從傳統(tǒng)的數(shù)據(jù)中心建設(shè)來看，它會有傳統(tǒng)的中壓室、低壓室、電力室、電池室等等，這些傳統(tǒng)的產(chǎn)品都會通過線來做連接，這些物理連接由于它是分散于各個廠家的產(chǎn)品，它的標準的制式、標準的體積都不是很融合，另外一個它們的整個的部署的物理距離，中間的一般都是都會有一些間隙。
所以有限的空間成了制約老舊數(shù)據(jù)中心升級的痛點，想發(fā)展AI，重建數(shù)據(jù)中心成了更好的選擇。
但數(shù)據(jù)中心的設(shè)計壽命有20到30年，GPU換代一般是3~5年，總不能隔幾年就重建一次吧，為此行業(yè)發(fā)展出了新的方向，那就是設(shè)備一體化。
Chapter 3.3 設(shè)備一體化與效率提升
趙呈濤
維諦技術(shù)ACP解決方案部高級經(jīng)理：
我們針對占地面積的問題，推出了交流直流供配電一體化的電力模組，就像我們傳統(tǒng)的組裝式的電腦，現(xiàn)在變成了一體機是一樣的，我們通過將UPS、供配電、變壓器、補償、饋電柜多個產(chǎn)品融合為一體，提供了一個工程產(chǎn)品化的一個產(chǎn)品，這樣可以將我們占地面積減少至少30%。
當然我們還有一個新型的解決方案，我們的供配電電力模組，采用背靠背的這種方式，通過上送風(fēng)，這樣的話我們可以把傳統(tǒng)的電力層面積再縮小50%。
縮小其他設(shè)備的占地面積不光有利于老舊數(shù)據(jù)中心的升級，新的數(shù)據(jù)中心也能帶來更高的經(jīng)濟效益，因為騰出來的空間就可以多擺點計算用的機柜、多一些算力，縮短模型的訓(xùn)練與推理時間。
除了縮小設(shè)備占地外，供電系統(tǒng)的另一個趨勢是提升電能傳輸效率。
眾所周知，每個設(shè)備都有電阻，電能在一層層設(shè)備的轉(zhuǎn)換中，總會伴隨著能量損失，如此一來為了滿足服務(wù)器機柜的電能需求，前端的供配電設(shè)備需要留有更多冗余、占據(jù)更大面積。
而提升傳輸效率后，不僅能減少設(shè)備的數(shù)量，還能降低數(shù)據(jù)中心的能耗，達到節(jié)能減排的效果。
那該從哪些方面來提升效率呢？
趙呈濤
維諦技術(shù)ACP解決方案部高級經(jīng)理：
第一，UPS我們采用了碳化硅的產(chǎn)品線，將整個的效率提升了很多。第二，我們采用了SCB的多晶合金的變壓器，第三通過以傳統(tǒng)的線纜方式改用銅牌的方式來連接，進一步降低了線路的損耗來提升它整體的效率。
為了提升末端配電的負載，我們推出了1000 安培的小母線，這樣服務(wù)器未來可以擴容 100 千瓦、 150 千瓦。
最后，我們來聊聊顧華提到的第四個挑戰(zhàn)，快速部署。有意思的是，行業(yè)為此竟然呈現(xiàn)出了“預(yù)制化”的趨勢，這能行得通嗎？
04 建設(shè)周期與快速部署如今全球的AI戰(zhàn)正打的火熱，急劇增長的算力需求促使著各大公司新建AI數(shù)據(jù)中心，這就對整行業(yè)提出了建設(shè)速度的要求，畢竟AI數(shù)據(jù)中心早一天上線，就能帶來更多經(jīng)濟效益。
大家也在紛紛嘗試創(chuàng)新的解決方案，譬如“木質(zhì)數(shù)據(jù)中心”，用木材作為關(guān)鍵結(jié)構(gòu)部件，來建設(shè)數(shù)據(jù)中心。
難道他們就不怕遇到地震、臺風(fēng)或者火災(zāi)啥的，把整個數(shù)據(jù)中心都弄沒了嗎？
其實盡管木質(zhì)數(shù)據(jù)中心聽上去是個非常激進的概念，但早在2019年就有公司就建成并投入使用了。
他們使用的也并不是那種直接從樹上鋸下的木板，而是名為正交膠合木（Cross-Laminated Timber，簡稱CLT）的建筑材料。
這種材料具有極高的強度和均勻性，直接作為承重墻板或者樓板使用都沒問題，同時它還有耐火的特性，英國就有棟名為Stadthaus的九層樓公寓，采用了CLT材料建成。
木質(zhì)材料不僅能滿足環(huán)保的要求，還能通過預(yù)制化，將整體的建設(shè)速度，加快40%~80%。
當然，數(shù)據(jù)中心的建設(shè)不光是外部建筑，還有內(nèi)部的基礎(chǔ)設(shè)施需要定制。而現(xiàn)在，冷卻系統(tǒng)與供電設(shè)備也走向了預(yù)制化的道路。
雷愛民
維諦技術(shù)綜合解決方案架構(gòu)部總監(jiān)：
現(xiàn)在的智算中心，客戶可能需要在6個月之內(nèi)建設(shè)好，這也是傳統(tǒng)建造方式的最快完工時間，而維諦的360AI智算解決方案，可以協(xié)助客戶縮小50%左右的時間。
我們在海外和一些算力公司、互聯(lián)網(wǎng)公司有合作，會根據(jù)它需要的算力，來定制全套的預(yù)制化基礎(chǔ)設(shè)施。就是說已經(jīng)提前把數(shù)據(jù)中心的基礎(chǔ)設(shè)施配套好了，同時對里面的供電、制冷、軟件，甚至工程的材料的預(yù)制化，都進行了詳細的部署。
將設(shè)備由定制改為預(yù)制，就能大幅節(jié)省工程時間，但這其中又會存在匹配性的問題。
雷愛民
維諦技術(shù)綜合解決方案架構(gòu)部總監(jiān)：
不同的客戶他確實有很大的需求上的差別，比如政府和金融項目，金融客戶他最在乎的就高可靠性，他對創(chuàng)新、綠色持穩(wěn)健的態(tài)度，但是對互聯(lián)網(wǎng)公司來說，他在乎的就是創(chuàng)新性、成本、部署速度。所以說在這兩種客戶之間，我們提供的是差異化的服務(wù)、差異化的方案和服務(wù)。
不同的數(shù)據(jù)中心，都有自己獨特的需求，如果失去了“定制”這個環(huán)節(jié)，是否意味著預(yù)制化的設(shè)備難以大量鋪開呢？
專家給我們解釋道，所謂的預(yù)制化，其實是預(yù)制了各個部件的模塊，在一個統(tǒng)一的平臺下，可以將這些模塊按需求來組裝，這樣就能滿足不同的客戶。
雷愛民
維諦技術(shù)綜合解決方案架構(gòu)部總監(jiān)：
維諦實際上它在長期的發(fā)展和實踐里面，它形成了很多標準化的組件，所以說當一項新的需求來臨的時候，我們可能優(yōu)先去選擇，在這個積木庫里面，去提取一些適合我們這個新的場景的一些部件和組件，這樣就可以高效率的搭建出一個適應(yīng)客戶新的需要的，這樣的一個產(chǎn)品類型。
打個比方，就像我們買來的樂高積木，其實是很多通用的小塊，它既可以拼成汽車，也能拼成飛機。
雖然我們常說，AI的飛躍源自芯片的積累，然而，為芯片運行打下基石的，是基礎(chǔ)設(shè)施的技術(shù)進步，它們?nèi)缤瑹o形的“兵部尚書”，在幕后默默支持和調(diào)控著前線士兵的作戰(zhàn)行動，讓AI大模型訓(xùn)練順利推進。
就像之前提到的，士兵的作戰(zhàn)效率在提升，那么兵部尚書的水平也要相對提高，這對整個AI芯片的上下游市場都提出了更高的要求，是挑戰(zhàn)也是機遇。
隨著更高能力、更多參數(shù)以及更大AI模型的投入訓(xùn)練，也許我們會看到數(shù)據(jù)中心更快的升級迭代，有更多的技術(shù)創(chuàng)新來支持AI大模型的技術(shù)大戰(zhàn)。
