每日經(jīng)濟新聞
要聞

每經(jīng)網(wǎng)首頁 > 要聞 > 正文

解析AI算力競賽背后的“冷靜守護者”:液冷技術(shù)為何成數(shù)據(jù)中心新寵?

每日經(jīng)濟新聞 2024-03-13 22:27:37

◎一名資深業(yè)內(nèi)人士告訴《每日經(jīng)濟新聞》記者:“從我們自身的經(jīng)驗看,催生液冷落地的核心需求,就是AI以及GPU。因為液冷可以給(AI服務(wù)器)帶來明顯的投資收益?!?/p>

每經(jīng)記者 朱成祥    每經(jīng)編輯 魏官紅    

近日,英偉達(dá)CEO黃仁勛在2024 SIEPR經(jīng)濟峰會上透露,下一代DGXGPU服務(wù)器將采用液冷散熱,并表示即將推出下一代DGX服務(wù)器。

目前,數(shù)據(jù)中心主流仍為風(fēng)冷。而隨著生成式AI的火熱,液冷逐漸受到追捧。

近期,A股市場液冷概念股漲勢明顯。比如液冷全鏈條解決方案提供商英維克(002837.SZ,股價32.89元,市值186.97億元),2月6日至3月13日,區(qū)間漲幅達(dá)83.03%;同期,服務(wù)器冷板廠商飛榮達(dá)(300602.SZ,股價16.82元,市值97.23億元)漲幅也達(dá)76.68%。

下一代AI服務(wù)器必須上液冷?

目前,CPU服務(wù)器主流使用風(fēng)冷。而進入AIGC時代,AI服務(wù)器功耗劇增。

對于液冷逐漸火熱的原因,3月13日,一名資深業(yè)內(nèi)人士告訴《每日經(jīng)濟新聞》記者:“從我們自身的經(jīng)驗看,催生液冷落地的核心需求,就是AI以及GPU。因為液冷可以給(AI服務(wù)器)帶來明顯的投資收益,原來使用液冷更多是環(huán)保要求,并非投資收益。”

該人士進一步解釋稱:“一顆CPU大概多少瓦呢?高檔一點的接近300瓦。一臺服務(wù)器,配兩顆CPU是比較常見的。正常的CPU服務(wù)器就兩顆CPU,當(dāng)然也有四路和單路服務(wù)器,常見的應(yīng)用場景以兩顆CPU為主。而GPU服務(wù)器(AI服務(wù)器)一般都是8顆GPU起??傮w來看,CPU服務(wù)器超過1KW(千瓦)已經(jīng)很高,而一臺GPU服務(wù)器會達(dá)到6KW,英偉達(dá)最新一代服務(wù)器達(dá)到11KW(千瓦)。”

若以英偉達(dá)最新一代服務(wù)器功耗計算,一臺GPU服務(wù)器的功耗約為CPU服務(wù)器的十倍。

開源證券研報認(rèn)為,Intel多款CPU TDP(熱設(shè)計功耗)已達(dá)350W,英偉達(dá)的H100 SXM TDP甚至達(dá)到700W,B100(英偉達(dá)即將推出的GPU)TDP或?qū)⑦_(dá)到1000W左右,逼近風(fēng)冷單點散熱極限。

此外,單機柜功率不斷增長,逼近風(fēng)冷散熱極限。英偉達(dá)DGX A100服務(wù)器單機最大功率約在6.5KW左右,在機柜上架率不變的情況下,服務(wù)器功率上升導(dǎo)致單機柜功率亦不斷增長,逼近風(fēng)冷12KW—15KW散熱極限,繼續(xù)采用風(fēng)冷散熱,將導(dǎo)致行間空調(diào)需求數(shù)量陡增,高密度散熱場景下液冷方案成本和性能優(yōu)勢顯著。

上述資深人士也表示:“目前GPU最大的是700W,下一代據(jù)說將達(dá)到1KW至1.4KW。這時候再用風(fēng)冷散熱,一是效果(不好),二是噪聲(大),就會有各種問題需要解決。簡而言之,算力密度的提升下,風(fēng)冷已經(jīng)滿足不了,必須配液冷。”

值得一提的是,除了數(shù)據(jù)中心,終端PC或?qū)⒃贏IGC時代下,進入AI PC時代。那么,AI PC是否也將催生液冷需求?

對此,該人士認(rèn)為:“現(xiàn)在很多電腦是跑不動本地端大模型、跑不動本地端推理的。能否跑得動,重點看電腦是否有GPU顯卡。比如消費級英偉達(dá)4090、3090,或者說至少有這種(高端)獨立顯卡。”

關(guān)于終端PC散熱,其表示:“端側(cè)其實(應(yīng)用液冷)更加積極,很多游戲玩家都用液冷散熱。因為對游戲玩家而言,他的改造量很小。而數(shù)據(jù)中心涉及基礎(chǔ)設(shè)施的改造。”

若未來AI PC逐漸普及,該人士判斷:“我覺得液冷的使用率將越來越高。”

液冷技術(shù)路線的選擇

據(jù)悉,液冷有浸沒式、冷板式等多種技術(shù)路線。隨著液冷的火熱,哪些技術(shù)路線將會受益呢?

根據(jù)賽迪數(shù)據(jù),中國液冷數(shù)據(jù)中心市場規(guī)模保守估計將由2019年的260.9億元增至2025年的1283.2億元,其中冷板式數(shù)據(jù)中心市場規(guī)模2025年保守估計可超過750億元,年復(fù)合增長率為22%;浸沒式液冷數(shù)據(jù)中心市場規(guī)模2025年保守估計可超過500億元,年復(fù)合增長率達(dá)到46%。

開源證券研報認(rèn)為,冷板式液冷相對成熟,浸沒式液冷長期發(fā)展空間大。冷板式方面,單相冷板式液冷作為非接觸式液冷的一種,行業(yè)內(nèi)具有10年以上的研究積累,在主流液冷方案中技術(shù)成熟度最高,對現(xiàn)有服務(wù)器芯片組件及附屬部件改動量較小,過渡平緩,是解決大功耗設(shè)備部署、提升能效、降低制冷運行費用、降低TCO(總擁有成本)的有效應(yīng)用方案。

而浸沒式液冷可完全去除散熱風(fēng)扇(噪音更低),換熱能力強,節(jié)能效果好,數(shù)據(jù)中心PUE(電能利用效率)值可降至1.1及以下,但一般需要改為箱式部署,部署密度一般低于冷板式液冷,機房配套和服務(wù)器改造難度和成本也較大。

上述資深人士認(rèn)為:“個人理解,還是以冷板式為主。冷板式落地會更快速一點,而浸沒式對現(xiàn)有的設(shè)施改造比較多。此外,冷板式也更容易形成專業(yè)化分工,浸沒式目前主要還是整體解決方案。”

液冷國內(nèi)廠商方面,英維克是國內(nèi)領(lǐng)先的精密溫控節(jié)能解決方案和產(chǎn)品提供商,產(chǎn)品廣泛應(yīng)用于數(shù)據(jù)中心、算力設(shè)備、電化學(xué)儲能系統(tǒng)、通信網(wǎng)絡(luò)、電力電網(wǎng)、電動汽車充電樁、工業(yè)自動化等領(lǐng)域的設(shè)備散熱。

據(jù)英維克2023年半年報,其機房溫控節(jié)能產(chǎn)品、機柜溫控節(jié)能產(chǎn)品營收分別為4.60億元和6.61億元,占營收比重分別為37.15%和53.38%。

而飛榮達(dá)主要產(chǎn)品為電磁屏蔽材料及器件、導(dǎo)熱材料及器件和其他電子器件,是中國領(lǐng)先的、創(chuàng)新型專業(yè)電磁屏蔽及導(dǎo)熱解決方案服務(wù)商。其熱管理材料及器件包括導(dǎo)熱界面器件、石墨片、導(dǎo)熱石墨膜、散熱模組、風(fēng)扇、VC均溫板、熱管、壓鑄件及液冷板等。

2023年上半年,飛榮達(dá)熱管理材料及器件營收7.04億元,占營業(yè)收入比約為39.59%。

隨著AI技術(shù)的飛速發(fā)展和AIGC時代的來臨,液冷技術(shù)在數(shù)據(jù)中心的應(yīng)用變得日益重要。液冷技術(shù)不僅能夠顯著提升數(shù)據(jù)中心的能效和散熱性能,還能夠降低噪音和運營成本,這對于追求高效率和可持續(xù)運營的數(shù)據(jù)中心來說至關(guān)重要。

封面圖片來源:視覺中國

如需轉(zhuǎn)載請與《每日經(jīng)濟新聞》報社聯(lián)系。
未經(jīng)《每日經(jīng)濟新聞》報社授權(quán),嚴(yán)禁轉(zhuǎn)載或鏡像,違者必究。

讀者熱線:4008890008

特別提醒:如果我們使用了您的圖片,請作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站,可聯(lián)系我們要求撤下您的作品。

液冷 服務(wù)器 數(shù)據(jù)中心 算力

歡迎關(guān)注每日經(jīng)濟新聞APP

每經(jīng)經(jīng)濟新聞官方APP

0

0

免费va国产高清不卡大片,笑看风云电视剧,亚洲黄色性爱在线观看,成人 在线 免费