解析AI算力競賽背后的“冷靜守護(hù)者”：液冷技術(shù)為何成數(shù)據(jù)中心新寵？

每經(jīng)記者 朱成祥    每經(jīng)編輯 魏官紅    

近日，英偉達(dá)CEO黃仁勛在2024 SIEPR經(jīng)濟(jì)峰會(huì)上透露，下一代DGXGPU服務(wù)器將采用液冷散熱，并表示即將推出下一代DGX服務(wù)器。

目前，數(shù)據(jù)中心主流仍為風(fēng)冷。而隨著生成式AI的火熱，液冷逐漸受到追捧。

近期，A股市場液冷概念股漲勢明顯。比如液冷全鏈條解決方案提供商英維克（002837.SZ，股價(jià)32.89元，市值186.97億元），2月6日至3月13日，區(qū)間漲幅達(dá)83.03%；同期，服務(wù)器冷板廠商飛榮達(dá)（300602.SZ，股價(jià)16.82元，市值97.23億元）漲幅也達(dá)76.68%。

下一代AI服務(wù)器必須上液冷？

目前，CPU服務(wù)器主流使用風(fēng)冷。而進(jìn)入AIGC時(shí)代，AI服務(wù)器功耗劇增。

對于液冷逐漸火熱的原因，3月13日，一名資深業(yè)內(nèi)人士告訴《每日經(jīng)濟(jì)新聞》記者：“從我們自身的經(jīng)驗(yàn)看，催生液冷落地的核心需求，就是AI以及GPU。因?yàn)橐豪淇梢越o（AI服務(wù)器）帶來明顯的投資收益，原來使用液冷更多是環(huán)保要求，并非投資收益。”

該人士進(jìn)一步解釋稱：“一顆CPU大概多少瓦呢？高檔一點(diǎn)的接近300瓦。一臺服務(wù)器，配兩顆CPU是比較常見的。正常的CPU服務(wù)器就兩顆CPU，當(dāng)然也有四路和單路服務(wù)器，常見的應(yīng)用場景以兩顆CPU為主。而GPU服務(wù)器（AI服務(wù)器）一般都是8顆GPU起?？傮w來看，CPU服務(wù)器超過1KW（千瓦）已經(jīng)很高，而一臺GPU服務(wù)器會(huì)達(dá)到6KW，英偉達(dá)最新一代服務(wù)器達(dá)到11KW（千瓦）。”

若以英偉達(dá)最新一代服務(wù)器功耗計(jì)算，一臺GPU服務(wù)器的功耗約為CPU服務(wù)器的十倍。

開源證券研報(bào)認(rèn)為，Intel多款CPU TDP（熱設(shè)計(jì)功耗）已達(dá)350W，英偉達(dá)的H100 SXM TDP甚至達(dá)到700W，B100（英偉達(dá)即將推出的GPU）TDP或?qū)⑦_(dá)到1000W左右，逼近風(fēng)冷單點(diǎn)散熱極限。

此外，單機(jī)柜功率不斷增長，逼近風(fēng)冷散熱極限。英偉達(dá)DGX A100服務(wù)器單機(jī)最大功率約在6.5KW左右，在機(jī)柜上架率不變的情況下，服務(wù)器功率上升導(dǎo)致單機(jī)柜功率亦不斷增長，逼近風(fēng)冷12KW—15KW散熱極限，繼續(xù)采用風(fēng)冷散熱，將導(dǎo)致行間空調(diào)需求數(shù)量陡增，高密度散熱場景下液冷方案成本和性能優(yōu)勢顯著。

上述資深人士也表示：“目前GPU最大的是700W，下一代據(jù)說將達(dá)到1KW至1.4KW。這時(shí)候再用風(fēng)冷散熱，一是效果（不好），二是噪聲（大），就會(huì)有各種問題需要解決。簡而言之，算力密度的提升下，風(fēng)冷已經(jīng)滿足不了，必須配液冷。”

值得一提的是，除了數(shù)據(jù)中心，終端PC或?qū)⒃贏IGC時(shí)代下，進(jìn)入AI PC時(shí)代。那么，AI PC是否也將催生液冷需求？

對此，該人士認(rèn)為：“現(xiàn)在很多電腦是跑不動(dòng)本地端大模型、跑不動(dòng)本地端推理的。能否跑得動(dòng)，重點(diǎn)看電腦是否有GPU顯卡。比如消費(fèi)級英偉達(dá)4090、3090，或者說至少有這種（高端）獨(dú)立顯卡。”

關(guān)于終端PC散熱，其表示：“端側(cè)其實(shí)（應(yīng)用液冷）更加積極，很多游戲玩家都用液冷散熱。因?yàn)閷τ螒蛲婕叶?，他的改造量很小。而?shù)據(jù)中心涉及基礎(chǔ)設(shè)施的改造。”

若未來AI PC逐漸普及，該人士判斷：“我覺得液冷的使用率將越來越高。”

液冷技術(shù)路線的選擇

據(jù)悉，液冷有浸沒式、冷板式等多種技術(shù)路線。隨著液冷的火熱，哪些技術(shù)路線將會(huì)受益呢？

根據(jù)賽迪數(shù)據(jù)，中國液冷數(shù)據(jù)中心市場規(guī)模保守估計(jì)將由2019年的260.9億元增至2025年的1283.2億元，其中冷板式數(shù)據(jù)中心市場規(guī)模2025年保守估計(jì)可超過750億元，年復(fù)合增長率為22%；浸沒式液冷數(shù)據(jù)中心市場規(guī)模2025年保守估計(jì)可超過500億元，年復(fù)合增長率達(dá)到46%。

開源證券研報(bào)認(rèn)為，冷板式液冷相對成熟，浸沒式液冷長期發(fā)展空間大。冷板式方面，單相冷板式液冷作為非接觸式液冷的一種，行業(yè)內(nèi)具有10年以上的研究積累，在主流液冷方案中技術(shù)成熟度最高，對現(xiàn)有服務(wù)器芯片組件及附屬部件改動(dòng)量較小，過渡平緩，是解決大功耗設(shè)備部署、提升能效、降低制冷運(yùn)行費(fèi)用、降低TCO（總擁有成本）的有效應(yīng)用方案。

而浸沒式液冷可完全去除散熱風(fēng)扇（噪音更低），換熱能力強(qiáng)，節(jié)能效果好，數(shù)據(jù)中心PUE（電能利用效率）值可降至1.1及以下，但一般需要改為箱式部署，部署密度一般低于冷板式液冷，機(jī)房配套和服務(wù)器改造難度和成本也較大。

上述資深人士認(rèn)為：“個(gè)人理解，還是以冷板式為主。冷板式落地會(huì)更快速一點(diǎn)，而浸沒式對現(xiàn)有的設(shè)施改造比較多。此外，冷板式也更容易形成專業(yè)化分工，浸沒式目前主要還是整體解決方案。”

液冷國內(nèi)廠商方面，英維克是國內(nèi)領(lǐng)先的精密溫控節(jié)能解決方案和產(chǎn)品提供商，產(chǎn)品廣泛應(yīng)用于數(shù)據(jù)中心、算力設(shè)備、電化學(xué)儲(chǔ)能系統(tǒng)、通信網(wǎng)絡(luò)、電力電網(wǎng)、電動(dòng)汽車充電樁、工業(yè)自動(dòng)化等領(lǐng)域的設(shè)備散熱。

據(jù)英維克2023年半年報(bào)，其機(jī)房溫控節(jié)能產(chǎn)品、機(jī)柜溫控節(jié)能產(chǎn)品營收分別為4.60億元和6.61億元，占營收比重分別為37.15%和53.38%。

而飛榮達(dá)主要產(chǎn)品為電磁屏蔽材料及器件、導(dǎo)熱材料及器件和其他電子器件，是中國領(lǐng)先的、創(chuàng)新型專業(yè)電磁屏蔽及導(dǎo)熱解決方案服務(wù)商。其熱管理材料及器件包括導(dǎo)熱界面器件、石墨片、導(dǎo)熱石墨膜、散熱模組、風(fēng)扇、VC均溫板、熱管、壓鑄件及液冷板等。

2023年上半年，飛榮達(dá)熱管理材料及器件營收7.04億元，占營業(yè)收入比約為39.59%。

隨著AI技術(shù)的飛速發(fā)展和AIGC時(shí)代的來臨，液冷技術(shù)在數(shù)據(jù)中心的應(yīng)用變得日益重要。液冷技術(shù)不僅能夠顯著提升數(shù)據(jù)中心的能效和散熱性能，還能夠降低噪音和運(yùn)營成本，這對于追求高效率和可持續(xù)運(yùn)營的數(shù)據(jù)中心來說至關(guān)重要。

封面圖片來源：視覺中國