NVIDIA povećava usvajanje tečnog hlađenja na preko 20% do 2025

 

Stopa penetracije rješenja za tečno hlađenje će se značajno povećati, skočivši sa oko 10% u 2024. na preko 20% do 2025. Prema najnovijem istraživanju TrendForce, očekuje se da će NVIDIA Blackwell platforma biti isporučena u četvrtom kvartalu, što će povećati usvajanje rješenja za tečno hlađenje. Rastuća globalna svijest o ESG-u, zajedno sa CSP-ovima koji ubrzavaju implementaciju AI servera, olakšava prelazak sa zračnog hlađenja na hlađenje tekućinom.

 

 

Na globalnom tržištu AI servera, NVIDIA ostaje dominantan dobavljač ove godine. U segmentu GPU AI servera, NVIDIA drži vodeću poziciju sa tržišnim udjelom blizu 90%, dok AMD zaostaje sa oko 8%. TrendForce napominje da iako su isporuke NVIDIA Blackwell-a trenutno male zbog tekućeg testiranja lanca snabdevanja, velika potrošnja energije nove platforme – posebno rešenje koje se montira na stalak GB200 – zahteva poboljšanu efikasnost hlađenja, što verovatno povećava usvajanje tečnog hlađenja. Međutim, nizak omjer tekućeg hlađenja postojećeg ekosistema servera predstavlja izazove, jer ODM-ovi moraju da se kreću krivom učenja kako bi efikasno riješili probleme curenja i efikasnosti hlađenja. TrendForce predviđa da će do 2025. godine preko 80% GPU-a na Blackwell platformi biti high-end, što će podstaći kompanije za napajanje i hlađenje da se takmiče na tržištu AI tečnog hlađenja, što će rezultirati novom dinamikom industrije.

 

 

I Google agresivno proširuje rješenja za hlađenje tekućinom

 

Posljednjih godina, velike američke kompanije u oblaku poput Googlea, AWS-a i Microsofta brzo su izgradile AI servere prvenstveno pokretane NVIDIA GPU-ima i vlasničkim ASIC-ima. TrendForce izvještava da NVIDIA-in GB200 NVL72 kabinet ima toplotnu snagu (TDP) od približno 140 kW, što zahtijeva rješenje za hlađenje tekućinom, pretežno tečnost-vazduh (L2A). Druge arhitekture, kao što su HGX i MGX Blackwell serveri, prvenstveno koriste vazdušno hlađenje zbog manje gustine.

 

Za kompanije u oblaku koje razvijaju svoje AI ASIC-ove, Google-ov TPU je usvojio rješenja za hlađenje zraka i tekućine, što ga čini liderom u hlađenju tekućinom među američkim preduzećima. BOYD i Cooler Master su ključni dobavljači hladnih ploča. Kineski Alibaba je najagresivniji u širenju centara podataka hlađenih tekućinom, dok druge kompanije u oblaku nastavljaju favorizirati zračno hlađenje za svoje AI ASIC-ove.

 

TrendForce ukazuje da će kompanije u oblaku navesti ključne dobavljače komponenti za rešenje za tečno hlađenje kabineta GB200. Primarni dobavljači rashladnih ploča su Qihong i Cooler Master, dok razdjelnici dolaze od Cooler Master i Shuanghong, a jedinice za distribuciju rashladne tekućine (CDU) isporučuju Vertiv i Delta. Nabavkom ključnih komponenti otpornih na curenje, kao što su brzi rastavljači (QD), i dalje dominiraju strani proizvođači kao što su CPC, Parker Hannifin, Danfoss i Staubli.

 

▲ Dobavljači ključnih komponenti AI servera za rješenja za hlađenje tekućinom

 

 

II Kako se pozabaviti pregrijavanjem AI čipa? Istražite 3 metode hlađenja servera

 

Prije nego što dublje uđete u takmičenje u hlađenju, bitno je razumjeti primarne metode hlađenja, koje se mogu kategorizirati u tri tipa: hlađenje zrakom, hlađenje tekućinom i hlađenje potapanjem.

 

1. Vazdušno hlađenje: još uvijek vrlo zahtjevno

Vazdušno hlađenje je najrasprostranjenija metoda hlađenja u podatkovnim centrima i poslovnim serverskim sobama, slično pružanju hladnog zraka serverima putem ventilatora, hladnjaka i toplotnih cijevi. Da bi se postigle optimalne performanse hlađenja, neophodna je napredna tehnologija vazdušnog hlađenja kao što su parne komore (3D VC) u kombinaciji sa toplotnim cevima i brojnim ventilatorima. Međutim, dok povećan protok vazduha i brzina povećavaju toplotnu konvekciju, prekomerna buka i vibracije mogu negativno uticati na okruženje servera. Prema Wu Junyingu, zamjeniku generalnog direktora, vazdušno hlađenje i dalje ima značajnu potražnju na tržištu jer se H100 čipovi mogu adekvatno hladiti zrakom. Međutim, sa isporukom čipova serije GB, tempo usvajanja tečnog hlađenja će se ubrzati.

 

2. Tečno hlađenje: Glavno tržište koje traže svi dobavljači

Hlađenje tekućinom, također poznato kao direktno hlađenje tekućinom (DLC), može se dalje podijeliti na tekućina-vazduh i tekućina-tečnost.

Tečnost-vazduh: Ova metoda koristi cijevi za hlađenje vodom za odvođenje topline od čipsa, a zagrijana voda se šalje ventilatorima na stražnjoj strani ormarića kako bi raspršili toplinu. Hlađenje tečnost-vazduh je odgovor na fizička ograničenja vazdušnog hlađenja u postojećim data centrima, jer zahteva minimalnu modifikaciju infrastrukture serverske sobe – samo dodavanje stražnjih vrata ventilatora može poboljšati hlađenje. Trenutno, oko 60-70% centara podataka još uvijek koristi ovu metodu hlađenja. Međutim, iako je tečnost-vazduh održivo rješenje, ono nije optimalno; Dodatni zid ventilatora može podići nivo buke na 90-100 decibela (ekvivalentno prometnoj ulici na oko 80 decibela), što otežava osoblju rad u prostoriji tokom dužeg perioda.

 

Tečnost u tečnost: Ova metoda uključuje zatvaranje zatvorenih cevovoda napunjenih rashladnom tečnošću oko komponenti servera koje stvaraju toplotu. Toplota se prenosi kroz termalne bakarne ploče do rashladne tečnosti, omogućavajući ciklus razmene tople i hladne tečnosti. Za razliku od tečnost-vazduh, ovaj metod ne zahteva zidove ventilatora iza serverskih ormara, što značajno poboljšava iskorišćenost prostora i smanjuje nivoe buke. NVIDIA high-end GB200 NB072 koristi hlađenje tečnost-tečnost.

 

3. Hlađenje potapanjem: Sveti gral budućeg hlađenja?

Imerziono hlađenje uključuje uranjanje čitavih servera u neprovodnu tečnost, slično vrućoj kupki, efikasno hlađenje ne samo čipova već i CPU-a, memorije i drugih elektronskih komponenti unutar servera. Međutim, pitanja kao što su ekološka zabrinutost u vezi sa tečnostima za uranjanje, dugoročni efekti na elektronske komponente i tekuće održavanje predstavljaju značajne izazove. Centri podataka koji razmatraju rješenja za uranjanje također moraju procijeniti strukturni integritet podova zgrada i temeljnu infrastrukturu za električne i vodovodne sisteme. Implementacija imersionog hlađenja zahtijeva opsežan redizajn postrojenja, što rezultira značajnim troškovima.