Uspon rješenja za hlađenje tekućinom u AI serverima: TrendForce analiza

 

Ⅰ Uvod

 

Prema najnovijem istraživanju TrendForce-a, očekuje se da će stopa prodora rješenja za tečno hlađenje porasti, podstaknuta očekivanom isporukom NVIDIA Blackwell platforme u četvrtom kvartalu 2024. godine. Predviđa se da će se ova stopa povećati sa oko 10% u 2024. na preko 20% u 2025. Rastuća globalna svijest o faktorima okoliša, društva i upravljanja (ESG), zajedno sa ubrzanom izgradnjom AI servera od strane dobavljača usluga u oblaku (CSP), utire put za značajan pomak od tradicionalnog hlađenja zraka na napredna rješenja za hlađenje tekućinom.

 

Tečno hlađenje nudi nekoliko prednosti u odnosu na vazdušno, uključujući poboljšano upravljanje toplotom, smanjen nivo buke i povećanu energetsku efikasnost. Kako potražnja za AI mogućnostima raste, posebno u aplikacijama sa intenzivnim podacima, prelazak na sisteme za tečno hlađenje postaje sve kritičniji za održavanje optimalnih performansi servera.

 

▲ Tečni sistem hlađenja koji se koristi u okruženjima AI servera

 

 

Ⅱ NVIDIA dominacija na tržištu AI servera

 

Na globalnom tržištu AI servera, NVIDIA nastavlja da dominira, držeći tržišni udio blizu 90% u segmentu GPU AI servera od 2024. AMD značajno zaostaje sa približno 8% tržišnog udjela. Ova dominacija je uglavnom zahvaljujući NVIDIA-inoj najsavremenijoj tehnologiji i njenom robusnom ekosistemu, koji podržava širok spektar aplikacija u AI, mašinskom učenju i analizi podataka.

 

TrendForce napominje da je obim isporuke NVIDIA Blackwell ove godine relativno mali. To je prvenstveno zato što je platforma podvrgnuta završnom testiranju i procesima validacije unutar lanca nabavke, koji zahtijevaju stalnu optimizaciju u područjima kao što su prijenos podataka velike brzine i dizajn hlađenja. Povećana potrošnja energije Blackwell platforme, posebno u rješenju rek GB200, zahtijeva superiornu efikasnost hlađenja, dodatno ubrzavajući usvajanje rješenja za hlađenje tekućinom.

 

▲ NVIDIA Blackwell platforma za AI servere

 

Uprkos prednostima tečnog hlađenja, trenutni serverski ekosistem i dalje pokazuje nisku stopu usvajanja ove tehnologije. Proizvođači originalnog dizajna (ODM) moraju se kretati krivom učenja kako bi odgovorili na izazove koji se odnose na curenje i efikasnost hlađenja. Kako se očekuje da će udio vrhunskih GPU-a na Blackwell platformi premašiti 80% do 2025. godine, to će zapaliti konkurenciju među proizvođačima napajanja i industrijom hlađenja na tržištu tekućih hlađenja u razvoju, što će dovesti do novog konkurentskog pejzaža.

 

 

 

Ⅲ Ubrzana implementacija od strane velikih CSP-ova

 

Glavni provajderi usluga u oblaku, uključujući Google, AWS i Microsoft, ubrzano su ubrzali implementaciju AI servera u posljednjih nekoliko godina, pretežno koristeći NVIDIA GPU i ASIC-ove koji su sami razvili. Snaga termičkog dizajna (TDP) NVIDIA-inog GB200 NVL72 ormarića je približno 140 kW, što naglašava hitnu potrebu za rješenjima za hlađenje tekućinom kako bi se efikasno upravljalo rasipanjem topline. Očekuje se da će metode hlađenja tečnost-vazduh (L2A) postati glavni pristup u ovom kontekstu.

 

▲ Primena AI servera u centrima podataka

 

Dok NVIDIA GPU-ovi dominiraju, Google je takođe bio proaktivan u istraživanju rješenja za hlađenje tekućinom za svoje Tensor Processing Units (TPU). Googleova posvećenost ovoj tehnologiji pozicionira ga kao američku kompaniju koja najviše razmišlja u budućnosti u usvajanju tečnog hlađenja. BOYD i Cooler Master su primarni dobavljači za Googleove hladne ploče, koje su ključne za održavanje optimalnih temperatura u računarskim okruženjima visokih performansi.

 

U kontinentalnoj Kini, Alibaba agresivno širi svoje podatkovne centre za tekuće hlađenje, dodatno naglašavajući globalni pomak ka ovoj naprednoj tehnologiji hlađenja. Ostali dobavljači usluga u oblaku prvenstveno se i dalje oslanjaju na rješenja za hlađenje zraka za svoje samorazvijene AI ASIC-ove, što može ometati performanse u poređenju sa sistemima hlađenim tekućinom.

 

 

Ⅳ Ključni dobavljači i oznaka komponenti

 

Kako prelazak na tečno hlađenje dobija na zamahu, provajderi usluga u oblaku određuju ključne dobavljače komponenti za rješenja tečnog hlađenja kabineta GB200. Trenutno, Qihong i Cooler Master su vodeći dobavljači za hladne ploče, dok se komponente razdjelnika nabavljaju od Cooler Mastera i Shuanghonga. Jedinice za distribuciju rashladne tečnosti (CDU) obezbeđuju lideri u industriji kao što su Vertiv i Delta.

 

Za ključne komponente za prevenciju curenja kao što su brzi rastavljači (QD), proizvođači kao što su CPC, Parker Hannifin, Danfoss i Staubli uvelike su uključeni u nabavku. Kako dodatni dobavljači kao što su Jiazhe i Fushida uđu u fazu validacije, oni će imati prilike da isporuče komponente za brzo isključenje u prvoj polovini 2025. godine, pomažući da se ublaži trenutna neravnoteža između ponude i potražnje.

 

▲ Ključni dobavljači komponenti za tečno hlađenje

 

 

Ⅴ Prednosti tečnog hlađenja

 

Poboljšana efikasnost hlađenja

Sistemi za hlađenje tekućinom su dizajnirani da uklanjaju toplinu efikasnije od sistema za hlađenje zraka. Ovo je posebno važno u AI aplikacijama gdje procesori mogu generirati značajnu toplinu zbog visokih računskih zahtjeva. Koristeći tečnost za apsorpciju i prenošenje toplote sa komponenti, serveri mogu da rade na nižim temperaturama, smanjujući rizik od toplotnog prigušenja i poboljšavajući performanse.

 

Optimizacija prostora

Sistemi za tečno hlađenje često zauzimaju manje prostora od tradicionalnih rešenja za vazdušno hlađenje, omogućavajući efikasniji dizajn data centra. Ovaj atribut koji štedi prostor je posebno koristan za organizacije koje žele da maksimiziraju svoj kapacitet servera bez proširenja svog fizičkog otiska.

 

Energetska efikasnost

Uz sve veći fokus na održivost i energetsku efikasnost, rješenja za tekuće hlađenje mogu pomoći u smanjenju ukupne potrošnje energije u podatkovnim centrima. Minimiziranjem oslanjanja na ventilatore i jedinice za klimatizaciju, tečno hlađenje može smanjiti troškove energije i ugljične otiske, usklađujući se s ESG ciljevima kojima mnoge kompanije nastoje postići.

 

Smanjenje buke

Sistemi za hlađenje tekućinom rade tiše od tradicionalnih sistema hlađenja zrakom, što dovodi do ugodnijeg radnog okruženja u podatkovnim centrima. Ovo smanjenje buke je važno za objekte koji se nalaze u blizini naseljenih mesta ili unutar poslovnih zgrada.

 

 

Ⅵ Rješavanje uobičajenih izazova

 

Uprkos prednostima, prelazak na tečno hlađenje dolazi sa izazovima. To uključuje:

 

Početni troškovi

Unapred ulaganje u sisteme za tečno hlađenje može biti veće od tradicionalnih rešenja za hlađenje vazduha. Organizacije moraju odmjeriti ove troškove u odnosu na dugoročne koristi i uštede u energetskoj efikasnosti i održavanju.

 

Zabrinutost zbog curenja

Jedan od najznačajnijih izazova povezanih s tekućim hlađenjem je rizik od curenja. Odgovarajući dizajn, izbor materijala i protokoli održavanja su od suštinskog značaja za ublažavanje ovog rizika i osiguravanje pouzdanosti sistema.

 

Složenost održavanja

Sistemi za tečno hlađenje zahtevaju složenije održavanje u odnosu na sisteme sa vazdušnim hlađenjem. Organizacije moraju obučiti svoje osoblje ili angažovati specijalizovane pružaoce usluga kako bi osigurale da rješenja za hlađenje tekućinom ostanu efikasna i bez problema.

 

 

Ⅶ Budući trendovi u tečnom hlađenju

 

Kako potražnja za AI računarstvom i dalje raste, očekuje se da će nekoliko budućih trendova oblikovati pejzaž tečnog hlađenja:

 

Usvajanje hibridnih rješenja

Hibridni sistemi hlađenja koji kombinuju tehnologije hlađenja vazduha i tekućine će verovatno dobiti na snazi. Ovi sistemi mogu pružiti fleksibilnost i efikasnost, prilagođavajući se različitim radnim opterećenjima i operativnim potrebama.

 

Napredni materijali

Razvoj naprednih materijala za komponente za tekuće hlađenje može poboljšati performanse i pouzdanost. Inovacije u nauci o materijalima mogu dovesti do lakših, izdržljivijih i efikasnijih rješenja za hlađenje.

 

Integracija sa AI i IoT-om

Integracija AI i IoT tehnologija u sisteme za hlađenje može optimizirati performanse omogućavajući praćenje u realnom vremenu i automatizirana prilagođavanja na osnovu uslova okoline i opterećenja servera.

 

Fokus na održivost

Kako kompanije sve više daju prioritet održivosti, rješenja za tekuće hlađenje koja koriste ekološki prihvatljive rashladne tekućine i materijale će postati sve zastupljenija. Industrija bi mogla vidjeti pomak ka sistemima zatvorene petlje kako bi se smanjio otpad i utjecaj na okoliš.

 

▲ Budući trendovi u tehnologiji tekućeg hlađenja

 

 

 

Ⅷ Zaključak

 

Prelazak sa rješenja za hlađenje zraka na tečno hlađenje u AI serverima predstavlja značajnu evoluciju u industriji, vođenu napretkom tehnologije i sve većom potražnjom za efikasnim upravljanjem toplinom. S obzirom da NVIDIA prednjači na tržištu AI servera i da veliki provajderi usluga u oblaku poput Googlea aktivno istražuju opcije tekućeg hlađenja, krajolik se brzo mijenja.

 

Razumijevanjem prednosti i izazova tekućeg hlađenja, kao i ključnih aktera uključenih u njegovu implementaciju, organizacije se mogu bolje pozicionirati kako bi iskoristile ovu tehnologiju za poboljšane performanse, održivost i konkurentnost u AI pejzažu. Kako industrija napreduje, rješenja za tekuće hlađenje će igrati ključnu ulogu u oblikovanju budućnosti podatkovnih centara, osiguravajući da oni mogu ispuniti zahtjeve AI aplikacija sljedeće generacije.