Kada AI serveri zahtijevaju višu tehnologiju hlađenja! Zašto se trend pomjera sa "zračnog hlađenja" na "tečno hlađenje"
Aug 23, 2024
Ostavi poruku
Izvršni direktor NVIDIA-e Jensen Huang posebno se pojavio na COMPUTEX-u 2023 kako bi podržao govor predsjednika Supermicro-a Charlesa Lianga. Predsjedavajući Fannera Lin Yushen je istakao da većina serverskih proizvoda prikazanih na bini sadrži Fannerove module za hlađenje vodom. Fanner, koji je godinama ulagao u module za vodeno hlađenje, dobro je pozicioniran da iskoristi ovaj AI talas. Međutim, kako AI serveri zahtijevaju sve više standarde hlađenja, zašto se trend pomjera sa "zračnog hlađenja" na "hlađenje tekućinom"?
I Od rada velike brzine do tečnog hlađenja
Što se tiče tehnologije hlađenja, Lin Yushen je napomenuo da trenutni moduli za hlađenje uglavnom koriste hibridnu tehnologiju hlađenja koja uključuje toplotne cijevi. Ovi moduli za hlađenje toplotnih cevi kombinuju komponente poput ventilatora, hladnjaka i toplotnih cevi kako bi stvorili uravnoteženo termalno okruženje za unutrašnje elektronske komponente, čime se povećava stabilnost elektronskih uređaja. Međutim, kako elektronski proizvodi terminalnih terminala postaju multifunkcionalni i kompaktniji, proizvođači rashladnih modula prešli su na dizajniranje rashladnih rješenja usredotočenih na parne komore i toplinske cijevi.
Trenutno su moduli za hlađenje podijeljeni u dva tipa: "zračno hlađenje" i "hlađenje tekućinom". Vazdušno hlađenje koristi vazduh kao medij, sa materijalima kao što su materijali za termičku vezu, parne komore (VC) ili toplotne cevi koje provode toplotu, koja se zatim raspršuje kroz hladnjake ili ventilatore putem konvekcije vazduha. Nasuprot tome, tečno hlađenje raspršuje toplotu kroz tečnu konvekciju, uključujući imerzijsko hlađenje, koje hladi čips efikasnije. Međutim, kako čipovi stvaraju više topline i postaju manji, te kako se povećava termička projektirana snaga (TDP), hlađenje zrakom postepeno postaje nedovoljno.

▲ Poređenje između zračnog hlađenja i tehnologija hlađenja tekućinom
Sa porastom ChatGPT-a, generativna AI je dovela do povećanja isporuka servera, što je zauzvrat dovelo do nadograđenih specifikacija za module za hlađenje, gurajući ih ka rješenjima za hlađenje tekućinom kako bi se ispunili strogi zahtjevi za hlađenje i stabilnost servera. Lin Yushen je naglasio da je Fanner počeo s tehnologijom hlađenja zraka i već prije deset godina počeo nabavljati tehnologiju tekućeg hlađenja putem IBM-ovog transfera tehnologije. Osigurali su stražnja vrata za vodeno hlađenje koja su omogućavala klijentima da dodaju vodeno hlađenje u ormare bez modifikacije postojeće infrastrukture podatkovnog centra.
II Do 2025. godine, nova era istovremenog hlađenja zrakom i tekućinom
Potaknuto razvojem poluvodičke tehnologije koja se odnosi na AI aplikacije, uvođenje GPT-3 u ChatGPT povećalo je parametre AI algoritma na 175 milijardi, što je zahtijevalo stostruko povećanje računarske snage GPU-a. Industrija prvenstveno koristi tehnologiju jednofaznog hlađenja uronjavanjem unutar tečnog hlađenja kako bi riješila izazove rasipanje topline servera ili komponenti visoke gustine. Međutim, ova metoda ima ograničenje od 600W, dok potrebe za hlađenjem za ChatGPT ili naprednije servere prelaze 700W.

▲ Ilustracija tehnologije jednofaznog hlađenja potapanjem
Sa razvojem IoT-a, rubnog računarstva i 5G aplikacija, AI podataka pokreće globalnu računarsku snagu u fazu visokog rasta. Sljedeća generacija dizajna rashladnih modula slijedit će dva glavna smjera: nadogradnja postojećih rashladnih modula s 3D parnim komorama (3DVC) ili uvođenje sistema za hlađenje tekućinom koji koriste tekućinu kao toplinski konvekcijski medij za poboljšanje efikasnosti hlađenja. Kao rezultat toga, broj testova tekućeg hlađenja značajno se povećao u 2023. Međutim, 3DVC je u konačnici prelazno rješenje i očekuje se da će do 2024-2025 početi era istovremenog hlađenja zraka i tekućine.
Prema TrendForce-u, 2022. godine, AI serveri opremljeni GPGPU-ima (GPU-ovi opšte namene) činili su oko 1% ukupnih isporuka. Međutim, vođeni primjenom ChatGPT-a, očekuje se da će isporuke AI servera porasti za 38,4% u 2023., s tim da će ukupna godišnja stopa rasta isporuka AI servera između 2022. i 2026. dostići 29%.
III "Liquid Cooling" će postati mainstream za AI čipove
Kako se TDP nove generacije servera približava granicama vazdušnog hlađenja, vodeće tehnološke kompanije počinju da testiraju tečno hlađenje ili povećavaju prostor za hlađenje. Na primjer, Intelov Eagle Stream i AMD-ov Genoa TDP od 350-400W dostigli su granice vazdušnog hlađenja, čineći tečno hlađenje glavnim rješenjem za AI čipove. NVIDIA-in H100 ima TDP od 700W, a vazdušno hlađenje pomoću 3DVC generalno zahteva više od 4U prostora, što nije pogodno za arhitekture visoke gustine primene.

▲ NVIDIA-in H100
S obzirom na to da sistemi za hlađenje čine približno 33% ukupne potrošnje energije u podatkovnim centrima, smanjenje ukupne potrošnje energije i poboljšanje efikasnosti upotrebe energije (PUE) uključuje optimizaciju rashladnih sistema, IT opreme i korištenje obnovljive energije. Pošto je toplotni kapacitet vode četiri puta veći od vazduha, implementacija sistema za tečno hlađenje zahteva samo 1U prostora za ploču za tečno hlađenje. Prema NVIDIA-inim testovima, da bi se postigla ista računarska snaga, tečno hlađenje može smanjiti broj potrebnih ormara za 66%, potrošnju energije za 28%, a PUE sa 1,6 na 1,15, uz istovremeno poboljšanje performansi računara.
IV Supermicro-ova upotreba modula za hlađenje ventilatora je ključna
Hlađenje tekućinom se dalje dijeli na "vodeno hlađenje" i "hlađenje uljem", pri čemu je vodeno hlađenje trenutno najčešće korišteno. Lin Yushen je napomenuo da skoro svi AI serveri sada koriste rješenja za hlađenje vodom. Na primjer, NVIDIA-in GH100, sa TDP-om koji prelazi 700W, mora koristiti vodeno hlađenje. Iako vodeno hlađenje trenutno čini mali dio prihoda Fannera, prosječna prodajna cijena (ASP) AI servera je deset puta veća od one tradicionalnih servera, što će pomoći transformaciji Fannerove strukture proizvoda u drugoj polovini godine. Procjenjuje se da bi AI serveri mogli činiti 5-10% njihovog poslovanja 2023. godine.
Lin Yushen je naglasio da je ključni razlog zašto Supermicro koristi module za vodeno hlađenje iz Fannera za servere opremljene NVIDIA GH100 GPU-ima taj što Fanner radi na rješenjima za hlađenje tekućinom više od jedne decenije. Dok izazovi implementacije vodenog hlađenja uglavnom uključuju troškove i prevenciju curenja, Fannerovo više od deset godina istraživanja postepeno je prevazišlo ove probleme curenja. Dugoročna investicija Fannera u module za vodeno hlađenje ih je pozicionirala da iskoriste ovaj AI talas.

▲ Supermicro prilagođeno tečno hlađenje
Lin Yushen je naglasio da su kontinuirano povećanje TDP-a uzrokovano brzim računarstvom i rastućim zahtjevima za hlađenjem AI servera doveli tradicionalno hlađenje toplotnih cijevi do krajnjih granica, zahtijevajući usvajanje modula za vodeno hlađenje. Fanner već ima nekoliko kupaca, uključujući Supermicro i Meta, koji su usvojili njihova rješenja. Uprkos bržem usvajanju vodenog hlađenja nego što se očekivalo, malo je vjerovatno da će ono biti u potpunosti implementirano 2023. Međutim, očekuje se značajan napredak do 2024. godine, sa eksplozivnim rastom koji se očekuje 2025. godine.
