Rastuća potražnja izaziva revoluciju računarske snage, tečno hlađenje će snažno potaknuti rast industrije!

 

Od 2023. OpenAI-jev AI model chatbot, ChatGPT, dobio je široko priznanje. Koristi velike količine podataka o obuci za simulaciju ponašanja ljudskog jezika, generirajući tekst kroz semantičku analizu, omogućavajući mu interakciju s korisnicima na prirodan i realističan način, koji se često ne razlikuje od ljudske interakcije.

 

U mnogim oblastima, poput stvaranja poezije i pisanja scenarija, čak i prevazilazi ljudske sposobnosti. Međutim, razvoj umjetne inteligencije zahtijeva izuzetno moćnu računarsku snagu, što dovodi do povećane potrošnje energije servera, veće gustine energije po jedinici u podatkovnim centrima i sve veće potrošnje energije. Tradicionalna tehnologija zračnog hlađenja više ne može zadovoljiti potrebe za hlađenjem, čineći hlađenje tekućinom neophodnošću koja će nesumnjivo potaknuti rast industrije!

 

▲ OpenAI-jev AI model chatbot, ChatGPT

 

 

Ⅰ Eksplozivni uspjeh ChatGPT-a: Koju vrstu računarske snage zahtijeva?

 

Podaci, algoritmi i računarska snaga su tri ključna elementa umjetne inteligencije, pri čemu se računska snaga naziva "motor" ili "motor" AI. I podaci i algoritmi se oslanjaju na računarsku snagu. Prema procjenama OpenAI-a, od 2012. godine, računarska snaga potrebna za obuku najboljih svjetskih AI modela se udvostručila otprilike svakih 3-4 mjeseci, s godišnjim povećanjem računarske snage potrebne za vrhunske modele za obuku koji je dostigao čak deset puta. Tokom faze obuke, ChatGPT je potrošio ukupno oko 3640 PF-dana (što znači da je trčao sa efikasnošću od 1 PetaFLOP/s tokom 3640 dana). Ovo naglašava da je jaka računarska snaga ključ za podršku daljnjoj primjeni i popularizaciji sadržaja generiranog umjetnom inteligencijom (AIGC) u budućnosti.

 

Uzmimo ChatGPT kao primjer: podržava ga GPT-3.5 model, koji je prošao kroz tri iteracije (GPT-1, GPT-2, GPT-3), pri čemu se broj parametara povećava sa 117 miliona na 175 milijardi, a količina podataka prije obuke raste sa 5GB na 45TB (ekvivalentno 160 puta više od cijele engleske verzije Wikipedije). Ova ogromna količina podataka i izračunavanja zahtijeva veću računarsku snagu da podrži svoj rad. Prema podacima Similarweba, u januaru 2023. ChatGPT je imao oko 13 miliona dnevno aktivnih korisnika, od kojih je svaki postavljao pitanja u prosjeku oko 1,000 riječi.

 

To je generiralo ukupno oko 13 milijardi riječi (17,33 milijarde tokena). Pod pretpostavkom da su zadaci ravnomjerno raspoređeni tokom 24 sata, broj potrebnih A100 GPU-a bio bi 17,33 milijarde * 2 * 300 milijardi / (20% * 24 sata * 3600 sekundi)=601.75 PetaFLOP/S. S obzirom da postoje vršni promet, pod pretpostavkom da je vršni promet pet puta veći od dnevnog prosjeka, bilo bi potrebno ukupno 602 DGX A100 servera da bi se zadovoljila trenutna potražnja za prometom, što čini zahtjeve za računarskom snagom izuzetno strogim.

 

Ovo ilustruje da su za obuku još boljih AI modela i za istinsku primjenu AI modela u različitim industrijama potrebna efikasnija računarska snaga i obilniji računarski resursi. Računarska snaga je postala kritični faktor koji ograničava industrijalizaciju AI, i sigurno će pokrenuti novu revoluciju računarske snage! Sa brzim porastom potražnje za računarskom snagom AI, snaga povezanih CPU/GPU-a se ubrzava, što zahtijeva jača i efikasnija rješenja za hlađenje kako bi oprema radila nesmetano.

 

 

Ⅱ Ekstenzivne primene računarske snage

 

U eri digitalne ekonomije, računarska snaga nije samo ključni faktor produktivnosti, već će postati i univerzalno primijenjen. Kako izgradnja infrastrukture za računarsku snagu napreduje, novi modeli i poslovni oblici aplikacija računarske snage se brzo pojavljuju, duboko integrišući računarsku snagu u više industrija, kao što su proizvodnja, transport, obrazovanje, vazduhoplovstvo, finansije i mediji. Istovremeno, planiranje, upravljanje i trgovina računarskom snagom postaju žarišne tačke istraživanja industrije. Računarska snaga evoluira iz "resursa" u "faktor", postajući suštinski dio ljudske proizvodnje i života.

 

Razvoj različitih industrija izazvao je eksploziju potražnje za računarskom snagom. Da bi se maksimizirale performanse procesora, potrebna je veća efikasnost hlađenja, a tradicionalna tehnologija hlađenja zrakom više ne može zadovoljiti rastuće zahtjeve za računarskom snagom. Serveri za hlađenje tekućinom, sa svojim prednostima, će osvojiti značajan udio na tržištu i snažno pokrenuti razvoj industrije!

 

 

Ⅲ Značajno povećanje potražnje za tečnim hlađenjem

 

U 2022. godini, Intelovi serverski procesori četvrte generacije su imali potrošnju energije jednog CPU-a premašio je 350 vati, a potrošnja energije jednog NVIDIA GPU čipa premašila je 700 vati. Gustina računarske snage AI klastera generalno je dostigla 50 kW po ormariću, a tradicionalna tehnologija vazdušnog hlađenja više ne može da izdrži! Potrebna je veća efikasnost hlađenja da bi se maksimizirale performanse procesora.

 

U međuvremenu, iz perspektive politike, pokretanje kineskog projekta „Eastern Data, Western Computing“ i dvostruki ugljični ciljevi natjerali su industriju da posveti više pažnje očuvanju energije, smanjenju emisija i visokokvalitetnom razvoju. Postavljeni su stroži tehnički zahtjevi za efikasnost upotrebe energije (PUE) centara podataka, s prosječnim PUE novoizgrađenih velikih i super velikih podatkovnih centara u cijeloj zemlji koji će biti smanjen na ispod 1,3 i dalje smanjen na ispod 1,25 na nacionalnom nivou. čvorišta.

 

Tečno hlađenje zadovoljava tržišnu isplativost i potrebe za smjernicama u mnogim aspektima, uključujući ekonomsku efikasnost i performanse hlađenja, što ga čini i veoma vrijednim i ekonomski isplativim. Prema CCID Consultingu, očekuje se da će kinesko IDC tržište hlađenog tekućinom premašiti 120 milijardi juana do 2025. godine, sa stopom rasta od preko 30% i trenutnom stopom penetracije oko 20%. Potražnja za tekućim hlađenjem značajno raste, a izgledi na tržištu su obećavajući.

 

 

Ⅳ Industrijski lanac servera za tečno hlađenje

 

1. Panorama industrije hlađenja tekućinom

Industrija servera za tečno hlađenje obuhvata mnogo više od samo servera za tečno hlađenje; cijeli industrijski lanac je dugačak, sa širokim podpoljima i mnogim akterima koji učestvuju, što ga čini kapitalno intenzivnom industrijom.Tehnologija hlađenja tekućinom je trenutno u fazi brzog razvoja i ako relevantni igrači imaju prednosti u financiranju ili akviziciji kupaca, mogu izgraditi određene barijere za ulazak.

 

Preduzeća u različitim podoblastima postepeno se infiltriraju u srodna polja na osnovu svojih ključnih prednosti, izgrađujući sopstvene ekosisteme. Prema podjeli od infrastrukture do aplikacija, industrija podatkovnih centara hlađenih tekućinom može se podijeliti u tri glavna podpolja: infrastruktura za hlađenje tekućinom, industrija srednjeg toka i industrijske aplikacije.

 

Sektor infrastrukture za hlađenje tekućinom obezbjeđuje osnovnu opremu i objekte za izgradnju centara podataka hlađenih tekućinom. Podijeljena je na podoblasti kao što su tečni rashladni ormari, rashladna tečnost, sistemi za hlađenje, sistemi napajanja, mrežni sistemi i sistemi za upravljanje infrastrukturom data centara. Ove podoblasti uglavnom isporučuju opremu, softverske sisteme i rashladna sredstva za rad servera. Osim toga, sektor infrastrukture uključuje građevinske izvođače, mrežne operatere i dobavljače električne energije. Izvođači radova su odgovorni za izgradnju i montažu navedene opreme i objekata, mrežni operateri obezbjeđuju osnovni pristup mreži, a snabdjevači električnom energijom potrebnu za rad opreme. Ova područja pružaju relativno osnovno periferno okruženje za centre podataka.

 

Industrija srednjeg toka uključuje proizvođače servera, provajdere hostinga za data centar i neke nove učesnike. Proizvođači servera istražuju, dizajniraju i proizvode servere pogodne za okruženja sa tekućim hlađenjem ili direktno proizvode servere sa tekućim hlađenjem s hladnom pločom. Provajderi hostinga za podatkovne centre grade i upravljaju podatkovnim centrima, koristeći vlastite prednosti za integraciju resursa iz sektora infrastrukture i nudeći usluge hostinga servera korisnicima aplikacija. Kako se podatkovni centri brzo razvijaju, nove kompanije ulaze u područje podatkovnih centara hlađenih tekućinom.

 

Korisnici aplikacija centara podataka uglavnom su podijeljeni u tri podpolja: računalstvo u oblaku i moć računalstva u oblaku, internet i blockchain i drugi korisnici. Oni su primarni korisnici data centara. Cloud computing i cloud computing power provajderi ostvaruju prihod nudeći korisnicima fleksibilnu raspodjelu računarske snage i zakazivanje putem virtualizacije. Neke velike internet i blockchain kompanije često grade podatkovne centre direktno u suradnji s operaterima podatkovnih centara, dok drugi korisnici općenito ili direktno hostuju ili iznajmljuju servere ili resurse računarske energije od operatera podatkovnih centara.

 

2. Pregled industrije hlađenja tekućinom

U poređenju sa vazdušnim hlađenjem, tehnologija tečnog hlađenja nudi prednosti visoke stabilnosti i visoke efikasnosti hlađenja. Iz perspektive sveobuhvatne primjene, tekuće hlađenje postepeno otkriva svoje ekonomske prednosti kada gustine snage premašuju 15 kW po ormariću. PremaUPS aplikacijačasopisu, temperatura jezgre CPU servera sa tečnim hlađenjem može biti 20-30 stepen niža od maksimalne temperature u sistemima sa vazdušnim hlađenjem, značajno poboljšavajući pouzdanost.

 

Intelov bijeli papir,Inovacijske prakse zelenog podatkovnog centra - Referenca za dizajn sistema za hlađenje s hladnom pločom, pokazuje da vazdušno hlađeni data centri mogu tipično upravljati hlađenjem za ormare sa nivoima snage do 12 kW. Za ormare veće od 15 kW, postojeći zračno hlađeni podatkovni centri dostigli su plafon svojih mogućnosti hlađenja zračnom konvekcijom. Tehnologija hlađenja tekućinom, koja pruža jače mogućnosti hlađenja, može podržati veće gustine snage.

 

U poređenju sa rešenjima za vazdušno hlađenje, trend ka tečnom hlađenju koji pokreće AIGC i inicijative "Eastern Data, Western Computing" neizbežno će dovesti do porasta i obima i cene tržišta kontrole temperature data centara. Industrija servera hlađenih tekućinom slijedi tri tehnološka puta: hladna ploča, uranjanje i hlađenje raspršivanjem.Cold Plate Liquid Cooling uključuje metodu hlađenja u kojoj rashladna tečnost ne dolazi u direktan kontakt sa komponentama servera koje stvaraju toplotu.

 

▲ Hlađenje ploča

 

▲ Sistem za hlađenje raspršivanjem

 

▲ Jednofazno tečno lmmersion hlađenje

 

▲ Dvofazno hlađenje

 

Umesto toga, glavne komponente koje stvaraju toplotu su pričvršćene na hladnu ploču, a rashladna tečnost cirkuliše unutar unutrašnjeg sistema tečnosti za hlađenje hladne ploče kako bi uklonila toplotu. Da bi se poboljšale mogućnosti razmene toplote, površina razmene toplote mora biti maksimizirana, zahtevajući da hladna ploča bude što je moguće bliže pričvršćena za površinu komponenti servera koje stvaraju toplotu. Komponente koje stvaraju toplotu nepravilnog oblika teško se hlade ovom metodom. Za hladno hlađenje ploče pogodni su samo čipovi relativno pravilnog oblika.

 

Ovo predstavlja značajan problem za rješenja tečnog hlađenja s hladnom pločom: otprilike 30% topline servera, generisane drugim komponentama poput skladištenja, memorije i napajanja, i dalje zahtijeva tradicionalno hlađenje zraka. Ovo rezultira potrebom da se dva rashladna sistema istovremeno koriste u rješenjima za hlađenje tekućine s hladnom pločom, povećavajući i troškove i stvarni PUE sistem. Sadašnje rješenje za hladne ploče je relativno zrelo, sa čvrstim komercijalnim osnovama i već je imalo brojne komercijalne primjene.

 

▲ Rješenja za tečno hlađenje hladnih ploča

 

Immersion Liquid Cooling se odnosi na potpuno uranjanje serverske opreme u rashladnu tečnost, pri čemu se hlađenje postiže direktnim kontaktom između rashladne tečnosti i komponenti koje stvaraju toplotu. U ovoj metodi, komponente servera koje stvaraju toplotu su u potpunosti uronjene u rashladnu tečnost, omogućavajući dovoljan kontakt sa rashladnom tečnošću, koja kontinuirano odvodi proizvedenu toplotu, čime se hladi server. Imerzijsko hlađenje nudi veću efikasnost hlađenja, s potencijalom povećanja gustine snage po ormariću za više od tri puta. Očekuje se da će zauzimati više od 40% tržišta do 2025. godine, a serveri sa tekućim hlađenjem u potpunu imerziju će vjerovatno postati budući tehnološki trend.

 

▲ Tečno hlađenje potapanjem

 

Sistem za hlađenje tečnim hlađenjem u spreju je tehnologija tečnog hlađenja direktnog kontakta dizajnirana za precizno raspršivanje rashladne tečnosti na komponente servera koje stvaraju toplotu. Rashladna tečnost se nanosi direktno na uređaje koji generišu toplotu ili čvrste toplotno provodne materijale povezane sa njima, bilo gravitacijom ili pritiskom sistema. Ovaj proces omogućava izmjenu topline za hlađenje servera. Tokom razmene toplote, nivo rashladne tečnosti unutar servera se održava ispod komponenti koje stvaraju toplotu ili čvrstih toplotno provodnih materijala povezanih sa njima. Sistem koristi eksterne jedinice za izmjenu topline za hlađenje i recikliranje rashladne tekućine.

 

 

3. Pejzaž tržišta za hlađenje tekućinom

Kao napredna tehnologija, tečno hlađenje obuhvata više disciplina i polja, sa visokim tehničkim barijerama.

Trenutno, usvajanje tehnologije tekućeg hlađenja među domaćim i međunarodnim proizvođačima infrastrukture data centara ostaje relativno nisko, s nekoliko kompanija koje ovladaju ovom tehnologijom.

 

Međutim, nekoliko kompanija u zemlji i inostranstvu počelo je da nudi prilagođena rješenja za hlađenje tekućinom svojim klijentima, a neke tehnološke kompanije postupno grade i postavljaju vlastite podatkovne centre hlađene tekućinom. Uprkos tome, stopa usvajanja tehnologije tekućeg hlađenja među proizvođačima infrastrukture data centara i dalje je niska, a tržište tek treba da vidi pojavu dominantnih lidera, ostavljajući konkurentski krajolik još uvijek neizvjesnim.

 

Na kineskom tržištu, neke kompanije su kroz godine tehnološke akumulacije i iskustva pokazale značajne tehničke i tržišne prednosti, te se očekuje da će u budućnosti vodeće kompanije dominirati tržištem, formirajući konkurentski krajolik u kojem glavni igrači imaju značajan tržišni udio. .

 

4. Tečno hlađenje na nivou čipa

Smanjenje udaljenosti između opreme za hlađenje tekućinom i osnovnih izvora topline poput čipsa važan je trend. U budućnosti se očekuje da će hlađenje evoluirati sa nivoa sobe, kabineta i servera na nivo čipa, postižući bolje hlađenje čipa kroz direktan kontakt između komponenti za hlađenje i površine čipa. Tečni rashladni uređaji rasipaju toplotu tako što pomeraju velike količine toplote kroz trenje između toka tečnosti i unutrašnje površine radijatora. U poređenju sa konvencionalnim sistemima vazdušnog hlađenja, tečno hlađenje može značajno poboljšati efikasnost hlađenja. Trenutno se tehnologija tekućeg hlađenja uglavnom dijeli na indirektne i direktne tipove.

 

Prema najnovijimPraćenje polugodišnjeg tržišta servera za tečno hlađenje u Kini (druga polovina 2022.).U izvještaju koji je objavila International Data Corporation (IDC), kinesko tržište servera za tekuće hlađenje dostiglo je 1,01 milijardu dolara u 2022. godini, što predstavlja rast od 189,9% u odnosu na prethodnu godinu. IDC predviđa da će od 2022. do 2027. ukupna godišnja stopa rasta kineskog tržišta servera za tečno hlađenje dostići 56,6%, a očekuje se da će veličina tržišta dostići 9,5 milijardi dolara do 2027. godine, što ukazuje na svijetlu budućnost za industriju tečnog hlađenja!

 

 

▲ Prognoza za tržište servera hlađenih tekućinom u Kini od 2023. do 2027.