Nvidia drastično poboljšava tekuće hlađenje

Tradicionalno, podatkovni centri oslanjali su se na hlađenje zrakom, gdje mehanički rashladni uređaji cirkuliraju ohlađeni zrak kako bi apsorbirali toplinu s poslužitelja, pomažući im u održavanju optimalnih uvjeta.

Ali kako se modeli umjetne inteligencije povećavaju u veličini, a upotreba modela razmišljanja umjetne inteligencije raste, održavanje tih optimalnih uvjeta ne samo da postaje sve teže i skuplje, već i energetski intenzivnije.

Dok su podatkovni centri nekoć radili s 20 kW po stalku, današnja hiperskalirana postrojenja mogu podržati više od 135 kW po stalku, zbog čega je za red veličine teže raspršiti toplinu koju stvaraju stalci visoke gustoće. Kako bi AI poslužitelji radili s vrhunskom izvedbom, potreban je novi pristup za učinkovitost i skalabilnost.

Jedno ključno rješenje je hlađenje tekućinom, smanjenjem ovisnosti o rashladnim uređajima i omogućavanjem učinkovitijeg odbijanja topline.

Nvidia kaže da su njezini sustavi NVIDIA GB200 NVL72 i NVIDIA GB300 NVL72, hlađeni tekućinom, dizajnirani da se nose sa zahtjevnim zadacima zaključivanja velikih jezičnih modela s bilijunima parametara. Njihova je arhitektura također posebno optimizirana za točnost i izvedbu skaliranja vremena testiranja, što je čini idealnim izborom za pokretanje AI modela uz učinkovito upravljanje troškovima energije i topline.

Hlađenje tekućinom pomaže smanjiti troškove i potrošnju energije hvatanjem topline izravno na izvoru. Umjesto da se oslanja na zrak kao posrednika, tekuće hlađenje izravno na čip prenosi toplinu u petlji tehnološkog sustava hlađenja. Ta se toplina zatim cirkulira kroz jedinicu za distribuciju rashladne tekućine putem izmjenjivača topline tekućina-tekućina i na kraju se prenosi u rashladnu petlju objekta. Zbog veće učinkovitosti ovog prijenosa topline, podatkovni centri mogu učinkovito raditi s toplijim temperaturama vode, smanjujući ili eliminirajući potrebu za mehaničkim rashladnim uređajima u širokom rasponu klimatskih uvjeta.

NVIDIA GB200 NVL72 rack-scale, sustav hlađen tekućinom, izgrađen na platformi NVIDIA Blackwell, nudi iznimne performanse dok uravnotežuje troškove energije i topline. Sadrži do sada neviđenu gustoću računanja u svaki serverski stalak, 25x veću energetsku učinkovitost i 300x veću učinkovitost vode od tradicionalnih arhitektura sa zračnim hlađenjem. Noviji NVIDIA GB300 NVL72 sustavi izgrađeni na Blackwell Ultra platformi mogu se pohvaliti 35x većom propusnošću uz 30x veću energetsku učinkovitost.

Podatkovni centri troše procijenjenih 1,9-2,8 milijuna USD po megavatu (MW) godišnje, što iznosi gotovo 500.000 USD godišnje potrošenih na troškove energije i vode povezane s hlađenjem. Uvođenjem tekućeg hlađenog sustava GB200 NVL72, hiperrazmjerni podatkovni centri i AI tvornice mogu postići do 25x uštede troškova, što dovodi do više od 4 milijuna dolara godišnje uštede za 50 MW hiperrazmjerni podatkovni centar.

Za operatere podatkovnih centara i tvornica s umjetnom inteligencijom to znači niže operativne troškove, poboljšanu metriku energetske učinkovitosti i infrastrukturu okrenutu budućnosti koja učinkovito skalira radna opterećenja s umjetnom inteligencijom — bez neodrživog vodenog otiska naslijeđenih metoda hlađenja.

Za razliku od hlađenja isparavanjem ili hlađenja uranjanjem, NVL72 hlađenje tekućinom je sustav zatvorene petlje, tako da rashladna tekućina ne isparava niti zahtijeva zamjenu zbog gubitka uslijed promjene faze, čime se štedi voda.

U arhitekturi NVL72, toplina koju apsorbira tekuća rashladna tekućina zatim se prenosi u rashladnu infrastrukturu podatkovnog centra kroz izmjenjivače topline tekućina-tekućina na razini stalka. Ove jedinice za distribuciju rashladne tekućine (CDU), kao što je CoolIT CHx2000, sposobne su upravljati do 2 mW kapaciteta hlađenja, podržavajući implementacije visoke gustoće s niskim toplinskim otporom i pouzdanim odbacivanjem topline.