Nvidias væskekjølingsrevolusjon for AI-server

Strømforbruket til banebrytende AI-brikker øker stadig, noe som har blitt en katalysator for neste generasjon DGX AI-servere til å skifte mot væskekjøling. Den nåværende TDP (thermal design power) til Nvidias flaggskip H100 GPU er 700W, som har overskredet grensen for tradisjonell luftkjøling. Det er forventet at Nvidia vil lansere Blackwell-arkitekturen B100 GPU med en TDP på ​​cirka 1000W senere i år, og væskekjøling vil definitivt være nødvendig på det tidspunktet.

For datasystemer med høy ytelse har væskekjøling flere viktige fordeler fremfor luftkjøling:
Utmerket varmeoverføringseffektivitet gjør at komponenter med høyere TDP kan avkjøles fullstendig
På grunn av redusert etterspørsel etter høyhastighetsvifter er driften mer stillegående
Systemdesignet er tettere, og klumpete kjøleribber og vifter tar mindre plass
Potensial for å fange og gjenbruke spillvarme i væske-væske varmevekslere

Ved å bruke væskekjøling kan Nvidia fortsette å overskride ytelsesgrensene til AI-akseleratorer uten å være begrenset av kjølesystemet. Ettersom kompleksiteten til treningsbelastningen for kunstig intelligens fortsetter å øke og det tilsvarende strømforbruket for maskinvare øker, er dette avgjørende. Nvidias DGX AI-server pakker flere GPUer inn i et optimalisert system for AI-arbeidsbelastninger, som raskt har blitt tatt i bruk av store bedrifter. Store skytjenesteleverandører som Google Cloud, Meta og Microsoft har distribuert DGX-systemer i sine datasentre. De siste årene, ettersom flere og flere organisasjoner søker å utnytte den transformative kraften til kunstig intelligens, har bruken av Nvidia DGX kunstig intelligens-systemer vokst eksponentielt.

Nvidia DGX-systemet kan bruke avansert nedsenkingskjøledesign som bruker dielektriske væsker. Direkte brikkekjøling pumper dielektriske væsker direkte på GPU-brikker og andre termiske komponenter, uten behov for kalde plater, og oppnår mer direkte varmeoverføring. Den kan støtte svært høye TDP-nivåer (500W+) på en enkelt brikke, og oppnå tettere systemer.

Ettersom kunstig intelligens fortsetter å utvikle seg med en forbløffende hastighet, må den støttede maskinvareinfrastrukturen utvikles synkront. Væskekjøling er en nøkkelteknologi som gjør det mulig for akseleratorer å skalere til enestående ytelsesnivåer. Denne transformasjonen er ikke uten utfordringer. Fordi datasentre krever transformasjon av infrastruktur for væskekjøling og utvikling av nye vedlikeholdsprogrammer, er fordelene med energieffektivitet, tetthet og ytelse betydelige og kan ikke ignoreres.