Az Nvidia folyadékhűtéses forradalma az AI-szerverekhez
Az élvonalbeli mesterséges intelligencia chipek energiafogyasztása folyamatosan növekszik, ami katalizátora lett a DGX AI szerverek következő generációjának a folyadékhűtés felé való elmozdulásnak. Az Nvidia zászlóshajója, H100 GPU-jának jelenlegi TDP-je (termikus tervezési teljesítménye) 700 W, ami túllépte a hagyományos léghűtés határát. Az Nvidia várhatóan még ebben az évben piacra dobja a Blackwell architektúrájú B100 GPU-t hozzávetőleg 1000 W-os TDP-vel, és ekkor már mindenképpen szükség lesz folyadékhűtésre.
A nagy teljesítményű számítástechnikai rendszerekben a folyadékhűtésnek számos fő előnye van a léghűtéssel szemben:
A kiváló hőátadási hatékonyság lehetővé teszi a magasabb TDP-vel rendelkező alkatrészek teljes hűtését
A nagy sebességű ventilátorok iránti kereslet csökkenése miatt a működés csendesebb
A rendszer kialakítása sűrűbb, és a terjedelmes hűtőbordák és ventilátorok kevesebb helyet foglalnak el
Lehetőség a hulladékhő megkötésére és újrafelhasználására folyadék-folyadék hőcserélőkben
A folyadékhűtés használatával az Nvidia továbbra is túllépheti az AI-gyorsítók teljesítményhatárait anélkül, hogy a hűtőrendszer korlátozná. Mivel a mesterséges intelligencia képzési terhelésének összetettsége folyamatosan növekszik, és a megfelelő hardver energiafogyasztás növekszik, ez kulcsfontosságú. Az Nvidia DGX AI kiszolgálója több GPU-t egy mesterséges intelligencia munkaterhelésére optimalizált rendszerbe csomagol, amelyet a nagyvállalatok gyorsan átvették. A nagy felhőszolgáltatók, például a Google Cloud, a Meta és a Microsoft DGX rendszereket telepítettek adatközpontjaikban. Az elmúlt években, ahogy egyre több szervezet igyekszik kihasználni a mesterséges intelligencia átalakító erejét, az Nvidia DGX mesterséges intelligencia rendszerek alkalmazása exponenciálisan nőtt.
Az Nvidia DGX rendszer dielektromos folyadékokat használó fejlett merülőhűtési megoldásokat használhat. A közvetlen forgácshűtés a dielektromos folyadékokat közvetlenül a GPU chipekre és más termikus alkatrészekre pumpálja, anélkül, hogy hideglemezekre lenne szükség, így közvetlenebb hőátadás érhető el. Nagyon magas TDP szintet (500 W+) képes támogatni egyetlen chipen, így sűrűbb rendszereket ér el.
Mivel a mesterséges intelligencia továbbra is elképesztő sebességgel fejlődik, a támogatott hardver-infrastruktúrának szinkronban kell fejlődnie. A folyadékhűtés kulcsfontosságú technológia, amely lehetővé teszi a gyorsítók számára, hogy soha nem látott teljesítményszintre léphessenek. Ez az átalakulás nem mentes kihívásoktól. Mivel az adatközpontok megkövetelik a folyadékhűtési infrastruktúra átalakítását és új karbantartási programok kidolgozását, az energiahatékonyság, a sűrűség és a teljesítmény előnyei jelentősek, és nem hagyhatók figyelmen kívül.
