Supermicro liefert Nvidia Vera Rubin NVL72 Racks mit DLC-2 aus

Supermicro hat mit der Auslieferung seiner neuen Server-Racks begonnen, die auf der aktuellen Nvidia-Vera-Rubin-NVL72-Plattform basieren. Die Systeme richten sich an Betreiber von Rechenzentren und Hochleistungs-KI-Infrastrukturen. Ziel ist es, die extreme Leistungsdichte neuer Grafikprozessoren mit einer ausgeklügelten Flüssigkeitskühlung beherrschbar zu machen und die Zeit von der Bestellung bis zur tatsächlichen Inbetriebnahme im Rechenzentrum spürbar zu verkürzen.

Komplettes Kühlsystem vom Chip bis zum Kühlturm

Die Rechenleistung von modernen KI-Systemen steigt seit Jahren rasant an. Mit der Einführung von Nvidias Vera-Rubin-Architektur wachsen allerdings nicht nur die verarbeiteten Datenmengen und Operationen pro Sekunde, sondern auch die entstehende Verlustleistung. Reine Luftkühlung stößt in diesen Leistungsbereichen längst an ihre physikalischen Grenzen. Supermicro setzt bei den neuen NVL72-Racks daher voll auf eine direkte Flüssigkeitskühlung (Direct Liquid Cooling, DLC-2), die als fester Bestandteil der Infrastruktur konzipiert wurde.

Das Konzept greift dabei weit über das bloße Verbauen von Kühlblöcken hinaus. Die hauseigenen Data Center Building Block Solutions (DCBBS) decken die gesamte Kühlkette ab – von den Kühlplatten auf den Chips über Verteiler, Schlauchsysteme und In-Row- beziehungsweise In-Rack-Kühlverteilungseinheiten (CDUs) bis hin zu den Wärmetauschern an den Racks und den Kühltürmen auf dem Gebäude. Jedes System wird vor dem Versand vollständig getestet und validiert.

Charles Liang, Präsident und Geschäftsführer von Supermicro, unterstreicht die Bedeutung dieser tiefen Integration:

Wir haben Jahre damit verbracht, das Flüssigkeitskühlsystem, die Produktionskapazitäten sowie die Bereitstellungsteams genau für diesen Moment aufzubauen. Unsere Kunden können nun eine Scalable Unit bestellen und erhalten für den Produktivbetrieb einsatzbereite Systeme mit durchgängiger Integration, da wir jede Ebene zwischen der Kühlplatte und dem Kühlturm selbst entwickeln und bauen. Unsere Entwicklung der DLC-2-Technologie hebt Supermicro von anderen Anbietern ab und versetzt uns in die Lage, die vollständigste Lösung für die NVIDIA Vera Rubin Plattform bereitzustellen.

Durch diesen Ansatz soll der KI-Durchsatz pro Watt maximiert werden, während gleichzeitig die Betriebskosten sinken.

Beeindruckende technische Kennzahlen im einzelnen Rack

Wenn du dir die technischen Daten genauer ansiehst, wird das gewaltige Ausmaß dieser Systeme schnell deutlich. Ein einzelnes flüssigkeitsgekühltes NVL72-Rack fungiert architektonisch wie ein einziger, hochintegrierter Supercomputer. Darin arbeiten insgesamt 72 Nvidia-Rubin-GPUs und 36 Nvidia-Vera-CPUs zusammen. Aufgebaut ist das System aus 18 einzelnen Recheneinschüben im 1U-Format, von denen jeder vier Rubin-GPUs und zwei Vera-Prozessoren beherbergt.

Verbunden werden die Recheneinheiten über neun NVLink-Switch -Einschübe der sechsten Generation. Das ermöglicht eine massive Scale-up-Bandbreite von bis zu 216 Terabyte pro Sekunde. Dazu gesellen sich enorme Speicherressourcen: Pro Rack stehen 20,7 Terabyte schneller HBM4-Speicher sowie bis zu 54 Terabyte LPDDR5X-Arbeitsspeicher bereit. Für die nötige Kühlungsleistung sorgen unter anderem Reihen-Kühlverteilungseinheiten mit einer Nennleistung von 1,8 Megawatt pro CDU und einer Redundanz von N+1. Optionale Wärmetauscher an der Rücktür des Racks führen die verbleibende Abwärme effizient ab.

Skalierung vom Rechenzentrum bis in den Gigawattbereich

Um die Planung für Großkunden weiter zu vereinfachen, stellt Supermicro fertige Baupläne für sogenannte Scalable Units zur Verfügung. Eine solche Einheit bündelt 16 Rechenracks mit insgesamt 1.152 Nvidia-Rubin-GPUs und 331 Terabyte HBM4-Speicher. Diese Blueprints decken Leistungsbereiche von 5 Megawatt bis hin zu Megawatt- und Gigawatt-Komplexen ab.

Neben der reinen Hardware stellt Supermicro auch die kompletten Dienstleistungen rund um den Aufbau bereit. Ein spezialisiertes Team übernimmt sämtliche Abschnitte des Projekts: von der initialen Standortbegutachtung und Projektplanung über die Integration und Tests der Stufen L11 sowie L12 bis hin zur Bereitstellung vor Ort und dem anschließenden laufenden Support im Betrieb.