Um Ihnen die Funktionen unseres Online-Shops uneingeschränkt anbieten zu können setzen wir Cookies ein. Weitere Informationen
NVIDIA DGX GB300 NVL72
Der DGX GB300 NVL72 verbindet 36 Grace-CPUs und 72 Blackwell Ultra GPUs in einem vollständig flüssigkeitsgekühlten Rack. Die Rack-Lösung ist speziell für das Zeitalter des KI-Reasonings konzipiert. In einer NVLink-Domäne mit 72 Grafikprozessoren, die als einzelner riesiger Grafikprozessor funktioniert, liefert das System bis zu 50-mal mehr KI-Factory-Output-Leistung im Vergleich zu Hopper-basierten Plattformen.
Der GB300 Grace Blackwell Ultra Superchip ist eine Schlüsselkomponente des NVIDIA GB300 NVL72 und verbindet zwei hochleistungsfähige NVIDIA Blackwell Ultra B300 GPUs und eine NVIDIA Grace-CPU über die NVIDIA® NVLink®-C2C-Verbindung mit 900 GB/s ultra-niedrigem Energieverbrauch.
GB300 NVL72 Technische Daten
Funktion
- Konfiguration
- FP4 Tensor-Recheneinheit (Sparse | Dense)
- FP8/FP6 Tensor-Recheneinheit
- INT8-Tensor-Recheneinheit
- FP16/BF16 Tensor-Recheneinheit
- TF32 Tensor-Recheneinheit
- FP64 Tensor-Recheneinheit
- Grafikprozessorspeicher | Bandbreite
- NVLink-Bandbreite
- Anzahl der CPU-Recheneinheiten
- CPU-Speicher | Bandbreite
GB300 Grace Blackwell Ultra Superchip
- 1 Grace-CPU + 2 Blackwell Ultra B300
- 40 PFLOPS | 30 PFLOPS
- 20 PFLOPS
- ~1.320 TOPS
- 10 PFLOPS
- 5 PFLOPS
- 2,6 TFLOPS
- 576 GB HBM3E | 16 TB/s
- 3,6 TB/s
- 72 Arm® Neoverse V2-Recheneinheiten
- Bis zu 480 GB LPDDR5X | Bis zu 512 GB/s
GB300 NVL72
- 36 Grace-CPUs + 72 Blackwell Ultra B300
- 1.440 PFLOPS | 1.080 PFLOPS
- 720 PFLOPS
- ~23.760 TOPS
- 360 PFLOPS
- 180 PFLOPS
- ~94 TFLOPS
- 20 TB HBM3E | 576 TB/s
- 130 TB/s
- 2.592 Arm® Neoverse V2-Recheneinheiten
- 17 TB LPDDR5X | bis zu 37 TB schneller Gesamtspeicher
Vom Superchip zum SuperPOD
In obiger Skizze haben wir die GB300 NVL72 Architektur dargestellt. Die Architektur skaliert mit 8x GB300 NVL72 Systemen (1 Scalable Unit) auf 576 B300 GPUs. Über den DGX SuperPOD lassen sich bis zu 16 Scalable Units mit insgesamt 9.216 GPUs verbinden.
Wenn Sie Fragen dazu haben, kontaktieren Sie uns einfach per Mail oder über das Anfrageformular
NVLink Spezifikationen
Second Gen | Third Gen | Fourth Gen | Fifth Gen | |
| NVLink bandwidth per GPU | 300 GB/s | 600 GB/s | 900 GB/s | 1800 GB/s |
| Number of Links / GPU | 6 | 12 | 18 | 18 |
| Total aggregate bandwidth | 2.4 TB/s | 4.8 TB/s | 7.2 TB/s | 1 PB/s |
| Number of GPUs connected | Up to 8 | Up to 8 | Up to 8 | Up to 576 |
NVLink der fünften Generation verbessert die Skalierbarkeit für größere Multi-GPU-Systeme erheblich. Ein einzelner NVIDIA Blackwell Ultra Tensor Core Grafikprozessor unterstützt bis zu 18 NVLink Verbindungen mit 100 Gigabyte pro Sekunde (GB/s) für eine Gesamtbandbreite von 1,8 Terabyte pro Sekunde (TB/s) - 2x mehr Bandbreite als bei der vorherigen Generation und über 14x mehr Bandbreite als bei PCIe Gen5. Das GB300 NVL72 Rack-System nutzt 18 Compute Trays und 9 NVLink Switch Trays, um alle 72 GPUs in einer einzigen NVLink-Domäne mit 130 TB/s Gesamtbandbreite zu verbinden. Im DGX SuperPOD skaliert die Architektur auf bis zu 9.216 GPUs über 16 Scalable Units.
Ihre kompakte AI‑Factory für den Schreibtisch
Haben Sie Fragen zu der NVIDIA GB300 NVL72 Lösung, helfen oder geben wir Ihnen dazu gerne eine Auskunft. Gerne können Sie auch den Live Chat Button rechts unten auf der Webseite nutzen.
Kontakt: Tel: +49 40 300672 - 0 | Fax: +49 40 300672 - 11 | E-Mail: info[at]delta.de
