Deep Learning Test Center

Mit 5 petaFLOPS KI-Leistung, einer extrem hohen NVLink Bandbreite und der feinkörnigen Zuweisung von Rechenleistung durch die Multi-Instanz-Grafikprozessorfähigkeit ist die DGX A100 für alle KI-Arbeitslasten hervorragend geeignet. Von der Analyse über das Training bis hin zum Inferencing setzt die DGX A100 neue Maßstäbe.

Im Rahmen der Elite Partnerschaft mit NVIDIA bietet DELTA für einen begrenzten Zeitraum Tests auf der DGX A100 via Remotezugang an. Wenn Sie an einem Test Interesse haben und entsprechende Projekte planen, können wir Sie für einen Test einplanen. Bitte füllen Sie das Anfrageformular für einen kostenlosen DGX A100 Benchmark aus oder schicken Sie uns eine E-Mail. Zwecks Speicherung und Verarbeitung ihrer Testdaten stehen unterschiedliche Storage Lösungen bereit, die ihren Wünschen entsprechend in die Testumgebung via HDR InfiniBand eingebunden werden können. Natürlich nehmen wir auch gerne eine individuelle Softwarekonfiguration vor.

Falls die DGX A100 nicht in Ihr Budget passen sollte, können wir Ihnen nach Rücksprache auch andere Systeme aus unserem Portfolio für einen Remote Zugang zur Verfügung stellen. Bitte schicken Sie uns eine E-Mail mit ihren Projektdaten. Wir melden uns dann bei Ihnen, ob wir ein entsprechendes System für Testzwecke bereitstellen können.

Schnellere Lösung größerer, komplexerer Datenwissenschaftsprobleme

Bereitstellung der Infrastruktur und operatives Skalieren der KI

Verkürzung der Zeit für Erkenntnisse und Beschleunigung der Kapitalrendite der KI

FUNKTIONSWEISE DER MULTI-INSTANCE GPU (MIG) TECHNOLOGIE

Ohne MIG konkurrieren verschiedene Aufgaben, die auf demselben Grafikprozessor ausgeführt werden, wie unterschiedliche KI-Inferenzanforderungen, um dieselben Ressourcen wie beispielsweise die Speicherbandbreite. Durch eine Aufgabe, die mehr Speicherbandbreite beansprucht, steht für andere Aufgaben weniger zur Verfügung, sodass mehrere Aufgaben ihre Latenz-Zielwerte verfehlen.

Mit MIG werden Aufgaben gleichzeitig in verschiedenen Instanzen ausgeführt, jeweils mit dedizierten Ressourcen für Rechenleistung, Arbeitsspeicher und Speicherbandbreite, was zu einer vorhersehbaren Leistung mit hoher Servicequalität und maximaler GPU-Auslastung führt.

Ein NVIDIA A100-Grafikprozessor kann in verschiedene MIG-Instanzen aufgeteilt werden. Ein Administrator könnte beispielsweise zwei Instanzen mit je 20 GB Speicher oder drei Instanzen mit 10 GB oder sieben Instanzen mit 5 GB erstellen. Oder eine beliebige Kombination davon. Auf diese Weise können Systemadministratoren für unterschiedliche Arten von Workloads Grafikprozessoren mit der richtigen Größe bereitstellen.

MIG-Instanzen können auch dynamisch neu konfiguriert werden, sodass Administratoren die GPU-Ressourcen an wechselnde Nutzer- und Geschäftsanforderungen anpassen können. Sieben MIG-Instanzen können z. B. tagsüber zur Inferenz mit geringem Durchsatz verwendet werden und für das Deep-Learning-Training in der Nacht zu einer großen MIG-Instanz umkonfiguriert werden

Gerne besprechen wir alle weiteren Konfiguration im persönlichen Gespräch.
Anschließend wird das Test Setup definiert und Sie erhalten ihren persönlichen Zugang zu dem gewünschten System.

Haben Sie Fragen zu unserem Test Center?
Wir helfen Ihnen gerne weiter. Rufen Sie uns an, schicken Sie eine Mail oder nutzen Sie uner Anfrageformular: NVIDIA DGX Anfrage

Kontakt: Tel: +49 40 300672 - 0 | Fax: +49 40 300672 - 11 | E-Mail: info[at]delta.de

D20z-M4-ZG-8xGPU

Ab 9.507,54 €
AMD Dual EPYC Hochleistungs-Server:

4HE Rack-Chassis (luftgekühlt)

redundante 4x 2000W Netzteile

24x 2.5" HotSwap für SATA/SAS/NVMe(Gen4)

2x AMD EPYC™ 9005 (max. 400 Watt TDP)

24 DIMM Slots (max. 3072GB DDR5-6000)

2x 10GBase-T 10GbE Ports

bis zu 9x PCI-E 5.0 x16 Slots (FHFL)

bis zu 8x GPU/MIC (max. 400 Watt TDP)
NVIDIA DGX H200 1128GB

Ab 285.416,08 €
Die NVIDIA DGX H200 ist das erste System, das mit bahnbrechenden, durch NVIDIA Hopper™ angetriebenen H200-Grafikprozessoren bestückt ist und über NVIDIA NVLink™ 4.0 vernetzt ist.

32 petaFLOPS FP8

~10.2 kW max (6x redundant power supplies)

2x Intel® Xeon® Platinum 8480C CPUs

Up to 2TB System + 1128GB GPU Memory

NVMe Storage : 2x 1.9TB + 8x 3.84TB

Up to 200Gb/s InfiniBand/Ethernet

8x NVIDIA SXM H200 141GB GPUs (max. 700 Watt TDP)
NEU
NVIDIA DGX B200 1440GB

Ab 308.026,46 €
Die NVIDIA DGX B200 ist eine einheitliche KI-Plattform. Ausgestattet mit acht NVIDIA B200 Tensor Core-GPUs, die über NVIDIA NVLink der fünften Generation miteinander verbunden sind, bietet die DGX B200 eine bahnbrechende Leistung.

72 petaFLOPS training + 144 petaFLOPS inference

~14.3 kW max (6x redundant power supplies)

2x Intel® Xeon® Platinum 8570 CPUs

Up to 4TB System + 1440GB GPU Memory

NVMe Storage : 2x 1.9TB + 8x 3.84TB

Up to 400Gb/s InfiniBand/Ethernet

8x NVIDIA SXM B200 180GB GPUs (max. 1000 Watt TDP)
NEU
NVIDIA DGX B300 2304GB

Ab 362.010,17 €
Die NVIDIA DGX B300 ist eine einheitliche KI-Plattform. Ausgestattet mit acht NVIDIA B300 Tensor Core-GPUs, die über NVIDIA NVLink der fünften Generation miteinander verbunden sind, bietet die DGX B300 eine bahnbrechende Leistung.

72 petaFLOPS training + 144 petaFLOPS inference

~14.3kW max (6x redundant power supplies)

2x Intel® Xeon® Platinum 6776P CPUs

Up to 4TB System + 2304GB GPU Memory

NVMe Storage : 2x 1.9TB + 8x 3.84TB

Up to 800Gb/s InfiniBand/Ethernet

8x NVIDIA SXM B300 288GB GPUs (max. 1400 Watt TDP)