Success Story
Kunde
Bei unserem Kunden handelt es sich um einen Anbieter skalierbarer Speicherlösungen für große, datenintensive Anwendungen. Endkunden des Unternehmens profitieren von der Möglichkeit einer unterbrechungsfreien Erweiterung der Hardware-Ressourcen, sobald sie benötigt werden. Zu den Endkunden zählen u.a. Finanzdienstleister, Behörden, sowie Unternehmen aus der Forschung und dem Gesundheitswesen.
Projekt-Zeitpunkt: 2023Projekt-Volumen: ca. 1.100.000€
Inhaltsverzeichnis
Projekt-Beschreibung
Ziel des Projekts war der Aufbau einer KI/BigData-Plattform auf Basis der NVIDIA Delta A100-80 HGX/SXM4.
Projekt-Realisierung
Unter der Prämisse „maximale GPU-Rechenperformance bei gleichzeitiger Nutzungsmöglichkeit ultraschneller NVIDIA® NVLink®-Technologie“ wurde hier eine Systemkonfiguration auf Basis Dual 64Core AMD EPYC 7002, 2TB (16x 128GB) Samsung DDR4 RDIMM-Modulen und der aktuell schnellsten NVIDIA Delta HGX-Plattform inkl. 8x A100-80/SXM4 realisiert. Dank ultraperformanter NVIDIA® NVLink®-Technologie mit 600 GB/s NVLink-Bandbreite pro GPU ergibt sich für die acht schlüsselfertig gelieferten Systeme auf Basis Supermciro A+ Server 4124GO-NART+ im Interprozess mit einer Multi-GPU-Systemkonfiguration eine über 7 mal höhere Bandbreite als bei PCIe-Prozessen der fünften Generation und stehen damit für eine besonders hohe Skalierbarkeit und um z. B. extrem schnelles Deep-Learning-Training zu ermöglichen.
Alle Systeme verfügen neben performante 25GbE SFP+ Netzwerkinterfaces über ein schnelles Enterprise SATA-RAID sowie AllFlash U.2 NVMe Storage für Caching.
-
Hardwareanforderungen im Zeitalter von Edge- und Cloud-ComputingMaximilian Jaud | 28. Oktober 2024Ableitungen aus dem McKinsey Technology Trends Outlook 2024 – Teil 2Mehr lesen
-
Auswirkungen von Generative AI auf den HardwarebedarfMaximilian Jaud | 28. Oktober 2024Ableitungen aus dem McKinsey Technology Trends Outlook 2024 – Teil 1Mehr lesen