KR6288V2 | GPU-Server

Einführung

KR6288-X2-A0-R0-00, die 6U-Hyperscale-Trainingsplattform mit zwei lnte^l® Xeon^® Scalable-Prozessoren der 4. Generation und einem NVIDIA HGX-Hopper-8GPU-Modul, zeichnet sich durch branchenführende Leistung, ultimative E/A-Erweiterung und extrem hohe Energieeffizienz aus. Die präzise optimierte Systemarchitektur mit 4-facher CPU-zu-GPU-Bandbreite, bis zu 4.0Tbps Netzwerkbandbreite, 8TB Systemspeicher und 300TB massivem lokalem Speicher kann die Kommunikations- und Kapazitätsanforderungen des multidimensionalen Parallelitätstrainings für Riesenmodelle vollständig erfüllen. 12 PCIe-Erweiterungen können flexibel mit CX7, OCP3.0 und mehreren SmartNICs konfiguriert werden, was ihn zu einer idealen Lösung sowohl für den Einsatz vor Ort als auch in der Cloud macht. Ausgelegt für die anspruchsvollsten KI-Computing-Aufgaben wie das Training von Transformer-Modellen mit Billionen von Parametern, umfangreiche Empfehlungssysteme, AIGC und Metaverse-Workloads.

Wesentliche Merkmale

Unerreichte Leistung

Angetrieben von 8* NVIDIAs neuesten GPUs in einem 6U-Gehäuse, TDP bis zu 700W
Unterstützt 2x Intel Xeon Scalable-Prozessoren der 4. Generation
Branchenführende Leistung mit 16PFlops KI-Leistung durch 3-fache Steigerung. Die Transformer Engine beschleunigt die Trainingsgeschwindigkeit des GPT Large Mode erheblich.
Optimierte Energieeffizienz

Extrem geringer Aufwand für die luftgekühlte Wärmeableitung, weniger Lüfter, höhere Energieeffizienz
Getrennte 54-V- und 12-V-Stromversorgung mit N+N-Redundanz zur Verringerung der Verluste bei der Stromumwandlung
Design mit direkter Flüssigkeitskühlung mit mehr als 80% Kühlplattenabdeckung, PUE≤1,15
Führendes Architekturdesign

Blitzschnelle Intra-Node-Konnektivität mit 4x CPU-zu-GPU-Bandbreitenverbesserung
Ultrahoch skalierbare Inter-Node-Vernetzung mit bis zu 4.0 TBit/s nicht blockierender Bandbreite
Optimierte Architektur auf Clusterebene, GPU: Compute-Netzwerk: Speichernetzwerk = 8:8:2
Multi-Szenarien-Anpassung

Vollständig modulares Design und extrem flexible Konfigurationen, die sowohl für den Einsatz vor Ort als auch in der Cloud geeignet sind
Einfache Nutzung von groß angelegtem Modelltraining, wie GPT-3, LLaMA und stabile Diffusion.
Diversifizierte SuperPod-Lösungen zur Beschleunigung modernster Innovationen, darunter AIGC, AI4Science und Metaverse

Technische Daten

Element	KR6288-X2-A0-R0-00
Höhe	6HE
GPU	1x NVIDIA HGX-Hopper-8 GPU-Modul, TDP bis zu 700W pro GPU
Prozessor	2x Intel^® Xeon^®Scalable-Prozessoren der 4. Generation, TDP 350W
Arbeitsspeicher	32x DDR5 DIMMs, bis zu 4800MT/s
Speicher	24x 2,5’ SSD, bis zu 16x NVMe U.2
M.2	2x NVMe/SATA M.2 Onboard (optional)
PCIe-Steckplatz	Unterstützt 10x PCIe Gen5 x16 Steckplätze. Ein PCIe Gen5 x16 Steckplatz kann durch zwei x16 Steckplätze ersetzt werden (PCIe Gen5 x8 Rate). Optionale Unterstützung von Bluefield-3, CX7 und verschiedenen SmartNICs
RAID	Optionale Unterstützung von RAID 0/1/10/5/50/6/60, usw., Unterstützung von Cache-Superkondensator-Schutz
Front-E/A	1x USB 3.0, 1x USB 2.0, 1x VGA
Rückwärtige E/A	2x USB3.0, 1x MicroUSB, 1x VGA, 1x RJ45
OCP	Optionale Unterstützung von 1x OCP 3.0, Unterstützung von NCSI
Verwaltung	DC-SCM BMC-Verwaltungsmodul mit Aspeed 2600
TPM	TPM 2.0
Lüfter	GPU-Bereich: 6x 54V Hot-Swap-Lüfter mit N+1 Redundanz CPU-Bereich: 6x 12V Hot-Swap-Lüfter mit N+1 Redundanz
Leistung	2x 12V 3200W und 6x 54V 2700W, Titanium CRPS PSU mit N+N Redundanz
Größe	Breite: 447mm, Höhe: 263mm, Länge: 860mm
Gewicht	Nettogewicht 92kg（Quergewicht: 107kg）
Umgebungsbedingungen Parameter	Arbeitstemperatur：10℃~35℃; Lagertemperatur：-40℃~70℃
Umgebungsbedingungen Parameter	Luftfeuchtigkeit bei der Arbeit：10%~80% R.H. Luftfeuchtigkeit bei der Lagerung：10%~93% R.H.

Informations pertinentes

KR6288V2 White Paper
KR6288V2 Datenblatt