KR6288V2 | Artificial Intelligence Servers

Introduction

KR6288-X2-A0-R0-00, la plateforme de formation à grande échelle 6U équipée de deux processeurs Intel^® Xeon^® évolutifs de 4è génération et d'un module NVIDIA HGX-Hopper-8GPU, se caractérise par des performances à la pointe de l'industrie, une expansion ultime des E/S et une efficacité énergétique très élevée. L'architecture système optimisée avec précision, avec une bande passante de 4x entre le CPU et le GPU, une bande passante réseau allant jusqu'à 4 To/s, une mémoire système de 8TB et un stockage local massif de 300 To, peut satisfaire pleinement les exigences de communication et de capacité de l'entraînement au parallélisme multidimensionnel pour les modèles à très grande échelle. Les 12 extensions PCIe peuvent être configurées de manière flexible avec CX7, OCP3.0 et plusieurs SmartNIC, ce qui en fait une solution idéale pour les déploiements sur site et dans le cloud. Il est conçu pour gérer les tâches informatiques d'IA les plus exigeantes, telles que l'apprentissage de modèles Transformer à des trillions de paramètres, les systèmes de recommandation massifs, l'AIGC et les charges de travail du métavers.

Caractéristiques principales

Adaptation multi-scénarios

Conception modulaire complète et configurations extrêmement flexibles satisfaisant à la fois au déploiement sur site et dans le nuage
Exploitation aisée de l'entraînement de modèles à grande échelle, tels que GPT-3, LLaMA et Stable diffusion.
Solutions SuperPod diversifiées accélérant l'innovation la plus pointue, notamment AIGC, AI4Science et Metaverse.
Architecture de pointe

Connectivité intra-nœud ultrarapide avec amélioration de la bande passante CPU-GPU de 4x.
Réseau inter-nœuds ultraévolutif avec une bande passante non bloquante allant jusqu'à 4 To/s.
Architecture optimisée au niveau du groupe, GPU : Réseau de calcul : Réseau de stockage = 8:8:2
Efficacité énergétique optimisée

Dissipation thermique par refroidissement d'air extrêmement faible, moins de ventilateur, plus d'efficacité énergétique
Alimentation séparée 54 V, 12 V avec redondance N+N réduisant la perte de conversion de puissance
Conception d'un système de refroidissement liquide direct avec plus de 80 % de couverture de la plaque froide, PUE ≤ 1,15
Des performances inédites

Alimenté par les 8* derniers GPU NVIDIA dans un châssis 6U, TDP jusqu'à 700 W
Prend en charge 2 processeurs Intel Xeon évolutifs de 4^è génération
Performances à la pointe de l'industrie avec des performances AI de 16 PFlop et une amélioration de 3 fois. Le moteur de transformation accélère considérablement la vitesse de formation du mode GPT large.

Spécifications techniques

Article	KR6288-X2-A0-R0-00
Hauteur	6U
GPU	1x module NVIDIA HGX-Hopper-8GPU, TDP jusqu'à 700 W par GPU
Processeur	2x processeurs Intel^® Xeon^® évolutifs de 4è génération, TDP 350W
Mémoire	32x DDR5 DIMM, jusqu'à 4 800 MT/s
Stockage	24x 2,5 pouces SSD, jusqu'à 16x NVMe U.2
M.2	2x NVMe/SATA M.2 intégrés (en option)
Emplacement PCIe	Prend en charge 10 emplacements PCIe Gen5 x16. Un emplacement PCIe Gen5 x16 peut être remplacé par deux emplacements x16 (taux PCIe Gen5 x8). Support optionnel Bluefield-3, CX7, et divers SmartNIC
RAID	Prise en charge en option du RAID 0/1/10/5/50/6/60, etc., prise en charge de la protection du supercondensateur de la mémoire cache
E/S avant	1x USB 3.0, 1x USB 2.0, 1x VGA
E/S arrière	2x USB3.0, 1x MicroUSB, 1x VGA, 1x RJ45
OCP	Prise en charge en option de 1x OCP 3.0, prise en charge de NCSI
Gestion	DC-SCM Module de gestion BMC avec Aspeed 2600
TPM	TPM 2,0
Ventilateur	Région GPU : 6x 54V ventilateurs remplaçables à chaud avec redondance N+1 Région CPU : 6x 12V ventilateurs remplaçables à chaud avec redondance N+1
Alimentation	2x 12V 3 200 W et 6x 54 V 2 700 W, Titanium CRPS PSU avec redondance N+N
Dimension	Largeur : 447 mm, Hauteur : 263 mm, Longueur : 860 mm
Poids	Poids net 92 kg (poids transversal : 107 kg)
Paramètres environnementaux	Température de fonctionnement : 10℃~35℃ ; Température de stockage : -40℃~70℃.
Paramètres environnementaux	Humidité de fonctionnement : 10 %~80 % R.H.；Humidité de stockage：10 %~93 % R.H.

Informations pertinentes

Livre Blanc KR6288V2
Fiche technique KR6288V2