KR6288V2 | GPU 서버

소개

KR6288-X2-A0-R0-00은 듀얼 4세대 인텔^®제온^® 스케일러블 프로세서와 NVIDIA HGX-Hopper-8GPU 1개 모듈을 갖춘 6U 하이퍼스케일 교육 플랫폼으로 업계 최고의 성능, 최고의 I/O 확장 및 초고속 에너지 효율을 제공합니다. 4개의 CPU-GPU 대역폭, 최대 4.0Tbps 네트워킹 대역폭, 8TB 시스템 메모리 및 300TB 대용량 로컬 스토리지를 갖춘 정밀하게 최적화된 시스템 아키텍처를 통해 대규모 모델에 대한 다차원 병렬성 학습의 통신 및 용량 요구를 완전히 충족할 수 있습니다. 12개의 PCIe 확장은 CX7, OCP3.0 및 여러 SmartNIC로 유연한 구성이 가능하여 온프레미스 및 클라우드 배포 모두에 이상적인 솔루션입니다. 1T 매개변수 트랜스포머 모델 학습, 대규모 추천 시스템, AIGC 및 메타버스 워크로드와 같은 가장 까다로운 AI 컴퓨팅 작업을 처리하도록 구축되었습니다.

주요 기능

비교를 거부한 성능

6U 섀시에 8개의 NVIDIA 최신 GPU 구동, TDP 최대 700W
4세대 인텔 제온 스케일러블 프로세서 2개 지원
3배 향상된 16PFlops AI 성능으로 업계 최고의 성능을 자랑합니다. 트랜스포머 엔진으로 GPT 대규모 모드의 학습 속도가 크게 가속화되었습니다.
최적화된 에너지 효율성

극도로 낮은 공냉식 열방출 오버헤드, 팬 개수 감소, 더 높은 전력 효율성
전력 변환 손실을 줄이는 N+N 중복 기능을 갖춘 54V, 12V 분리형 전원 공급 장치
냉각판 적용 범위가 80% 이상인 직접 액체 냉각 설계, PUE≤1.15
선도적인 아키텍처 디자인

4배의 CPU-GPU 대역폭 개선을 통한 초고속 노드 내 연결
최대 4.0Tbps의 비차단 대역폭을 갖춰 확장성이 매우 높은 노드 간 네트워킹
클러스터 수준 최적화 아키텍처, GPU: 컴퓨트 네트워크: 스토리지 네트워크 = 8:8:2
다중 시나리오 적용

온프레미스 및 클라우드 배포를 모두 만족시키는 완전한 모듈식 설계와 극도로 유연해진 구성
GPT-3, LLaMA 및 스테이블 디퓨전과 같은 대규모 모델 학습을 손쉽게 적용하세요.
AIGC, AI4Science, 메타버스 등 최첨단 혁신을 가속화하는 다양한 SuperPod 솔루션

기술 사양

항목	KR6288-X2-A0-R0-00
높이	6U
GPU	NVIDIA HGX-Hopper-8GPU 모듈 1개, GPU당 TDP 최대 700W
프로세서	4세대 인텔® 제온® 스케일러블 프로세서 2개, TDP 350W
메모리	32개의 DDR5 DIMM, 최대 4800MT/s
스토리지	24개의 2.5' SSD, 최대 16개의 NVMe U.2
M.2	온보드 NVMe/SATA M.2 2개(선택사항)
PCIe 슬롯	10개의 PCIe Gen5 x16 슬롯을 지원합니다. PCIe Gen5 x16 슬롯 1개를 x16 슬롯 2개로 교체할 수 있습니다(PCIe Gen5 x8 속도). Bluefield-3, CX7 및 다양한 SmartNIC 선택 지원
RAID	RAID 0/1/10/5/50/6/60 등, 캐시 슈퍼 커패시터 보호 선택 지원
전면 I/O	1개의 USB 3.0, 1개의 USB 2.0, 1개의 VGA
후면 I/O	2개의 USB3.0, 1개의 MicroUSB, 1개의 VGA, 1개의 RJ45
OCP	1개의 OCP 3.0 선택 지원, NCSI 지원
관리	Aspeed 2600이 탑재된 DC-SCM BMC 관리 모듈
TPM	TPM 2.0
팬	GPU 영역: N+1 중복성을 갖춘 6개의 54V 핫스왑 팬 CPU 영역: N+1 중복성을 갖춘 6개의 12V 핫스왑 팬
전력	2개의 12V 3200W 및 6개의 54V 2700W, N+N 중복성을 갖춘 티타늄 CRPS PSU
크기	너비: 447mm, 높이: 263mm, 길이: 860mm
중량	순중량 92kg（교차 중량: 107kg）
환경 매개변수	작동 온도: 10℃~35℃, 보관 온도: -40℃~70℃
환경 매개변수	작동 습도: 10%~80% R.H., 보관 습도: 10%~93% R.H.