AI EXPO KOREA 2024에서 새로운 LLM/GAI 애플리케이션용 최신 V2 시리즈 서버 솔루션을 소개한 KAYTUS

풀 스택 AI 솔루션과 고급 액체 냉각 기술을 통해 기업의 역량을 강화하며 더 높은 컴퓨팅 효율성과 에너지 효율성을 갖춘 인프라를 구축합니다

대한민국 서울 - 2024년 4월 24일 - IT 인프라 선도 제공업체인 KAYTUS가 AI EXPO KOREA 2024에 골드 스폰서로 참가하며, 클라우드, AI, 빅데이터와 같은 새로운 애플리케이션 시나리오용으로 개발되어 와트당 35% 이상 향상된 성능을 자랑하는 최신 V2 시리즈 서버를 선보일 예정입니다. KAYTUS는 인기 있는 LLM 및 GAI 애플리케이션 시나리오에 풀 스택 AI 솔루션을 제공하여 사용자를 위한 자체 적응형 지능형 인프라를 구축합니다. 

Quantum Jump가 테마인 AI EXPO KOREA는 약 300개 조직에서 35,000명이 넘는 업계 전문가가 함께 모여 최첨단 기술의 개발 및 적용을 시연, 토론, 홍보하는 자리입니다. 대원 CTS 및 Etevers eBT는 KAYTUS와 함께 더욱 민첩한 최첨단 제품 솔루션을 선보일 계획입니다.

신규 대형 모델 및 GAI 애플리케이션으로 제기된 새로운 인프라의 필요성

생성형 AI(GAI)가 인기를 끌며 GPT, LLaMA, Falcon, ChatGLM과 같은 대형 모델이 사회적 생산성을 높이고 기존 업계의 변화와 업그레이드를 주도하고 있습니다. 이 결과, 더 높은 컴퓨팅 성능에 대한 수요가 증가했을 뿐만 아니라 낮은 컴퓨팅 효율성으로 인한 문제도 노출되었습니다. 예를 들어, GPT-3 대형 모델은 최대 284,000kWh의 에너지 소비로 GPU 클러스터에서 학습할 때는 컴퓨팅 효율성이 21.3%에 그칩니다. 최대 1,000W의 전력 소비의 컴퓨팅용 AI 칩과 컴퓨팅 밀도가 점점 향상됨에 따라 데이터 센터는 컴퓨팅 효율성을 개선하고 에너지 소비를 낮춘다는 해결 과제를 안고 있습니다.

KAYTUS는 측정된 성능과 리소스 활용도를 모두 개선하는 방법으로 더 높은 컴퓨팅 효율성을 달성할 수 있다고 믿습니다. 서버의 소프트웨어 및 하드웨어는 애플리케이션 중심의 체계적인 설계를 통해 공동으로 최적화될 수 있습니다. 최신 KAYTUS V2 시리즈 서버는 다양한 이기종 컴퓨팅을 수용하여 실제 애플리케이션 시나리오에 맞게 소프트웨어와 하드웨어를 공동으로 최적화하여 더 높은 컴퓨팅 효율성, 에너지 효율성, 단위 전력 소비당 컴퓨팅 성능을 달성하고 와트당 성능을 35% 넘게 향상시켰습니다.

새로운 AI 애플리케이션 시나리오를 위한 풀스택 AI 솔루션

KAYTUS는 클러스터 환경 구축, 컴퓨팅 파워 스케줄링, 대형 모델 애플리케이션 개발 등 LLM 및 GAI 애플리케이션 시나리오에서 급증하는 컴퓨팅 성능 수요를 충족하기 위해 풀 스택 AI 솔루션을 제공하여 사용자가 대형 모델 인프라를 개발할 수 있도록 지원합니다.

KAYTUS의 컴퓨팅 파워 스케줄링 플랫폼인 MotusAI는 AI 모델 개발 및 배포의 원스톱 전달이 가능합니다. 대규모 모델 학습에서 리소스 사용 및 일정, 학습 프로세스 및 보장, 알고리즘 및 애플리케이션 관리를 체계적으로 최적화하여 학습 작업에 대한 내결함성 역량을 갖추고 장기적이고 지속적인 학습이 보장됩니다. KAYTUS는 업계 최고의 성능을 갖춘 다양한 AI 서버를 제공하여 수천억 개의 매개변수가 포함된 대규모 모델 학습에서 컴퓨팅 효율성을 54%까지 높이고 학습 시간을 업계 평균보다 1주일까지 단축합니다. AI 추론 기능은 30%까지 개선되어 컴퓨팅 성능 활용도를 극대화합니다.

- KR6288V2, 골든 6U 공간에 8개의 GPU가 탑재되어 있어 사용자는 뛰어난 성능과 최대의 에너지 효율성을 기대할 수 있습니다. 대규모 모델 학습, NLP, 추천, AIGC, AI4Science 등 대규모 데이터 센터의 다양한 애플리케이션에 적합합니다.

- KR4268V2, 100개 이상의 구성을 지원하는 업계에서 가장 유연한 AI 서버 중 하나입니다. 4U 공간에 10개의 DS PCIe GPU가 탑재되어 딥 러닝, 메타버스, AIGC, AI+Science 등 복잡한 애플리케이션 시나리오에 적합합니다.

시스템 에너지 효율성의 지속적인 개선을 기대할 수 있는 완전한 액체 냉각 서버 제품군

KAYTUS V2 서버 전체 제품군은 범용 서버, 고밀도 서버, AI 서버 및 랙 서버를 포함하여 콜드 플레이트 액체 냉각을 지원합니다. 1,000W 단일 칩 냉각, 모든 주요 구성요소의 액체 냉각, 고밀도 배포 및 거의 1.0의 PUE가 이 제품군의 특징입니다.

또한, KAYTUS All Liquid Cooling Cabinet은 냉각판과 자연 냉각을 최대한 활용하는 액체 냉각 후면 도어를 통해 진정한 "에어컨 없는 작동"이 가능해졌으며 PUE가 1.05까지 낮아졌습니다. 기존 데이터 센터보다 10배 이상 높은 캐비닛당 100kW의 전력 밀도를 지원하는 동시에 공간 활용도 역시 5~10배까지 높일 수 있습니다. 

날짜: 5월 1일 ~ 5월 3일

장소: 서울 코엑스 D홀

부스: #11

날짜: 5월 2일

장소: 서울 코엑스 D홀

세미나: 이 시대의 판도를 바꿀 생성형 AI 및 ChatGPT

발표자: KAYTUS Korea의 GM, EJ YOO

KAYTUS 정보

KAYTUS는 IT 인프라 제품 및 솔루션 선도 제공업체로 클라우드, AI, 엣지 및 기타 새로운 시나리오를 위한 다양한 최첨단 개방형 친환경 인프라 제품을 제공합니다. 고객 중심 접근 방식을 바탕으로 KAYTUS는 애자일 비즈니스 모델을 통해 사용자 요구에 유연하게 대응합니다. KAYTUS.com에서 자세히 알아보기

미디어 담당자

media@kaytus.com