AIStation과 함께 KAYTUS KR4268V2 활용을 통해 한국 유명 게임 회사의 대규모 언어 모델 구축 지원 케이스

KAYTUS KR4268V2는 AIStation과 결합된 강력한 컴퓨팅 성능을 갖추어 모델 학습 시간을 700시간 이상 단축하고 대규모 언어 모델의 신속한 배포를 가속화할 수 있습니다.

고객 소개

이 유명 게임 회사는 서울에 본사를 둔 한국의 거대 게임 제조업체로 미국, 유럽, 아시아 등 많은 국가에서 자회사와 합작 투자 사업을 확장했습니다. 이 회사의 주요 개발 방향은 대규모 멀티플레이어 온라인 롤플레잉 게임이며, 운영 게임에는 세계적 수준의 여러 게임이 포함되어 있습니다. 통계에 따르면 이 제조업체는 글로벌 모바일 게임 부문 상위 30위 안에 자리하고 있습니다.

프로젝트 배경

현재 글로벌 기업들은 수익 창출을 위해 생성형 AI에 대한 최적의 활용을 광범위하게 탐색하고 있습니다. AI의 잠재력은 다양한 영역에서 의사소통을 강화하고 창의성을 육성합니다.  이 게임 회사는 최근의 AI 트렌드에 맞춰 AI 및 NLP 분야에서 연구를 진행해 왔으며, 향후 한국인을 위한 대규모 언어 모델을 개발할 계획을 갖고 있습니다. 이처럼 늘어난 수요를 해결하려면 크고 복잡한 언어 모델을 지원하는 강력한 서버 인프라가 시급히 필요합니다.

비즈니스 도전 과제

현재 글로벌 기업들은 수익 창출을 위해 생성형 AI에 대한 최적의 활용을 광범위하게 탐색하고 있습니다. AI의 잠재력은 다양한 영역에서 의사소통을 강화하고 창의성을 육성합니다.  이 게임 회사는 최근의 AI 트렌드에 맞춰 AI 및 NLP 분야에서 연구를 진행해 왔으며, 향후 한국인을 위한 대규모 언어 모델을 개발할 계획을 갖고 있습니다. 이처럼 늘어난 수요를 해결하려면 크고 복잡한 언어 모델을 지원하는 강력한 서버 인프라가 시급히 필요합니다.

솔루션 소개

1. 높은 성능의 확장성이 뛰어난 IT 인프라

(1) 대규모 언어 모델은 딥러닝 접근 방식을 기반으로 구축되며, 보통 복잡한 데이터 정리, 민감한 데이터 분석, 의미론적 이해 등이 필요한 대량의 데이터를 처리하는 데 필요합니다. 높은 성능의 IT 인프라는 더 빠른 처리 용량을 제공할 수 있어 결과적으로 데이터 처리 시간을 대폭 절감하고 업무 효율성을 향상시킵니다.

(2) 대규모 언어 모델은 많은 양의 데이터를 저장하고, 데이터에 대한 지속적인 읽기 및 쓰기 작업을 수행해야 합니다. 확장성이 뛰어난 IT 인프라는 지속적으로 증가하는 데이터 스토리지 수요를 충족하기 위한 더 큰 스토리지 용량과 더 나은 확장성을 제공할 수 있습니다.

(3) 급속한 비즈니스 발전과 데이터 양의 급증으로 인해 유연한 처리 능력과 저장 용량 측면에서는 대규모 언어 모델의 적응성이 중요해졌습니다. 확장성이 뛰어난 IT 인프라는 변화하는 요구 사항을 엄격하게 충족할 수 있는 동적 확장 솔루션을 제공할 수 있습니다.

2. 컴퓨팅 리소스 활용

 일반적으로 수억에서 수십억 개의 매개변수가 포함되어 있는 대규모 언어 모델의 컴퓨팅 요구 사항은 실로 엄청납니다. 고객은 텍스트 생성, 텍스트-이미지 생성, 디지털 휴먼 생성 및 대화형 에이전트 개발 분야에서 수많은 연구 프로젝트를 수행해 왔습니다. 이러한 프로젝트는 위험을 완화하고 비즈니스 보안을 보장하기 위해 광범위한 개발과 지속적인 시행착오를 거쳐야 합니다. 마찬가지로, 수많은 AI 모델은 비즈니스 파일럿 테스트에 필요한 정확성과 안전성을 달성하기 전까지 반복적인 조정과 최적화를 거쳐 수십 또는 수백 번의 반복 학습을 거쳐야 합니다. 정확성과 보안에 대한 높은 요구로 인해 컴퓨팅 리소스 소비 역시 급격히 증가하며 리소스 혼잡과 학습 대기열도 발생하고 있습니다. 단순히 AI 서버 수를 늘리고 전체 컴퓨팅 리소스를 늘리면 실행 가능한 솔루션이 제시되지만 동시에 추가 리소스 관리 문제가 증폭되어 리소스 관리가 크게 복잡해집니다.

고객 이점

KAYTUS의 최첨단, 고성능, 확장성이 뛰어난 하드웨어를 AIStation과 함께 활용하면 고객의 대규모 언어 모델의 컴퓨팅 리소스 요구를 효과적으로 해결하고 강력한 컴퓨팅 용량을 제공할 수 있습니다. 따라서 제안 솔루션을 활용하면 모델 학습 시간이 700시간 이상 대폭 단축되고 학습 효율성도 향상됩니다. 시스템은 AIStation의 효율적인 리소스 공유와 최적화된 스케줄링 기능을 통해 컴퓨팅, 스토리지, 네트워크 리소스의 더 우수한 활용을 보장합니다. 배포된 솔루션은 시스템 자동화를 50% 넘게 향상시킨 동시에 한국 빅데이터 모델에 대한 고객의 신속한 출시 요구도 충족했습니다.