KT클라우드(KT자회사)가 ‘초거대 AI’ 인프라 지원에 나선다. 컴퓨팅 자원 구축에만 막대한 비용이 드는 초거대 AI 인프라를 구독형 서비스로 지원해 문턱을 낮추겠다는 것이다. 해당 서비스를 통해 중소기업 및 스타트업의 초거대 AI 활용이 커질 것으로 보인다.

KT클라우드는 오는 12월까지 KT 대덕2연구센터에 초거대 AI 학습용 그래픽처리장치(GPU) 인프라를 구축한다고 25일 밝혔다. 초거대 AI는 대용량 연산이 가능한 컴퓨팅 인프라를 기반으로 대규모 데이터를 학습한 AI 모델이다. 기존의 AI가 특정 분야 데이터를 학습해 그 분야에 맞는 결과물만 낼 수 있었다면, 초거대 AI는 새롭게 학습시키기만 하면 과거의 전혀 다른 새로운 일도 해낼 수 있다. 어느 정도 범용적으로 사용할 수 있다는 이야기다.

여기서 필요한 컴퓨팅 인프라 중 하나는 GPU 자원이다. KT클라우드는 초거대 AI 사업을 본격 추진하며 이 GPU 컴퓨팅 인프라를 확보하고자 회사의 HAC와 엔비디아의 GPU 어플라이언스를 병행 도입하기로 했다고 밝혔다.

HAC는 지난해 12월 KT클라우드가 출시한 종량제 GPU 서비스다. AI 모델 대형화에 필요한 △비즈니스 민첩성 △비용 효율성 △개발 유연성·연속성 △프로그래밍 호환성 등을 지원한다. 여러 대의 GPU를 결합해 하나의 GPU처럼 만들어 데이터 학습에 필요한 만큼의 자원을 할당해 컴퓨팅 인프라를 탄력적으로 이용할 수 있다.

비용 효율성도 높다. 클라우드를 통해 사용자가 GPU를 사용한 기간과 할당된 자원만큼만 비용이 책정된다. 이미 작업 코드가 있는 소스를 다시 활용하는 경우 작업 도중 할당받은 자원 규모를 변경하는 것도 가능하다.

KT클라우드는 HAC를 토대로 초거대 AI 언어모델 학습 테스트를 진행한 결과 동등한 조건의 기존 구축형 서비스 대비 30~50%의 비용 절감 효과를 낼 수 있는 것으로 나타났다고 밝혔다. 윤동식 KT클라우드 대표는 “HAC는 초거대 AI 연구 및 서비스 개발에 필수인 대규모 인프라를 제공하는 기술”이라며 “초거대 AI 산업 문턱을 낮춰 대규모 GPU 인프라가 필요한 AI 전문기업·스타트업 등과 성공 사례를 만들어갈 것”이라고 말했다.