“초거대 AI도 다이어트가 필요”… 래블업, MWC 2023 참가

챗GPT 등 초거대 AI 서비스 원가 경쟁력 높일 연구개발 플랫폼 소개

초거대 인공지능(AI) 모델의 다이어트를 위해 국내 AI 스타트업이 스페인 바로셀로나로 출격한다. AI 개발 지원 플랫폼 ‘백엔드닷AI(Backend.AI)’를 공급하는 ‘래블업’이다.

래블업은 오는 27일부터 3월 2일까지 스페인 바로셀로나에서 열리는 ‘모바일 월드 콩그레스(MWC) 2023’에 참가해 ‘백엔드닷AI R3’를 전 세계 이동통신·모바일 업계에 소개할 예정이라고 21일 밝혔다.

백엔드닷AI는 AI, 머신러닝(ML), 고성능컴퓨팅(HPC)에 필요한 연구개발(R&D)과 비즈니스 등을 한 번에 지원하는 플랫폼이다. AI 개발을 지원하는 ‘AI옵스’ 기능뿐 아니라 AI 학습과 추론에 사용되는 반도체를 효율적으로 운영할 수 있는 ‘그래픽처리장치(GPU) 분할 가상화’ 기능을 지원한다.

GPU 분할 가상화는 하나의 컨테이너별로 0.1GPU, 0.2GPU, 2.7GPU 등으로 나눠 유연하게 제공하는 기능이다. 숙소를 예로 들면 하나의 거대한 건물을 여러 개의 방으로 나눠서 사용한다고 보면 된다. 방이 하나라면 한 명의 사용자밖에 공간을 이용할 수 없지만, 여러 방으로 나누면 여러 명이 사용할 수 있듯이 AI 칩이나 GPU를 최대 20개로 분할해 여러 명이 동시에 사용할 수 있게 한다. 고객사는 이 기능을 통해 여러 개의 GPU를 구매하지 않아도 작업량을 늘릴 수 있고, AI 개발에 드는 전력 소모도 아낄 수 있다.

래블업은 백엔드닷AI로 최근 인기인 챗GPT의 기반이 된 초거대 AI에 사용되는 컴퓨팅 파워와 전력을 효율적으로 사용할 수 있다고 밝혔다. AI 연구와 서비스 개발 과정을 자동화하고 반도체 자원도 아낄 수 있어서다. 실제로 삼성전자, LG전자, KT, 롯데, CJ 등 국내 대기업은 이 플랫폼을 활용해 AI 모델의 비용, 성능, 전력 문제를 해결하고 있는 것으로 알려졌다.

래블업은 이 기술을 MWC에 소개하며 전 세계적으로 화두인 초거대 AI의 효율화를 이끌 계획이다. 신정규 래블업 대표는 “래블업은 국내 통신사와 거대 언어모델부터 생성 모델까지 다양한 수요에 대응하는 AI 모델 서비스를 백엔드닷AI 기반으로 준비하고 있다”면서 “MWC 2023은 이를 통해 AI를 도입하려는 글로벌 기업들이 편의성과 비용 유연화를 어떻게 함께 달성할 수 있는지 소개하는 자리가 될 것”이라고 말했다.