인공지능(AI) 플랫폼 기업 래블업이 일본 도쿄에서 열리는 ‘엔비디아 AI 서밋’에 참가한다. 엔비디아 AI 서밋은 AI와 가속 컴퓨팅 기술의 최신 동향을 비롯한 실제 활용 사례를 소개하며, AI 미래와 영향력을 논의하는 자리다. 올해는 미국 워싱턴 DC와 인도, 일본에서 열린다.

이번 엔비디아 AI 서밋 재팬에는 엔비디아 젠슨 황 최고경영자(CEO)와 일본 소프트뱅크의 손정의 회장이 AI와 가속 컴퓨팅이 변화시킬 산업에 대한 대담을 진행한다. 3000여명이 넘는 사람들이 참가 신청한 이번 행사는 12일 워크샵을 필두로 생성형 AI, 산업 디지털화, 로보틱스, 대형언어모델(LLM)을 주제로 50여개 이상의 다양한 세션과 라이브 데모가 진행된다. 

총 62개사가 참여하는 이번 행사에 래블업은 엔비디아 인셉션 파트너로 참가한다. 자사의 하이퍼스케일 AI 플랫폼, 백엔드닷AI(Backend.AI) 및 인퍼런스 솔루션인 PALI를 엔비디아 GH200 Grace Hopper 슈퍼칩 위에서 구동, NIM(엔비디아 인퍼런스 마이크로서비스)을 통해 AI 기술을 효과적으로 활용하는 방법에 대한 데모를 선보인다. 

2021년부터 아시아태평양 지역에서 최초이자 유일하게 엔비디아 DGX-Ready Software로 인증받은 Backend.AI는 DGX 시스템 클러스터를 비롯해 가장 최신의 엔비디아 Grace CPU 슈퍼칩에서까지 대규모 AI 및 가속 컴퓨팅 애플리케이션을 위한 컴퓨팅 자원을 최적화하고 관리하며, GPU의 사용성을 끌어올려 주는 AI 플랫폼이다. 

신정규 래블업 대표는 “이번 엔비디아 AI 서밋을 통해 래블업이 엔비디아와 함께 Backend.AI 기반의 초거대 AI 모델 개발뿐 아니라 PALI, PALANG으로 생성AI 서비스 운영의 효율을 극대화하는 사례를 소개하게 됐다”며 “PC 및 중소 규모 기관의 자체 AI 활용부터 GPU 하이퍼스케일러의 AI 서비스 운영까지 다양한 스케일에 모두 대응하는 AI 인프라 운영 시스템 Backend.AI의 강점을 널리 알리겠다”고 말했다.