[AI BUS 2023] 김정묵 래블업 COO “거대 AI 시대, 고효율성 확보해야”

AI 개발자와 사용자의 조력자 ‘래블업’, 거대 모델 문제 해결 앞장
LLM 기반 비말 분포 예측 모델 구축사례 소개

김정묵 래블업 최고운영책임자(COO)의 말이다. 그는 23일 부산대 10.16 기념관에서 열린 ‘AI BUS 2023’ 컨퍼런스에서 인공지능(AI) 개발에 필요한 그래픽처리장치(GPU) 등 인프라 구축에서 고비용·전력을 해결해야 활용성 높은 AI 모델을 구축할 수 있다고 밝혔다. 그는 “생성형 AI 시대가 펼쳐졌다"며 "지금 우리는 기업 맞춤형 AI 모델 운영에서 비용 효율성과 지속가능성을 고려하는 것이 중요하다”고 강조했다.

김정묵 COO는 “거대 AI 시스템을 구축할 때 수백억의 고비용이 발생한다”며 “하나의 AI 시스템을 구동할 때 아파트 단지만큼의 전력이 소모돼 이에 따른 환경 문제와 비용 문제도 있다”고 말했다. 이어 “기존의 모델들을 자사에 맞게 미세조정(파인튜닝) 훈련을 하는 데 막대한 비용이 투입된다”면서 “이 때문에 하나의 AI 거대 모델을 만들 때 많은 투자가 필요하다”고 설명했다. 이어 “온프레미스(사내 구축) 환경에서 생성 AI를 구축해야 할 때 비용 최적화, 데이터 보안, 모델의 호환성, 지속가능성, 스케일링 등 많은 기술적인 부분을 고려해야 한다”면서 “우리는 하나의 플랫폼에서 AI 모델 구축을 자동으로 관리하고 최적화할 수 있는 기술을 공급해 거대 AI 모델 훈련을 최적의 비용으로 가능케 하도록 돕고 있다”고 설명했다.

래블업은 온프레미스(사내 구축) 환경에서 거대 AI 모델을 구축할 때 이를 돕는 조력자 역할을 하는 기업이다. 하나의 GPU를 분할해 이용할 수 있는 ‘백엔드닷에이아이(Backend.AI)’ 리소스 관리 플랫폼을 제공한다. 이 플랫폼은 AI 구축 기업의 저비용·저전력 효과를 이끌어준다.

래블업은 이번 강의해서 주력 제품인 백엔드닷에이아이뿐 아니라 의료 도메인 분야에서 활약한 연구 성과를 소개했다. 정보통신산업진흥원(NIPA), 한국과학기술연구원(KIST) 등과 실측 비말 데이터 기반 호흡기 감염병 전파 매개 변수 분석 AI 모델을 연구한 사례다. 

이 모델은 코로나19와 같은 전염병을 예측하는 딥러닝 모델이다. 비말이 어떻게 퍼지는지 예측하고 확산에 따라 호흡기 감염병 전파를 예측할 수 있다. 코로나19 다음으로 새로운 전염병이 또 발생했을 때 감염병 확산 여부나 피해 여부 등을 과학적으로 분석할 수 있게 지원한다.

래블업 감염병 전파 위험도를 추정할 수 있는 대형언어모델(LLM) 기반 비말 분포 예측 모델을 구축한 사례도 소개했다. 김 COO는 “비말 분포 예측 모델을 구축해 이를 더욱 쉽게 활용하기 위해 LLM를 적용했다”며 “문답식으로 비말이 매개가 돼 호흡기 감염병이 어떻게 전파될 수 있는지 쉽게 설명해 주고 있다”고 밝혔다.

김정묵 COO는 생성형 AI로 의료분야 혁신이 빠르게 이뤄질 것 같다고 전망했다. 그는 “신약 개발, 진단 AI, 의료 전문가 지원 등 의료 분야에서 활용되고 있다”며 말했다. 이어 “다양한 의료 연구 분야에 혁신에 대해 생성형 AI가 큰 기여를 할 수 있을 거라고 생각된다”며 “생성형 AI의 의료 부문 활용이 생각보다 빠르게 전파돼 많은 어플리케이션이 생성될 것”이라고 예측했다.

‘AI BUS’는 ‘AI 부산(BUSAN)’의 약자로, 부산시가 AI 경쟁력을 가진 첨단 도시로 발전하겠다는 포부를 선언하기 위해 마련한 행사다. 부산대학교가 개교 77주년을 기념해 열었다. 22일에는 부산의 AI 대표 인사들이 참여해 부산의 비전을 발표한 전야제가 열렸다. 이날 ‘AI BUS 2023’은 ‘사람과 기업을 위한 AI(AI for People and Business)’라는 주제로 의료+AI·교육+AI·AI 전문가 섹션으로 AI 전문가들의 강연이 이어졌다. 이 행사는 부산대와 부산대학교병원, 부산대학교 AI대학원, 아이에답(AIEDAP, AI Education Alliance and Policy Lab), 인공지능 전문매체 더에이아이(THE AI)가 주관·주최했다.