카카오헬스케어가 대형언어모델(LLM) 기반 생성형 인공지능(AI) 서비스 출시 계획을 밝혔다. 자체 출시한 혈당 관리 서비스 ‘파스타’에 대화형 AI 기능을 결합하고 있다. 올해 해당 서비스를 출시하는 것이 목표다.

황희 카카오헬스케어 대표는 13일 서울시 마포구에 위치한 누리꿈스퀘어 국제회의장에서 열린 ‘AWC 2024 in Seoul(AWC 서울)’에서 기조 강연자로 나와 카카오헬스케어가 LLM 기반 생성형 AI 서비스를 준비하고 있다고 밝혔다. 지난 2월 출시한 혈당 관리 애플리케이션(앱) ‘파스타’에 대화형 AI를 탑재할 계획이다. 파스타는 연속혈당측정기(CGM, Continuous Glucose Monitoring)를 통해 실시간으로 측정된 혈당 수치와 이용자가 입력한 식단, 운동, 수면 등 라이프로그 데이터를 AI를 통해 분석하고 그에 알맞은 생활 습관을 제안하는 식품의약품안전처 인증 2등급 소프트웨어 의료기기다.

황 대표는 “우리는 파스타 서비스에 대화형 AI를 어떻게 적용할지를 계속 테스트하고 있다”며 “당뇨, 전 당뇨 환자들이 궁금해하는 내용은 200B, 500B와 같은 큰 모델이 필요하지는 않다고 판단해 7B, 13B, 25B, 65B 등 작은 규모의 파운데이션 모델을 계속 바꿔가면서 테스트하고 있다”고 말했다.

카카오헬스케어는 이 모델들의 할루시네이션(환각) 현상도 줄여가고 있다. 별도 랩에서 LLM을 일정 부분 파인튜닝하고 검색증강생성(RAG) 기술을 더하는 연구를 하고 있고, 이를 토대로 소형 LLM(sLLM)을 서비스에 결합하는 연구개발(R&D)도 진행 중이다.

데이터 분야에서도 LLM을 활용하는 연구도 수행하고 있다. 카카오헬스케어는 방대하고 표준화돼 있지 않은 의료 데이터를 취합하는 ‘프로젝트 델타’를 진행하고 있다. 구글과 협업해 연합학습 기반 헬스케어 맞춤형 AI 알고리즘도 만들었다. 이를 국내 병원들과 테스트하기도 했다. 카카오헬스케어는 여기에 더해 병원의 수많은 비정형 데이터들을 정형화 시켜 활용성을 높이는 연구도 진행하고 있다. 

황 대표는 “우리는 병원의 비정형 데이터들을 정형화시키는데 LLM을 사용할 수 없을까 고민했다”면서 “지금은 라마3를 활용하고 있는데, 처음엔 챗GPT, 제미나이 등 다양한 모델을 검토했다”고 밝혔다. 이어 “어떤 모델이든 제로샷으로 비정형 데이터를 올리면 결과가 임상적으로 쓸 수 있는 만큼 좋지 않았다”면서 “중간에 방향을 바꿔 비정형 데이터를 잡아줄 수 있는 연구를 수행한 결과 특정 판독지 경우 90% 이상 정확도를 보인다는 것을 확인했다”고 말했다.

카카오헬스케어는 이를 기반으로 다양한 병원의 비정형 데이터를 활용해 의료 혁신을 이어갈 방침이다. 연합학습으로 결과 데이터만 받으면 비정형 데이터도 표준화하면서 개인 정보 침해 문제도 줄일 수 있어서다. 여기서 연합학습은 모든 데이터를 서버로 모아 AI를 학습시키는 기존 방법과 달리, 사용자 기기에서 데이터를 처리해 그 결괏값만 내보내는 학습 방식을 뜻한다. 각 기기에서 AI 학습을 하기 때문에 개인 데이터를 이동시키거나 노출할 필요가 없다.

황 대표는 “카카오헬스케어는 실제 활용할 수 있는 AI를 추구한다”면서 “LLM을 포함한 AI 도구들을 실제 사용할 수 있고 신뢰할 수 있는 형태로 제공할 수 있도록 지속 기술을 고도화하겠다”고 말했다.

AWC는 2017년부터 AI 기술 연구 및 산업 현황을 알리기 위해 인공지능 전문매체 더에이아이(THE AI)와 디지틀조선일보가 서울, 광주, 부산 등 지역 거점에서 매년 개최하는 AI 컨퍼런스다. 서울에서 열리는 AWC 서울의 경우 과학기술정보통신부, 정보통신산업진흥원(NIPA)과 함께 의료를 주제로 매년 개최해왔다. 초거대 AI를 주제로 한 이번 컨퍼런스도 NIPA와 THE AI, 디지틀조선일보가 공동으로 주최·주관했고, 과기정통부가 후원했다.