한림대학교의료원이 글로벌 IT 기업 킨드릴(Kyndryl) 코리아와 손잡고 의료진 개입을 전제로 한 AI 에이전트 운영체계 구축에 나선다. 의료 현장에서 AI 활용이 확대되는 가운데 안전성과 책임성을 확보하기 위한 의료 AI 거버넌스 체계 마련도 추진한다.

한림대학교의료원은 지난달 29일 킨드릴코리아와 ‘에이전틱(Agentic) AI 기반 의료서비스 혁신’을 위한 업무협약(MOU)을 체결했다고 2일 밝혔다.

이번 협약은 병원 업무 전반에 적용할 수 있는 AI 에이전트 운영체계를 구축하기 위한 것으로, 의료원은 기존 생성형 AI 서비스 시범 운영 단계를 넘어 실제 병원 업무와 AI를 연계하는 방안을 검토하고 있다.

에이전틱 AI는 사람이 일일이 지시하지 않아도 목표에 따라 스스로 판단하고 업무를 수행하는 AI 기술을 의미한다. 양 기관은 AI가 1차 업무를 수행하되 중요한 의사결정 단계에서는 의료진이 직접 검토·승인하는 구조를 적용할 계획이다.

특히 양 기관은 한림대의료원에 특화된 ‘HAIF(Hallym Agentic Intelligence Framework)’ 구축을 추진한다. HAIF는 병원 환경에서 여러 AI 에이전트를 운영·관리하기 위한 체계로, 정책 기반 통제를 통해 의료 규제와 개인정보 보호를 지원하는 것을 목표로 한다.

의료원에 따르면 HAIF에는 AI의 판단 과정을 추적할 수 있는 설명 가능한 AI(XAI)와 인간 개입(HITL·Human-in-the-Loop) 구조가 적용될 예정이다. 또한 민감한 환자 정보는 병원 내부 서버에 보관하고 필요에 따라 외부 클라우드를 활용하는 하이브리드 환경 구축도 검토하고 있다. 다만 데이터 보관 방식과 운영 구조 등 구체적인 구현 방안은 향후 시범사업 과정에서 구체화할 예정이다.

킨드릴은 2021년 IBM의 IT 인프라 서비스 부문에서 분사한 글로벌 IT 인프라 운영·디지털전환 전문 기업이다. 양 기관은 킨드릴이 제공하는 오픈소스 기반 에이전틱 AI 프레임워크를 활용해 의료원 환경에 맞는 운영체계를 마련할 계획이다.

양 기관은 향후 임상 정보 검색, 외래·입원 상담, 진료 지원, 진료 연계, 예약·재예약 자동화, 복약 가이드 등 병원 맞춤형 AI 에이전트 활용 모델을 검토할 예정이다. 우선 의료진 지원용 AI 에이전트 구축을 추진하며, 첫 시범 과제로 응급환자 혈전용해제 투여 전 안전성을 점검하는 모델을 검토하고 있다.

다만 해당 모델은 현재 초기 설계 단계로, 향후 시범 운영과 검증 과정을 거쳐 구체적인 적용 방안을 마련할 예정이다.

양 기관은 올해 하반기 AI 에이전트 시범 구축과 HAIF 적용·검증을 추진할 계획이다.

김용선 한림대학교의료원장은 “이번 협약을 통해 킨드릴의 AI 기술 전문성과 의료원의 디지털 전환 경험을 결합해 의료 현장에 적용 가능한 모델을 만들어 나가겠다”며 “보다 안전하고 효율적인 병원 운영체계와 미래 지향적 의료서비스 구현을 위해 협력해 나가겠다”고 말했다.

이기열 킨드릴코리아 대표는 “의료 현장에 적합한 에이전틱 AI 운영체계 구축을 지원해 병원 환경에서 활용 가능한 AI 모델 개발에 협력하겠다”고 밝혔다.