부산대 연구팀이 심장질환 등 환자의 예후 예측 결과에 대한 설명과 추가적인 인사이트를 제공하는 인공지능(AI) 시스템 개발에 성공했다. 기존 AI 시스템은 단순히 예측 결과만 제공했었다.

송길태 부산대 정보컴퓨터공학부 교수팀과 이혜원 부산대병원 순환기내과 교수 연구팀이 공동연구를 통해 사용자가 AI 시스템의 예측 결과를 신뢰하고 해석할 수 있도록 예측 결과에 대한 충분한 설명과 함께 반사실적 예시를 제공하는 AI 시스템(Reliable and Interpretable AI System)을 개발했다고 17일 밝혔다.

연구팀은 임상의가 AI 시스템을 현장에서 사용하는 데 필요한 요소들을 식별하고, 해당 요소들을 포함한 AI 시스템을 제안했다. 이 시스템은 AI 예측 결과를 설명하는 방법 중 하나(SHAP, SHapley Additive exPlanations)을 사용해 예측 결과에 대한 설명(Global and Local Explanation)을 제공했다.

사용자가 특정 조건을 변경했을 때 AI 모델의 예측 결과가 어떻게 달라질 수 있는지 보여주는 방법(DiCE, Diverse Counterfactual Explanations)을 통해 환자의 상태 혹은 처방이 달라지면 AI의 예측 결과가 달라질 수 있는가에 대한 반사실적 예시(Counterfactual Explanation)를 보여준다.

AI 시스템의 예측 결과로 제시되는 확률값이 실제 환자 예후 가능성으로 해석될 수 있도록 신뢰도 교정(Confidence Calibration) 기법도 접목했다. 연구팀은 개발한 AI 시스템을 한국인 급성 심근경색증 환자 데이터에 적용해 검증했다.

연구팀은 해당 AI 시스템에 대한 특허를 국내·일본·유럽연합에 출원 완료했다. 부산대 산학협력단의 지원을 받아 미국 특허 출원도 진행 중이다.

임상 분야에서 환자 예후 예측에 대한 기존 AI 시스템의 한계를 극복할 것으로 전망되는 이번 연구 성과는 국제 학술지 ‘미국 의료정보학회지(Journal of the American Medical Informatics Association)’에 17일 게재됐다.

송길태 부산대 교수는 “이번 연구는 임상의가 실제 임상 현장에 적용해 도움받을 수 있는 실전적인 AI 시스템을 개발했다는 데 큰 의미가 있다”며 “임상 전문가들이 환자의 건강 상태를 더 잘 예측하고, 더 효과적인 진료와 치료를 제공할 수 있는 정밀 의료 시스템을 실현하는 데 한 걸음 다가갈 수 있을 것”이라고 말했다.

한편 이번 연구는 과학기술정보통신부와 한국연구재단의 기초연구실사업과 정보통신기획평가원이 지원하는 인공지능융합혁신인재양성사업의 지원을 받았다. 송길태 부산대 교수와 부산대병원 이혜원 교수가 교신저자, 김민욱 부산대 정보컴퓨터공학부 석사과정생이 1저자다.