에이아이트릭스, 의료 AI 설명력 높이는 기술로 ICML 2025 ‘스포트라이트’ 선정

시계열 예측 모델 설명 기법 ‘TIMING’, 국제 학회서 기술력 인정

의료 인공지능(AI) 기업 에이아이트릭스(대표 김광준)가 세계 최고 권위의 머신러닝 학술대회 ‘ICML 2025’에서 시계열 데이터 기반 인공지능 모델의 설명력을 개선한 자사의 기술 논문이 공식 채택됐다고 30일 밝혔다. 해당 논문은 전체 제출작 중 상위 3%에 해당하는 ‘스포트라이트(Spotlight)’ 발표 논문으로 선정됐다.

이번 연구는 시계열 데이터에 특화된 AI 설명 기법 ‘TIMING(Temporality-Aware Integrated Gradients for Time Series Explanation)’을 제안하고, 그 유효성을 정량적으로 평가한 것이 핵심이다. 시계열 기반의 예측 모델이 특정 결과를 도출한 근거를 보다 명확히 이해할 수 있도록 한 기술이다.

기존 설명 가능 인공지능(XAI) 기법의 하나인 Integrated Gradients(IG)는 각 시점의 기여도를 평가할 수 있지만, 기여 방향성(긍정/부정)에 대한 분석이 어렵다는 한계가 있었다. 에이아이트릭스 연구팀은 이 구조적 한계를 보완하기 위해, 방향성을 포함한 기여도 분석이 가능한 개선 기법을 개발하고, 이를 정량적으로 평가할 수 있는 새로운 지표인 ‘누적 예측 차이(CPD)’와 ‘누적 예측 보존(CPP)’을 함께 제안했다.

연구 결과, 기존의 IG 기반 기법이 일부 최신 기법보다 오히려 높은 설명 성능을 보일 수 있음을 확인했고, 이를 기반으로 시계열 데이터에 맞춘 개량 방식인 ‘TIMING’을 새롭게 도출했다. TIMING은 구간 단위 무작위 마스킹을 활용해 시간적 의존성을 제거하고, 각 시점의 기여도를 더욱 정교하게 평가할 수 있도록 설계됐다.

해당 연구는 의료 데이터를 포함한 다양한 시계열 데이터셋에서 실험되었으며, 예측 결과에 핵심적인 영향을 미친 시점을 효과적으로 식별할 수 있는 것으로 나타났다. 연구팀은 이를 통해 AI 모델의 판단 근거를 더욱 투명하게 제시할 수 있을 것으로 기대했다.

에이아이트릭스 김창훈 연구원은 “시계열 데이터는 의료 분야처럼 안전성과 신뢰성이 중요한 영역에서 핵심적으로 사용된다”며 “이번 연구는 인공지능 예측 결과에 대한 설명력 확보를 통해, 실제 임상 의사결정에서의 활용 가능성을 높이는 데 기여할 수 있을 것”이라고 밝혔다.

ICML(International Conference on Machine Learning)은 1980년부터 개최되어 온 머신러닝 분야의 대표 국제 학술대회다. 올해 42회를 맞은 ICML 2025에는 전 세계 수천 편의 논문이 접수됐으며, 그중 상위 3% 이내의 논문에 대해 스포트라이트 발표 기회가 주어진다.