의료 인공지능(AI) 기업 에이아이트릭스(대표 김광준)가 세계 최고 권위의 머신러닝 학술대회 ‘ICML 2025’에서 시계열 데이터 기반 인공지능 모델의 설명력을 개선한 자사의 기술 논문이 공식 채택됐다고 30일 밝혔다. 해당 논문은 전체 제출작 중 상위 3%에 해당하는 ‘스포트라이트(Spotlight)’ 발표 논문으로 선정됐다.

이번 연구는 시계열 데이터에 특화된 AI 설명 기법 ‘TIMING(Temporality-Aware Integrated Gradients for Time Series Explanation)’을 제안하고, 그 유효성을 정량적으로 평가한 것이 핵심이다. 시계열 기반의 예측 모델이 특정 결과를 도출한 근거를 보다 명확히 이해할 수 있도록 한 기술이다.

기존 설명 가능 인공지능(XAI) 기법의 하나인 Integrated Gradients(IG)는 각 시점의 기여도를 평가할 수 있지만, 기여 방향성(긍정/부정)에 대한 분석이 어렵다는 한계가 있었다. 에이아이트릭스 연구팀은 이 구조적 한계를 보완하기 위해, 방향성을 포함한 기여도 분석이 가능한 개선 기법을 개발하고, 이를 정량적으로 평가할 수 있는 새로운 지표인 ‘누적 예측 차이(CPD)’와 ‘누적 예측 보존(CPP)’을 함께 제안했다.

연구 결과, 기존의 IG 기반 기법이 일부 최신 기법보다 오히려 높은 설명 성능을 보일 수 있음을 확인했고, 이를 기반으로 시계열 데이터에 맞춘 개량 방식인 ‘TIMING’을 새롭게 도출했다. TIMING은 구간 단위 무작위 마스킹을 활용해 시간적 의존성을 제거하고, 각 시점의 기여도를 더욱 정교하게 평가할 수 있도록 설계됐다.

해당 연구는 의료 데이터를 포함한 다양한 시계열 데이터셋에서 실험되었으며, 예측 결과에 핵심적인 영향을 미친 시점을 효과적으로 식별할 수 있는 것으로 나타났다. 연구팀은 이를 통해 AI 모델의 판단 근거를 더욱 투명하게 제시할 수 있을 것으로 기대했다.

에이아이트릭스 김창훈 연구원은 “시계열 데이터는 의료 분야처럼 안전성과 신뢰성이 중요한 영역에서 핵심적으로 사용된다”며 “이번 연구는 인공지능 예측 결과에 대한 설명력 확보를 통해, 실제 임상 의사결정에서의 활용 가능성을 높이는 데 기여할 수 있을 것”이라고 밝혔다.

ICML(International Conference on Machine Learning)은 1980년부터 개최되어 온 머신러닝 분야의 대표 국제 학술대회다. 올해 42회를 맞은 ICML 2025에는 전 세계 수천 편의 논문이 접수됐으며, 그중 상위 3% 이내의 논문에 대해 스포트라이트 발표 기회가 주어진다.