코난테크놀로지가 AI 결과의 ‘이유(reason)’를 사람이 쉽게 이해할 수 있도록 설명해주는 설명가능 인공지능(Explainable AI, 이하 XAI) 기술을 자사 Vision 및 LLM 사업에 접목하며 기술 경쟁력을 끌어올리고 있다.

코난테크놀로지는 2022년부터 2026년까지 5년간 진행되는 KAIST 설명가능 인공지능연구센터 주도 연구 과제 ‘플러그앤플레이 방식으로 설명가능성을 제공하는 AI 기술 개발 및 설명 제공 검증’에 참여하고 있다. 원래 대학과 연구소 중심이던 이 프로젝트에서, 코난테크놀로지는 산업적 적용과 사업화를 책임지는 유일한 기업 파트너다. 

XAI는 AI 시스템이 내린 의사결정의 근거를 사람이 이해할 수 있는 형태로 제시함으로써, AI의 ‘블랙박스’ 문제를 해소하려는 기술이다. 기존 딥러닝이나 복잡한 모델을 사용한 AI는 높은 성능에도 불구하고, “왜 이런 결과가 나왔나”를 설명하기 어려웠다. KAIST 중심으로 개발되는 ‘플러그앤플레이(PnP) XAI’는 특정 모델 구조이나 구현 방식에 얽매이지 않고 다양한 AI 모델에 손쉽게 붙일 수 있다는 점이 핵심이다. 다시 말해, 이미 구축된 모델이라도 재학습 없이 설명 기능을 추가할 수 있다는 뜻이다. 코난테크놀로지는 이 구조를 자사의 Vision 및 향후 LLM 사업에 대응 가능한 ‘산업용 XAI’ 솔루션으로 삼겠다는 전략이다. 

특히 올해는 국방 분야 중심으로, 신뢰성이 중요한 AI 시스템에 설명가능성을 더하는 기술 고도화와 군(軍) 도메인 맞춤형 적용 연구에 집중했다. 코난테크놀로지는 이를 시작으로, 향후 공공, 의료, 제조, 금융, 법률 등 ‘고위험 분야(high-risk domain)’에서 신뢰 기반 AI 서비스를 제공하겠다는 비전을 밝혔다. 내년부터는 특히 LLM(대형언어모델)까지 적용 영역을 확장할 계획이다. LLM 특유의 ‘환각(hallucination)’ 현상의 원인을 규명하고 제거하는 연구를 KAIST XAI 센터와 함께 추진해 산업용 LLM의 안전성과 신뢰성을 확보할 것으로 보인다.