박지환 씽크포비엘 대표가 ‘2024 인공지능의 책임 있는 군사적 이용에 관한 고위급회의(이하 2024 REAIM 고위급회의)’의 일환으로 열린 육군시험평가단 주관 ‘AI 능력 시험평가 개발 전략’ 발표회에서 인공지능(AI) 무기 평가 방안 연구를 소개하며, 데이터 품질 점검 중요성을 언급했다.

어제 9일 오후 서울 롯데호텔에서 열린 육군시험평가단 주관 ‘AI 능력 시험평가 개발 전략’ 발표회에서 박지환 대표가 강연자로 나서 AI 무기체계의 효과적인 품질 점검 방안을 제시했다. 발표회는 ‘2024 REAIM 고위급회의’ 주요 세션 가운데 하나로 진행됐다. 세션에는 군과 정부 관계자, 각국 전문가 60여 명이 참석했다.

박지환 대표는 “군의 신뢰할 수 있는 고품질 AI 무기체계 획득을 위해서는 고도화한 AI 적용 무기체계 시스템 평가기법과 체계를 구축해야 한다”며 “신뢰할 수 있는 AI 무기체계 성능 확보를 위해 AI 기술 개발에 필요한 학습 및 학습용 데이터 품질을 견고하게 점검하자”고 말했다.

씽크포비엘은 올해 상반기부터 국방기술품질원(기품원)과 ‘AI 적용 무기체계의 시스템 수준 평가 방안 연구’를 수행하고 있다. 해당 사업은 지금까지 연구온 AI 무기체계 품질관리 방안이 AI 기술 발전 수준을 따라잡지 못한다는 문제의식에 따라 추진됐다. 양측은 올해 안에 ‘견고성(Robustness)’, ‘설명가능성(Explainable)’, ‘의도부합성(Alignment)’에 초점 맞춘 AI 적용 무기체계 평가 방안을 마련할 계획이다.

AI 적용 무기체계 시스템 평가기법이 고도화하면 우리 군의 신뢰할 수 있는 고품질 AI 무기체계 획득이 가능해지고, 연구 결과의 현장 적용에 필요한 인프라‧제도 등 관련 근거를 마련할 수 있을 것이라는 것이 씽크포비엘의 설명이다. 회사 관계자는 “AI 국방 분야 적용 안정성이 중요한 만큼 관련 투자가 일회성에 그치지 않도록 정부 차원 관심과 지원이 절실하다”고 말했다.

한편, 9일부터 이틀간 서울 롯데·조선 호텔에서 열린 2024 REAIM 고위급회의는 국방부‧외교부가 공동 개최하는 행사로 AI의 군사적 이용이 국제평화와 안보에 미치는 영향에 대한 이해를 제고하고 관련 국제규범 형성 과정에 국제적 논의를 하기 위해 마련됐다. 정부, 산업계, 학계, 국제기구 등이 함께 참여하는 국제 다자회의체로 우리나라와 네덜란드 정부가 지난해 네덜란드 헤이그에서 제1차 회의를 공동 주최했고, 이번에 서울에서 제2차 회의가 열리게 됐다.