지난 5월 31일 서울 시민을 혼란케하는 일이 발생했다. 오전 6시 41분 북한 발사체 관련 ‘경계경보’ 위급재난문자가 발송된 탓이다. 당시 이 문자는 서울시가 발송했지만, 10여 분 뒤 행정안전부가 ‘오 발령’이라고 다시 전파하면서 혼란히 확대됐다. 당시 네이버 포털사이트는 많은 사용자가 상황을 파악하기 위해 동시 접속해 서버가 마비되는 사태가 발생하기도 했다.

이후 서울시는 행안부의 경계경보 발령 전파에 따른 조치였다면서 ‘과잉 대응’은 인정했지만 ‘오 발령’은 아니라고 밝혔다. 반면 행안부는 서울시에 경계경보 발령을 요청한 적이 없다고 선을 그으면서 양측 사이에 책임 공방이 벌어졌다. 이번 사건은 책임 여부를 떠나 정부 부처 간 또 지자체 간 소통이 원활히 되지 않는다는 점을 명확히 보여줬다. 그리고 이는 인공지능(AI) 기반 국가위기관리 정책에도 해당하는 요소다.

◇국가 안보에 적용되는 AI, 우선 과제는?

현재 각국 정부는 지진, 태풍 등 자연재해 감지부터 국방, 안보 등에 AI를 적용하는 정책을 추진하고 있다. 미 국방성의 경우 AI 적용 7대 분야로 △지휘통제 △자율운송체 △자율살상무기 △정보작전 △군수 △감시정찰 △사이버작전을 선정해 관련 사업을 진행하고 있다. 한국 국방부도 ‘국방혁신4.0 기본계획’에 AI 기반 핵심 첨단전력 확보 등의 내용을 포함하며 AI 과학기술 강군 육성을 추진 중이다. 이러한 계획엔 유기적 협력이 중요하다. AI 개발을 위한 데이터 공유부터 위기관리에 대한 통합적인 시스템 운영과 소통이 필요하기 때문이다.

최원상 한성대 국방과학대학원 교수(행정안전부 비상계획전문경력관)는 지난달 서울 용산에 있는 통일안보전략연구소에서 이 같은 내용이 담긴 ‘AI 기반 국가위기관리정책 발전 방안’을 발표했다. 그는 “AI를 국가 위기관리에 적용하면 지휘통제 등에 큰 역할을 할 수 있다”면서 “군사 인공위성으로 받은 정보를 AI가 분석해 조언하면 효율적인 지휘 결심이 이뤄질 수 있고 위기 발생 시 생명 등을 보호할 수 있다”고 말했다. 또 “비문이 아닌 민방위 계획 등을 데이터화해서 AI로 분석할 수 있는 체제만 만들어 놓아도 서로 연계되는 취합점 등을 파악하고 미흡한 부분을 보완할 수 있을 것”이라고 했다.

하지만 이를 위해선 큰 과제가 남아 있다. 국방·안보 분야의 빠른 디지털 전환이다. 최 교수는 “디지털 전환에 대한 관심이 높지만 아직 국가위기관리 관련해선 아날로그 정책이 많다”며 “네트워크 기반 체계, 데이터 수집·처리 등의 능력을 구축하고, 수집된 데이터가 다른 체계에서도 AI 해독이 가능하도록 체계 간 상호운용성을 확보하는 등의 노력이 필요하다”고 설명했다. 

단 그는 국방과 안보에 관련된 분야인 만큼 철저한 보안과 AI 기술에 대한 신뢰성이 함께 마련돼야 한다고 조언했다. “국방 분야 데이터는 보안과 비밀성 유지가 필요하므로 디지털화에 있어 보안 체계 구축이 필요하다”며 “비밀자료를 데이터화해 AI로 운영한다면 현재 군에서 운용하는 육군전술정보지휘체계(ATCIS)처럼 한정된 인원만 접근할 수 있게 하고 통신망을 달리하는 등의 조치를 해야 한다”고 강조했다. 또 “챗GPT가 환각 현상을 보이는 것처럼 AI 기술의 오류도 계속 나오고 있어 국가위기관리정책에 사용하는 AI는 특히 그 신뢰성을 확보하고 검증하는 체계가 꾸준히 마련돼야 한다”고 했다.

◇부처·지자체·군 칸막이 없애야 진정한 AI 정책 가능

이날 토론에 참석한 이들은 국가위기관리에 AI 기술을 접목하기 위해서는 부처·지자체·군 별 ‘칸막이 제거’가 필요하고, 기존 훈련에 대한 데이터도 잘 정제해 놓아야 한다고 조언했다.

여기서 칸막이 제거는 부처 간 투명한 협력을 뜻한다. 토론에 참석한 서울시 관계자는 “국가위기관리정책을 올바로 시행하기 위해서는 정부 부처, 지자체, 군 등과 유기적인 협력이 필요한데 현실은 국방부, 행안부 등 부처 간 자료 연동조차 잘 되고 있지 않은 상황”이라며 “이러한 상황에서 AI 접목은 어렵다고 본다”고 했다.

군 대표로 참석한 관계자는 “육군, 해군, 공군, 해병대 등은 각 데이터센터에서 데이터를 취합하고 이를 투명하게 공유하고 있지는 않다”며 “서로 취합한 데이터를 공유하기 아깝다고 생각하는 것 같다”고 지적했다. 이어 “최근 미국에서는 정부가 나서서 각 군의 데이터를 통합하고 공유할 수 있도록 했는데 우리도 이러한 시스템을 마련해 각 조직 간 칸막이를 없애는 것이 AI 기반 국가위기관리정책의 시작점이라고 본다”고 말했다.

AI 성능과 우수성은 데이터가 좌우하는 영향이 크므로 각 훈련 데이터를 적극 활용해야 한다는 주장도 나왔다. 지금은 보안 문제로 훈련 후 모든 데이터를 파쇄하는데, 그 전에 필요한 데이터 등을 선별해 차후 훈련 성과를 높이는 데 활용해야 한다는 주장이다. 서울시 관계자는 “국가위기관리 AI 모델을 만들기 위해선 데이터 생성과 집적이 잘 되어 있어야 하는데 서울시조차 이 부분이 미흡하다”면서 “행안부 통계만 봐도 데이터 집적은 만족스럽지 않다”고 지적했다. 이어 “훈련 후 데이터 파쇄 전 필요한 데이터는 별도로 처리하는 등의 절차가 필요하다”고 했다. 최 교수는 “훈련 결과 데이터가 일회성으로 끝나지 않고 이를 분석하고 피드백해서 차기 훈련에 반영하는 것이 필요하다는 것에 공감한다”면서 “다행스럽게도 이 부분은 담당부서 담당자들도 함께 고민하고 있어서 을지연습이나 지역단 충무훈련에 반영될 것으로 기대하고 있다”고 말했다.