AI 신뢰성 국제연대, 韓 지역 순회… 첫 방문지는 ‘전북’

TRAIN, 전북 상륙…‘AI 공공서비스 안전·신뢰성 확보’ 세미나 개최
공공서비스 분야 안전하고 올바른 AI 활용 논의

인공지능(AI) 신뢰성 국제연대 TRAIN이 한국에 상륙했다. 공공서비스 분야 올바른 AI를 활용을 논의한다. 첫 번째 역은 전라북도다.

TRAIN은 2일 오전 전북테크비즈센터 대회의실에서 ‘전북 AI 공공서비스 안전·신뢰성 확보 세미나’를 열고 지자체 공무원을 대상으로 공공서비스 분야 AI 안전·신뢰성 강연을 진행했다. 이날 행사에서는 김종훈 전라북도 경제부지사와 국주영은 전북자치도의회 의원을 비롯한 전북 지자체 관계자들이 참여했다. 박지환 TRAIN 한국 추진단장 겸 씽크포비엘 대표는 “전북은 기술적인 부분에 있어서 한 발 뒤에 있을 수밖에 없는 도시라는 얘기가 많았다”면서 “AI 신뢰성은 하나의 출발선을 가져갈 수 있는 기회이므로 TRAIN의 국내 여정을 전북에서 시작하고 싶었다”고 말했다.

TRAIN(Trustworthy AI International Network)은 신뢰할 수 있는 AI를 위한 국제연대다. 글로벌 AI 기술과 산업‧시장이 급변하는 상황에서 이질적인 문화와 제도‧정책으로 야기되는 다양한 문제를 민간이 공동 대응하자는 취지로 설립됐다. 현재 한국, 중국, 베트남, 태국, 인도네시아 AI 기업들이 가입했고, 일본, 싱가포르, 말레이시아 기업들도 합류를 준비 중이다. 지난달 베트남 지방정부 산하기관인 DSAC(다낭 반도체 AI 연구훈련센터), 지역 IT 기업과 AI 신뢰성 강화를 위한 구체적인 협력 방안을 논의하는 등 AI 신뢰성 강화를 위한 국제 협력을 추진하고 있다.

이 연대는 2일 전북을 시작으로 이번 주에만 3일 광주, 5일 창원에서 AI 신뢰성을 강연한다. AI 기술의 실체와 법, 안전성, 신뢰성 등에 관해 올바르게 알리기 위해서다. 지자체에서 AI 관련 사업을 발주하고, 실제 공공서비스 영역에 기술을 활용할 때 올바른 방향을 정립하는 것이 목표다.

이날 연사로는 박지환 씽크포비엘 대표와 오정익 법무법인 원 변호사, 권종원 한국산업기술시험원(KTL) 산업지능화기술센터장이 나섰다. 이들은 기술, 법, 검증 등을 통해 AI 기술의 올바른 활용을 논의했다.

박 대표는 공공 분야에서 AI를 도입할 때 법과 안전 분야에 우려가 없는지 검토할 필요가 있다고 밝혔다. 한국에서 준비 중인 AI 법 뿐 아니라 유럽연합(EU) AI 법(Act)과 같이 글로벌 트렌드를 볼 수 있도록 시야를 넓히는 것이 필요하다고 했다. 지자체에서 도입한 AI가, 혹은 추진한 AI 사업이 다른 국가에서 정한 고위험 AI인 경우 글로벌 협력 등에서 부정적 영향을 끼칠 수 있고, 문제가 발생하면 책임 소재가 발생할 수 있어서다.

박 대표는 “청소년을 대상으로 한 심리 상담 AI 서비스를 만들면 유럽 법 기준으론 200억 원 이상의 과징금 대상”이라면서 “과거 벨기에 남성이 AI와 대화하다가 자살을 한 사례가 있는 것처럼, 유럽에선 ‘의사결정 취약자’가 있다는 개념을 갖고 AI에 접근하고 있기 때문”이라고 말했다. 이어 “한국에서 이러한 AI를 고위험으로 분류하지 않더라도 이미 해외에선 관련 논의가 되고 법제화가 됐다는 점을 알아야 한다”면서 “치매 여부를 판단하는 AI를 도입한다고 가정할 때도 그 결과가 대상자에게 어떤 영향을 줄 것인지, 좌절을 줄 것인지 빠른 판단을 통해 골든타임을 확보할 수 있는지 등의 가능성을 모두 검토할 필요가 있다”고 덧붙였다.

오정익 법무법인 원 변호사도 지자체에서 AI를 도입·검토할 때 해외 법 사례를 살펴야 한다고 조언했다. EU AI 법을 비롯해 미국, 중국, 영국 등에서 하는 AI 규제와 법률 등을 명확히 검토할 필요가 있다고 했다. 그 이유는 현재 EU AI 법 등에 포함된 AI 안전, 규제와 관련 내용이 유사해서다. 현재 각국에선 유사한 방향으로 법을 제정하고 있어 이러한 트렌드를 보고 AI를 기획할 필요가 있다고 했다.

오 변호사는 “각국이 검토하고 준비하는 법률은 큰 틀에서 보면 유사한 내용이 많다”면서 “현재 국내에도 이번 국회에서 오늘까지 9개 법안이 발의됐는데 역시 내용이 비슷하다”고 말했다. 이어 “현재로선 세계의 AI 법, 윤리 방향이 유사하므로 공공서비스에 AI를 적용할 때 이러한 법률적인 검토를 할 필요가 있다”고 덧붙였다.

지자체에서 사업을 준비할 때도 꼭 필요한 서비스인지 법률적인 관점에서 검토가 필요하다고 조언했다. 많은 투자를 해 AI 모델을 만들었어도 법적으로 활용할 수 없으면 무용지물이기 때문이다. 일례로 변호사 사례를 들었다. “논리적이나 정확성으로 변호사보다 더 뛰어난 AI 모델을 만들었어도 현행법상 법률 자문은 변호사만 가능하다”면서 “이러한 모델을 만들면 변호사만 사용할 수 있게 되면서 투자대비효과(ROI)가 떨어질 수 있다”고 지적했다.

권종원 KTL 산업지능화기술센터장은 AI를 관리하고 검증하는 관점에서 신뢰성의 필요성을 주장했다. 공공서비스를 포함해 많은 분야에서 AI를 도입하는 만큼, 이 기술이 안전한지 관리하고 검토하는 역할이 중요하다고 했다. 기술을 도입하는 것을 넘어 신뢰성을 계속 관리하고 검토해 AI를 안전하게 만들어 나가는 것이 중요하다는 설명이다.

권 센터장은 “대기업들은 기술 개발이나 수요에 상관없이 모두 국제표준 인증을 획득하는데, 그 이유는 고객에게 신뢰성을 주기 위해서”라며 “AI도 서비스를 공급하는 회사, 서비스하는 회사 모두 기술이 안전하다는 신뢰를 주는 것이 필요하다”고 말했다. 이어 “지금 우리는 AI라는 나무를 키워나가는 단계”라면서 “지금 AI를 도입했다고 끝이 아니라 지속해서 내 아이가 어떻게 잘 자라고 성장하는지 확인하고 부족한 부분에서 지도하고 교육도 하는 사이클이 존재해야 AI가 행정 서비스에 원만하게 도입될 것”이라고 덧붙였다.

김종훈 전라북도 경제부지사는 이날 축사에서 “최근 정부는 AI 산업을 국가 전략산업으로 끌고 가야 한다는 큰 아젠다 아래 개인정보와 같은 신뢰를 어떻게 담보할 것인지에 대해 고민이 많은 것 같다”며 “국가 인공지능위원회를 설치하거나 AI 기본법을 제정하는 등에 관한 얘기가 많은데, (TRAIN과 같은 활동을 통해) 많은 사람이 AI 신뢰성에 충분히 인지하고 업무에 활용하면 고맙겠다”고 말했다.