인공지능(AI) 신뢰성 강화에 힘을 모은 국제연대 TRAIN이 광주광역시를 방문했다. 3일 오후 광주시의회 5층에서 ‘혁신의 시작, AI 실무자 전문가 특강’을 주제로 강연을 진행했다. 주요 주제는 AI 신뢰성이다. 기술의 실체와 법, 안전성, 신뢰성 등을 알리고, 공공서비스와 행정 업무에 올바르게 AI를 활용하는 방안 등을 함께 고민했다. 강기정 광주시장은 “광주시 산업이 커지고 있다”고 환영했다.

TRAIN(Trustworthy AI International Network)은 신뢰할 수 있는 AI를 위한 국제연대다. 글로벌 AI 기술과 산업‧시장이 급변하는 상황에서 이질적인 문화와 제도‧정책으로 야기되는 다양한 문제를 민간이 공동 대응하자는 취지로 설립됐다. 현재 한국, 중국, 베트남, 태국, 인도네시아 AI 기업들이 가입했고, 일본, 싱가포르, 말레이시아 기업들도 합류를 준비 중이다. 

강기정 광주시장은 영상축사에서 “최근 유럽연합(EU)이 AI 투명성과 안전성, 비차별성 등을 보장한 법인 AI 규제법을 세계 최초로 승인했다”며 “AI 활용의 책임 있는 관리를 준비하고 빈틈을 채울 수 있는 이번 행사를 주최한 광주시의회에 감사하다”고 말했다. 이어 “광주시는 최근 AI 기업과 213번째 업무 협약을 맺고 있고 AI 성과 1단계에 이어 2단계 9000억 원 규모의 예타 면제를 추진하고 있다”면서 “광주 AI 산업이 커지고 있는데, 이 과정에 AI 규제법도 함께 포함해 줘 고맙다”고 덧붙였다.

서용규 광주광역시의회 부의장은 “AI가 급격한 발전과 함께 공공화 행정 서비스에도 활발히 도입하고 있다”며 “(이번 자리를 통해) AI 관련 국제법을 이해하고 더 나은 행정 서비스를 고민하고 실천할 수 있는 계기가 되기를 바란다”고 말했다.

이번 행사에는 박지환 씽크포비엘 대표와 고인선 법무법인 원 변호사, 권종원 한국산업기술시험원(KTL) 산업지능화기술센터장이 나섰다. 이들은 기술, 법, 검증 등을 통해 AI 기술의 올바른 활용을 논의했다.

박지환 씽크포비엘 대표는 “AI가 어떻게 가치판단하고 있는지 알기 어렵다”면서 “AI가 잘못 내린 결과를 내렸을 때 그 결과만 탓하지 말고 모든 이해관계자와 함께 과정을 살펴볼 줄 알아야 한다”고 말했다. 이어 “AI 신뢰성을 높이기 위해선 공공이 높은 안전성 수준을 요구하는 AI 서비스를 발주해야 한다”며 “기업은 합당한 보상이 제공된다면 성공을 위해 경쟁하며 안전성을 높여갈 것”이라고 했다. 또 “기술 격변의 시기고 산업 생태계가 많이 바뀌고 있는 만큼, 공공에 계신 실무자분들이 필요한 지식이 무엇인지 식별하고 정보 교류를 할 수 있는 기회가 많아지길 바란다”고 덧붙였다.

고인선 법무법인 원 대표는 국제적으로 진행되고 있는 AI 법 동향을 공유하며 지자체가 준비해야 할 점 등을 조언했다. 세계 처음으로 AI 법을 제정한 EU를 비롯해 한국, 미국, 중국 등에서 진행되고 있는 AI 법 동향을 발표하며, 개발한 기술을 한국에서만 쓰지 않고 결국 세계로 나가야 하는 만큼 이러한 법들을 고려한 사업을 발주해야 한다고 했다. “아직 한국에 법률이 없더라도 정부 기관이나 지자체에서 AI 기반 공공행정 서비스를 준비할 때 EU AI법을 참고하면 어떤 점이 문제가 될지 참고할 수 있는 근거 자료가 될 수 있다”며 “국회에서는 8월 말 기준 AI 관련 법안이 9개 발의됐는데 EU AI법과 유사한 경우가 많다”고 말했다.

권종원 KTL 산업지능화기술센터장은 일상에 AI가 활성화되는 만큼, 편향성을 경계해야 한다고 했다. 이미 온라인에서 제공하는 AI 서비스 등에선 편향성이 발생하고 있는데, 공공서비스에도 이러한 편향성이 발생하지 않는지 지속 검증하는 자세가 필요하다고 했다. 검증은 하나의 시점에서 하지 않고 설계·운영·유지보수 등 전체 라이프 사이클 관점에서 필요하다고 조언했다. “AI는 지속 성장하고 변화해 나가는 시스템이므로 AI를 쓰는 조직은 한 번의 검증이 아닌 지속적으로 검증할 수 있는 관리 시스템을 갖고 있어야 한다”며 “AI 관련 국제표준을 통해 신뢰할 수 있는 기술이라는 것을 지속 입증하고 고객에게 신뢰를 줄 수 있는 것도 하나의 방법”이라고 말했다.