한국 인공지능(AI) 안전이 시험대에 올랐다. 딥페이크 기술을 악용한 범죄가 터져 나오면서 안전망 마련에 관심이 쏠린다. 정부가 2030년 AI 세계 3강(G3)을 목표로 내건 만큼, 사용자 보호를 위한 안전책도 빠르게 마련해야 한다는 주장이 나오고 있다. 지난해 국회에서 발의된 10개 이상 법률안이 회기 경과로 모두 폐기된 데 따른 비판도 거세다.

이번 딥페이크 성범죄 사건 이후 ‘AI 기본법’ 제정에 탄력이 붙을 것으로 전망된다. 국회에서는 8월 말 기준 AI 관련 법안이 9개 발의됐고, 국회 과학기술정보통신위원회는 AI 기본법 관련 논의를 시작했다. 이달 중 대통령 직속 국가인공지능위원회가 출범하면서 관련 논의는 더 거세질 것으로 예상된다.

AI 업계에선 AI 법 제정에서 EU의 사례를 참고해야 한다고 조언한다. EU에서 제시한 AI법이 유럽에만 국한하지 않고 한국에도 관여되기 때문이다. 고인선 법무법인 원 변호사는 3일 광주시의회에서 열린 ‘AI 행정서비스 전문가 특강’에서 “EU AI법에 해당하는 대상은 공급자, 배포자, 수입업자와 유통업자, 제품 제조자. EU에 소재하는 자 등인데, 중요한 점은 유럽에 사무실을 설치했거나 유럽에 거주하는 것과 상관없이 서비스가 공급되면 모두가 적용된다는 점”이라면서 “당연히 인터넷이나 소프트웨어는 한 국가에서 출시했어도 전 세계에 영향을 주기 때문에 EU AI법에 해당하는 경우가 더 많을 수밖에 없다”고 말했다.

한국에서 만든 서비스가 추후 EU 시장에 진출했을 때 해당 규제에 어긋난다면 벌금을 받을 수 있는 위험이 있는 것이다. 특히 EU는 고위험, 제한적 위험, 허용불가위험 등에 따라 AI 서비스를 구분하고 있고 2027년 8월부터 고위험 AI를 규제하고 있는데, 한국에서 해당 기술을 공급했을 때 규제받을 위험이 크다. 현재 EU에선 고위험 AI로 사람의 건강, 안전, 기본권에 중대 위험을 줄 수 있는 유형을 두고 있다. AI 면접, 정신 질환 측정과 같이 사람을 평가하는 기술은 규제받을 수 있다.

박지환 씽크포비엘 대표는 이번 세미나에서 “청소년을 대상으로 한 심리 상담 AI 서비스를 유럽에 공급된다면 200억 원 이상의 과징금 대상”이라면서 “한국에서 이러한 AI를 고위험으로 분류하지 않더라도 이미 해외에선 관련 논의가 되고 법제화가 됐다는 점을 알 필요가 있다”고 말했다.

고 변호사는 “아직 한국에 법률이 없더라도 정부 기관이나 지자체에서 AI 기반 공공행정 서비스를 준비할 때 EU AI법을 참고하면 어떤 점이 문제가 될지 참고할 수 있는 근거 자료가 될 수 있다”고 조언했다.

AI 서비스를 한 국가에서 사용하지 않고 세계적으로 쓸 수 있는 만큼, 한국만의 AI 법을 만드는 것이 아니라 EU를 비롯한 미국, 중국 등의 법률과 맞춰가야 한다는 조언도 나왔다. EU AI법이 이미 강력하게 AI를 규제하고 있는데, 한국에서 새로운 규제를 만들기보단 법령으로 관리하는 것이 더 필요하다는 주장이다. 오정익 법무법인 원 변호사는 “이미 EU에서 규제를 엄격하게 한 상황에서 한국에서는 규제엔 신중히 접근하면서 법령을 만드는 자세가 필요하다”면서 “정권이 바뀌어도 AI 법률을 계속 관리할 수 있는 총괄 부서를 두고, 여기서 그동안 발의된 법안을 토대로 일괄적으로 법령을 만들어가길 바란다”고 말했다.