유럽연합(EU)의 세계 첫 인공지능(AI) 규제법인 ‘AI 법’이 통과됐다. 27개 회원국이 만장일치로 합의했다. 이 법은 빠르면 내달 늦으면 여름 이전에 발효될 예정이다.

이 법안은 사람 이미지 데이터에 대한 무분별한 수집과 AI를 활용한 사회적 감시시스템 운영을 금지했다. 또 ‘고위험 AI’ 등 사람에게 위험을 주는 요소를 기준을 고려 4등급으로 나눠 시장 진입 시 규제를 엄격하게 적용한다. 이를 위반할 경우 시 기업 전체 매출의 최대 7% 또는 3500만 유로(약 505억 원)의 과징금이 부과된다.

유럽연합의 AI 법은 2021년 초에 처음 발의됐다. 지난해 12월 EU 이사회·집행위·유럽의회 간 3자 협상에서 각국 대표가 37시간이 넘는 마라톤 회의 끝에 합의한 바 있다. 중요한 단계도 남았다. 오는 13일 유럽의회 표결을 거쳐 3~4월 본회의에서 최종 투표 후 발표된다. 로이터 통신에 따르면 실제 법 적용까지 1~2년이 걸릴 것으로 예상돼 2026년에 가능할 것으로 전망된다.

AI 규제법이 통과되면서 AI 기업들은 유럽 시장에 기술을 내놓기 전 AI가 생성한 이미지에 워터마크를 넣는 등 사진·영상에 반드시 AI로 만든 이미지라는 표기를 해야 한다. 챗GPT 등 생성형 AI 기술이 상용화되면서 범용 AI 관련 규제도 추가됐다. 정치·종교적 신념, 성적 지향, 인종과 같은 민감한 특성을 기준으로 사람을 분류하는 안면 인식 데이터베이스 등 구축 AI 기술로 생체 정보를 수집하는 관행도 금지된다. 다만 군사, 범죄수사, 보안 목적 등은 예외다.

최근 세계적인 팝 가수 테일러 스위프트의 얼굴을 합성한 딥페이크 음란물이 17시간 동안 퍼지면서 이미지 생성 등 AI에 대한 규제가 필요하다는 목소리가 높아진 바 있다. 이번 AI 법도 그 영향을 받아 빠르게 통과가 된 것으로 알려졌다. 법안 논의 과정에서 프랑스와 독일 등 일부 국가가 자율 규제를 선호했다. 프랑스는 마지막까지 AI 스타트업 보호를 위해 과도한 규제를 반대했다. 고위험 AI에 대한 행정적 절차를 줄인다는 조건을 확보한 뒤 찬성했다.

◇ 미국도 5월 AI 법 나올 듯…국내 AI 법안은 ‘총선’ 영향 

미국의 AI 행정명령 가이드라인도 오는 5월에 나올 것으로 예상된다. 미국은 지난해 10월 바이든 행정부 주도로 ‘AI를 위한 행정 명령’을 발표했다. AI 콘텐츠에 대한 워터마크나 연방정부에 AI 훈련을 사전에 보고해야 한다. 이 행정명령에 대한 법령의 경우 270일 안에 가이드라인을 만들어야 하는 내부 지침이 있어 오는 5월 가이드라인이 마련될 것으로 보인다.

유럽 ‘AI 법’과 미국의 ‘AI 행정명령’의 경우 ‘안전한 AI’ 규제라는 목적은 강도가 다르다. 유럽 AI 법은 규제에 어길 시 강력한 벌금을 제시하고 있다. 미국의 경우 AI 규제에 대해 권고하는 정도다. 고인선 법무법인 원 변호사는 “유럽의 경우 AI를 선도하는 입장이 아니기 때문에 자국의 AI 기업을 보호하는 입장”이라며 “미국의 경우 AI 발전에 필요한 기준점을 법적으로 마련하고 산업을 활성화 시키는 데 좀 더 포커스가 맞춰져 있다”고 말했다.

국내에서도 AI 관련 법안을 마련하고 있지만 아직까지 공식적으로 발표되지 않고 있다. 물론 빠르게 AI 산업이 변해가고 있어 규제 법안에 속도만 강조할 필요는 없다. 다만 규제에 대한 논의와 진전이 필요한 것은 사실이다. 시도되는 사안도 있다. 생성형 AI로 만든 가짜 콘텐츠에 워커마크를 의무화하는 내용의 정보통신망법 개정안은 국회에서 계류 중이다.

고인선 변호사는 “총선을 앞두고 있다는 것이 현실적인 상황에서 AI 규제 법안이 미뤄지는 데 영향을 미칠 것 같다”면서 “한국의 경우 유럽과 미국 규제를 고려해 AI 규제안을 만들어 나갈 것이라고 예상된다”고 말했다. 이어 그는 “AI에 대한 규제 논의와 진전이 필요한 시점”이라고 강조했다.

한편, ‘AI 안전 정상회의’도 오는 5월 한국에서 열린다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’는 AI를 안전하게 개발하기 위한 AI 글로벌 표준을 마련하기 위해 만들어졌다. 28개국 대표들이 모여 6개월마다 국가를 옮겨가며 AI 규제를 논의하고 발전시켜나가는 자리다.