인공지능(AI) 기술을 이용해 만든 콘텐츠를 의무적으로 표시하는 법안이 발의됐다.

이상헌 더불어민주당 의원은 22일 이 같은 내용의 ‘콘텐츠산업 진흥법 일부개정법률안’을 대표 발의했다. 콘텐츠산업 진흥법 일부개정법률안은 텍스트, 이미지, 음악 등 콘텐츠가 AI 기술을 이용해 만들어졌을 경우 해당 콘텐츠가 인공지능 기술을 이용해 제작된 콘텐츠라는 사실을 표시하도록 하는 내용을 담았다.

이 의원은 “인공지능 기술 발전 속도가 지나치게 빨라지면서 오·남용으로 인한 부작용이 우려되고 있다”며 “우리나라도 AI 오·남용을 막기 위한 관리 방안을 마련해 인공지능 시대의 규범적 틀을 확립해야 한다”고 말하며 입법 취지를 밝혔다.

최근 SNS에선 프란치스코 교황이 명품 패딩을 입고 산책하는 모습이 화제가 됐다. 이는 인공지능을 이용해 만든 허위 이미지로 밝혀졌다. 지난 13일 트럼프 전 미국 대통령은 자신의 SNS 계정에 CNN 앵커가 바이든 대통령을 비난하는 AI가 만든 가짜 영상을 올렸다.

전문가들은 생성형 인공지능이 만들어 내는 가짜뉴스, 이미지, 영상 등이 정교해지면서 부작용이 나타날 가능성을 우려하고 있다. 이 때문에 사용자들은 진위를 쉽게 파악할 수 없게 됐다.

EU에선 인공지능이 만든 콘텐츠에 표기를 의무화하는 규제안을 검토 중이다. 미국에서도 AI로 만든 정치 광고 영상과 사진에 의무적으로 출처를 기재하는 법안이 발의돼 있다.