인스타그램에 인공지능(AI)으로 만든 이미지를 올리면 워터마크가 생겨 식별이 가능해진다.

메타(Meta)는 6일(현지시각) 공식 블로그를 통해 생성형 AI로 만든 이미지를 식별할 수 있는 ‘꼬리표(라벨)’을 표시하는 정책을 만들어 실행한다고 밝혔다. 내년부터 진행되는 대선에서 ‘딥페이크’로 일어날 수 있는 상황을 미리 막겠다는 것이다. 이미 오픈 AI는 선거 활동에 챗GPT 등 자사의 생성형 AI 기술을 활용하는 것을 금지했다.

메타는 이번 정책을 자사 소셜 플랫폼인 페이스북과 인스타그램, 스레드 등에 적용한다. 사용자들이 알기 쉽도록 메타 AI를 활용해 만든 이미지에 ‘AI로 만든 이미지’라는 것을 알 수 있도록 라벨을 붙여 예시를 보였다.

닉 크레그(Nick Clegg) 메타 글로벌 담당 사장은 “생성형 AI 도구로 만들어진 사실적인 이미지를 AI로 분류하고 라벨을 붙이기 위해 노력할 것”이라며 “그동안 AI 도구로 생성된 이미지를 구별하는 도구를 구축해 왔고, 다른 경쟁사가 개발하고 있는 이미지 생성 AI를 식별할 수 있다”고 설명했다.

이어 닉 크레그는 “사람들은 AI가 만든 이미지와 사람이 만든 이미지 차이가 거의 나지 않기 때문에 그 경계를 알고 싶어한다”며 “AI가 만든 이미지를 알 수 있도록 돕는 게 중요하다”고 강조했다.

하지만 동영상과 음성을 동일하게 생성하는 AI 도구는 아직 식별할 수 있는 신호가 없어 감지가 불가능한 상황이다. 메타는 식별할 수 없는 콘텐츠에 대한 문제도 해결하는 방안을 모색하고 있다. 닉 크레그는 “모든 생성형 AI 콘텐츠를 식별할 수 있는 도구가 아직 없다”며 “AI 이미지 생성 과정에서 이를 숨기고 싶어 하는 이들이 표식을 지울 수 있으며 라벨이 없는 이미지를 자동 감지하는 기술도 개발하고 있다”고 했다.

아울러 생성형 AI가 만든 이미지를 식별할 수 있는 공통 표준을 개발에 대해서도 언급했다. 그는 “다른 회사와 협력해 AI 생성 이미지를 식별할 수 있는 공통 표준을 마련하기 위해 노력하고 있다”고 밝혔다.

메타는 최근 미국에서 생성형 AI로 발생한 문제에 대해서도 규제 목소리가 강화되고 있다고 언급했다. 지난달 22일 미국 민주당 첫 대선 경선지인 뉴햄프셔주에서 누군가가 조 바이든 미국 대통령의 목소리를 AI로 만들어 민주당 경선 투표를 방해하는 ‘AI콜’을 퍼트려 혼란을 일으킨 바 있다. 또 지난달 말 미국 팝스타 테일러 스위프트의 얼굴을 합성한 음란 이미지가 소셜 미디어에 17시간 퍼지면서 딥페이크 문제가 드러났다.