올해는 세계 각국에서 대선·총선이 이어지는 가운데 15일(현지시각) 오픈AI가 공식 홈페이지 통해 챗GPT와 달리(DALL-E) 등 생성형 AI가 선거에 악용되는 것을 막는 ‘2024년 전 세계 선거를 앞둔 오픈AI의 입장’을 발표했다. 

이날 미국 공화당 대선 후보를 선출하는 경선이 시작됐다. 아이오와 코커스(당원대회)가 열린 날 오픈AI는 선거에서 악용되는 생성형 인공지능(AI)을 방지하기 위해 새로운 방안을 내놓은 것. 지난 13일 대만 총통 선거가 시작됐고, 우리나라는 3개월 뒤 총선이 시작된다. 이 밖에 인도, 인도네시아 등 본격적인 선거 시즌이 세계 곳곳에서 일어난다. 오픈AI는 딥페이크 악용, 가짜뉴스 등에 활용되는 것을 사전에 차단하겠다고 밝혔다. 특히 오픈AI는 선거 캠페인 과정에서 특정 후보자를 오인할 수 있는 ‘딥페이크’ 기술이 적용된 콘텐츠를 선거운동에 활용하는 것을 전면 차단하겠다고 나섰다.

우선 정치 캠페인 활동을 위한 앱 제작을 금지했다. 오픈AI가 만든 생성형 AI 도구를 가지고 정치적으로 활용하지 못하게 한 것이다. 오픈AI는 “생성형 AI 도구가 사람들을 설득하는 효과를 아직 파악하는 중”이라며 “정치 캠페인 및 로비 활동을 위한 애플리케이션 구축을 전면 금지한다”고 강조했다.

또 실제 후보자나 기관·정부처럼 나와 대화할 수 있는 챗봇을 금지했다. 실제 투표 일정을 잘못 안내하는 식으로 선거를 방해하는 챗봇을 만들거나 정치 행위를 반대하는 문구를 생성하거나 하는 등에 텍스트와 이미지를 생성하는 챗GPT와 달리 사용도 금지했다.

아울러 오픈AI는 생성형 AI 달리로 생성된 이미지에 대한 검열과 출처 공개를 강화했다. ‘딥 페이크’가 가짜 뉴스나 정치 행위를 방해하는 데 상용될 경우를 대비해 생성된 이미지의 출처를 확인할 수 있는 ‘이미지 찾기 도구(image-detection tool)’도 내놨다. 내부테스트 이후 외부 테스트를 통해 출시할 것이라고 밝혔다.

오픈AI는 “달리를 통해 생성된 이미지를 확인할 수 있는 도구를 출시할 예정”이라며 “미디어 종사자와 연구자들에게 우선 공개해 피드백을 받을 것”이라고 밝혔다. 달리로 생성된 이미지에는 워터마크가 찍힌다고 설명했다.

정확한 선거 정보 제공을 위해 주정부국무장관협회(NASS)와도 협력한다. 오픈AI는 챗GPT로 들어오는 정치적 질문에 대해 NASS와 협력해 홈페이지 안내로 대처한다.

오픈AI가 정치적 악용에 챗GPT, 달리 등을 사용하지 못하게 막겠다고 나섰지만 완전한 방어는 불가능할 것이라는 전망도 나오고 있다. 워싱턴포스트 등 외신은 오픈AI가 내놓은 이번 대책에 대해 “워터마크는 손쉽게 제거할 수 있고, 암호화 이미지도 왜곡이 가능하다”며 이를 지적했다.

오픈AI는 챗GPT가 선거와 관련된 질문을 받으면 대답 대신 비당파 공무원 조직인 주정부국무장관협회(NASS)의 홈페이지로 안내한다고 소개했다.

오픈AI는 “공정 선거를 위해서는 민주적 절차가 확보돼야 한다”며 “세계 곳곳에서 진행되는 선거를 앞두고 자사의 기술이 이를 훼손할 수 없도록 안전성을 확보하는 데 최선을 다할 것”이라고 말했다.