소셜네트워크서비스(SNS)인 ‘인스타그램’ 계정이 강제로 비활성화되는 문제가 최근 무분별하게 발생하고 있는 것으로 나타났다. 사용자 동의 없이 게시글 삭제는 물론 계정이 영구 삭제되는 일이 생겼다. 하루아침에 본인 계정을 삭제당한 인스타그램 사용자들은 인스타그램 운영사인 ‘메타’로부터 제대로 된 안내도 받지 못한 채 고스란히 피해를 입었다. 여기에는 인공지능(AI) 오인 판단이 주요 원인으로 지목되고 있다.

기자가 피해자들과 만나 취재한 결과, 피해자들은 계정을 복구하기 위해 메타에 문의하면 “관련 업무를 하지 않는다”는 답변만 받고 있다고 토로했다. 매장 인스타그램 계정을 운영하던 한 피해자는 “여러 플랫폼을 통해 피해 복구 사례를 찾아본 결과, 메타 광고관리자에게 문의하면 계정이 풀릴 수 있단 얘기를 듣고 광고관리자와 통화를 했는데 본인들 부서가 아니라는 답변만 받았다”며 “그러면 담당 부서와 연결할 방법이 있냐고 하자 연결 방법은 없고, 대책 또한 없다는 답변만 들었다”고 말했다.

문제는 같은 행위가 지속 반복되고 있다는 점이다. 메타에 문의해 계정을 다시 살려도 반복해서 계정이 비활성화되는 문제가 연이어 생기고 있다. 실제로 후지필름 공식 인스타그램 계정은 올해 들어서만 6번 계정 강제 비활성화가 됐다. 일반 매장에서 운영하는 인스타그램 계정도 4번 비활성화가 됐다.

계정의 반복되는 비활성화 문제는 AI 모니터링 시스템의 오인판단 때문으로 분석된다. 메타는 자체적으로 커뮤니티 가이드라인을 운영하고 있고, 이를 어길 시 계정을 차단하는 징계를 내린다. 일례로 기업이나 사용자를 사칭한 가짜 계정을 탐지해 차단한다. 이들 계정을 사람이 일일이 탐지할 수 없으므로 AI를 활용하는데, 여기서 오인 판단이 발생하는 것이다.

후지필름은 AI 오인판단으로 계정이 차단된 대표 기업이다. 후지필름 코리아 관계자에게 문의한 결과, 이 회사는 올해 2월부터 계정 차단과 활성화가 반복적으로 발생하고 있다. 2월 계정이 일시 비활성화된 후 당시 재고 요청을 통해 수시 간 내 계정이 활성화됐지만, 6월 24일 다시 계정이 비활성화되는 일이 발생했다. 이후 6월 30일 비활성화 > 7월 3일 복구 > 7월 8일 비활성화 > 7월 10일 복구 > 8월 7일 비활성화 > 8월 22일 복구 > 9월 14일 비활성화 > 10월 10일 복구 등의 과정을 반복했다. 그 이유는 AI 모니터링 시스템의 오인 판단에 있다는 게 디지털 관계자들의 설명이다.

현재 한국에는 디지털카메라 사업을 전개하는 후지필름의 공식 한국 법인 후지필름일렉트로닉이미징코리아와 필름 카메라 인스탁스를 전개하는 대리점 법인인 한국후지필름이 존재하고 있다. 이 둘은 각기 인스타그램 채널을 키워오며 각각 5만, 3만에 이르는 규모 계정을 통해 고객과 소통해 왔다. 이 중 먼저 한국에 출범한 한국후지필름은 소위 파란 딱지라고 불리는 브랜드 인증 마크를 달고 있었고 후지필름 일렉트로닉 이미징 코리아의 계정은 파란 딱지를 획득하지 못한 상태였다. 이번에 비활성화 조치를 받은 계정은 후지필름 일렉트로닉 이미징 코리아의 인스타그램이다. 해당 계정이 한국후지필름을 사칭해 활동하고 있는 것으로 AI가 오인해 판단 착오를 일으켰으리라는 것이 전문가들의 의견이다.

실제로 후지필름일렉트로닉이미징코리아는 메타로부터 계정 차단 이유에 대해 ‘회원님의 계정을 검토한 결과 커뮤니티 가이드라인을 준수하지 않는 것으로 확인되었습니다. 이에 따라 회원님의 계정이 영구적으로 비활성화되었습니다’라는 내용의 메일만 받을 수 있었다고 한다. 여기서 메타가 주장하는 후지필름 인스타그램 계정 비활성화의 사유는 △비즈니스에 속하는 것으로 보이는 계정 생성 △사람들을 속이기 위해 비즈니스의 로고 또는 브랜드 자산 사용 △비즈니스를 대변하는 것처럼 가장하는 콘텐츠 생성 및 게시였다. 

파란 딱지를 획득했음에도 계정이 사라진 사례도 있었다. 개인 매장을 홍보하고 고객과 소통하기 위해 인스타그램을 운영해 온 피해자는 파란 딱지가 있었지만, 계정이 반복적으로 삭제되는 일을 겪었다. 그는 “올해 5월부터 게시글이 삭제되거나 갑작스럽게 계정이 강제로 비활성화가 됐다”며 “재고요청을 통해 잘못된 계정이 아니라고 해명한 후 다시 계정이 활성화됐지만 2주 뒤 또다시 계정이 비활성화됐다”고 말했다. 이어 “여기서 끝이 아니라 계정 비활성화와 복구 문제를 4번 반복했다”면서 “월 구독료를 내며 파란 딱지를 획득하고 광고료로 많은 돈을 지불했음에도 계정이 허무하게 사라지는 것을 보니 허탈하다”고 토로했다.

그는 메타의 인스타그램 관리 체계가 사람이 아닌 AI에 의존하면서 더 커지고 있다고 지적했다. “계정 복구 과정 중에 느낀 것은 인스타그램을 관리하는 직원이 몇 명 없다는 것”이라면서 “메타와 이야기를 나누면 항상 같은 직원이 계속 답변을 하고 있고 AI에만 의존하고 있는데, 피해자가 많이 발생하는 만큼 이 문제를 심각하게 여겼으면 한다”고 말했다.

인스타그램 계정 비활성화 오류 문제는 비단 후지필름만의 문제는 아니다. 2021년에는 건강식품 및 웰빙 제품을 판매하는 여러 중소기업 계정이 인스타그램 알고리즘에 의해 비활성화되는 사건이 발생하기도 했다. 이들 계정은 특정 키워드나 제품 설명이 인스타그램의 자동화된 콘텐츠 필터링 시스템에 의해 잘못 분류되면서 비활성화 됐다. 이러한 계정 비활성화는 이들 기업들의 마케팅 활동을 중단시켰고, 고객과의 주요 소통 창구가 사라지면서 매출 감소로 이어지기도 했다.

2020년에는 아시아계 미국인 및 태평양 제도 주민(AAPI) 소유의 여러 중소기업 계정이 인스타그램의 알고리즘 실수로 인해 비활성화된 사건이 발생한 바 있다. 이들 계정은 인스타그램의 콘텐츠 규정 또는 커뮤니티 가이드라인을 위반하지 않았음에도 불구하고, 인스타그램의 자동화된 시스템에 의해 차단돼 사회적 논란이 일기도 했다.

현재 국내에선 인스타그램 강제 비활성화 오픈 채팅방에 300명이 넘는 인원이 참여해 해결 방안을 찾고 있다. 이들은 회사 홍보용으로 올린 콘텐츠는 물론 개인 일기장처럼 기록하던 콘텐츠까지 한순간에 잃었다. 취재를 위해 연락한 한 피해자는 “경고 메일도 없이 하루아침에 바로 계정을 삭제 당했다”며 “차라리 계정이 비활성화됐다면 찾을 희망이 조금이라도 있겠지만 갑자기 영구 삭제돼 8년 동안 일기장처럼 차곡차곡 쌓은 추억들이 한순간에 사라졌다”고 말했다. 이어 “고객센터도 없어 어디에 문의해야 할지 모르겠다”며 “꼭 좀 도와달라”고 하소연했다.

한 AI 업계 관계자는 “AI의 할루시네이션 현상과 같은 문제는 여러 영역에서 생각지도 못한 다양한 모습으로 문제를 불러일으킬 수 있다”며 “AI 판단 착오는 비즈니스 시장에서의 심각한 경제적 피해는 물론, 우리 일상 곳곳에서도 큰 위협이 될 수 있음을 명심해야 한다”고 강조했다.