[편집자 주] ‘김동원의 Eye-T’는 IT 소식을 직접 눈(Eye)으로 보는 것처럼 생생하게 전달하는 것을 목적으로 합니다. 유용한 IT 기술과 솔루션을 쉽고 자세하게 보여드리겠습니다

“아이의 일상을 일기장처럼 기록했던 것인데…”

자녀들의 사진을 올리며 일상을 공유하던 인스타그램 사용자들의 계정이 사라졌다. 유명 연예인부터 팔로워 수가 많지 않은 일반인까지 동시다발적으로 계정이 비활성화됐다. 인스타그램 운영사인 메타가 한 번의 경고 없이 이들의 계정을 차단한 것이다.

사실 이 사례는 인스타그램 사용자들이 겪은 피해 중 빙산의 일각에 불과하다. 기자는 육아 계정 문제가 수면 위로 드러나기 전부터 인스타그램 운영 문제점을 지속 취재하면서 여러 피해자와의 이야기를 들어볼 수 있었다. 여기서 알게 된 건 지금 수면 위로 불거진 문제는 육아 계정이지만, 사용자들이 겪는 피해는 정말 다양하다는 것이었다.

피해자들을 만나보면 육아 계정 외에도 일반 계정, 비즈니스 계정 등이 비활성화된 사례가 많았다. 여기에 더해 해킹 문제, 광고비 지급 문제 등의 문제를 겪었다. 그리고 그 중심엔 인공지능(AI)이 있다는 정황이 속속 드러나고 있다.

◇ 예고 없는 육아 계정 폭파, 메타 답변은?

육아 계정에 대해 먼저 얘기하면, 메타가 이 계정들을 차단하는 근거는 있다. 인스타그램은 기본적으로 만 14세 이상 사용자만 가입할 수 있다. 메타는 14세 미만 어린이를 대표하는 계정은 소개에 부모나 관리자가 관리하는 계정임을 명확히 밝혀야 한다는 것이 인스타그램에 소개된 공식 지침이다.

그런데 대다수 육아 계정은 성인이 가입한 계정이다. 보통 육아 계정은 사용자들이 부계정을 만들어 이용한다. 자녀의 인적사항으로 별도의 아이디를 만들어 계정을 운영하는 것이 아니라, 자신의 아이디에 계정을 하나 더 운영하면서 여기에 자녀의 일상을 기록한다. 그 아이디는 부모, 즉 성인의 것이다. 14세 미만 어린이가 운영하는 계정이 아니라는 점을 역서 쉽게 알 수 있다.

기준도 명확하지 않다. 공식 지침처럼 부모나 관리자가 관리하는 계정이라고 밝히지 않았음에도 계정이 비활성화되지 않은 사례가 있고, 반대로 사용자가 밝혔음에도 비활성화된 사례도 있다. 또 비활성화된 계정 중 자녀 사진을 많이 올렸지만, 해당 자녀를 대표로 하지 않은 계정도 존재했다. 자신이 대표였지만, 자녀 사진만 있어 계정이 비활성화됐다고 주장한 이도 있었다.

팔로워 수가 많다고 차단된 것도 아니다. 부계정을 새로 만든 지 얼마 안 되고 팔로워 수도 없는 비공개 계정인데 차단됐다는 피해자도 많았다.

그렇다면, 메타의 입장은 어떨까. 피해자들이 수소문 끝에 메타 고객센터와 소통하면 똑같은 답변만 돌아온다고 한다. “커뮤니티 가이드라인을 준수하지 않았기 때문”이라는 것이다. 사용자가 “도대체 어떤 가이드라인을 준수하지 않은 것이냐”라고 물으면 “그것을 알려줄 수 없다”는 답변만 돌아왔다고 한다. 물론, 다른 답변도 있었다. “이 내용은 우리 부서의 업무가 아니다”라는 무책임한 답변이었다.

피해자들은 그저 막막하다고 토로한다. 아이들의 성장 과정을 기록하기 위해 만든 계정이었는데, 한순간에 예고도 없이 강제로 계정이 폭파당했고, 이를 복구하기 위해선 메타가 안내한 대로 이의제기를 하고 마냥 기다려야 하는 수밖에 없기 때문이다.

◇ 메타의 일방적인 계정 폭파, 피해자 다수

문제는 강제로 비활성화되는 계정이 육아 계정만이 아니라는 것이다. 개인의 일상을 기록하는 일반 계정이 비활성화된 경우도 허다하고, 회사나 가게 마케팅 용도로 만들어놓은 비즈니스 계정이 비활성화된 사례도 많았다. 비즈니스 계정의 경우 홍보를 위해 메타에 광고비를 지불하고 있는 가운데서도 차단된 사례도 있었다. 이 과정에서 메타의 환불 조치는 없었다고 한다.

이들의 계정이 비활성화되는 이유는 가지각색이다. 피해자들과 만나 들은 얘기만 해도 △비즈니스에 속하는 것으로 보이는 계정 생성 △사람들을 속이기 위해 비즈니스의 로고 또는 브랜드 자산 사용 △비즈니스를 대변하는 것처럼 가장하는 콘텐츠 생성 △모조품 위조 판매 △악성 소프트웨어 개발 등이 있다.

피해자들은 억울하다는 입장이다. 모조품 위조 판매로 계정이 비활성화된 피해자는 “모조품 위조 판매로 계정이 비활성화가 됐는데, 전부 자체 제작한 제품만 팔고 있고 계정을 시작한 지 얼마 되지 않아 팔로워도 적다”고 얘기했다. 악성 소프트웨어 개발로 차단된 이는 “인문대 출신이라 소프트웨어의 소짜도 만들지 모른다”고 하소연했다. 한 회사의 계정은 사람들을 속이기 위해 비즈니스의 로고 또는 브랜드 자산 사용을 이유로 계정이 차단됐는데, 그 회사는 해당 브랜드의 공식 회사였다.

◇ 인스타그램 계정 비활성화 원인이 AI인 이유

그러면 왜 인스타그램은 엉뚱한 계정들을 마구잡이로 비활성화시키고 있는 것일까. 여기서 의심되는 존재는 AI다. 메타가 운영하는 인스타그램 AI 모니터링 시스템이 오인판단을 일으켰다는 정황이 나오고 있다. 참고로 메타는 지난해 AI 성인 판별 시스템을 시범 도입한다고 밝히기도 했다.

AI 오인판단인 이유는 직접 피해자들을 만나 이야기하면서 확인할 수 있었다. 그중 공개할 수 있는 내용 중 하나는 한국후지필름 사례다. 

회사 관계자를 만난 결과, 후지필름의 인스타그램 계정은 올해 2월부터 10월까지 계정 차단과 활성화가 반복적으로 발생했다. 9개월 동안 7번이나 계정이 비활성화됐다가 활성화되는 일을 겪었다. 구체적으로 2월 계정이 일시 비활성화된 후 당시 재고 요청을 통해 수시 간 내 계정이 활성화됐지만, 6월 24일 다시 계정이 비활성화가 됐다. 이후 6월 30일 비활성화 > 7월 3일 복구 > 7월 8일 비활성화 > 7월 10일 복구 > 8월 7일 비활성화 > 8월 22일 복구 > 9월 14일 비활성화 > 10월 10일 복구 등의 과정을 반복했다고 한다.

이 회사의 계정이 지속 비활성화된 이유는 사칭 계정이라는 이유 때문이었다. 회사의 공식 계정임에도 불구하고 사칭하고 있다고 메타가 잘못 판단한 것이다. 심지어 수차례 오인 판단이 이뤄졌다.

현재 후지필름의 공식 한국 법인 후지필름일렉트로닉이미징코리아와 필름 카메라 인스탁스를 전개하는 대리점 법인인 한국후지필름이 존재한다. 이 둘은 각기 인스타그램 채널을 키워오며 각각 5만, 3만에 이르는 규모 계정을 통해 고객과 소통해 왔다. 이 중 먼저 한국에 출범한 한국후지필름은 소위 파란 딱지라고 불리는 브랜드 인증 마크를 달고 있었고 후지필름 일렉트로닉 이미징 코리아의 계정은 파란 딱지를 획득하지 못한 상태였다. 이번에 비활성화 조치를 받은 계정은 후지필름 일렉트로닉 이미징 코리아의 인스타그램이다. 이 때문에 메타에서 계정 사칭을 의심할 수 있었을 법은 하다.

하지만 이미 한국후지필름에선 여러 차례 이의제기해서 계정을 다시 활성화한 상태였다고 토로한다. 사람이 이 업무를 했다면 당연히 파악했던 일이었다는 것이 후지필름 측의 설명이다. 전문가들은 반복해서 계정이 비활성화되는 이유는 AI 오류 때문으로 꼽는다. AI가 오인 판단해 계정을 비활성화하는 자동화 오류가 발생했다는 것이다.

◇ 메타는 ‘나 몰라라’, 처벌할 수 있을까

이 같은 문제가 계속 나오고 있음에도 메타는 ‘나 몰라라’하고 있다. 피해자들이 문의해도 “고객센터 등에 안내된 대로 하면 된다”는 식으로 대응하고 있다. 매장 인스타그램 계정을 운영하던 한 피해자는 “여러 플랫폼을 통해 피해 복구 사례를 찾아본 결과, 메타 광고관리자에게 문의하면 계정이 풀릴 수 있단 얘기를 듣고 광고관리자와 통화를 했는데 본인들 부서가 아니라는 답변만 받았다”며 “그러면 담당 부서와 연결할 방법이 있냐고 하자 연결 방법은 없고, 대책 또한 없다는 답변만 들었다”고 토로했다.

다른 피해자는 파란 딱지를 유료로 구매하면 메타에서 적극 대응해 준다는 얘기를 듣고 돈을 지불하며 해결책을 찾으려 했지만 메타에선 고객센터에 나와 있다는 답변만 반복했다고 밝혔다.

더 큰 문제는 계정이 강제로 비활성화된 이들을 향한 해킹 공격까지 발생하고 있다는 것이다. 페이스북 관리자를 사칭해 피해자에게 쪽지를 보낸 후 여기에 적힌 링크를 클릭하면 개인정보 등이 침해되는 피해가 발생하고 있다.

이 같은 문제에 임창국 법무법인 원 변호사는 “계정 비활성화 과정에서 AI 알고리즘에 오류가 일시적으로 발생할 수 있다”면서 “하지만 그 오류가 지속적으로 발생하고 피해자들의 요구에도 조치가 빨리 시행되지 않다면 메타에 고의과실 책임을 물을 수 있다”고 말했다.

오정익 법무법인 원 인공지능대응팀장 겸 변호사는 AI로 인한 오류에 대해 메타로부터 설명을 들을 수 있는 권한이 있다고 밝혔다. “개인정보보호법에서 자동화된 결정에 대한 설명 요구권이 있다”면서 “메타에서 계정을 비활성화한 것이 자동화된 시스템이고, 그 자체로 결정이 이뤄졌다면 설명 요구 등을 할 수 있다”고 말했다.

이들은 무엇보다 정부에서 국민과 국내 기업을 보호할 수 있는 온라인 플랫폼 규제를 마련해야 한다고 촉구했다. 오 변호사는 “아쉬운 점은 아직 국내에는 온라인 플랫폼 규제법이 없다는 것”이라면서 “국내에서 사용되는 해외 플랫폼이 많은 상황에서 사용자를 보호할 수 있는 법안이 없다면 국민은 고스란히 피해를 볼 수밖에 없다”고 지적했다. 이어 “국내 서비스를 보호하기 위해서라도 기술적, 관리적, 보호적 보호조치를 마련하고 해외 플랫폼을 사용하면서 발생하는 문제에 강력하게 대응할 수 있는 시스템을 마련해야 한다”고 덧붙였다.