“AI가 사람 흉내 내는 시대”… TFH, 딥페이크 급증에 인증 솔루션 제시

월드ID, 개인정보 보호 중심의 ‘인간 증명’ 기술

툴스 포 휴머니티(Tools for Humanity·이하 TFH)는 10월 ‘사이버 보안 인식의 달’을 맞아 인공지능(AI) 범죄에 대응하기 위한 핵심 기술로 ‘익명 인간 증명(Proof of Human)’ 기반 솔루션 ‘월드 ID(World ID)’를 제시한다고 16일 밝혔다.

이날 TFH에 따르면 딥페이크를 이용한 디지털 사기 범죄가 급증하면서, 개인정보를 보호한 채 인간임을 인증할 수 있는 새로운 보안 기술이 주목받고 있다. AI 기술이 급속히 확산되면서 음성·영상 합성 사기와 가짜 프로필, 여론 조작 등 위협이 빠르게 늘고 있기 때문이다.

최근 전 세계적으로 AI를 악용한 금융·사회적 범죄가 잇따르고 있다.

딥페이크 관련 사기는 올해 전년 대비 162% 늘어날 것으로 예상되며, 관련 파일 수는 2023년 50만 건에서 2025년에는 800만 건에 이를 전망이다. 약 16배 급증한 수치다. 음성 합성으로 가족을 사칭하거나, 가짜 임원이 이메일로 직원에게 송금 지시를 내리는 방식의 피해도 늘고 있다.

TFH가 올해 3월 국내 게이머 800명을 대상으로 진행한 설문조사에 따르면, 응답자의 79%가 “봇(Bot)으로 인한 공정성 훼손”을 우려했고, 83%는 “게임 내 인간 검증 기술 도입이 필요하다”고 답했다. 특히 91%는 “AI와 인간을 구별하는 기술이 향후 필수적”이라고 인식했다.

TFH는 “AI가 인간의 목소리와 얼굴을 완벽히 모방하면서 기존 보안 체계가 무력화되고 있다”며 “비밀번호나 문자 인증만으로는 진짜 사람인지 여부를 구별할 수 없다”고 지적했다.

TFH는 사이버 범죄 확산 양상을 △합성 사칭(Synthetic Impersonation) △‘가짜 프로필(Trust crisis fueled by fake profiles)’ △‘거짓된 다수(False majorities)’ 등세 가지로 분류했다. TFH는 “누구나 온라인에 영상을 올리는 순간 음성 복제 기술의 대상이 될 수 있으며, 진짜와 가짜가 섞인 신원이 수년간 탐지되지 않는 사례도 발생하고 있다”면서 “데이팅 앱 이용자의 10~15%가 가짜 프로필로 추정되며, AI로 생성된 이력서나 봇 리뷰가 기업 신뢰를 무너뜨리는 사례도 늘고 있다”고 지적했다. 이어 “봇 계정이 댓글과 여론조사를 조작해 허위 여론을 형성하면서, 실제 의견과 조작된 발언의 구분이 점점 어려워지고 있다”면서 “신뢰 기반 사회를 유지하기 위해서는 인간임을 증명하는 기술이 보안의 근본 계층으로 자리 잡아야 한다”고 덧붙였다.

TFH는 이를 위해 △개인정보 보호 중심 검증(Privacy-First Verification) △보편적 상호운용성(Universal Interoperability) △사기 방지 설계(Fraud-Resistant Design) △글로벌 접근성(Global Accessibility) 등 네 가지 원칙을 내세웠다. 각각 신원을 드러내지 않고 암호학적으로 인간임을 증명하고, 한 번의 검증으로 다양한 서비스에서 재확인 없이 신뢰를 유지하는 데 중점을 뒀다. 또한 복제나 전송이 불가능한 인간 고유의 인증 방식을 적용하고, 기술 수준이나 기기 종류에 상관없이 누구나 이용할 수 있도록 설계했다.

이 원칙에 따라 개발된 ‘월드 ID’는 사용자가 한 번만 익명으로 인간임을 증명하면, 이후 다른 이용자와의 상호작용에서도 신뢰를 유지할 수 있다. 기업과 기관은 이를 활용해 실제 사용자 중심 서비스를 운영할 수 있다.

박상욱 TFH 한국지사장은 “AI가 인간의 행동을 정교하게 모방하는 시대에는 보안도 방화벽과 비밀번호를 넘어 진화해야 한다”며 “기술이 사람을 위해 존재하려면 개인정보를 보호하면서도 인간성을 증명할 수 있는 새로운 체계가 필요하다”고 말했다.