딥브레인AI(대표 장세영)가 딥페이크의 진위여부를 판별할 수 있는 ‘딥페이크 탐지 솔루션’을 딥페이크 탐지가 필요한 기업과 관공서 및 교육기관 등을 대상으로 1개월간 무료 지원한다고 29일 밝혔다.

경찰청에 따르면, AI를 활용한 허위 영상물 제작 관련 범죄가 최근 4년간 급증하고 있다. 2021년 156건, 지난해 180건에 이어, 올해는 상반기에만 297건을 기록할 정도로 증가세가 매섭다. 특히, 최근 지인 등의 얼굴을 합성한 ‘딥페이크 음란물’을 유포하는 성범죄가 학교·단체·군 등 광범위하게 확산하면서 사회적으로 큰 파장이 일고 있다.

딥브레인AI는 딥페이크 관련 범죄 피해를 최소화하고 원활한 수사 및 대응을 돕기 위해 초·중·고·대학을 비롯한 교육기관과 관공서, 기업간거래(B2B) 및 엔터프라이즈 기업 등에게 딥페이크 탐지 솔루션을 1개월간 무료로 지원하기로 했다.

딥브레인AI의 딥페이크 탐지 솔루션은 딥페이크로 의심되는 영상을 시스템에 업로드하면 즉각 진위여부를 판별해 결과를 제공하는 소프트웨어(SW)다. 한국지능정보사회진흥원(NIA)과 딥페이크 데이터 구축 사업을 성공적으로 마무리해 솔루션을 고도화했다. 특히, 기존 학습을 진행한 520만 건 이외에도 2,000시간에 달하는 200만 건의 데이터 학습을 추가로 진행했으며, 고품질의 데이터 셋을 구성해 데이터의 질적 완성도도 끌어올렸다.

딥페이크 탐지 솔루션은 △영상 및 이미지 탐지를 지원하는 종합탐지와 △음성탐지 2가지로 구성되어 있다. 결과는 진짜영상(Real)과 가짜영상(Fake)으로 구분되며, 변조율과 합성유형 등의 데이터도 함께 제공한다. △페이스 스왑(Face-Swap) △립싱크 합성(Lip Sync) △생성형 비디오(Generative Video) 등 다양한 유형을 탐지하며, 탐지 시간은 약 5~10분가량 소요된다.

딥브레인AI는 딥페이크 탐지 솔루션을 온프레미스와 SaaS(서비스형소프트웨어) 두 가지 형태로 제공한다. SaaS의 경우, 인터넷만 연결되어 있다면 언제 어디서든 간편하게 사용 가능하다.

딥브레인AI는 국내 최다 딥페이크 탐지 레퍼런스 보유하고 있다. 딥페이크 탐지 역량을 인정받아 올해 3월 경찰청에 딥페이크 탐지 솔루션을 납품했으며, 국내 다수의 관공서와도 딥페이크 탐지 사업 협력 및 관련 연구를 활발히 진행 중이다.

장세영 딥브레인AI 대표는 “AI 기술을 악용한 딥페이크 범죄가 기승을 부리는 가운데, 관련 피해 확산을 최소화하고자 진위여부 판별이 필요한 기업과 관공서 등을 대상으로 자사의 딥페이크 탐지 솔루션을 무료로 지원하기로 했다”며, “앞으로도 기관, 기업 등 다양한 주체와의 협력을 통해 딥페이크 범죄에 효과적으로 대응하기 위한 전방위적인 지원을 확대해 나갈 것”이라고 말했다.