AI

가상공간-온라인 아동 성착취물, ‘AI 필터링 기술’로 완전히 뿌리뽑는다

  • 메타리즘
기사입력 2022.11.02 15:18
인호프와 손잡고 전 세계 아동 청소년 보호 위한 핫라인 구축
  • (사진제공: 네이버제트)
    ▲ (사진제공: 네이버제트)

    네이버제트가 국제인터넷핫라인협회 인호프와 파트너십을 맺고 온라인 아동 성착취물 근절을 목표로 전방위적으로 협력을 이어갈 예정이다.

    인호프는 온라인 아동 청소년 보호를 위한 국제 네트워크 기관으로 현재 유럽, 미국, 일본, 태국 등 46개국에 50개 핫라인을 구축하고 있다. 핫라인이 설치된 국가에서는 누구나 인호프를 통해 아동 성착취물을 익명으로 신고할 수 있고, 신고된 콘텐츠는 전문 분석가에 의해 조사 후 삭제된다.

    현재 인호프의 공식 후원 파트너로는 구글, 메타, 틱톡, 인터폴, 테크 코얼리션 등이 있다.

    네이버제트 또한 이번 인포트와의 파트너십 이전에도 글로벌 성착취물 근절기업 연합체인 테크 코얼리션, 글로벌 아동 청소년 안전 교육 자문기관인 커넥트 세이프리, 글로벌 커뮤니티를 진원하는 안전전문가로 구성된 인터넷 온라인 안전전문가협회(TSPA) 등 글로벌 단체들과 꾸준히 파트너십을 맺어왔다. 특히 지난 6월에는 커넥트 세이프리와 함께 제페토 보호자 가이드를 개발해 공지하기도 했다.

    노준영 네이버제트 안전 전문팀 리드는 “전 세계 3억4000만 명 이상의 이용자가 모이는 제페토는 안전한 메타버스 환경을 조성하기 위해 다양한 노력을 펼쳐왔다”며 “이번 인호프와의 파트너십을 계기로 아동과 청소년이 안전한 환경에서 제페토를 즐길 수 있도록 다양한 기술과 기능을 더욱 고도화하겠다”고 설명했다.

    사만다 울프 인호프파트너십 리드는 “인호프는 현실과 가상의 구분 없이 아동성착취물 근절이라는 궁극적인 비전을 달성하고자 한다”며 “이를 위해 아시아 최대 메타버스 플랫폼을 운영 중인 네이버제트와 함께 고민하고 변화를 이끌어가겠다”고 전했다.

    한편 네이버 제트는 인공지능(AI) 기반의 음란물 검출 기술, 욕설 필터링, 성착취물 검출 기술 등 유해 콘텐츠 필터링 기술을 고도화해 플랫폼 가이드라인을 지속적으로 업데이트하고 있다.

  • 메타리즘

최신뉴스