카카오, 증오발언 대응 ‘코딩북’으로 디지털 인권 보호 나서

온라인 콘텐츠나 댓글 공간 건강성을 높이기 위한 인공지능(AI) 기술에 적용할 계획

카카오가 학계 및 관련기관 전문가와 함께 증오 발언 대응을 위한 ‘코딩북(coding book)’ 제작에 나선다.

코딩북이란 수집한 데이터를 분석 가능한 형태로 변환 시 참고할 수 있는 정의나 원칙, 판단 기준 등을 담은 지침서를 뜻한다. 이는 내년 상반기 완료될 예정이며, 기술 및 서비스 내에서 ESG(환경·사회·지배구조) 경영의 일환이자 디지털 기업으로서 사회적 책임을 다하기 위한 프로젝트로 증오 발언을 판별하는 데 도움을 준다.

카카오는 제작 완료된 코딩북을 포털 다음에 적용된 ‘세이프봇’과 같이 온라인 콘텐츠나 댓글 공간의 건강성을 높이기 위한 인공지능(AI) 기술에 적용할 계획이다. 증오 발언을 판별하는 학습 데이터를 구축하고, 이를 실제 서비스에 순차적으로 적용할 예정이다. 또한 카카오의 기술, 서비스뿐 아니라 외부 기업 및 기관들도 자유롭게 활용할 수 있도록 코딩북을 공개하기로 했다.

이번 프로젝트는 지난 2021년 1월 수립한 ‘증오 발언 근절을 위한 카카오의 원칙’의 연장선에 있다. 코딩북 제작에는 한국언론법학회를 중심으로 구성된 연구진이 참여하며, 카카오 증오 발언 근절 관련 자문단이 연구 과정을 정기적으로 감수 및 검토한다. 

김대원 카카오 인권과 기술윤리팀장은 “디지털 안전은 이용자 인권 보호의 기본적인 요소로, 카카오는 디지털 기업 고유의 인권 존중과 사회적 책임 이행을 위해 적극적으로 앞장서고자 한다”라며 “앞으로도 사회, 학계, 관계기관 등과의 다양한 이해관계자들과의 협력을 통해 디지털 공간과 생태계가 건강성을 견고히 유지할 수 있도록 최선을 다할 것”이라고 전했다.

한편 카카오는 지속해서 디지털 공간에서의 증오 발언에 대응하는 기술과 서비스, 정책 등을 강화해왔으며 최근 이용자들의 안전한 카카오톡 이용을 돕는 ‘카톡 안녕가이드’를 마련한 바 있다.

metarism@metaplanet-dm.com