카카오, 증오발언 판별 지침서 ‘코딩북’ 제작 착수

내년 상반기 완료 후 댓글 건전성 높이는 AI에 적용 예정

카카오 안전한 디지털 환경 조성에 나선다. 증오발언을 판별할 수 있는 지침서인 ‘코딩북’을 내년 상반기까지 제작한다고 31일 밝혔다. 제작이 완성되면 온라인 콘텐츠나 댓글 공간의 건전성을 높이기 위한 인공지능(AI) 기술 등에 적용한다는 방침이다.

코딩북은 수집한 데이터를 분석할 수 있는 형태로 변환할 때 참고할 수 있는 정의나 원칙, 판단 기준 등을 담은 지침서를 뜻한다. 기술이나 서비스 내에서 증오발언을 판별하는 데 도움을 줄 수 있다. 

이번 프로젝트는 지난 2021년 1월 수립한 ‘증오발언 근절을 위한 카카오의 원칙’의 연장선으로 마련됐다. 카카오는 2020년 1월부터 1년여간 국가인권위원회, 한국언론법학회, 미디어자문위원회와 함께 해당 원칙을 마련하고 관련 논의 과정을 담은 녹서를 발표했다. 이 원칙은 이모티콘, 광고 등 주요 서비스 운영에 적용했다.

이번 코딩북 제작에는 한국언론법학회를 중심으로 구성된 연구진이 참여한다. 또 카카오 증오발언 근절 관련 자문단이 연구 과정을 정기적으로 검토한다. 자문단에는 배진아 공주대 영상학과 교수, 김수아 서울대 언론정보학과 교수, 심영섭 경희사이버대 미디어영상홍보학과 교수, 유희정 국립국어원 언어정보과 학예연구사, 이승현 연세대 법학연구원 박사가 참여한다.

카카오는 제작 완료된 코딩북을 포털 다음에 적용된 ‘세이프봇’과 같이 온라인 콘텐츠나 댓글 공간의 건전성을 높이기 위한 AI 기술에 적용할 예정이다. 증오발언을 판별하는 학습 데이터를 구축하고 이를 실제 서비스에 순차적으로 적용해 나간다는 계획이다. 카카오의 기술, 서비스뿐 아니라 외부 기업·기관도 자유롭게 활용할 수 있도록 코딩북을 공개할 방침이다.

김대원 카카오 인권과 기술윤리팀장은 “디지털 안전은 이용자 인권 보호의 기본적인 요소”라며 “사회, 학계, 관계 기관 및 이해관계자들과 협력해 디지털 공간과 생태계가 건강성을 견고히 유지할 수 있도록 최선을 다하겠다”고 말했다.