취업 과정에서 인공지능(AI)을 활용하는 ‘AI 면접 솔루션’을 도입하는 기업이 늘고 있지만 그 신뢰성에 의문을 표하는 경우가 적지 않았다. 국내 기업이 한국정보통신기술협회(TTA)에 AI 신뢰성 평가를 의뢰, 우수한 성적으로 통과해 화제가 되고 있다. AI 면접 솔루션이 TTA 인증을 받은 것은 국내에서 이번이 처음이다.

AI 전문 기업 ‘제네시스랩’은 24일 서울 대한상공회의소에서 각 기업 인사담당자 대상으로 AI 면접 솔루션을 소개하는 자리에서 자사의 AI 솔루션이 전 항목 높은 점수로 TTA 검증을 통과했다고 밝혔다. TTA는 지난해 발행한 ‘신뢰할 수 있는 인공지능 개발 안내서’를 토대로 AI 신뢰성 평가를 진행하고 있다. 기술 상용화에 앞서 기업이 개발한 AI가 올바른 결정을 내리는지 문제는 없는지 검증하기 위해서다. 제네시스랩은 이번 평가에 통과한 1호 기업이 됐다.

◇사람 평가하는 HR 분야 AI 신뢰성 검증은 기본

제네시스랩은 2018년 AI 영상면접 서비스 ‘뷰인터HR’를 출시, 현재 현대자동차, LG유플러스, 현대백화점, 전 군(육·해·공군, 해병대) 등에 공급하고 있는 기업이다. 영상 분석 기술과 생성 기술로 실제 면접과 유사한 면접 환경을 제공한다. 면접자의 답변을 음성 인식 기술과 자연어처리(NLP) 기술로 분석하고 얼굴 표정·태도·시선 등 비언어적 행동도 탐지한다. 또 생성기술을 활용해 면접관을 AI 휴먼으로 만들어 생동감 있는 면접 환경도 제공할 예정이다.

제네시스랩이 면접에서 중요시하는 부분은 신뢰성이다. 조진희 제네시스랩 데이터 사이언티스트는 이날 행사에서 인적자원(HR) 분야에서 사용되는 AI 기술은 신뢰성 검증이 꼭 필요다고 주장했다. HR 분야에 사용되는 AI 기술은 사람을 평가하기 위해 마련된 것이기 때문이다. 그는 “HR의 핵심은 의사결정”이라며 “의사결정을 해야 할 영역이 점차 늘어나고 있어 AI가 내린 판단이 옳은지를 계속 의심하고 검증해야 한다”고 말했다.

실제로 HR 분야에서 사용되는 AI 기술은 종종 논란을 일으켰다. 아마존은 2018년 이력서를 AI로 평가하는 알고리듬을 개발하다 중단시켰다. AI 알고리듬이 이력서에 ‘여학교’ 등 여성을 상징하는 단어가 있으면 부정적으로 평가하는 편향이 드러나서다. 

한전KDN은 지난해 민주사회를위한변호사모임(민변)과 한국국제협력단(KOICA)가 낸 소송 1심에서 패소했다. 민변 등은 공공기관 13곳을 상대로 AI를 이용한 채용이 공정한 절차를 준수하는지, 개인정보를 침해하지 않는지 등을 파악하려 정보공개를 청구했다가 거부당하자 한전KDN과 한국국제협력단에 정보공개 거부 처분 취소 소송을 제기, 1심에서 승소했다. 민변 등은 “한전KDN은 AI 면접에 주어지는 질문사항에 관한 어떤 검토도 없이 용역업체에 포괄적으로 위임하고 채용 의사 결정자에게 AI 면접과 관련한 어떤 자료도 제공하지 않았다”며 “채용 당사자나 감독기관에 당락 이유를 물어도 제대로 설명할 수 없는 상태인 것”이라고 비판했다. 한전KDN은 외부 용역업체를 통해 AI 화상면접을 실시한 점과 AI 화상면접 질문사항은 일반적인 인·적성 검사 질문사항이고, 이러한 질문사항을 검토한 적 없어 관련 자료를 제공하지 않는다고 변호했지만 성립되진 못했다.

제네시스랩은 이러한 문제를 줄이기 위해 별도 가이드를 마련하고, 기술 검증을 시행하며 신뢰성 확보를 이어왔다. 이번 TTA 주관 AI 신뢰성 검증도 마찬가지다. 유지형 제네시스랩 팀장은 “2022년 TTA에 AI 신뢰성 검증을 의뢰한 결과 모든 항목에서 적합하다는 판정을 받았다”며 “HR 분야에서는 최초이자 유일한 사례”라고 말했다. 이어 “검증되지 않은 기술은 사용 의도와 달리 다양한 문제를 발생시킬 수 있다”며 “AI 기술을 활용할 경우 AI 공급사가 공신력 있는 기관에서 하는 신뢰성 검증 등에 적극적으로 참여하고 있는지를 먼저 살펴보길 당부한다”고 덧붙였다.

◇“기술 상용화 전 신뢰성 검증하는 문화 자리 잡아야”

제네시스랩은 AI 신뢰성 확보를 위해 모델 설계부터 알고리듬 개발, 데이터 확보 등의 작업을 투명하게 진행했다. 또 딥러닝 과정에서 AI가 불필요한 결과를 내는 부분을 지속 감시하고 배제해나갔다. 또 고객사에 AI 면접 기술을 공급할 때는 요구하는 인재상과 데이터를 확인해 이를 토대로 기술을 고도화해 공급했다. AI로 내린 분석 결과가 감독기관과 채용자 모두에게 공정하고 합리적일 수 있게 하기 위해서다. 

유 팀장은 “AI 연구자로서 제네시스랩에 합류한 이유는 파이프라인을 초창기부터 상당히 잘 구축해놓아서였기 때문”이라며 “이 파이프라인에서 약 300만 건의 면접을 진행하며 기술 신뢰성을 계속 고도화내갈 수 있었다”고 말했다. 이어 “간혹 어떤 기업들은 기술 검증에 응하지 않고 AI 모델의 알고리듬과 데이터 등을 쉽게 공개하지 않고 있는데 우리는 이러한 것들을 모두 공개하고 기술 검증도 먼저 의뢰하고 있다”며 “이것이 가능한 것은 초창기부터 파이프라인을 제대로 구축해놓았고 올바른 서비스를 시행해왔기 때문”이라고 밝혔다.

이영복 제네시스랩 대표는 AI 신뢰성 검증이 일부 기업에서만 이뤄질 사안이 아니라 시장 전체에 파급돼야 한다고 주장했다. 일부 기업의 문제가 전체 시장에 부정적 영향을 끼칠 수 있어서다. 이 대표는 “AI가 정당하지 않은 결과를 보이면 고객사가 AI 기술을 믿지 않고 외면해버리는 결과가 발생한다”며 “이러한 문제를 줄이기 위해서라도 기술 상용화에 앞서 신뢰성 검증을 시행하는 문화가 자리 잡아야 한다”고 조언했다.