인공지능(AI)이 면접관으로 또 취업 조력자로 등장했다. 최근 AI 기술 발전과 함께 채용 분야에서는 면접부터 컨설팅 등 다양한 분야에서 관련 기술이 사용되고 있다. 면접관이 수많은 서류를 일일이 평가하기 어렵기 때문에 이를 요약하거나 표절한 부분은 없는지 찾아주고, 면접관이 가진 편향 없이 공정한 채용 절차가 이뤄지도록 돕는 데 AI가 사용되고 있다. 지원자의 니즈와 성향을 파악해 알맞은 채용 과정을 추천해주는 데도 AI가 사용된다.

그런데 채용 분야에서 AI 사용은 일반 업무에서 사용하는 것보다 더 조심스러운 부분이 있다. AI로 나온 결과가 지원자의 합격 당락에 영향을 줄 수 있어서다. 지원자는 채용 합격을 위해 많은 시간과 노력을 투자한다. 그런데 그 노력이 AI로 인해 빛날 수 있고, 반대로 빛이 바랠 수 있다. 지원자는 과연 AI가 내린 결과를 고스란히 받아들일 수 있을까, 또 AI가 추천한 내용을 그대로 믿을 수 있을까. 이 점에 대한 사회적 합의는 아직 마련되지 않은 상태다.

◇채용 분야에서 AI가 저지른 오류들

채용 분야에서 AI 기술이 저지른 오류 사례는 많다. 아마존은 2014년부터 AI 기반 서류평가 시스템을 채용 과정에 도입해 사용했다. 취업 대상자가 제출한 이력서를 리뷰하고, 이를 기반으로 대상자를 1~5점으로 평가하는 시스템이다. 그런데 1년 뒤인 2015년 아마존은 이 프로그램에 큰 오류가 있다는 것을 발견했다. 프로그램이 남성 지원자를 높게 평가하고, ‘여대’, ‘여고’ 등 여성에 관한 내용이 있는 경우 낮게 평가해서다.

아마존은 이 문제에 대해 프로그램을 공식적으로 사용하지 않았고, 일부 팀에서 벌어진 실험이라고 해명했다. 또 당시 팀에 남자 직원이 많고 이들의 성과가 높다 보니 이를 학습한 AI가 남성을 높게 평가하는 경향이 있었다고 설명했다. 이후 아마존은 이 프로그램 사용을 전면 금지했다.

국내 사례도 있다. 한전KDN은 지난해 AI 채용과 관련해 민주사회를위한변호사모임(민변)과 한국국제협력단(KOICA)가 낸 소송 1심에서 패소했다. 채용 분야에 사용하고 있는 AI 면접 솔루션이 내린 결과를 설명할 수 있는지에 관해 제대로 설명할 수 있는 시스템이 마련되지 않은 영향이 컸다. 민변 등은 공공기관 13곳을 상대로 AI를 이용한 채용이 공정한 절차를 준수하는지, 개인정보를 침해하지 않는지 등을 파악하려 정보공개를 청구했다가 거부당하자 한전KDN과 한국국제협력단에 정보공개 거부 처분 취소 소송을 제기했다. 민변 등은 “한전KDN은 AI 면접에 주어지는 질문사항에 관한 어떤 검토도 없이 용역업체에 포괄적으로 위임하고 채용 의사 결정자에게 AI 면접과 관련한 어떤 자료도 제공하지 않았다”며 “채용 당사자나 감독기관에 당락 이유를 물어도 제대로 설명할 수 없는 상태인 것”이라고 비판했다. 한전KDN은 외부 용역업체인 마이다스인(마이다스아이티)의 AI 역량평가 솔루션을 도입해 면접을 실시한 점과 AI 화상면접 질문사항은 일반적인 인·적성 검사 질문사항이고, 이러한 질문사항을 검토한 적 없어 관련 자료를 제공하지 않는다고 변호했지만 성립되진 못했다.

◇제네시스랩, 지원자 합격 당락 결정 짓는 AI 면접에 신뢰성 일순위로

채용 분야에서 효율성 등을 목적으로 AI 기술이 사용됐지만, 국내외적으로 좋지 못한 사례가 나오자 사용자들은 기업이 사용하는 AI 채용 시스템을 신뢰해도 되는지 의문을 두게 됐다. 특히 채용은 지원자에게 중요한 부분인 만큼 의문의 여부는 중요해지고 있다. 하지만 지원자 입장에서 AI 채용은 필수적인 요소다. 기업이 AI 채용 시스템을 사용한다면 지원자는 이를 거부할 권리가 없고, 거부한다 해도 감점 요소가 될 수 있다. 최근 채용 분야에 AI 사용이 확산되는 분위기에서 지원자들에게 AI 채용 시스템은 선택이 아닌 필수가 되고 있는 것이다.

이 문제에 대해 일부 AI 채용 시스템 공급 기업은 기업과 지원자 모두 신뢰할 수 있는 서비스를 제공하기 위해 나서고 있다. AI 면접 솔루션 ‘뷰인터HR’을 개발·공급하는 ‘제네시스랩’이 대표 사례다. 이 회사는 채용 분야 AI 기술을 공급하고 있는 만큼 신뢰성을 주요 과제로 두고 있다. AI가 공정한 평가를 할 수 있는지, 그 결과를 설명할 수 있는지 등을 AI 개발자뿐 아니라 채용 분야 전문가들과 함께 개발했다. 해당 솔루션은 한국정보통신기술협회(TTA)로부터 인공지능 신뢰성 평가 검증을 받았다. 

또 회사는 올해 정보통신정책연구원(KISDI) 등과 ‘인공지능 자율점검표’ 제작에 나선다. 인공지능 자율점검표는 AI 모델을 만들 때 신뢰성과 윤리 분야에서 꼭 갖춰야 할 부문을 체크리스트처럼 만든 점검표다. 개발자를 위한 신뢰성 개발안내서라고 볼 수 있다. KISDI는 챗봇과 관련해선 스캐터랩과 작문과 관련해선 뤼튼테크놀로지스와 자율점검표를 개발한 바 있다. 

이영복 제네시스랩 대표는 “AI는 사람 면접관보다 덜 편향적이고 컨디션에 영향을 받지도 않는다”면서 “우리는 면접에서 발생하는 비언어적 요소와 행동, 역량평가 리포트 등 다양한 데이터를 통해 객관적으로 평가하는 기술을 만들었고, 또 그 결과를 회사에 설명할 수 있는 기술도 구축했다”고 말했다.

◇원티드랩, 자체 데이터 기반으로 취업 컨설팅 및 예측 정확도 고도화

채용 분야 AI 기술의 신뢰성은 면접과 같은 평가뿐 아니라 컨설팅 분야에서도 그 중요성이 커지고 있다. 최근 생성형 AI 기술 발전으로 지원자의 이력서 작성을 돕고 해당 내용을 토대로 예상 질문을 뽑아주는 역할을 하는 AI 채용 비서가 등장하기 시작했다. 사용자가 입력한 데이터를 토대로 예상 연봉을 예측해주기도 하고 회사를 추천해주기도 한다. AI가 채용 전문 강사부터 헤드헌터 역할까지 모두 하게 된 것이다. 

여기서도 신뢰성은 중요하다. 예상 연봉을 잘못 예측하거나 사용자와 전혀 무관한 직무 등을 추천하면 지원자 커리어에 부정적 영향을 줄 수 있어서다. AI 기술 상당수가 오픈소스로 되어 있고 이를 토대로 많은 스타트업이 관련 시장에 뛰어들고 있는데, 이들 기업이 내놓는 서비스들이 부정확한 결과를 내면 전반적인 채용 AI 시장이 부정적 여론으로 움츠러들 가능성이 크다.

AI로 이력서 작성을 돕고 면접 예상 질문을 뽑아주며 합격률까지 예측하는 ‘원티드 에이전트’와 AI 커리어 설계 서비스 ‘커리어맵’ 등을 공급하고 있는 ‘원티드랩’은 사용자 신뢰성 확보를 위해 데이터에 집중했다. 이 회사는 작성한 이력서만 웹페이지에 업로드하면 적합한 포지션을 추천해주고 합격과 연봉 등을 예측해주는 기술을 제공하고 있다. 이 같은 기술을 실현하기 위해선 ‘심층문서이해(DDU)’나 ‘기계독해(MRC)’ 등 AI 구현 기술도 필요하지만, 정확한 예측을 위한 데이터도 중요하다. 100% 정확하진 않더라도 지원자가 참고할 수 있는 정량적인 정보를 제공하기 위해선 수많은 채용 데이터 중 가치 있는 데이터만 모아 분석해야 하기 때문이다.

원티드랩은 사용자에게 가치있는 추천·예측 기술을 제공하기 위해 데이터 취합에 공을 들였다. 가치있는 데이터를 취득하기 위해 회사채용 서비스 ‘원티드’를 제공할 때 수수료를 구직자가 최종 합격 후 수습 기간 3개월이 지난 후 받았다. ‘채용 당 과금’이 기본인 매칭 모델에서는 ‘합격률’이 매출을 결정하는 요소이기 때문에 보다 정확한 데이터를 취합하기 위함이다. 이 과정을 통해 회사는 합격률 예측에 필요한 채용 전 과정 데이터를 체계적으로 관리하며 쌓을 수 있었다. 이를 토대로 회사는 개인이 커리어 목표 설정을 돕고, 이를 달성하기 위해 필요한 구체적인 정보를 제공하는 서비스를 개발하고, ‘연봉예측기술’ 등을 태대로 사용자가 직무별 연봉 등을 미리 확인할 수 있는 시스템을 마련했다.

원티드랩 관계자는 “우리가 개인화된 AI 커리어 설계 서비스를 출시할 수 있는 배경에는 독보적으로 보유한 데이터에 있다”고 설명했다. 이어 “이를 기반으로 개개인의 커리어를 능동적으로 발전시킬 수 있는 다양한 기회를 제공하고자 한다”며 “즐겁게 일하고 성장할 수 있도록 돕는 다양한 AI 서비스를 선보일 것”이라고 밝혔다.

본보는 지난 7월 31일 위와 같은 제목으로 마이다스아이티 AI면접 솔루션이 결과에 대해 제대로 설명할 수 있는 시스템이 부재하고, 이로 인해 위 AI면접 솔루션을 사용한 한전KDN은 민변이 제기한 정보공개 청구에서 패소하였다는 취지의 기사를 보도하였습니다.

그러나 사실 확인 결과, 한전KDN은 정보공개법 등에 따른 근거를 제시하지 않고 정보 비공개 결정을 하여 위 소송에서 패소한 것으로, 마이다스아이티 및 마이다스인은 위 소송의 당사자 아닐 뿐 아니라, 마이다스인의 AI 면접 솔루션의 기능과 시스템은 당초부터 위 소송의 쟁점이 아니었고, 위 소송의 결과와 전혀 무관한 것으로 확인되어 이를 바로잡습니다.

이 보도는 언론중재위원회의 조정에 따른 것입니다.