인공지능(AI)으로 인한 부작용을 탐구하는 시간이 정부 주도로 마련됐다. 과학기술정보통신부는 11일 ‘AI 윤리·신뢰성 강화를 위한 현장간담회’를 열고 AI 기술 촉진으로 인해 파생될 문제점을 토론하는 시간을 마련했다. 박윤규 과기정통부 2차관, 문정욱 정보통신정책연구원(KISDI) 센터장, 이강해 한국정보통신기술협회(TTA) 단장, 송대섭 네이버 이사, 김유철 LG AI연구원 부문장 등 AI 전문가들이 참석해 AI 신뢰성과 윤리에 관한 발표와 토론을 진행했다.

이날 현장간담회는 실제 AI 기술을 개발·공급하고 있는 기업에 방문하는 형태로 진행됐다. 국내 많은 기업 중 토론장으로 선택된 곳은 서울시 중구에 위치한 ‘제네시스랩’이다. AI 면접 솔루션 ‘뷰인터HR’을 개발·공급하는 회사다.

사실 면접과 같은 AI 채용 서비스는 일부 국가에서는 ‘고위험 기술’로 구분할 정도로 신뢰성, 윤리 문제에 자유롭지 않다. AI가 사람을 평가하고 합격 당락에 영향을 줄 수 있는 서비스여서다. 이미 국내에서도 AI 면접과 관련해 그 결과를 설명하지 못한다는 지적이 여러 번 개진된 바 있다. 그만큼 AI 면접 솔루션을 공급하는 기업은 AI 윤리가 사업 확장을 가로막는 족쇄처럼 느껴질 수 있다. 그렇다면 왜 이번 현장간담회는 다름 아닌 AI 채용 서비스를 제공하고 있는 제네시스랩에서 열렸을까.

이날 발표를 진행한 이영복 제네시스랩 대표는 오히려 AI 기업에 신뢰성 인증 제도 등이 필요하다고 주장했다. “기업이 개발·공급하는 AI 서비스가 신뢰할 수 있는지 인증 절차를 마련하고 정부가 이 인증을 받은 기업을 대상으로 여러 지원책을 마련해준다면 건전한 AI 확산이 이뤄질 수 있다”고 말했다.

이 대표가 이렇게 주장한 이유는 AI 신뢰성에 관한 자신감에서 나온다. 사실 제네시스랩의 경우 AI 윤리와 신뢰성에 관해 많은 연구와 투자를 진행하고 있다. 실제로 회사의 AI 면접 솔루션인 뷰인터HR의 경우 TTA로부터 인공지능 신뢰성 평가 인증을 받았다. TTA가 제작한 ‘신뢰할 수 있는 인공지능 개발 안내서’에 명시된 신뢰성 요구사항과 검증항목이 충족하는지 여부를 평가해 통과한 기업에만 부여하는 인증이다. 제네시스랩은 이 인증을 통과한 국내 첫 기업이 됐다.

또 회사는 올해 KISDI와 ‘인공지능 자율점검표’를 만들 계획이다. 인공지능 자율점검표는 AI 모델을 만들 때 신뢰성과 윤리 분야에서 꼭 갖춰야 할 부문을 체크리스트처럼 만든 점검표다. 개발자를 위한 신뢰성 개발안내서라고 볼 수 있다. KISDI는 챗봇과 관련해선 스캐터랩과 작문과 관련해선 뤼튼테크놀로지스와 자율점검표를 개발한 바 있다. 문성욱 KISDI 센터장은 이날 발표에서 “채용 분야와 관련해 올해 제네시스랩과 함께 자율점검표를 개발할 계획”이라고 밝혔다.

기술 개발과 공급에도 여유가 없다고 평가되는 스타트업에서 AI 신뢰성 구축과 윤리 확보에 힘을 쏟고 있는 것이다. 이처럼 제네시스랩이 AI 윤리에 속도를 내는 이유는 안전한 AI 산업 확산을 위해서다. 이 대표는 “AI는 사람 면접관보다 덜 편향적이고 컨디션에 영향을 받지도 않는다”면서 “우리는 면접에서 발생하는 비언어적 요소와 행동, 역량평가 리포트 등 다양한 데이터를 통해 객관적으로 평가하는 기술을 만들었고, 또 그 결과를 회사에 설명할 수 있는 기술도 구축했다”고 말했다. 이어 “하지만 실제 현장에 기술을 영업하다 보면, AI 면접 서비스를 신뢰할 수 없다는 인식과 경험을 가진 기업의 이야기를 자주 접하게 돼 신뢰성 인증의 필요성을 갖게 됐다”고 밝혔다.

그는 이러한 신뢰성 인증이 결국 AI 생태계에 긍정적인 영향을 줄 것으로 보았다. “채용 공정성을 해결할 수 있는 AI 개발 가이드라인과 검증은 소비자뿐 아니라 공급사에게도 절실한 상황”이라며 “이러한 인증을 받은 기업을 정부가 지원해준다면 AI 신뢰성 구축에 관한 동기부여가 일어나 바람직한 AI 생태계가 만들어질 것”이라고 강조했다.