EU ‘고위험 AI’로 분류된 AI 채용 솔루션, 공급사 입장은?

뷰인터HR 공급하는 제네시스랩에서 들은 AI 채용 솔루션 입장
“HR 분야 AI 신뢰성 매우 중요, 안전 확보 독려하는 시장 경제 마련돼야”

유럽연합(EU)이 내놓은 인공지능(AI) 규제법인 EU AI 법(Act)의 고위험 AI에 채용 솔루션이 포함됐다. 이 때문에 AI 면접 시장이 위축될 것이란 평가가 많다. 소프트웨어나 AI 특성 상 국가에 상관없이 해당 솔루션이 활용될 가능성이 있어 EU 규제에 자유롭지 않을 수 있다는 판단에서다. 

EU는 지난 2월 세계 첫 AI 규제법을 27개 회원국 만장일치 합의를 거쳐 통과시켰다. AI 서비스를 △고위험 △제한적 위험 △허용불가위험 등 사람에게 위험을 주는 요소를 기준으로 4등급으로 분류해 규제를 적용했다. 위반 시 기업 전체 매출의 최대 7% 또는 3500만 유로(약 505억 원)의 과징금을 부과한다는 방침이다.

이중 고위험 AI에는 사람의 고용, 채용에 관한 서비스가 포함됐다. EU AI법에 따르면, 채용 또는 선발 과정에서 입사 지원서를 분석하고 후보자를 평가하는 데 사용하는 AI 시스템은 고위험 AI로 분류된다. 또 사람의 성과와 행동을 모니터링 및 평가하는 데 사용하는 AI 시스템도 마찬가지다.

EU AI법은 유럽에만 적용되진 않는다. 한국에서 만든 서비스가 추후 EU 시장에 진출했을 때 해당 규제에 어긋난다면 똑같은 처벌을 받을 수 있다. 고인선 법무법인 원 변호사는 “EU AI법에 해당하는 대상은 공급자, 배포자, 수입업자와 유통업자, 제품 제조자. EU에 소재하는 자 등인데, 중요한 점은 유럽에 사무실을 설치했거나 유럽에 거주하는 것과 상관없이 서비스가 공급되면 모두가 적용된다는 점”이라면서 “당연히 인터넷이나 소프트웨어는 한 국가에서 출시했어도 전 세계에 영향을 주기 때문에 EU AI법에 해당하는 경우가 더 많을 수밖에 없다”고 말했다. 

EU는 2027년 8월부터 고위험 AI를 규제한다고 밝혔다. 이때부터 채용, 고용 등에 사용되는 AI의 안전성을 준비해야 하는 것이다. 그렇다면, 국내 대표 AI 면접 솔루션인 ‘뷰인터HR’을 개발·공급하는 ‘제네시스랩’의 생각은 어떨까?

지난 30일 서울 강남 앙트레블에서 ‘신뢰할 수 있는 인공지능 국제연대(TRAIN)’가 주최한 ‘제2회 TRAIN 세미나’에서 만난 유대훈 제네시스랩 AI최고책임자(CAIO)를 만나 해당 질문을 던지자 “오히려 잘됐다”는 명쾌한 답변이 나왔다. “EU AI법이 제시한 고위험 AI는 금지하는 것이 아니라 그만큼 위험하니 잘 만들고 관리하라는 개념으로 알고 있다”면서 “HR 분야에 사용하는 AI는 공정하고 안전해야 하므로 엄격하게 관리하는 것이 맞다”고 말했다.

유 CAIO에 따르면, 제네시스랩은 HR 분야에 제공하는 AI를 준비하면서 신뢰성과 안전성 확보에 많은 투자를 해왔다. 다른 AI 기업들이 수익 확보와 빠른 서비스 출시에 집중했다면, 반대로 이 회사는 안전성에 큰 투자를 했다. HR에 사용하는 AI가 가져올 위험성을 예상했기 때문이다. 일례로 아마존은 2014년부터 AI 기반 서류평가 시스템을 채용 과정에 도입했다가 중단한 적이 있다. 다음 해 프로그램이 남성 지원자를 높게 평가하고, ‘여대’, ‘여고’ 등 여성에 관한 내용이 입력되는 경우 낮게 평가하는 오류가 있다는 것을 발견해서다. 이후 아마존은 이 프로그램 사용을 전면 금지했다.

이러한 문제를 줄이기 위해 제네시스랩은 AI 윤리와 신뢰성에 관해 많은 연구와 투자를 진행해왔다. 대표 사례로 AI 면접 솔루션인 뷰인터HR의 경우 TTA로부터 인공지능 신뢰성 평가 인증을 받았다. TTA가 제작한 ‘신뢰할 수 있는 인공지능 개발 안내서’에 명시된 신뢰성 요구사항과 검증항목이 충족하는지 여부를 평가해 통과한 기업에만 부여하는 인증이다. 제네시스랩은 이 인증을 통과한 국내 첫 기업이 됐다. 또 KISDI와 ‘인공지능 자율점검표’도 제작했다. AI 모델을 만들 때 신뢰성과 윤리 분야에서 꼭 갖춰야 할 부문을 체크리스트처럼 만든 점검표다. 개발자를 위한 신뢰성 개발안내서라고 볼 수 있다.

유 CAIO는 “EU든 미국이든 한국이든 AI 규제를 다 준비하고 있는데, 우리는 어떤 규제가 나오는 것과 상관없이 사용자가 안전하게 AI를 사용할 수 있도록 안전성을 확보해가고 있다”면서 “규제를 무조건 부정적으로 보기보단, 사용자가 안전하게 AI를 사용할 수 있도록 신뢰성, 윤리 마련에 앞선 기업을 지원하고 독려하는 시장 경제가 만들어졌으면 좋겠다”고 희망했다.