“중요성 크다는 AI 신뢰성, 기업이 실천할 명분이 없다”

TRAIN 주최 ‘데이터 거버넌스’에서 비판 제기
데이터 거버넌스와 신뢰성 중요하지만, 우선순위와 멀어

인공지능(AI) 신뢰성의 중요성이 지속 강조되고 있지만 정작 기업에선 당장 이를 실천하기 어렵다는 지적이 나왔다. 상품 개발과 수익이 중요한 상황에서 AI 신뢰성까지 고려하기엔 조직원 설득이 어렵단 비판이다. 이에 ‘시장 경제’ 측면에서 AI 신뢰성을 독려할 방안이 필요하다는 조언이 이어졌다.

지난 30일 서울 강남 앙트레블에서 ‘신뢰할 수 있는 인공지능 국제연대(TRAIN)’가 주최한 ‘제2회 TRAIN 세미나’에서는 대학, AI 기업들이 참여해 데이터 거버넌스 등 AI 신뢰성 구축을 위한 논의했다. 이날 행사에선 윤건 한신대 공공인재빅데이터융합학과 교수, 유대훈 제네시스랩 AI최고책임자(CAIO), 천선일 씽크포비엘 AI 신뢰성 선임연구원 등이 참여했다.

이들은 데이터 거버넌스를 비롯한 AI 신뢰성의 필요성을 강조했다. 하지만 기업에선 정작 실천할 명분이 없다고 했다. AI 기술개발과 별도로 안전장치 마련에 투자해야 하는데 최고경영자(CEO)나 조직원을 설득하기 어렵다고 토로했다. 

윤건 한신대 교수는 “정부를 포함해 개별 기업도 모두 데이터 거버넌스를 이야기하고 있는데, 자세히 들여다보면 그 수준은 다르다”면서 “특히 중소기업의 경우 중요성은 알아도 데이터 거버넌스를 하지 못하는 경우도 많다”고 말했다. 이어 “데이터 거버넌스나 AI 거버넌스를 폭넓게 보면서 각 기업의 CEO가 어느 정도 이상 수준의 거버넌스를 실천할 수 있게 독려해야 한다”고 덧붙였다.

유대훈 제네시스랩 CAIO는 “우리는 HR 분야 AI 사업을 하면서 AI 신뢰성과 거버넌스 구축을 중요하게 여겼다”면서 “거버넌스를 구성할 때는 AI 신뢰성의 중요성을 실천할 경영진의 의지가 정말 중요하다”고 밝혔다. 하지만 그는 경영진의 의지가 있어도 해당 사업을 추진하기 위해선 직원들을 설득하는 것이 어렵다고 밝혔다. “거버넌스 조직이 생기면 AI 개발팀과 마찰이 생기게 되고, 거버넌스 조직에 있는 직원도 어떤 시스템과 솔루션을 만들어야 하는지 선택하기 어렵다”면서 “지금은 거버넌스 구축을 각 기업이 자율적으로 하고 있는데 아무래도 우선순위에 밀리고 직원 간 마찰도 발생할 수 있어 중소기업에서 적극 실천하는 곳은 몇 곳이 되지 않는다”고 말했다.

그렇다면, 각 기업이 AI 신뢰성에 관한 거버넌스 구축을 독려하기 위해선 어떻게 해야 할까. 이들은 기업들이 신뢰성을 중요하게 여길 동력과 당위성이 필요하다고 입을 모았다. 여기엔 ‘시장 경제’가 큰 동력이 될 수 있다고 했다.

천선일 씽크포비엘 선임연구원은 “결국엔 시장 경제가 동력이 될 수밖에 없다”면서 “현재 소프트웨어 시장에서는 서비스를 개발하고 많이 사용하는 시점을 넘어 얼마나 사용하기 편하고 안전한지가 중요해지고 있는데, AI 기반 서비스도 이와 비슷하지 않을까 생각한다”고 말했다. 이어 “‘이 AI 서비스는 편향적이지 않고 중립적이다’라는 브랜딩의 필요성이 커진다면 기업들은 AI 신뢰성이나 데이터 거버넌스를 중요하게 여기게 될 것이고, 그 시점이 빠르게 왔으면 좋겠다”고 했다. 

유대훈 제네시스랩 CAIO도 시장 경제로 움직여야 한다는 데 같은 의견을 냈다. “AI 신뢰성이나 데이터 거버넌스를 이 정도 수준으로 갖춰야 제품이 잘 팔릴 수 있는 방법을 찾아야 한다”면서 “하지만 매출이 꼭 따라오지 않을 수 있으니 기업이 어느 정도 수준의 신뢰성을 갖추기 위한 법과 규제가 있었으면 좋겠다”고 소신을 밝혔다.

윤건 한신대 교수는 지금은 AI 시장도 초기 단계이고, 신뢰성 분야는 더 초기이기 때문에 우수사례를 찾고 이를 알리는 활동이 필요하다고 했다. “정부 조직에서 하는 데이터 거버넌스의 주요 역할은 우수사례 전파”라면서 “사례를 계속 발굴하고 홍보하는 것이 필요하다”고 말했다. 이어 “모든 기업이 다 컴퓨터를 쓰는 것처럼 AI를 써야하는 시대가 온다면 우수사례 발굴은 필요 없을 수 있지만, 지금은 초기 단계이기 때문에 우수사례를 발굴하고 이를 토대로 학습되는 가치를 찾아내는 것이 중요하다”고 강조했다.