“진정으로 인류를 위한 인공지능(AI) 기술을 제공하고 싶다면 빠른 기술개발보다 중요한 것이 있다. AI 개발자의 책임감이다. 기술 공급사는 이를 위해 AI 원칙을 세우는 것을 넘어 신뢰성 검증을 위한 기술적 검증 체계를 마련해야 한다.”

라일라 트레티코프 마이크로소프트 부 최고기술책임자(Deputy CTO)가 29일 부산 벡스코에서 열린 글로벌 AI 컨퍼런스 ‘AWC 2022 in Busan(AWC부산)’에서 AI 기업의 ‘기술 신뢰성 검증 시스템’ 구축을 촉구했다. AI 기술이 다양한 분야에 적용되면서 영향력이 커지고 있는 만큼 안전한 사용을 위한 기반 시스템을 마련해야 한다는 주장이다. AWC부산은 디지틀조선일보와 인공지능 전문매체 THE AI가 부산시, 부산대, 벡스코와 공동 주최·주관하는 행사로, AI의 현황과 미래를 살펴보는 세계 각국 전문가 교류의 장이다. 

라일라 부CTO는 “디지털 전환을 통해 수많은 데이터가 축적되면서 AI가 잘할 수 있는 환경이 조성됐다”며 “AI가 연구실을 넘어 다양한 분야에 접목되는 만큼 AI 개발자는 이 기술을 사용할 때 문제가 없는지 고민하고 ‘책임감 있는 개발’을 해야 한다”고 조언했다. 이어 “마이크로소프트는 이러한 환경을 조성하기 위해 연구자, 기술 개발자, 보안 전문가들이 합심해 기술이 문제가 없는지 검증하는 모델을 개발, 적용하고 있다”고 밝혔다.

그는 AI 기술 검증 도구가 필요한 이유로 음성합성 기술 사용 사례를 소개했다. 마이크로소프트는 과거 음성합성 기술을 개발해 일부 장면의 목소리를 AI로 대체하는 작업을 진행했다. 그런데 회사는 이 작업 이후 음성합성 기술개발 속도를 늦췄다. 음성합성 기술이 기존 내용을 변형해 의도치 않은 결과물을 낼 수 있기 때문이다. 이 문제를 해결하기 위해 회사는 다양한 개발자와 인터뷰를 통해 기술이 악용될 수 있는 가능성을 논의했고 이를 토대로 신뢰성 검증을 위한 장치를 마련했다.

라일라 부CTO는 “많은 기업이 경쟁적으로 음성합성 기술을 내놓고 있는데 이 기술이 악용될 수 있는 부분에 대한 안전장치는 마련하고 있지 않다”며 “마이크로소프트는 이 문제를 해결하기 위해 다른 기업들과 파트너십을 구축해 안전한 AI 사용을 독려하고 있다”고 말했다.

신뢰성 검증에 또 필요한 부분은 보안이다. AI가 데이터를 학습하는 과정에서 사이버 공격을 당한다면 처음 의도와 다른 결과물을 낼 수 있어서다. 예를 들어 자율주행을 위해 표지판을 감지하는 AI 기술을 만들 때 사이버 공격으로 학습 데이터가 바뀐다면 위험한 결과를 초래할 수 있다. 출발과 멈춤을 표시하는 표지판에 인위적으로 포스트잇을 붙이고 ‘포스트잇을 붙인 표지판은 속도를 나타내는 표지판’이라고 학습하게 되면 차량이 멈추지 않고 빠른 속도로 해당 구간을 지나가는 상황이 발생할 수 있기 때문이다.

AI 모델 정확도 측정도 검증이 필요하다. AI 기업이 발표하는 ‘90% 이상’ 등의 정확도 수치는 일부 환경에서 측정한 수치다. 다른 분야에 적용하면 그 결괏값이 달라질 수 있다. 따라서 라일라 CTO는 AI 모델을 적용하는 환경에서 정확도를 측정할 수 있는 검증 도구가 필요하다고 밝혔다.

그는 “AI는 사회에 진정으로 변화를 가져올 수 있는 기술”이라면서 “이 때문에 AI 기술공급사는 개발자가 안전한 모델을 개발하고 이 모델이 오용되는 경우를 방지할 수 있는 환경을 빠르게 구축해야 한다”고 강조했다.