인공지능(AI)이 빠른 속도로 발전하면서 기술로 인한 악영향에 대한 우려가 높다. AI가 사회적으로 다양한 편의성을 제공하는 반면 인권 침해, 편향, 차별 등 다양한 사회적 문제를 양산하기 때문이다. 이 문제를 줄이기 위해 현재 사회적으로 논의되는 것이 ‘AI 윤리’다. AI가 사람에게 피해를 주지 않도록 윤리적 기준을 정립하고 이에 따른 AI 모델을 개발하자는 취지다. 

그런데 안전한 AI 사용에 있어서 ‘윤리 보다 더 시급한 문제가 있다’는 주장이 제기됐다. AI가 설계된 목적 외 다른 용도로 사용되는 일이 없도록 보안을 강화해야 한다는 주장이다.

투피 살리바 국제전기전자공학회(IEEE) 글로벌인공지능표준위원장은 28일 부산 벡스코에서  열린 글로벌 AI 컨퍼런스 ‘AWC 2022 in Busan(AWC 부산)’ 기조연설에서 ‘AI의 올바른 활용을 위한 방안’을 소개했다. 그는 이 자리에서 “AI의 안전한 사용을 위해 많은 국가가 AI 윤리를 얘기하고 있지만 이보다 더 중요한 문제는 오가지 않고 있다”며 “윤리 마련보다 중요한 것은 ‘AI 용도 변경 방지’다”라고 말했다.

AI는 용도 변경 방지는 AI가 주어진 목적 외 다른 용도로 사용되는 일을 사전 방지하기 위한 조치다. 특수 목적으로 개발된 AI나 범용적인 목적으로 사용된 AI가 해킹, 개발기업의 이익 추구 등으로 인해 인류에게 위협이 되는 용도로 사용되지 않는 것을 목표로 한다. 이를 위해 IEEE는 전 세계 AI 개발자들이 공통으로 계획하고 조치하는 보안 체계를 구축하기 위한 ‘AI 보안 국제 프로토콜’을 추진하고 있다. 

살리바 위원장은 “원자력 에너지는 인류에게 많은 긍정적인 이익을 가져오지만 다른 용도로 사용하면 큰 위협을 줄 수 있다”며 “AI도 이와 마찬가지이기 때문에 이를 방지하기 위한 노력을 글로벌적으로 하고 있다”고 말했다.

그는 이러한 조치가 AI 연구의 궁극적 목표 중 하나인 ‘범용 인공지능(AGI)’ 개발에 반드시 수반돼야 할 요소라고 주장했다. AGI가 마이크로소프트, 구글 등 빅테크 기업이 홀로 할 수 있는 일이 아니고 미국, 중국 등 단일 국가가 갖출 수 있는 기술이 아닌 만큼 글로벌적인 협력이 필요한데 이를 위해선 공통된 보안 조치가 마련돼야 한다고 설명했다. 

살리바 위원장은 이 노력을 한국에서 시작할 수 있다고 밝혔다. 이미 IEEE는 지난해 11월, 부산시와 AI 보안 표준화와 국제 기술 교류를 위해 업무협약을 체결 ‘AI 보안 국제 프로토콜 위원회’와 ‘AI 보안 국제 프로토콜 위원회’ 부산본부 설립을 추진하고 있다고 부연했다.

한국을 선택한 이유에 대해 살리바 위원장은 세계 각국 도시와 협력이 용이하고 기술 인프라와 문화, 경제 등 AI 보안 구축에 필요한 기반이 갖춰져 있기 때문이라고 설명했다. 그는 “한국, 특히 부산은 회복탄력성, 꾸준함 등의 장점이 있고 글로벌 협력을 위한 기반사항도 잘 마련돼있다고 생각한다”면서 “이러한 강점을 토대로 국제 AI 보안 마련이 한국에서 빠르게 마련됐으면 좋겠다”고 희망했다. 

AWC는 AI의 현황과 미래를 살펴보고 세계 각국 전문가들과 교류가 이뤄지는 장이다. 부산에서 28일과 29일 양일간 이번 행사는 ‘The Good AI Can Do(좋은 AI가 할 수 있는 일)’를 주제로 열렸다. 행사는 인공지능 전문매체 더에이아이(The AI)와 디지틀조선일보, 부산시, 부산대, 벡스코가 공동 주최·주관했다.