하정우 네이버클라우드 AI 이노베이션 센터장이 디지털플랫폼정부위원회 초거대 공공AI TF팀장 자격으로  2024 세계정부정상회의(WGS)에 참석, 공공 부문 AI 주권을 강조했다.

하 팀장은 지난 12일부터 열린 2024 세계정부정상회의(WGS)에 고진 디지털플랫폼정부위원회 위원장, 차인혁 디지털트윈 TF팀장, 배순민 공공AI TF 위원 등과 참석해 한국 정부의 AI 혁신 사례와 비전 등을 공유했다. 하 팀장은 Toward a future of responsible AI 세션 토론자로 나와 공공 부문에서 책임감 있는 AI 활용의 중요성을 강조하며 한국 사례 등을 소개했다.

하 팀장은 AI 신뢰도를 높이기 위해서는 리더보드나 일시적으로 흥미를 끄는 애플리케이션을 넘어 실제 사용자에게 도움을 주는 공공 부문에서의 성공 사례가 필요하다고 주장했다. “실제 적용의 관점에서 모델 성능, 기능, 문제 해결 사례, 사용자 만족도는 서로 완전히 다르다는 점을 고려해야 한다”면서 “폐쇄형 대형언어모델(LLM)과 오픈소스 AI의 지속 가능한 발전을 위해서는 흥미로운 스팟 애플리케이션이나 리더보드 수준을 넘어 산업과 공공 부문에서 성공 사례가 많이 나와야 한다”고 강조했다.

공공 부문은 국가마다 정책, 문화, 종교, 지역 규제, 문화 규제, 사회적 규범 등이 다르므로 AI 애플리케이션을 만들 때 각 국가의 주권을 AI 주권 역시 고려해야 한다고 조언했다. 그 사례로 한국 정부가 추진한 내용을 소개했다. 그는 “지난 1년간 디지털플랫폼정부위원회 공공 하이퍼스케일 AI TF 단장으로서 팀원들과 함께 70개 이상의 다양한 한국 소버린 클라우드 및 LLM 기반 공공 부문 시범 프로젝트를 지원했다”며 “이들은 더 많은 검색증강생성(RAG), 추가 모듈 등 생성형 AI의 할루시네이션(환각) 문제를 극복하기 위한 기술을 활용했다”고 말했다. 이어 “행정 업무 자동화를 통한 생산성 혁신, 시민을 위한 챗봇, 화재나 재난과 같은 긴급 상황을 위한 AI 기반 호출 등 프로젝트가 대표 사례”라며 “물론 공공 부문 프로젝트의 경우 안전, 규제, 보안 및 책임 등을 엄격하게 고려했다”고 했다.

공공 부문의 경우 사용자와 트래픽이 많은 만큼, LLM의 추론 운영 비용 감소에도 노력하고 있다고 밝혔다. 그 사례로 삼성전자와의 헙업을 소개했다. 그는 “공공 부문 애플리케이션의 대규모 사용자 트래픽을 고려해야 한다”며 “LLM 추론의 운영 비용은 지속가능성 문제에 있어 매우 어려운 과제이기 때문에 추론 과정에서 더 나은 대안을 만들어야 한다”고 말했다. 이어 “네이버는 (이 문제를 극복하기 위해) 삼성전자와 협력해 추론 칩을 개발하고 있다”고 소개했다.

끝으로 하 팀장은 한국 정부가 추진하는 공공 부문 AI 시도가 세계 정부의 모범 사례가 될 수 있다고 보았다. “한국 정부는 공공 부문에서 LLM 기반의 안전한 혁신을 추진하고 있다”며 “우리의 경험과 시행착오가 AI를 기반으로 공공 시스템을 혁신하고자 하는 세계 정부에 모범 사례이자 미래 모습이 될 것”이라고 강조했다.