[TAS 2023]“정부, 초거대 AI 신뢰성 확보 적극 나선다”

과기부 "내년 2차 AI 안전 정상회의서 규범 논의 적극 이끌 것"
인프라 차원의 초거대 AI 경쟁력 강화 등 3대 전략 추진 중

“파괴적인 혁신을 이끄는 초거대 인공지능(AI)이 세계적으로 경쟁력을 확보할 수 있도록 정책적으로 지원할 것입니다" 

정부가 초거대 AI 경쟁력 강화를 위한 인프라 지원과 규범에 대한 국제적 논의에 나선다.

엄열 과학기술정보통신부 인공지능기반정책관은 16일 동대문디자인플라자(DDP)에서 열린 TAS 2023(THE AI SHOW 2023) 행사의 AI 컨퍼런스 ‘THE AI Forum’에 연사로 참여해 이같이 말했다. 초거대 인공지능(AI)의 국제적 경쟁력 확보를 위해 정부 차원의 지원을 아끼지 않겠다는 포부다. 이날 엄열 정책관은 ‘초거대 AI 시대 인공지능 정부 정책 방향’을 주제로 정부 정책 전략을 알렸다.

정부는 △초거대 AI 경쟁력 강화 △전 국민 AI 일상화 전략 △AI 윤리·신뢰성 확보 방안 등 AI 경쟁력 강화 3대 핵심 전략을 마련했다. 엄열 정책관은 “AI 경쟁력 강화를 위해 3대 핵심 전략을 마련했다”며 “초거대 AI는 인프라 차원의 구축을 중심으로 지원하고 AI 윤리 확보는 국제적 차원에서의 논의에 적극적으로 나설 것”이라고 말했다.

생성형 AI의 신뢰성 확보를 위한 정부의 방향도 밝혔다. 엄열 정책관은 “AI 기업들이 기술 개발을 할 때 윤리 관련 기준을 준수할 수 있도록 하는 개발 안내서나 윤리 지침을 분야별로 구축하고 있다”며 “자율 시장에서 산업군별 가이드라인을 통해 인증 체계를 확대해 나갈 계획이다”라고 설명했다.

생성형 AI 사용에서 현재 발생하고 있는 문제점은 잘못된 정보를 보여주는 환각(Hallucination) 문제, 보안 문제, 데이터의 신뢰성 문제, 개인정보 유츨, 저작권 문제 등이 있다. 하지만 아직 제대로 된 규범이 만들어지지 않은 상황이다. 이에 영국과 미국이 적극적으로 AI에 대한 규범의 필요성을 인식하고 논의에 나섰고, 정부도 이러한 규범 마련의 필요성을 인식하고 있다.

과기정토부, 한국정보통신기술협회(TTA)가 주도해 AI 업체·전문가들과 AI 품질 관리 가이드라인과 품질 관리 안내서를 발행했고, 산업군별 가이드라인 구축을 확대하고 있다. 가이드라인은 산업군별 AI 개발 단계에서 체크해야 할 리스트를 기업들이 보면서 스스로 신뢰성을 확보해 나가는 식으로 민간 자율의 AI 윤리 확보를 지원한다.

엄열 정책관은 국제적 차원의 AI 규제 논의에 대한 필요성도 강조했다. 엄열 정책관은 “지난 1일 영국에서 28개국과 빅테크 기업들이 참석한 AI 안전 정상회의가 열렸다”며 “6개월 후 우리나라에서 2차 회의를 할 때 AI에 대한 국제적 규범 논의에 리더십을 가지고 논의해 나갈 수 있게 하겠다”고 밝혔다.

내년 5월 개최 예정인 ‘제2차 AI 안전 정상회의’는 한국에서 개최될 예정이다. 엄 정책관은 “우리나라 주도 아래 AI 규범 논의를 성공적으로 끌어 나갈 것”이라며 초거대 AI 경쟁력 강화에서 신뢰성 확보를 위한 정부의 정책적 의지를 강조했다. 1차 AI 안전 정상회의에서는 미국·중국·한국 등 28개국과 EU는 AI 안전에 관련 첫 국제 협약인 ‘블레츨리 선언’을 발표했다. 이 선언문에는 인간 중심의 신뢰·안전에 기반한 AI 개발 및 사용 등 AI 오용·조작 등 심각한 피해를 초래할 수 있는 문제에 대해 국제사회가 협력해 해결해 나가겠다는 결의의 내용이 담겼다.

이번 컨퍼런스가 진행된 ‘TAS 2023’은 AI 전시회와 컨퍼런스, 시상식 등이 함께 열리는 AI 축제로 16일부터 양일간 DDP 아트홀 2관과 컨퍼런스홀에서 열렸다. ‘인간을 더 인간답게 만드는 AI’라는 주제로 열린 이번 ‘TAS 2023’은 국내외 기술성과 신뢰성이 높게 평가된 대표 AI 기업이 참가해 시민이 안전하게 체감할 수 있는 AI 기술을 선보였다. 이 행사는 조선미디어그룹이 설립한 인공지능 전문매체 ‘더에이아이(THE AI)’와 스마트미디어그룹 ‘첨단’이 공동 주최하고, 디지틀조선일보, 국제인공지능&윤리협회(IAAE)가 후원했다.