정부가 인공지능(AI) 안전 구축에 나섰다. 과학기술정보통신부는 11일 오후 서울 중구에 위치한 AI 스타트업 ‘제네시스랩’에서 ‘AI 윤리·신뢰성 강화를 위한 현장간담회’를 열고 AI 공급사및 기관, 대학과 구체적 실행 방안 마련을 위한 토론을 진행했다. AI 윤리기준을 마련하고 이를 실천할 방안을 만들어 실질적인 AI 산업 진흥을 이루기 위해서다.

이날 간담회에는 박윤규 과기정통부 2차관, 문정욱 정보통신정책연구원(KISDI) 센터장, 이강해 한국정보통신기술협회(TTA) 단장, 송대섭 네이버 이사, 김유철 LG AI연구원 부문장, 최동원 과기정통부 인공지능기반정책과장 등 AI 전문가들이 참석해 AI 신뢰성과 윤리에 관한 발표와 토론을 진행했다.

최동원 과기정통부 과장은 그동안 정부가 AI 윤리와 신뢰성 확보를 위해 노력한 결과를 소개했다. AI 윤리기준 제정부터 실천 방안(자율점검표·개발안내서) 마련, 윤리정책포럼 운영 등 민간 자율적 윤리체계 확립을 위한 정책 추진상황과 향후 계획을 발표했다. 최 과장은 “한국 주도로 2019년 5월 OECD AI 권고안을 마련해 그해 6월 G20 정상 선언문에 관련 내용을 반영했다”며 “AI 개발·활용 과정에서 인간의 기본권, 윤리 등에 미치는 영향을 평가해 AI의 위험성을 식별하고 대응 방안을 검토할 계획”이라고 말했다. 이어 “설명 가능성, 공정성 등 신뢰할 수 있는 AI의 기술적 기반을 마련하기 위해 정부는 2026년까지 설명가능한 AI 4개 과제와 공정한 AI 2개 과제 등에 650억 원을 투자할 것”이라고 밝혔다. 

문정욱 정보통신정책연구원(KISDI) 센터장은 AI 윤리기준의 준수 여부를 기획자·운영자 스스로 점검할 수 있도록 과기정통부와 함께 개발한 ‘자율점검표’의 내용을 소개했다. 문 센터장은 “인공지능 자율점검표는 AI 개발자를 위한 신뢰성 개발안내서”라며 “챗봇과 관련해선 스캐터랩과 작문과 관련해선 뤼튼테크놀로지스와 자율점검표를 개발했다”고 밝혔다. 이어 “올해는 제네시스랩과 함께 채용 분야 자율점검표를 만들 계획”이라고 했다.

이강해 한국정보통신기술협회(TTA) 단장은 개발자가 참고할 수 있는 기술적 요구사항을 담은 ‘개발안내서’의 내용을 발표했다. 이 단장은 “미국은 공공사회, 의료, 자율주행 분야별 개발안내서를 정립해 다양하게 활용하고 있다”며 “AI 개발·운영 기업이 업무 환경과 개발 목적에 따라 신뢰할 수 있는 AI 개발안내서를 마련했다”고 말했다. 이어 “분야별 특화된 개발안내서 등을 추가로 만들어 나갈 계획”이라고 했다.

기업에서도 자체적으로 준수하고 있는 AI 윤리에 관해 소개했다. 송대섭 네이버 이사는 서울대 AI 정책 이니셔티브(SAPI)와 함께 만든 ‘네이버 AI 윤리준칙’을, 김유철 LG AI연구원 부문장은 ‘LG AI 윤리원칙’을 기반으로 자체적으로 진행하고 있는 노력과 향후 계획 등을 발표했다. 송 네이버 이사는 “네이버는 AI 윤리 준칙 관점에서 네이버 AI 서비스에 담긴 인간 중심의 가치를 재조명하고, AI에 대한 우려사항을 살펴보며 개선할 수 있는 프로세스인 ‘체크(CHEC)’를 만들었다”며 “해당 프로세스를 통해 개별 AI 서비스 부서에 제기될 수 있는 이슈를 최소화하고, 현실적인 자문 의견 전달을 통해 윤리 준칙을 실천하고 있다”고 했다. 김 LG AI연구원 부문장은 “LG는 인간존중, 공정성, 안전성, 책임성, 투명성을 원칙으로 신뢰할 수 있는 AI를 만들기 위한 거버넌스 구축과 기술 및 정책 연구를 진행하고 있다”며 “다양한 사용 사례를 기반으로 점검 항목을 표준화해 자동화 시스템을 구축하고 있다”고 밝혔다.

끝으로 이영복 제네시스랩 대표는 분야에서 활용되는 AI의 신뢰성 확보를 위한 개발안내서를 적용한 현황을 공유했다. 이 대표는 “제네시스랩의 뷰인터HR은 TTA가 제작한 ‘신뢰할 수 있는 인공지능 개발 안내서’에 명시된 신뢰성 요구사항과 검증항목이 충족하는 여부를 평가해 통과했다”고 밝혔다. 이어 “채용 공정성을 해결할 수 있는 AI 개발 가이드라인과 검증은 소비자뿐 아니라 공급사에게도 절실한 상황”이라며 “이러한 인증을 받은 기업을 정부가 지원해준다면 AI 신뢰성 구축에 관한 동기부여가 일어나 바람직한 AI 생태계가 만들어질 것”이라고 했다.

박윤규 과기정통부 2차관은 “챗GPT 등장 이후 초거대·생성 AI가 산업과 일상 속으로 빠르게 확산하는 상황에서 AI 윤리·신뢰성 쟁점이 새로운 국면에 접어들고 있다”며 “기술의 개발부터 활용의 전 단계에서 AI 윤리·신뢰성을 확보하는 것이 기업의 생존과 직결된 만큼 간담회에서 논의한 사항을 바탕으로 AI 윤리·신뢰성 확보와 관련해 더 많은 노력을 기울일 것”이라고 했다.