중국에서 생성형 인공지능(AI) 챗봇의 열풍이 부는 가운데 당국이 “생성형 AI가 만들어내는 콘텐츠는 핵심 사회주의 가치를 반영해야 하며 국가 통합을 저해해서는 안 된다”는 입장을 밝혔다.

로이터통신에 따르면 중국 국가인터넷정보판공실은 11일 ‘생성형 AI 서비스 관리 방안 초안’을 발표했다.

판공실은 “(해당 서비스) 공급업자들은 생성형 AI의 훈련에 사용되는 데이터의 합법성에 책임을 질 것이며 알고리즘 설계와 데이터 훈련 시 차별을 방지하고 허위 정보의 생성을 방지하는 조치를 취해야 한다”고 강조했다.

모든 회사는 관련 제품을 출시하기 전에 보안 평가를 당국에 제출해야 하며, 이용자에게는 실명과 관련 정보를 제출하도록 요구해야 한다고 전했다. 판공실은 다음 달 10일까지 해당 초안에 대한 의견을 수렴할 것이라고 알렸다.

현재 중국 정보기술(IT) 업계도 AI 챗봇 개벌에 열중하고 있다. 지난달 중국 최대 검색 엔진 바이두는 AI 챗봇 ‘어니봇’을 AI 스타트업 센스타임은 ‘센스챗’을 발표했다. 이 외에도 다른 기업에서도 개발 열풍에 가세했다. 

중국 당국은 “해당 규정을 준수하지 않을 경우 서비스 공급업자들은 벌금 부과, 서비스 정지, 형사 조사에 직면할 수 있다”고 경고했다.