[칼럼] AI 기본법, 한국형 딥시크 키울까

지난 1월 20일 출시된 중국 인공지능(AI) 모델 딥시크가 시장을 흔들고 있다. 무료 앱스토어에서 챗GPT를 제치고 1위를 차지했고 나스닥은 3% 이상 급락했다. 딥시크는 오픈AI가 개발한 챗GPT보다 훨씬 적은 비용으로 그에 필적하는 모델을 개발했다는 평가를 있다. AI를 둘러싼 미래 패권 경쟁이 한층 치열해지고 있는 지금 우리나라는 지난해 말 국회 본회의를 통과한 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법, 일명 ‘AI 기본법’이 내년 1월 시행을 기다리고 있다. AI 법은 오랜 논의 끝에 제정된 것으로, 전 세계적으로는 EU에 이어 두 번째로 마련된 AI에 관한 포괄적 기본법이다. AI 기본법이 우리나라 AI 발전을 위한 초석이 될 수 있을까

AI 기본법의 주요 체계 및 내용을 살펴보면, AI에 대한 여러 우려에도 불구하고, 규제보다는 진흥에 무게가 실려있다. 현재 우리나라의 AI 기술은 높은 수준이지만, 선도적 위치로 나아가기 위한 정책적 의지가 담긴 것으로 볼 수 있다. 법안 심의과정에서 논의되었던 ‘AI학습데이터 목록 공개’, ‘생성형 AI에 있어서 학습데이터 투명성 강화 및 저작권자 열람권 보장’ 등과 같이 인공지능사업자에게 부담이 될 수 있는 내용은 반영되지 않았다.

AI 기본법은 국외에서 이루어지는 행위라도 국내 시장 또는 이용자에게 영향을 미치는 경우 적용된다. 다만 국방, 국가 안보 목적으로만 개발‧이용되는 일부 AI에 대해는 적용되지 아니할 수 있다. 국외에서 이루어지는 행위에도 적용된다는 점은 EU AI법도 유사하다.

‘인공지능사업자’는 AI기본법의 적용대상이다. 인공지능사업자란, AI를 개발해 제공하는 인공지능개발사업자와 인공지능개발사업사업자가 제공한 AI를 이용해 AI 제품 또는 서비스를 제공하는 자를 말한다. AI 모델을 직접 개발한 사업자뿐만 아니라 그 모델을 활용해 AI가 포함된 제품 또는 서비스를 제공하는 자도 인공지능사업자가 된다.

AI 기본법은 AI의 종류에 대해 ‘고영향 인공지능’과 ‘생성형 인공지능’만을 제시하고 있다. EU AI법(EU Act)이 AI 시스템을 위험도에 따라 ‘허용될 수 없는 인공지능’, ‘고위험 인공지능’, ‘제한적 위험의 인공지능’, ‘저위험 인공지능’으로 나누어 규율하고 있는 점과는 차이가 있다. 굳이 금지되는 AI를 규정하지 않았다는 점에서 향후 변화무쌍한 AI에 대한 여러 가능성을 열어두었다고 볼 수도 있다.

하지만 고영향 인공지능에서는 여러 의무를 부과하고 있다. 고영향 인공지능이란 사람의 생명, 신체의 안전, 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템으로, 에너지, 식수, 보건의료, 의료기기, 원자력, 범죄 수사 및 체포, 채용, 대출심사, 교통안전, 공공서비스 이용 자격 확인이나 비용 징수(복지, 조세, 공과금), 유아‧초등‧중등교육에서의 학생 평가 등을 포함한다.

고영향 인공지능사업자의 경우 위험관리방안 수립‧운영, 학습용데이터 개요 및 결과 도출에 활용된 기준에 대한 설명방안 수립‧시행, 이용자보호방안의 수립‧운영, 고영향 인공지능에 대한 사람의 관리‧감독, 안정성 및 신뢰성 확보 조치를 확인할 수 있는 문서의 작성‧보관 등 의무가 있으며, 사전에 기본권영향평가를 받도록 노력해야 한다. 기본권 영향평가의 경우 ‘노력할 의무’이므로 불이행 시 제재가 있는 것은 아니나, 국가기관은 인공지능 영향평가을 받은 제품 또는 서비스를 우선 이용하게 돼 있다.

‘생성형 AI’는 챗GPT와 같이 글, 소리, 그림, 영상 등 결과물을 생성하는 AI를 말한다. ‘생성형 인공지능 사업자’를 비롯한, 모든 ‘인공지능사업자’는 AI 시스템에 대한 투명성 및 안전성 확보의무가 부여된다. 투명성 확보의무를 이행하기 위해서는 해당 제품‧서비스가 AI에 해당한다는 사실을 이용자에게 사전 고지해야 하고, 생성형 인공지능의 결과물이라는 사실을 표시해야 한다. 딥페이크의 경우 가상의 결과물이라는 사실을 고지하거나 표시해야 한다. 또 안전성 확보를 위해 AI 수명주기 전반에 걸친 위험의 식별‧평가‧완화, 안전사고 모니터링 및 대응을 위한 위험관리체계 구축을 이행해야 한다. 더불어 자신이 제공하는 AI 제품 또는 서비스가 고영향 인공지능에 해당하는지 여부를 사전 검토해야 하고 과학기술정보통신부 장관에게 요청해 고영향 인공지능 해당 여부를 확인받을 수 있다.

인공지능사업자가 그 의무를 이행하지 아니한 경우, 위반에 대한 신고나 민원이 접수된 경우 과기정통부 장관은 인공지능사업자에게 관련 자료를 제출하게 하거나, 행정조사를 실시할 수 있고, 필요시 위반행위의 중지‧시정명령을 내릴 수 있다. 인공지능 고지 의무 위반, 해외사업자의 국내대리인 미지정, 과기부 장관의 중지‧시정명령 미이행에 대해 3천만 원 이하의 과태료가 부과될 수 있다. 그 외에 벌칙이나 과징금 부과 규정이 없다는 점에서 제제 규정의 영향력은 미약할 것으로 보인다.

반면 AI 기술 발전 지원 및 산업 진흥을 위해서 여러 방안이 마련됐다. 과기정통부 장관은 3년마다 AI 기술 및 산업 진흥, 국가경쟁력 강화를 위해 AI 기본계획을 수립‧시행하도록 했다. 관련 재원이 지속적이고 안정적으로 확충할 수 있는 방안을 마련하도록 했다. R&D, 기술 표준화, 학습데이터 관련 시책 수립, 인공지능 기술 도입‧활용 지원, 중소기업 특별지원, 창업 활성화, 전문인력 확보, 국제협력 및 해외시장 지원, 인공지능집적단지 지정, 데이터센터 시책 수립을 위한 규정들도 있다.





고인선 변호사는 법무법인(유한) 원의 인공지능대응팀 변호사이다. 사법연수원 37기로 지식재산권, AI법, 테크법, 기업법, 조세법 분야에서 활발한 활동을 펼치고 있다. 검사 및 서울특별시 송무팀장과 계약법률심사팀장을 역임했다. 특허청, 한국발명진흥회, 조달청, 한국디자인진흥원 등 여러 기관의 법률고문이며, 다수 기업의 개인정보, 저작권, 상표권, 디자인권, 식물신품종보호권, 테이터 관련 분쟁을 자문했다. 한국콘텐츠진흥원 AI페스티벌 AI저작권 강사, 공공행정서비스를 위한 AI법 강사로도 활동했다.