인공지능(AI) 기술이 급성장하면서 이에 따른 안전망 확보 마련에도 속도가 붙고 있다. 기술 악용 문제와 디지털 격차 심화 등이 사회적 문제로 제기되고 있고, 저작권 문제 등 아직 해결되지 않은 부분이 많은 만큼, AI 사용에 있어 올바른 문화를 정립해야 한다는 목소리가 커지고 있다. 실제로 미국과 유럽 등의 국가에서는 AI 윤리 제도 마련이나 규제를 위한 논의를 진행하고 있고, 국내에서도 마찬가지로 관련 논의가 이어지고 있다.

19일 국회에서는 그 연장선으로 챗GPT와 같은 생성형 AI의 윤리적 이슈와 해결방안을 논의하는 자리가 마련됐다. 송석준 국민의힘 의원은 사단법인 국제인공지능&윤리협회, 인공지능 전문매체 더에이아이(THE AI)와 공동으로 ‘챗GPT와 생성형AI의 인류적 이슈와 해결방안’ 세미나를 국회의사당의원회관에서 개최했다. 이 자리에는 △엄열 과학기술정보통신부 인공지능기반정책과 국장 △김명주 과기정통부 제2기 인공지능 윤리정책포럼 위원장(서울여대 교수) △이지항 상명대 소프트웨어중심대학사업단 AI인증센터장 △양진영 법무법인 민후 변호사 △황승택 카카오 인권과기술윤리팀 부장 △김동환 포티투마루 대표 △신승인 서울시교육청 장학관 등이 참석해 안전한 AI 사용에 관한 정계, 업계, 교육계, 법조계 등의 노력을 공유하고 해결점을 모색했다.

이날 주로 논의된 부분은 저작권 침해 이슈와 기술 악용, 교육계 역할, 기업 책임 등이었다. 첫 발표를 진행한 양진영 변호사는 지금까지 있었던 생성형 AI의 저작권 침해 문제들을 소개하고 이를 위한 해결방안을 마련해야 한다고 촉구했다. 그는 “생성형 AI로 만들어진 결과물의 권리 인정 여부에 관한 논의와 학설은 많지만, 아직 명확한 판례가 존재하지 않는다”면서 “이에 대한 사회적 합의점을 마련하고 서비스 공급사는 사용자 주의사항에 대해 사전 안내하고 저작권 침해여부를 판단하는 필터 서비스 등을 제공해야 한다”고 말했다. 또 “생성형 AI 프로그램에 학습데이터를 명시해 저작권 이슈를 줄이고, 정확한 보상모델을 만드는 등의 노력을 기울여야 한다”고 조언했다.

기술 악용 문제를 발표한 이지항 상명대 센터장은 AI가 악용된 사례들을 소개하고, 이를 방지하고 대응할 수 있는 체계를 만들어야 한다고 주장했다. 그는 “딥러닝 발전에 따라 AI 기술은 유용한 도구로 진화하고 있지만 사용자 목적에 영향을 받아 악용되거나 데이터, 모델, 리소스의 한계로 오용·남용되는 경우가 자주 목격된다”고 지적했다. 이어 “기술적 접근을 통해 AI가 악용, 오용, 남용되는 것을 예방·방지하고 정책적 접근을 통해 대응해야 한다”고 말했다.

김명주 서울여대 교수는 올바른 AI 사용을 위해선 리터러시 교육 등 올바른 교육 방향이 정립돼야 한다고 밝혔다. 그는 “챗GPT나 바드 등 생성형 AI 열풍은 일시적인 현상이 아니다”라며 “미래 인재는 디지털, AI 등 새로운 역량이 필요해졌다”고 말했다. 이어 “AI 역량 강화 교육은 이제 필수적인 시대가 됐다”며 “생성형 AI를 교육 현장에 사용하는 것도 마냥 금지할 것이 아니라 적정히 사용하는 교육이 더 바람직하다”고 주장했다.

황승택 카카오 부장은 AI 윤리에 관한 기업의 책임과 이를 위해 진행하고 있는 활동 등을 공유했다. AI 윤리를 위해 전담 조직인 ‘인권과 기술윤리팀’을 발족해 알고리즘 윤리 확립, 디지털 포용 및 접근성 제고, 이용자 보호 등 기술윤리 관련 정책 강화 등을 진행하고 있다고 밝혔다. 그는 “AI 윤리와 접근성, 기술의 투명성 등에 대해 기업 차원에서 많은 노력을 하고 있다”며 “아직 모든 사항을 밝힐 수 없지만, AI 윤리에 대해 진지하게 고민하고 있고 연구하고 있다”고 말했다.

이어진 토론에서는 엄열 과기정통부 국장과 김동환 포티투마루 대표, 신승인 서울시교육청 장학관 등이 추가로 참석해 참석자와 소통하는 시간을 가졌다. 엄열 국장은 “AI 윤리 실현은 단 기간에 이뤄지기 어려운 문제”라며 “현실과 동떨어진 정책이 나올 수 있어 산업 현장에 100% 적용이 어렵기 때문”이라고 말했다. 이어 “이 때문에 정부는 AI 윤리 정책에 몇 년간 노력을 쏟았다”며 “민간 개발사가 AI 제품 개발부터 배포 과정에서 실질적으로 지킬 수 있는 조항을 만들었다”고 했다. 또 “현재 2기가 발족한 AI 윤리정책포럼에서는 AI를 개발하는 데 실질적으로 적용할 만한 개발 안내서를 만들고 있다”면서 “AI 윤리 정책이 탁상행정에 그치는 게 아닌 실제 현장에 흡수되도록 정부 부처와 협력해 노력하겠다”고 강조했다.

김동환 포티투마루 대표는 “일부 AI 개발사들은 정부가 만든 안내서를 참고해 기술 개발부터 배포까지 진행하고 있다”면서 “정부가 마련한 지침서는 AI 제품에 발생할 수 있는 편향 등 윤리적 이슈를 줄이도록 돕는다”고 설명했다. 단 그는 AI 기술 속도가 빠른 만큼 윤리 지침도 빠르게 개선해야 한다고 조언했다. “생성형 AI가 전 세계적으로 빠른 속도로 발전하는 만큼 이에 맞춰 윤리 지침을 지속 개선할 수 있도록 노력해야 한다”고 말했다.

신승인 장학관은 교육 현장에서 AI에 대한 긍정적인 활동이 이뤄지고 있다고 소개했다. 그는 “일부 언론보도에선 학생들이 챗GPT를 오용하는 경우가 소개되고 있는데, 실제 교육 현장에서 그런 경우는 극히 적다”면서 “AI 오용에 대해 아직 너무 큰 걱정은 하지 않아도 된다”고 안심시켰다. 이어 “최근 AI 이슈에 따라 교사들도 팀을 만들어 AI를 배우는 시간을 갖고 있다”며 “이러한 움직임이 AI 교육 발전에 좋은 영향을 줄 것으로 생각된다”고 말했다.