교육계와 업계가 본 AI 교과서 문제… ‘THE AI SCHOOL’ 토론회 성료

엘리스·아이헤이트플라잉버그스·서울교대·이화여대 참여
AI 교과서, 짧은 개발 기간·오류·검증 부족 지적
품질 검증·높은 보안·데이터 관리에 교과서 지위 필요

인공지능(AI) 디지털교과서(이하 AI 교과서)가 교과서 지위에 대한 논란이 겪고 있는 가운데, 교육 전문가와 발행사가 모여 그 문제에 대해 심도 있게 논의했다. 

21일 인공지능 전문매체 더에이아이(THE AI)가 주최한 ‘THE AI SCHOOL 토론회'에서는  'AI 디지털교과서 무엇이 문제인가’를 주제로 웨비나가 열렸다.이날 열린 웨비나에서 김봉제 서울교대 교수 겸 AI 가치판단디자인센터장이 좌장을 맡아 이재환 이화여대 교수 겸 2024년 교과용 도서 검정위원, 김재원 엘리스그룹 대표, 최영우 아이헤이트플라잉버그스 공교육부문장이 참여했다. 엘리스그룹은 AI 교과서 정보 교과를 발행사와 함께 공동 개발해 이번 검정에 합격했다. 아이헤이트플라잉버그스도 영어와 수학 과목에서 두 발행사와 함께 AI 교과서를 개발해 이번 검정에 합격했다.

이번 토론은 AI 교과서 지위, 안정성 등 문제에 초점이 맞춰졌다. 대체로 교수들은 도입을 반대하는 것이 아니라 선택적 도입으로 기술·안정성 등 철저한 검증을 해야 한다고 주장했다. 개발사들은 AI 교과서 기준 높은 수준의 내용·기술 검증을 통과했다고 설명하면서 교과서 지위를 유지해야 검증 과정을 통해 신뢰성을 확보할 수 있고, 데이터 관리와 높은 보안 수준을 유지할 수 있다고 강조했다.

◇ “오류 많은 데 수정 기간 짧아”

이재환 교수는 기존 서책 교과서에 비해 AI 교과서 개발·검정 기간이 짧다는 점을 지적을 지적했다. 그는 “기존 서책 교과서는 검정에만 1년이 소요된다”며 “AI 교과서의 경우 2023년 2월에 도입을 선언하고 가이드라인을 만드는 데만 6개월이 걸렸고, 검증 기간은 3개월밖에 되지 않는다”고 말했다. 이어 “검증 기관 자료에 따르면 1차 검정 AI 교과서에는 내용과 기술 부분에서 1만 4천 건 수정 사항이 발견됐고, 이를 기업들이 10일 만에 개선했다”며 “짧은 기간 얼마나 오류를 개선했을지 의문”이라고 했다.

김봉제 교수도 이에 동의했다. “AI 교과서를 교과서로 의무 도입하는 것이 아니라 선택하게 해서 교사들에게 검증을 받으면 된다”며 “현장에서 사용해 보면서 선생님들이 자체 검증을 통해 선택할 것”이라고 말했다. 이재환 교수도 의견을 덧붙였다. “AI 교과서 지위가 교과서로 시작했기 때문에 격화할지 문제들이 발생했다”며 “제대로 현장에서 사용해 보고 충분한 합의를 거쳐 도입 결정을 내린 후 교과서 지위를 부여했어야 했다”고 말했다.

이에 개발사들은 개발·오류 개선 기간이 짧은 것에 아쉬워하면서 교과서 지위가 아니라면 강화된 보안과 데이터 보호에 대한 기준을 지킬 의무가 없다고 강조했다. 김재원 대표는 “데이터를 안전하게 보호하고, 사교육으로 넘어가지 않도록 별도 클라우드를 설정해 공공용 서비스를 제공하고 있다”며 “공공 부문에서는 더욱 강화된 보안과 데이터 보호가 필요하다”고 설명했다. 이어 “짧은 개발 기간을 준수하기 위해 많은 개발자와 AI 연구를 병행했다”며 “민간 기업의 관점에서 기능을 개발했지만, 교육부의 공공적인 방침과 검증 과정이 추가됐고, 특히 장애 학습 학생과 장애 교원의 지원을 고려한 기능 개발을 추가했다”고 설명했다.

최영우 부문장도 이에 동의했다. 최 부문장은 “AI 교과서는 높은 클라우드보안 인증(CSAP 중등급 이상)을 요구하고 있다”며 “이 기준을 통해 학생과 국가의 데이터가 안전하게 보장할 수 있다”고 설명했다. 이어 “디지털 기술 특히 AI가 교육에 접목되는 것은 이미 불가피한 흐름”이라며 “AI 교과서가 교과서의 지위를 가질 때, 보안과 보편적 학습권이 보장될 수 있다”고 강조했다.

◇ “교육자료 되면 품질·보안·학생 데이터 문제 돼”

챗봇 오류도 언급됐다. 이재환 교수는 “AI가 영어 발음을 잘 못 알아듣거나 잘못된 대답을 하는 경우가 있다”며 “선생님이 AI 교과서에 대한 오류 여부를 판단해야 해 오히려 AI 교과서를 보조하는 것이 아닌가 생각이 든다”며 우려했다. 김봉제 교수도 이에 동의하며 “AI에 대한 기술적인 오류를 허용하면서 교육에 적용시킬 수 없다”고 강조했다.

이에 개발사 측은 오류 우려를 일부 공감하면서도 검증 문제 때문에 오히려 AI 교과서가 교과서 지위로 두어야 한다고 강조했다. 김재원 대표는 “교과서가 아닌 교육자료가 되면 기업들은 검증을 거칠 의무가 없다”며 “이는 더욱 교육 현장에서 검증되지 않은 서비스를 학생들에게 제공하는 위험을 초래할 수 있다”고 설명했다. 이어 “학교에 도입돼야 한다면 더욱 검증을 해야되기 때문에 이 검증이라는 프로세스를 교과서라는 지위에 태워야 한다”고 강조했다.

최영우 부문장은 AI 교과서 챗봇은 챗GPT와 다르다고 설명했다. 그는 “일반적인 LLM은 정보의 바다에서 자유롭게 데이터를 끌어오는 방식이지만, AI 교과서는 교육과정에 맞는 성취기준을 충족하는 데이터를 제공해야 해 정보를 엄격히 제한한다”면서 “선행 학습 방지를 위해 AI가 제공하는 답변은 학생들이 아직 배우지 않은 내용에 대해서 답하지 않도록 설정돼 있다”고 설명했다. 이어 김재원 대표와 최영우 부문장은 “오류 수정 기간이 더 길었으면 좋았겠지만, AI 교과서는 철저한 기술적 검증을 통과하기 위해 최선을 다했다”며 “앞으로 개선 작업을 계속할 것”이라고 덧붙였다.

◇ 개발사, 믿을 수 없는 정책 등 어려움 호소

개발사들은 토론 중 현재 겪는 어려움을 밝혔다. 최 부문장은 “국가 정책에 맞춰 기업들은 사업을 진행하는 데 정책을 믿을 수 없다면 앞으로 이 나라에서 어떻게 사업을 해야 하나 어려움이 많다”며 “어떤 것이 더 좋은 교육인지 고민과 선의를 통해 개발하고 있고, 넓은 마음으로 한번 사용해 보고 호된 질책을 주면 좋겠다”고 토로했다.

실시간 채팅을 통해 청중들의 질문도 쏟아졌다. AI 교과서 기획 방향이 학생 및 이해관계자들에게 충분히 공유되고 요구사항이 검토되었는지에 대한 질문에 최영우 부문장은 이에 동의하며 “교육부에서 진행하는 터치 교사단부터 선도교사 등 교사 연수에 적극 참여해 최대한 많은 교사 피드백을 받아보려고 노력했다”고 답했다.

김재원 대표는 “데이터 범위와 저장을 어떤 식으로 할지를 정하는 문제는 민감하기 때문에 계속 논의해야 하는 문제라고 생각한다”며 “매년 개발사들은 보안과 데이터에 대해 감사를 받는다”고 말했다. 이어 “여기서 현실적으로 많은 비용이 들어 기업 입장에서 어려움이 있다”고 덧붙였다.

THE AI 주최로 열린 이번 웨비나는 스마트미디어그룹 첨단의 두비즈(duBiZ) 홈페이지를 통해 생중계됐다. 추후 THE AI TV 유튜브에서 다시보기가 제공될 예정이다.