“유해 답변 차단 안전·보안 강화해”
-
학교 안 데이터만 학습한 안전한 교육용 챗봇이 등장했다.
마이크로소프트(MS)는 7일 싱가포르에서 열린 ‘에듀테크 아시아(EduTech Asia)’에서 교육용 챗봇 ‘에듀챗(EdChat)’ 데모 버전을 공개하며 인공지능(AI) 활용한 안전한 교육 혁신 방안을 발표했다. 래리 넬슨(Larry Nelson) MS 아시아 총괄 매니저는 이날 기조 연설에서 “학교 시스템 내 데이터만을 학습해 안전성을 높이고자 했다”고 밝혔다.
MS는 에듀챗봇에 애저 AI(Azure AI) 콘텐츠 안전성 기술을 적용, 유해 콘텐츠가 전달되지 않도록 필터링 기능을 강화했다. 그는 “한 학생이 시스템에서 부적절한 행동을 요청했을 때 시스템이 이를 인식하고 ‘죄송합니다, 해당 요청은 수행할 수 없습니다’라고 응답하게 했다”며 “학교 밖 데이터뿐만 아니라 외부 AI 모델도 활용할 수 없도록 했다”고 했다.
이 챗봇은 현재 베타 버전으로 전 세계 곳곳에서 테스트가 되고 있다. 이날 그는 에듀챗을 시연하며 “챗봇은 학생들의 안전한 학습 환경을 보장하는 동시에, AI 기술의 교육적 잠재력을 최대한 활용할 수 있도록 설계했다”며 “외부 데이터를 활용하지 않아 개인정보 보호와 데이터 보안 측면에서 안전성을 강화했다”고 설명했다.
MS는 남호주 교육부와 협력해 에듀챗을 시범 운영 중이며, 이번 테스트를 통해 챗봇의 실질적인 교육 효과와 안정성을 확인하고 있다. 또한, 각 학교에 맞는 설정을 제공해 교사와 학생들이 필요에 맞게 에듀챗을 활용할 수 있는 맞춤형 옵션을 추가로 제공할 예정이다.
AI 기반 교육용 솔루션도 소개했다. 그는 “Power BI와 같은 도구를 통해 직원 유지율이나 인구 통계 정보를 몇 초 만에 분석하고, 이를 기반으로 즉각적인 통찰을 얻을 수 있다”며 “학교 운영에도 이 같은 솔루션을 적용해 교육계의 교사 유지 문제에도 같은 개념에도 활용될 수 있다”고 말했다.
MS는 학습 가속화 도구를 무료로 제공하고 있다는 점도 언급했다. 그는 “‘Reading Coach, Math Progress’, ‘Microsoft Reflect’ 등 읽기 능력 분석, 수학 문제 생성, 사회적 정서적 학습 지원 도구를 지원하고 있다”며 “교육 현장에서 효과적인 학습 지원할 수 있도록 MS 홈페이지에서 교육 리더를 위한 AI 툴킷을 제공하고 있다”고 덧붙였다.
- 싱가포르= 구아현 기자 ainews@chosun.com