연세대에 초거대 인공지능(AI) 조교가 들어왔다. 교수와 학생들의 대학 생활과 수업을 돕는 조교다. 과제 안내와 제출뿐 아니라 학생들이 수업에서 궁금한 내용도 알려준다. 교수와 학생이 사용할수록 개인에 맞춤화 돼 일대일 조교로도 활용할 수 있다.

“민주주의가 뭐예요 AI 조교님?” 

6일 방문한 연세대 인공지능융합대학에서는 인공지능학과 학생들이 직접 참여해 만든 AI 조교가 시연됐다. 이 AI 조교의 명칭은 ‘야타(YATA, Yonsei generative-AI Teaching Assistant)’다.

이날 “민주주의가 뭐야”라는 물음에 야타 AI 조교는 학생마다 다른 대답을 내놨다. 민주주의에 대한 이해 낮은 컴퓨터과 전공 학생에게는 “민주주의는 마치 프로그램이 사용자의 입력을 받아 작동하는 것과 비슷하다”며 “국민들이 선거를 통해 자신의 의견을 나타내고, 그 의견이 국가의 결정에 반영되는 것이죠”이라고 ‘국가’를 큰 시스템에 비유해 쉽게 설명했다.

사회과학 전공자에게 똑같은 질문을 하자 AI 조교 야타는 “민주주의는 다수결의 원칙을 넘어 소수 권리 보호와 법 지배를 포함한 복잡한 원칙들이 자유민주주의적인 제도를 통해 안정된 자본주의와 경제 성장을 이루는 데 기여하며 G7 국가들이 이러한 제도를 운영하고 있다”며 민주주의 형태를 직접·간접 민주주의로 나누어 설명했다.

답변 생성과 동시에 답변 내용을 뒷받침하는 강연 내용도 볼 수 있게 했다. AI 야타는 학교 강의를 기반으로 학습해 교수의 철학이 답변에 녹아있다. 김민진 연세대 인공지능학과 석사과정생은 “야타 AI 조교는 학생들이 들었던 수업, 학점 등 학생 정보를 학습해 개인화 답변이 가능하다”며 “교수 강의 내용을 바탕으로 답변을 해 교수의 철학까지 답변에 녹아 있다고 볼 수 있다”고 설명했다. 이어 “답변이 만족스러운지 피드백도 수집해 학생들이 사용할수록 답변이 더 개인화되고 정교해진다”고 설명했다.

연세대는 AI를 활용해 글로벌 수준의 교육환경을 마련하겠다는 전략을 갖고 있다. 이를 위해 AI 조교, AI 학생과 같은 거대 모델을 활용한 교내 모델을 개발하고 있다. AI 조교는 글로벌 대학에 맞서 국내 대학이 갖는 한계를 AI로 극복하기 위해 개발됐다. 현실적으로 수십 명 조교를 둘 수 없는 제약을 AI로 해결하고 미래 AI 교육도 실현하겠다는 포부다.

◇ AI 조교 만드는 연세대 데이터언어지능연구소

“스탠퍼드 대학은 조교가 20명이 넘습니다. 국내 대학에서는 이러한 조교 규모를 갖기 쉽지 않습니다. 질의응답이나 과제에 대한 교수의 부담을 덜어주면서 학생들의 질문과 요구사항도 들어줄 수 있는 AI 조교를 개발해 이러한 문제를 극복하려고 합니다”

여진영 연세대 인공지능융합대학 교수는 이동하 교수와 함께 데이터언어지능연구소를 이끄는 교수로 이 프로젝트에 대해 이같이 설명했다.

연세대 AI 조교 야타는 AI 조교를 도입한 외국의 타 대학과도 차별화된다. 하버드대에서는 프로그래밍을 도와주는 AI 조교를 개발했고, 애리조나주립대에서는 수학 관련 조교가 있다. 연세대는 모든 과목에 적용할 수 있는 AI 조교 개발을 목표로 하고 있다. 모든 학과에 AI 조교를 도입해 미래 교육을 선도하겠다는 구상이다.

이같은 연세대 AI 조교 시스템은 신임 교수 2명과 학생들 손에서 구현됐다. 우선 이들은 학생들의 질의응답에 특화된 대형언어모델(LLM) 기반 모델을 개발했다. 질문과 관련된 수업자료를 검색하는 AI 기반 검색 기술인 검색증강 생성(RAG)과 첨단 자연어 처리(NLP)기법과 AI 추론 기술이 접목됐다.

AI 조교는 현재 챗GPT 모델로 구동이 되고 있지만 추후 연세대에서 구축하고 있는 초거대언어모델인 ‘아카라마’를 이용해 확장성을 넓힌다는 계획이다. 여진영 교수는 “챗GPT를 현재는 활용하고 있지만 2학기에는 연세대 구축 중인 700억 파라미터 초거대 모델 ‘아카라마’를 활용해 구현할 것”이라고 말했다.

◇ 학생·교수·학교 모두를 위한 AI 조교 ‘야타’

AI 조교 개발에서 가장 중점을 둔 부분은 학생·교수·학교 모두를 위한 기술 구현이다. 먼저 교수의 강의 내용을 학습해 단순한 지식 전달자가 아닌 교수자만의 개성과 철학을 담고자 했다. 또 게시판 질의응답의 경우 AI가 학생의 질문에 먼저 초안을 작성하고 교수가 이를 확인해 게시판에 올리도록 했다. AI가 교수를 대체하는 부분이 아닌 보조하는 역할이라는 본분을 그대로 적용한 것이다.

학생 개인화 구현도 중요했다. 이를 위해 프로젝트에 참여한 학생들은 많은 토론과 실험을 거쳐 기술을 개발했다. 이수연 인공지능융합대학 인공지능학과 석사과정생은 “대규모 모델을 구축한 경험을 할 수 있다는 점이 많은 도움이 됐다”며 “강의내용을 바탕으로 학생 개인화를 구현할 때 적절한 조화에 대해 많은 토의를 했다”고 말했다. 이어 “실제 학습에 도움이 될 수 있도록 답변을 생성할 수 있는지에 대한 방향성에 대한 많은 고민이 있었다”고 했다.

야타는 강의 기반 맞춤형 테스트도 생성해 자동 채점과 오답 노트 생성을 자동화했다. 서술형 문제에서는 정답에 투명성을 신경썼다. 강의 기반 오답 노트 생성으로 맞는 부분과 틀린 부분을 학생들이 이해할 수 있도록 오답을 제공하고 있다. 김민진 석사과정생은 “서술형 문제도 AI가 강의 기반으로 채점하고 오답을 생성할 수 있도록 했고, 이 과정에서 정답에 대한 오류가 없도록 강의 기반 피드백을 제공하고 있다”고 했다 

개인화 테스트에 대한 노력은 웃긴 에피소드도 만들어 냈다. 팀장인 양동일 석사과정생은 “AI 조교가 같은 걸 자꾸 물어보니 여러 번 질문하신 걸 보아 잘 이해를 못하는 것 같아 더 자세히 설명해주겠다고 대답했을 때 개인화가 아주 잘 되고 있다고 생각이 들면서도 웃겼다”며 “이 서비스가 교내 많은 학생에게 닿아 학교 학습과 생활에 실질적인 도움이 됐으면 좋겠다”고 희망했다.

대학도 조교를 많이 채용하지 않아도 이러한 서비스를 통해 인력 문제를 해결하면서 미래 AI 교육환경에도 대응할 수 있게 된다. 차호정 인공지능융합대학장은 “교육자의 철학을 해치지 않는 선에서 AI와 어떻게 상생할 것인지 고민을 많이 했다”며 “학생들에게 도움이 되고 대학에서도 이익이 되는 AI 기술을 잘 활용해 선도적인 미래 교육을 만들어 갈 것”이라고 말했다.

◇ “독자적인 AI 만들어 세계와 경쟁할 것”

이 AI 조교 시스템은 단순히 교내를 위한 서비스만이 아닌 더 큰 의미를 지니고 있다. 대학만의 AI 경쟁력을 쌓는 초석으로 이러한 AI 교육 시스템을 잘 만들어 세계와 경쟁을 하겠다는 전략이다. 이를 위해 연세대에서는 3명 신임 교수가 힘을 합쳐 교내 거대 AI 모델과 AI 조교 같은 서비스를 학생들과 만들고 있다.

유영재 교수, 이동하 교수, 여진영 교수는 인공지능융합대학에 최근 임용된 신임 교수다. AI 조교는 유영재 교수가 이끄는 멀티모달 AI 연구소에서 개발하고 있는 AI 거대모델 ‘아카라마’와도 추후 결합해 연세대 자체 거대 모델을 활용해 운영이 될 예정이다.

이들 교수는 교내 거대 AI 모델을 시작으로 이를 확장해 독자적인 플랫폼을 만들어 세계 AI 시장에서 경쟁하겠다는 큰 목표도 갖고 있다. 유영재 교수는 “영화 HER에서 등장한 AI처럼 개인화에 초점을 둔 AI 멀티모달 모델을 확장해 사람과 상호작용을 할 수 있는 기술을 학교 내부에서부터 발전시켜 세상을 놀라게 하고 싶다”며 “단순한 프로젝트가 아닌 국가적 AI 경쟁력 확보에 중요한 과정”이라고 언급했다.

추후 이들은 AI 기반 개인화 서비스를 제공하는 교수 창업도 계획하고 있다. 이동하 교수는 “AI 조교에서 시작해 교내를 중점으로 기술을 개발하고 있지만 앞으로 창업을 통해 이 서비스를 더 확장할 계획”이라며 “교내에서 세계로 확장할 수 있는 AI 기술을 확보해 경쟁력을 키울 것”이라고 말했다.