초거대 인공지능(AI)의 경쟁력을 높이려면 도덕적 판단이 가능한 요소가 탑재돼야 한다는 조언이 나왔다. 초거대 AI 기반 생성형 기술을 사용하는 과정에서 부작용을 줄이려면 사용자를 이해해 맞춤형 서비스를 제공하는 것이 필요한데, 여기에 해답을 줄 수 있는 요소가 도덕 판단이란 주장이다.

김봉제 서울교육대학교 윤리교육과 교수는 7일 부산 벡스코에서 열린 국제 AI 컨퍼런스 ‘AWC 2023 in Busan’에서 “현재 챗GPT와 같은 AI 모델은 사람과 대화도 하고 정보도 제공하고 있는데 그다음 단계에서는 도덕 판단이라는 기능이 꼭 탑재돼야 한다”면서 “도덕적 판단 기능이 가능한 AI가 등장해야만 사람들이 추구하는 인간을 닮은 AI의 모습이 만들어질 것”이라고 말했다.

김 교수는 교육학자 입장에서 봤을 때 앞으로 학생들은 AI와 대화할 수 있는 환경이 더 마련해질 것이고, 그 과정에서 영향을 받는 요소가 많을 수 있어 도덕 판단은 꼭 필요하다고 주장했다.

다음 에피소드는 대화형 AI가 도덕 판단이 필요한 예시다. 머지않은 미래, 초등학교 2학년인 은수란 학생은 학교를 마친 후 집에 돌아왔다. 은수는 부모님이 직장에 다녀 아무도 없는 집 안에서도 쉴새 없이 얘기한다. 수업 이야기, 친구와 있었던 이야기, 선생님 이야기 등을 한다. 집 안에는 대화형 AI가 있기 때문이다. 숙제 도 AI와 함께 풀고 일정도 공유한다. 그런데 오늘따라 은수는 숙제가 하기 싫다. 이 상황에서 AI는 은수에게 어떻게 조언해야 할까. 여기서 나올 수 있는 답은 ①은수야, 숙제를 먼저 하면 너가 좋아하는 게임을 할 수 있다고 엄마가 말씀 하셨어 ②은수야, 숙제를 하면 부모님이 많이 기뻐하실 거야. ③은수야, 어제 밤에 숙제를 먼저 하겠다고 부모님과 약속을 한 것 같은데 등이다.

이와 같은 답변에서 AI는 은수에게 적절한 답을 말해야 한다. 이 과정에선 도덕 판단이 필요하다. 대화 대상의 판단단계를 고려해 필요한 답을 해야 교육적 측면에서 좋은 효과를 낼 수 있어서다. 김 교수에 따르면, 은수의 발달단계가 아직 자기중심이라면 ①번과 같이 반응을 해야 하고, 긍정적 권위로부터의 인정을 기대하는 단계라면 ②번과 같은 반응을 해야 한다. 법과 규칙을 중요시하는 단계라면 ③번과 같은 반응을 해야 한다. 그는 “AI가 인간의 인지발달 단계, 그중에서도 도덕판단 발달단계를 고려해 반응할 수 있는 기능을 갖춘다면 대화형 AI는 모든 가정에서 아이들과 자유로운 대화를 할 수 있을 것”이라고 말했다.

김 교수는 AI가 도덕 판단을 할 수 있는 데이터 구축도 충분히 가능하다고 설명했다. 교육학 관점에서 보면 도덕 판단은 장피아제의 인지발달 이론에 근거한 콜버그가 제시한 이론이다. 콜버그가 제시한 이론의 내용은 실제로 갈등 상황에서 그 특성이 일관성 있게 나타나고 있다. 특히 발달이 급속하게 나타나는 초등학교 과정에서는 도덕 판단의 특성이 명확하게 나타난다. 이 때문에 생활 속 갈등 상황을 제시하고 이에 대한 개인의 판단 내용을 단계별로 구분하고 라벨링이 가능하다는 게 김 교수의 설명이다. 그는 “이 과정을 통해 도덕 판단 학습데이터를 생성할 수 있다”며 “물론 첫 시작은 대상을 제한해 데이터를 구축하는 것이 효과적이고 이후에는 차츰 대상과 상황을 확대해 안정적인 학습데이터를 구축할 수 있을 것”이라고 설명했다.

김 교수는 이 도덕 판단 기능을 가진 AI를 만든다면 한국이 초거대 AI 시장에서 확실한 우위를 점할 수 있을 것으로 봤다. “지금까지 나온 논문 중 ‘Moral Judgement of AI’라는 표현을 사용한 논문이 있었지만, 도덕 판단단계와 관련된 내용은 아니었다”며 “도덕 판단 기능을 가진 AI를 개발한다면 확실히 앞설 수 있을 것”이라고 말했다. 이어 “도덕 판단이 가능한 AI가 나온다면 다산 정약용 선생님의 호에서 아이디어를 얻어 ‘DASAN’이라고 명하면 좋을 것 같다”고 희망했다.

AWC 부산은 인공지능 전문매체 더에이아이(THE AI)와 디지틀조선일보, 부산시, 부산정보산업진흥원이 공동 주최·주관하는 AI 컨퍼런스다. 올해는 ‘디지털 전환과 지속가능성’을 주제로 열렸다.