안성진 성균관대 교수 “우리는 AI에 ‘절대선’을 요구하고 있다”

생성형 AI 사용률 급성장… AI와 협력이 답
원칙에 대해 인간과 AI에 다른 잣대 요구
“AI 시대 맞아 사회적 합의 구축 필요해”

“인간한테는 원칙을 깨도 된다고 하면서, 인공지능(AI)은 깨면 안 된다고 합니다. 이게 바로 AI를 대등하게 생각하고 있지 않다는 증거입니다. 우리는 AI에게 우리보다 훨씬 높은 도덕성을 요구하고 있습니다. 어찌 보면 존재하지 않는 ‘절대선(絶對善)’을 AI에게 계속 요구하는 거죠.”

안성진 성균관대 컴퓨터교육과 교수의 말이다. 그는 14일 숙명여대 제1캠퍼스 진리관에서 진행된 SM-PAIR(SookMyung-Project for Asian and International Relations) 컨퍼런스 둘째날 컨퍼런스에서 AI에게 보다 엄격한 잣대를 들이밀고 있다고 지적했다.

14일 진행된 SM-PAIR는 지난 2001년 창설돼 하버드대 국제학생회의(HPAIR)와 파트너십을 맺고 있는 학술 동아리다. 2006년부터 매년 자체 컨퍼런스를 개최해왔으며, 올해로 20회를 맞는다. 이번 컨퍼런스는 오는 15일까지 진행된다.

안 교수에 따르면 생성형 AI의 사용률은 급성장하고 있다. 그는 “지난 2024년 생성형 AI의 사용률은 71%까지 올랐다”면서 “우리는 AI와 어떻게 공존할 것인지가 중요해졌다”고 말했다. 사용률만 급성장한 것만은 아니다. 안 교수는 “구글의 제미나이 3는 수능시험을 푸는 벤치마크에서 450점 만점 중 440점을 얻으며 인간보다 뛰어나다”며 “아마존에는 오픈AI의 챗GPT로 적은 도서가 200권이 넘어갔으며, 학술논문에도 챗GPT가 공동 저자로 올라가 있는 것을 자주 확인할 수 있다”고 설명했다. 이어 “현대차그룹의 보스턴 다이내믹스의 로봇 ‘아틀라스’는 이미 제조 현장에 투입되고 있다”고 덧붙였다.

직장인의 생산성 향상 효과는 뚜렷하게 나타났다. 기업들은 오픈AI와 사이트 라이선스 계약을 맺어 전 직원에게 AI를 쓰게 했으며, 학생들의 AI 사용률도 2023년 25%에서 2024년 78%로 뛰었다.

그렇다면 AI 시대에 인간은 무엇을 해야 하는지가 중요하다는 것이 안 교수의 설명이다. 그는 “당분간은 AI와의 협력이 답”이라고 했다. 그는 의료 영상 판독 연구를 예로 들었다. 안 교수는 “AI 단독 정확도는 92.5%, 뛰어난 의사는 96%였다”면서 “그런데 둘이 협력하니 99.5%가 나왔다. 인간도 편견이 있고, AI도 한계가 있다. 서로 보완하면 최고의 결과가 나온다”고 강조했다.

하지만 안 교수가 정작 강조한 건 기술이 아니다. 그는 넷플릭스 시리즈의 ‘주피터스’를 예를 들어 “영상 속 등장인물 유토피안(아버지)은 ‘절대 사람을 죽이지 않는다’는 원칙을 가르쳤다. 아들(브랜던)은 동료들이 죽어가는 극한 상황에서 악당을 죽여 모두를 구한다”며 “이 상황에서 원칙을 깨는 게 맞는가”라고 물었다. 이어 “주인공이 AI라면 맞는가”리며 “인간과 AI에 대한 잣대가 다르다”고 덧붙였다.

안 교수는 우리가 AI를 대등한 존재로 보지 않는다는 것을 지적했다. 그는 “AI는 내 말을 들어야 하고, 자아가 없다는 전제가 깔려 있다. 그래서 인간보다 훨씬 높은 도덕 기준을 요구한다”며 “존재하지 않는 ‘절대선’을 AI에게만 강요하는 것”이라고 말했다. 안 교수가 제시한 문제는 그런 절대선이 현실에 없다는 점이다. 그는 “윤리 기준은 시대와 문화에 따라 바뀐다”며 “우리나라 사람의 윤리 의식과 아랍 사람의 윤리 의식이 다르듯, 절대적으로 옳은 기준은 없다”고 설명했다. 이어 “AI의 학습 데이터도 결국 인간이 만든 것”이라며 “편향이 있을 수밖에 없다”고 덧붙였다.

아울러 안 교수는 AI 시대를 맞이해 사회적 합의를 만들어 나가야 한다고 강조했다. 그는 “AI와 공존하려면 기술 발전보다 먼저 할 일이 있다”며 “인간 스스로의 편견과 이중잣대를 인식하는 것, 그리고 사회적 합의를 만들어가는 것”이라고 말했다.