인공지능(AI)이 할 수 있는 일은 무궁무진합니다. 인공지능의 가능성에 인류의 미래가 걸려 있다고 이야기해도 허언은 아닐 것입니다. 디지틀조선일보는 인공지능 전문매체 더에이아이(THE AI)와 공동으로 29일부터 이틀간 부산 벡스코에서 ‘인공지능의 미래를 위한 대혁신’이란 주제로 개최되는 ‘AWC 2022 in Busan, AI: THE Good AI Can Do’ 행사에 앞서 현장 참여 연사들의 다양한 의견을 들어보는 릴레이 인터뷰 기사를 연재합니다. 독자 여러분들의 많은 관심 바랍니다. - 편집자 주

인공지능(AI) 윤리는 AI 업계의 최대 관심사 중 하나다. 기술의 비약적 발전으로 AI를 실생활에 사용하는 경우가 많아지고 있지만 인종차별이나 남녀차별, 공정성 훼손 등의 사회적 문제를 일으키는 부작용도 함께 발생하고 있어서다.

마이크로소프트는 2016년 챗봇 ‘테이’를 트위터에 공개했지만 16시간 만에 서비스를 중단했다. 챗봇이 사람들과 트윗을 주고받는 과정에서 성차별적이고 인종차별적인 글을 남겼기 때문이다. 아마존도 마찬가지로 이력서를 AI가 평가하는 알고리즘을 개발하다 중단한 사례가 있다. AI 알고리듬이 이력서에 ‘여학교’ 등 여성을 상징하는 단어가 있으면 부정적으로 평가한다는 사실이 드러나서다.

국내에서도 유사한 사례가 존재한다. 대표적인 사례는 국내 스타트업 스캐터랩이 개발한 챗봇 ‘이루다’다. 이 서비스는 여러 사전 테스트를 거쳤음에도 불구하고 성희롱과 성 소수자에 대한 차별 글을 남기면서 서비스가 폐쇄됐다.

AI가 사회적 문제를 양산하는 결과를 나타내자 정부와 기업은 AI 윤리 강화에 나서고 있다. 과학기술정보통신부는 2020년 ‘인공지능 윤리기준’을 발표했고 네이버, LG 등 AI 공급사는 저마다 윤리기준을 마련하며 AI 서비스로 인한 사회적 문제 확산 방지에 나서고 있다. 하지만 이러한 노력에도 불구하고 아직 정확한 윤리기준은 성립되지 못했다. 정부의 노력에도 불구하고 AI 윤리에 관한 사회적인 공감대를 형성하지 못하고 있다는 비난도 제기되는 중이다. 그렇다면 AI 윤리를 어떤 방향으로 구축해야 할까. 법무법인 원에서 AI사업팀을 이끄는 이유정 변호사에게 자세한 얘기를 들어봤다.

- AI 윤리와 법 제도 마련이 왜 필요할까.

“AI 기술 발전이 빠른 속도로 이루어지고 있지만 이 기술을 어느 수준까지 허용할 것인지에 관한 사회적인 논의는 매우 초기 단계에 머물러 있다. AI 기술을 사회적으로 어느 수준까지 허용할 것인가는 결국 사람이 결정할 문제다. AI가 주는 편익과 함께 그로 인한 사회적 부작용 역시 심각하게 고려해야 하는데 이때 가장 중요한 기준이 ‘윤리’가 될 것이다. 윤리적인 기준에 심하게 위반된다면 그때는 법률로 규제를 해야 할 필요가 있다. 인간 복제를 예로 들면 과학적 연구는 허용하더라도 이를 이용하거나 사업화하는 것은 규제하고 있다. 이처럼 AI 기술에 대해서도 윤리와 법을 통한 규제가 필요하다고 생각한다.”

- 법과 제도는 규제가 될 수 있다. 업계에서는 AI 기술 저해를 불러일으킬 수 있다는 지적이 나오는데.

“우선 윤리적인 원칙을 확립하고 서비스 개발자나 사용자가 윤리적인 원칙에 부합하도록 AI를 사용하는 것이 바람직하다고 본다. 법률은 강제력이 있고 법을 만들거나 개정까지 시간이 많이 소요되기 때문에 빠르게 발전하는 기술을 규제하기에는 한계가 있다. 또 지나치게 엄격한 법률로 규제할 경우 기술 발전에 제약이 될 수도 있다. 따라서 AI 윤리에 대한 사회적인 합의가 우선돼야 하며 AI 기술이 윤리적 기준에 심각하게 위반되거나 위험성이 매우 큰 경우에만 법률로 규제하는 것이 바람직하다고 생각한다.”

- 정부에서도 AI 윤리 마련을 위한 다양한 노력을 하고 있는데.

“2020년 과기정통부가 AI 윤리기준을 발표했다. 또 인공지능윤리에 관한 내용이 포함된 ‘인공지능기본법’ 등이 국회에 발의됐으나 정부나 국회 차원에서 본격적인 논의가 진행되지는 않았다. 올해부터 AI 윤리정책 포럼을 개최해 인공지능 기업의 윤리기준을 마련하기 위해 노력하고 있지만 위원들이 몇몇 전문가와 기업 중심으로 구성되어 있고 토론 내용이 일반에 공개되는 것도 아니어서 사회적인 공감대를 형성하기에는 부족하다고 생각한다. AI 윤리 문제는 전 사회 구성원들의 공감대를 마련하는 것이 중요하기 때문에 정부나 기업은 물론 시민사회의 다양한 의견을 수렴하기 위한 정부의 적극적인 노력이 필요할 것으로 본다.”

- 엔지니어와 소비자, 법 관계자 등의 합의가 필요하다고 보여진다.

“AI 윤리와 법을 마련하기 위해서는 정부, 기업, 기술 전문가는 물론 법률, 철학, 사회학, 윤리, 행정 분야의 다양한 전문가들과 사용자, 시민사회단체 등이 모일 수 있는 공론의 장이 필요하다. 국회나 정부는 물론 기업이나 언론, 시민사회단체가 주도하는 행사와 토론회도 매우 중요하다. 이번 ‘AWC 행사’처럼 AI 윤리를 주제로 다양한 분야의 전문가들이 모이는 공론의 장을 지속적으로 만들어 간다면 사회적인 합의점 역시 찾아갈 수 있을 것이다.”

- AI 윤리 확보를 위해선 어떤 논의가 돼야 할까.

“AI 기술에 필요한 데이터수집 사용을 둘러싼 개인정보 침해, AI가 창작한 저작물의 권리, AI 기술로 인한 노동권이나 사생활 침해 등은 이미 공론화가 시작된 문제면서 앞으로도 많은 논의가 필요한 이슈들이다. 

개인적으론 최근 많은 기업이 활용하고 있는 가상 인간이나 메타버스와 관한 문제도 사회적 논의가 빨리 이뤄져야 한다고 본다. 법률은 실제의 인간과 사회를 전제하고 있어 가상 인간과 가상 사회를 어떻게 다룰 것인가 하는 점은 새로운 윤리적, 법적인 영역이다. ‘가상 인간이 경제활동을 하고 사회적으로 영향력을 미치고 메타버스에서 인격권 침해나 혐오 등 불법적이고 반윤리적인 행위가 발생하고 있는 현실을 어떻게 바라볼 것인가’, ‘어디까지가 윤리적으로 허용할 수 있는 행위인가’, 그리고‘ 법률은 어떠한 행위들을 규제할 것인가’에 대한 논의가 필요하다.”

- AI 개발 기업의 사회적 책임감도 중요할 것 같다.

“AI 기술을 개발하는 기업은 기술이 사회적으로 미칠 영향에 대해서 미리 생각해 보고 문제점을 예방할 수 있는 대안을 만들어야 한다. 기술 개발을 하는 과정에서 왜 그러한 기술이 필요한지 목적을 분명히 해야 하고 윤리적으로 문제는 없는지, 실제로 기술을 사용하는 사람들이 악용할 소지는 없는지 등을 계속 모니터링 해야 한다. 그렇지 않으면 어렵게 개발한 기술을 실제로 적용하는 과정에서 문제가 발생하게 될 수 있다.

예를 들어 안면인식 기술을 활용해서 아파트 현관에서 외부인의 출입을 통제할 수 있는 기술을 개발하려면, 개인정보보호법에 따라 아파트 입주민들의 사진과 영상을 수집해서 관리해야 한다. 만약 입주민 중 일부가 사진과 영상 수집에 동의하지 않는다면 그 기술을 적용하기는 어렵다. 개인정보 수집에 동의하지 않는다고 주민들의 출입을 막을 수는 없기 때문이다. 이처럼 인공지능 기술을 개발하는 기업은 개인정보보호법 등 관련 법률의 규제를 사전에 검토할 필요가 있다.”

- AI 윤리 확립 과정에서 조언하고픈 내용이 있다면.

“AI 기술로 인해 발생하는 윤리적인 문제는 궁극적으로 인간이 어떤 존재이고, 어떤 존재이어야 하는가에 대한 철학적인 질문에 맞닿아 있다. 정부나 기업에서도 AI 윤리 문제를 다룰 때 단순히 과학 기술, 경제적 관점에서만이 아니라, 철학적. 윤리적. 인문학적인 관점에서도 종합적인 검토와 논의 과정을 거쳤으면 한다.”

- 현재 법무법인 원에서는 AI 윤리와 법 관련해 어떤 활동을 하고 있나.

“법무법인 원에서는 2020년 ‘인공지능대응팀’을 신설했고 AI 기술을 개발하거나 서비스를 제공하는 기업들이 부딪치는 각종 법률 이슈에 대한 컨설팅 업무를 진행하고 있다. 컨설팅 업무의 경험을 바탕으로 2021년 12월에 ‘궁금한 AI와 법’이라는 책을 출판했고 2021년 6월에는 ‘법정에 선 인공지능’이라는 주제로 AI 인격권에 관한 토론회를 열기도 했다. 앞으로 AI 기술이 발전하면서 새롭게 등장하는 윤리적·법적 이슈에 대응하고 사회적인 논의를 확산시켜 나가는 데 주도적인 역할을 할 것이다.”

- 대중의 역할이 무엇보다 중요할 것 같다.

“많은 사람이 AI에 대해서는 막연한 두려움을 가지고 있다. 그러나 AI 기술을 개발하는 것은 사람이기 때문에 그 기술을 어디에 사용할 것인지, 어느 정도까지 사용하도록 허용할 것인지를 정하는 것도 사람이다. AI는 우리 생각과 사회의 반영이기 때문에 결국 좋은 사회가 좋은 AI를 만들 수 있다는 점을 기억해줬으면 좋겠다.”