현재 인류는 인공지능과 메타버스로 대변되는 4차 산업혁명 시대에 살고 있다. 그 속에서 인공지능 기술의 발전과 윤리는 서로 충돌하며 조화를 찾아가고 있다.

국제인공지능&윤리협회(IAAE, International Association for AI and Ethics)는 인공지능 기술과 윤리를 조화롭게 발전시키기 위해 과학기술정보통신부(이하 과기부) 산하 사단법인으로 설립되었다. 서울대학교에서 윤리교육과를 전공한 전창배 IAAE 이사장에게서 인공지능 윤리와 협회가 하는 일에 대해 들을 수 있었다.

"IAAE는 인공지능 기술과 윤리를 조화롭게 발전시키면서 기업과 산업 지원 활동, 인공지능 기술과 윤리 교육 등을 진행하고 있다. 또 정부와 함께 인공지능 정책 및 거버넌스 활동도 펼치고 있다."

대담=황민수 편집국장 겸 'THE AI' 대표이사

"진정한 인공지능은 자율성을 가져야 한다. 하지만 인공지능이 자율성을 갖는 순간 인간의 컨트롤을 넘어서서 스스로 판단하고 결정하는 일이 일어난다. 인공지능 윤리는 여기서부터 비롯된다"며 인공지능 윤리의 필요성에 대해 입을 열었다. "인공지능은 다른 기술보다 인간에게 미치는 영향이 어마어마하게 클 수 있다. 인공지능이 딥러닝과 머신러닝 과정 중 어떠한 프로세스를 거쳐 판단하며 알고리즘을 생성하는지는 개발자도 알 수 없다. 그렇게 된다면 예측과 컨트롤이 어려워지기 때문에 인공지능 윤리를 통해 자율성을 가진 인공지능이 진정 안전하게 인간을 위한 기술이 되도록 대응하고 예방해야 한다"고 했다.

- 해외의 인공지능 윤리 현황은 어떠한가.

"해외는 기술뿐만 아니라 인공지능 윤리도 앞서나가고 있지만 아직 잘 지키고 적용하는 곳은 없다"며 국제 인공지능 윤리에 관해 설명했다. "2021년 11월 UN 산하기관인 유네스코에서 전 세계 인공지능 윤리를 표준화하는 국제적 지침인 '유네스코 인공지능 윤리 권고안'을 내놓았다. 이를 바탕으로 각국 정부가 노력하기 시작했다"고 했다. "유네스코 인공지능 윤리 권고안은 총 160개 조항으로 자세하게 되어있는데, 이 중에서는 인공지능 윤리 교육 분야도 포함되어 있다. 초등학교부터 대학원까지 모든 교육 기관에서 인공지능 윤리를 필수로 교육해야 한다는 것이다. 또 인공지능 윤리를 교육할 수 있는 강사진과 전문가를 양성해야 한다는 조항도 포함되어 있다"며 유네스코 인공지능 윤리 권고안에 나온 교육의 중요성을 강조했다.

- 기술의 발전에 비해 윤리나 규제가 지나치다는 지적이 있다.

"인공지능 윤리는 인공지능 기술에 반드시 들어가야 하는 안전장치이다. 2021년 초, '이루다'라는 인공지능 챗봇이 나왔으나 혐오와 차별, 외설적 이슈가 발생한 적이 있다"며 인공지능 기술의 발전에서 생기는 부작용을 짚었다. "기업이 안전하고 완벽한 인공지능 제품과 서비스를 출시하면 아무 문제가 없지만, 이루다 사건처럼 윤리적 이슈가 있는 제품은 소비자들이 신뢰하지 못해 구매로 이어지지 않을 것이다. 따라서 이를 바로 상용화해서 판매하기 전에 안전과 윤리성에 문제가 없는지를 미리 체크해 시뮬레이션과 검증하는 것이 인공지능 윤리의 역할"이라고 했다. "소비자는 인공지능 윤리가 적용된 제품이 안전하다고 판단하여 신뢰하고 구매하게 될 것이고, 그렇지 않은 제품을 판매하는 기업은 도태될 수밖에 없을 것"이라며 인공지능 윤리는 인공지능 기술에 대한 신뢰와 산업의 발전을 가져올 것이라고 밝혔다.

- 인공지능 윤리 문제는 어떻게 해결할 수 있는가.

"인공지능 윤리 문제를 해결하기 위한 방법으로는 세 가지가 있다"며 해결 방안을 제시했다. "기술·정책·교육적 방법을 사용할 수 있다. 현재 페이스북, 아마존, 구글과 같은 회사에서 인공지능을 만들 때 자체적으로 인공지능의 편향성을 필터링하는 기술을 개발하고 있다. 하지만 이 또한 완벽하지 않다. 인공지능의 중립성 알고리즘을 만드는 것은 결국 인간인데, 인간의 사고 자체가 편향되어 있기 때문에 그 알고리즘이 불완전하게 된다"며 "이러한 기술적 한계를 넘기 위한 방법이 정책적인 방법"이라고 했다. "2016년부터 각국 정부에서는 인공지능 윤리 가이드라인을 내놓기 시작했고, 우리나라도 2020년부터 제정에 돌입했다. 하지만 가장 좋은 방안은 UN과 같은 국제기구의 주도하에 관련 주체들이 모두 모여 인공지능 윤리 가이드라인을 만드는 것이다. 이는 2021년에 유네스코 인공지능 윤리 권고안이 나옴으로써 해소되고 있다"고 했다. "가장 근본적인 해결책은 교육이다. 그렇기 때문에 협회에서 가장 중요하게 다루고 있는 분야다. 현재 상황에서 인공지능을 만들고 사용하는 것은 결국 인간이기에 지금의 인공지능 윤리는 곧 인간의 윤리다. 따라서 개발자를 포함한 기업의 임직원, 미래의 개발자나 과학자가 될 청소년들과 인공지능을 사용할 모든 소비자가 인공지능 윤리를 교육받아야 한다"며 인공지능 윤리 교육의 중요성을 다시 한번 상기시켰다.

- 직장에서 의무적으로 받는 성희롱 예방 교육처럼 인공지능 윤리도 의무적으로 교육해야 하는 것이 아닌가.

"인공지능 윤리 교육도 의무 시행해야 한다. 인공지능 기술·제품·서비스를 개발하는 기업 전체를 대상으로 하는 것이 좋지만, 대기업이나 중견기업 이상을 기준으로 1년에 한 번은 필수적으로 교육을 받도록 해야 한다"고 했다. "요즘 개인정보 유출 문제가 많아지며 이를 보호할 수 있는 임원급의 최고 책임자를 무조건 두게 되어 있는데, 인공지능 윤리도 마찬가지로 최고 인공지능 윤리 책임자라는 제도를 제정해 책임자가 모든 생산 과정에 관여하여 윤리를 적용해야 한다"며 한편으로는 "이러한 것들은 기업 입장에서 부담으로 느껴질 수 있으므로 정부에서 바우처 제도 등을 통해 적극적으로 지원해줘야 한다"고 정부의 역할이 중요함을 일깨웠다.

- 향후 협회의 계획과 방향은 어떻게 되는가.

"인공지능 기술과 윤리는 항상 같이 나아가야 하는 동반자 관계"라며 기술과 윤리의 조화를 강조했다. "기술이 너무 앞서 나가면 인공지능의 위험성, 부작용의 문제가 생기고 윤리가 너무 앞서 나간다면 기술의 개발이 지체될 것이다. 따라서 협회는 인공지능 기술과 윤리를 조화롭게 발전시키고 진흥시키기 위해 꾸준히 노력할 것이며, 특히 국내에만 머무르지 않고 글로벌 인공지능 기관으로 나아가고자 한다"며 국제인공지능&윤리협회의 향후 방향성을 밝혔다.

☞전창배
1976년 서울특별시에서 태어나 서울대학교 윤리교육과를 졸업했다. 한국인공지능윤리협회 이사장을 거쳐 과기부 산하 국제인공지능&윤리협회 이사장 직을 맡고 있으며, 서울특별시교육청 서울특성화고국제화교육지원사업 자문관과 한국일보 칼럼니스트로 활동하고 있다. 2021년에는 ⌜인공지능 윤리 개론⌟을 집필했다.