이상직 변호사, “국민이 안전하게 AI 사용할 수 있는 환경 구축해야”

이상직 법무법인 태평양 변호사가 “AI 기반 디지털 강국이 되기 위해선 국민이 중심이 되는 기반을 마련해야 한다”고 강조했다. /온라인 세미나 캡처

윤석열 정부의 ‘디지털플랫폼 정부’ 구축의 핵심 요소로 ‘국민 참여’를 강요해야 한다는 주장이 제기됐다. 기술 수요 주체가 국민인 만큼 인공지능(AI) 등 디지털 혁신 기술을 안전하게 사용할 수 있는 무대를 마련해야 디지털 강국으로 도약할 수 있다는 이야기다.

이상직 법무법인 태평양 변호사는 7일 연세대에서 ‘인공지능 시대, 어떤 삶을 살 것인가’라는 주제로 특강을 진행했다. 그는 “AI 기반 디지털 강국이 되기 위해선 정부와 기업보단 국민이 중심이 되는 기반을 마련해야 한다”며 “국민이 참여해 실행하는 ‘국민주도 지능정보화 사회’를 만드는 것이 무엇보다 중요하다”고 강조했다.

윤 정부는 현재 AI·데이터 기반 디지털플랫폼 정부 구축 등 디지털 혁신 확산에 전년 대비 9.5% 증액된 1조 9000억 원을 투자하며 디지털 강국의 기반을 다지고 있다. AI·데이터 기반 과학적 행정 구현, 국민·기업·정부 협력을 통한 혁신 생태계 조성, 대국민 선제적·맞춤형 서비스 제공 등을 추진 중이다.

이번 이 변호사가 던진 메시지는 대중과 많은 접점을 통해 AI를 연구한 법률전문가의 이야기기에 의미가 크다. 국민과 밀착 소통하며 이들이 체감하는 AI에 대해 이해하고 있기 때문이다.

이 변호사는 “AI는 개인에게 많은 상업적 활용 기회를 제공하고 있다”며 “AI 기반 특허 기술개발을 비롯해 소설, 작곡, 작사, 예능 등 콘텐츠 제작에도 기여하고 있다”고 말했다. 이어 “AI로 1인 1특허권, 1인 1저작권 등 개인 비즈니스 영역이 커졌다”며 “이러한 개인 발전을 위해 데이터 접근과 활용 기회를 제공하고 AI 기술 발전으로 양산되는 신규 직업 양성을 위한 교육을 지원해 국민 관심을 높여야 한다”고 조언했다.

정부와 기업의 중요 역할로는 기술 안전성 확보를 꼽았다. AI가 불완전한 사람의 뇌를 모방한 만큼 불안정한 요소가 많아 이를 검증하고 필요한 기술만 국민에게 제공해야 한다고 주장했다. 그는 “우리가 같은 색을 보더라도 배경이나 빛에 따라 다르게 보이는 착시현상이 발생하는데 이는 뇌가 불완전한 요소라는 것을 보여주는 사례”라며 “이를 모방한 AI 역시 완전하지 않기 때문에 정부와 기업이 안전장치를 마련해야 한다”고 말했다.

AI가 불완전한 모습을 보인 사례는 많다. 2019년 미국 표준기술연구소(NIST)는 189개 얼굴인식 알고리즘에 대한 성능 평가를 진행한 결과 아시아인이나 흑인의 얼굴은 백인보다 최대 100배까지 잘못 인식된다는 사실을 밝혔다. 원인은 데이터 학습 문제였다. 백인 얼굴에 관한 데이터만 많이 학습시키고 흑인과 아시아인의 데이터는 적게 학습시킨 결과 인종을 차별하는 AI가 등장했다.

빅테크 기업이 개발한 AI 모델 역시 마찬가지다. 아마존은 AI가 지원자의 이력서를 평가할 수 있는 알고리듬을 개발하다 중단한 사례가 있다. 이력서에 ‘여학교’와 같은 여성을 상징하는 단어가 있으면 부정적으로 평가했기 때문이다. 마이크로소프트는 2016년 트위터에 ‘테이(Tay)’라는 AI 챗봇을 소개했지만 16시만 만에 서비스를 중단했다. 테이가 사람들과 트윗을 주고받는 과정에서 인종차별적이고 성차별적인 글을 남겨서다.

이 변호사는 “AI는 복잡한 금융상품 개발, 신약 제조, 복지 사각지대 구제, 재난 구조 등 긍정적으로 사용될 수도 있지만 금융 시장 조작, 오작동으로 인한 자율주행차 사고, 불공정 거래, 차별 등 문제점도 발생시킬 수 있다”고 지적했다. 이어 “지금까지 기술개발 과정에는 불량도 있었고 차이도 존재했다”며 “불량은 버리고 차이는 극대화해 산업 성장을 이뤘듯 AI도 문제점은 개선하고 차별점은 극대화해야 한다”고 강조했다.

이상직 변호사는 제36회 사법시험을 합격하고 정보통신부정보통신부(현 과학기술정보통신부, 방송통신위원회) 제1호 변호사로서 2년 가까이 ICT 정책 및 규제업무에 종사했다. 이후 KT에서 법무센터장, 준법지원인(전무)을 지냈다. 현재 법무법인(유한) 태평양 판교사무소에 근무하고 있다. 지난 3월 저서 ‘나는 인공지능을 변호한다’를 출간했다.

홈으로 이동 상단으로 이동