인공지능(AI)으로 주가 조작도 심지어 정치 조작도 가능하다는 경고가 나왔다. 생성형 AI 기술 발전으로 가짜 이미지와 영상이 마치 사실처럼 만들어지면서 이를 악의적으로 사용할 경우 사회적으로 큰 영향을 미칠 수 있단 경고다.

전창배 국제인공지능윤리협회(IAAE) 이사장은 7일 부산 벡스코에서 열린 국제 AI 컨퍼런스 ‘AWC 2023 in Busan’에서 생성형 AI 기술의 악의적 사용을 경고했다. 그는 “지난 5월 미국 국방부 청사인 ‘펜타곤’ 근처에서 폭발이 발생했다는 글과 사진이 소셜네트워크서비스(SNS)를 통해 퍼지고 러시아 등에선 뉴스 속보로도 소개되면서 미국 주가지수가 0.5%가량 폭락했다”면서 “그런데 알고 보니 이 사진은 생성형 AI로 만든 가짜 사진이었고, 이 이미지를 올린 범인은 아직 잡히지 않았다”고 말했다. 이어 “처음 이미지를 올린 사람이 왜 이 사진을 올렸는지는 모르지만 이번 사례는 생성형 AI를 악용한다면 주가 조작이 가능하다는 것을 보여줬다”며 “사회적으로 큰 혼란을 일으킬 수 있는 사진을 올리면 주가가 떨어질 것을 예측해서 공매도를 하면 되기 때문”이라고 설명했다.

전 이사장은 생성형 AI는 주가뿐 아니라 정치 조작도 가능하다고 지적했다. “내년에 총선이 있는데 이에 맞춰 가짜 사진이나 영상을 올릴 가능성이 있다”면서 “투표 시기에 맞춰 상대방 후보를 모함할 목적으로 가짜 영상과 음성을 퍼뜨릴 가능성을 무시할 수 없다”고 말했다. 이어 “정말 큰 문제는 이러한 가짜뉴스로 발생한 결과를 우리가 되돌릴 수 없다는 것”이라고 했다.

그는 이러한 문제가 예상되지만 아직 명확한 해결책은 없다고 지적했다. 아직 명확한 대안이 마련되지 않았고, 이 때문에 여러 연구를 할 수밖에 없는 상황이라고 토로했다. 그는 “지금 우리는 어떻게 하면 안전하고 신뢰할 수 있는 AI를 만들 수 있는지, 또 올바른 방법으로 활용할 수 있는지를 리스트업해서 공유하고 합의점을 마련하고 있다”며 “이른바 인공지능 윤리 가이드라인들을 만들고 있다”고 했다.

이러한 노력이 기술 발전 속도를 따라잡긴 힘들다는 게 전 이사장의 설명이다. “아직 생성형 AI의 부작용에 관한 대안이 마련되지도 않은 상황에서 지금도 많은 툴이 나오고 있고, 생성형 AI를 활용한 다양한 이미지와 영상이 SNS 등에 유포되고 있다”고 했다. 하지만 그는 반대로 윤리적인 관점이 기술에 앞서서는 안 된다고 했다. 너무 윤리만 강조하는 경우 기술 발전 속도를 저해할 수 있고 규제가 될 가능성이 커서다.

전 이사장은 “결국 AI 기술과 윤리는 같이 가야 한다”면서 “누가 먼저 앞서가면 넘어지게 된다”고 했다. 이어 “지금 시점에서 우리가 안전하고 논리적으로 AI를 개발하고 활용하려면 우리 인간이 양심과 윤리에 따라 바르게 만들고 사용하는 것이 필요하다”면서 “사람은 누구나 행복을 추구하는데, AI도 우리 모두의 행복을 위해 사용해주길 바란다”고 당부했다.

AWC 부산은 인공지능 전문매체 더에이아이(THE AI)와 디지틀조선일보, 부산시, 부산정보산업진흥원이 공동 주최·주관하는 AI 컨퍼런스다. 올해는 ‘디지털 전환과 지속가능성’을 주제로 열렸다.