텍스트, 오디오, 이미지 등 기존 콘텐츠를 활용해 유사한 콘텐츠를 새롭게 만들어내는 생성 인공지능(AI) 기술이 인기다. 사람과 자연스럽게 대화하며 관련 텍스트를 생성하는 대화형 AI 모델 ‘챗GPT’와 입력한 텍스트를 기반으로 새로운 이미지를 만들어내는 이미지 생성 AI 모델 ‘달리’, ‘미드저니’, ‘스테이블 디퓨전’ 등이 일반 소비자에게 공개되면서 2016년 알파고 이후 새로운 AI 돌풍을 일으키고 있다. 이 가운데, AI 업계에서는 사용자 안전과 편의를 고려한 기술을 공급해야 한다는 목소리가 나왔다. AI 확산을 위해선 공급사가 책임감을 갖고 사용자를 보호해야 한다는 주장이다.

고광범 마이크로소프트(MS) 게이밍·디지털네이티브 부문장과 하정우 네이버클라우드 AI랩 소장, 최형석 수퍼톤 리서치리드는 지난 16일 띵스플로우가 주최한 ‘성수 AI데이’ 행사에서 생성 AI 활용성을 높이기 위해선 사용자 입장을 고려한 기술을 개발해야 한다고 주장했다.

◇생성 AI, 사용자 관점에서 개발 필요

AI 관계자들이 생성 AI에 대해 언급하며 사용자를 강조한 것은 그동안 일부 관계자나 개발자들 사이에서 사용됐던 AI 기술이 일반 소비자에게 빠르게 확산되고 있어서다. 실제로 챗GPT는 출시 두 달 만에 이용자 수가 1억 5000만 명을 돌파했고, 하루 평균 방문자 수는 1300만 명에 육박한 것으로 집계됐다.

하정우 소장은 “챗GPT가 인기를 끌 수 있는 요인은 사용자경험(UX)에 있다”며 “일반 소비자들이 인터넷을 이용하던 것처럼 브라우저를 켜는 것만으로 AI를 사용할 수 있게 해 접근성을 크게 높였다”고 평가했다. 이어 “네이버의 클로바스튜디오도 이와 마찬가지”라며 “생성 AI를 만들 때 이처럼 사용자 관점을 중요하게 바라봐야 한다”고 말했다.

방탄소년단(BTS)의 소속사 하이브가 인수한 AI 음성합성 기술 기업 수퍼톤도 의견을 같이했다. 최형석 리드는 “제품을 출시할 때 AI 알고리듬을 사용자환경(UI)과 잘 연결할 방법을 연구하고 있다”며 “사용자가 직관적으로 조절해서 원하는 결과를 낼 수 있는 방향으로 제품을 출시하고 있다”고 밝혔다. 수퍼톤은 화면에 나오는 인물에 맞게 음성을 변조하는 기술을 제공하는 기업이다. 디즈니플러스 오리지널 시리즈 ‘카지노’에 출연한 최민식 배우의 30대 목소리와 KB라이프 광고에서 윤여정 배우가 20대 젊은 시절로 등장했을 때 목소리가 이 기업 기술로 만들어졌다.

◇“기술 오픈소스 공개, 위험성 잠재”

생성AI가 최근 높은 파급력을 보이고 있는 것은 일부 기술이 오픈소스로 공개되고 있어서다. 누구나 활용할 수 있게 기술을 공개하면서 관련 서비스가 쏟아지고 있다. 영국 AI 스타트업 ‘스테빌리티AI’는 이미지 생성 AI 모델 스테이블 디퓨전을 오픈소스로 공개해 이미지 시장에 파장을 일으켰다. 이 모델을 활용해 창업한 스타트업들이 등장했고, 이미지 생성 AI 활용 서비스도 많아졌다. 하지만 사용자 관점에서 생성AI를 누구나 사용할 수 있게 오픈소스로 공개하는 것은 문제가 될 수 있다는 우려 섞인 목소리도 존재한다. 기술을 오픈소스로 공개하는 것은 AI 산업 발전에 도움이 될 수 있지만, 학습데이터에서 편향과 차별 등의 문제가 나타날 수 있고 개인정보 유출 등의 위험성도 있어서다.

하정우 소장은 “스테이블 디퓨전만 해도 2.0 버전을 공개될 때 일부 예술가의 사전 동의 없이 이들의 화풍을 AI 학습 데이터로 사용했다는 비난을 받았다”며 “기술을 오픈소스로 공개할 때 학습데이터 문제를 면밀히 살펴야 한다”고 지적했다. 이어 “모델을 애플리케이션 인터페이스(API)로 공개하게 되면 데이터 문제 소지를 줄일 수 있다”면서 “하지만 API는 AI 산업에 큰 파급력을 줄 순 없으므로 어떤 방식이 좋은지는 아직 판단할 수 없다”고 선을 그었다.

◇MS, 오픈AI 서비스 공급에 신중

챗GPT 기술을 검색 서비스 ‘빙’에 접목해 최근 높은 관심을 받는 MS도 비슷한 입장을 내비쳤다. 생성 AI 기술을 공개할 때 사용자가 학습 데이터로 인한 편향이나 차별 등의 불편함을 느끼지 않도록 안전 문제를 검토 후 제공하는 것이 옳다고 밝혔다. 고광범 부문장은 “MS는 2016년 ‘테이’라는 챗봇을 출시했지만 소수인종을 차별하는 발언을 해 서비스를 중단한 바 있다”며 “이 문제를 겪은 이후 MS는 AI에 책임감을 강조하며 기술 공급에 신중을 기하고 있다”고 말했다.

챗GPT 등 ‘오픈AI’ 서비스 배포도 마찬가지다. MS는 이르면 3월 오픈AI 기술을 파워포인트 등 기존 MS 서비스에 탑재할 예정이다. 음성을 문자로 변환하는 기술과 발표자 내용을 요약하는 서비스 등이다. 하지만 이 서비스는 모두가 이용하지 못한다. MS가 사용 신청자를 심사해 여기서 통과한 이들만 해당 서비스를 이용할 수 있다.

고 부문장은 “다른 클라우드 서비스와 달리, AI는 사용 목적 등을 심사해 기술을 사용해도 문제가 없다고 판정될 때만 사용을 허가할 계획”이라며 “갑과 을이 바뀌었다고 생각할 수 있지만 AI가 가진 영향력을 생각했을 때 공급사로서 책임감 있는 기술 배포를 위해 결정한 사안”이라고 말했다.

하정우 소장은 “결국 안전한 AI 사용을 위해선 생성 AI의 한계점을 공급사가 알아야 할 필요가 있다”며 “생성 AI에 어떤 선입견이 있어선 안 되는지, 어떤 말을 해선 안 되는지 등을 정확히 알아야 하고, 이를 기반으로 서비스를 만들어 나가야 한다”고 조언했다.

이번 토론은 띵스플로우가 주최한 성수 AI 데이 1부 행사에서 이뤄졌다. 띵스플로우는 크래프톤의 AI 자회사로 챗봇 서비스 ‘헬로우봇’ 등을 공급하는 기업이다. 이번 행사는 생성 AI 모델로 불거진 기술 혁신을 AI 전문가와 논의하기 위해 마련했다. 김준희 띵스플로우 AI랩 본부장은 “성수 AI 데이는 각 모달리티 리더분들을 모시고 발전하는 AI의 현재와 미래의 청사진을 함께 그리기 위해 마련한 자리”라며 “앞으로 학계와 산업계의 협업을 도모하고 생성 AI 기술의 혁신을 주도하며 창작자 생태계를 만들어가는 데 앞장서겠다”고 말했다.