“대형언어모델(LLM)은 매우 설득력 있는 거짓말쟁이입니다. 정말 놀랍습니다. 물론 고객과 함께하는 기업과 직원에겐 그다지 유용하지 않을 수 있습니다. 하지만 우리는 이것이 미래를 위한 경이로운 기회라는 것을 알고 있습니다. 우리는 모두 이 기회에 가고 싶어 합니다. 그리고 우린 가야합니다.”

마크 베니오프 세일즈포스 최고경영자(CEO)의 말이다. 그는 12일(현지시간) ‘드림포스 2023’ 기조연설에서 생성형 AI 기반이 된 LLM을 기업에서 믿고 사용할 수 있는 환경을 조성해야 한다고 밝혔다. 또 고객 분야에서만큼은 세일즈포스가 그 환경을 구축했다고 강조했다.

베니오프 CEO가 LLM을 설득력 있는 거짓말쟁이라고 표현한 이유는 할루시네이션(환각) 현상 영향이 크다. LLM 기반 생성형 AI는 허언증처럼 없는 사실을 진짜처럼 얘기하는 환각 현상을 일으킨다. 챗GPT가 상용화된 지 얼마 되지 않았을 때 불거졌던 ‘세종대왕 맥북 던짐 사건’이 대표 사례다. 한 이용자가 “세종대왕 맥북 던짐 사건에 대해 알려달라”고 요청하자, 챗GPT는 이야기를 직접 창작해 실제로 있었던 일인 것처럼 설명했다. 창조성 측면에서는 훌륭했지만, 기업에서 챗봇 용도로 사용하기엔 한계가 있다는 점을 직설적으로 보여줬다.

언어 생성 모델이 할루시네이션 현상을 일으키는 이유는 여러 가지가 있지만, 가장 큰 이유는 확률에 근거해 텍스트를 생성하기 때문이다. AI는 글을 생성할 때 사람이 사용하는 용어를 워드임베딩 작업을 통해 컴퓨터가 알 수 있도록 숫자로 표현한 후 다음 숫자가 무엇이 나올지 확률적으로 계산해 높은 확률의 숫자를 제시한다. 일례로 ‘I am’ 다음엔 ‘boy’나 ‘girl’의 단어가 많이 나왔으니 확률적으로 이 단어를 생성하고, 반대로 ‘dog’, ‘cat’ 등의 단어는 많이 없으니 선택하지 않는다. 이러한 방식은 글을 그럴싸하게 만들 수 있는 장점이 있지만, 팩트체크까진 하지 못한다. 없는 사실도 확률적으로 그럴싸하게 만드는 것이다.

베니오프 CEO는 “우리는 고객사가 신뢰할 수 있는 AI 플랫폼으로 업무 효율을 내길 바란다”며 “이것이 우리가 AI를 하는 이유이자 사명”이라고 밝혔다. 이어 “우리는 신뢰가 바탕이 돼야만 고객에게 AI 플랫폼을 소개할 수 있다고 생각했다”며 “오늘 이 자리에서 우리의 AI ‘아인슈타인’을 소개해서 기쁘다”고 말했다.

◇고객관리와 AI 기술을 하나의 플랫폼에 통합

이날 베니오프 CEO는 아인슈타인에 대해 하나로 통합된 AI 플랫폼이라고 소개했다. 세일즈포스의 ‘고객관계관리(CRM)’부터 데이터분석 플랫폼 ‘태블로’, 기업용 메신저 플랫폼 ‘슬랙’ 등과 완전히 통합했다고 설명했다. 그는 “우리가 하고자 하는 것은 최고의 통합 플랫폼을 구축하는 것”이라며 “우리는 훌륭한 애플리케이션과 클라우드, 마케팅이 있어 이를 하나의 플랫폼에서 제공하고자 한다”고 말했다.

세일즈포스의 플랫폼 통합은 사용자 편의성을 크게 가져온다. 다른 플랫폼 사용 없이 한 곳에서 고객관리에 관한 모든 업무 처리를 할 수 있어서다. 

세일즈포스 플랫폼의 통합은 AI 신뢰도와 연결된다. AI는 문장 생성할 때 데이터를 자산으로 활용하는데, 이 자산을 통합된 데이터에서만 사용해서다. 예를 들어 챗GPT는 범용 데이터를 통해 확률값으로 문장을 생성한다면, 아인슈타인은 세일즈포스 플랫폼 내의 데이터만 활용한다. 그만큼 할루시네이션 현상을 일으킬 가능성이 적다.

플랫폼 내에 데이터만 이용한다고 데이터가 적은 것은 아니다. CRM에 보유한 고객 데이터, 태블로에 있는 고객 행동 데이터, 슬랙에 있는 대화 데이터 등 고객에 관한 ‘메타 데이터’가 형성돼있다. 이를 토대로 고객 맞춤형 AI 서비스 제공이 가능하다. 베니오프 CEO는 “고객에 관한 모든 것은 메타데이터 플랫폼 안에 있다”며 “하나로 통합된 메타데이터 플랫폼에 들어가면 놀랍고 선구적인 일을 시작할 수 있다”고 말했다.

◇“고객의 데이터는 우리 상품이 아니다”

메타 데이터를 통합된 곳에서 운영하면 데이터 보호 효과도 있다. 최근 생성형 AI 기술은 외부에 있는 애플리케이션(앱)들을 연계해 많이 사용된다. 일례로 오픈AI GPT를 이용해 기업용 챗봇 등을 구축하는 회사들이 크게 증가했다. GPT를 플러그인이나 응용프로그램인터페이스(API)로 활용해 저마다 기업용 챗봇을 구축하는 것이다. 이렇게 되면 데이터는 여러 번 노출되는 위험이 있다. 오픈AI의 GPT뿐 아니라 챗봇 공급사에도 데이터가 노출돼서다.

세일즈포스는 아인슈타인과 태블로, 슬랙 등을 하나의 통합된 플랫폼에서 관리하기 때문에 상대적으로 데이터가 노출될 위험이 적다. 하나의 플랫폼에서 메타 데이터를 관리하는 만큼 보안도 높였다. 별도 서버에 존재하지 않고 독자적으로 구축한 데이터 클라우드가 대표 사례다. 베니오프 CEO는 “우리의 데이터 클라우드 별도 서버에 따로 존재하지 않는다”면서 “아틀라시안(Atlassian) 기술에 깊숙이 통합돼 있다”고 했다.

또 그는 세일즈포스는 고객 데이터를 철저히 보호하고 있다고 밝혔다. 고객 데이터를 보지도 않고 판매하지도 않는다고 했다. “우리는 고객 데이터를 보지 않는다”며 “고객 데이터는 우리의 상품이 아니다”라고 강조했다.

세일즈포스가 고객 데이터를 굳이 보지 않아도 되는 이유는 기술력 때문이다. 회사는 딥러닝 시스템을 개발할 때부터 데이터를 굳이 보지 않고도 자율적으로 작동하는 기술을 만들었다. 그는 “이 기술은 토대로 우리는 엄청난 성공을 거둘 수 있었다”며 “우리는 우리 플랫폼에 대해 큰 자부심을 갖고 있다”고 했다.

◇안전한 AI 사용 문화 정착

베니오프 CEO는 신뢰할 수 있는 AI 구축과 더불어 이를 윤리적으로 사용할 수 있도록 회사 시스템도 구축했다. AI 레드팀이다. 소프트웨어(SW) 취약점을 찾고 AI 제품에 관한 윤리성과 신뢰성 향상을 위한 연구를 진행하는 조직인 AI 레드팀은 AI가 유해한 결과물을 생성하지 않도록 안전망을 마련하는 역할을 한다. 

마이크로소프트(MS), 구글, 오픈AI 등 글로벌 AI 기업들은 현재 레드팀을 운영하고 있다. 국내 기업인 네이버도 이 팀을 운영 중이다. 베니오프 CEO는 “우리는 윤리적이고 인도적인 AI 사용을 위한 기준이 필요하다”며 “이를 위해 회사 내 AI 레드팀을 신설했다”고 밝혔다.

그는 AI 레드팀을 비롯해 AI 부작용을 줄이기 위해 최선을 다하겠다고 밝혔다. “우리가 아인슈타인 코파일럿을 만든 이유는 신뢰를 기반으로 한 AI 사용을 확대하기 위함”이라며 “AI는 데이터를 원하지만 이 데이터를 보호해야 한다는 의견에 공감하며 안전성 확보에 최선을 다하겠다”고 말했다. 또 “AI로 2028년까지 1160만 개의 일자리가 창출되고 2028년까지 2조 달러(2657조 원)의 순이익이 발생할 것”이라며 “이러한 혁신에 모두 함께 하길 바란다”고 희망했다.