“우리 기업도 생성형 인공지능(AI)을 사용할 수 있을까?” 이 질문에 답을 찾아주는 기업이 있다. 대형언어모델(LLM) 올인원 솔루션 회사 ‘올거나이즈’다.

올거나이즈는 한국과 미국, 일본에서 기업 내 LLM 도입을 지원해왔다. 데이터 유출, 오류 답변 생성 등의 문제를 줄여 기업에서 원만하게 생성형 AI를 사용할 수 있게 했다. 사실 기업에게 LLM 도입은 쉽지 않은 과제다. 업종과 업무 등에 적합한 AI 모델이 무엇인지 모르고 데이터 침해, 할루시네이션(환각) 현상 등의 위험 요소도 산재해서다. 이 문제를 줄여온 기업이 올거나이즈다.

회사는 여기서 그치지 않고 일반 대중을 만난다. 16일부터 양일간 서울 동대문디자인플라자(DDP)에서 열리는 AI 전문 전시회 ‘TAS(THE AI SHOW)’에 참가해 관련 내용을 전시하고, 컨퍼런스 연사로 나서 LLM 도입 전략을 설명한다. LLM 도입에서의 어려움과 극복 방안 등을 널리 알리기 위해서다.

이창수 올거나이즈 대표는 16일 AI 컨퍼런스 ‘THE AI Forum’에 연사로 참여해 ‘기업을 위한 3단계 LLM 액션 플랜: RAG, 경량화, 앱을 중심으로’라는 주제로 발표한다. 올거나이즈는 LLM 도입을 위한 서비스를 제공하면서 기업이 챗GPT와 같은 LLM를 사내에 도입할 때 발생하는 현장 문제를 파악해왔다. 기술적 문제부터 낮은 투명성에 대한 문제, 도메인 특화 지식에 대한 이해 등이다. 이 대표는 한국과 미국, 일본 기업들을 대상으로 LLM 프로젝트를 진행하면서 경험한 어려움과 극복 방안을 직접 소개할 계획이다.

이번에 올거나이즈가 선보이는 3단계 LLM 액션 플랜은 오류 답변을 막아주는 RAG(Retrieval Augmented Generation, 검색 증강 생성) 기능, AI 모델 경량화, LLM 애플리케이션 모아 놓은 플랫폼이다. RAG는 생성형AI의 큰 문제로 꼽히는 정보의 오류를 막는다. 이러한 LLM의 오류 현상을 ‘환각(Hallucination)’이라고 표현하는 데 최신의 정보가 없거나 잘못된 정보를 가져와 이상한 답변을 내놓는 경우를 뜻한다.

이 기능은 기업들의 내부 데이터나 최신 정보를 연결해 챗 GPT와 AI가 제대로 된 답변을 할 수 있도록 맥락을 제공한다. 검색 엔진에 접속해 정보를 찾거나 내부 문서에서 맥락을 찾아주는 것을 흔히 ‘리트리버’라고 한다. 강아지 리트리버가 공을 물어오는 것처럼 정보를 물어온단 뜻이다. 이러한 실시간 정답 피드백을 반영하는 올거나이즈의 RAG 기술을 TAS에서 직접 경험해볼 수 있다.

2단계로 AI 모델 경량화 기술을 선보인다. 빅테크 기업들이 LLM 모델을 모든 사람이 가져다 사용할 수 있도록 공개하고 있다. 하지만 기업들이 이러한 AI 모델을 활용할 때 보안 등의 문제로 온프레미스(사내설치형) AI 모델을 사용해야할 때가 있다. 하지만 LLM를 사내 설치하기엔 큰 비용 문제가 발생하기 때문에 경량화해 진행해야 한다. 올거나이즈는 금융 특화 경량화 모델을 9월 발표했다. 이번 TAS에서 올거나이즈는 모델 훈련을 위한 데이터 준비 및 생성, 양질의 데이터 확보, 학습 비용 및 성능 테스트 관련 노하우를 공개한다.

3단계로 모든 LLM 애플리케이션을 한 곳에서 사용할 수 있는 LLM 플랫폼이다. 오픈AI의 GPT, 네이버의 하이퍼클로바 X, 앤트로픽의 클로드 2등 수많은 LLM이 출시되고 있다. 이러한 서비스들은 빠른 속도로 기능이 업데이트되고 있는 실정이다. 반면 개별 기업 고객이 AI 전담팀을 내부에 두고 기술을 연구하며 비즈니스로 연결하는 것은 어려운 일이다. 올거나이즈의 LLM 플랫폼은 이러한 문제를 해결해 업무 자동화에 바로 적용할 수 있는 LLM 앱을 앱 마켓 형태로 제공하고 있다. LLM 앱 빌더도 제공하기 때문에 비개발자도 코딩 없이 클릭 몇 번으로 LLM 앱을 쉽게 만들 수 있다. 이는 마케팅, 회계, 법률, 인사 등 다양한 영역에서 사용할 수 있다.

이창수 올거나이즈 대표는 “한·미·일 기업 고객과 지난 6년간 AI 프로젝트를 진행해 왔기 때문에 그간의 경험과 노하우를 공유하고자 전시회와 컨퍼런스에 참여하게 됐다”며 “다양한 직군이 즉시 사용할 수 있는 LLM앱을 제공해 현장에서 직접 시연을 통해 참관객과 소통해 나가겠다”고 말했다.

이번 올거나이즈가 참가하는 TAS 2023은 AI 전시회와 컨퍼런스, 시상식 등이 함께 열리는 AI 축제다. 16일부터 양일간 DDP 아트홀 2관과 컨퍼런스홀에서 열린다. 국내외 대표 AI 기업이 참가해 시민이 체감할 수 있는 AI 기술을 선보인다. 인공지능 전문매체 ‘더에이아이(THE AI)’와 스마트미디어그룹 ‘첨단’이 공동 주최하고, 디지틀조선일보, 국제인공지능&윤리협회(IAAE)가 후원한다. 전시회와 컨퍼런스 참가 신청은 TAS 2023 공식 홈페이지에서 할 수 있다. 참가 비용은 무료다.