대형언어모델(LLM) 올인원 솔루션 기업 ‘올거나이즈’가 금융 분야를 전공한 인공지능(AI) 비서를 내놨다. 금융 특화 언어모델 ‘알리 파이낸스 LLM’이다.

알리 파이낸스 LLM은 메타 라마2를 기반으로 경량화한 금융 특화 sLLM(소형언어모델)이다. 금융 도메인에 특화된 데이터를 학습해 다른 AI 모델보다 금융 서비스에 적합하다. 일례로 챗GPT는 ‘LTV’라는 단어를 물어볼 경우, 고객의 생애 동안 기여하는 평균적인 가치를 나타내는 마케팅 지표인 ‘Lifetime Value’의 약어라고 대답한다. 하지만 알리 파이낸스 LLM은 같은 질문에 금융 약관 등에 자주 나오는 ‘Loan to Value’(담보 인정 비율)의 약어라고 답한다. 그만큼 금융 담당자가 AI를 활용하기 쉬운 편이다.

sLLM인 만큼 상업용으로 사용하기도 편하다. sLLM은 인간 두뇌의 시냅스에 해당하는 파라미터(매개변수) 규모가 LLM보다 작지만, 훈련을 위한 데이터·시간·비용 등이 상대적으로 적게 든다. 그만큼 특정 용도의 AI 서비스를 개발하기 용이하다. 알리 파이낸스 LLM은 파라미터(매개변수)가 130억개인 13B와 700억개인 70B의 두 모델이 함께 출시돼 프로젝트 비용과 난이도에 따라 모델 크기를 자유롭게 선택할 수 있다.

알리 파이낸스 LLM은 올거나이즈의 올인원 LLM 플랫폼 ‘알리’(Alli)에서 인지검색 및 요약에 바로 사용 가능하다. 금융 용어를 이해하는 모델이 올거나이즈의 강력한 검색증강생성(RAG, Retrieval Augmented Generation) 기술과 결합해 답변의 적합도를 높일 수 있다. 금융 상품 설명서, 경제 전망 보고서 등 원하는 문서를 업로드한 후, 특정 부분을 검색해서 찾아주거나 요약해 달라고 프롬프트(명령어)를 입력하면 된다. 일부 페이지만 지정해서 검색 및 요약할 수 있으며, 수식이 들어간 복잡한 표에서도 원하는 내용을 찾을 수 있다.

올거나이즈는 알리 파이낸스 LLM을 사용하면 최대 2주 안에 기업 전용 sLLM(소형언어모델)을 구축하고 비용 최적화까지 가능하다고 밝혔다. 또 회사 데이터 반출에 대한 보안 우려 없이 기업 전용 온프레미스 LLM 앱 마켓을 구축할 수 있도록 지원한다고 설명했다. 회사 측은 “금융모델과 금융 쪽 업무 자동화에 특화된LLM 앱 마켓을 고객사의 전용 네트워크 환경에서 사용할 수 있다”며 “앱 마켓을 통해 금융 전문 용어는 물론, 기업 내부 용어나 약어가 반영된 업무 생산성 앱을 쉽게 만들고 사용할 수 있다”고 밝혔다. 또 “직군별 업무 자동화에 특화된 100개의 앱도 사전 등록돼 제공된다”고 설명했다.

올거나이즈는 2017년부터 한국, 미국, 일본 3개국에서 동시에 사업을 진행하며 누적 200개 이상의 엔터프라이즈 기업 고객에게 AI 솔루션을 제공하고 있다. 현대카드, KB증권, 일본의 미쓰이스미토모은행(SMBC) 금융그룹, KDDI, KAO, 미국의 트래블러스 등에서 사용 중이다.

이창수 올거나이즈 대표는 “알리 파이낸스 LLM은 금융 특화 LLM과 앱 마켓을 동시에 제공해 도입 즉시 바로 실무 적용이 가능하다”면서 “올거나이즈는 2017년부터 KB증권, 현대카드, 일본 SMBC 금융그룹 등 거대 금융 고객사들과 함께하며 금융 분야에서의 지식관리 노하우를 쌓아왔고, 그 경험을 토대로 금융 특화 sLLM 모델을 출시한 만큼 보험, 제조업 등의 분야로 시장을 넓혀가겠다”고 말했다.