포티투마루, 기업용 대형언어모델 ‘LLM42’ 공개

비즈니스에 최적화한 경량화 모델… 챗GPT 환각 현상 문제 해결

인공지능(AI) 스타트업이 대형언어모델(LLM)을 개발한 사례가 나왔다. 기계독해(MRC) 및 자연어처리(NLP) 전문 기업 ‘포티투마루’다. 회사는 10일 서울 코엑스에서 열린 ‘AI Tech 2023 컨퍼런스’에서 자체 개발한 LLM인 ‘LLM42’를 발표했다. 

LLM은 챗GPT와 같은 생성형 AI 모델을 만드는 기반이 된다고 평가되는 모델이다. 하지만 이 모델은 자본과 기술, 데이터가 풍부한 일부 기업만 할 수 있는 분야라는 한계가 있었다. 모델 구축에만 억에서 조 단위의 비용이 투입되고 운영 단가도 높아서다.

포티투마루는 MRC 등을 자체 개발한 기술력 등을 토대로 기업용 LLM을 개발했다. 대기업과 빅테크 기업처럼 범용적으로 사용할 수 있는 모델 대신 기업에서 비즈니스용으로 활용할 수 있는 경량화 모델을 만들었다. 솔루션 구축과 학습, 서빙에 들어가는 비용을 획기적으로 절감하고, 기업용 프라이빗 모드를 지원해 기업 내부 데이터와 민감한 고객 정보 유출에 대한 걱정 없이 안전하게 거대 언어모델을 사용할 수 있게 하기 위해서다. 

비즈니스 목적으로 사용되는 만큼 범용 모델에서 발생하는 문제점도 줄였다. 대표적으로 챗GPT의 대표 단점으로 꼽히는 환각(hallucination) 현상을 99% 이상의 정확도로 검증된 QA(Question Answering) 모델과의 엔지니어링으로 완벽하게 제거했다고 밝혔다. 환각현상은 오류 데이터를 AI가 학습해 틀린 답은 제시하는 현상을 뜻한다.

김동환 포티투마루 대표는 “환각 현상은 LLM 자체적으로는 근본적인 해결이 불가하지만, 다년간 다양한 산업 분야에서의 상용화로 검증된 QA42 정답 엔진을 통해 해결할 수 있었다”며 “지속적인 연구개발을 통해 국내외 생성형 AI 시장을 선도해 나가겠다”고 말했다.