포티투마루가 네이버 초거대 인공지능(AI) ‘하이퍼클로바X’의 기업 활용 구원투수로 나섰다. 하이퍼클로바X를 기업 설치형으로 제공하는 작업을 준비하고 있다. 초거대 AI가 가지고 있는 할루시네이션(환각), 보안, 비용 문제를 해결한 기업간거래(B2B) 모델이다. 독점적으로 계약을 따낸 상황으로 현재 최종 계약을 앞두고 있다.

2일 AI 업계에 따르면, 네이버는 하이퍼클로바X를 기업 설치형으로 제공하기 위해 국내 생성형 AI 스타트업인 포티투마루와 계약을 앞두고 있다. 환각, 보안, 고비용 문제를 해결해 기업에서 안심하고 쓸 수 있는 생성형 AI를 하이퍼클로바X를 기반으로 제공하기 위해서다. 현재까지 네이버와 계약을 앞둔 곳은 포티투마루 한 곳으로 알려졌다.

하이퍼클로바X와 같은 초거대 AI는 기업에서 활용이 어렵다고 평가됐다. 오답을 그럴싸하게 정답처럼 제시하는 할루시네이션 현상이 있고, 범용으로 사용되는 대형언어모델(LLM)은 보통 서비스형소프트웨어(SaaS)로 제공돼 기업의 민감한 데이터가 유출될 가능성이 있어서다. 비용 역시 문제다. LLM은 개발과 운영에 많은 돈이 들어간다. 수천억 원에서 조 단위 금액이 투입되고 있다. 이 때문에 잦은 업데이트가 어렵고, 사용자가 내야 하는 운영 비용 부담도 크다.

네이버는 이 문제를 줄이기 위해 지난 4월 하이퍼클로바X의 경량화 버전인 HCX-DASH(하이퍼클로바X-DASH) 모델을 선보였다. 기존 모델보다 저렴한 비용으로 이용할 수 있는 버전이다. 고객사가 클로바 스튜디오에서 기존 대비 5분의 1 수준의 가격으로 신규 모델을 이용할 수 있게 했고, 효율적인 컴퓨팅 자원 활용을 기반으로 속도를 개선했다. 하지만 문제가 있었다. HCX-DASH는 클라우드 버전으로 제공되기 때문에 보안 등에 취약했다.

현재 시장에서는 이 문제에 대응하기 위해 메타 ‘라마3’와 같은 오픈소스를 활용한 소규모대형언어모델(sLLM)을 활용하고 있다. 기업에 있는 데이터를 학습해 정확한 답변을 제시하고 설치형으로 제공해 보안을 강화한 기업용 생성형 AI가 쓰이고 있다.

네이버는 하이퍼클로바X의 파운데이션 모델을 기반으로 기업용 버전을 사용할 기업을 찾고 있었다. 이미 2~3개월 전부터 포티투마루와 HCX42로 공동 영업 중인 것으로 알려졌다. 하이퍼클로바X의 경우 라마3나 오픈AI GPT보다 한국어 처리에 강하기 때문에 국내 사용자에게 여러 혜택을 줄 수 있고, 네이버에서도 AI 기반 수익 창출을 할 수 있어서다. 

포티투마루는 비즈니스에 활용할 수 있는 sLLM을 만드는 대표 기업이다. 사용자 질의 의도를 의미상으로 이해하고 방대한 비정형 데이터에서 ‘단 하나의 정답’을 도출하는 딥 시맨틱 질의 응답(QA) 및 텍스트 분석(TA) 플랫폼을 개발해 왔고, 기업용 생성형 AI에 쓰일 수 있는 RAG42와 MRC42와 같은 기술을 선보였다. RAG42는 방대한 원천 데이터로부터 필요한 정보를 정확히 검색해 LLM이 정확한 답변을 생성할 수 있게 하는 기술이다. 스마트 임베딩, 딥러닝 기반 리트리벌, 인스트럭트 튜닝을 통해 AI가 오답을 낼 수 있는 오류를 최소화하고 신뢰성 높은 답변을 제공한다. MRC42는 딥러닝 기반 인공지능 독해 솔루션이다. 정확도 중심의 MRC는 LLM의 단점인 할루시네이션을 보완할 수 있는 기술이다.

포티투마루는 이미 기업용 생성형 AI 활용에 기술력을 인정받았다. 스탠퍼드대에서 주관하는 글로벌 인공지능 독해 경진대회에서 1위를 차지했고, 마이크로소프트(MS) 주관 생성형 AI 경진대회 GLGE  요약 부문에서도 1위를 한 경험이 있다.

AI 업계 관계자는 “하이퍼클로바X는 그동안 보안, 비용 등의 문제로 기업에서 활용이 제한돼 왔다”면서 “포티투마루와 협력을 통해 B2B 거래에 속도가 높아질 것”이라고 평가했다. 이어 “다양한 산업 분야에서의 상용화 경험을 보유한 포티투마루와 설치형 B2B 시장 진출을 통해 하이퍼클로바X 저변 확대에도 가속도가 붙을 것”이라고 덧붙였다.