포티투마루, 생성형 AI의 고질병 ‘허언증’ 치료

검색 증강 생성 기술 ‘RAG’로 생성형 AI의 할루시네이션 현상 제거

앤서링 AI(Answering AI) 스타트업 포티투마루가 9월 25일부터 사흘간 삼성동 코엑스에서 열리는 ‘대한민국 디지털 미래혁신대전 2023’에 참가해 검색 증강 생성 기술이 적용된 RAG42를 공식 출시한다고 22일 밝혔다.

검색 증강 생성 기술인 RAG(Retrieval-Augmented Generation)는 방대한 양의 대규모 원천 데이터로부터 초거대 인공지능(AI)이 필요로 하는 특정 정보나 지식만 정확하게 검색(Retrieval)해 내는 기술로서, RAG를 활용하면 초거대 언어 모델은 해당 정보를 기반으로 정확한 답변이나 문장을 생성할 수 있게 된다.

생성형 AI의 최대 단점으로 지적되는 할루시네이션(환각) 현상은 잘못된 정보를 마치 사실인 양 그럴싸하게 대답하는 현상으로, 특히 기업 내 의사 결정 과정에서 잘못 활용하게 되면 치명적인 결과를 초래할 수도 있다. 포티투마루의 RAG42는 초거대 언어 모델 활용의 핵심이 되는 스마트 Embedding, 딥러닝 기반의 Retrieval, 인스트럭트 튜닝을 통한 Prompt Engineering 등의 자체 보유 기술로 환각 현상을 제거하여, 답변의 신뢰성을 확보하고 높은 품질과 성능을 보장한다.

챗GPT, 바드, 하이퍼클로바 X, 엑사원 등의 대규모 LLM(Large Language Model)부터 각 기업이나 연구서에서 자체 개발하고 있는 소규모 sLLM(small LLM)까지, 어떠한 모델의 초거대 인공지능을 사용하더라도 RAG42를 활용한 환각 해소와 품질 고도화가 가능하다. 포티투마루는 모델 종류에 상관없이, RAG 컨설팅부터 LLM 솔루션 구축까지 RAG42를 활용한 원스톱 서비스를 제공해 나갈 예정이다. 특히, 각 산업군별 도메인 특화 엔진 개발이 가능하도록 학습데이터 구축부터 파인 튜닝까지 전 과정을 지원해 줄 예정이다.

김동환 포티투마루 대표는 “아무리 훌륭한 레시피가 있어도 재료가 신선하지 않으면 한계가 있다. 원천 데이터에서 최적의 정보를 발굴하고 정제하여 훌륭한 LLM 모델을 만들 수 있도록 도와주는 것이 RAG42의 역할”이라며 “이미 10여곳이 넘는 기업 및 기관과 PoC를 진행하며 20% 이상의 환각 해소와 품질 향상을 견인하고 있다”고 밝혔다.