생성형 AI를 쓰다 보면, 같은 질문에도 답이 제각각 달라 당황스러운 경우가 많다. 이른바 ‘일관성 문제’다. 기업 입장에서는 고객 상담이나 규정 검토처럼 신뢰가 중요한 업무에서 AI를 적용하기 어려운 이유가 된다.

국내 AI 기업 인포시즈는 이 문제를 해결하기 위해 지식그래프 기반 솔루션 ‘GORAG(고래)’를 개발했다. 온톨로지 자동화를 결합해 답변의 근거와 일관성을 강화한 것이다. 인포시즈는 세계 그래프 DB 시장 점유율 1위 기업 Neo4j(네오포제이)의 국내 파트너사로, GORAG는 양사 협력을 바탕으로 완성됐다.

내부 테스트 결과, 기존 60~70% 수준이던 답변 정확도를 95% 안팎으로 개선한 GORAG는 현재 철강·반도체·금융 등 다양한 산업 분야에서 도입 협의가 이어지고 있다. 인포시즈 탁정수 대표를 만나 사업화 현황과 시장 반응을 들어봤다.

Q. 최근 시장 반응은 어떻게 달라지고 있나?

3~4개월 전만 해도 “지식그래프가 무엇이냐”는 반응이 많았으나, 최근에는 도입 일정과 적용 부서를 먼저 묻는 사례가 늘고 있다. 예전에는 한 달에 한 건 정도였던 문의가 최근에는 한 주에 2~3건 수준으로 증가했다.

업종별로는 제조업, 금융업, 통신업에서 문의가 많다. 적용 분야도 다양해져 AI 지식검색을 비롯해 ERP, 회계, 경영관리, 인사 같은 공통 업무로까지 확산하고 있다. 최근에는 ‘AI 향 데이터(AI Ready Data)’를 준비하려는 흐름과 맞물려, 데이터레이크하우스 같은 통합 데이터 플랫폼과 지식그래프를 연계하려는 문의도 늘고 있다.

Q. 기존 생성형 AI와 비교했을 때 GORAG의 차별점은?

GORAG의 가장 큰 강점은 온톨로지 자동화다. 기업이 보유한 문서를 업로드하면 AI가 해당 도메인에 맞는 구조를 자동으로 생성·갱신한다. 정형(CSV)과 비정형(PDF) 데이터를 하나의 그래프로 연결해 근거 기반 응답을 제공하는 방식이다. 이 과정을 통해 과거 전문가가 수개월 이상 수작업으로 구축해야 했던 기간을 크게 줄일 수 있다.

정확도 개선 효과도 뚜렷하다. 기존 벡터 기반 RAG는 60~70% 수준에 머물렀지만, 내부 테스트에서 GORAG는 약 95%까지 향상됐다. 이는 Claude Sonnet(클로드 소넷)을 활용해 보험 약관 기반 지식그래프를 구축한 뒤, 현업이 제공한 95건의 질문으로 진행한 평가 결과다. ▲일관성 ▲출처 정합성 ▲세부 정보 충실성 ▲응답 포괄성 ▲구체성 ▲추론 정확성 등 여섯 가지 항목에서 모두 GORAG가 우위를 보였다.

Q. 현재 계약 논의는 어느 단계인가?

여러 업종에서 계약 협의가 병행되고 있다. 제조업에서는 반도체, 화학, 에너지, 엔지니어링 분야 기업들과 PoC(개념검증)에서 상용 전환까지 이어지는 논의가 진행 중이다. 기밀 유지 계약상 기업명은 공개할 수 없지만, 한 공공기관과는 수의계약으로 프로젝트를 수주한 상태이며 이 성과를 계기로 동일 군(群) 기관에서 후속 문의가 이어지고 있다.

현장에서는 CSV와 PDF가 혼합된 데이터에서 원인 추적이나 품질 문제를 해결할 수 있는 기술을 찾는 수요가 크다. 이러한 요구가 지식그래프 접근법과 맞물리면서 도입 검토가 확대되고 있다.

Q. 도입 비용이나 복잡성 때문에 망설이는 기업도 있을 텐데, 어떻게 접근하고 있나?

제품 체험 기회를 먼저 제공하고 있다. 간단한 지식 검색은 웹에서 바로 이용할 수 있으며, 도메인별 체험 환경도 마련해 두었다. 그럼에도 복잡한 내부 업무에 적용하려면 PoC를 통해 가능성과 타당성을 검증하는 경우가 많다.

과거 평균 3개월이 걸리던 PoC는 현재 약 2~4주로 단축됐다. 기업들은 이 짧아진 기간을 통해 실제 효과와 투자 수익률(ROI)을 검증한 뒤, 점진적으로 적용 범위를 확대하고 있다. 처음부터 전사 시스템에 통합하기보다 보험 약관 검색, 내부 규정 질의응답 같은 특정 도메인부터 시작하는 경우가 일반적이다.

비용 구조는 투명하게 공개하고 있다. 클라우드 GPU와 오픈소스 솔루션을 활용해 초기 비용을 낮추고, 필요에 따라 엔터프라이즈 옵션으로 확장할 수 있는 체계를 갖추고 있다. 또한 PoC 단계부터 기업 내부 팀이 운영·관리 방법을 익히도록 지원해 외부 벤더 의존도를 최소화하고 있다.

Q. ‘AI 향 데이터 체계 구축’ 흐름과는 어떻게 맞물리고 있나?

국내 주요 은행·증권사를 중심으로 전사 데이터 현대화 사업이 활발히 추진되고 있다. KB국민은행의 약 100억 원 규모 프로젝트나 S증권의 데이터 고도화 사업처럼, 대규모 투자가 진행되는 과정에서 온톨로지나 그래프 구축 도구를 함께 검토하는 사례가 늘고 있다.

레거시 시스템을 AI가 활용하기 좋은 형태로 정비하려는 흐름과 맞물리면서 관련 문의가 증가하고 있다. 최근에는 데이터 체계 구축을 위한 컨설팅 사업이 공고되는 동시에, 데이터 플랫폼과 지식그래프를 통합적으로 적용하기 위한 사업자 선정 절차도 이어지고 있다.

Q. 글로벌 경쟁 환경에서 GORAG의 경쟁력은?

GORAG는 단순한 정확도를 넘어 실사용 지표에 집중하고 있다. 답변 일관성, 근거 제시, 응답 속도가 대표적인 기준이다. 해외에서도 마이크로소프트가 GraphRAG를 선보였으나, 질의당 응답 시간이 수 분 단위로 걸려 활용에 제약이 있었다. GORAG는 동급 정확도를 유지하면서도 실시간에 가까운 응답 속도를 구현했다.

온톨로지 자동화 기능도 해외 솔루션과 뚜렷한 차별점이다. 전문가가 장기간 투입돼야 했던 작업을 자동화해 기업이 빠르게 도입할 수 있는 환경을 마련했다. 여기에 국내 대기업과의 협업 경험을 기반으로 해외 진출 가능성을 확보한 점도 경쟁력이다.

Q. 온톨로지 자동화에도 한계가 있지 않나?

온톨로지를 자동화한다고 해도 도메인 전문 지식이 전혀 필요 없는 것은 아니다. 문서와 데이터에서 주요 개념과 관계를 추출하는 과정은 자동화할 수 있지만, 규제 준수나 예외 규칙 해석 같은 영역은 여전히 전문가의 판단이 필요하다.

따라서 자동화가 약 80%를 담당하고, 나머지 20%는 전문가가 검수·보완하는 구조가 가장 효율적이다. GORAG는 사용자 인터페이스(UI)를 질문·응답 형태로 설계해, 온톨로지에 익숙하지 않은 사용자도 스키마를 정의하거나 수정할 수 있도록 지원한다.

결국 온톨로지 자동화는 전문가를 대체하는 기술이 아니라, 전문가가 시간을 전략적으로 쓸 수 있게 만드는 보조 도구라는 점에서 의미가 있다.

Q. 특허·IP 전략은 어떻게 세우고 있나?

인포시즈는 그래프 기반 검색·매칭 기술에서 국내외 특허를 확보해 나가고 있다. 현재 등록된 특허는 4건, 출원 중인 것은 8건이다. 대표적으로 ▲그래프 데이터베이스를 이용한 이상 징후 탐지 ▲데이터 관계 추적 ▲데이터 전처리 ▲질문 답변 방법 등이 있다. 이러한 특허는 단순한 권리 확보 차원을 넘어 경쟁사가 동일한 방식을 그대로 적용하기 어렵게 만드는 장치다.

Q. 금융·증권 분야에도 적용 예정이라는데?

규정성 문서나 공시·리포트 해석에서는 근거를 제시하는 응답이 필수다. 금융·증권사에서 이런 요구가 강하게 제기되고 있어 문의가 이어지고 있다. 특히 고객 대응 품질과 감사 추적성을 동시에 확보하려는 수요가 많다. 실제 도입은 대부분 PoC 단계에서 시작해 효과를 검증한 뒤, 업무 단위를 넓히는 순서로 진행되고 있다.

Q. 해외 진출 계획은 어떻게 세우고 있나?

국내에서 빠르게 레퍼런스를 쌓으면서 내년부터는 단계적으로 해외 진출을 추진할 계획이다. 특히 Neo4j와의 파트너십을 통해 협력 채널을 활용할 수 있다는 점이 강점이다. 현지 기업과의 PoC를 통해 레퍼런스를 확보하는 전략을 병행하면서, 아시아 시장을 우선 공략할 방침이다. 기업 문화가 유사한 만큼 진입 장벽이 상대적으로 낮을 것으로 예상한다.

Q. 향후 사업 확장 방향은?

올해는 제조·금융·공공 분야를 중심으로 성과를 쌓는 데 집중하고 있다. 이후에는 의료 기록 분석, 판례 검토처럼 규정과 근거가 중요한 도메인으로 확장할 계획이다. 이런 분야는 GORAG가 가진 ‘근거 제시형 AI’의 장점이 가장 잘 드러나는 영역이다.

또한 도면 자동 해석 솔루션 '델타플로우'도 사업화를 진행하고 있다. 국내 대형 터빈 제조사와 화학업체는 PoC를 마치고 본 프로젝트 단계로 넘어섰다.

앞으로는 GORAG와 델타플로우를 함께 제공해 문서·데이터 기반 지식그래프와 현장형 AI 워크플로를 결합한 통합 포트폴리오를 구축할 예정이다.