베스핀글로벌이 대형언어모델(LLM) 구원투수로 나섰다. LLM을 도입하고 싶지만 어려워하는 기업엔 맞춤형으로 AI 도입을 돕고, LLM 공급사엔 기술 공급을 지원한다. 공급사와 수요사  모두를 만족시키는 연결다리 역할을 하고 있다.

베스핀글로벌이 AI 지원군 역할을 할 수 있는 배경에는 ‘헬프나우 AI’ 서비스가 있다. 회사가 자체 개발한 대화형 AI 플랫폼이다. 국내외 빅테크 기업의 LLM을 연동해 챗봇, 콜봇 등 생성형 AI 에이전트 구축을 돕는다. 일례로 범용적으로 활용되는 GPT에 헬프나우 AI를 결합하면 각 기업에 최적화된 챗봇을 만들 수 있다. 기업이 가진 데이터와 지식 소스를 기반으로 맞춤형 GPT를 만들 수 있고, 기업에 최적화되어 있는 만큼 할루시네이션이나 보안 문제가 적다.

이미 김포국제공항은 헬프나우 AI를 활용해 국민 대상 챗봇을 구축했다. 공항 이용객이 출입국이나 주차, 상업 시설 등에 관해 물어보면 답변을 제공하는 챗봇이다. LLM을 이용해 국민 대상 챗봇을 구축한 경우로, 처음 우려한 것과 달리 답변 정확도가 높아 AI 기반 공항 서비스 개선의 닻을 올린 사례가 됐다. 다른 기업은 헬프나우 AI를 활용해 2개월 만에 클라우드 기반 AI 컨택센터(AICC)를 구축하기도 했다. 이를 통해 기존 구축형 서비스 대비 70% 이상 비용을 절감하고, 80% 가까이 기간을 단축했다고 밝혔다.

이 같은 베스핀글로벌의 AI 사업 모델은 AI 저변 확대의 단초가 되고 있다. LLM 기술을 보유한 빅테크 기업은 기술 개발에 막대한 자본을 투입했지만, 당장 수익으로 연결되지 않는 문제를 안고 있다. 사실 LLM은 기업간거래(B2B) 서비스로 사용하고자 할 때 쉽게 도입할 수 있는 모델이 아니다. 일종의 벡터 덩어리다. 중간에 프로세스와 아키텍처가 있어야 고객이 원하는 문제를 풀어줄 수 있다. 이 때문에 AI 도입을 원하는 기업들은 LLM에 관심은 크지만 이를 어떻게 도입해야 할지에 관한 과제를 안고 있었다. 베스핀글로벌은 그 사이에서 자체 기술 기반으로 LLM 도입을 지원해 진정한 AI 활용을 돕고 있다.

베스핀글로벌은 현재 LLM 기반으로 생성형 AI 도입을 지원하는 기업이 많지만, 이 분야에선 자사가 제일 유리한 위치에 있다고 자신한다. LLM 기술을 가진 빅테크 기업과 AI 도입 기업의 파트너로서 최적의 솔루션을 보유하고 있다고 밝혔다. 클라우드 운영 관리 서비스(MSP) 기업 베스핀글로벌이 AI에 자신하는 이유는 무엇일까. 박기철 베스핀글로벌 팀장을 만나 자세한 이야기를 나눠봤다.

◇ 헬프나우 AI, 유연함으로 최신 LLM 대응

“우리는 정말 좋은 AI 기술만 고객에게 선도적으로 제안하자는 목표를 갖고 있습니다. 사실 베스핀글로벌은 AI를 잘합니다. 자체 개발한 소규모대형언어모델(sLLM)과 자연어이해(NLU) 기술은 물론, 보유하고 있는 신경망 모델과 자연어처리(NLP) 엔진도 있습니다. 우리는 이러한 기술력을 바탕으로 좋은 AI를 고객이 사용하기 쉽게 최적화해 제공하고 있습니다. 이것이 헬프나우 AI입니다.”

박기철 팀장은 베스핀글로벌의 AI 기술력은 높은 편이라고 자신했다. 과거부터 데이터 사업과 AI 사업을 해왔고, 대기업 등에 AI 구축을 지원하며 필요한 시스템은 모두 보유하고 있다고 했다.

사실 MSP 기업인 베스핀글로벌에 AI는 필연이었다. 약 5000개 정도 고객사를 보유하고 있는 베스핀글로벌은 클라우드 운영 과정에서 AI 도입 요청을 계속 받아왔다. 구글 제미나이나 AWS 렉스 등 클라우드 서비스 제공사(CSP)가 보유한 AI 엔진 모델 등을 활용하고 싶단 요청이었다. 베스핀글로벌은 고객의 요구에 대응하기 위해 자체 보유한 AI 기술을 기반으로 LLM 도입 서비스를 준비했다. 오픈AI의 GPT4, 구글의 제미나이와 같은 LLM 모델을 고객의 필요에 따라 콜봇, 보이스봇, 에이전트 어시스트, 컨택센터 등으로 활용할 수 있게 했다.

박 팀장은 LLM 도입을 지원하는 역할은 베스핀글로벌이 선두에 설 수 있다고 자신했다. 현재 개발 속도가 빠른 LLM 흐름과 함께할 수 있는 솔루션은 헬프나우 AI라고 설명했다. 그 이유로 ‘스테이트 머신 빌더(State machine builder)’를 꼽았다. 이 프레임워크는 소프트웨어 개발에서 특정 객체의 관리를 위해 사용되는 스테이트 머신을 관리하는 도구다. 복잡한 로직을 명확하기 표현하고 시스템의 현재 상태를 쉽게 추적할 수 있는 장점이 있다. 헬프나우 AI는 이 프레임워크를 기반으로 작동한다. 이 때문에 복잡한 대화형 AI에 필요한 요구사항에 대응할 수 있다.

반면, LLM 도입을 지원하는 비슷한 제품은 ‘펑셔널 빌더(Functional builder)’ 기반인 경우가 많다. 객체가 생성된 후에는 그 상태가 변경되지 않는 불변성이 있다. 객체를 수정해야 하는 경우 수정된 새로운 객체를 반환해야 하는 작업이 동반된다. 현재 상태를 쉽게 추적하는 스테이트 머신 빌더에 비해 유연성이 부족하다.

박 팀장은 “과거 NLP 사업을 했던 기업은 펑셔널 빌더를 주로 활용했는데, 대화형 AI 등에는 제한될 수밖에 없다”면서 “헬프나우 AI는 기존 NLP 기술보다 상대적으로 늦게 나왔기 때문에 최신 기술을 이용, 복잡한 과제에 유연하게 대응할 수 있다”고 설명했다. 이어 “우리는 대화 흐름이나 상태, 라우팅, 이벤트 등에 대해 조합해서 답변하므로 활용도가 높은 편”이라며 “다른 AI 기업의 솔루션으로 LLM을 도입했다가 답변 정확도가 낮은 문제 등으로 원하는 과제를 해결하지 못해 고심하던 중 우리 솔루션을 이용해 본 후 바로 도입한 경우도 있다”고 덧붙였다.

◇ 멀티모달 지원도 이상 無, 고객 수요 증가

베스핀글로벌은 유연성이 강점인 헬프나우 AI로 멀티모달 구축 서비스도 준비하고 있다. 최근 LLM이 언어뿐 아니라 영상, 이미지, 음성 등 다양한 모달리티를 서비스하는 만큼, 고객들이 해당 기능을 효율적으로 활용할 수 있도록 서비스를 고도화하고 있다.

박 팀장은 특히 음성의 경우 헬프나우 AI 서비스가 강점이 있다고 밝혔다. ‘미디어 게이트웨이’ 기술을 보유하고 있어서다. 이 기술은 대화형 AI 플랫폼과 전화 통신을 연결하는 기술이다. 두 플랫폼을 연결하려면 중간에 게이트웨이가 필요한데, 그 역할을 한다고 보면 된다. 베스핀글로벌은 과거부터 음성봇 사업에 비전을 보고 자체적으로 미디어 게이트웨이 기술을 개발해 헬프나우 AI에 내재화했다. 다른 제품의 경우 이 게이트웨이를 마련하기 위해 큰 금액을 들여 해당 기술을 별도로 마련해야 하지만, 헬프나우 AI를 사용하면 해당 기능까지 이용할 수 있어 콜봇이나 음성봇을 쉽게 구축할 수 있다.

박 팀장은 “앞으로 컨택센터 등에선 음성봇의 수요가 더 커질 텐데, 우리 서비스는 간편하고 저렴한 가격에 해당 기술을 구축한다”면서 “많은 기업이 AI 기술을 쉽게 활용할 수 있도록 계속 기능을 강화해 나갈 방침”이라고 말했다.

베스핀글로벌은 헬프나우 AI 수요는 지속 높아지고 있다고 밝혔다. 기존에 많이 활용되던 AICC를 넘어 공공과 금융, 교육 분야에서도 찾는 기업들이 많아지고 있다고 했다. 박 팀장은 “공공 분야에선 서류 재발급이나 인적 사항 변경, 주차 등 잦은 민원에 대응하기 위해 우리 기술을 찾는 경우가 많아졌다”면서 “맞춤형 금융 상품 등에 관한 요구도 많다”고 밝혔다. 이어 “앞으로 좋은 LLM 기술을 고객에게 잘 전달하기 위해 지속 기술을 고도화 해 AI 대중화를 이끌겠다”고 강조했다.