김지관 한국IBM 상무 “내년, AI 에이전트 조율·주권 확보가 핵심 과제”

28일 양재 aT센터서 강연
AI 시스템 통합 수요 급증
사일로 현상에 ROI 확보 난항

“내년도 핀테크·금융 분야에서는 AI 에이전트 간 조율(오케스트레이션)과 AI 주권 확보가 핵심 과제로 떠오를 전망입니다.”

김지관 한국IBM 클라이언트 엔지니어링 총괄 상무의 말이다. 그는 28일 서울 서초 양재aT센터에서 열린 ‘코리아 핀테크 위크 2025’에서 내년 가장 중요한 화두는 AI 에이전트 간 오케스트레이션과 AI 주권 확보가 될 것이라고 강조했다. 그는 올해까지 부서별로 흩어져 구축되던 AI 시스템을 하나의 접점에서 통합·관리하려는 요구가 급증했다며, 이러한 흐름이 내년에는 더욱 가속화될 것으로 내다봤다. 이에 따라 AI 에이전트를 조율하는 오케스트레이션 기술과 AI 주권·거버넌스 체계 확립이 기업들의 핵심 과제로 부상할 것이라고 전망했다.

김 상무에 따르면 기업들은 현재 AI 도입에 여러 어려움을 겪고 있다. 그는 “기업들이 각 업무 부서별로 AI 어시스턴트와 에이전트를 도입했지만 사일로(고립) 현상이 심해 전체적인 관리·통제와 투자수익률(ROI) 확보에 어려움을 겪고 있다”며 “하나의 채팅창에서 모든 시스템을 연동하려는 요구가 강해지고 있다”고 설명했다.

이러한 요구에 IBM은 올해 다수의 국내 기업과 AI 에이전트 통합 파일럿 프로젝트를 진행했다. 김 상무가 소개한 사례에서는 단일 채팅 인터페이스를 통해 고객관계관리(CRM), 인사(HR), 구매조달 시스템을 연결해 1인이 타겟 마케팅 캠페인 설계부터 대행업체 선정, 담당자 채용까지 처리할 수 있도록 구현했다.

이날 김 상무는 주권형 AI(Sovereign AI)의 중요성도 강조했다. 그는 “AI 주권은 데이터·모델·인프라 주권과 규제 대응 거버넌스로 구성된다”며 “국방·산업 기밀, 개인정보 보호 측면에서 해외 클라우드 의존도를 낮추고 온프레미스(자체 서버 구축) 환경을 선호하는 추세”라고 말했다.

김 상무는 국내 금융사와 제조사들은 올해 IBM과 함께 온프레미스 방식의 AI 도입 프로젝트를 진행했다고 설명했다. 특히 배터리·반도체 등 산업기밀이 중요한 제조업과 개인정보를 다루는 금융권에서 온프레미스 요구가 강했던 것으로 나타났다.

금융권의 경우 기간계 시스템 현대화(모더나이제이션)에도 AI를 활용하고 있다. 김 상무는 “기간계를 구성하는 코볼(COBOL)이나 C 언어 코드를 자바로 전환하는 작업에서 AI가 상당 부분 자동화를 지원하고 있다”고 설명했다.

거버넌스 측면에서는 프랑스 크레딧 뮤추얼 은행 사례를 제시했다. 고객 3000만 명, 점포 4000개 규모의 이 은행은 IBM과 협력해 35개의 AI 유스케이스를 개발·운영 중이며, 유럽연합(EU) AI법의 고위험 AI 규제에 대응하기 위해 ‘IBM 왓슨엑스(WatsonX)’ 거버넌스 플랫폼을 자체 데이터센터에 구축했다. 

김 상무는 “AI 모델에 대한 관리·감독, 품질 관리, 할루시네이션(환각) 방지, 비용 모니터링 등을 전사적으로 자동화하는 플랫폼 수요가 증가하고 있다”며 “IBM은 에이전트 AI, 온프레미스 AI, 거버넌스 체계를 아우르는 토탈 솔루션을 제공하고 있다”고 설명했다.