[인터뷰] 김동환 포티투마루 대표 “AI 신뢰성 확보 위한 생태계 뒷받침 돼야”

‘Good AI Awards 2024’ 대상 기업
단순한 인증, 법규보다 거버넌스 확립 중요
내년 해외 진출 본격화… AX 시장 공략

“규제를 넘어 인공지능(AI) 신뢰성 강화 위한 실질적인 거버넌스 확립과 지원이 뒷받침돼야 합니다”

김동환 포티투마루 대표가 이같이 강조했다. 포티투마루는 지난해 AI 기술력과 신뢰성을 평가해 수상하는 ‘Good AI Awards 2024’에서 대상을 수상하며 3년 연속 수상(2022년 우수상, 2023년 최우수상, 2024년 대상)이라는 기록을 세운 바 있다. 생성형 AI의 신뢰성 문제를 정면으로 해결한 기술력과 AI 윤리 확립을 위한 지속적인 노력이 높은 평가를 받았다.

포티투마루는 공공·산업 특화 AX(AI로의 전환) 전문 스타트업으로 대형언어모델(LLM)의 할루시네이션(환각) 현상을 완화하는 검색증강생성(RAG) 기술 RAG42와 AI 독해 기술 MRC42를 기반으로 산업 분야에 특화된 경량화 모델 LLM42 개발·서비스하고 있다. 데이터 유출 걱정 없이 AI를 활용할 수 있도록 기업 모드를 지원한다.

포티투마루는 공공과 민간에서 AI 신뢰성 인증을 받았다. 김 대표는 “국내 유일하게 공공과 민간 양대 AI 신뢰성 인증을 모두 1호로 획득한 기업”이라며 “지난해 11월 과학기술정보통신부와 한국정보통신기술협회(TTA)의 ‘AI 신뢰성 인증(CAT)’을 국내 LLM 최초로 획득했고, 한국인공지능산업협회(AIIA)의 ‘AI-MASTER’ 신뢰성 인증도 최초로 획득했다”고 설명했다.

이는 포티투마루가 LLM42의 윤리·안전성·신뢰성 확보를 위해 다양한 내외부 활동을 꾸준히 추진한 결과다. 김 대표는 “AI안전연구소(AISI) 컨소시엄, AI 신뢰성 얼라이언스 자문, AI 윤리정책 포럼, AI 레드팀 챌린지 등의 외부 활동과 자체 소프트웨어 품질관리 체계 확립, 사내 안전위원회 발족 등 내부 활동을 지속적으로 추진해왔다”고 말했다.

더불어 오는 12월 3일 열리는 ‘Good AI Awards 2025’에 대해 그는“AI를 누구나 믿고 안심하고 활용할 수 있는 환경을 조성하기 위한 여정”이라며 “AI 신뢰성은 Good AI Awards로부터 시작된다” 응원했다.

다만 아직 국내 민간 부문에서 AI 신뢰성 인식은 부족하다는 게 그의 생각이다. “스타트업이나 중소기업은 전문 인력 부족과 프로세스·시스템을 갖추기 위한 비용 부담도 있지만, AI 신뢰성이 얼마나 중요한 요소인지에 대한 인지 부족이 제일 큰 문제”라고 지적했다.

◇ “AX 시장 폭발적 성장할 것”

김 대표는 AI 캐즘 이후 AI 시장이 폭발적으로 성장할 것이라고 예상했다. “챗GPT 출시 이후 AI에 대한 관심도 고조되고 대중화되고 있지만, 산업 현장에서는 본격적인 도입이 아직 미진하다”며 “AI 버블, 투자 대비 수익률(ROI)에 대한 고민 등 AI 도입을 위한 탐색 과정을 거치고 있는데, 일종의 AI 캐즘 기간이라고도 할 수 있다”고 설명했다.

이어 “앞으로 성공 사례가 나오면 AX 시장은 폭발적으로 성장할 것”이라며 “이는 1990년대 말~2000년대 초반의 IT 시장과 거의 유사한 흐름을 보이고 있다”고 덧붙였다.

그는 이러한 AX 시장에 대응하려면 경영진의 의지가 중요하다고 강조했다. 그는 “기술적 관점에서는 환각·보안·비용 문제를 어떻게 해결할 것인가가 중요하지만, 거버넌스 측면에서는 결국 경영진의 의지가 제일 중요하다”며 “경영진도 AI 시대에 대한 공부를 해야 한다”고 밝혔다.

포티투마루는 내년부터 미국과 중동 시장을 중심으로 해외 시장 진출을 본격화한다. 그는 “국내에서는 민간 산업 분야 외에도 공공·행정 분야에서의 AX 사업을 강화할 것”이라며 “해외 사업 확장도 적극 추진할 계획”이라고 밝혔다.

한편, 김동환 포티투마루 대표는 내달 2~3일, 인공지능 전문매체 THE AI가 여의도 FKI타워에서 개최하는 ‘THE AI SHOW(TAS) 2025’ AX 컨퍼런스의 연사로 나선다. ‘한국, AI 제조 강국으로 대전환’을 주제로 개최하는 행사에서 김 대표는 AX 핵심 전략에 대해 소개할 예정이다. 아울러 3일 부대행사로 개최되는 ‘GOOD AI 어워즈 2025’에도 참여한다. 행사 사전등록은 AX 컨퍼런스 신청 사이트(링크)에서 가능하다.