[TAS 2023] 김동환 포티투마루 대표 “업무 효율성 높은 기업 특화형 AI”

‘THE AI Forum’서 'LLM 도입 전략' 발표

“초거대 인공지능(AI) 활용한 업무 효율화 환각현상(hallucination) 없는 특화형 AI로 전문성 키워야”

김동환 포티투마루 대표가 16일 동대문디자인플라자(DDP)에서 열린 ‘TAS 2023(THE AI SHOW 2023)’ 행사의 AI 컨퍼런스 ‘THE AI Forum’에 연사로 참여해 한 말이다. 김 대표는 “초거대 AI로 사람이 눈으로 보고 생각하고 판단하고 생산하는 걸 AI가 하고 있다”며 “생성형 AI가 업무 효율성을 대폭 줄여주고 있는 가운데 환각, 보안, 고비용 문제를 고려해 전문성 있는 AI 도입을 해야 한다”고 말했다.

하지만 LLM 도입에서 발생하는 문제가 있다. 김 대표는 환각, 보안, 고비용의 문제를 꼽으며“업무 효율화를 높일 수 있는 LLM 도입이 빨라지고 있는 가운데 잘못된 답변을 제시하는 환각 현상과 보안 문제가 있다”며 “이러한 문제를 해결하고 비용 문제를 고려해 특정 분야 데이터만을 학습시켜 환각 현상을 낮춘 특화형 AI 활용이 적합하다”고 설명했다.

AI 활용으로 업무 간소화가 이뤄지고 있다. 김동환 대표는 이날 컨퍼런스 발표에서 초거대 AI가 업무에 활용되는 상용 사례에 대해 소개하고 초거대 AI 모델로 다가올 미래 전문성을 높이려면 특화 AI가 필요하다고 제언했다. 김동환 대표는 “생성형 AI 기술로 간단한 문서작업뿐만 아니라 세금계산서, 검사성적서 등 복잡한 문서 인식 및 생성이 가능해졌다”며 “사람보다 완벽한 문서처리를 돕는다”고 말했다.

포티투마루는 금융·의료·조선해양·보험·미디어·법률·교육 분야 등 모든 산업과 연결돼 업무 자동화를 돕는 대형언어모델(LLM) 서비스를 공급하는 AI 기업이다. 김동환 대표는 이날 다양한 분야에서 적용된 생성형 AI 상용사례를 소개했다. 그는“가게 앞에서 사진만 찍으면 가게 정보를 AI가 예측해 준다”며 “메뉴판을 찍으면 영양성분, 칼로리를 파악해 개인별 맞춤 추천도 한다”고 설명했다. 낮은 문해력 해결에도 도입됐다. 그는 “문해력 증진을 위한 자동 질의 생성 및 채점 솔루션에도 활용되고 있다”고 말했다.

수많은 데이터를 분석해야 하는 금융 및 엔지니어링 분야 활용도 높다. LLM은 콜센터 업무뿐만 아니라 인테리어 상담 업무 활용되고 있다. 초거대 AI로 업무의 효율성이 높아지고 있다. 복잡한 문서화 작업을 단순화시킬 뿐 아니라 언어·이미지 생성 능력으로 많은 노동력이 들어가는 업무를 중심으로 적극 도입되고 있다.

김동환 대표는 “금융, 엔지니어링 분야는 많은 데이터가 보유돼 AI가 이를 분석하고 업무 처리를 위해 활용되는 경우가 많다”며 “자동차 고장에 대한 정비 추천도 AI가 정비 이력을 표준화하고 딥러닝 기반으로 자동 분류해 이뤄지고 있다”고 설명했다. 이어 그는 “모든 분야에서 LLM 도입이 빨라지고 있다”며 “초거대 AI의 기능이 이전 대비 진일보했다”고 언급했다.

포티투마루는 기업용 LLM 모델을 지원하는 기업으로 최근 MS 글로벌 경진대회, 한국어 모델 경진대회에서 1등을 하는 등 LLM 부문 기술력을 입증받았다. 지난 5월에는 환각, 보안, 고비용 문제를 해결한 기업용 거대언어모델인 ‘LLM42’를 공개하고 지난 9월에는 방대한 양의 대규모 원천 데이터로부터 LLM 모델이 필요로 하는 최적의 정보와 지식만 도출하고 정제하는 기술인 ‘RAG42’를 선보여 국내 시장 공략에 나섰다.

이번 컨퍼런스가 진행된 TAS 2023(THE AI SHOW 2023)은 AI 전시회와 컨퍼런스, 시상식 등이 함께 열리는 AI 축제로 16일부터 양일간 DDP 아트홀 2관과 컨퍼런스홀에서 열렸다. ‘인간을 더 인간답게 만드는 AI’라는 주제로 국내외 대표 AI 기업이 참가해 일반 시민이 체감할 수 있는 AI 기술을 선보였다. 이 행사는 인공지능 전문매체 ‘더에이아이(THE AI)’와 스마트미디어그룹 ‘첨단’이 공동 주최하고, 디지틀조선일보, 국제인공지능&윤리협회(IAAE)가 후원한다.