대형언어모델(LLM)과 생성형 인공지능(AI) 성능을 묻는 논의는 이제 끝났다는 의견이 개진됐다. 이젠 LLM 성능보단 실제 활용에 주목해야 한단 의견이다.

이건복 한국 마이크로소프트(MS) 상무는 13일 어드밴텍이 여의도 전경련회관에서 주최한 ‘2025 어드밴텍-퀄컴 OS 포럼’에서 “어떤 LLM이 좋은지, 어떤 생성형 AI를 쓰는지 논의하는 시기는 이제 끝났다”며 “이제 기업들은 AI 활용에 초점을 맞춰야 한다”고 주장했다.

이 상무는 AI 활용의 대표 사례로 ‘에이전트’를 꼽았다. AI 에이전트는 LLM을 활용해 자연어 상호작용을 통해 특정 작업을 수행하는 반자율 소프트웨어다. 여기서 중요한 것은 ‘수행’이다. 생성형 AI는 질문을 하면 답을 제공해 줬다. 이 답을 기반으로 수행하는 것은 사람이었다. 하지만 에이전트는 여기서 수행까지 한다. 사람이 요청한 것을 이해해 행동으로 옮기는 특정 작업 태스크를 할 수 있다.

그는 이제 기업들은 LLM보단 에이전트 기반 AI 실행에 힘을 쏟아야 한다고 주장했다. “이제 돈을 버는 쪽은 LLM을 실행시키는 쪽이 될 것”이라며 “LLM을 구축하는 기업은 한정돼 있고 이미 끝난 게임”이라고 했다.

그는 AI 실행에 있어 에이전트의 장점으로 여러 에이전트가 함께 작업을 수행하는 ‘멀티 에이전트’를 꼽았다. 할당된 특정 작업을 수행하는 에이전트가 협업하는 것이 가능하다는 뜻이다. 일례로 HR을 하는 에이전트와 예약을 하는 에이전트, 데이터 작업을 처리하는 에이전트가 협업해 인사 업무를 할 수 있다. 그는 “에이전트는 특정 작업만 수행할 수 있게 발전할 것”이라면서 “특정 에이전트들이 협업해 업무를 지원하는 업무 문화가 곧 자리 잡을 것”이라고 했다.

멀티 에이전트는 분야와 상관없이 이뤄질 것으로 보았다. 사내 업무뿐 아니라 스마트팩토리, 유통 등 작업 현장에서도 발생할 것으로 전망했다.

LLM의 또 다른 활용 사례로는 ‘키오스크’를 꼽았다. 현재 키오스크는 사용이 불편하다고 평가된다. 주문을 하기 위해선 여러 번의 스크린 터치가 필요하기 때문이다. 여러 명이 모여 식사하러 가면 메뉴가 다다르고 옵션도 달라 터치 횟수가 많다. 사람에게 주문하는 것이 더 빠른 편이다. 키오스크가 어색한 사람은 주문을 포기하는 경우도 있다.

이 상무는 이러한 키오스크 활용도 LLM이 변화시킬 것으로 보았다. 현재 LLM은 사람의 대화맥락을 이해할 수 있고 인터넷이 없어도 내장형으로 활용할 수 있게 발전했기 때문이다. 그는 “키오스크에 소형언어모델(sLM)을 탑재하면 실제 사람에게 주문하듯 대화형으로 메뉴 주문이 가능해질 것”이라고 말했다.

그는 이러한 AI 활용에 있어 모든 기술이 다 준비됐다고 밝혔다. 소프트웨어, 하드웨어 기술은 물론 관련 모델도 모두 만들어진 상태라고 했다. 다만, 해당 시장에 진출하는 플레이어가 없다고 했다. LLM과 같은 AI 기술을 활용한 서비스 시장을 공략해야 하는데, 정부나 주요 기업들이 LLM에만 몰두하고 있는 것이 문제라는 뜻을 풀이된다. 그는 “이미 온디바이스 AI 등AI를 기기에 내장할 수 있는 기술은 물론 다양한 에이전트를 구동할 기술들이 준비됐다”며 “이젠 이를 잘 활용한다면 돈 버는 기업들이 나올 것”이라고 말했다.