“인공지능(AI)이 조언자를 넘어 실행자가 되고 있습니다.”

김동원 THE AI 편집장 겸 기자가 밝힌 AI 트렌드다. 그는 22일 한국정보사회진흥원(NIA) 대구 본원에서 열린 제9회 대구AI연구자포럼 초청 강연에서 'AI가 가는 길, 그리고 가야 하는 길'을 주제로 발표하며 이같이 밝혔다.

대구AI연구자포럼과 대한전자공학회 대구경북지부가 주관하고, 한국전자통신연구원(ETRI) 대경권연구본부, NIA, 엑스코(EXCO)가 후원한 이날 포럼에서 김 편집장은 AI가 모델을 너머 ‘행동’의 범위에 진입했다고 밝혔다. 지금까지 대형언어모델(LLM)과 이를 기반으로 한 생성형 AI가 주목됐다면, 이제는 ‘AI 에이전트’, ‘피지컬 AI’ 등 실제 행동하는 AI가 트렌드를 이끌고 있다고 설명했다. 그는 “LLM 기반 챗봇과 AI 에이전트의 가장 큰 차이점은 행동”이라며 “웹사이트 트래픽이 40% 급감했을 때 챗봇은 ‘분석 도구를 확인하고 최근 변경 사항을 검토하라’고 조언하지만, AI 에이전트는 직접 데이터를 가져오고 문제 파악 시 버그 리포트를 생성하며 수정안까지 제공한다”고 설명했다. 이어 “AI 에이전트와 피지컬 AI는 미래 얘기가 아닌 지금 현실"이라며 "우리는 이제 행동하는 AI 시대를 준비해야 한다”고 강조했다.

◇ LLM은 재료, 에이전트가 주역

김 편집장은 AI 에이전트 시대에 LLM은 하나의 재료일 뿐이라고 밝혔다. 그 근거로 지난해 9월 세일즈포스 연례행사 ‘드림포스’에서 마크 베니오프 최고경영자(CEO)가 한 발언을 예시로 들었다. 당시 행사에서 한 기자가 “세일즈포스는 어떤 LLM을 사용하느냐”고 묻자, 베니오프 CEO는 “사람들은 케이크를 살 때 어떤 설탕이 쓰였는지, 초콜릿은 어디 것인지, 생크림은 어디 것인지 알고 구매하지 않는다”고 답했다. 케이크가 AI 서비스라면 LLM은 어디까지나 재료라는 것이다.

김 편집장은 “불과 얼마 전까지 생성형 AI와 LLM은 AI 트렌드를 상징하는 단어였지만, 이제 LLM은 주연에서 조연으로 자리를 옮기고 있다”고 말했다. 그는 자신의 경험을 예로 들며 “기사를 쓰는 AI를 만들 때 글을 잘 쓰는 클로드, 분석을 잘하는 GPT 등 여러 모델을 결합해 사용한다”며 “이처럼 LLM은 여러 개를 합쳐 사용하는 재료가 됐다”고 설명했다.

AI 에이전트가 주목받는 이유는 모델의 진화 때문이다. 과거에는 개발자들이 복잡한 의사결정 트리와 모든 시나리오에 대한 워크플로우를 하드코딩해야 했다. 하지만 모델이 정교해지고 추론 능력을 갖추면서 이 한계가 깨졌다. 김 편집장은 “이제 개발자는 모델과 도구만 정의하면 에이전트가 자율적으로 계획을 세우고 예상치 못한 상황에 실시간으로 적응한다”고 설명했다.

실제 활용 사례도 늘고 있다. 지난 9월부터 10월까지 진행된 ‘AWS AI 에이전트 글로벌 해커톤’에는 127개국에서 9500여 명의 개발자가 참여해 625개의 에이전트를 만들었다. 우승작은 동티모르에서 나왔다. 동티모르 수도 딜리에서는 매일 300t(톤) 이상의 쓰레기가 발생하지만, 그 중 100t 이상이 수거되지 않는다. 우승작 'Echo Lapee'는 시민들이 스마트폰으로 쓰레기 문제를 촬영하면 AI가 즉시 쓰레기 유형을 분류하고 심각도를 평가해 당국에 맞춤형 청소 우선순위를 제공한다.

국내에서는 우아한형제들의 ‘AI 에이전트 플랫폼 물어보새’가 대표적이다. 직원이 평소 말하듯 질문을 적으면 AI가 SQL을 만들어 필요한 데이터를 뽑아주거나 사내 문서를 찾아 정리된 답을 보여준다. 성한영 우아한형제들 AI·데이터분석 부문 팀장에 따르면 11월 말 기준 전사 구성원의 33%가 물어보새를 업무에 활용하고 있으며, 사용자의 95%가 AI 에이전트의 답변에 긍정적으로 반응했다. K-뷰티 브랜드들도 아마존, 쇼피, 라자다 등 글로벌 판매 채널의 데이터를 수집하는 작업을 AI 에이전트에게 맡겨 95%를 자동화하고 있다.

또 다른 행동하는 AI의 사례는 바로 피지컬 AI다. 피지컬 AI는 실제 물리 공간에서 움직이고, 감지하고, 조작하는 능력을 갖춘 AI로, 센서를 통해 실시간으로 환경을 인식하고 로봇이나 자율주행차 같은 물리적 시스템을 제어한다. AI 에이전트가 디지털 환경에서 행동한다면, 피지컬 AI는 우리가 사는 물리적 세계에서 직접 행동한다. 김 편집장은 “문자나 단어를 이해해 다음 토큰을 예측하는 LLM 기반 챗봇이 1차원 모델이고, 이미지와 비디오를 생성하는 모델이 2차원 모델이라면, 피지컬 AI는 현재 물리 상황을 이해하고 결과물을 내는 3차원 모델”이라고 설명했다.

피지컬 AI 업계에서는 이것이 현재 진행형이라는 의견이 나온다. 김 편집장은 “피지컬 AI 관계자들은 ‘우리는 지금 당장 하지 않아도 되지만, 고객사들이 원한다’고 말했다”며 “한국이나 일본 같은 고령화 국가에서는 인력이 계속 부족해지고, 젊은 세대는 공장 안에서 일하길 원하지 않아 기업들이 휴머노이드 도입을 서두르고 있다”고 전했다. 또 “업계에서는 5년 내 통제된 환경이 아닌 창고 같은 복잡한 현장에서 피지컬 AI가 활약할 것으로 보고 있다”고 덧붙였다.

◇ 행동하는 AI, 안전이 관건

김 편집장은 행동하는 AI 시대가 될수록 위험성은 더 커진다고 밝혔다. 그는 “챗봇은 틀려도 되지만, 에이전트는 출금, 구매, 예약 같은 되돌릴 수 없는 행동을 하기 때문에 안전이 무엇보다 중요하다”고 강조했다.

개인정보 보호도 핵심 과제다. “에이전트가 자동으로 결제를 해주면서 결제 정보를 알게 되는데, 해킹을 당하면 어떻게 할 것이냐가 문제”라며 “AWS의 한 부사장은 ‘AI 에이전트에게 신용카드를 맡기는 건 10대에게 신용카드를 주는 것과 같다. 필요한 걸 살 수도 있지만 사고를 칠 수도 있다’고 말했다”고 전했다.

AI 에이전트 방어를 위해서는 행동 패턴 분석뿐 아니라 수학적 검증도 필요하다고 설명했다. 유클리드 기하학을 증명하던 방식처럼 논리적 오류를 자동으로 검사하는 방법이다. 그는 “AI의 안전 검증은 AI를 개발하는 사람이 아닌 전문 검증 인력이 해야 하며, 이 분야가 앞으로 몸값이 많이 뛸 것”이라고 전망했다.

◇ 난제 해결로 나아가야

김 편집장은 마지막으로 AI의 방향성에 대해 설명했다. 그는 “현재 AI는 효율화에만 집중돼 있어 인력을 줄이고 일자리를 감소시키는 데 그치고 있다”며 “인류가 불가능하다고 여겼던 난제를 해결하는 방향으로 나아가야 한다”고 말했다.

그는 동티모르 팀이 AWS 해커톤에서 우승한 이유도 “자국 수도의 쓰레기 문제라는 난제를 해결하려 했기 때문”이라고 분석했다. 이어 “저출산·고령화, 암 극복, 신종 감염병 예측, 기후변화 대응, 특수교육 등 사회적·국가적 문제를 해결할 수 있는 AI를 만든다면 진정한 가치를 창출할 수 있을 것”이라며 “대구에서도 그런 AI가 나온다면 지역 AI 산업이 크게 발전할 수 있다”고 강연을 마무리했다.