아마존웹서비스(AWS)가 인공지능(AI) 에이전트를 실험실 수준을 넘어 실제 프로덕션 환경에 안전하게 배포할 수 있는 통합 솔루션 ‘아마존 베드록 에이전트코어(Amazon Bedrock AgentCore)’를 출시한다고 발표했다. 

에이전트코어는 AI 에이전트를 실제 비즈니스 환경에 배포하고 운영하기 위한 통합 인프라 서비스다. 최영준 AWS 데이터·인공지능 스페셜리스트 솔루션즈아키텍트(SA) 리더는 19일 서울 역삼동 AWS코리아 사무실에서 열린 ‘AWS 최신 생성형 AI 및 보안 기술 전략’ 기자간담회에서 “지금까지 AI 에이전트는 대부분 노트북에서 개념증명(PoC) 수준에 머물렀지만, 에이전트코어를 통해 신뢰성 있고 보안을 갖춘 프로덕션 환경으로 전환할 수 있게 됐다”고 밝혔다.

◇ AI 에이전트 배포의 7가지 핵심 과제, 한 번에 해결

에이전틱 AI 기술이 차기 경쟁력으로 떠오르면서 AI 에이전트에 관한 관심이 커졌지만, 아직 이 기술은 노트북에서 간단한 데모를 보여주는 수준에 머물렀다. 실제 비즈니스 환경에 배포하려면 확장성, 보안, 메모리 관리, 모니터링 등 복잡한 인프라 구축이 필요했기 때문이다.

AWS는 이런 과제를 7가지 모듈식 서비스로 해결했다. 가장 기본이 되는 ‘런타임(Runtime)’은 최대 8시간까지 실행되는 장시간 워크로드를 지원한다. 개발자가 어떤 AI 프레임워크로 에이전트를 만들었든 상관없이 모두 지원한다. 사용량에 따라 컴퓨팅 자원이 자동으로 늘어나거나 줄어들고, 시스템 오류가 발생해도 자동으로 재시작된다.

‘메모리(Memory)’와 ‘아이덴티티(Identity)’ 서비스는 에이전트가 지속적으로 학습하고 안전하게 작동하도록 돕는다. 메모리는 대화 내용뿐 아니라 사용자의 개인정보까지 기억한다. 여러 에이전트가 협업할 때 정보를 공유하는 것도 가능하다. 아이덴티티는 각 에이전트에 고유 ID를 부여해 필요한 시스템에만 접근하도록 권한을 관리한다.

실제 작업을 처리하는 도구들도 포함됐다. ‘게이트웨이(Gateway)’는 기존 API나 람다(Lambda) 함수를 몇 줄의 코드만으로 에이전트가 쓸 수 있는 툴로 바꿔준다. ‘코드 인터프리터(Code Interpreter)’는 에이전트가 자바스크립트, 파이썬 등의 컴퓨터 언어로 직접 코딩해서 문제를 해결할 수 있게 하고, ‘브라우저 툴(Browser Tool)’은 실제 웹사이트를 조작할 수 있게 한다. 모든 작업은 VM 수준으로 격리된 환경에서 실행된다.

‘옵저버빌리티(Observability)’는 에이전트가 무엇을 하고 있는지 실시간으로 추적하고 디버깅할 수 있게 해준다. 표준 모니터링 도구들과도 연동된다.

◇ 국내외 기업이 증명한 AI 에이전트 도입 성과

실제 도입 기업들은 성과를 거두고 있다. 세계 최대 신용평가사 무디스(Moody's)는 AWS 베드락을 이용해 멀티 에이전트를 구현, 종합 금융 리스크 보고서 생성 시간을 기존 1주일에서 1시간으로 단축했다. 글로벌 IT 서비스 기업 코그니전트(Cognizant)는 모기지 관련 규제 준수 워크플로우 자동화를 통해 50% 이상의 생산성 향상을 달성했다. 글로벌 농업기업 신젠타(Syngenta)는 AI 에이전트를 통한 정밀 농업으로 작물 수확량을 최대 5% 증가시켰다.

국내에서도 성과가 나타나고 있다. 리걸테크 기업 엘박스(LBOX)는 AWS 생성형 AI 기술을 활용해 법률 업무 혁신 플랫폼을 개발, 월 2만 명 이상의 법률 전문가가 사용하며 70%의 주간 재방문율을 기록하고 있다. 스타트업 이앤스는 AI 플랫폼 ‘커머스 OS’를 통해 수동 분석 시간을 최대 80% 단축하고 실시간 인사이트를 제공하고 있다.

시장 전망도 밝다. 가트너(Gartner)는 2024년 1% 미만이었던 AI 에이전트 포함 기업용 소프트웨어 앱이 2028년까지 33% 이상으로 늘어날 것으로 예측했다. 또한 2028년까지 일상적인 업무 결정의 15%가 AI 에이전트를 통해 자율적으로 이루어질 것으로 전망했다.

◇ AI 개발 환경 리모델링, 비용 절감과 성능 향상 모두 이뤄

AWS는 에이전트코어와 함께 AI 통합 개발환경 ‘키로(Kiro)’도 새롭게 선보였다. 키로는 명세 중심 개발을 처음으로 접근하는 AI 플랫폼이다. 개발자가 입력한 프롬프트를 상세한 소프트웨어 명세로 변환하고, 이를 기반으로 반복적으로 개선하면서 코드와 문서, 테스트를 생성한다.

키로는 사용자가 따로 명령하지 않아도 AI가 알아서 작업할 수 있는 자동화 기능을 갖추고 있다. ‘에이전트 후크(Agent Hook)’ 기능을 통해 파일 저장 같은 이벤트가 발생하면 사전 정의된 프롬프트에 따라 백그라운드에서 자율적으로 문서 작성이나 단위 테스트, 코드 최적화 작업을 수행한다. ‘에이전트 스티어링(Agent Steering)’은 프로젝트 진행 과정에서 축적되는 노하우와 정보를 문서로 자동 저장해 나중에 재활용할 수 있게 한다.

AWS는 또한 벡터를 지원하는 최초의 클라우드 객체 저장소인 ‘아마존 S3 벡터스(Amazon S3 Vectors)’도 출시했다. 벡터 저장 비용을 90% 절감하면서 1초 미만의 검색 성능을 유지하는 기능이다.

AI 에이전트와 툴을 위한 새로운 마켓플레이스 카테고리도 신설했다. 이미 업스테이지, 샌드버드, LG CNS 등 한국의 주요 파트너들이 적극 참여하고 있다. 업스테이지는 비정형 문서를 LLM 친화적으로 전처리하는 ‘도큐먼트 인텔리전스’를, 샌드버드는 다양한 채널에서 생성형 AI 기반 고객 상담을 제공하는 ‘에이전트 4 커스터머 서비스’를 제공한다.

투자 규모도 대폭 확대한다. AWS는 AI 대중화를 위해 기존 1억 달러 규모의 제너레이티브 AI 이노베이션 센터에 추가로 1억 달러를 투자해 총 2억 달러 규모로 확대한다고 발표했다. 또한 누구나 참여할 수 있는 'AWS AI 리그'를 통해 프롬프트 엔지니어링과 모델 커스터마이제이션 교육도 제공한다.

최영준 리더는 “AWS는 세계에서 가장 신뢰할 수 있고 유용한 에이전트를 구축하고 배포하기 위한 최고의 환경을 제공하는 것을 목표로 한다”며 “에이전트코어를 통해 AI 에이전트가 이제 실험실을 벗어나 실제 비즈니스 현장에서 본격 활용되는 전환점을 맞게 될 것”이라고 말했다.