아마존웹서비스(AWS)와 앤트로픽 동맹이 인공지능(AI) 판을 흔들고 있다. AWS 그래픽처리장치(GPU) 기반 저렴한 모델 개발부터 아마존 베드록을 통한 생성형 AI 확산까지 높은 시너지를 내고 있다. 이를 넘어 세계 최고 수준 AI 컴퓨팅 클러스터도 준비 중이다.

앤트로픽은 지난달 24일(현지시각) 추론과 비추론 모델을 통합한 ‘클로드 3.7 소네트(Claude 3.7 Sonnet)’를 공개했다. 세계에서 처음 선보여진 추론·비추론 통합 모델이다. 앞서 추론과 비추론 통합을 언급했던 오픈AI보다 빨랐다. 오픈AI는 앤트로픽을 의식한 듯 지난 27일 비추론 모델인 GPT-4.5를 리서치 프리뷰(research preview) 방식으로 출시하며 다음 모델인 GPT-5부터는 추론모델과 통합한 AI를 출시하겠다고 밝혔다.

앤트로픽이 출시한 클로드 3.7의 성능은 입증되고 있다. 캘리포니아대 연구 기관인 ‘하오 AI 랩’(Hao AI Lab)은 지난달 28일 슈퍼마리오 브라더스 게임에 클로드, 오픈AI, 구글 등의 AI 모델을 적용해 성능을 평가했다. 각 AI에 ‘장애물이나 적이 가까이 있으면 왼쪽으로 이동하거나 점프해 피하라’와 같은 기본 지침 등을 학습시켰다. 이후 파이선 코드 형태로 입력값을 생성해 AI가 마리오를 제어할 수 있도록 했다. 그 결과 가장 높은 성능을 낸 것은 클로드 3.7이었다. 연구진은 “(오픈AI와 구글의) 추론모델은 행동을 결정하는 데 보통 몇 초의 시간이 걸리기 때문에 슈퍼마리오와 같은 타이밍이 중요한 게임엔 불리했다”고 말했다. 앤트로픽은 클로드 3.7을 출시하며 “우리는 최초의 하이브리드 추론 모델을 출시했다”며 “현재까지 가장 지능적인 모델”이라고 밝히기도 했다.

앤트로픽이 이같은 AI를 개발할 수 있었던 데에는 AWS의 조력이 있었다. 김기완 AWS코리아 솔루션즈 아키텍트 총괄은 5일 AWS코리아 오피스에서 열린 신년 기자간담회에서 AWS와 앤트로픽은 AI 개발과 보급에 있어 밀접한 관계를 맺고 있다고 밝혔다. 앤트로픽은 AWS의 AI 칩인 ‘트레이니움2’를 활용해 모델을 만들고 있고, 개발한 모델은 아마존 베드록을 통해 개발자에게 제공하고 있다고 했다.

◇ AWS 트레이니움, 엔비디아 H100보다 비용 효율성 높아

김 총괄은 “GPU라고 하면 보통 엔비디아만 생각하는데, 많은 기업이 GPU와 같은 AI 칩을 만들고 있고 AWS도 모델 학습과 추론에 최적화된 ‘트레이니움’과 추론에 특화한 ‘인퍼런시아’ 칩을 제공하고 있다”며 “앤트로픽의 경우 ‘클로드 3.5 하이쿠’ 모델을 만들 때 트레이니움2를 사용해 60% 빠르게 모델을 개발했다”고 말했다.

트레이니움2는 AWS가 AI 모델의 훈련과 추론을 가속화하기 위해 설계한 2세대 GPU다. 이전 버전 대비 최대 4배 높은 성능을 제공한다. 대형언어모델(LLM)과 같은 수천억에서 조 단위 이상 파라미터를 가진 모델의 훈련·배포에 최적화돼 있다. 이 AI 칩은 엔비디아 H100과 비교해 비용 효율성도 높다고 평가된다. 

김 총괄은 “파트너사인 풀사이드가 우리 CPU인 그래비톤과 GPU인 트레이니움2를 사용해 모델을 만든 결과, 인텔 CPU보단 10~40%까지 비용이 절감되고 트레이님2도 H100과 비교했을 때 40% 비용이 절약되는 것을 입증했다”고 말했다.

AWS는 여기서 더 나아가 앤트로픽과 대규모 AI 슈퍼컴퓨터를 구축하는 ‘프로젝트 레이너’(Project rainier)를 추진하고 있다. 수십만 개 트레이니움2 칩을 활용해 세계적 수준의 규모를 갖춘 AI 컴퓨팅 클러스터 구축을 목표로 한다. 이를 위해 트레이니움2 기반 아마존 EC2 TRN2 인스턴스를 만들었다. 이 인스턴스는 16개 트레이니움2 칩을 탑재해 20.8 페타플롭스의 연산 성능을 제공한다.

◇ 최신 AI 모델, 아마존 베드록으로 보급

AWS와 앤트로픽의 협업은 모델 개발에만 국한하지 않는다. 아마존 베드록을 통해 앤트로픽의 AI 모델을 배포하고 있다. 최근 출시한 클로드 3.7 소넷도 마찬가지다. 이를 통해 개발자는 앤트로픽의 최신 AI 모델을 쉽게 이용할 수 있다.

아마존 베드록은 하나의 플랫폼에서 여러 파운데이션 모델을 서비스하는 제품이다. 사용자는 베드록에서 제공하는 파운데이션 모델을 쉽게 비교하고 파인튜닝할 수 있다. 여러 파운데이션 모델을 비교하기 위해 비싼 비용과 시간을 소모할 필요가 없다. 아마존 베드록에선 앤트로픽뿐 아니라 아마존, 메타, 코히어, 스태빌리티AI, AI21랩스 등이 개발한 파운데이션 모델이 제공된다.

아마존 베드록을 사용해 서면작성 AI를 개발한 주식회사 대륜의 박성빈 개발팀장은 “AI가 빠른 속도로 발전하면서 지금도 하루에도 몇십 개씩 모델이 쏟아지고 있고 내일 또 새로운 모델이 나오고 있다”면서 “아마존 베드록은 이러한 모델들을 빠르게 대응해 준다”고 평가했다. 동태완 대륜 파트장은 “아마존 베드록을 이용하면 자체적으로 하드웨어를 구축하지 않아도 클라우드를 이용해 저렴하게 AI를 구축할 수 있다”면서 “구축하려는 AI에 적합한 파운데이션 모델을 쉽게 비교해 볼 수 있는 점이 큰 장점”이라고 말했다.