엔비디아, H100 GPU 생성형 AI 성능평가 입증

MLPerf 벤치마크서 8개 분야 신기록

엔비디아가 새롭게 내놓은 그래픽처리장치(GPU)인 엔비디아 H100 텐서 코어 GPU(이하 H100)가 생성형 AI를 구동하는 대형언어모델(LLM) 성능 평가에서 최고 높은 점수를 받았다. 그동안 다양한 GPU 모델로 전 세계 대다수 AI 개발을 지원해 온 엔비디아가 기술력을 앞세워 최근 화두인 생성형 AI 영역까지 장악할 것으로 전망된다.

엔비디아는 MLPerf 벤치마크에서 H100이 LLM 성능 평가에서 최고 점수를 받았다고 27일 밝혔다. 회사에 따르면 H100은 최신 MLPerf 트레이닝 벤치마크에서 8개 테스트 모두에서 신기록을 세웠다. 생성형 Al를 위한 새로운 MLPerf 테스트에서도 높은 성능을 발휘했다.

실제로 스타트업 ‘인플렉션 AI’가 공동 개발하고 GPU 가속 워크로드 전문 클라우드 서비스 제공업체인 ‘코어위브’가 운영하는 3584개의 H100 GPU로 구성된 상용 클러스터에서 이 시스템은 11분 이내에 대규모 GPT-3 트레이닝 벤치마크를 달성했다. 브라이언 벤투로(Brian Venturo) 코어위브 최고기술책임자(CTO)는 “우리 고객들은 오늘날 빠르고 지연 시간이 짧은 인피니밴드 네트워크에서 수천 개의 H100 GPU를 통해 최첨단 생성형 AI 및 LLM을 대규모로 구축하고 있다”며 “엔비디아와 공동으로 제출한 MLPerf는 우리 고객들이 누리고 있는 뛰어난 성능을 명확하게 보여준다”고 말했다.

인플렉션 AI는 이러한 성능을 활용해 개인용 AI인 Pi(Personal Intelligence)의 기반이 되는 고급 LLM을 구축했다. 인플렉션은 사용자가 간단하고 자연스러운 방식으로 상호 작용할 수 있는 개인용 AI를 개발하는 AI 스튜디오 역할을 하게 된다.

설리만 인플렉션 AI 최고경영책임자(CEO)는 “코어위브의 강력한 H100 GPU 네트워크에서 훈련된 최첨단 LLM 기반으로 누구나 개인용 AI의 힘을 경험할 수 있을 것”이라고 했다.