엔비디아 그래픽처리장치(GPU) ‘A100’이 금융 분야에서도 성능을 입증했다. 엔비디아는 슈퍼마이크로서버의 A100 GPU가 최근 ‘STAC-ML 벤치마크’에서 추론 부문 최고 성능을 기록했다고 10일 밝혔다. STAC-ML은 금융 서비스 관련 기술 성능을 측정하는 대회다.

A100은 현재 개발자들이 구할 수 있는 GPU 중 가장 성능이 뛰어나다고 평가되는 제품이다. 많은 양의 데이터 추론이 필요할 때 주로 사용된다.

STAC-ML 추론 벤치마크는 장단기 메모리(LSTM) 모델 추론의 지연시간을 측정하도록 설계됐다. 여기서 지연시간은 새로운 인풋 데이터를 받아 모델의 아웃풋이 연산되기까지 걸리는 시간을 의미한다. LSTM은 자산 가격과 같은 금융 시계열 데이터의 발견에 주로 사용되는 모델이다.

엔비디아는 이 GPU로 성능 테스트를 한 결과 초당 수천 개의 추론을 제공해야 하는 모델에서 압도적인 성적으로 1위를 기록했다고 밝혔다. 또 지연시간 측정 부문에서도 선두에 올랐다고 설명했다. 실제로 슈퍼마이크로 울트라 슈퍼서버에서 구동되는 A100 GPU는 99점의 백분위 점수로 낮은 지연시간을 기록했다. 

엔비디아에 따르면 금융 부문에서 예측가능한 성능과 낮은 지연시간 환경을 구축하는 것은 중요하다. 급히 돌아가는 시장 상황을 쫓아가기 위해선 많은 작업량과 시간이 손실로 이어질 수 있어서다. 

엔비디아 측은 “금융 서비스 업계는 데이터 처리량의 개선과 더불어 운영 효율의 향상을 통해 이익을 창출할 수 있다”며 “데이터센터 내 시스템들의 에너지와 평방 피트당 사용량을 줄이는 것으로 운영비 지출을 크게 줄일 수 있는데, 이는 새로운 고성능 시스템의 비용 문제로 고민하는 IT 조직들에게 특히 중요한 부분”이라고 설명했다.