인공지능(AI) 기술 경쟁이 고도화하는 만큼 불타오르는 시장이 있다. AI 반도체다.

AI 반도체는 AI의 두뇌 역할을 한다. 데이터를 학습이나 연산은 반도체에서 이뤄진다. 칩 성능에 따라 결과물이 달라지기 때문에 현재 AI 시장은 어떤 칩을 얼마만큼 확보했느냐가 하나의 경쟁력이 되고 있다.

AI 반도체의 대표 제품은 그래픽처리장치(GPU)다. AI는 주로 수많은 데이터를 학습한 후, 주어진 정보 안에서 연산해 결과를 도출한다. 그만큼 많은 데이터를 빠른 시간에 학습하고 연산하는 것이 중요하다. 그동안 프로세스 처리에 중앙처리장치(CPU)는 많은 데이터를 소화하는데 한계가 있었다. CPU는 직렬처리 방식으로 한 번에 하나씩 처리해 성능은 높지만, 여러 개의 데이터를 한 번에 처리하진 못했기 때문이다. GPU는 다르다. 병렬처리 방식으로 한 번에 여러 개의 데이터를 처리할 수 있다.

자동차로 비유하면 CPU는 시속 300㎞ 이상을 달리는 스포츠카이고, GPU는 150㎞ 속도도 못 내는 덤프트럭으로 볼 수 있다. 스포츠카는 덤프트럭보다 높은 속도와 효율로 목적지까지 이동할 수 있지만, 많은 양의 짐을 나를 때는 효율이 크게 떨어진다. 짐을 실을 수 있는 공간이 적어 짐을 여러 개로 나눠 반복해 옮겨야 해서다. 그만큼 시간과 연료가 많이 소모된다. 덤프트럭은 다르다. 속도는 느리지만 많은 짐을 한 번에 다 싣고 갈 수 있다. 여기서 짐은 데이터다. AI 학습과 연산에는 수많은 데이터가 들어가기 때문에 스포츠카인 CPU보단, 덤프트럭인 GPU가 더 유용하다고 평가된다.

이 때문에 많은 AI 기업은 GPU 확보에 심혈을 기울이고 있다. GPU 제조사인 엔비디아가 AI 시장 발전으로 높은 관심을 받게 된 이유도 여기에 있다. 엔비디아의 대표 GPU인H100과 A100은 전 세계적으로 수요가 높아 구하고 싶어도 구할 수 없는 칩으로 꼽힌다. 

AI 반도체 수요가 커지자 다른 팹리스(반도체 설계) 기업들도 병렬 처리 반도체 개발에 나서고 있다. 그래픽 처리를 목적으로 만들어진 GPU에서 AI 학습과 연산에만 사용되는 기능만 간추린 신경망처리장치(NPU) 등이 구글, 메타 등 글로벌 기업에서 만들어지고 있다. 퓨리오사AI, 사피온 등 국내 기업들도 해당 반도체 개발에 나서고 있는 중이다.

윤석열 대통령은 9일 용산 대통령실에서 열린 반도체 현안 점검회의에서 “지금 벌어지고 있는 반도체 경쟁은 산업 전쟁이자 국가 총력전”이라며 “AI와 AI 반도체 분야에 2027년까지 9조 4000억 원을 투자하고, AI 반도체 혁신 기업의 성장을 돕는 1조 4000억 원 규모 펀드를 조성하겠다”고 말하기도 했다.

이와중에 새로운 AI 반도체를 선보인 기업이 있다. CPU 강자인 인텔과 페이스북, 인스타그램으로 유명한 메타다.

◇ 엔비디아 독주 막는다...인텔·메타 연달아 새로운 AI칩 공개

인텔과 메타는 최근 잇달아 AI 칩 출시를 알렸다. 지난 9일 (현지시간) 인텔이 새로운 AI 칩 '가우디 3'를 공개한 것에 이어 10일 (현지시간) 메타에서 MTIA(Meta Training and Inference Accelerator) 2세대 모델을 선보이며 AI 반도체 시장의 90%를 차지하고 있는 엔비디아에 도전장을 내밀었다.

앞서 인텔이 공개한 ‘가우디 3’는 엔비디아 그래픽처리장치(GPU) H100보다 전력 효율이 두 배 이상 높고 실행능력도 1.5배 더 빠르다고 설명했다. 이 칩은 하나의 마더보드에 8개의 칩을 묶은 번들이나 기존 시스템에 슬롯을 장착할 수 있는 카드 등 다양한 구성으로 공급된다.

팻 갤싱어 인텔 최고경영자(CEO) 는 “올해 출시될 가우디 3는 경쟁사 대비 35%~최대 60%까지 더 빠른 추론 속도를 제공한다”며 “세계 4대 서버업체(SMCI, DELL, HPE, LENOVO)로부터 가우디 3를 탑재한 서버 시스템을 구축하겠다는 답을 받았다”고 말했다. 사친 카티 인텔 네트워킹 그룹 수석 부사장은 “인텔은 엔비디아와 달리 개방적인 이더넷(업계표준 네트워크 기술)을 사용하며 소프트웨어 생태계와 협력해 개방형 소프트웨어를 구축하고 있다”고 밝혔다.

인텔이 새로운 AI 칩을 선보인 다음 날(10일) 메타도 MTIA(Meta Training and Inference Accelerator) 2세대 모델을 공개했다. 메타는 “이전 모델보다 더 강력해진 차세대 맞춤형 AI 칩”이라며 “컴퓨팅과 메모리 대역폭(데이터 전송량)을 두 배 이상 늘리면서도 워크로드(작업량)과의 긴밀한 연계를 유지한다”고 밝혔다. 이어 “페이스북과 인스타그램등의 랭킹, 추천 광고 모델을 강화하는 데 도움이 될 것이며 자체 테스트 결과 4개 유형에서 3배 더 나은 성능을 보였다”고 했다.

메타가 선보인 차세대 MTIA가 컴퓨팅, 메모리 대역폭, 메모리 용량의 적절한 균형을 제공하는 데 중점을 두고 있다는 이야기다. MTIA는 현재 주로 페이스북 등 메타의 소셜미디어(SNS)에서 순위와 추천 알고리즘 구동을 위해 서버용으로 탑재된다.

메타는 “칩의 역량을 확장해 자체 대규모 언어 모델(LLM)인 라마와 같은 생성형 AI를 훈련하는 것이 목표”라 말했다. 마크 저커버그 최고경영자(CEO)는 최근 연내 총 60만 개의 H100급 AI 칩을 확보할 것이라고 밝히며 새로운 AI 칩 개발을 통해 전세계 AI 칩 시장을 장악하고 있는 엔비디아에 대한 의존도를 낮출 수 있을 것으로 기대하고 있다. 

인텔과 메타를 비롯한 글로벌 반도체 업체들이 잇따라 엔비디아 H100의 성능에 도전하는 AI 칩을 내놓으면서 경쟁은 더 치열해질 전망이다. 미 반도체 업체 AMD도 지난해 12월 차세대 AI 칩인 MI300X를 출시했고, 이 제품이 메타와 마이크로소프트, 오라클의 클라우드에 탑재된다고 밝혔다. 엔비디아는 지난달 H100의 후속작으로 새로운 아키텍처 ‘블랙웰’ GPU 기반의 AI 칩인 B100과 B200을 공개했다. 이 제품은 올해 하반기 출시될 예정이다.

반면 블룸버그 통신은 "이들 기업의 자체 개발 노력에도 불구하고 엔비디아의 AI 칩에 대한 수요에는 아직 영향을 미치지 못하고 있다"고 전했다.

◇네이버클라우드 x 인텔  "가우디2 기반 고성능 LLM 모델 개발"

아울러 인텔은 오늘(11일) 네이버클라우드와 함께 '가우디' 기반의 새로운 AI 칩 소프트웨어 생태계 구축에 나선다고 밝혔다. 네이버클라우드 측은 “최근 AI 칩 구매 부담으로 국내 스타트업·학교는 AI 리소스 환경이 매우 열악해진 상황”이라며 “국내 AI 연구 활성화와 AI 칩 생태계 다양성 강화를 공동 연구 방식을 인텔 측에 제안했다”고 전했다.

인텔은 이번 공동 연구를 ‘가우디’ 성능 입증의 수단으로 활용할 수 있다. 네이버클라우드 역시 자체 개발한 초대규모 AI 모델 ‘하이퍼클로바X’ 중심의 생태계 확장을 노릴 수 있는 구조다. 네이버클라우드와 인텔은 이를 위해 ‘AI 공동연구센터’(NICL·NAVER Cloud·Intel·Co-Lab)를 설립하기로 했다. 이 센터에는 한국과학기술원(KAIST·카이스트)·서울대학교·포항공과대학교(POSTECH·포스텍)를 포함한 국내 20여 개 연구실·스타트업이 참여한다.

양사는 국내 스타트업과 대학들이 AI 연구를 진행할 수 있도록 지원할 방침이다. 인텔의 AI 가속기 칩인 ‘가우디’ 기반의 IT 인프라를 다양한 대학과 스타트업에 제공하는 게 핵심이다. ‘가우디’를 기반으로 소프트웨어 개발과 산학 연구 과제 등을 운영할 방침이다.

김 대표는 또 “네이버는 지난 25년간 검색엔진·클라우드·생성형 AI 등 글로벌 빅테크 중심의 시장에서 사용자에게 또 다른 선택권을 제공해 왔다”며 “이러한 다양성은 네이버가 추구해 온 중요 가치 중 하나인데, 이런 맥락에서 현재 AI 칩 생태계의 다양성을 확보하는 것은 매우 의미가 있다고 판단했다”고 덧붙였다.