데이터센터 시장이 AI 시대를 맞아 급격한 변화를 겪고 있다.

특히 전력 소비와 공간 효율성이 새로운 화두로 떠오르면서, 기업은 성능뿐 아니라 전력 대비 성능, 즉 전성비도 최우선 과제로 삼았다. 최근 몇 년간 대규모 AI 학습을 위한 GPU 도입이 폭발적으로 증가하면서, 데이터센터 운영자들은 예상치 못한 전력 부족 사태에 직면했다. 5년 전 설계된 데이터센터가 현재는 GPU 서버 몇 대만으로도 전력 용량을 초과하는 상황이 빈번해졌다. 

이러한 배경에서 CPU의 역할이 재조명되고 있다. GPU가 대용량 병렬 연산을 담당한다면, CPU는 데이터 전처리와 후처리, 전체 시스템 오케스트레이션을 담당하는 핵심 요소다. AMD는 CPU부터 GPU, DPU, 네트워크 솔루션까지 아우르는 풀스택 전략으로 시장에서 독보적인 입지를 구축하고자 한다. 2017년 1% 수준이었던 서버 시장 점유율을 2024년 40%까지 끌어올린 AMD는 국내 시장에서도 빅테크부터 스타트업까지 폭넓은 고객층을 확보하며 성장 가속도를 높이고 있다. 이에 이재형 AMD 코리아 세일즈 대표를 만나 AI 시대에 강조되는 CPU의 역할과 자사 제품의 강점, 비즈니스 전략에 대해 이야기 나눠봤다. 

◇ AI 시대, CPU의 전략적 가치

AMD 코리아의 성장 스토리는 2019년으로 거슬러 올라간다. 당시 AMD는 ‘Zen 2’ 아키텍처 기반의 2세대 AMD 에픽(EPYC) 서버 프로세서를 공식 출시하며 데이터센터 시장에서 입지를 강화했다. 이재형 대표는 이 시점에 AMD에 합류해 커머셜 클라이언트 제품과 데이터센터 비즈니스를 총괄했다. 이 대표는 “당시 시장 점유율은 미미했지만, 칩렛(Chiplet) 구조로 새롭게 설계된 CPU가 데이터센터에서 고성능과 비용 효율성을 보여줄 것이라는 자신감이 있었다”고 회상했다. 

실제로 AMD의 전략은 적중했다. 글로벌 시장에서 2024년 2분기 기준 매출 점유율 40%를 돌파하며, 불과 5년 만에 시장 판도를 완전히 바꿨다. 국내 시장 역시 글로벌 트렌드를 그대로 따라가는 추세다. 이재형 대표는 “우리나라는 글로벌 빅테크의 트렌드를 빠르게 수용하는 시장”이라며 “특히 전력 효율성과 콘솔리데이션에 대한 니즈가 강해 APAC 지역 내에서도 성장률이 높은 편”이라고 설명했다. 

AMD의 성공 요인은 제품 성능에만 있지 않다. CPU, GPU, DPU, 네트워크 솔루션을 모두 보유한 풀스택 포트폴리오를 중심으로 고객의 데이터센터 전체 설계를 컨설팅하는 접근 방식이 주효했다. 이 대표는 “고객이 제안요청서를 작성하기 전 단계에서 우리와 먼저 상담하는 경우가 많다. 이는 전력 공급부터 상면 활용까지 통합 솔루션을 제시하기 때문”이라고 강조했다. 

◇ AMD 풀스택 전략과 CPU의 재발견

전력 확보는 데이터센터 운영의 핵심 과제로 부상했다. 이재형 대표는 “글로벌 빅테크가 몇 년 전 서버 수십만 대 규모의 데이터센터를 설계했으나, GPU 서버를 도입하니 한 랙에 서버 한 대밖에 들어가지 않는 웃지 못할 상황이 발생했다”고 설명했다. 20피트 랙에 일반 서버는 수십 대가 들어가야 하지만, GPU 서버는 전력 소비량이 워낙 커서 한 대만으로 공간을 전부 차지한다. 이러한 상황에서 CPU 컴퓨팅 노드의 전력 효율성은 더욱 중요해졌다. 특히 AMD는 올해까지 전력효율을 30배 향상하겠다는 목표를 초과 달성했으며, 이재형 대표는 “우리는 1와트로 1회 컴퓨팅 작업을 하던 것이 이제는 38배의 작업을 한다”고 밝혔다. 이는 단순한 수치 개선이 아니라 실제 고객의 운영 환경을 바꾸는 결과를 가져왔다. 

구체적인 사례를 보면 더 명확하다. 기존 레거시 서버 7대가 처리하던 워크로드를 최신 AMD 에픽 CPU 한 대로 처리하며 전체 전력 소비는 최대 60%까지 절감할 수 있다.  특히, 기존 레거시 하드웨어와 동일한 수준의 성능을 제공하면서도 랙 수를 최대 86%까지 줄일 수 있어 가상화 환경에서 VM 통합 효율이 향상된다. 이 대표는 “고객들이 데이터센터를 새로 짓지 않고도 기존 공간에서 더 많은 작업을 하게 됐다”고 말했다. 특히 한국처럼 전력 공급 자체가 제한적인 환경에서 이러한 효율성은 유의미한 가치를 갖는다. 

최근 시장의 관심은 GPU에만 집중되는 경향이 있었다. 하지만 AMD는 CPU의 역할이 여전히 중요하며, 오히려 GPU 시대에 부각될 것이라고 주장한다. 이재형 대표는 “GPU가 데이터를 처리하는 동안, 전처리와 후처리 과정에서 CPU의 역할은 절대적”이라며 “5~6억 원짜리 GPU 서버에서 CPU만 AMD 에픽으로 바꿔도 성능이 향상되는 경우가 많다”고 설명했다. 특히 AI 추론 영역에서 CPU 활용도가 높아지고 있다. 130억 파라미터 이하의 소규모 AI 모델은 GPU 없이 에픽 CPU만으로 충분히 운영 가능하다는 것이 AMD의 입장이다. 

이재형 대표는 “모든 기업이 오픈AI처럼 수백조 원을 투자할 수 없다. 기존에 보유한 CPU 컴퓨팅 자산만으로도 AI 서비스를 개발할 수 있다는 것을 알리고 있다”고 밝혔다. 실제로 국내 일부 AI 스타트업은 AMD의 라이젠(Ryzen) AI 프로세서를 탑재한 노트북으로 AI 개발을 진행하고 있다. 이 제품은 시스템 메모리를 128GB까지 활용할 수 있어, 메모리 용량이 중요한 AI 개발 환경에서 효과적이라는 평가다. 

AMD의 풀스택 전략은 단순히 제품 라인업이 다양하다는 의미를 넘어선다. CPU에 FPGA 기술을 통합한 NPU를 탑재해 AI PC 시장을 선도하고, 자일링스 인수를 통해 확보한 FPGA 기술을 데이터센터 솔루션에 접목하는 등 기술 통합을 실현했다. 이재형 대표는 “코파일럿 PC 기준으로 경쟁사가 40TOPS를 제공할 때 우리는 55TOPS 이상을 제공하며 우위를 점했다”고 설명했다. 이러한 접근은 고가의 GPU 솔루션부터 합리적인 가격의 CPU 기반 AI 개발 환경까지 모든 시장을 커버하도록 하는 핵심 전략이다. 

◇ 오픈 생태계로 설계하는 미래

AMD의 또 다른 경쟁력은 오픈 생태계다. 특정 벤더에 종속되지 않는 개방형 플랫폼을 지향하면서, 고객이 장기적으로 안정적인 인프라를 구축하도록 지원하고 있다. 이재형 대표는 “고객들이 천문학적인 비용을 투자해 구축한 인프라가 차세대 제품과 호환되지 않으면 감가상각이 너무 빨라진다”며 “오픈 에코시스템을 통해 기존 투자를 보호하면서 지속적인 확장 가능성을 확보하는 것이 AMD의 철학”이라고 강조했다.

실제로 AMD는 UEC(Ultra Ethernet Consortium) 기반의 네트워킹 솔루션을 개발하면서도 AMD 제품 지원뿐 아니라 전체 협회 구성원의 솔루션과 호환되도록 설계했다. 펜산도 인수를 통해 확보한 DPU와 네트워크 기술 역시 마찬가지다. 이재형 대표는 “AMD는 자사 솔루션 채택만을 강요하는 게 아니라, 모든 인프라 및 에코시스템과 연결돼 있다는 점을 내세운다”고 말했다. 심지어 경쟁사의 네트워크 장비와도 호환성을 보장한다. 

이러한 전략은 정부와 공공기관의 대규모 프로젝트에서 주목받고 있다. 한 예로, 국가 AI 컴퓨팅 센터 사업의 경우 장기적인 관점에서 오픈 컴퓨팅 솔루션에 대한 관심이 높아지며, AMD가 이 분야를 선도하고 있다는 평가다. 이재형 대표는 “우리는 가격 경쟁을 위한 멀티소스가 아니라, 하위 호환성을 통해 레거시 제품까지 활용하는 구조를 지원한다”고 설명했다. 실제로 AMD는 MI200부터 MI325X에 이르는 여러 세대의 GPU를 함께 통합해 운영하는 기술을 선보이며, 기존 투자의 가치를 극대화하는 방안을 제시한다. 

AMD는 국내 기업과도 밀접하게 협력한다. 이재형 대표는 “AMD의 제품 로드맵은 한 번도 지연된 적이 없다”며 “에픽 1세대부터 4세대까지 한국을 포함한 다양한 생태계 파트너와 긴밀히 협력하여 칩렛 아키텍처, 폭넓은 I/O 지원, 그리고 고용량 메모리 설계를 통해 모든 제품 플랫폼에서 고성능, 효율성 및 안정성을 보장해 왔다”고 설명했다. 그는 “한국 고객도 AMD의 성능, 에너지 효율, 오픈 아키텍처가 제공하는 확장성과 기업 워크로드 지원 능력을 높이 평가한다”고 덧붙였다.

HPC(High Performance Computing) 시장에서도 AMD의 입지는 확고하다. 최근 미국 에너지부 오크리지 국립 연구소의 ‘디스커버리(Discovery)’ 슈퍼컴퓨터 프로젝트에는 AMD의 CPU, GPU, 네트워크 솔루션이 모두 채택됐다. 이 대표는 “AI는 정밀도가 다소 떨어져도 작동하지만, HPC는 높은 정밀도가 필수”라며 “AMD는 AI와 HPC 양쪽 모두를 지원하는 유일한 기업”이라고 자부했다. 국내에서도 KISTI 누리온 6호기의 CPU 컴퓨팅 노드에 AMD ‘튜린(Turin)’ 제품이 선정된 바 있다. 

◇ 출시 앞둔 베니스, 새로운 시장 열다

AMD의 로드맵은 진취적이다. 2026년 출시 예정인 5세대 에픽 ‘베니스(Venice)’는 2나노 공정 기술로 개발되고 있다. AMD는 이전 세대인 튜린에서 확보한 성능·효율 리더십을 바탕으로 차세대 제품에서도 전체 성능과 코어 효율을 지속적으로 향상시키는 방향을 제시한다. 베니스가 가져올 변화로 기대되는 부분 중 하나는 데이터센터 콘솔리데이션의 확대다. 기존 에픽 기반 시스템이 최대 7대의 레거시 서버를 단일 서버로 통합할 수 있었던 만큼, 차세대 제품군도 랙·전력·운영 비용 절감에 기여할 것으로 예상된다. 이재형 대표는 “차세대 제품들은 데이터센터를 새로 짓지 않고도 기존 공간을 최대한 활용하는 솔루션”이라고 강조했다. 

흥미로운 점은 고객의 구매 패턴 변화다. 과거 데이터센터 업계는 보수적으로 2~3년, 길게는 5년에 한 번 제품을 교체했다. 하지만 AMD 도입 이후 상황이 달라졌다. 이재형 대표는 “요즘 고객은 AMD의 제품 로드맵에 맞춰 프로젝트를 기획한다”며 “아직 출시되지 않은 제품도 IPC 성능 향상 수치를 기반으로 시뮬레이션해서 계약을 체결하는 경우가 많다”고 말했다. 실제로 오크리지 연구소의 디스커버리 프로젝트도 아직 출시 전인 차세대 제품을 염두에 두고 계약이 이뤄진 사례다. AMD는 HPC 시장에서 시작된 이러한 트렌드가 엔터프라이즈까지 확산될 것으로 예상한다. 

GPU 사업 역시 가속화한다. MI350 시리즈와 MI400 시리즈가 글로벌 레퍼런스를 확보하면서 본격적인 성장세에 진입했다. 오픈AI, 오라클, 메타 등 주요 빅테크가 순차적으로 AMD GPU를 도입하는 중이며, 국내에서도 KT 클라우드를 비롯한 여러 기업이 AMD AI 가속기를 채택하고 있다. 이재형 대표는 “AMD는 엣지부터 클라우드까지 전 영역에서 오픈 생태계 기반의 솔루션을 제공하며, 고객이 다양한 선택권을 갖도록 하는 데 초점을 맞춘다. 이제는 초고가 GPU가 아닌 합리적인 솔루션이 필요하며, AMD의 풀스택 포트폴리오가 최적의 대안이 될 것”이라고 밝혔다.