[인터뷰] AMD-망고부스트 개방형 생태계 전략 “시스템 최적화로 시장 만든다”

개방형 표준과 시스템 최적화가 AI 인프라 승부처
MLPerf 지표로 분산·혼합 GPU 환경에서도 성능 확장 보여
“2026년, 벤치마크 넘어 고객 레퍼런스 만들어갈 것”

AI 데이터센터 시장에서 특정 기업의 독점 지위가 견고해지면서, 개방형 생태계를 지향하는 움직임이 가속화하고 있다. 막대한 초기 투자 비용과 폐쇄적 플랫폼에 대한 종속성 우려가 커지자, 기업들은 대안 모색에 나섰다. 하드웨어 성능만으로는 실질적인 경쟁력을 확보하기 어렵다는 인식이 확산되면서, 시스템 레벨의 통합 최적화와 소프트웨어 지원이 핵심 차별화 요소로 부상했다. 

이러한 배경에서 AMD는 개방형 표준을 기반으로 한 AI 생태계 확장에 주력하며, 다양한 얼라이언스 파트너와의 협업을 통해 독점 시장 구조에 균열을 내고 있다. 이 과정에서 망고부스트는 AMD의 핵심 협력사로 떠올랐다. 망고부스트는 단순한 DPU 공급사가 아니라 AI 시스템 전반의 성능을 끌어올리는 엔지니어링 기업으로 진화했다. 양사는 2025년 한 해 동안 ML Perf 벤치마크를 통해 서로 다른 세대의 GPU를 통합해 최적 성능을 구현하는 기술적 검증을 완료했다.

◇ 생태계 확장과 기술 전환의 한 해

AMD 코리아와 망고부스트는 2025년을 각각 ‘생태계 확장’과 ‘기술 전환’의 해로 정의했다. 이재형 AMD 코리아 세일즈 대표는 “올해 시장의 화두는 여전히 AI였고, 개방형 생태계 확장이 회사의 주요 전략 중 하나였다”며 “이를 위해 얼라이언스 파트너를 발굴하고 협력하는 데 주력했다”고 밝혔다. 이 대표는 “국내에서는 CPU 보급도 확대됐다. 올해에는 AI에 집중해 자사 솔루션을 본격적으로 시장에 선보일 것”이라고 덧붙였다. 

김장우 망고부스트 대표는 근본적인 변화를 강조했다. 김장우 대표는 “보통 망고부스트가 가진 기술을 스마트 네트워크 기술이나 DPU 카드 정도로 생각하는데, 우리는 그것을 다르게 접근하기 시작했다”며 “현재 우리는 개방형 생태계에 들어갈 수 있는 표준형 AI 인프라 시스템을 만드는 회사다”고 말했다. 김 대표는 서버부터 네트워크 카드, 스위치, 그리고 AMD GPU 같은 가속기가 결합될 때 전체를 최적화하는 소프트웨어까지 개발해 라인업을 갖췄음을 강조했다.

국내 AI 데이터센터 시장에서 AMD의 개방형 생태계 전략은 단순한 하드웨어 경쟁을 넘어 실질적인 사용 사례를 만드는 데 초점을 맞추고 있다. 이재형 대표는 “단순히 최신 퍼포먼스가 나는 하드웨어의 스펙만 비교해봐야 실제 사용자가 활용할 수 있는 레퍼런스가 생기지 않으면 확장이 어렵다”고 지적했다. 이 대표는 “개방형 생태계를 구축하기 위해서는 스타트업 얼라이언스 파트너와의 협력뿐 아니라 그들의 솔루션이 최신 하드웨어와 결합했을 때 어떤 용도로 쓰이는지 시스템 레벨의 유즈 케이스를 만드는 것이 중요하다”고 강조했다. 

AMD와 망고부스트의 협력은 고객이 체감할 수 있는 시스템 성능 구축에 집중했다. 이 대표는 “망고부스트의 LLM 부스트의 경우 칩 메모리 성능을 극대화한다”며 “무엇보다 시스템 규모를 확장했을 때도 선형적 퍼포먼스가 유지된다는 점이 핵심”이라고 말했다. “망고부스트와의 파트너십을 시작으로, AMD는 개방형 생태계 확장을 위한 파트너를 지속 발굴하고 있다”고 그는 덧붙였다. 

AMD의 개방형 생태계 전략에서 망고부스트의 역할은 단순한 파트너를 넘어 생태계 확장의 촉매제로 평가된다. 이재형 대표는 “망고부스트와의 협업이 개방형 생태계를 앞당기고 있다”며 “망고부스트는 소프트웨어 성능을 극대화하고 케이스를 만들어주는 것을 넘어, 시스템 레벨로 생태계를 구성하고 있다”고 말했다. “무엇보다 망고부스트가 개방형을 지향하기에 자연스럽게 파트너가 될 수 있었다”며 “양사는 AI 인프라 구축에 있어 시스템 레벨로 접근해 전력 및 비용 효율성에서 개선된 지표를 보여준다”고 강조했다. 김장우 대표도 AMD와의 관계가 나날이 강화하며, AMD 본사 개발팀과도 긴밀한 논의를 지속하고 있음을 시사했다. 

양사 협력의 가장 눈에 띈 성과는 ML Perf 벤치마크를 통한 기술 검증이다. 2025년 ML Perf Inference v5.0에서 망고부스트는 4노드 AMD 인스팅트 MI300X 클러스터(32개 GPU)를 활용해 라마2 70B 오프라인 추론 부문에서 약 10만3000 tokens/sec를 달성하며, 제출 당시 ML Perf 역사상 가장 높은 성능을 기록했다. ML Perf Training v5.0에서는 동일한 4노드 구성으로 라마2 70B-LoRA 파인튜닝을 10.91분 만에 완료하며, AMD GPU를 활용한 최초의 멀티노드 학습 결과를 제출했다. 이는 95% 이상의 거의 선형적인 스케일링 효율성을 보여주며, 분산 AI 인프라에서 망고부스트의 기술력을 입증했다. 

김장우 대표는 AMD와의 협력에 대해 “AMD는 하드웨어 성능과 ROCm의 수준을 올린다면, 이를 기반으로 우리는 엔드투엔드 성능을 개선하는 역할을 담당한다”며 “양사는 필요한 지원이 있으면 서로 논의하면서 가용한 리소스를 공유하고 있다”고 말했다. 이재형 대표는 “AMD가 프레임워크를 활용해 성능을 올렸다면, 그 바탕 위에 망고부스트가 최적화를 진행해 파인튜닝을 하는 역할”이라고 설명했다. 특히 주목할 성과는 서로 다른 세대의 GPU를 통합한 시스템 구축이다. 김 대표는 “다른 세대의 GPU가 묶여 있는 시스템의 성능 최적화는 쉽지 않은 과제다”며 “앞서 공개된 ML Perf 지표는 경쟁사를 포함해 철저한 검증을 거친 후 얻게 된 성과로, 업계에서도 괄목할 만한 기록”이라고 강조했다. 

◇ UALink와 울트라 이더넷 전략은?

양사는 차세대 네트워크 전략인 ‘UALink’와 ‘울트라 이더넷’에 대해 각자의 역할을 명확히 했다. 이재형 대표는 “UALink는 차세대 제품인 MI400 시리즈와 함께 네트워크 전체를 다루는 것이라 아직 구체적인 사양이나 협력사 설정은 논의 중”이며 “구체적인 UALink 로드맵은 올해 공개될 예정”이라고 밝혔다. 이 대표는 “UALink와 울트라 이더넷을 활용해 MI400 시리즈부터는 시스템 레벨로 제공하겠다는 게 목표”라며 “UALink는 내부적인 CPU와 GPU 간 통신, 한 노드 안에서 스케일 업을 위한 것”이라고 설명했다. 

김장우 대표는 “서버 내에 있는 AMD GPU끼리 통신하기 위한 프로토콜이 UALink고, AMD에는 이미 인피니티 패브릭이라는 프로토콜이 있는데, 이게 개방형 생태계에 포함된다”며 “울트라 이더넷은 다수의 서버를 연결하기 위해 네트워크 카드를 연결하기 위한 프로토콜”이라고 설명했다. 김 대표는 울트라 이더넷의 시장 확산 속도를 강조하며, 자사의 역량을 발휘할 수 있는 배경이 될 것이라고 말했다. 그는 “우리는 차세대 가속기 네트워크 카드부터 울트라 이더넷을 최대한 많이 지원하고자 한다”며 “이 과정에서도 단순히 스펙 경쟁이어선 안 된다. 고객의 애플리케이션에 최적화한 시스템을 구축해 만족할 만한 숫자가 나와야 한다. 이를 위해 망고부스트는 준비를 마쳤으며 증명하고 있다”고 자신했다. 

울트라 이더넷 컨소시엄(UEC)은 2025년 6월 UEC 1.0 스펙을 공식 발표했으며, 이는 AI 및 HPC 워크로드를 위한 포괄적인 이더넷 기반 통신 스택을 제공한다. AMD, 인텔, 브로드컴, 메타, HPE 등 120개 이상의 기업이 참여한 이 표준은 RDMA 지원, 낮은 지연시간, 멀티벤더 상호운용성을 핵심으로 한다. 

◇ “업계 레퍼런스가 게임 체인저될 것”

AMD와 망고부스트는 양사 협력이 실제 고객 사례 구축으로 이어지도록 노력하고 있다고 전했다. 이재형 대표는 “벤치마크 테스트보다 중요한 것은 고객사가 원하는 소프트웨어나 서비스에 우리의 솔루션을 적용하고 성과를 얻어냈다는 실제 사례”라고 밝혔다. “우리는 고객사와의 컨설팅을 기반으로 맞춤형 인프라 구축을 도입하는 데 초점을 맞추고 있다”고 설명했다.

김장우 대표 역시 레퍼런스 구축의 중요성을 재차 강조했다. “개선된 지표가 나왔다고 해서 고객 태도가 일시에 변하지 않는다. 우리가 적극적으로 시장에 접근해야 한다”며 “우리는 고객사의 시스템에 들어가 최적화하는 작업을 마무리함으로써 결론을 맺는다. 이는 쉽지 않은 도전이지만, 우리는 그동안의 경험과 실력으로 해낼 수 있다는 자신감이 있다”고 말했다. 

향후 목표에 대해 양측은 신중하면서도 확고한 입장을 밝혔다. 이재형 대표는 “2025년과 마찬가지로 생태계를 지속해서 확장하는 것에 초점을 맞출 계획이며, 이를 위한 협업에 집중할 것”이라며 “생태계가 커진다는 가정하에 구체적인 비즈니스 케이스를 만들고 협력 사례를 만드는 게 중요하다”고 강조했다. 김장우 대표는 “지금까지는 벤치마킹 위주의 증명을 해 왔다면, 올부터는 솔루션 위주의 고객 사례를 보여줄 차례”라고 밝혔다. 

이재형 대표는 고객층 다양화에 대해서도 언급했다. “고가 및 대량의 GPU가 필요한 AI 팩토리나 하이퍼스케일 단위의 프로젝트가 아니어도, 실제 산업 현장에서는 중소 단위의 AI 전환을 필요로 하는 경우가 많다”며 “이 같은 숨은 시장을 발견하고 AI 인프라 도입을 지원하는 것도 중요하다”고 말했다. AMD와 망고부스트는 2025년 달성한 기술 검증과 생태계 확장을 바탕으로 향후 실제 고객 레퍼런스 구축 및 시장 확대가 중요한 지점임을 강조하는 한편, 개방형 AI 인프라 생태계 확산에 대해서도 강한 의지를 전했다.