인공지능(AI) 서버 발열이 랙당 100kW를 넘어서며 기존 공랭식 냉각의 한계가 드러나고 있다. KT클라우드는 엔비디아 B200 등 초고밀도 GPU 서버 시대에 대응해 수냉식(리퀴드 쿨링) D2C(Direct-to-Chip) 방식을 상용화한다. D2C는 GPU 칩에 직접 냉각판을 부착해 냉각수로 열을 식히는 방식이다. 액침냉각은 기술 검증을 마쳤지만 고객 수요가 없어 현실적인 수냉식 확대에 집중한다는 전략이다. 가산 데이터센터의 경우 당초 60~70%를 수냉식으로 구성할 계획이었으나 고객과의 협의를 거쳐 비중을 조정 중이다. 내년 4월 본격 서비스를 시작한다.

AI 데이터센터의 냉각 기술은 크게 공랭식(Air Cooling), 수냉식(Liquid Cooling), 액침냉각(Immersion Cooling)으로 나뉜다. 공랭식은 찬 공기를 순환시켜 서버를 식히는 전통적 방식이다. 구축이 쉽고 유지보수가 용이하지만, 랙당 10~15kW 수준의 낮은 전력 밀도 환경에만 적합해 AI 데이터센터에는 적합하지 않다. 수냉식은 물이나 냉각수를 이용해 열을 제거하는 방식이다. 그중에서도 D2C 방식은 GPU나 CPU 칩에 직접 콜드플레이트를 부착해 냉각수를 순환시켜 열을 흡수한다. 공랭식 대비 냉각 전력 소비를 20~30% 절감할 수 있다. 액침냉각은 서버 전체를 비전도성 액체에 담가 직접 냉각하는 방식으로, 100kW 이상 초고밀도 환경에서 최고의 냉각 효율을 자랑한다. 하지만 초기 구축비용이 공랭식 대비 2배 이상 소요된다.

◇ 내년 4월 가산DC 가동... 2030년까지 300MW 확보

11일 양천구 목동 KT클라우드 AI 이노베이션 센터 개소식 미디어 투어에서 허영만 KT클라우드 DC본부장은 “현재 고객 측에서 이머전 방식(액침냉각)으로 요구하는 고객은 없다”며 “수냉식을 요구하는 고객들은 AI 서버를 안정적으로 운영할 수 있는 안정성과 기술적 측면에 포커싱하고 있다”고 밝혔다. 

KT클라우드는 2030년까지 IT 용량 기준 300MW(메가와트)의 AI 데이터센터 인프라 확보를 목표로 하고 있다. 당초 올해 4월 150MW 증설을 발표했으나 하반기 AI 수요 급증에 따라 상향 조정했다. 현재 16개 데이터센터에서 약 150MW를 운영 중이다. 허 본부장은 “부천, 대봉동, 안산 등 신규 구축하는 데이터센터는 기본적으로 수냉식을 수용할 수 있는 구조로 설계하고 있다”며 “고객이 원하는 대로 수냉식과 공냉식을 모두 적용할 수 있는 기술과 설계를 갖추고 있다”고 강조했다. 

KT클라우드는 수냉식 냉각 방식 중에서도 D2C방식에 주력하고 있다. D2C는 GPU 칩 위에 콜드플레이트를 밀착시킨 뒤 냉각수를 순환시켜 열을 제거하는 방식으로, 기존 공냉 방식보다 냉각 전력 소비를 20~30% 절감할 수 있다. 다만 초기 구축비용은 CDU(냉각수 분배 장치) 등 추가 설비 비용으로 공랭식 대비 약 20% 증가한다. 

허 본부장은 “고성능 그래픽처리장치(GPU)를 탑재한 AI 서버는 발열이 크게 증가하고 있어 랙당 40~50kW는 공냉식으로 가능하지만 100kW 이상은 수냉식 방식이 필수”라며 “다만 에너지 효율이나 여러 측면에서 공랭식과 수냉식은 당분간 공존할 것”이라고 전망했다.

◇ 부하기·AI서버랙·패스파인더 등 핵심 기술 자체 개발

KT클라우드는 수냉식 D2C 상용화를 위해 핵심 기술을 직접 개발했다. 서버형·랙형 부하기는 글로벌 AI 서버 표준에 맞췄다. 서버형 부하기는 최대 64kW, 랙형 부하기는 최대 140kW까지 구현하하며 엔비디아 B200·NVL72급 초고발열 서버 환경을 재현한다. 실제 고비용 서버를 구매하지 않고도 냉각 성능을 정밀 시험할 수 있는 장비로 특허 등록도 완료했다. 

AI 서버랙도 자체 개발했다. 글로벌 오픈 컴퓨트 프로젝트(OCP) 규격을 기반으로 20kW 이상 고밀도 전력을 지원한다. DC 48V 기반 전력 공급으로 효율을 높였다. 모든 모듈이 교체·확장 가능한 구조로 고객 맞춤형 구성이 용이하다. 

KT클라우드가 특허 등록한 AI 기반 전력 제어 시스템 ‘패스파인더(Path Finder)’, 디지털트윈 기반 시뮬레이션, 자율주행 점검 로봇도 운용 중이다. 로봇이 온·습도·소음·가스 등 환경 데이터를 실시간 수집하고 열화상 카메라로 과열·화재 징후를 탐지한다. KT클라우드는 이를 통해 장기적으로 운영 인력을 현재 60~70명에서 3분의 1 수준으로 줄일 계획이다. 

◇ 액침냉각도 단계적 도입... “아직 수요 없어”

KT클라우드는 2023년 용산 데이터센터에서 이머전 쿨링(액침냉각) PoC를 수행하고 기술 검증을 완료했다. 당시 8kW급 서버 부하 테스트를 통해 서버실 유틸리티 전력량 약 58% 절감, 서버 팬 전력량 약 15% 절감, 서버실 면적 70% 이상 감소 등의 성과를 거뒀다.

다만 허 본부장은 “액침냉각은 아직 시간이 필요하다”며 “환경이 바뀌면 빨리 대응할 수 있도록 기술 준비는 계속하고 있지만, 실제 고객 요구가 나타났을 때 가장 안정적인 시스템을 공급하는 것이 우선”이라고 강조했다.