[이데일리 신영빈 기자] 인공지능(AI) 데이터센터의 경쟁 기준이 바뀌고 있다. 서버를 놓을 공간보다 고성능 그래픽처리장치(GPU)에 필요한 전력과 냉각용수를 얼마나 안정적으로 확보하느냐가 더 중요해지고 있다.

이일준 NHN클라우드 기술사업부장(이사)은 18일 서울 영등포구 ‘팩토리X 서울’에서 기자들과 만나 “앞으로는 공간보다 전력과 용수 확보가 더 중요해질 것”이라고 말했다.

엔비디아 GPU가 세대가 갈수록 고밀도·고전력화하면서 랙당 필요한 전력과 냉각 능력도 빠르게 커지고 있어서다.

팩토리X 서울에 구축된 엔비디아 B200 GPU 랙 하나에는 GPU 48장이 들어간다. 랙 한 대가 사용하는 전력은 약 75kW로, 기존 데이터센터가 랙당 약 30kW 수준을 기준으로 설계됐던 것과 비교하면 두 배 이상이다.

냉각 방식도 달라지고 있다. 고성능 GPU의 발열을 공기만으로 처리하기 어려워지면서 팩토리X 서울은 GPU와 CPU에 직접액체냉각(DLC)을 적용했다. 여름철 냉각에 하루 약 800톤의 물이 사용된다.

AI 인프라 구축에 필요한 비용 부담도 커졌다.

이 이사는 “GPU 랙 하나가 약 60억원이고 이곳에 들어온 장비를 합치면 1조원 수준”이라며 “이 정도 투자를 민간 기업이 자체적으로 결정하기는 쉽지 않다”고 말했다.

기업들이 필요한 GPU를 빌려 쓰려는 수요가 커지는 이유도 여기에 있다. 대규모 AI 모델을 개발하려면 많게는 수천장의 GPU가 필요하지만 초기 투자비뿐 아니라 전력과 냉각 설비, 네트워크 구축과 운영 인력까지 갖춰야 한다.

NHN클라우드는 정부 AI 컴퓨팅 자원 구축 사업을 통해 이 같은 대규모 인프라를 확보했다. 팩토리X 서울에 구축된 B200 GPU 7656장 가운데 6120장은 정부 사업으로 쓰고, 나머지는 NHN클라우드가 활용한다.

NHN클라우드는 자체 활용 GPU를 기업 고객에게 공급하며 민간 AI 인프라 시장을 확대하고 있다. 고성능 GPU를 직접 구매하고 데이터센터까지 구축하기 부담스러운 기업들이 필요한 만큼 컴퓨팅 자원을 사용하는 방식이다.

광주 국가 AI데이터센터에서 A100·H100 등 GPU 인프라를 운영해온 데 이어 서울 팩토리X를 가동했고, 판교에서는 B300 GPU 1000장 이상 규모의 클러스터도 운영하고 있다.

이 이사는 “AI 인프라 자체가 워낙 비싸기 때문에 아무 기업이나 대규모 투자를 하기 어렵다”며 “대규모 GPU를 구축하고 실제 운영해본 경험이 앞으로 AI 인프라 사업에서 더욱 중요해질 것”이라고 말했다.