블룸버그가 발전사업자와 전력 공급업체, 데이터센터 개발업체, 전력망 운영기관 등 미국과 유럽의 전력 전문가 30여명을 인터뷰한 결과 거의 모든 관계자가 AI 시설에 가해지는 물리적 부담이 이미 뚜렷하게 나타나고 있다고 진단했다. AI 데이터센터의 전력 수요가 급격하게 오르내리면서 배터리와 발전기, 냉각장치 등 핵심 설비가 고장을 일으키거나 예상보다 일찍 수명을 다하고 있는 것이다.
영국에서 전력 공급업체와 데이터센터에 표준 및 신뢰성 관련 자문을 제공하는 업타임 인스티튜트의 앰버 빌레가스윌리엄슨 수석 컨설턴트는 “AI는 매우 이례적인 전력 수요를 만들어낸다”면서 “자동차를 일정한 속도로 운전하는 것보다 엔진의 회전수를 계속 과도하게 높이는 것이 엔진을 더 빨리 마모시키는 것과 같다”고 설명했다.
미국의 한 인공지능(AI) 데이터센터 내부 모습. (사진=AFP)
특히 새로운 AI 모델을 훈련할 때 부담이 커진다. 모델 훈련 과정에서는 수십만개의 그래픽처리장치(GPU)가 동시에 출력을 높였다 낮추기 때문이다.
테슬라 전 임원으로 전력전자 기업 헤론 파워 일렉트로닉스를 설립한 드루 배글리노는 AI 시설의 전력 사용량이 때로는 설계 용량보다 최대 50%까지 급증한다고 말했다. 그는 “1GW 규모 시설이 순간적으로 1.5GW를 사용할 수 있다는 뜻”이라고 설명했다.
문제는 현재 데이터센터에 설치된 상당수 장비가 이처럼 크고 빠른 전력 변화를 견디도록 설계되지 않았다는 점이다. 복수의 관계자에 따르면 데이터센터에서 전력을 생산하는 소형 천연가스 엔진의 크랭크축이 부러진 사례가 발생했다. 테네시주 멤피스에 있는 xAI의 콜로서스 컴퓨팅 시설에서는 가스 터빈에 균열이 생긴 것으로 전해졌다. 해당 시설에는 전력 수요 변동을 완화하고 회전하는 터빈에 가해지는 부담을 줄이기 위해 배터리가 설치됐다. 영국의 소규모 데이터센터에서도 터빈 균열 사례가 확인됐다.
이러한 설비 고장은 AI 데이터센터의 수익성에도 직접적인 영향을 줄 수 있다. 데이터센터 건설·운영업체 스위치의 제이슨 호프먼 최고전략책임자는 핵심 설비가 조기에 고장 날 경우 펌프나 차단기 등 부품을 교체하는 비용보다 값비싼 컴퓨팅 장비가 가동을 멈춰 수익을 내지 못하는 것이 더 큰 문제라고 지적했다. 시설과 작업 종류에 따라 데이터센터 가동 중단에 따른 매출 손실은 분당 수천달러에서 수십만달러에 이를 수 있다.
이는 수천억달러 규모의 AI 투자가 기대한 만큼의 수익을 낼 수 있을지를 둘러싼 우려를 키운다. GPU 랙 자체의 감가상각 속도가 예상보다 빠를 수 있다는 기존 논란도 AI 데이터센터의 장기 수익성에 대한 의문을 더하고 있다.
전력망 안정성에 대한 위험도 커지고 있다. 노후 설비와 전력 수요 증가, 극단적인 기상현상으로 전력망 운영이 갈수록 어려워지는 상황에서 AI 데이터센터의 급격한 수요 변동이 기존 불안정을 증폭시킬 수 있기 때문이다.
AI 업계는 이러한 문제를 인식하고 적극적으로 해결책을 마련하고 있다. 엔비디아의 하이퍼스케일 인프라 솔루션 담당 수석이사 디온 해리스는 엔비디아가 블랙웰 GPU를 개발하면서 전력 전문가들과 더 긴밀하게 협력하기 시작했다고 말했다. 엔비디아는 데이터센터 구축과 설계·엔지니어링 단계뿐 아니라 전력 공급 측면에서도 자사 제품의 배치를 훨씬 더 원활하게 만들기 위해 노력하고 있다고 그는 설명했다.
데이터센터 이용업체들은 AI 작업에서 발생하는 전력 변동을 완화하기 위해 부수적인 연산을 수행하는 기법도 도입했다. 이는 AI 모델 훈련 과정과는 무관한 일종의 가짜 계산 실행해 GPU가 일정하게 작동하도록 하는 방식이다. 일각에선 전력 수요가 급증하는 상황에서 전기를 낭비한다는 비판도 받고 있다.
