[이데일리 한광범 기자] 엔비디아(NVIDIA)가 수십만 개의 GPU를 하나로 묶어 작동시키는 차세대 이더넷 스위치 시스템 ‘스펙트럼-6(Spectrum-6)’을 전 세계 기가스케일 AI 팩토리에 본격 도입한다. 초당 102.4테라비트의 데이터 처리 능력을 갖춘 스펙트럼-6은 대규모 AI 인프라의 네트워킹 병목을 해결하고 데이터센터 운영 효율을 대폭 끌어올릴 전망이다.

엔비디아는 29일 자사 공식 블로그를 통해 이 같은 내용을 밝히며 스펙트럼-6이 자사의 차세대 ‘베라 루빈’ 플랫폼의 핵심 요소로 설계됐다고 설명했다. 이전 세대 대비 처리 용량이 2배로 늘었으며, 액체 냉각 방식과 플러거블 및 코패키지드 옵틱스(CPO) 폼팩터를 모두 지원해 높은 전력 효율과 통합 냉각 환경을 구현한다.

마이크로소프트와 코어위브, 네비우스, 스페이스X AI, 테슬라 등 글로벌 AI 인프라 기업들이 스펙트럼-6을 가장 먼저 자사 AI 팩토리에 도입하기로 했다. 수천, 수만 개의 GPU가 동시 다발적으로 데이터를 주고받는 기가스케일 환경에서는 네트워크 지연이나 장애가 전체 워크로드를 지연시키는 만큼, 고성능 네트워킹 인프라 구축이 필수적이다.

엔비디아에 따르면 스펙트럼-6 기반의 스펙트럼-X 이더넷 플랫폼은 커넥트X-9 SuperNIC과 풀스택 네트워킹 소프트웨어가 결합해 기성 이더넷 대비 최대 1.6배 높은 AI 네트워킹 성능을 제공한다. GPU가 10만 개를 넘어서는 대규모 배포 환경에서도 최대 95%의 네트워크 효율을 유지하는 것이 특징이다.

또한 하드웨어 가속 기반의 멀티플레인 토폴로지를 적용해 필요한 스위치 수를 기존 대비 1.7배 줄였으며, 전력 효율은 5배 향상시키고 장애 간격(MTBI)은 10배 개선했다. 이를 통해 대규모 워크로드의 학습 시간을 단축하고 토큰당 생성 비용을 절감할 수 있게 된다.

민 준 코어위브 네트워킹 부문 제품 디렉터는 “스펙트럼-6과 액체 냉각 방식의 네트워킹 인프라 도입을 통해 고객이 프론티어 모델을 학습시키고 추론을 빠르게 배포하는 데 필요한 대역폭과 복원력을 제공할 수 있게 될 것”이라고 밝혔다.

로렐 로즈만 네비우스 글로벌 파트너십 부사장 역시 “기가스케일에서 성능은 결국 모든 GPU가 보조를 맞추게 하는 조율의 문제”라며 “스펙트럼-6은 고객의 까다로운 워크로드가 확장되는 상황에서도 빠르고 견고하게 유지되는 패브릭을 제공한다”고 평가했다.