AI 컴퓨팅 기술 분야의 선두주자인 엔비디아가 핫칩스(Hot Chips) 2026에서 스펙트럼-X 멀티플레인(Spectrum-X Multiplane)을 공개했다고 밝혔다. 이는 하드웨어 가속 스펙트럼-X 이더넷(Spectrum-X Ethernet) 아키텍처의 최신 기술로, 추가 네트워크 계층을 구축할 때 발생하는 지연 시간, 지터(jitter), 비용 문제를 방지하며, 이더넷을 전례 없는 규모로 확장할 수 있도록 지원한다.
AI 팩토리가 대규모로 확장됨에 따라 네트워크는 성능을 좌우하는 핵심 요소로 자리 잡고 있다.
엔비디아 스펙트럼-X 이더넷은 엔비디아 스펙트럼-X 이더넷 스위치, 슈퍼NIC(SuperNIC), 소프트웨어를 결합한 엔드투엔드 AI 최적화 이더넷 플랫폼으로 설계돼 AI 팩토리와 클라우드를 위한 이더넷 기반 AI 인프라의 성능과 효율을 향상시킨다. 이 플랫폼은 범용 이더넷 대비 1.6배 높은 AI 네트워킹 성능을 제공하도록 설계됐으며, 멀티테넌트(multi-tenant) 환경에서도 일관되고 예측 가능한 성능을 제공한다.
멀티플레인, 새로운 네트워크 계층의 부담 없이 대규모 확장 지원
기존에는 AI 팩토리를 현재 최대 규모 클러스터 이상으로 확장하기 위해 세 번째 네트워크 계층을 추가해야 했다. 이는 지연 시간을 증가시키고 예측하기 어려운 성능 저하를 초래하며, 케이블, 광학 부품, 전력 비용을 증가시킨다. 스펙트럼-X 멀티플레인은 보다 단순한 방식을 적용한다. 각 서버의 네트워크 연결을 여러 개의 독립적인 경로, 즉 플레인(plane)으로 분할하고, 각 플레인은 자체적인 경량 2계층 네트워크로 운영된다. 이를 통해 세 번째 계층에 따른 추가 비용과 복잡성 없이 최대 512,000개의 GPU까지 확장 가능한 단순하고 평면적인 네트워크를 구축한다.
이 모든 과정은 자동으로 이뤄진다. 엔비디아 커넥트X 슈퍼NIC(ConnectX SuperNIC) 내부의 전용 하드웨어 엔진이 플레인 간 트래픽을 관리하고 장애 발생 시 장애 지점을 즉시 우회하도록 트래픽 경로를 재설정해 애플리케이션과 소프트웨어는 빠르고 안정적인 단일 연결만 인식하게 된다. 8개 플레인 토폴로지에서는 하나의 플레인에 장애가 발생하더라도 네트워크가 전체 대역폭의 약 90%를 유지하며, 소프트웨어 기반 멀티플레인 부하 분산보다 11배 빠른 하드웨어 복구 속도를 제공한다. 이를 통해 AI 팩토리 생산량을 1.6배 높일 수 있다.
극한의 공동 설계 기반 구현
이러한 안정성은 스위치 실리콘, 슈퍼NIC, 소프트웨어 전반에 걸친 베라 루빈(Vera Rubin) NVL72의 극한의 공동 설계(extreme codesign)를 통해 구현된다. 102.4Tb/s 스펙트럼-6 이더넷 ASIC(Spectrum-6 Ethernet ASIC) 기반의 스펙트럼-X SN6000 시리즈 스위치와 GPU당 최대 1,600Gb/s를 지원하는 커넥트X-9 슈퍼NIC(ConnectX-9 SuperNIC)은 베라 루빈 NVL72 AI 팩토리를 위해 특별히 설계됐다. 스펙트럼-XGS 이더넷(Spectrum-XGS Ethernet)은 이러한 공동 설계를 데이터센터 전반으로 확장해 여러 시설이 하나의 AI 슈퍼팩토리처럼 작동하도록 지원하며, 멀티사이트 NCCL 집합 연산(collectives)을 1.9배 가속화한다.
|
