엔비디아(NVIDIA)가 새 이더넷 스위치 시스템 스펙트럼-6(Spectrum-6)를 전 세계 기가스케일(gigascale) AI 팩토리에 순차 투입하고 있다. 스펙트럼-6는 초당 102.4테라비트를 처리하는 스위치 시스템으로 이전 세대 대비 용량이 2배 늘었다. 엔비디아의 차세대 플랫폼 베라 루빈(Vera Rubin)의 일부로 설계됐다. 코어위브(CoreWeave), 마이크로소프트(Microsoft), 네뷰어스(Nebius), 스페이스X AI(SpaceXAI), 테슬라(Tesla) 등이 가장 먼저 스펙트럼-6를 도입한다. 베라 루빈 플랫폼은 코어위브가 진행한 딥시크-R1(DeepSeek-R1) 벤치마크에서 이전 세대 그레이스 블랙웰(Grace Blackwell) NVL72 대비 메가와트당 처리량이 10배 늘어난 것으로 나타났다.

스펙트럼-6, 왜 나왔나

기존 AI 데이터센터는 GPU 수천 개를 하나의 클러스터로 묶는 수준이었지만 최근에는 수십만 개의 GPU와 CPU를 통합해 프론티어 모델을 훈련하고 에이전트형 AI를 구동하는 기가스케일 규모로 진화했다. 이런 환경에서는 네트워킹 성능이 전체 컴퓨팅 파워를 좌우하는 핵심 변수가 된다. 엔비디아는 “네트워킹이 토큰 생성을 이끄는 컴퓨팅 파워의 배율기(multiplier) 역할을 한다”고 설명했다.

스펙트럼-6는 이런 배경에서 등장한 차세대 스펙트럼-X(Spectrum-X) 이더넷 플랫폼의 핵심 축이다. 초당 102.4테라비트 처리 용량과 함께 대역폭·확장성·지능형 트래픽 제어 기능을 갖춰 AI 팩토리 전체를 하나의 엔드투엔드 컴퓨팅 시스템처럼 운영할 수 있도록 지원한다. 코어위브, 마이크로소프트, 네뷰어스는 스펙트럼-6를 탑재한 베라 루빈 기반 인프라를 가장 먼저 도입하는 사업자로 이름을 올렸다.

베라 루빈 플랫폼, 칩부터 전력망까지 새로 짰다

베라 루빈은 칩 설계부터 전력 공급까지 전 구간을 새로 설계한 것이 특징이다. 엔비디아는 이를 ‘와트당 최고 성능, 최저 토큰 비용’을 목표로 한 익스트림 코디자인(Extreme Co-Design)이라고 부른다. 코어위브, 구글 클라우드(Google Cloud), 마이크로소프트 애저(Microsoft Azure), 오라클 클라우드 인프라스트럭처(Oracle Cloud Infrastructure) 파트너사에서 베라 루빈 NVL72 랙이 가동을 시작했다. 공급망은 30개국 350곳 이상의 생산 시설로 구성돼 랙 스케일 제품 중 역대 가장 크고 성숙한 규모라고 엔비디아는 설명했다.

플랫폼 중심에는 새 CPU ‘베라(Vera)’가 있다. 자체 개발한 올림푸스(Olympus) 코어를 탑재해 경쟁 칩렛(chiplet) 설계 대비 싱글스레드 성능 2배, 코어 간 대역폭 3배, 메모리 지연 시간 40% 감소를 구현했다. 네트워킹에서는 6세대 NVLink가 복합 워크로드에서 처리량 2배 이상, 지연 시간은 3분의 1 수준, 패킷 처리율은 기존 이더넷 대비 10배를 달성한다. 스케일아웃 구간에서는 초당 102.4테라비트 스펙트럼-6 스위치와 1.6테라비트급 커넥트X-9(ConnectX-9) 슈퍼닉(SuperNIC)이 결합해 일반 이더넷보다 RDMA 대역폭이 1.6배 높다.

실측 성능, 블랙웰의 10배… 업계도 “일찍 들여왔다”

성능 지표는 실제 배치 사례로도 확인됐다. WCCF테크(WCCFtech) 보도에 따르면 코어위브가 진행한 딥시크-R1 테스트에서 기존 그레이스 블랙웰 NVL72는 150메가와트에서 초당 8만 토큰을 처리했다. 반면 새 베라 루빈(VR200) NVL72는 같은 150메가와트에서 초당 80만 토큰을 처리해 처리량이 10배 늘었다. 혼합전문가(MoE) 방식 워크로드에서 특히 큰 폭의 성능 향상이 나타났다고 WCCF테크는 전했다.

업계 반응도 뒤따랐다. 민 준(Min Jun) 코어위브 네트워킹 프로덕트 디렉터는 “코어위브는 가장 까다로운 AI 워크로드를 위해 구축된 인프라이며 네트워킹이 이런 성능을 대규모로 구현하는 핵심”이라며 “엔비디아 스펙트럼-6와 액체냉각 스펙트럼-X 이더넷 인프라를 AI 팩토리에 들여오면 고객이 프론티어 모델을 훈련하고 추론을 더 빠르게 배포하는 데 필요한 대역폭과 복원력, 효율성을 제공할 수 있을 것”이라고 말했다.

로렐 로즈먼(Laurelle Roseman) 네뷰어스 글로벌 파트너십 부문 부사장은 “기가스케일 환경에서 성능은 결국 조율의 문제”라며 “느린 링크 하나가 전체 작업을 지연시키지 않도록 모든 GPU를 완벽히 동기화하는 것이 핵심이고, 이것이 바로 엔비디아 스펙트럼-6가 겨냥하는 지점이자 우리가 이를 일찍 들여온 이유”라고 밝혔다. 그는 스펙트럼-6를 두고 “고객의 가장 까다로운 워크로드가 확장돼도 빠르고 안정적인 상태를 유지하는 패브릭”이라고 평가했다.

광통신까지 확장… 남은 과제는

엔비디아는 스펙트럼-6 외에도 광학 소자를 스위치에 직접 결합한 엔비디아 포토닉스(NVIDIA Photonics)를 양산 단계에서 처음 선보였다. 착탈식 광트랜시버(pluggable transceiver) 대비 전력 소비를 5분의 1로 줄이고 평균고장간격(MTBF)은 10배 늘렸다. 코어위브, 램다(Lambda), 오라클 클라우드 인프라스트럭처가 초기 도입사로 이름을 올렸다. 여러 데이터센터를 하나의 네트워크처럼 잇는 스펙트럼-XGS 이더넷은 다중 사이트 처리량을 1.9배 끌어올린다. 엔비디아는 “기가스케일 AI는 단일 건물 안에서 해결되는 문제가 아니다”라고 설명했다.

다만 이런 기가스케일 인프라가 실제 서비스 안정성과 비용 절감으로 이어지려면 대규모 배치 이후의 운영 데이터가 더 쌓여야 한다. 코어위브의 딥시크-R1 벤치마크는 초기 사례일 뿐, 다양한 워크로드에서의 검증은 이제 시작 단계다. 코어위브, 마이크로소프트, 네뷰어스를 비롯한 초기 도입사들의 실제 가동 결과가 향후 다른 클라우드·AI 인프라 업체들의 도입 속도를 가늠하는 척도가 될 전망이다.