DruckFin

TD Cowen: NVIDIA의 네트워킹 사업은 더 이상 '부수적'이지 않다 — AI 팩토리의 핵심 아키텍처로 자리매김

TD Cowen 제54회 연례 TMT 컨퍼런스, 2026년 5월 28일 — NVIDIA의 길라드 샤이너(Gilad Shainer) 네트워킹 부문 부사장이 149억 달러 규모의 네트워킹 사업부가 시장의 다른 부문과 구조적으로 차별화되는 이유를 설명하다

199% 성장 중인 149억 달러 규모의 네트워킹 사업 — 모든 계층이 성장을 견인하다

NVIDIA의 최근 분기 네트워킹 매출은 전년 대비 199% 증가한 149억 달러를 기록했다. 5월 28일 열린 TD Cowen 제54회 연례 TMT 컨퍼런스에서 NVIDIA 네트워킹 사업을 총괄하는 길라드 샤이너 부사장은 이번 성과가 단일 제품의 성공에 기인한 것이 아님을 분명히 했다. 성장은 스케일업(scale-up) 측면의 NVLink, 스케일아웃(scale-out) 측면의 InfiniBand와 Spectrum-X 이더넷, 그리고 스토리지 프로세서이자 AI 팩토리의 보안 접속을 담당하는 데이터 처리 장치(DPU)인 BlueField 등 전방위에서 동시에 발생하고 있다. 이러한 폭넓은 기여도는 네트워킹 매출이 특정 병목 현상의 해결이나 특정 고객사 의존도에 좌우되지 않음을 의미한다. NVIDIA가 'AI 팩토리'라고 부르는 인프라의 모든 계층이 확장되고 있는 것이다.

Mellanox 인수는 단순 부품 공급사가 아닌 '컴퓨팅 기업'으로 도약하기 위한 포석

샤이너 부사장은 젠슨 황 CEO가 Mellanox를 인수한 배경에 대해 그 어느 때보다 명확하게 설명했다. TD Cowen은 이를 "기술 업계 M&A 역사상 가장 중요하고 성공적인 사례"로 평가한 바 있다. 샤이너 부사장의 설명에 따르면 그 논리는 아키텍처에 있었다. "젠슨 황은 NVIDIA가 단순한 장치나 ASIC 기업이 아닌, 컴퓨팅 기업이 되어야 한다고 판단했습니다. 컴퓨팅 ASIC을 어떻게 연결하느냐가 그 ASIC의 성능을 결정하기 때문입니다. 연결 방식에 따라 서버 팜이 될 수도, 슈퍼컴퓨터가 될 수도 있습니다." 네트워킹을 컴퓨팅 성능의 결정 요인으로 보는 이러한 관점은 NVIDIA의 통합 랙 전략을 뒷받침하며, Mellanox 팀이 별도 사업부가 아닌 첫날부터 단일 엔지니어링 조직으로 통합된 이유를 설명해 준다.

NVLink Fusion은 방어적 전략이 아닌, 최상위 기술을 생태계에 개방하는 것

NVIDIA가 완전 통합형 NVL 랙으로 전환하면서 고객을 폐쇄형 시스템에 가두고 생태계 파트너들을 소외시킨다는 시장의 우려가 지속되어 왔다. 샤이너 부사장은 이러한 시각을 정면으로 반박했다. 아키텍처는 수직적으로 설계되어 모든 구성 요소가 하나의 유닛처럼 작동하도록 최적화되어 있지만, 판매는 수평적으로 이루어진다. 즉, 고객은 개별 부품을 선택해 자체 설계와 결합할 수 있다. 타사 CPU와 GPU를 NVLink로 연결할 수 있게 해주는 'NVLink Fusion'이 바로 이러한 개방성의 구체적인 증거다. 샤이너 부사장은 "NVLink Fusion을 통해 고객은 필요에 따라 NVLink를 별도의 요소로 활용할 수 있다"고 강조했다. 이는 각 구성 요소의 품질에 대한 NVIDIA의 자신감을 보여주며, 파트너들이 이를 개별적으로 사용하기를 원한다는 의미다. 생태계가 이를 진정한 개방으로 보든 전략적 개방으로 보든 간에, 이미 발표된 Fusion 파트너십들은 실질적인 시장의 호응을 입증하고 있다.

Spectrum-X 이더넷이 아키텍처적으로 차별화되는 이유 — 마케팅 용어가 아닌 기술적 실체

이번 대담에서 가장 기술적으로 비중 있게 다뤄진 부분은 Spectrum-X가 표준 이더넷 스위치와 비교될 수 없는 이유와 그 차이가 점진적 개선이 아닌 근본적인 변화라는 점이었다. 분산형 AI 워크로드의 핵심 문제는 '지터(Jitter)', 즉 데이터가 서로 다른 GPU에 도착하는 시간의 변동성이다. 수십만 개의 GPU가 긴밀하게 협력해야 하는 학습 또는 추론 클러스터에서는 단 하나의 GPU만 데이터 수신이 늦어져도 나머지 전체가 대기 상태에 빠진다. 클라우드 워크로드용으로 설계된 기존 이더넷 아키텍처는 단일 서버나 장거리 환경에서는 지터가 중요하지 않았기 때문에 이 문제를 해결하도록 설계되지 않았다.

더 근본적인 문제는 구조에 있다. 지터를 제거하려면 모든 패킷을 가장 혼잡하지 않은 경로로 분산 전송하는 '무조건적 패킷 스프레잉(unconditional packet spraying)'이 필요하다. 하지만 스위치 레벨에서 이를 수행하면 데이터가 순서대로 도착하지 않는 문제가 발생한다. 이를 해결하는 유일한 방법은 순서가 뒤바뀐 패킷을 수신해 실시간으로 GPU 메모리에서 올바르게 재조립할 수 있는 지능형 엔드포인트가 필요한데, 그것이 바로 'ConnectX SuperNIC'이다. 샤이너 부사장은 "분산 컴퓨팅 워크로드를 위한 인프라를 구축할 때 무조건적인 분산을 수행하는 스위치 요소와 데이터를 순서대로 재조립하는 SuperNIC이 모두 필요한 이유"라며, "이것이 바로 단일 장치가 아닌 '인프라'인 이유"라고 강조했다. 이것이 바로 아키텍처적 해자(moat)다. 스위치나 NIC 중 하나만 제공하는 경쟁사는 Spectrum-X가 시스템으로서 제공하는 성능을 재현할 수 없다.

Spectrum-X는 MRC를 포함한 다중 라우팅 프로토콜을 지원한다

샤이너 부사장은 최근 부상하는 다중 경로 RDMA 혼잡 제어(MRC) 표준과 Spectrum-X의 관계에 대해서도 언급했다. 그는 MRC를 NVIDIA의 적응형 라우팅 방식에 대한 경쟁 위협으로 보지 않고, Spectrum-X가 적응형 RDMA, MRC, 그리고 대형 하이퍼스케일 고객사가 자체 워크로드 최적화를 위해 개발한 독점 프로토콜 등 여러 라우팅 프로토콜을 동시에 지원하는 플랫폼이라고 설명했다. 샤이너 부사장은 BGP를 예로 들며 "Spectrum-X 위에서는 다양한 라우팅 프로토콜이 실행될 수 있다"고 덧붙였다. 그가 직접 언급하진 않았지만, 현재 Ultra Ethernet Consortium(UEC)이 표준화를 추진 중인 많은 작업은 이미 NVIDIA가 Spectrum-X에서 구현한 설계 선택을 반영하고 있다. 이러한 사실은 NVIDIA가 프로덕션급 구현에서 상당한 선점 우위를 점하고 있음을 시사한다.

추론이 창출하는 새로운 인프라 수요 — BlueField와 KV 캐시 스토리지 문제

샤이너 부사장은 투자자들이 상대적으로 주목하지 않았던 NVIDIA 네트워킹 성장의 새로운 동력, 즉 추론을 위해 구축된 스토리지 인프라 계층을 소개했다. AI 모델이 다른 모델과 상호작용하고, 더 긴 컨텍스트 윈도우를 유지하며, 대용량 KV 캐시를 관리하는 '에이전트형 아키텍처'로 전환됨에 따라 모든 관련 데이터가 로컬 GPU 메모리에 상주할 수 있다는 가정은 무너졌다. 네트워크 연결 스토리지(NAS)가 필수적이 되었지만, 기존의 네트워크 스토리지 아키텍처는 복제를 통한 데이터 중복성에 우선순위를 두기 때문에 추론 워크로드에는 과도하게 설계되어 있다. 샤이너 부사장은 추론 환경에서는 데이터 손실 시 재계산이 가능하므로 복제는 낭비라고 지적했다. NVIDIA의 해답은 BlueField, STX, CMX를 활용해 전통적인 스토리지 중복성 오버헤드 없이 KV 캐시 검색에 최적화된 맞춤형 스토리지 계층이다. 이는 기존 제품의 재포장이 아닌, 네트워킹 부문의 새로운 증분 주소 가능 시장(TAM)이다.

공동 패키징 광학(CPO)은 기술 이전에 '전력' 문제다

구리선과 광케이블의 논쟁에 대해 샤이너 부사장은 시장의 소음을 걷어내는 실용적인 견해를 밝혔다. 구리는 짧은 거리에서 비용과 전력 효율성 측면에서 압도적이며, 추가 전력 소모가 거의 없다. 광케이블은 거리가 멀어질 때 필수적이지만, 오늘날 스케일아웃 인프라에서 광 연결은 전체 AI 팩토리 전력 용량의 10% 가까이를 소비할 수 있으며, 이는 컴퓨팅 확장성을 제한하는 핵심 요소다. 공동 패키징 광학(CPO)은 이러한 광 전력 부담을 줄여주며, 이것이 바로 NVIDIA가 1,152개의 GPU 연결이 랙 경계를 넘어야 하는 Feynman 플랫폼과 같은 구성에 CPO를 투자하는 이유다. 투자자들에게 중요한 점은 CPO 도입이 기술적 준비성 논쟁이 아닌 '전력 경제성'의 문제이며, 오늘날 AI 팩토리 구축의 가장 큰 제한 요소가 바로 전력이라는 사실이다.