TD Cowen: Netwerkdivisie van NVIDIA is geen bijzaak meer — het is de architectuur van de AI-fabriek
TD Cowen 54th Annual TMT Conference, 28 mei 2026 — Gilad Shainer, VP of Networking bij NVIDIA, legt uit waarom de netwerkdivisie van $14,9 miljard structureel verschilt van al het andere in de markt
Een netwerkdivisie van $14,9 miljard met een groei van 199% — en elke laag draagt bij
De netwerkomzet van NVIDIA bereikte in het meest recente kwartaal $14,9 miljard, een stijging van 199% op jaarbasis. Gilad Shainer, die de netwerkactiviteiten bij NVIDIA leidt, maakte op 28 mei tijdens de 54th Annual TMT Conference van TD Cowen duidelijk dat dit niet het verhaal van één enkel product is. De groei komt gelijktijdig uit NVLink voor de 'scale-up'-kant, InfiniBand en Spectrum-X Ethernet voor de 'scale-out'-kant, en BlueField als zowel storage-processor als data processing unit die veilige toegang tot AI-fabrieken mogelijk maakt. De breedte van die bijdrage is cruciaal, omdat dit betekent dat de netwerkomzet niet afhankelijk is van het oplossen van één specifiek knelpunt of van de concentratie bij één klant. Elke laag van wat NVIDIA de AI-fabriek noemt, breidt zich uit.
De overname van Mellanox was gericht op het worden van een computerbedrijf, niet een componentenleverancier
Shainer gaf de duidelijkste toelichting tot nu toe waarom Jensen Huang de overname van Mellanox nastreefde, een deal die door TD Cowen werd omschreven als "wellicht de belangrijkste en meest succesvolle technologische fusie en overname ooit". Volgens Shainer was de logica architectonisch: "Jensen zag dat NVIDIA een computerbedrijf moet worden; geen apparatenfabrikant, geen ASIC-bedrijf, maar een computerbedrijf. En de manier waarop je computer-ASIC's met elkaar verbindt, bepaalt wat die ASIC's kunnen doen. Als je ze op de ene manier verbindt, heb je slechts een serverpark. Als je ze op een andere manier verbindt, kun je daadwerkelijk een supercomputer bouwen." Die visie — waarbij netwerken bepalend zijn voor wat rekenkracht daadwerkelijk kan bereiken — vormt de basis voor de volledige geïntegreerde rack-strategie van NVIDIA en verklaart waarom het team van Mellanox niet als een aparte divisie werd geabsorbeerd, maar vanaf de eerste dag werd geïntegreerd als één engineeringorganisatie.
NVLink Fusion is geen defensieve zet — het is NVIDIA dat zijn beste technologie openstelt voor het ecosysteem
Er heerst in de markt aanhoudende bezorgdheid dat de verschuiving van NVIDIA naar volledig geïntegreerde NVL-racks klanten in een gesloten systeem dwingt en ecosysteempartners vervreemdt. Shainer sprak dit direct tegen. De architectuur is verticaal ontworpen — waarbij elke component is mee-ontwikkeld om als één geheel te fungeren — maar wordt horizontaal verkocht, wat betekent dat klanten individuele onderdelen kunnen afnemen en combineren met hun eigen ontwerpen. NVLink Fusion, waarmee CPU's en zelfs GPU's van derden via NVLink kunnen worden verbonden, is hiervan het concrete bewijs. "NVLink Fusion stelt onze klanten in staat om NVLink ook als een apart element te gebruiken als ze dat willen", aldus Shainer. Zijn argument is dat NVIDIA voldoende vertrouwen heeft in de kwaliteit van elke component om partners deze individueel te laten gebruiken. Of het ecosysteem dit als oprecht open of strategisch open beschouwt, is een andere vraag, maar de commerciële aankondigingen rondom Fusion-partners wijzen op een reële tractie.
Waarom Spectrum-X Ethernet architectonisch onderscheidend is — en waarom dat verschil geen marketingpraatje is
Het meest technisch inhoudelijke deel van het gesprek was Shainers uitleg over waarom Spectrum-X niet vergelijkbaar is met standaard Ethernet-switches en waarom dat verschil fundamenteel is in plaats van incrementeel. Het kernprobleem bij gedistribueerde AI-workloads is 'jitter' — de variatie in de timing waarmee data bij verschillende GPU's aankomt. In een trainings- of inferentiecluster waar honderdduizenden GPU's synchroon moeten werken, zorgt zelfs één GPU die data net iets te laat ontvangt ervoor dat alle andere moeten wachten. Traditionele Ethernet-architecturen, inclusief die ontworpen voor grootschalige cloud-workloads, waren nooit gebouwd om dit probleem op te lossen, omdat jitter in single-server- of long-haul-omgevingen irrelevant is.
Het diepere probleem is structureel. Het elimineren van jitter vereist 'unconditional packet spraying' — het routeren van elk individueel pakket via het minst overbelaste beschikbare pad, ongeacht de volgorde van de datastroom. Maar dat op switch-niveau doen, leidt inherent tot het buiten de volgorde afleveren van data. De enige manier om dit op te lossen is door een intelligent eindpunt te hebben dat pakketten die buiten de volgorde binnenkomen, in real-time correct kan herschikken in het GPU-geheugen. Dat eindpunt is de ConnectX SuperNIC. "Dat is waarom je, wanneer je een infrastructuur bouwt voor gedistribueerde rekenworkloads, een switchelement nodig hebt dat de distributie onvoorwaardelijk uitvoert, en vervolgens een SuperNIC die de data weer op de juiste volgorde zet", zei Shainer. "Dat is waarom het een infrastructuur is en geen enkel apparaat." Dit is de architectonische 'moat'. Een concurrent die alleen een switch of alleen een NIC aanbiedt, kan niet repliceren wat Spectrum-X als systeem levert.
Spectrum-X ondersteunt meerdere routeringsprotocollen — inclusief MRC en eigen protocollen van klanten
Shainer besprak ook de opkomende Multi-path RDMA Congestion control (MRC)-standaard en de relatie daarvan met Spectrum-X. In plaats van MRC te positioneren als een competitieve bedreiging voor de adaptieve routeringsaanpak van NVIDIA, omschreef hij Spectrum-X als een platform dat gelijktijdig meerdere routeringsprotocollen ondersteunt: adaptieve RDMA, MRC en diverse eigen protocollen die door grote hyperscalers zijn ontwikkeld voor hun eigen workload-optimalisatie. "Er is een verscheidenheid aan routeringsprotocollen die op Spectrum-X kunnen draaien", zei Shainer, waarbij hij de analogie trok met BGP als simpelweg een andere protocollaag. Veel van waar het Ultra Ethernet Consortium nu aan werkt om te standaardiseren, zo merkte hij op zonder het consortium direct bij naam te noemen, weerspiegelt ontwerpkeuzes die NVIDIA al in Spectrum-X heeft gemaakt. Als die zienswijze klopt, suggereert dit dat NVIDIA een aanzienlijke voorsprong heeft in implementaties op productieniveau.
Inferentie creëert nieuwe vraag naar infrastructuur die training niet had — BlueField en het KV-cache storage-probleem
Shainer introduceerde een dimensie van de netwerkgroei van NVIDIA die relatief weinig aandacht van beleggers heeft gekregen: de storage-infrastructuur die is gebouwd voor inferentie. Naarmate AI-implementaties verschuiven naar 'agentic' architecturen — waarbij AI-modellen interageren met andere AI-modellen, langere contextvensters aanhouden en grotere KV-caches onderhouden — vervalt de aanname dat alle relevante data in het lokale GPU-geheugen kan verblijven. Netwerkgekoppelde opslag wordt noodzakelijk, maar conventionele netwerkopslagarchitecturen zijn overgedimensioneerd voor de inferentie-use-case, omdat ze prioriteit geven aan dataredundantie via replicatie. Bij inferentie, zo betoogde Shainer, kan verloren data simpelweg opnieuw worden berekend, wat replicatie verspilling maakt. Het antwoord van NVIDIA is een speciaal gebouwde opslaglaag met gebruik van BlueField, STX en CMX, geoptimaliseerd voor het ophalen van KV-caches zonder de overhead van traditionele opslagredundantie. Dit is een nieuwe incrementele adresseerbare markt voor de netwerkdivisie, geen herverpakking van bestaande producten.
Co-packaged optics is in de eerste plaats een verhaal over stroomverbruik, in de tweede plaats over technologie
Over het debat tussen koper en optica was Shainer pragmatisch op een manier die door veel ruis in de markt heen snijdt. Koper wint op korte afstanden wat betreft kosten en stroomverbruik — het verbruikt in essentie nul extra stroom. Optica is noodzakelijk wanneer de afstand dat vereist, maar optische connectiviteit op scale-out-infrastructuur kan vandaag de dag bijna 10% van de totale stroomcapaciteit van een AI-fabriek verbruiken, wat de beperkende factor is voor hoeveel rekenkracht er kan worden ingezet. 'Co-packaged optics' (CPO) vermindert die optische stroomlast, en dat is de reden waarom NVIDIA erin investeert voor configuraties zoals het Feynman-platform, waar voor de connectiviteit van 1.152 GPU's rackgrenzen moeten worden overschreden. De formulering hier is belangrijk voor beleggers: de adoptie van CPO is geen functie van debatten over technologische volwassenheid, maar van economische stroomkosten, en stroom is vandaag de dag de belangrijkste beperkende factor voor de uitbreiding van AI-fabrieken.