De optische realiteitstoets: waarom Near-Packaged Optics en circuit switching CPO de loef afsteken in de AI-netwerkhausse
De wiskunde achter de opbrengstencrisis bij Co-Packaged Optics
De aanvankelijke euforie rondom Co-Packaged Optics (CPO) was gebaseerd op deugdelijke natuurkunde, maar vertoonde fatale gebreken in de aannames over de productie. Het kernidee om de optische engine via geavanceerde 3D-packaging direct op de application-specific integrated circuit (ASIC) van de switch te integreren, was bedoeld om het stroomverbruik drastisch te verlagen. De realiteit van optische uitlijning op submicronniveau en componentkalibratie heeft echter geleid tot een instorting van de systeemopbrengst, waardoor massale commercialisering van opschaalbare CPO effectief is verschoven naar 2028 of later. De wiskunde achter deze vertraging is meedogenloos: het integreren van 32 optische engines op één switch-package resulteert, bij een zeer optimistische opbrengst van 95 procent per individuele engine, in cumulatieve defectpercentages die de totale systeemopbrengst naar ongeveer 19 procent drukken. Als men daarbij rekening houdt met het hoge insertion loss van externe lasers – vaak meer dan 3,5 decibel in systeemtests – en de angst bij hyperscalers voor switches van miljoenen dollars die bij het falen van één enkele engine volledig moeten worden vervangen, dan stort de businesscase voor CPO fundamenteel in.
Als reactie daarop stappen hyperscalers agressief over op Near-Packaged Optics (NPO) als de pragmatische standaard. Door de optische engine van het hoofdchip-package te verplaatsen naar een hoogwaardig substraat op slechts enkele centimeters afstand, vermijdt NPO de cumulatieve opbrengstverliezen op foundry-niveau volledig. Deze architectuur vertrouwt op ultrakorte koperverbindingen voor de laatste millimeter, maar verlaagt het stroomverbruik nog steeds drastisch naar 4,4 tot 6,9 picojoule per bit – ruwweg de helft van de energie die nodig is voor traditionele, DSP-intensieve pluggable modules. Cruciaal is dat NPO gebruikmaakt van socketable componenten, wat de onderhoudbaarheid van het systeem waarborgt en hyperscalers de operationele betrouwbaarheid biedt die vereist is voor clusters die tientallen miljoenen rekenuren draaien.
De structurele dominantie van Broadcom in het switch-segment
Deze architecturale draai bevoordeelt structureel Broadcom boven Nvidia in de kern van de AI-netwerklaag. Broadcom heeft een pragmatische, open-ecosysteembenadering gekozen die NPO inherent ondersteunt, waardoor hyperscalers de ernstige productierisico's van geavanceerde 3D-optische packaging kunnen vermijden. Broadcom's Tomahawk 5, met een capaciteit van 51,2 terabit per seconde, en de onlangs uitgerolde Tomahawk 6, met 102,4 terabit per seconde, domineren momenteel de markt voor Ethernet-fabric bij hyperscalers, waarbij er op de drempel van 100 terabit nagenoeg geen concurrentie op korte termijn is.
De financiële cijfers van Broadcom bevestigen dit architecturale succes. Volgens de meest recente kwartaalcijfers heeft Broadcom een AI-backlog opgebouwd van meer dan 73 miljard dollar, met de verwachting dat de inkomsten uit AI-netwerken jaar-op-jaar zullen verdubbelen. Door zich te concentreren op het leveren van de kern-switchsilicium en 400G-per-lane optische digital signal processors, stelt Broadcom cloudgiganten als Google, Meta en Amazon in staat hun optische engines onafhankelijk in te kopen. Dit creëert een diepe bilaterale lock-in waarbij hyperscalers volledig afhankelijk zijn van de siliciumsuperioriteit van Broadcom, maar tegelijkertijd flexibiliteit in de toeleveringsketen behouden aan de optische periferie. Hierdoor blijven de inkomsten van Broadcom geïsoleerd van de opbrengstproblemen die de CPO-roadmap momenteel verlammen.
Optical Circuit Switching wordt de standaard voor scale-out
Parallel aan de overstap naar NPO wordt Optical Circuit Switching (OCS) in rap tempo de gouden standaard voor netwerkarchitecturen in hyperscale datacenters, aanvankelijk gedreven door grootschalige interne validatie bij Google. Traditionele elektrische packet switching vereist energie-intensieve optisch-naar-elektrisch-naar-optische conversies bij elke netwerkhop. OCS omzeilt deze inefficiëntie volledig door gebruik te maken van Micro-Electro-Mechanical Systems (MEMS)-spiegels om lichtstralen fysiek om te leiden tussen glasvezelpaden, wat zorgt voor interconnects met een latentie die bijna nul is.
De inzet van deze technologie door Google binnen zijn TPU v4-, v5p- en v6e-architecturen heeft aangetoond dat OCS dynamische cluster-reconfiguratie onder de 10 nanoseconden mogelijk maakt, terwijl het totale stroomverbruik van het datacenter-netwerk met 30 tot 40 procent wordt verlaagd in vergelijking met legacy-topologieën. Het aanhoudende succes van deze architectuur heeft onderzoeksbureaus, waaronder Cignal AI, gedwongen hun prognose voor 2026 voor de totale adresseerbare markt van Optical Circuit Switches te verdrievoudigen. Hoewel de markt aanvankelijk beperkt was tot Google's interne Palmetto-ontwerpen, breidt de miljardenmarkt voor OCS zich snel uit naar externe leveranciers nu andere cloudproviders deze enorme efficiëntiewinsten op het gebied van stroom en latentie willen kopiëren.
Knelpunten in componenten: het duopolie van continuous-wave lasers
Ongeacht of een hyperscaler vandaag NPO gebruikt of morgen CPO probeert, beide architecturen vereisen de scheiding van warmtegevoelige lichtbronnen van de switch-processor. Dit vereist External Laser Sources (ELS), aangedreven door high-power Indium Phosphide (InP) continuous-wave (CW) lasers. Nu de AI-industrie agressief opschaalt van koper naar optische interconnects, is de markt voor CW-lasers een kritiek knelpunt in de toeleveringsketen geworden.
Dit segment fungeert als een effectief duopolie, gecontroleerd door Lumentum en Coherent, die gezamenlijk het overgrote deel van de wereldwijde productiecapaciteit voor high-power lasers in handen hebben. Marktchecks wijzen uit dat beide bedrijven momenteel volledig zijn uitverkocht, met een capaciteit die jaren vooruit is volgeboekt. Het strategische belang van dit knelpunt werd onlangs onderstreept door AMD, dat agressief onderhandelt over grootschalige inkoopovereenkomsten voor CW-lasers om zijn eigen toeleveringsketen voor optische interconnects veilig te stellen en het component-ecosysteem van Nvidia volledig te omzeilen. Voor beleggers vormen Lumentum en Coherent pure "tolweg"-activa in de optische AI-uitrol, die inkomsten genereren ongeacht welke specifieke packaging-architectuur uiteindelijk de datacenter-vloer domineert.
Module-integrators ontwijken disintermediatie
De vertraging bij CPO biedt een enorme, meerjarige reddingslijn aan traditionele integrators van optische modules. Onder een puur CPO-paradigma werd verwacht dat een groot deel van de waardeketen van modules zou worden opgeslokt door geavanceerde foundries en chipontwerpers, wat traditionele assembleurs ernstig zou disintermediëren. NPO keert deze dreiging permanent om. Omdat de optische engine een onafhankelijke, socketable module op het moederbord blijft, behouden fabrikanten van optische modules hun lucratieve rollen in ontwerp, testen en assemblage.
Marktchecks tonen aan dat optische modulemakers in de NPO-architectuur ongeveer dubbel zoveel waarde toevoegen in vergelijking met wat ze zouden verdienen als ze enkel ruwe componenten voor CPO zouden leveren. Bedrijven als Zhongji Innolight en Eoptolink zijn de voornaamste begunstigden van deze verlengde levenscyclus. Innolight zal volgens marktanalisten naar verwachting tot 2026 ongeveer 80 procent van de Google-orders voor optische modules boven 800G binnenhalen. Nu Google zijn TPU-inzet opschaalt naar miljoenen eenheden, is Innolight gepositioneerd om meer dan zes miljoen hogesnelheidsmodules aan één enkele klant te leveren, waarbij brutomarges worden gehandhaafd die wedijveren met die van top-tier halfgeleiderontwerpers.
De dreiging: hyperscalers wijzen Nvidia's propriëtaire lock-in af
In de kern is de snelle adoptie van NPO en OCS een strategisch defensief manoeuvre van Alphabet, Amazon en Meta tegen vendor lock-in. Nvidia heeft agressief ingezet op een verticaal geïntegreerde roadmap, in een poging hyperscalers te binden aan zijn propriëtaire InfiniBand-fabrics, aangepaste CPO-ontwerpen zoals Quantum-X en gespecialiseerde 800-volt gelijkstroom-stroomvoorzieningssystemen. De productieproblemen in deze sterk geïntegreerde toeleveringsketen hebben hyperscalers de perfecte opening gegeven om een andere koers te varen.
Door open-standaard Ethernet-switches van Broadcom te adopteren, deze te combineren met NPO-engines van onafhankelijke modulemakers zoals Innolight, en verkeer te routeren via OCS met behulp van Lumentum-lasers, slagen cloudproviders erin het AI-datacenter te modulariseren. Deze architecturale versplintering beperkt de prijszettingsmacht van Nvidia strikt tot de kern-rekennode, terwijl hyperscalers de netwerktransportlaag kunnen commoditiseren. Spelers in de toeleveringsketen die te sterk afhankelijk zijn van Nvidia's propriëtaire netwerk-ecosysteem, lopen aanzienlijke neerwaartse risico's nu de industrie standaardiseert op de pragmatische, multi-vendor realiteit van NPO.