DruckFin

Broadcom-transcript: Omzet uit custom XPU-silicium stijgt naar ruim $100 miljard nu techgiganten Nvidia inruilen voor modulaire maatwerkarchitecturen

19 augustus 2026 - RAISE Summit 2026

Introductie en de hoge kosten van algemene AI-rekenkracht

Host: Goed, ik denk dat dit de laatste sessie is, toch? Iedereen is inmiddels wel moe. We zullen proberen het wat onderhoudender te maken. Geweldig om jullie hier te zien. We zijn in Frankrijk, in Parijs, het land van de haute couture, en ik denk dat Broadcom in zekere zin de haute couture van de chipindustrie is.

Charlie Kawwas: Dank je wel. Dat denk ik ook.

Host: Dat denk ik ook. Met de opkomst van AI en de XPU wil iedereen natuurlijk XPUs bouwen, en ze kloppen allemaal aan bij het haute-couturehuis van Broadcom. Laten we eens bespreken waarom de XPU zo’n cruciaal onderdeel is geworden voor vrijwel elke hyperscaler en elk onderzoekslaboratorium ter wereld.

Charlie Kawwas: Allereerst bedankt voor de uitnodiging. We gaan vandaag wat laten zien. Dit is een geweldige introductie over die haute couture. Ik had er zelf nooit zo over nagedacht, maar het is een fenomenaal idee. Uiteindelijk werd deze AI-golf aangestuurd door wat we 'general AI compute' noemen, gedomineerd door Nvidia. Nvidia heeft uitstekend werk geleverd door grote racks met aangepaste, eigen platforms te bouwen; het is een geweldig platform. Maar de partijen die meer dan 80% van het geld uitgeven, zijn de frontier-labs. Zij verbruiken al deze hardware en bouwen vervolgens de software die daarop draait. Zij hebben inmiddels ingezien dat aan die algemene rekenkracht een prijskaartje hangt.

Charlie Kawwas: Dat 'belastingtarief' zit hem allereerst in de efficiëntie van het rekenplatform. Het is gebouwd voor iedereen. Als je een specifieke workload hebt voor je AI-model, dan betaal je voor die extra overhead. De andere belasting komt voort uit de hoge marges. Gezien de enorme uitgaven — toen het nog om honderden miljoenen of een paar miljard dollar ging, was het logisch om een platform te gebruiken dat kant-en-klaar in een rack werd geleverd. Maar als je $50 miljard, $100 miljard of misschien wel $150 miljard uitgeeft — zoals je weet, geven de vier grootste spelers in de VS elk tussen de $150 miljard en $200 miljard uit — dan is die 'belasting' voor elke speler zo’n $100 miljard tot $150 miljard die ze hadden kunnen omzetten in tokens. Ze realiseerden zich dat als ze hun eigen platform net zo snel kunnen bouwen als Nvidia — wat eenmaal per jaar is, en behoorlijk lastig — ze dat maar al te graag zouden doen.

Charlie Kawwas: Onze reis begon 13 jaar geleden, met de TPUs van Google. Hun oorspronkelijke idee was om zoekopdrachten op basis van tekst uit te breiden naar spraak. Daarvoor was de creatie van de TPU nodig. Maar naarmate AI zich ontwikkelde, zagen we dat deze chips steeds groter werden.

Show and tell: De evolutie van custom silicium van 2025 tot 2028

Charlie Kawwas: Charlie pakt verschillende fysieke halfgeleiderpakketten en legt ze op tafel om de vooruitgang in Broadcoms custom siliciumontwerp te demonstreren. Ik laat jullie dit om een reden zien, en ik geef ze straks door. Maar beloof wel dat jullie ze teruggeven, want ze zijn erg kostbaar. Dit is bijvoorbeeld een XPU die vorig jaar, in 2025, is gebouwd en geleverd. Zoals je kunt zien — al is het lastig te onderscheiden — is hij opgebouwd uit verschillende chiplets. Sommige zijn gebaseerd op geheugen, andere op netwerkfunctionaliteit en weer andere op rekenkracht.

Charlie Kawwas: Charlie pakt een tweede, zichtbaar grotere chip en overhandigt beide aan de host. Wat we dit jaar, in 2026, bouwen en leveren, is deze chip. Zoals je ziet, is hij groter geworden. Ik vraag je er één vast te houden. Dit is die van vorig jaar, en dit is die van dit jaar. Je ziet dat we nu drie keer zoveel geheugen hebben. In de versie van 2025 had je twee geheugencubes. In de versie van 2026 heb je er zes, en de rekenkracht in het midden is bijna drie keer zo krachtig.

Charlie Kawwas: Charlie pakt een derde, aanzienlijk groter modulair bord dat het ontwerp voor 2027 vertegenwoordigt. Wat er gebeurde is dat we zeiden: voor volgend jaar moeten we dit bouwen. Dus nu heb je nog meer geheugen.

Host: Hoeveel keer meer geheugen is dit?

Charlie Kawwas: Dit is een factor één, drie, negen. In twee jaar tijd is het bijna een orde van grootte meer. Als je naar de rekenkracht kijkt: in de eerdere versie had je één groot rekenblok, en hier heb je er vier. Vervolgens gebruik je nieuwe halfgeleidertechnologie waarmee je transistors kunt verkleinen, en dan voeg je er nog veel meer toe. Ik geef je deze ook even.

Charlie Kawwas: Charlie pakt een enorm, zeer complex meerlaags systeembord dat het ontwerp voor 2028 vertegenwoordigt. En dit is waar we aan werken voor 2028. Dit is 2027, en deze versie uit 2028 wordt letterlijk zo groot als het hele platform. Als je ze naast elkaar legt, zie je de schaling van 2025, 2026, 2027 naar 2028.

Charlie Kawwas: De reden dat ik dit wil laten zien, is dat ik wil dat jullie twee dingen begrijpen. Eén: de snelheid waarmee deze technologie beweegt, betekent dat de innovatie extreem snel moet gaan. Twee: laat me dit voor je openen. Letterlijk zo bouwen we deze chips. Ze zijn modulair. Daarom komen mensen naar de haute couture, zoals je zei, omdat we deze platforms vooraf bouwen. Deze kleine chiplets die in de chip gaan, bouwen we voor, zorgen dat ze productierijp zijn, werken samen met partners zoals Samsung en anderen, en creëren deze geheugenblokken. Deze geheugenintegratie is een van de redenen waarom de prijzen stijgen, want we stoppen er zoveel meer in. We creëren deze Ethernet-gebaseerde input-output netwerkmogelijkheden en werken samen met onze partners. We hadden vroeger de helft van een van deze. Nu hebben we er één, twee, drie, vier, vijf, zes, zeven, acht, keer twee. Dit is een dubbeldekker. We stapelen deze chips rug-aan-rug, of eigenlijk, de juiste term is 'face-to-face'. Je hebt dus 16 keer wat we twee jaar geleden hadden, 16 keer in één enkele chip. En van de eerste chip hebben we een miljoen eenheden ingezet.

Host: Dit ziet er niet eens meer uit als een chip, Charlie. Dit ziet eruit als een monsterlijk systeem. Het is een beest.

Charlie Kawwas: Ja, dat is het ook. Dat is eigenlijk hoe ik het op het werk noem. Dit is 'het beest'. We bouwen er vier voor de grootste vier spelers in Large Language Models. Het is modulair. Het mooie hiervan, om op jouw punt terug te komen, is dat het haute couture is. Je komt bij ons, je vertelt ons wat voor smoking of jurk je wilt, en wij passen het aan en bouwen het voor je, waardoor die 'algemene rekenkrachtbelasting' wegvalt. Dit wordt specifiek gebouwd voor bijvoorbeeld jouw inferentie-workload of decode-workload. Dat is wat dit zo snel en geweldig maakt. Zolang Nvidia elk jaar geweldige technologie blijft ontwikkelen om dat tempo bij te benen, is er maar één andere plek om naartoe te gaan.

Het snelle tempo van Nvidia en de schaal van de Big Five

Host: Je noemde het tempo van één jaar waar Nvidia op zit. Vroeger was dat twee of drie jaar, toch? En toen versnelden ze het naar één jaar, elk jaar. De druk is dus hoog. De meeste bedrijven kunnen dat tempo niet bijhouden. De enige die dat misschien wel kan, ben jij, met deze modulaire Lego-architectuur.

Charlie Kawwas: Je hebt helemaal gelijk. Als je een van de 'Big Five' in de VS bent — OpenAI, Anthropic, Google met Gemini, Meta en xAI — die vandaag de dag misschien 90% van de wereldwijde kapitaalinvesteringen doen, dan is dat het wel. Onder deze vijf valt letterlijk 80% tot 90% plus van de markt. Vier van de vijf hebben ingezien dat, hoewel de technologie van Nvidia erg goed is, ze niet langer dat algemene rekenplatform kunnen blijven kopen dat alleen op rack-niveau aangepast is. Dus komen ze naar ons, elk van hen, en ze zeggen: "Wat kunnen we samen doen om een platform op maat te krijgen dat is afgestemd op mijn workload, en dat niet met een marge van 80% komt?" Dat is wat wij doen voor de kost, omdat we ons puur focussen op het bouwen hiervan. We zorgen ervoor dat elk van deze Lego-blokken productierijp is voordat je met mij komt praten. Wanneer je bij mij aanklopt, wordt het een integratieoefening. Wat we aankondigden met Jalapeno, bijvoorbeeld, is de snelste chip die ooit is gebouwd, voltooid in negen maanden. Het is vergelijkbaar met dit. Ze deden dat in minder dan een jaar.

Host: Je hebt deze onderzoekslaboratoria dus in feite in staat gesteld om hun eigen silicium in een jaar tijd te bouwen. Vijf jaar geleden was je AI-chipbusiness nul, en volgend jaar is het meer dan $100 miljard. Van nul naar meer dan $100 miljard in vijf jaar tijd.

Charlie Kawwas: Meer dan $100 miljard. Vergeet niet, $100 miljard is niet goed genoeg. Het is ruim meer dan $100 miljard.

Host: Meer dan $100 miljard in vijf jaar. Maar hoeveel van deze schalen echt? Van die vier, in de periode 2027, staat het nog in de kinderschoenen, toch?

Charlie Kawwas: Dat klopt, maar om je een idee van de schaal te geven: zie de chip uit 2025 als ongeveer 1 miljoen eenheden per jaar. Zie de chip uit 2026 als ongeveer 2 miljoen eenheden per jaar. Maar onthoud: de 2026-chip heeft drie keer de capaciteit van de 2025-chip, dus dat is een zesvoudige toename in rekenkracht in één jaar. Dan ga je naar de 2027-chip, wat waarschijnlijk 4 tot 5 miljoen eenheden zijn, en dit is negen keer de capaciteit van de 2025-chip. Nu zit je op 40 tot 50 keer de schaal van de eerste. En dan is het 'beest' in 2028 nog eens drie keer zo groot. Als je kijkt naar de schaal waarop mensen deze dingen bouwen, is het een race naar superintelligentie en Artificial General Intelligence. Deze vier à vijf frontier-labs geloven dat het eerste bedrijf ter wereld dat dit platform mogelijk maakt, wat ik het 'agentic AI-platform' noem, de eerste kan zijn die AGI bereikt. Met deze technologie uit 2028 denk ik dat we veel capabele agents gaan zien, experts in bepaalde domeinen, die eindelijk de technologie hebben om dit mogelijk te maken. Dat is het spannende aan wat we doen, en waarom mensen terugblijven komen en zeggen: "Ik zou graag de Nvidia-chip gebruiken, maar ik heb te maken met een algemene rekenbelasting en een margebelasting." Als ze hun tokenkosten per dollar willen verlagen, kunnen ze twee tot drie keer zoveel rekenkracht krijgen voor dezelfde dollar, wat betekent dat de tokenprijs enorm daalt. Dat is uiteindelijk waar ze op sturen.

Host: Je bent dus in feite een haute-couture-ontwerphuis met lage belastingen.

Charlie Kawwas: Correct.

Co-design op rack-niveau en open standaarden

Host: Het andere 'onderwerp van de dag' in de AI-wereld is co-design. Je noemde Jalapeno en OpenAI, en hoe de nauwe integratie van modelontwikkeling helpt bij het definiëren van de chiparchitectuur, waarna de chipprestaties worden geoptimaliseerd voor de modelarchitectuur. Deze nauwe integratie van co-development lijkt alleen mogelijk als je je eigen XPU hebt.

Charlie Kawwas: Dat klopt helemaal. Er zijn twee delen aan die haute-couture-benadering. Eén is het diepe co-design voor de XPU dat je beschreef. Het tweede is op rack-niveau. We moeten het niet alleen op XPU-niveau doen voor hun Large Language Models en specifieke use cases, maar we zetten ons ook zwaar in om ervoor te zorgen dat het hele rack open is en voor hen is mee-ontworpen. Een deel daarvan is waar we onze netwerk- en Ethernet-mogelijkheden inbrengen, en ervoor zorgen dat het open is. We begonnen met het Ethernet-gebaseerd en open maken van de front-end netwerken. Daarna gingen we naar scale-out, en nu is iedereen open, inclusief Nvidia. De volgende strijd is scale-up, waar veel van deze jongens onze 'blue chips' gebruiken — die kleine chiplets die we zo noemen — die allemaal Ethernet-gebaseerd zijn. Wanneer we dit allemaal samen ontwerpen, is het co-design op rack-niveau, beginnend bij de XPU met elk van deze blokken, en dan het hele rack, wat hen keuzevrijheid geeft. Eerlijk gezegd, als Broadcom niet de beste technologie levert, hebben ze de keuze om met iemand anders in zee te gaan. Maar dit is multigenerationeel en behoorlijk succesvol voor ons geweest omdat we, zoals je zei, twee jaar geleden op minder dan $1 miljard in deze ruimte zaten, en volgend jaar, in drie jaar tijd, zitten we op meer dan $100 miljard in deze sector alleen al.

Host: Je noemde de openheid van de interconnect-standaarden, en jullie zijn 'full-stack'. Jullie doen netwerken, packaging, custom XPU-ontwerp en IP-blokken. Ze willen die open standaard. Hoe zit het met open-source? Is er een idee van een open-source foundation lab? Zie je een markt voor XPU-ontwikkeling voor open-source foundation labs of open-source modellen, in plaats van alleen de gesloten foundation labs?

Charlie Kawwas: Ja, eigenlijk heb je helemaal gelijk. Een goed voorbeeld dat we vandaag eerder bespraken is SambaNova. Hoeveel van jullie hebben gehoord van een bedrijf genaamd SambaNova? Steek je hand maar op. Dat is goed, een flink aantal mensen hier, misschien 15%. SambaNova Systems is via diepe engineering samen met Rodrigo Liang en zijn team ontwikkeld. We hebben drie generaties hiervan gedaan. Wat Rodrigo doet, is zijn XPU gebruiken om een gesloten frontier-model te draaien, wat state-of-the-art is, maar hij brengt ook een open-source model zoals Mixtral of DeepSeek in en draait dat op dezelfde chip. Daarom maakt hij een hybride oplossing mogelijk. Als je Claude of ChatGPT moet gebruiken voor specifieke use cases, kun je dat op die XPU draaien, maar als je plotseling iets moet gebruiken waarvoor geen state-of-the-art gesloten modellen nodig zijn en je wilt een open-source stack gebruiken, dan gebruik je die en betaal je nul voor die tokens. Dat model bestaat vandaag al, en we hebben het bewezen met een paar startups. Ik denk dat we dat meer op XPUs gaan zien naarmate we verder vooruitgaan.

Toekomstvisie: Stroombehoefte, Edge AI en Broadcoms 16 franchises

Host: In de laatste paar minuten: hoe zie je de komende jaren en het pad vooruit? Je laat de 2028-chip zien, en iets dat er enorm uitziet. Wat verwacht je dat de belangrijkste onderwerpen zullen zijn voor de komende jaren en daarna?

Charlie Kawwas: Dat is de vraag van $2 biljoen.

Host: Er is meer dan alleen Jalapeno, toch?

Charlie Kawwas: Ja, er is zeker meer dan Jalapeno. Er komen absoluut meer 'pittige' chips en veel meer XPUs aan, zowel van de grote labs als van veel startups. Maar wat ik zie is een onverzadigbare vraag in gigawatts. We hebben bijvoorbeeld voor een van de top vijf klanten aangekondigd dat we dit jaar ongeveer 1,5 gigawatt aan vermogen inzetten met een van de chips die ik liet zien. Volgend jaar gaan we over de 5 gigawatt heen, wat we al hebben gecontracteerd met diezelfde klant. We gaan dus van 1,5 gigawatt naar 6,5 gigawatt in totaal. Het jaar daarna zal het naar ik aanneem meer dan 10 gigawatt incrementeel zijn. Als je naar de komende drie jaar kijkt voor elk van deze lab-spelers, gaan ze van 1 à 2 gigawatt dit jaar naar 5 gigawatt, naar meer dan 10 gigawatt incrementeel. Over die reis van drie jaar gaan ze van 2 naar 5 naar 10 gigawatt, wat 17 gigawatt in totaal is, beginnend bij slechts 1 gigawatt vandaag.

Charlie Kawwas: Dit betekent dat er een enorme uitdaging ligt wat betreft de hoeveelheid benodigde stroom, de hoeveelheid siliciumwafers en de hoeveelheid geheugen. Het gaat zelfs een uitdaging vormen voor de rest van de niet-AI-activiteiten die we bij Broadcom ook doen. Vergeet niet, ik heb 16 franchises. Vijf daarvan zitten in AI, en 11 in niet-AI. Een deel van de uitdaging waar we allemaal doorheen moeten terwijl we het spannende leven van AI-schaling naar AGI ervaren, is ervoor zorgen dat de rest van de bedrijven overleeft. AI zal niet alleen in datacenters wonen; AI moet naar de 'edge', en deze andere bedrijven moeten die edge-AI mogelijk maken. We hebben een geweldige, spannende reis op het AI-spoor met stroom en al die zaken. We bouwen zelfs onze eigen fabrieken in Singapore om deze grote beesten en grote chips te bouwen, omdat bestaande technologieën ze niet kunnen faciliteren. Maar terwijl we dit doen, is de uitdaging voor ons allemaal dat AI moet migreren, net zoals het internet begon in datacenters en uiteindelijk verhuisde naar de slimme apparaten van vandaag. Hetzelfde moet gebeuren met AI. Ik denk dat het voor ons bij Broadcom spannend zal zijn omdat we in beide stukken zullen spelen als het haute-couturehuis van silicium.

Host: Bedankt, Charlie.

Charlie Kawwas: Dank je wel. Dank jullie wel.