DruckFin

Broadcom-Transkript: Umsatz mit kundenspezifischen XPUs soll 100 Milliarden Dollar übersteigen, da Tech-Giganten von Nvidia zu maßgeschneiderten modularen Architekturen wechseln

19. August 2026 – RAISE Summit 2026

Einführung und die hohen Kosten für allgemeine KI-Rechenleistung

Moderator: Alles klar, großartig. Ich glaube, das ist die letzte Session, oder? Oh, alle sind müde. Okay, wir werden versuchen, es etwas unterhaltsamer zu gestalten. Schön, Sie hier zu sehen. Wir sind in Frankreich, in Paris, dem Land der Haute Couture, und ich denke, Broadcom ist in gewisser Weise die Haute Couture der Chips.

Charlie Kawwas: Danke. Das denke ich auch.

Moderator: Ich auch. Offensichtlich will angesichts der KI und des Aufstiegs der XPU jeder XPUs bauen, und sie alle kommen in das Haus der Haute Couture bei Broadcom. Warum diskutieren wir also nicht, warum die XPU für praktisch jeden Hyperscaler und jedes Foundation-Labor der Welt zu einem so zentralen Element geworden ist?

Charlie Kawwas: Zunächst einmal danke, dass Sie mich eingeladen haben. Wir werden heute etwas Anschauungsmaterial zeigen. Ja, danke, dass ich hier sein darf. Das ist tatsächlich eine großartige Einleitung mit der Haute Couture. Ich habe nie so darüber nachgedacht, aber in gewisser Weise ist es eine phänomenale Idee. Schauen Sie, letztendlich wurde diese KI-Welle von dem angetrieben, was wir allgemeine KI-Rechenleistung nennen, vorangetrieben durch Nvidia. Nvidia hat hervorragende Arbeit geleistet, diese großen Racks mit kundenspezifischen und proprietären Plattformen zu bauen – eine großartige Plattform. Aber die Leute, die mehr als 80 % des Geldes ausgeben, sind die Frontier-Labore. Sie sind diejenigen, die all diese Hardware konsumieren, und dann bauen sie die Software, die darauf läuft. Was sie erkannt haben, ist, dass diese allgemeine Rechenleistung eine Steuer mit sich bringt.

Charlie Kawwas: Diese Steuer ist erstens die Effizienz dieser Rechenplattform. Das bedeutet, sie ist für jeden gebaut. Wenn Sie eine spezifische Arbeitslast in Ihrem KI-Frontier-Modell haben, raten Sie mal? Sie zahlen diese zusätzliche Steuer. Die andere Steuer sind die hohen Margen, die damit einhergehen. Angesichts der hohen Ausgaben, die sie tätigen – als es um Hunderte Millionen bis wenige Milliarden Dollar ging, ergab es viel Sinn, eine Allzweckplattform zu nutzen, die für einen in einem Rack vorgefertigt ist. Aber wenn man anfängt, 50 Milliarden, 100 Milliarden oder vielleicht 150 Milliarden Dollar auszugeben – wie Sie wissen, geben die Top 4 in den USA jeweils 150 bis 200 Milliarden Dollar aus –, dann beläuft sich diese Steuer für jeden Akteur auf etwa 100 bis 150 Milliarden Dollar, die er in Tokens hätte erhalten können. Das Ergebnis: Sie erkannten, dass sie, wenn es einen Weg gibt, ihre eigene Plattform ziemlich schnell zu bauen – im selben schnellen Tempo wie Nvidia, was einmal pro Jahr ist und ziemlich schwierig ist –, dies sehr gerne tun würden.

Charlie Kawwas: Unsere Reise begann vor 13 Jahren mit den TPUs von Google. Ihre ursprüngliche Idee war, dass sie die Suche mittels Text durchführten und sich fragten, ob sie die Suche tatsächlich mittels Sprache durchführen könnten. Um das zu tun, war die Entwicklung der TPU erforderlich. Aber als sich die KI entwickelte, erkannten wir, dass diese Chips immer größer wurden.

Anschauungsunterricht: Die Entwicklung von kundenspezifischem Silizium von 2025 bis 2028

Charlie Kawwas: Charlie greift nach unten und nimmt mehrere physische Halbleitergehäuse, die er auf den Tisch legt, um den Fortschritt des kundenspezifischen Siliziumdesigns von Broadcom zu demonstrieren. Ich zeige Ihnen diese aus einem bestimmten Grund und werde sie Ihnen weitergeben. Aber Sie müssen versprechen, sie mir zurückzugeben, weil sie sehr teuer sind. Dies ist zum Beispiel eine XPU, die letztes Jahr, 2025, gebaut und ausgeliefert wurde. Wie Sie sehen können – es ist schwer zu erkennen –, besteht sie aus verschiedenen Chiplets. Einige sind speicherbasiert, einige netzwerkbasiert und einige sind Recheneinheiten.

Charlie Kawwas: Charlie nimmt einen zweiten, sichtlich größeren Chip und reicht beide dem Moderator. Was wir dieses Jahr, 2026, bauen und ausliefern, ist dieser Chip. Wie Sie sehen, ist er größer geworden. Ich werde Sie also bitten, einen zu halten. Dies ist der vom letzten Jahr und dies der von diesem Jahr. Sie können sehen, dass Sie von letztem Jahr zu diesem Jahr jetzt dreimal mehr Speicher erhalten. In der 2025er-Version haben Sie zwei Speicherwürfel. In der 2026er-Version haben Sie sechs Speicherwürfel, und die Rechenleistung in der Mitte ist fast dreimal stärker.

Charlie Kawwas: Charlie nimmt eine dritte, deutlich größere modulare Platine, die das 2027er-Design repräsentiert. Was am Ende passierte, war, dass wir sagten, für nächstes Jahr müssen wir das tatsächlich bauen. Jetzt haben Sie also noch mehr Speicher.

Moderator: Wie viel Mal mehr Speicher ist das?

Charlie Kawwas: Das ist eins, drei, neun. In zwei Jahren ist das fast eine Größenordnung. Wenn Sie sich die Rechenleistung ansehen: In der früheren Version hatten Sie einen großen Rechenblock, und hier haben Sie vier davon. Dann gehen Sie zur neuen Technologie bei Halbleitern über, die es Ihnen ermöglicht, die Transistoren zu verkleinern, und dann fügen Sie viel mehr hinzu. Ich gebe Ihnen auch diesen.

Charlie Kawwas: Charlie nimmt eine massive, hochkomplexe, mehrschichtige Systemplatine, die das 2028er-Design repräsentiert. Und das ist es, woran wir für 2028 arbeiten. Dies ist 2027, und diese 2028er-Version wird buchstäblich die Größe der Plattform haben. Wenn Sie sie nebeneinander legen, können Sie die Skalierung von 2025, 2026, 2027 bis 2028 sehen.

Charlie Kawwas: Der Grund, warum ich möchte, dass Sie das sehen, ist, dass ich möchte, dass Sie zwei Dinge verstehen. Erstens die Geschwindigkeit, mit der sich diese Technologie bewegt, und daher muss die Innovation, die sie durchlaufen muss, extrem schnell sein. Zweitens, lassen Sie mich das für Sie öffnen. Buchstäblich so bauen wir diese Chips. Diese sind tatsächlich modular. Deshalb kommen die Leute zur Haute Couture, wie Sie sagten, weil wir diese Plattformen tatsächlich nehmen und sie vorbauen. Diese kleinen Chiplets, die in den Chip kommen, bauen wir vor, stellen sicher, dass sie produktionsreif sind, arbeiten mit Partnern wie Samsung und anderen zusammen und erstellen diese Speicherblöcke. Diese Speicherintegration ist einer der Gründe, warum die Preise steigen, denn schauen Sie, wir packen so viel mehr hinein. Wir erstellen diese E/A-Ethernet-basierten Netzwerkfähigkeiten und arbeiten dann mit unseren Partnern zusammen. Denken Sie daran, wir hatten früher die Hälfte eines solchen. Jetzt haben wir eins, zwei, drei, vier, fünf, sechs, sieben, acht, mal zwei. Das ist ein Doppeldecker. Wir stapeln diese Chips tatsächlich Rücken an Rücken, oder der korrekte Begriff ist von Angesicht zu Angesicht. Sie haben also 16-mal das, was wir vor zwei Jahren hatten, 16-mal in einem einzigen Chip. Und vom ersten Chip haben wir eine Million Einheiten bereitgestellt.

Moderator: Das sieht nicht einmal wie ein Chip aus, Charlie. Das sieht aus wie eine Monstrosität von einem System. Es ist ein Biest.

Charlie Kawwas: Ja, das ist es. Tatsächlich nenne ich es bei der Arbeit so. Das ist das Biest. Wir bauen vier davon für die vier größten Akteure im Bereich Large Language Models. Es ist modular. Das Schöne daran ist, um auf Ihren Punkt zurückzukommen, dass es Haute Couture ist. Sie kommen zu uns, sagen uns, welche Art von Smoking oder Kleid Sie wollen, und wir passen es an und bauen es für Sie, wobei wir diese Steuer für allgemeine Rechenleistung entfernen. Dies wird zweckgebunden sein für, sagen wir, Ihre Inferenz-Arbeitslast oder Ihre Dekodierungs-Arbeitslast. Das ist es, was dies schnell und großartig macht. Solange Nvidia weiterhin jedes Jahr großartige Technologie entwickelt, um mit diesem Zyklus mitzuhalten, gibt es nur einen anderen Ort, an den man gehen kann.

Der schnelle Takt von Nvidia und die Größe der „Big Five“

Moderator: Sie erwähnten den Ein-Jahres-Takt, den Nvidia fährt. Früher waren es zwei oder drei Jahre, richtig? Und dann haben sie es auf ein Jahr beschleunigt, jedes Jahr. Der Druck ist also groß. Die meisten Unternehmen können mit diesem Tempo nicht mithalten. Die einzigen, die das können, sind vielleicht Sie, mit dieser modularen Lego-Architektur.

Charlie Kawwas: Sie haben absolut recht. Wenn Sie zu den „Big Five“ in den USA gehören, die heute vielleicht 90 % der weltweiten Investitionsausgaben tätigen – das sind OpenAI, Anthropic, Google mit Gemini, Meta und xAI –, dann war es das. Unter diesen fünf sind buchstäblich 80 % bis 90 % plus des Marktes. Vier von fünf haben erkannt, dass die Nvidia-Technologie zwar so gut ist, sie aber nicht weiterhin diese allgemeine Rechenplattform kaufen können, die nur auf Rack-Ebene kundenspezifisch ist. Also kommen sie zu uns, jeder von ihnen, und sagen: „Was können wir gemeinsam tun, um eine zweckgebundene Plattform für mich zu bekommen, die auf meine Arbeitslast zugeschnitten ist und nicht mit einer 80-prozentigen Marge behaftet ist?“ Das ist es, womit wir unseren Lebensunterhalt verdienen, weil wir uns nur darauf konzentrieren, dies zu bauen. Wir stellen sicher, dass jeder dieser Lego-Bausteine produktionsreif ist, bevor Sie mit mir sprechen. Wenn Sie mit mir sprechen, wird es zu einer Integrationsübung. Was wir zum Beispiel mit Jalapeno angekündigt haben, ist der schnellste Chip, der jemals gebaut wurde, fertiggestellt in neun Monaten. Es ist tatsächlich etwas Ähnliches wie das hier. Sie haben das in weniger als einem Jahr geschafft.

Moderator: Sie haben also im Grunde diese Foundation-Labore dazu befähigt oder bewaffnet, ihr eigenes Silizium in einem Jahr zu bauen. Vor fünf Jahren war Ihr KI-Chip-Geschäft bei null, und jetzt wird es nächstes Jahr über 100 Milliarden Dollar schwer sein. Von null auf über 100 Milliarden Dollar in fünf Jahren.

Charlie Kawwas: Mehr als 100 Milliarden Dollar. Denken Sie daran, 100 Milliarden Dollar sind nicht gut genug. Es sind mehr als 100 Milliarden Dollar.

Moderator: Mehr als 100 Milliarden Dollar in fünf Jahren. Doch wie viele davon skalieren wirklich? Von diesen vier ist es im Zeitraum 2027 noch in der frühen Phase, oder?

Charlie Kawwas: Das ist es, aber nur um Ihnen eine Größenordnung zu geben: Denken Sie an den 2025er-Chip als etwa 1 Million Einheiten pro Jahr. Denken Sie an den 2026er-Chip als etwa 2 Millionen Einheiten pro Jahr. Aber denken Sie daran, der 2026er-Chip hat die dreifache Kapazität des 2025er-Chips, das ist also eine sechsfache Steigerung der Rechenkapazität in einem Jahr. Dann gehen Sie zum 2027er-Chip, das sind wahrscheinlich 4 bis 5 Millionen Einheiten, und das ist die neunfache Kapazität des 2025er-Chips. Jetzt sind Sie beim 40- bis 50-fachen des ersten Modells. Und dann ist das Biest im Jahr 2028 noch einmal dreimal so groß. Wenn man an den Maßstab denkt, in dem die Leute diese Dinge bauen, ist es ein Rennen in Richtung Superintelligenz und Künstlicher Allgemeiner Intelligenz (AGI). Diese vier bis fünf Frontier-Labore glauben, dass das erste Unternehmen der Welt, das diese Plattform ermöglicht, das ist, was ich die agentische KI-Plattform nenne. Das erste Unternehmen, das eine vollständig integrierte GPU, XPU und CPU auf einer einzigen Plattform ermöglicht, könnte potenziell das erste sein, das AGI erreicht. Mit dieser 2028er-Technologie werden wir meiner Meinung nach anfangen, viele fähige Agenten zu sehen, Experten in bestimmten Bereichen, die endlich die Technologie hätten, um dies zu ermöglichen. Das ist das Aufregende an dem, was wir tun, und warum die Leute immer wieder zurückkommen und sagen: „Ich würde gerne den Nvidia-Chip verwenden, aber ich habe eine Steuer für allgemeine Rechenleistung und eine Margensteuer.“ Wenn sie ihre Token-Kosten pro Dollar senken wollen, können sie für denselben Dollar das Zwei- bis Dreifache an Rechenleistung bekommen, was bedeutet, dass der Token-Preis massiv sinkt. Das ist letztendlich das, worauf sie hinarbeiten.

Moderator: Sie sind also effektiv ein Haute-Couture-Designhaus mit niedrigen Steuern.

Charlie Kawwas: Korrekt.

Co-Design auf Rack-Ebene und offene Standards

Moderator: Das andere Thema des Tages in der KI-Welt ist Co-Design. Sie haben Jalapeno und OpenAI erwähnt und wie die enge Integration der Modellentwicklung dazu beiträgt, die Chip-Architektur zu definieren, und dann wird die Chip-Leistung auf die Modellarchitektur optimiert. Diese enge Integration der gemeinsamen Entwicklung scheint nur möglich zu sein, wenn man eine eigene XPU hat.

Charlie Kawwas: Das ist absolut richtig. Es gibt zwei Teile bei diesem Haute-Couture-Ansatz. Einer ist genau das tiefe Co-Design für die XPU, das Sie beschrieben haben. Der zweite ist auf Rack-Ebene. Wir müssen es nicht nur auf XPU-Ebene für ihre Large Language Models und ihre spezifischen Anwendungsfälle tun, sondern wir engagieren uns auch stark dafür, sicherzustellen, dass das gesamte Rack offen und für sie co-designed ist. Ein Teil davon ist, wo wir unsere Netzwerk- und Ethernet-Fähigkeiten einbringen und sicherstellen, dass es offen ist. Wir haben damit begonnen, die Front-End-Netzwerke Ethernet-basiert und offen zu machen. Dann gingen wir zum Scale-out über, und jetzt ist jeder offen, einschließlich Nvidia. Der nächste Kampf ist das Scale-up, bei dem viele dieser Leute diese blauen Chips von uns verwenden, diese kleinen Chiplets, wie wir sie nennen, die alle Ethernet-basiert sind. Wenn wir all dies co-designen, ist es Co-Design auf Rack-Ebene, beginnend bei der XPU mit jedem dieser Blöcke, dann das gesamte Rack, was ihnen eine Wahl lässt. Ehrlich gesagt, wenn Broadcom Ihnen nicht die beste Technologie liefert, haben sie die Wahl, zu jemand anderem zu gehen. Aber das war generationenübergreifend und ziemlich erfolgreich für uns, denn wie Sie sagten, wir haben vor zwei Jahren bei weniger als 1 Milliarde Dollar in diesem Bereich angefangen, und nächstes Jahr, in drei Jahren, werden wir allein in diesem Bereich bei über 100 Milliarden Dollar liegen.

Moderator: Sie erwähnten die Offenheit der Interconnect-Standards, und Sie sind Full-Stack. Sie machen Netzwerke, Packaging, kundenspezifisches XPU-Design und IP-Blöcke. Sie wollen diesen offenen Standard. Was ist mit Open-Source? Gibt es eine Idee für ein Open-Source-Foundation-Labor? Sehen Sie einen Markt für XPU-Entwicklung für Open-Source-Foundation-Labore oder Open-Source-Modelle, anstatt nur für die geschlossenen Foundation-Labore?

Charlie Kawwas: Ja, tatsächlich haben Sie absolut recht. Ein gutes Beispiel, das wir heute früher besprochen haben, ist SambaNova. Wie viele von Ihnen haben von einem Unternehmen namens SambaNova gehört? Heben Sie einfach die Hand. Das ist gut, eine Handvoll Leute hier, vielleicht 15 % von Ihnen. SambaNova Systems wurde tatsächlich durch tiefgreifendes Engineering mit Rodrigo Liang und seinem Team gemeinsam entwickelt. Wir haben drei Generationen davon gemacht. Was Rodrigo tut, ist, dass er seine XPU verwendet, um ein geschlossenes Frontier-Modell auszuführen, das auf dem neuesten Stand der Technik ist, aber er bringt auch ein Open-Source-Modell wie Mixtral oder DeepSeek mit und lässt es auf demselben Chip laufen. Daher ermöglicht er eine hybride Lösung. Wenn Sie Claude oder ChatGPT für bestimmte Anwendungsfälle verwenden müssen, können Sie das auf dieser XPU ausführen, aber wenn Sie plötzlich etwas verwenden müssen, das keine hochmodernen geschlossenen Modelle erfordert und Sie einen Open-Source-Stack verwenden möchten, verwenden Sie ihn und zahlen null für diese Tokens. Dieses Modell existiert bereits heute, und wir haben es mit ein paar Startups bewiesen. Ich denke, wir werden das auf XPUs häufiger sehen, wenn wir voranschreiten.

Zukunftsausblick: Energiebedarf, Edge-KI und Broadcoms 16 Franchises

Moderator: In den letzten paar Minuten hier: Wie sehen Sie die nächsten paar Jahre und den Weg nach vorne? Sie zeigen den 2028er-Chip und zeigen etwas, das massiv aussieht. Was erwarten Sie, werden die Hauptthemen für die nächsten paar Jahre und darüber hinaus sein?

Charlie Kawwas: Das ist die 2-Billionen-Dollar-Frage.

Moderator: Es gibt mehr als nur Jalapeno, oder?

Charlie Kawwas: Ja, es gibt mehr als Jalapeno. Es werden definitiv mehr „würzige“ Chips und viel mehr XPUs herauskommen, sowohl von den großen Laboren als auch von vielen Startups. Aber was ich sehe, ist ein unersättlicher Bedarf in Gigawatt. Zum Beispiel haben wir für einen der Top-5-Kunden angekündigt, dass wir dieses Jahr etwa 1,5 Gigawatt mit einem der Chips, die ich Ihnen gezeigt habe, einsetzen. Nächstes Jahr werden wir über 5 Gigawatt einsetzen, die wir bereits mit demselben Kunden vertraglich vereinbart haben. Wir werden also von 1,5 Gigawatt auf insgesamt 6,5 Gigawatt steigen. Im Jahr darauf bin ich mir ziemlich sicher, dass es über 10 Gigawatt zusätzlich sein werden. Wenn Sie sich die nächsten drei Jahre für jeden dieser Labor-Akteure ansehen, werden sie von 1 bis 2 Gigawatt dieses Jahr auf 5 Gigawatt und dann auf über 10 Gigawatt zusätzlich steigen. Über diese dreijährige Reise werden sie von 2 auf 5 auf 10 Gigawatt steigen, was insgesamt 17 Gigawatt entspricht, ausgehend von nur 1 Gigawatt heute.

Charlie Kawwas: Das bedeutet, dass es eine massive Herausforderung gibt in Bezug auf die Menge an benötigter Energie, die Menge an Silizium-Wafern und die Menge an Speicher. Es wird tatsächlich eine Herausforderung für den Rest der Nicht-KI-Geschäfte darstellen, die wir bei Broadcom ebenfalls betreiben. Denken Sie daran, ich habe 16 Franchises. Fünf davon sind im Bereich KI, und 11 sind Nicht-KI. Ein Teil der Herausforderung, die wir meiner Meinung nach alle durchleben müssen, während wir das aufregende Leben der KI-Skalierung hin zur AGI erleben, ist sicherzustellen, dass der Rest der Unternehmen überlebt. KI wird nicht nur in Rechenzentren leben; KI muss an den Edge gelangen, und diese anderen Unternehmen müssen diese Edge-KI tatsächlich ermöglichen. Wir haben eine großartige, aufregende Reise auf der KI-Schiene mit Strom und all diesen Dingen. Wir bauen sogar unsere eigenen Fabriken in Singapur, um diese großen Bestien und großen Chips zu bauen, weil bestehende Technologien sie nicht ermöglichen können. Aber während wir das tun, ist die Herausforderung für uns alle, dass KI migrieren muss, so wie das Internet in Rechenzentren begann und sich bis hin zu den heutigen Smart-Geräten bewegte. Dasselbe muss mit KI passieren. Ich denke, für uns bei Broadcom wird es aufregend sein, weil wir in beiden Bereichen als Haute-Couture-Haus für Silizium mitspielen werden.

Moderator: Danke, Charlie.

Charlie Kawwas: Danke. Danke Ihnen.