Broadcom 專訪：科技巨頭轉向客製化模組架構，XPU 客製化晶片營收將突破 1,000 億美元
2026 年 8 月 19 日 - RAISE Summit 2026
前言：通用 AI 運算的昂貴代價
主持人：好的，太棒了。我想這應該是最後一場了吧？大家辛苦了。我們會試著讓內容更有趣些。很高興見到各位。我們現在身處法國巴黎，這裡是高級訂製服（haute couture）的發源地，而我認為 Broadcom 在某種程度上就是晶片界的高級訂製服。
Charlie Kawwas：謝謝，我也這麼認為。
主持人：顯然，隨著 AI 與 XPU 的崛起，每個人都想打造自己的 XPU，而他們都來到了 Broadcom 這家「高級訂製」工坊。那麼，我們來聊聊為什麼 XPU 對全球每一家超大規模雲端供應商（hyperscaler）和基礎模型實驗室來說，都變得如此關鍵？
Charlie Kawwas：首先，謝謝你的邀請。我們今天準備了一些展示品。這關於「高級訂製」的開場白真的很棒，我從沒這樣想過，但這確實是個絕妙的比喻。歸根究底，這波 AI 浪潮是由我們所謂的「通用 AI 運算」所驅動，而這主要由 Nvidia 推動。Nvidia 在打造這些大型客製化且專有的機架平台方面做得非常出色。但真正投入超過 80% 資金的，是那些前沿實驗室（frontier labs）。他們是硬體的主要消耗者，並在硬體之上建構軟體。他們意識到，這種通用運算伴隨著一種「稅」。
Charlie Kawwas：這種稅首先體現在運算平台的效率上。意思是，它是為所有人設計的。如果你在 AI 前沿模型中有特定的工作負載，那麼很抱歉，你正在支付那筆額外的稅。另一種稅則是隨之而來的高額利潤。當支出僅在數億到數十億美元時，使用預先建構好的通用平台確實合理。但當支出達到 500 億、1,000 億甚至 1,500 億美元時——如你所知，美國前四大廠每家的支出都在 1,500 億到 2,000 億美元之間——對每個參與者來說，那筆稅大約就是 1,000 億到 1,500 億美元，這些錢本可以用來獲取更多 Token。因此，他們意識到，如果能以與 Nvidia 相當的快速節奏（每年一次，這非常困難）打造自己的平台，他們非常樂意這麼做。
Charlie Kawwas：我們的旅程始於 13 年前，從 Google 的 TPU 開始。他們最初的想法是利用文字進行搜尋，後來思考是否能改用語音搜尋。為了達成目標，必須創造 TPU。隨著 AI 的發展，我們意識到這些晶片正變得越來越龐大。
展示：2025 年至 2028 年客製化晶片的演進
Charlie Kawwas：Charlie 拿出幾個實體半導體封裝件放在桌上，演示 Broadcom 客製化晶片設計的演進。「我展示這些是有原因的，我會把它們傳給你。但你得保證還給我，因為它們非常昂貴。例如，這是一款 2025 年製造並出貨的 XPU。如你所見，它由不同的晶片組（chiplets）組成。有些是基於記憶體，有些是網路相關，有些則是運算核心。」
Charlie Kawwas：Charlie 拿起第二個明顯更大的晶片並遞給主持人。「這是我們 2026 年正在製造和出貨的晶片。如你所見，它變大了。去年與今年相比，記憶體容量增加了三倍。2025 年版本有兩個記憶體立方體，2026 年版本則有六個，中間的運算能力也增強了近三倍。」
Charlie Kawwas：Charlie 拿起第三個代表 2027 年設計、顯著更大的模組化電路板。「結果就是，我們決定明年必須打造這個。現在，你擁有更多的記憶體。」
主持人：記憶體容量增加了多少倍？
Charlie Kawwas：從一到三，再到九。在兩年內，這幾乎是一個數量級的增長。至於運算能力，早期版本只有一個大型運算模組，而這裡有四個。接著，利用半導體的新技術縮小電晶體，並加入更多元件。我也把這個給你。」
Charlie Kawwas：Charlie 拿起一個代表 2028 年設計、極其複雜的多層系統板。「這是我們為 2028 年準備的。這是 2027 年的版本，而 2028 年的版本基本上就是整個平台的大小。如果把它們放在一起，你可以清楚看到從 2025、2026、2027 到 2028 年的擴展規模。」
Charlie Kawwas：我之所以讓你看這些，是希望你理解兩件事。第一，這項技術的發展速度極快，因此所需的創新必須非常迅速。第二，讓我為你打開它。這就是我們打造晶片的方式。它們是模組化的。這就是為什麼人們會來到這家「高級訂製」工坊，因為我們預先建構了這些平台。我們將晶片中的小晶片（chiplets）預先組裝，確保它們達到量產標準，並與 Samsung 等合作夥伴共同創造這些記憶體模組。記憶體整合是價格上漲的原因之一，因為我們放入了更多元件。我們創造了基於乙太網路（Ethernet）的輸入輸出網路功能，並與合作夥伴合作。你看，我們過去只有半個這樣的模組，現在我們有八組，而且是雙層堆疊。我們實際上是將這些晶片背對背，或者更精確地說是「面對面」堆疊。因此，單一晶片內的容量將是兩年前的 16 倍。而第一代晶片，我們部署了 100 萬顆。」
主持人：Charlie，這看起來根本不像晶片，簡直是個怪獸級的系統。
Charlie Kawwas：沒錯。我在公司裡就叫它「怪獸」（the beast）。我們正在為四大大型語言模型（LLM）廠商打造這款晶片。它是模組化的。正如你所說，它的美妙之處在於它是高級訂製的。你來到我們這裡，告訴我們你需要什麼樣的「禮服」，我們會為你量身打造，省去那筆通用運算稅。這將是專為你的推論或解碼工作負載所設計的。這就是它快速且強大的原因。只要 Nvidia 每年持續開發強大的技術來跟上這個週期，市場上就只有我們這一個選擇。」
Nvidia 的快速節奏與五大巨頭的規模
主持人：你提到了 Nvidia 的一年一週期。過去通常是兩到三年，對吧？現在加速到一年一次。壓力很大。對大多數公司來說，無法跟上這個節奏。唯一能做到的，或許只有你們這種模組化的「樂高」架構。
Charlie Kawwas：你說得完全正確。如果你是美國五大巨頭之一——即 OpenAI、Anthropic、Google（Gemini）、Meta 和 xAI——他們目前可能佔據了全球 90% 的資本支出。這五家公司就佔了市場 80% 到 90% 以上的份額。其中四家意識到，儘管 Nvidia 的技術很好，但他們無法持續購買這種僅在機架層級客製化的通用運算平台。所以他們來到我們這裡，每個人都問：「我們能一起做些什麼，來獲得一個專為我的工作負載量身打造、且沒有 80% 利潤稅的平台？」這就是我們賴以為生的工作，因為我們專注於此。我們確保每個「樂高積木」在客戶找我們之前都已達到量產標準。當客戶找上門時，這就變成了一個整合任務。例如我們宣佈的 Jalapeno，這是史上最快的晶片，在九個月內完成。它與這個類似，他們在不到一年內就完成了。」
主持人：所以你基本上賦能了這些基礎模型實驗室，讓他們能在一年內打造自己的晶片。五年前，你的 AI 晶片業務是零，明年將超過 1,000 億美元。五年內從零到超過 1,000 億美元。
Charlie Kawwas：是超過 1,000 億美元。記住，1,000 億美元還不夠，是「超過」1,000 億美元。
主持人：五年內超過 1,000 億美元。然而，這些晶片中真正實現規模化的有多少？在那四家廠商中，2027 年的階段還處於早期形成期吧？
Charlie Kawwas：確實如此，但為了讓你對規模有個概念，2025 年的晶片年產量約為 100 萬顆。2026 年的晶片約為 200 萬顆。但請記住，2026 年晶片的容量是 2025 年的三倍，這意味著運算能力在一年內增加了六倍。接著是 2027 年的晶片，產量可能達到 400 萬到 500 萬顆，其容量是 2025 年的九倍。現在你的規模已經是第一代的 40 到 50 倍。而 2028 年的「怪獸」晶片，容量又是前者的三倍。當你思考人們建構這些東西的規模時，這是一場邁向超級智慧與通用人工智慧（AGI）的競賽。這四到五家前沿實驗室相信，全球第一家實現此平台的公司，就是我所謂的「代理人 AI」（agentic AI）平台。第一家能將 GPU、XPU 和 CPU 完全整合在單一平台上的公司，極有可能率先達到 AGI。有了 2028 年的技術，我認為我們將開始看到許多具備特定領域專業能力的 AI 代理人，最終將擁有實現這一目標的技術。這就是我們所做之事的激動人心之處，也是為什麼人們不斷回來說：「我很想用 Nvidia 的晶片，但我不想支付通用運算稅和利潤稅。」如果他們想降低每單位的 Token 成本，他們可以用同樣的錢獲得兩到三倍的運算能力，這意味著 Token 價格將大幅下降。這才是他們最終追求的目標。
主持人：所以你實際上是一家低稅率的高級訂製設計工坊。
Charlie Kawwas：沒錯。
機架層級的共同設計與開放標準
主持人：AI 領域另一個熱門話題是「共同設計」（co-design）。你提到了 Jalapeno 和 OpenAI，以及模型開發的緊密整合如何幫助定義晶片架構，進而讓晶片效能針對模型架構進行最佳化。這種緊密的共同開發似乎只有在你擁有自己的 XPU 時才有可能實現。
Charlie Kawwas：完全正確。這種高級訂製方法有兩個部分。一是你所描述的針對 XPU 的深度共同設計。第二是在機架層級。我們不僅要在 XPU 層級為他們的大型語言模型和特定用途進行設計，還致力於確保整個機架是開放且為他們共同設計的。其中一部分是我們引入網路與乙太網路能力，確保其開放性。我們從基於乙太網路的開放前端網路開始，然後擴展到規模化（scale-out），現在每個人都採取開放態度，包括 Nvidia。下一場戰役是向上擴展（scale-up），許多客戶使用我們這些被稱為小晶片的藍色晶片，它們全都是基於乙太網路的。當我們共同設計這一切時，這是從 XPU 的每個區塊開始，一直到整個機架的共同設計，這給了客戶選擇權。老實說，如果 Broadcom 不能提供最好的技術，他們大可選擇別人。但這種合作是跨世代的，對我們來說非常成功，正如你所說，我們在這個領域從兩年前不到 10 億美元，到明年，也就是三年內，僅在這個領域就將超過 1,000 億美元。
主持人：你提到了互連標準的開放性，你們是全端（full-stack）供應商。你們做網路、封裝、客製化 XPU 設計和 IP 模組。他們想要那種開放標準。那麼開源呢？是否有「開源基礎模型實驗室」的概念？除了封閉的基礎模型實驗室，你是否看到了針對開源基礎模型實驗室或開源模型進行 XPU 開發的市場？
Charlie Kawwas：有的，你說得完全正確。我們今天早些時候討論的一個好例子是 SambaNova。在場有多少人聽過 SambaNova 這家公司？舉個手。很好，大概 15%。SambaNova Systems 透過與 Rodrigo Liang 及其團隊的深度工程合作進行共同開發。我們已經合作了三代。Rodrigo 的做法是利用他的 XPU 運行最先進的閉源前沿模型，同時也引入像 Mixtral 或 DeepSeek 這樣的開源模型並在同一晶片上運行。因此，他實現了一種混合解決方案。如果你需要針對特定用途使用 Claude 或 ChatGPT，你可以在該 XPU 上運行；但如果你突然需要使用不需要最先進閉源模型的任務，且想使用開源技術堆疊，你就可以使用它，而且 Token 費用為零。這種模式今天已經存在，我們已經在幾家新創公司身上驗證過了。隨著我們向前邁進，我認為我們會在 XPU 上看到更多這種應用。
未來展望：電力需求、邊緣 AI 與 Broadcom 的 16 個特許經營權
主持人：在最後幾分鐘，你如何看待未來幾年及發展路徑？你展示了 2028 年的晶片，看起來非常龐大。你預計未來幾年及以後的主要議題會是什麼？
Charlie Kawwas：這可是價值 2 兆美元的問題。
主持人：除了 Jalapeno，還有更多，對吧？
Charlie Kawwas：是的，不只是 Jalapeno。肯定會有更多「辛辣」的晶片和更多的 XPU 出現，來自大型實驗室和許多新創公司。但我看到的是對吉瓦（gigawatts）電力永無止境的需求。例如，我們已經向五大客戶之一宣佈，今年我們將為他們部署約 1.5 吉瓦的電力，使用我展示過的晶片。明年，我們將部署超過 5 吉瓦，這已經與該客戶簽約。所以我們總共將從 1.5 吉瓦增加到 6.5 吉瓦。再過一年，我相信增量將超過 10 吉瓦。如果你看這些實驗室參與者未來三年的發展，他們將從今年的 1 到 2 吉瓦，增加到 5 吉瓦，再到超過 10 吉瓦的增量。在這三年的旅程中，他們將從最初的 1 吉瓦成長到總計 17 吉瓦。
Charlie Kawwas：這意味著在電力需求、矽晶圓需求以及記憶體需求方面存在巨大的挑戰。這實際上會對 Broadcom 的非 AI 業務構成挑戰。請記住，我有 16 個特許經營權（franchises）。其中 5 個與 AI 相關，11 個是非 AI 業務。我認為，當我們經歷 AI 擴展至 AGI 的激動人心的過程時，我們必須確保其他業務也能生存下去。AI 不會只存在於資料中心；AI 必須進入邊緣（edge），而這些業務必須賦能邊緣 AI。我們在 AI 軌道上擁有很棒的旅程，包括電力等所有問題。我們甚至在新加坡建立了自己的工廠來製造這些大型怪獸晶片，因為現有技術無法實現它們。但當我們這樣做時，我們所有人都面臨的挑戰是，AI 必須遷移，就像網際網路從資料中心開始，最終普及到今天的智慧裝置一樣。AI 也必須經歷同樣的過程。對於 Broadcom 來說，這將是令人興奮的，因為作為晶片界的高級訂製工坊，我們將在兩個領域都扮演重要角色。
主持人：謝謝你，Charlie。
Charlie Kawwas：謝謝。謝謝各位。