記憶體瓶頸:為何 HBM 的物理極限將引發 AI 基礎設施的世代交替
代理式 AI(Agentic AI)需求迫使 DRAM 類股進行結構性重估
傳統記憶體週期已成過去式,DRAM 類股必須從傳統的週期性「股價淨值比」(P/B ratio)模式,轉向結構性成長的「本益比」(P/E ratio)定價模型。其主要催化劑在於代理式 AI(Agentic AI)的商業化崛起,預計將在未來五年內推動結構性記憶體需求成長五倍。過去,記憶體產業受制於消費性電子產品的提前拉貨與隨後的供給過剩,陷入殘酷的景氣循環,2018 年與 2022 年個人電腦(PC)與智慧型手機的嚴重庫存去化即是明證。然而,當前的需求結構已擺脫消費性市場的波動,轉由超大規模資料中心(Hyperscalers)主導,這些業者已鎖定 2028 年及以後的 AI 基礎設施藍圖,承諾進行長期的資本支出。
此外,AI 記憶體的單位經濟效益已永久改變了供給側的方程式。高頻寬記憶體(HBM)消耗的晶圓產能約為標準 DRAM 的三倍,這在結構上排擠了通用記憶體的供給,並迫使整個產業嚴守資本紀律。目前,記憶體製造商在高階 HBM 產品上的毛利率接近 80%。即便在未來市場常態化、標準型 LPDDR 回歸市場份額並導致毛利率壓縮至約 60% 的情境下,由於產能需求增加了三倍,DRAM 製造商的絕對獲利仍將成長 2.25 倍。這種極具優勢的數學邏輯,為該產業的獲利能力建立了長期的底部支撐,有效隔離了過去曾重創產業的需求斷崖。
HBM 的創新高牆與光通訊技術的迫切轉型
儘管 HBM 是引發初期生成式 AI 熱潮的關鍵推手,但它正迅速逼近嚴重的物理與經濟極限。從工程角度來看,HBM 本質上是解決 I/O 密度問題時的一種缺陷方案。其架構依賴垂直堆疊與矽穿孔(TSV)技術,這會引入嚴重的寄生凸塊電容(parasitic bump capacitance)。這種電容如同物理速度的「減速丘」,會嚴重損害訊號完整性,並隨著頻寬需求擴大,導致實體層(PHY)功耗飆升至難以承受的水平。因此,我們預測 HBM 最終將被淘汰,其出貨量預計在未來七至十年內將較峰值下滑高達 90%。
這種架構上的臨界點在混亂的 HBM4 導入過程中暴露無遺。當 Nvidia 為其即將推出的 Vera Rubin 架構設定了每腳位 11 Gbps 的驚人速度——這要求每個 GPU 搭載 288 GB 的 HBM4,並鎖定超過每秒 20 TB 的系統頻寬——這使得最初的 JEDEC 規格瞬間過時。記憶體供應商在這些臨門一腳的嚴苛要求下疲於奔命。據報導,SK Hynix 為了調整基底晶片(base-die),不得不使用台積電(TSMC)的 N12 製程進行了多達六次重製(respins),而 Micron 在嘗試利用內部 DRAM 製程時也遭遇了嚴重的失敗。為了填補近期的技術缺口,業界被迫採用極其昂貴的混合鍵合(hybrid-bonding)技術以徹底消除微凸塊,但這只是暫時掩蓋了封裝內記憶體架構的根本缺陷。
共同封裝光學(CPO)與記憶體解構革命
解決 AI 頻寬危機的長期方案,在於透過共同封裝光學(CPO)與通用型 LPDDR PHY,實現記憶體池的完全解構。正如 Nvidia 在 2026 年國際固態電路會議(ISSCC)上的工程簡報所證實,未來的標準將依賴時脈轉發(clock-forwarded)的 SerDes 直接驅動光學連接。透過移除高延遲的接收端等化元件,並以簡單的跨阻放大器(TIA)取代,互連技術可實現每位元小於 3 微微焦耳(picojoules)的能效,並達到最長 30 公尺的傳輸距離。這種典範轉移將記憶體從 ASIC 封裝中解鎖,不僅為邏輯晶片爭取了更高的散熱空間,還能實現整個資料中心叢集中 LPDDR 的動態配置。
這種結構性轉向為領先的網路 IP 與客製化晶片設計商(特別是 Broadcom 與 Marvell)創造了巨大商機。這兩家公司合計控制了約 95% 的客製化 AI ASIC 共同設計市場,並掌握了實現 CPO 轉型所需的關鍵矽光子 IP。Broadcom 的成長動能驚人,目前正朝向 2027 會計年度人工智慧營收 1,000 億美元的目標邁進。同樣地,Marvell 預計其客製化晶片部門在 2029 會計年度營收將突破 100 億美元,其核心支柱為業界首款每秒 102.4 Tb 的 AI 交換晶片。此外,像 Positron 這樣靈活的挑戰者,已透過結合通用型 LPDDR5X 與創新架構,成功繞過 HBM 的限制,實現了目前市面上所有 AI ASIC 中最高的每毫米記憶體頻寬。
Samsung 相較於純記憶體同業的結構性護城河
隨著產業從傳統 HBM 限制轉向深度整合的光學解決方案,「記憶體三巨頭」之間的競爭階級將發生分裂。進入 2026 年第二季,SK Hynix 憑藉著與 Nvidia Vera Rubin 平台簽署的多年度共同開發協議,以約 58% 的市佔率主導 HBM 市場。Samsung 與 Micron 則以各約 21% 的市佔率緊追在後。然而,從工程技術與長期資本配置的角度來看,Samsung 具備成為最終結構性贏家的獨特優勢。
Samsung Electronics 是唯一一家同時擁有內部邏輯晶圓代工部門(Device Solutions)與高速介面 IP 深厚專業知識的 DRAM 大廠。在 HBM4 的驗證競賽中,Samsung 受益於其內部的 SRF4X 邏輯製程節點,提供了必要的電晶體效能邊際,使其在緩解寄生電容方面的效率遠高於同業。更關鍵的是,Samsung Foundry 已正式宣布其 300 毫米矽光子平台進入量產準備階段,積極鎖定 2029 年的統包式 CPO 服務。由於記憶體的未來取決於嚴謹的端對端通道共同設計——涵蓋 ASIC、光學 PHY 與記憶體控制器——Samsung 在內部緊密優化整個技術堆疊的能力,賦予了其無可比擬的優勢。
反觀 SK Hynix 與 Micron,則面臨嚴峻的毛利率生存威脅。作為缺乏先進邏輯晶圓代工能力的純記憶體供應商,兩者被迫將日益複雜的基底晶片製造外包給台積電昂貴的 N3 製程,這將永久壓縮其利潤空間。更令人擔憂的是,它們完全缺乏內部矽光子與高速訊號完整性專業知識,使其在即將到來的光學技術顛覆中極為脆弱。SK Hynix 對 Nvidia 近期 HBM 路線圖的高度依賴,若資料中心架構迅速放棄封裝內記憶體,轉向 Samsung 正積極建立代工生態系所支援的解構式光學記憶體池,將構成嚴重的結構性風險。