Chipstrat 創辦人萊昂斯:輝達機架級護城河真實存在、循環融資擔憂過度誇大,且目前無人為 LLM 打造專屬晶片
《Tech Surge》Podcast,2026年9月22日 — Creative Strategies 半導體分析師剖析系統銷售時代,以及下一個兆美元晶片企業可能誕生的領域
Creative Strategies 半導體分析師兼 Chipstrat 電子報作者奧斯汀·萊昂斯(Austin Lyons)在《Tech Surge》Podcast 節目中提出了一項論點,打破了 AI 基礎設施投資領域的一個普遍假設——即產業正朝著商品化方向發展。相反地,萊昂斯認為,買家已果斷轉向採購整套系統,而非零散的晶片;儘管水面下的支出模式正以極少數投資人密切追蹤的方式碎片化,這種轉變仍鞏固了輝達(Nvidia)的競爭地位。
沒有晶片是專門為 LLM 打造的
對話中最驚人的觀點同時也是最簡單的:儘管有數兆美元湧入 AI 基礎設施,但至今沒有任何半導體供應商從白紙開始,專門為大型語言模型(LLM)推論設計一款晶片。萊昂斯解釋,輝達的 GPU「在繪圖領域有其歷史,且具備平行處理能力,這點一直在向 AI 靠攏」,但其架構依然是前幾代產品的通用型後代,而非專為 LLM 設計的引擎。甚至連 AMD 的 Helios 機架以及輝達的 GPU 加 LPU 組合,用他的話來說,也是「朝著工作負載演變」的晶片,而非為此構思的晶片。
這項落差正是他看到挑戰者機會所在之處。OpenAI 在 Hot Chips 大會上新曝光的 Jalapeno 晶片就是一個很好的例子:該設計沒有在系統周圍傳輸共享的 KV 快取(KV cache),而是為每個加速器配置了自己的 HBM 區塊,消除了困擾現成晶片的記憶體爭用問題。Tensor dyne 以對數數學取代矩陣乘法的作法,將乘法轉化為在矽晶片上運行更快的加法,是另一個現有供應商不太可能採取的架構押注範例。萊昂斯對此原因的解釋很直接:現有業者針對最廣泛的客戶群進行最佳化,並承擔職業風險,這阻礙了他們在第一代產品上做出激進的權衡。他表示,商業晶片供應商(merchant vendors)在安全的漸進式設計仍能賣出時,「可能沒有誘因去冒險」嘗試未經證實的架構選擇。
為什麼輝達的機架級優勢難以撼動
萊昂斯將系統銷售的轉變歸結為一個簡單的技術現實:擁有 2 兆個或更多參數的前沿模型無法容納在單一 GPU 的記憶體中,這迫使工作負載必須分散到數十個必須無縫通訊的晶片上。他主張,輝達的優勢在於率先讓這種複雜性變得開箱即用(turnkey),將 GPU、CPU、網路、電力與冷卻整合到諸如 Grace Blackwell NVL72 等機架產品中,並搭配 Dynamo 等協調整個系統的軟體。他表示:「坦白說,輝達在率先切入並使這個複雜系統具備開箱即用特性方面做得很好。」他指出,當今的買家正在為上市速度而非最低成本進行最佳化,並以馬斯克(Elon Musk)在 xAI 快速建置資料中心作為最明顯的例子。
萊昂斯表示,正是這種動態,使得晶片新創公司越來越需要數億美元的資金才能達到可行的概念驗證(PoC),而過去僅需數百萬美元的融資輪次便已足夠。Cerebras 說明瞭獨力打造的成本:其晶圓級引擎不僅需要發明新穎的晶片,還需要發明整套用於通訊、冷卻和供電的支援堆疊,這種負擔大大拖慢了上市時間。
Prefill 與 Decode 的拆分及專用矽晶片的崛起
萊昂斯針對推論工作負載為何被拆分為預填(prefill)和解碼(decode)階段,提供了目前最清晰的技術解釋之一。Prefill 是讀取並將整個提示詞脈絡化的平行化過程,其特點是運算密集但記憶體需求低,導致昂貴的 HBM 未被充分利用。Decode 則是依序進行的逐個 token 生成回應,情況剛好相反:屬於記憶體受限且運算需求低。這種錯位最初由輝達自身的 Dynamo 軟體所解決,為 Groq 和 Cerebras 等加速器新創公司打開了大門;這兩家公司都因為與 LLM 無關的原因,早期便押注於高 SRAM 比重的架構,卻在解碼專屬需求出現時發現自己處於完美的位置。
萊昂斯預期,這種碎片化最終將在單一晶片供應商內部整併,而不會維持多供應商的拼湊狀態,他並將此比擬為產業最終穩定由兩到三家主導的 CPU 和 GPU 供應商。輝達對 Groq 的併購就是一個早期的數據點。儘管如此,他並不排除新進業者利用相同的拆分進行反向定位,甚至可能有新雲端服務商(neoclouds)收購 AI ASIC 新創公司,以即服務(as-a-service)形式提供客製化、針對工作負載優化的矽晶片。
循環融資:被高估,但可以理解其混淆之處
當被直接問及循環性疑慮——即輝達對新雲端服務商的股權投資資助了 GPU 採購,進而產生流回輝達的營收——萊昂斯坦承他最初的直覺是抱持懷疑。他說:「我絕對是那種一看到就馬上覺得『這很不一樣,這感覺怪怪的』的人。」然而,他深入研究後的結論是,這項安排反映的是真正的資本成本瓶頸,而非人為製造的需求。運算需求是真實存在的,在他看來,鑑於智慧代理編碼工具(agentic coding tools)導致軟體開發成本崩潰,甚至連現在的需求都被低估了。其限制在於鏈條中的哪些參與者擁有資產負債表,能夠為數百億美元的資料中心建置提供資金。銀行對直接向年輕的新雲端服務商放貸仍感猶豫,因此超大規模雲端業者(hyperscalers)的承購協議與輝達的擔保便成為解鎖融資的信用增強機制。萊昂斯直言不諱地表示:「這就是資本主義。如果沒有好處,他們是不會做的。」他不爭辯輝達從這項安排中獲利,僅認為該機制與網際網路泡沫時代的供應商融資泡沫並不相似。
傳統投資人低估了新雲端服務商
萊昂斯指出,前三大新雲端服務商創造了約 1,250億美元的公開市場股權價值,超越了多數晶片新創公司的總和,然而投資人卻大舉錯失了這個機會。他自己最初的猶豫源於假設超大規模業者的客戶集中度會讓這些業務變得脆弱。回頭來看,他認為這種懷疑是錯置的,因為客戶集中度在半導體供應鏈中本來就很普遍,對輝達自身而言也是如此。他將超大規模業者未能自行捕捉這股價值的原因歸結為資本紀律、創新者困境(innovator's dilemma)以及利潤敏感度的綜合影響,並指出部分雲端業者將低利潤的裸機 GPU 租賃視為不願優先處理的商品化業務,而新雲端服務商則將相同的營收視為其商業模式的核心。
下一家兆美元晶片公司的四大條件
萊昂斯用以識別下一家爆發性矽晶片公司的框架集中在四個標準:運行兆級以上參數模型的能力、機架級系統交付、在明確的效能指標上擊敗現有業者,以及爭取到前沿模型實驗室作為錨定客戶。在他的描述中,前沿領域最為重要,因為那是「超額價值將會累積」的地方。他主張,在尖端進行開發的開發人員會為速度支付顯著的溢價,對於顯著更快的 token 生成速度,每個月可能願意支付數千美元,而使用較小、較舊模型的工作負載則面臨更多的價格競爭和商品化供應。
他補充說,相關的關鍵績效指標(KPI)不是原始速度,而是固定互動性下的 token 產出量,並依功率進行標準化。由於新雲端服務商受到百萬瓦(megawatts)而非單純資本的限制,計算方式變成了能從固定的電力配置中榨取出多少具營收產出的產出量,這種框架偏好針對互動性曲線上的特定點進行最佳化的晶片,而非通用型的靈活性。
企業 AI 採用受限於人才,而非基礎設施
當被問及企業地端部署是否代表更大的長期市場(呼應了網際網路時代多數工作負載最終在雲端之外運行的模式)時,萊昂斯同意企業的採用將相當可觀,但他強調了與基礎設施可用性不同的限制。他說,企業越來越希望將專有資料和微調過程留在內部,以建立具防禦性的 AI 驅動差異化,但目前很少有公司僱用內部微調模型所需的人才。他將此時刻比喻為企業軟體採用初期,當時的領域專家缺乏內部工程人才,並預測將會有一波類似的人才建置週期;不過,在採訪者的提示下,他也坦承更立即的瓶頸可能是缺乏協助企業部署生成式 AI 卻無需聘雇專業機器學習員工的工具。
AI 輔助晶片設計正降低客製化矽晶片的門檻
萊昂斯認為,AI 加速的晶片設計工具大幅壓縮了客製化矽晶片的成本與時間表,有望將三年的開發週期縮短至一年,並將物料清單(BOM)成本降低到足以讓先前不符合經濟效益的專案變得可行。他以 Rivian 針對自動駕駛工作負載轉向客製化矽晶片的決策為例——在該案例中,功率限制和即時延遲要求使得現成晶片非常不契合——這正是未來更多公司能夠合理化此類決策的類型。他謹慎地指出,對晶片新創公司而言,這些工具是一把雙面刃,因為成熟商業晶片供應商內部的經驗豐富工程團隊同樣有能力利用這些生產力紅利來擴展自己的產品線,並服務更多專業的工作負載。