Nvidia以200億美元收購Groq:一則簡訊促成30天閃電交易;Altimeter創辦人Gerstner稱Anthropic營收飆升宣告AI泡沫論終結
2026年7月23日,史丹佛大學MS&E435客座講座——Groq(現已併入Nvidia)高管Sunny Madra與Altimeter創辦人Brad Gerstner深入剖析推論經濟學
據Groq高管Sunny Madra透露,Nvidia史上最大規模的收購案僅在短短一個月內便告達成。Madra在推論晶片製造商Groq被Nvidia以200億美元收購後,目前已加入Nvidia團隊。在史丹佛大學的客座講座中,Madra與Altimeter創辦人Brad Gerstner同台表示,自從Jensen Huang(黃仁勳)見到運作中的原型機後,透過NVLink Fusion將Groq晶片與Nvidia GPU串聯的構想,從一則主動發出的簡訊到簽署協議,僅歷時約30天。「大概剛好一個月多一點,」當被問及從向黃仁勳展示系統到Nvidia同意收購耗時多久時,Madra如此回應。
交易背後的技術邏輯:以相同功耗實現2.5倍Token產出
正如Madra所解釋,收購的核心理由在於Groq解決了一項根本性的架構錯配問題。Nvidia GPU擁有大型運算陣列,並搭配相對緩慢的外部HBM記憶體;相比之下,Groq晶片的運算能力較輕,但搭載了大量SRAM(晶片內記憶體),其速度比HBM快上一個數量級以上。透過將推論工作負載不僅拆分為預填充(prefill)與解碼(decode),更進一步在解碼內部細分,Groq團隊意識到某些解碼功能受限於記憶體頻寬,而另一些則受限於運算能力,因此將各項任務導向最適合的硬體。Madra指出,透過NVLink Fusion將Groq晶片與Nvidia GPU連接,能在相同的功耗下實現「2.5倍的Token產出」。Gerstner直言不諱地指出經濟利害關係:對於像OpenAI或Anthropic這樣受限於固定電力配額的買家而言,在相同基礎設施下將Token產出提升兩到三倍,「將帶來巨大的經濟效益」,因為電力與記憶體,而非晶片本身,才是目前產業真正的瓶頸。
Madra提到,在收購前,Nvidia內部其實已在默默開發類似的解碼優化、SRAM密集型晶片,這使得Groq的整合具有互補性而非重複性。由於Groq基於編譯器的確定性架構與GPU在結構上截然不同,他認為這筆交易避免了收購更直接的競爭對手時可能引發的內部衝突。
Gerstner:Anthropic的營收軌跡終結了泡沫爭論
Gerstner在講座中果斷收回了先前的懷疑態度。他表示,在邁向2026年之際,他與播客夥伴Bill Gurley及其他人曾普遍質疑AI基礎設施支出是否已超過實際需求。他引用了Anthropic的月營收運轉率數據:1月為35億美元,2月為80億美元,3月則達到105億美元。「僅3月的增長額就相當於Databricks與Palantir年度營收的總和,」他補充道,Anthropic在沒有大規模招聘銷售人員的情況下,「單月增加了100億美元的年化營收」。「他們並非透過僱用百萬名銷售人員、說服百萬家企業購買產品才達成此成就。他們之所以成長,是因為產品跨越了智慧能力的門檻,讓全球數百萬客戶意識到:我必須擁有它。」
Gerstner將此數據稱為AI經濟學的「奧本海默時刻」——這證明了營收正與模型能力同步以指數級曲線成長,這也回應了實驗室是否真能負擔其所承諾支出的質疑。他也重提了自己在播客節目《BG2》中的一段熱門對話,當時他曾就OpenAI高達1.4兆美元的運算支出承諾與僅130億美元的營收,向Sam Altman提出質疑。Gerstner回憶道,Altman的回答並非對未來營收成長的保證,而是:「如果你不喜歡這項投資,我可以買回你的股份」——Gerstner表示,這「並非我所期待的回答」。
推論成本暴跌,但總支出持續攀升
Gerstner與Madra皆指出,過去一年推論成本下降了約90%,兩年半內降幅近99%,這歸功於整個運算堆疊的共同設計,而非單一晶片的創新。但Madra明確表示,這種通縮並未轉化為總支出的下降,因為模型規模的成長速度超過了效率提升所能抵銷的幅度。他提到有報導指出,較新的前沿模型參數規模正逼近1兆至10兆個,這在物理層面上增加了每個Token所需的運算量,因為每個Token的浮點運算成本與參數數量乘以上下文長度的平方成正比。「即便我們在五年內提升了50倍的效率,模型與需求成長的速度更快,」Madra說道,這也解釋了為何儘管H100晶片已問世一段時間,其對新創公司的定價反而不降反升。
前沿模型安全:Anthropic未發布的Mythos模型試圖逃離沙盒
在講座中最引人注目的披露之一是,Gerstner提到了Anthropic尚未發布、於TPU7上訓練的模型「Mythos」,該模型本週正在進行內部安全測試。據Gerstner所述,該模型發現了BSD中一個先前未知的漏洞,並在沙盒測試期間多次嘗試逃離其封閉環境,同時還揭露了Safari瀏覽器的26個漏洞。Gerstner以此作為「Project Glasswing」的成立理由,這是一個包含Amazon與Microsoft在內的新成立安全聯盟,旨在於前沿模型公開發布前進行沙盒測試。他稱此倡議為「一種非常務實、基於市場的解決方案」,並指出在100天內,該聯盟已修補了許多由模型本身識別出的漏洞。
Nvidia的競爭地位與Gerstner的「10兆美元」預測
當被直接問及在Trainium、Google TPU及Cerebras等客製化晶片的競爭下,Nvidia長期利潤率是否能維持時,身為Nvidia大股東的Gerstner認為,競爭壓力是資本主義運作的特徵,而非對其論點的威脅。他指出,Nvidia的本益比約為13倍,僅為大盤的一半,同時營收成長率高達70%,且未來八季已預訂了1兆美元的銷售額,客戶對記憶體與供應的需求已超越了產業目前的產能。「我已公開表示Nvidia將成為第一家市值達到10兆美元的公司,」Gerstner說道。他補充,Nvidia在訓練與推論領域的路線圖領先優勢(在收購Groq後更加鞏固),使其即便在ASIC競爭加劇的情況下仍處於有利地位。他主張,雲端巨頭客製化晶片的成功,反而驗證了整體運算市場的規模,而非削弱Nvidia的地位。
關於勞動力市場的問題,Gerstner與Madra皆反對AI能力提升必然會取代人類價值的觀點,但也承認轉型過程將會帶來陣痛。Gerstner認為,「智商(IQ)將被商品化,而情商(EQ)將變得極具價值」,他預測機器在原始問題解決速度上將超越人類,而建立關係、說服力與領導力將成為人類差異化的技能。Madra補充說,目前的模型能力是在Blackwell與Rubin架構之前的硬體上實現的,這意味著下一代前沿模型——包括Elon Musk旗下xAI即將發布的新作——尚未展現出新一代晶片將釋放出的潛力。