SemiAnalysis：Anthropic 已實現獲利，記憶體短缺恐持續數年，Nvidia Blackwell 效能表現超出其自身宣稱的 30 倍
SemiAnalysis 的 Dylan Patel 於 2026 年 7 月登上《Next Big Thing》播客，深入剖析運算、記憶體、網路與電力領域的瓶頸
SemiAnalysis 創辦人 Dylan Patel 近期接受 WisdomTree《Next Big Thing》播客專訪，針對 AI 基礎設施投資現況進行了廣泛的分析。Patel 的公司已從 2022 年僅有兩人的電子報，成長為擁有 90 名員工的研究機構，並獲得來自 Nvidia、Microsoft、Amazon、Google、Oracle、CoreWeave、Nebius 及 Crusoe 等企業總值超過 5,000 萬美元的硬體捐贈。其基準測試數據影響力巨大，甚至連 Jensen Huang（黃仁勳）也在 GTC 大會上公開引用。此次訪談涵蓋了前沿 AI 實驗室的經濟效益、記憶體定價機制、CPU 需求、光學元件及電力供應等議題，為佈局 AI 供應鏈的投資人提供了多項關鍵數據。
Anthropic 已轉虧為盈
訪談中最具體的數據點關於 Anthropic。Patel 表示，該公司在 2026 年 4 月與 5 月已實現自由現金流轉正並開始獲利，儘管 6 月份的帳目尚未完全結算，但「看起來情況相同」。其年度經常性收入（ARR）已「飆升至超過 500 億美元」，毛利率則「高於 70%」。這與市場普遍認為前沿 AI 實驗室結構性燒錢的刻板印象大相逕庭。Patel 特別強調，這並非全產業的共通現象，但他指出 OpenAI 的營收也隨著其 Codex 程式碼編寫產品及其他代理（agentic）工具的採用率提升而出現轉折。
Nvidia Blackwell 效能表現超越其宣稱的 25 倍
Patel 回憶起業界瘋傳的一幕：在 3 月的 GTC 大會上，Jensen Huang 在台上高舉一條印有 SemiAnalysis 標誌的「推論之王」（inference king）腰帶，並花了約五分鐘討論 SemiAnalysis 對 Blackwell 對比 Hopper 的獨立基準測試。Blackwell 發布時，Huang 宣稱效能提升 25 倍，當時市場甚至 Patel 本人都認為這只是行銷話術。然而，SemiAnalysis 的 InferenceMAX 基準測試套件透過各大雲端平台捐贈的硬體進行每日測試，最終顯示 Blackwell 執行 DeepSeek V3 工作負載的速度比 Hopper 快了 30 倍。「Jensen，我錯了。你當時太保守了。實際是 30 倍，」Patel 對他說。這段插曲意義重大：它提供了獨立且可重現的證實，證明 Nvidia 對世代效能提升的預測，往往被懷疑論者視為誇大，但事實證明卻是保守的。
SemiAnalysis 自身的 AI 支出是 ROI 的即時案例研究
針對近期市場對企業 AI 投資報酬率（ROI）的質疑，Patel 以自家公司作為即時數據點。SemiAnalysis 內部的 AI 工具支出（他稱之為「年度經常性支出」）在 2025 年 11 月時不到 10 萬美元，當時公司主要僅支付標準聊天機器人訂閱費用。隨著 Claude Code 透過 Opus 4.5 與 4.6 版本進入成熟期，該支出在 2026 年 1 月底躍升至 400 萬美元，目前已接近 1,100 萬美元，高峰週期的年化支出更達 1,400 萬美元（以 90 人的公司規模而言）。「這簡直瘋了，對吧？」Patel 指出，AI 支出已佔員工薪資成本約三分之一，年底前可能接近一半。他認為對自家公司而言，ROI 是真實存在的，因為這已轉化為產品交付與營收成長；但他同時承認，許多公司在年中就已「耗盡」全年的 AI 預算，現在面臨必須在刪減 AI 支出、刪減其他軟體授權或裁員之間做出選擇。他警告，那些壓制 AI 支出的公司，「在生產力提升方面將會被遠遠拋在後頭」。
為何 Token 效率而非價格，才是決定模型戰爭的關鍵
Patel 解釋了為何儘管 OpenAI 的模型在原始基準測試中有時佔優，Anthropic 仍持續贏得企業程式編寫工作負載的青睞。關鍵變數在於 Token 效率，而非帳面能力。當 OpenAI 的模型在尖端科學、數學或程式編寫任務中偶爾能勝出時，它們通常需要花費三倍的時間與四倍的 Token 數量，這不僅提高了成本，還拖慢了人機回饋循環。Patel 表示，Anthropic 更具 Token 效率的模型是 SemiAnalysis「維持以 Anthropic 為主」的原因，僅將 OpenAI 的 Codex 保留用於可隔夜無人監督的任務。他還指出，反直覺的是，AI 助理工作負載的成本優化往往意味著採用最新模型而非較便宜的模型，因為能力更強的模型能以四分之一的 Token 數量和單次對話完成任務，無需多次來回溝通。
記憶體短缺是結構性而非週期性
關於記憶體，Patel 回顧了 2026 年 1 月的一份 SemiAnalysis 報告，該報告指出市場低估了當前上升週期的持久性。他的分析框架是：未來三年記憶體產能每年僅成長 20% 至 30%，但 AI 對記憶體的需求卻在翻倍。這種失衡迫使價格敏感度較低的買家（如智慧型手機與筆電）退出市場，以騰出空間給 AI。小米等中國智慧型手機製造商的中低階產品出貨量已下滑約 40%，但高階市場尚未受擠壓，這意味著 iPhone 與 MacBook 的價格在達到平衡前，需要上漲「幾百美元」，而不僅僅是 100 美元。Patel 對此直言不諱：「記憶體並非供需失調，這也不是短期短缺。這是一場將持續數年的短缺。」他還指出，記憶體毛利率尚未達到他預期的 85% 至 90% 水準，最終會回歸平均值，但在此之前，當前的上升趨勢還會持續。
CPU：真實需求，但屬於追趕型交易，而非新典範
SemiAnalysis 很早就標示出與強化學習及代理工作流相關的 CPU 需求轉變，這些工作流在環境檢查、工具呼叫與程式碼執行方面，比早期的聊天式推論需要更多的 CPU 端運算。這項於 2025 年 11 月在機構研究及 2026 年 1 月在公開電子報中提出的觀點，與 Arm、Intel 及 AMD 的股價強勁反彈相吻合。但 Patel 反駁了賣方分析師對此敘事的過度熱情，稱部分分析師錯誤地斷定 CPU 支出將與 GPU 支出相當。「那些根本不懂技術的賣方分析師只是在胡說八道，」他指出，即使比例有所改善，CPU 支出仍僅佔 GPU 支出的一小部分，以他的數學估算，每顆 CPU 約 5,000 美元，對比每顆 GPU 50,000 美元。他認為，實際發生的是一次性的追趕：超大規模雲端運算商（hyperscalers）在 2023 年與 2024 年部署的 GPU 相對應的 CPU 採購不足，目前正在修正該積壓需求，一旦追趕完成，他預期該動態將恢復至較平穩的成長率。
網路：銅纜爭取時間，共同封裝光學元件（CPO）延至 2029 年
Patel 引用本週稍早發布的 SemiAnalysis 機構報告指出，市場對共同封裝光學元件（Co-packaged Optics, CPO）的時程過於樂觀，許多投資人將其視為即將到來的全面升級週期。「目前人們對 CPO 有點過於興奮，」他說。「在我看來，2027 年不會實現。實際上要到 2028 年末，而 2029 年才是 CPO 實現規模化量產的真正時間點。」製造良率、晶片就緒度與產量均尚未成熟，Nvidia 自身的路線圖也反映了此延遲：Rubin 與 Rubin Ultra 仍基於銅纜技術，而下一世代的 Feynman 尚未完全確定在 GPU 上採用 CPO。Patel 認為，該延遲的短期受益者是 Amphenol 等銅纜互連供應商（SemiAnalysis 現預期其表現將優於先前估計），以及傳統（非 CPO）光學收發器製造商，儘管產業的長期目標仍是 CPO。
電力：資料中心能源的「即興創作」時代
關於能源，Patel 表示資料中心容量預計將再度翻倍，從今年的 20 GW 增加到明年的 30 GW，以及後年的 50 GW。在大約兩年內，新資料中心一半的增量電力將來自現場發電，而非取自電網。受限於法規與公用事業攤提限制，輸電仍是最難解決的瓶頸，但在發電與電力轉換方面，他描述了一波「即興創作」浪潮：將改裝的柴油卡車、火車與船舶引擎轉換為燃氣發電，並回饋至發電機；此外還有往復式引擎與工業燃氣渦輪機，以及來自 GE Vernova、Mitsubishi 與 Siemens 的傳統聯合循環燃氣發電廠。在中國製造規模的助力下，太陽能加儲能的成本下降速度極快，Patel 預計在兩年內，該技術的成本將低於天然氣，具體取決於營運商要求的可靠性門檻。在更前衛的領域，SemiAnalysis 也發表了關於太空資料中心的研究，Patel 指出這完全消除了電池需求。「這會很麻煩，但行得通，」他評論柴油改裝方案時說道，這也精確總結了他對電力（而非晶片）目前是基礎設施建設中更具即興限制因素的廣泛觀點。