Unconventional AI 創辦人 Naveen Rao：美國備用電力數年內將耗盡，下一個效率提升將來自模型與機器的共同設計，而非純粹的矽晶片
Unconventional AI 創辦人Podcast專訪，2026年10月24日
Unconventional AI 創辦人 Naveen Rao 認為，AI 的基礎設施擴建即將撞上嚴峻的物理極限。美國過去一直靠著現有電網的閒置餘裕來供應資料中心電力，但他預期這些餘裕「將在未來幾年內」耗盡。Rao 過去曾將 MosaicML 以 13 億美元的價格出售給 Databricks。此後，Unconventional AI 已募得數億美元資金，最近一輪募資時的估值據主持人指出已接近 50 億美元。在這場內容廣泛的 Podcast 對話中，Rao 也從技術層面剖析，為何該公司以能源為先的晶片設計方法在物理微縮走到盡頭後，依然有很大的發揮空間。
容易取得的電力已經用盡
Rao 針對能源核心觀點指出，投資人一直將「吉瓦（gigawatt）」視為一個抽象概念。他引述業界數據指出，建設 1 吉瓦的電力容量大約需要 50億美元，相較之下，建立一座先進半導體晶圓廠則需 200 億至 300 億美元。「大家隨口就把吉瓦掛在嘴邊，好像這是一件很輕鬆的事，」他說，「老兄，這可一點都不輕鬆。」
根據 Rao 的說法，業界迄今是透過拉高現有基礎設施的利用率來取得電力。美國電網的平均產出約為 900 吉瓦，但尖峰負載可達 1.2 至 1.3 太瓦（terawatt），而資料中心一直在消化這段落差。他預期這個緩衝空間很快就會用罄，屆時電力供應的成長將收斂至新設施的建設速度。他對美國能在一年內增加 40 吉瓦電力的說法抱持懷疑：「我們從未做到過。」10 吉瓦已經是相當出色的成果，而他估計這大約需要投入 5,000 億美元的資金。
他指出，中國在經歷了長達二十年、速度約快上六倍的建設後，已於 2023 年在總發電容量上超越美國。他承認集中規劃在推動基礎設施上的優勢，但也主張美國在前端創新（frontier innovation）上仍保有領先優勢。
Rao 從定價中看到了供需緊縮的早期跡象。由於電網背後（behind-the-meter）的交易皆為客製化，因此他沒有確切數字，但他表示買家支付的價格遠高於標準電網費率，這形成了一個雙軌市場：對資料中心而言，電力的價值高於一般用戶。他引用自己粗略且坦承是自行推演的數學模型指出，運算力的售價約為其背後電力成本的 5 倍，這將允許營運商多支付 30% 至 40% 的電費，同時仍能賺取吸引人的利潤率。他對 Bloom Energy 在亞利桑那州的多吉瓦專案保持謹慎，表示「如果成功了那當然很棒」，但這「尚未真正被市場證實」，且其經濟效益與電網電力截然不同。
關於這是否預示著 AI 泡沫，Rao 認為，由債務推動的熱情回落「只是一個小插曲，並非某種泡沫破裂」。他坦言自己是個「堅定的 AI 信徒（pretty AI-pilled）」，真正的考驗在於市場對 AI 服務的需求，而他認為這項需求甚至都還沒被真正滿足。
效率提升已轉移至技術堆疊的上層
最具啟發性的技術架構分析，出現在 Rao 描述運算效率的三個層次時。第一層是物理層，涵蓋摩爾定律（Moore's Law）與丹納德微縮定律（Dennard scaling）。他表示這些增長「大致已經停止」，最近幾代的 GPU 從矽晶片本身獲得的效能提升微乎其微。第二層是計算架構，近期的多數增長都來自將資料型態從 32 位元縮減至 16 位元、8 位元和 4 位元。第三層則是他認為大體上尚未被開發的層次，即在模型層面強制落實局部性（locality）並減少資料移動。
Rao 表示，他兩年前最大的遺憾就是沒有意識到頂層還蘊藏著這麼多「超額報酬（alpha）」。整體的轉變在於，電腦現在可以被視為純粹為了提供智慧而打造的裝置，因此模型、架構與物理層可以進行共同設計（co-designed）。「我們不會把模型奉為圭臬，我們的思維是以能源為先，這意味著我們所做的每一件事都必須為我們帶來能源優勢，」他說。他指出，這與以往每一代為了速度而設計的運算世代截然不同，這條脈絡可以一路追溯到 ENIAC。
他主張，純軟體的改進受限於其底下的硬體。稀疏性（sparsity）就是他的例子：配備標準晶片外記憶體的 GPU 可以獲得一些好處，但由於硬體並未針對此進行設計，因此增長有限。如果能建造出專為利用稀疏性而設計的硬體（就像人類大樓演化出的機制），就能產生「巨大的效能躍升」。他預期這將推動晶片針對特定工作負載持續走向專門化，並點名了 Etched、Fractile、Olix 和 Cerebras 等正在朝這個方向發展的公司。
為什麼 Rao 認為晶片不會商品化
當被問及這種專門化是否會威脅到 Nvidia 的目標市場時，Rao 肯定該公司執行力強大，且很早就體認到 AI 的重要性。他指出，黃仁勳（Jensen Huang）在 2014 年的 GTC 大會上就在談論人工智慧，當時還惹惱了繪圖晶片專家。他不認為大型雲端服務商（hyperscalers）的客製化矽晶片是商品化的證據。他的理由是：由於世界充滿對抗性，智慧的需求實際上是無限的；能源必須被轉化為智慧，而硬體——也就是晶片、系統、雲端與網路——就是轉化機制。「我把這件事做得越好，累積的價值就越高。」
對於商品化正在哪個領域發生，他則坦言不諱。能源已經是一種商品。一部分的智慧也正步入後塵，因為包括中國在內、已經推出半年的開源模型「其實已經相當不錯」，而前端模型在短短幾個月內就會追平開源模型。他打了個番茄的比喻：雖然已經商品化，但仍然是個巨大的市場，只是利潤率會下降。他說，Nvidia 目前拿走了整個技術堆疊中最大塊的利潤，而他並不預期模型公司能掌控這塊利潤。
對於 Fireworks 和 Baseten 等推論服務供應商，Rao 預期每個 token 的價格將會下跌，利潤率也將遭到壓縮，因為他們只是將開源模型對應到硬體上，而模型本身就是一種商品。他的結論是：「我實際上認為，硬體才是未來 10 年最有搞頭的領域。」
市場規模、開源與閉源之爭，以及 Rao 認為被高估的事物
Rao 表示，推論市場將在 10 年內達到 10 兆美元的規模，而 AI 模型本身在幾年內也將成為一個兆美元市場。他引用了傑文斯悖論（Jevons paradox）：token 交付效率提升 10 倍，大約會使市場規模擴大 10 倍，因為應用程式的基礎擴大了。他在機器人領域更進一步，表示其規模將是程式碼編寫的「100 倍大」，因為實體世界尚未被智慧觸及。他說，當今的工業機器人是死板而非智慧的。他預期 2 到 3 年內會出現可用的原型機，5 到 7 年內會出現真正的市場。他投資的是技術堆疊而非應用程式，並預期模型打造者最終將會銷售端對端（end-to-end）裝置，且他對解決「將任務轉化為馬達輸出」的公司（例如 Physical Intelligence）更感興趣。
在 token 的組成比例上，他預測 3 年內有 80% 的 token 流量會流經開源模型，但支出大約會呈 50/50 的五五波分帳。他使用了智慧型手機的類比：Apple 大約佔了 20% 的市佔率，卻拿走了 80% 的利潤；前端模型將針對少數重要問題收取高價，而常規任務則會交給開源模型。
他對兩個類別抱持負面看法。客服自動化是新創公司試圖自動化的「人類標準工作」，也是「目前最糟的投資領域」。他同時也稱代理式編碼工具（agentic coding tools）作為一個獨立市場而言「相當被高估」，並主張價值會歸屬於模型供應商，而工作外殼（harnesses）與 IDE（整合開發環境）並不具備黏著度。「人們在這些工具之間流動得非常流暢。」他承認 Cursor 的退場（exit），但強調模型才是關鍵。
驗證而非創造，才是新的瓶頸
Rao 表示，AI 讓探索點子的成本大幅降低。一個過去需要他的研究團隊花兩週時間處理的雜訊傳播問題，現在只需要一個小時。但他看到了「AI 垃圾內容問題（AI slop problem）」，也就是產出量超出了檢查的能力。「我們已經把問題從『生產』轉移到了『驗證』。」他警告說，擁有驗證能力並不等於自動擁有生產能力，因為規格與端對端流程同樣重要。
他認為代理（agent）的決策目前還不值得給予如人類專家般的信任。模型具有隨機性（stochastic），在各種任務中，從眾多輸出中挑選出優秀結果的機制尚未被充分理解，且長串的決策看起來可能很穩健，但實際上卻「完全錯誤」。他預期在情況改變之前還會有幾次突破，並最終預期人們會比信任自己更信任他們的代理。
實驗室、強化學習與後 Transformer 觀點
Rao 主張，資料與訓練課程（training curriculum）而非架構，推動了最近多數的能力提升，而從預訓練（pre-training）到強化學習（reinforcement learning）與微調（fine-tuning）的順序才是「祕密醬汁（secret sauce）」。他說，資料供應商正朝著更高品質的資料集發展，這是在走向專業化而非商品化。他坦言，以每單位運算或每美元來看，強化學習的效率比預訓練低。它的價值在於，它能在無法大規模蒐集資料的任務上，透過可驗證的獎勵（verifiable rewards）發揮作用。
他暗示大型實驗室並未承擔深層的架構風險，因為模型落後一個月就是一場「災難」。他舉 xAI 為例，該公司透過招聘與執行迅速達到了前端水準，這證明這項工作更偏向整合而非發明。他預期更深層的創新將來自新創公司（例如由 Yann LeCun 和李飛飛領導的公司），而大公司將會像藥物開發那樣收購它們。他還表示，業界終將超越 Transformer 架構，他稱這是一種實現推理的低效方式，因為它依賴於對多個軌跡的取樣與比較。
軟體、服務與工作
Rao 對投資發表了最直言不諱的看法：「如果你是一個純軟體投資人，你大概就完蛋了。」他主張，大約自 2010 年起建立在無摩擦交付（frictionless delivery）基礎上的 SaaS 榮景正在結束，因為應用程式的核心已經轉向智慧層，而且他不認為軟體在 20 年後會是一個巨大的市場。在他看來，取代它的將是結合 AI 與人類的成果導向型企業（outcome-based businesses），Harvey 就是法律領域的第一個例子。他認同主持人的觀點，認為這在很大程度上其實就是服務型公司的升級版。他懷疑多數公司會利用專有資料建立自己的模型，並稱這是「有點技術樂觀主義」，因為這需要只有大公司才具備的規模。
關於 AI 是否會縮減開發人員的支出，Rao 預期預算將保持大致穩定，取而代之的是產出的增加。客戶會要求在一個星期內修復程式碼 Bug，接著縮短到一個小時，而人類仍然是驗證所必需的。他將此類比為機器人將摩天大樓的建設時間從兩年縮短至八個月，在這種情況下，業界會建造兩倍數量的摩天大樓，而不是以相同的速度建造相同數量的建築。
重新思考創投風險
Rao 表示，他過去一年中想法的最大轉變在於投資指標。他主張，市場驗證是 SaaS 時代的習慣，而對於需求顯而易見的深科技問題（例如運算、機器人和生物學），真正重要的是技術問題的進展。「市場非常明確地就在那裡。」他承認，稱此為缺乏紀律的成長型投資人是一派，而 Unconventional AI 則堅定地站在另一派。他補充說，當市場規模達到兆美元等級時，「價格幾乎是無關緊要的。」
當被問及如果擁有無限資源他會怎麼做時，他表示自己會建立自己的製造產線，更貼近原物料，並根據自身需求設計晶圓廠，而不是去適應商品化的製程。他將此比作伊隆·馬斯克（Elon Musk）正在做的事。他也指出，歐洲的投資人基礎過於保守，無法支持雄心勃勃的點子，在他看來，這造成了當地「點子的商品化」。