DeepMind 姚順雨:預訓練未止、英雄主義已逝,AI 下一個前沿是「長跨度任務」
張小軍專訪(錄製於 2026 年 3 月)
Google DeepMind 研究科學家姚順雨,曾任職於 Anthropic 並參與 Claude 3.7 與 4.5 的訓練。他對當前 AI 的發展現狀給出了極其坦率的評估:個人英雄主義時代已經終結,預訓練仍有巨大的發展空間,且與大眾認知相反,模型並未觸及任何根本性的瓶頸。姚順雨目前投身於 Gemini 3 的研發,他以業內人士的視角,揭示了全球頂尖 AI 實驗室內部的真實動態。
預訓練遠未終結
姚順雨最反直覺的觀點,在於挑戰了「預訓練已達瓶頸」的主流論調。「根據我的經驗,並沒有達到瓶頸,」當被問及 Scaling Laws(縮放定律)是否已達極限時,他直言不諱地表示。「我的感覺是,未來四個月內我也看不到任何終結的跡象。」這與許多觀察家在經歷了推理模型與後訓練(post-training)改進後的樂觀預期大相徑庭。
姚順雨認為,大多數聲稱觸及瓶頸的人,實際上是遇到了「錯誤(bug)」,而非根本性極限。「據我觀察,絕大多數認為遇到瓶頸的人,原因在於第三點——他們的模型中存在某種未被察覺的 bug。所以他們誤以為達到了極限。」他指出,關於 Token 跨度、數據選擇的錯誤科學假設,或是簡單的執行錯誤,才是真正的罪魁禍首。
技術細節至關重要。當被追問具體有哪些改進時,姚順雨解釋道:「模型學習事物的能力正變得越來越強。過去要讓模型學會某件事需要耗費巨大精力,但現在可能不需要那麼費勁了。最重要的是,你需要清晰地定義問題,並找出如何構建正確數據的方法。」
為何編碼成為首個爆發點?
關於為何「代理式編碼(agentic coding)」成為了突破性的應用,姚順雨對 Anthropic 當時的情況提供了罕見的清晰解讀。編碼的優勢在於結構性,而非偶然。「編碼場景有兩大優勢。第一是它的獎勵訊號(reward signal)——或者說反饋訊號——定義得非常明確,」他解釋道。在執行功能時,輸入與輸出是可以測試的,成功或失敗是二元且即時的。
第二個優勢是數據基礎設施。「GitHub 在過去幾十年裡匯集了許多優秀程式設計師編寫的高品質程式碼。從這些程式碼出發,你可以構建出海量的環境。」這種清晰的反饋機制與豐富的高品質數據相結合,使編碼成為大規模強化學習的理想首選領域。
但其中也包含隨機性。姚順雨透露,Claude 3.5 的編碼能力在某種程度上是意外產生的,源於預訓練數據中對程式碼品質的技術偏好。「如果你只是從網路上隨機採集數據而不進行過濾,程式碼數據的品質自然會比其他數據高一些,因為如果你查看網頁,會發現 GitHub 的品質顯著高於一般網頁。」一旦 Anthropic 通過用戶反饋發現了這一優勢,便全力投入——這項決策得益於其獨特的組織結構。
Anthropic 的結構優勢及其侷限
姚順雨形容 Anthropic 擁有「極強的執行力」,這得益於大多數公司無法複製的自上而下決策模式。秘訣何在?技術公信力集中在創始團隊手中。「其技術負責人實際上是公司共同創辦人,」他特別點名 Jared Kaplan 和 Sam McCandlish。「他們親自做決策。這是他們的公司,因此他們有權力進行這種自上而下的推動。」
這種結構使 Anthropic 能夠在機會出現時,對編碼領域進行激進的押注。「我剛加入時,大家肯定都已經看出這件事可行且重要,但還不太知道怎麼做。而我進去後,就和大家一起研究如何實現。」該公司能以組織結構分離技術與業務領導權的公司所無法企及的方式,迅速調動資源進行大規模強化學習。
然而,姚順雨在一年後離開了 Anthropic,理由包括公司快速擴張帶來的文化變遷,以及與執行長 Dario Amodei 的「反中立場」存在分歧——他描述這大約佔了他離職決定的 40%。「我其實並不認同 Dario 的反中立場。我認為作為公司執行長,他個人持有什麼觀點都可以,但作為執行長,將這種觀點推向極致是一種非常情緒化的反應。」
Google 的不同策略
在 Google DeepMind,姚順雨發現了一種完全不同但同樣奏效的組織模式。與 Anthropic 的自上而下押注不同,Google 採取的是「投資組合」策略。「大公司與新創公司的策略本質上是不同的。對於新創公司來說,重要的是押注。我必須押注某個方向。如果想押注,就意味著存在風險。」
Google 的優勢在於:「大公司的思維模式可能不僅是最小化賭博成分,還能在每個領域都有儲備。如果任何一個領域成功了,我就能追趕上;如果我自己先成功了,甚至能取得領先。」這意味著 Google 不需要像 Anthropic 那樣高度集中的技術領導力。
在 Google,預訓練已成為「一件非常、非常可控且可預測的事情。你可以知道下一代模型不會太差。」該組織明確了權責歸屬,將模型開發轉變為一項發揮 Google 傳統優勢的工程項目。「Google 的工程管理能力非常強,所以它能慢慢地把事情做好。」
姚順雨認為,Gemini 的轉折點不僅是 Gemini 3,而是 Nano Banana 的爆紅與用戶量累積,緊接著是 Gemini 3 以卓越的模型品質留住了這些用戶。「我認為如果只有 Gemini 3,可能不會有這麼好的結果。因為當你的市佔率甚至不到 10% 時,模型好一點還是差一點,傳播速度都太慢了。」
下一個範式:長跨度任務
當被問及下一個重大突破時,姚順雨指出「長跨度任務(long-horizon tasks)」才是關鍵前沿,而非多模態生成或持續學習。他的願景體現在內部使用的一句口號:「以有限上下文訓練,以無限上下文使用。」目標是通過智慧化的上下文管理,讓模型在有限的窗口內處理極長的任務——本質上是教導模型像人類一樣有選擇地記憶與遺忘。
「人類的上下文其實非常、非常短。如果你現在問我昨晚吃了什麼,我完全記不起來,」姚順雨說。「因為這對我當前的場景並不重要,所以我選擇遺忘。因此,人類的上下文本質上很短,但我們能有選擇地遺忘與檢索,將與當前場景相關的重要資訊帶回來。」
這一方向與機器學習編碼密切相關——即利用 AI 自動化 AI 研究本身。姚順雨相信,在 6 到 12 個月內,「AI 將會自己進行實驗」,即從頭到尾完成整個研究項目:設計實驗、運行、分析結果、提出新假設並進行迭代。「這條鏈條尚未完全閉環,但我認為這可能是下一個逐漸完善的事物。」
蒸餾、基準測試與真正的重點
談及中國實驗室從前沿模型進行蒸餾的現象,姚順雨在「硬蒸餾」與「軟蒸餾」之間做了細微但重要的區分。硬蒸餾——直接獲取 Claude 生成的 Token 並進行訓練——既不道德,在「智力上也相當愚蠢」,因為這顯示出這些公司「甚至不知道自己想做什麼」。但軟蒸餾,即將其他模型作為數據流水線中的助手或評估者,「我認為在商業上屬於灰色地帶,但從技術角度來看,相當有趣。」
他認為,採用這種方法的中國實驗室「可能已經成為多代理(multi-agent)訓練的先驅。而且是真正的多代理。因為如果他們使用來自不同公司、更聰明的模型並將其整合到單一訓練系統中,每個模型的分佈可能會非常不同。」
至於當前的基準測試競賽,姚順雨嗤之以鼻。「我認為在某種意義上,沒有一個值得關注。」大眾競逐的公共基準測試本質上已經飽和。「每個人都會爭奪各種基準測試的第一名,以證明其模型的基本能力很強。這件事到現在已經引起大眾關注——那些基準測試已經有點到頂了。」
個人英雄主義的終結
姚順雨最引人注目的論點,或許是 AI 研究已從個人才華轉向集體執行。「我認為現在每個人基本上都是衝浪者。本質上是浪潮在推動,而不是衝浪者,」他說。「語言模型的個人英雄主義時代恐怕已經過去了。」
英雄主義何時終結?「是 Transformer 出現的那一刻。在那項技術尚未達到擴展階段時,發現它的人或許是英雄。在那之後,就模型層面而言,很長一段時間以來,這更多是關於集體主義。」
這並非過度謙虛——姚順雨真心認為該領域已變得足夠簡單,以至於個人貢獻遠不如系統化執行來得重要。「AI 作為一個領域,本質上很簡單。我不認為有什麼——除了可能在那個需要極深洞察力的飛躍時刻——在之後的過程中,許多想法其實非常瑣碎。基本上很蠢,誰都能想到,誰都能做。只是你運氣好,剛好抓住了機會去做而已。」
現在重要的不是才華,而是可靠性。「我認為在這個行業中,最重要的特質是可靠、做事謹慎,並對自己的工作負責。這是最重要的特質。」他進一步表示:「感覺這 AI 的東西真的不需要太多腦子。真的不需要太多腦子。」
套殼問題與產品護城河
關於為何像 OpenClaw 和 Manus 這樣的應用公司在獲得強勁的初期牽引力後,仍選擇賣給模型實驗室,姚順雨指出了根本問題:無法擺脫模型公司的引力。「我認為套殼(wrapper)公司要在當前環境下生存,有兩種路徑。一種是逃得足夠快——我的增長速度夠快,在模型公司反應過來之前,我已經佔領了顯著的用戶心智。」
即使是 Cursor,在他看來是 AI 原生編碼領域「成長最快的新創公司」,在 Claude Code 發布後,也發現自己與 Anthropic 處於「相當競爭的關係」。核心問題在於生產力工具中的「贏家通吃」動態。「編碼的核心本質上是服務於專業用戶的專業需求。它是一個生產力工具。生產力工具的常見場景就是贏家通吃。」
另一種生存路徑是保持足夠小,以至於模型公司懶得競爭——姚順雨認為 Midjourney 成功做到了這一點。「市場太小了,以至於雖然你可以說 Gemini 或許能努力複製 Midjourney 所做的事情,這可能需要一些努力、資金和數據,但它小到 Gemini 可能不想在這上面花太多時間。」
為什麼程式設計師應該擔心?
姚順雨對軟體工程師的未來直言不諱。當被問及程式設計師何時會被完全取代時,他回答:「我認為那一天會到來。但不會一蹴而就。」他估計最終會變成「現在 1,000 分之 1 的人做著過去所有人的工作,賺取當前 100 倍的薪水。」
他對自己編碼生產力的評估非常冷峻。保守估計,「模型寫了超過 90%。如果不保守一點,可能是 99% 或 100%。」他自己寫的部分「正變得越來越少」。作為研究人員,他的實驗速度與一年半前相比,提升了「20 甚至 50 倍」。
給想生存下去的程式設計師什麼建議?「擁抱新事物。我認為這非常重要。」未來的程式設計師需要技術強大,了解自己的工作如何融入更大的組織,並具備強大的規劃能力,將複雜任務拆解為 AI 能處理的片段。但姚順雨提醒,這些要求可能會進一步縮減:「或許六個月後你再來問我,我發現最後那點東西 AI 也已經能做了。那時就只剩下兩件事了。」
什麼才是真正無效的?
談及他理論高能物理的博士研究,姚順雨揭露了塑造他對「什麼是好研究」看法的那段經歷。「我認為對我個人而言,我學到了很多,成長了很多。但對這個世界而言,它沒有產生任何貢獻。」問題不在於工作品質——「沒人會說我的博士論文寫得不好」——而在於該領域的根本結構。
高能物理理論的發展已超出了實驗所能驗證的範圍,僅剩下數學上的自洽性以及資深研究人員的主觀判斷作為評估標準。「當這個領域完全缺乏實驗和客觀標準時,絕對不會只有一個框架出現。這時誰做得好、誰做得不好,其實取決於領域內一些老前輩的主觀判斷。」
這段經歷教會姚順雨「要做具有相對客觀評估標準的事情,或者從另一個角度看,要做能對這個世界產生影響的事情。」這就是為什麼他對 AI 領域中那些無法被證偽的模糊主張感到反感——比如某些知名人士的言論「甚至稱不上錯誤,因為它們根本沒有被定義清楚。」
中美分歧
姚順雨認為中美在 AI 領域的競爭正朝著截然不同的方向發展,這深受各自歷史優勢的影響。美國對企業與生產力軟體的關注,反映了輕鬆的利潤空間與直接的商業模式——「我幫你寫程式碼,我的成本一個月 150 美元,我賣給你 200 美元,我賺 50 美元。」
中國以消費者為中心的策略,則汲取了過去十年複雜間接變現的經驗。「中國真正強大的是消費者端。它能想出非常、非常複雜的產品功能或結構,以一種對你來說顯得非常間接、非常不自然的方式,來滾動利潤。」他舉的例子是抖音,它不按影片收費,而是通過廣告、直播與電商悄悄變現。
這種分歧意味著在中國 AI 討論中佔據主導地位的「超級應用(super-app)」敘事,對美國市場而言意義不大。「如果你問我 OpenAI 和 Anthropic 誰會先死——當然它們不會真的死,只是誰會先變得不那麼重要——那時我會覺得或許 Anthropic 會先變得不那麼重要。但後來 OpenAI 先被 Google 打了一拳,然後 Anthropic 自己走上了正軌。所以現在看來,Anthropic 反而更有優勢。」
關於美國公司是否了解字節跳動(ByteDance),姚順雨直言:「我的感覺是沒有。還沒有。」雖然每個人都承認字節跳動被嚴重低估且在消費者市場佔據主導地位,但對該公司運作方式的真正理解依然匱乏。
真正的瓶頸
儘管技術進步神速,姚順雨認為產品定義才是當前的限制因素。「我認為現在是後者——你想做的事情已經達到了平台期。現在我們知道有聊天機器人,你可以教它做這個;然後有編碼,你可以教它做那個。除此之外,我們不知道還能教它什麼。」
這不是模型能力問題。「這個模型仍然是一個非常聰明的孩子。你其實可以教它很多東西。但我們人類作為老師,現在不知道下一個要教什麼,或者如何使用當前的範式合理地教它。」這意味著,能夠識別正確問題並定義清晰訓練目標的產品經理,價值已高於能執行解決方案的研究人員。
審視 OpenAI 的現狀,姚順雨指出了一個諷刺之處:由於在 Google 追上聊天機器人之前沒有完全取代搜尋,「OpenAI 救了 Google 一命。」如果 OpenAI 在 Google 反應過來之前將搜尋徹底做完,「那情況就會非常艱難。但幸運的是,OpenAI 先做了這件事,讓 Google 意識到這件事很重要。但它並沒有把這件事做絕。」
最後的評估非常客觀:「我認為現在沒有人的位置是穩固的。AI 的形式還有很長的路要走。我們離終局還遠得很。」對於一個據稱正競逐 AGI 的領域來說,這是一個清醒的提醒:真正的挑戰或許不在於擴展算力,而在於弄清楚到底要造什麼。