羅福莉:OpenClaw 強制推動中國 AI 典範轉移——Agent 時代要求 1T 模型、1:1 預訓練與後訓練比例,以及激進的團隊重組
張曉軍專訪,2026 年 4 月 24 日
小米大模型團隊負責人羅福莉在 OpenClaw 引發劇烈典範轉移後,首次接受深度技術專訪。她揭示了 AI 產業如何在短短兩個月內從「對話(Chat)」根本性地轉向「智慧體(Agent)」——以及為何大多數團隊至今仍不得其門而入。羅福莉坦誠分享了她從 DeepSeek 到主導小米 MiMo-V2 系列開發的歷程,並剖析了定義 Agent 時代的組織變革、技術突破與殘酷真相。
OpenClaw 的四小時頓悟:從產品噱頭到研究加速器
羅福莉在農曆新年期間初次接觸 OpenClaw 時並不以為然。她最初將其視為「Claude Code 加上即時通訊介面」,認為 Skillhub 等功能設計更偏向產品噱頭而非實質。然而,春節期間的一次深夜安裝改變了一切。「我從凌晨 2 點跟它聊到 6 點,」她回憶道,「多巴胺或腦內啡不斷分泌,我興奮得完全睡不著。」這場從好奇心出發的體驗,演變成了一段為期三天的探索之旅。
第一天,她感受到了情感智慧——系統在深夜提醒她休息,並透過精心設計的上下文編排,將當前時間融入每一輪對話中,展現出溫暖的互動感。第二天,她發現了該系統在團隊管理與組織架構上遠超預期的深層能力。第三天則是轉捩點:OpenClaw 在一兩小時內完成了她原本以為需要數週的研究任務,包括構建用於模擬多輪互動的 User Agent。「這是第一次讓我感覺到,極其複雜的 Agent 框架設計,完全可以彌補模型能力上的許多短板,」羅福莉解釋道。
這項技術洞見至關重要。OpenClaw 的成功源於其精細的上下文編排、具備層次結構的持久化記憶系統、多模型聯動以互補短板,以及能繞過當代模型限制的自主問題解決能力。「當我使用 OpenClaw 時,我不會過度關注模型本身。原因之一在於,我認為 OpenClaw 的框架設計意在盡可能透過整套 Agent 編排來彌補模型的不足,」她說。這與 Claude Code 假設使用者僅想運用單一生成模型能力的邏輯有本質區別。
被迫轉型:為何中國 AI 團隊別無選擇
春節假期結束後,羅福莉要求整個團隊在一天內達到 100 輪 OpenClaw 對話,儘管她坦承並未真正檢查執行狀況。目標在於強制體驗而非強制命令。「我買了幾台 Mac Mini 進行部署,並將它們放入不同的 OpenClaw 群組中,」她說。「個人的想像力畢竟有限,但當你看到別人使用 OpenClaw 真正解決問題時,會激發出自己的想像力。」
兩天內,團隊開始「躁動」,隨著成員發現各種超乎想像的功能,群組訊息此起彼落。三到四週內,他們完成了「過去可能需要三十或四十週」的研究工作。效率的提升如此顯著,以至於羅福莉認為,現在許多事情「最慢一兩個月,甚至三四個月就能學會」——環境的重要性已超越了經驗。
這種加速創造了一個令人不安的現實:中國領先的團隊突然面臨抉擇,是在 Chat 典範上精益求精,還是擁抱 Agent 典範中的劇烈不確定性。「如果你追求頂級的程式設計體驗,即使是現在,Claude Code 搭配 Claude Opus 4.6 依然是首選,」羅福莉承認,「但這並不代表其泛化表現能確保在非程式碼場景中達到極高的準確度與完成度。」那些猶豫不決的團隊,已經錯失了數個月的先機。
1T 門票:為何參數規模成為不可妥協的門檻
羅福莉直言不諱地指出了新的進入障礙。「這是 Agent 時代,你需要達到接近 Claude Opus 4.6 等級的門票,」她表示。「若以研究、預訓練(Pre Train)與後訓練(Post Train)來劃分,我認為 3:1:1 的算力比例是非常合理的。」這意味著,每投入 1 單位算力用於 1T 參數模型的預訓練,就需要同等算力進行後訓練,並至少投入 1 單位算力進行研究。
這與 Chat 時代偏重預訓練的 3:5:1 比例,甚至 2023-2024 年極端強調預訓練的做法形成了巨大反差。「頂尖團隊現在的預訓練與後訓練比例都應該是 1:1,」羅福莉觀察道。結構上的原因是:Agent 任務需要更長的上下文、更高的 Token 消耗,以及純預訓練無法提供的複雜多輪互動編排能力。
為何是 1T 參數?因為羅福莉在 DeepSeek 時期已訓練過超過 600-700B 的模型,且「不想再訓練同樣規模的模型」。更重要的是,達到她視為當代基準的 Claude Opus 4.6 智慧水準,必須具備此規模。較小的模型無法在 Agent 框架要求的多元場景中維持穩定表現,儘管她指出,設計良好的 Agent 框架確實能讓 3B 模型完成過去認為不可能的任務。
Hybrid Attention 的驗證:一年前的架構決策
MiMo V2 系列的技術基礎揭示了為何戰略定力比反應式開發更重要。儘管業界主流(如 GLM-5、Kimi 的 K2 以及 DeepSeek 的 V2/V3/R1)皆押注 MLA(多頭潛在注意力)結構,羅福莉的團隊仍選擇了 Hybrid Attention。「對於 Chat 時代而言,MLA 確實是非常優秀的模型結構,」她承認,「但我不認為它適合 Agent 典範。」
問題在於,MLA 是為了在當時 H 系列晶片上實現記憶體存取與計算之間的完美臨界點而設計的。這導致它沒有空間容納如「多 Token 預測(MTP)」等推論加速技術,因為加入 MTP 會觸及計算上限,導致成本效益不彰。相比之下,採用 7:1 滑動視窗與全注意力層比例的 Hybrid Attention,刻意留出了計算餘裕,可填補 MTP,使 Flash 版本達到 100-150 TPS,Pro 版本達到 60-100 TPS,這種速度讓 MiMo 模型在使用感受上遠快於競品。
這項架構選擇也為長上下文效率做好了準備,羅福莉在 Agent 框架成為主流前就準確預判了其重要性。「當你進行 1 兆 Token 的預訓練,並透過後訓練任務進行適度激活,模型通常能在 1MB 的上下文中具備相應能力,」她解釋道。這種在典範轉移前 6 到 12 個月做出的前瞻決策,使 MiMo 在 Agent 框架突然需求這些能力時,具備了內在優勢。
後訓練的隱藏複雜性:為何多數 Agent 研究是「偽」需求
羅福莉對 2023 年至 2024 年初發表的 Agent 研究持嚴厲批評。「我不認為那是 Agent,只能算是有點複雜的上下文,頂多比 Chat 複雜一點點,」她不屑地說。諸如 SWE-bench 和 BrowseComp 等基準測試,僅在狹窄場景下使用簡單框架,且「沒有工業級可用能力」。當你將這些基準測試訓練出的模型連接到 Claude Code 或 OpenClaw 時,「你會發現它們根本無法使用,存在許多問題。」
真正的 Agent 後訓練需要根本性的改變。首先,你需要能模擬多輪互動與多樣化上下文的 User Agent,這是羅福莉在 OpenClaw 協助下僅花數小時就構建完成的。其次,你必須為環境設計獎勵系統,這遠比她過去職業生涯中處理的量化交易獎勵來得模糊。「獎勵並不清晰,且會不斷變化,」她指出,這需要持續進行哲學判斷,以確認任務是否符合個人價值觀並創造意義。
組織地震:無小組、無職級、無預後訓練分界
最激進的變革或許在於,羅福莉將她約 100 人的團隊結構化為無小組劃分、刻意扁平化的層級。「我真的不認為做後訓練的人,如果我們談論後訓練,當前最重要的典範轉移是需要具備多樣性的視角,」她認為,「許多後訓練人員基於單一場景操作,缺乏這種視角的多樣性。但作為預訓練人員,首要關注的正是多樣性。」
這帶來了自然的團隊流動性。做預訓練的人轉向後訓練,並非因為組織命令,而是因為「許多能力與特徵是互通的」。招聘標準從經驗轉向基本能力、好奇心與熱情驅動。羅福莉現在積極招募大二、大三學生,因為「他們的靈活性與適應力未受污染。他們能自然地接受工作會議,並產生巨大價值。」團隊中約四分之一到三分之一具備訓練背景,但大多數人在加入小米前從未訓練過大模型。
扁平化架構有其特定目的。「任何層級都應在一定程度上受到規範與約束。但我個人認為,規範與約束本身會抑制創造力,」羅福莉斷言,「一旦有了層級,就會預設高層級的人必須具備優於所有人的智慧——這種定義非常奇怪,我不認為這種情況存在。」相反,她透過「熱情驅動管理」,讓每個人專注於自己相信的事物,並親身體驗新能力。
訓練磨難:當 1T 模型損失值不斷飆升
訓練 MiMo V2 Pro 暴露了 1T 規模模型面臨的全方位挑戰。訓練期間損失值(Loss spike)發生了「兩三次」,最長的除錯過程耗費了兩週停機時間。「如果停機一天,損失就是兩三百萬,」羅福莉指出——這是目標導向團隊無法容忍的損失。但她的團隊「沒有截止日期。我們認為模型訓練好了,就會重新啟動。」
除錯過程需要嚴密監控專家複雜度、逐層激活值以及參數輸入輸出,以捕捉許多團隊視為常態的問題。「許多團隊會將 Loss spike 視為正常現象,但我們會嘗試將其消除,」她解釋道。解決方案涵蓋從全注意力與滑動視窗層稀疏比例的結構調整,到通訊運算子中的 Infra 錯誤,再到借鏡 Kimi 的基於範數的抑制與 QK-Clip 方法,以應對 Logits 過大問題。
MTP 的意外角色:從事後補救到速度差異化
多 Token 預測(MTP)是在 MiMo 架構開發的「中後期」才加入的,當時團隊意識到他們的 Hybrid Attention 設計留下了大量未使用的計算資源。「我們沒想到會剩下這麼多,」羅福莉回憶道,「當時思考的是如何有效利用剩餘計算能力,而 MTP 非常適合。」
令人驚喜的是,MTP 不僅是預訓練的增強手段,在推論時更是推理加速器。「為何只有我們在推理時使用 MTP?原因在於我們的模型結構天生留有大量計算餘裕,」她解釋道。這種透過 Hybrid Attention 設計刻意營造的架構空間,使 MiMo 達到了 100-150 TPS 的速度,讓使用者驚呼「速度極快」,而基於 MLA 的模型則因觸及計算上限而受限。
全模態押注:優雅架構與務實限制
羅福莉的團隊為 Omni 模型追求一種「優雅架構」,試圖透過多層 RVQ(殘差向量量化)將音訊離散化為語言模型 Token,實現「無損重建」,從而創造一個高維度的稠密空間。「這是 NLP 從業者的執著,」她承認,「我們是唯一做 NLP 的音訊團隊,所以我堅持嘗試。」
然而,務實主義介入了。雖然音訊離散化成功了,但將同樣方法擴展到影像與影片仍「進行中」,結果尚不明確。「這需要投入更多算力與更長的研究成本,」羅福莉承認。哲學上的轉變源於認識到,由 Claude Code 加速的 Agent 框架,使得在兩三週內重寫 RL 基礎設施變得可行。「為什麼要為了架構統一而犧牲模型結構?」她反問。
結果是混合策略:Omni 使用更高效的 Hybrid Sliding Window ViT 進行視覺理解,但維持連續表徵,而非強行離散化。「我們仍希望嘗試在語言模型典範下統一它,」羅福莉說,「但如果基於連續特徵,可能很快就能實現;若基於離散特徵,建模難度較高,湧現現象會較晚出現。」目前的優先事項是確保整體智慧,而非追求統一的優雅。
兩個月的差距:中國壓縮的追趕窗口
羅福莉認為,擁有 1T 以上基礎的中國公司——如 Kimi、MiMo 及「其他幾家」——能在兩到三個月內縮小與 Claude Opus 4.6 的差距,儘管她謹慎地澄清了這意味著什麼。「並非我兩三個月後能追上 Claude,而是指追上『當代』的 Claude,機率相當高,」她表示。這假設團隊具備快速反應能力並正確擁抱 Agent 典範。
接下來的兩三個月將考驗整體的研發水準、技術靈活性以及團隊擁抱新研究典範的程度。MiniMax 已展現出驚人的靈活性,以 10B 激活參數模型實現了「相當驚人」的 Agent 能力,儘管羅福莉指出他們缺乏構成「進入」Claude Opus 4.6 基準測試門檻的 1T 基礎。圍繞 OpenClaw 的開源社群進展速度超過任何單一產品,羅福莉偏好使用最新的 OpenClaw,而非僅僅「轉型為 Chat 形式」的國內替代品。
技能作為替代 Alpha:社群驅動的智慧層
在羅福莉看來,OpenClaw 最重要的創新之一,是透過賦能社群貢獻,使「技能(Skills)」成為熱門話題。「這至關重要,因為這是我認為屬於人類的部分——需要與 Agent 共同創造的內容,」她解釋道。技能代表了網際網路上無法獲取的「大量智慧」,包括內部企業規範、組織遺留流程以及僅在真實環境中透過多次互動才能沉澱出的業務邏輯。
這創造了對預訓練的補充,功能如同「替代資訊」甚至「替代 Alpha」。如果沒有大眾投入貢獻這類資訊,「那麼 Agent 或頂級模型都很難發揮出應有能力。」互動式方法讓人類能主動貢獻數據,這是純粹基於網際網路知識的預訓練無法捕捉的。「技能本身對 Agent 框架、晶片能源等環節,實際上都有促進作用,」羅福莉主張。
推論晶片緊缺:多智慧體將使需求激增 5-10 倍
羅福莉預測,隨著 Agent 框架增強、模型能力提升以及成本優勢帶來前所未有的普及,推論需求將在近期內激增「數倍至 10 倍」。「對於推論晶片而言,需求將達到前所未有的高度,」她表示。限制因素不僅是生產能力,還有儲存瓶頸,這將迫使企業在自研推論晶片與使用最先進現成 GPU 之間做出艱難決策。
戰略轉折點正在發生。「這個決策將保密,」當被問及小米的下一步時,羅福莉如是說,但暗示很明確:「這個決策可能在半年或更久之後見分曉——誰更領先?」今天的決策將決定六個月後的贏家,團隊必須判斷哪些晶片架構支援高效推理、如何優化跨 GPU/CPU/儲存的異質資源排程,以及是進一步擴展模型參數,還是專注於激活參數效率。
AGI 時間表加速:從兩年縮短至 2026 年的 60-70%
農曆新年時,羅福莉認為 AGI 距離「至少兩年」。現在她相信今年就能達到「至少 60% 到 70%」。「我覺得兩年內實現應該是有可能的,」她談到完全實現時表示,並將 AGI 務實地定義為「大多數人都會確實迷失自我——放棄原本的工作模式」的時刻,因為工作產生的生產力價值首先被顛覆,隨後才是生活模式的改變。
關鍵變數是「AI 訓練 AI」——這是一個「地標性節點」,系統達到頂尖人類群體的智慧巔峰,並獲得進行新研究的能力。「這確實是其自我迭代的頂峰,」羅福莉表示。但她對多模態的角色持保留態度,質疑擴展感知維度是否真的能促進智慧,還是僅僅提升了感知與情感智慧。「生成可能促進智慧——這是我的猜測,」她沉思道,暗示結合跨模態的理解與生成,可能比純粹的多模態理解更重要。
開源的必要性:透過分散式智慧加速 AGI
羅福莉將開源視為通往 AGI 終點的必要條件。「如果從這件事反推,你需要多少晶片——這些晶片會由一家公司生產、由一家公司購買嗎?看來不會——它將會分散,」她推論道。如果晶片與推論能力分散在不同製造商與模型公司之間,開源就成為驅動整個生態系統(包括 Agent 框架、晶片設計與能源系統)進步的強制力。
是否開源取決於公司是否擁有「無人能及的戰略利基」。如果有的話,他們可以開源。如果模型本身就是生態利基,他們則不會。小米的策略反映了其儘管身為大公司,卻具備創業導向的特質。「我現在感覺不像是在大公司工作,」羅福莉說,「我認為小米整體非常具有創業導向——外表是大公司,但實際上是非常靈活的公司。」
競爭格局正在壓縮。2023 年,差距在於預訓練規模與創新架構;2024 年,o1 與 R1 的橫空出世迫使典範從預訓練轉向後訓練,暴露了仍按僵化功能分工的團隊。現在到了 2026 年,那些未圍繞 Agent 後訓練進行重組的團隊正被永久拋在後頭。「我認為接下來的兩三個月會非常精彩,」羅福莉預測——而對於那些仍以舊方式從事 Agent 工作的人來說,那種精彩將是恐怖的。