TypeSafe 的 Jev 每日處理量突破 1 兆個 tokens，創辦人卻揚言屏棄基準測試、拒絕拒答機制，轉而開創全新 AI 類別
發表週專訪揭露「系統一」AI 模型的技術哲學與商業押注，其目標客群是機器而非聊天機器人
由前 OpenAI 研究員 Diogo 創立的 AI 新創公司 TypeSafe，藉由其新模型系列 Jev 的發表，推出了他們所稱的全新人工智慧類別：「系統一模型」（system one models），專為程式碼而非人類設計進行消耗。在發表週進行的一場深度專訪中，Diogo 針對基準測試、安全對齊（safety alignment）、微調（fine-tuning）以及前沿 AI 研究的現狀，發表了一系列毫不掩飾的強烈觀點。無論投資人最終是否投資該公司，這些見解都值得密切關注。
專為機器打造而非聊天機器人的全新模型類別
TypeSafe 的核心論題在於，整個產業一直在為錯誤的消費者最佳化大型語言模型。預訓練模型是為自動完成而建立的；經過 RLHF（人類回饋強化學習）調校、像是 ChatGPT 與 Claude 的聊天機器人是為了滿足人類評分員而建立的；而利用 RLVR（基於可驗證獎勵的強化學習）最佳化的推理模型則是為了求解可進行基準測試的問題。Diogo 主張，Jev 是第一個明確以「程式碼作為消費者」所建立的模型。他將其形容為「機器原生、大規模、可程式化」，並表示這個命名（取材自傑文斯悖論）反映了該公司對「性價比」（每美元產生的智慧）的單一專注。「Jev 將成為那些站在性價比最前沿的模型名稱，」他並補充說，可靠性、成本、校準（calibration）與速度之間都存在著張力，而 TypeSafe 選擇專門在「性價比」這個軸線上「全力以赴」。
該公司將此定位為解決 Diogo 口中當前 AI 時代的核心悖論：能夠處理千禧年大獎級別數學問題的模型，竟然仍無法自動化基礎、重複的知識工作。「我們擁有這個超級強大的自動化引擎，卻只是缺乏正確的插頭與配件，無法將其接入所有這些具備經濟價值的的工作中，」他如此表示，並主張這項落差並非能力問題，而是設計與介面問題。
採用數據超出公司自身預期
這場專訪中最具體的數據點或許是：Jev 每日處理的 tokens 數量已突破 1 兆個。Diogo 強調，這個數字反映的是「甚至在夜間」持續運作的真實機器對機器使用量，而非一次性的人類測試。發表影片本身已吸引 3,800 萬次觀看，Diogo 的共同主持人在訪談中指出，以每週觀看次數計算，這已經超越了輝達（Nvidia）備受矚目的黃仁勳主題演講精華（累積 7400 萬次），也超越了 Fable 的展示等其他近期重大科技發表（5700 萬次）。 話雖如此，Diogo 也坦言公司對市場的反應毫無準備。他表示，在發表之前，「超過一半試玩過的人根本搞不懂它」，而公司內部的非技術部門甚至擔心他們是在「賣維生素而不是止痛藥」。在這週之前，TypeSafe 幾乎沒有任何營收。他也反駁了這次發表反映出高超行銷手藝的說法：「我們沒有行銷人員，而且我們也在徵才，」他並補充說，候補名單的註冊人數是公司學會大體上忽略的虛榮指標——真正的訊號是，當使用者體驗過產品後，他們會多麼積極地要求提高速率限制（rate limits），因為這代表的是真正的依賴而非好奇心。
刻意不採用任何公開基準測試
TypeSafe 對業界標準的公信力指標——公開基準測試，採取了一種不同尋常的對抗姿態。Diogo 表示，該公司「極度反對公開基準測試」，並且對於作為內部替代指標的私有基準測試也僅持「中立」態度，他主張公開基準測試甚至會被無意作弊的實驗室輕易操弄。「過去老實說，每個實驗室都有一個團隊去收集看起來像 MMLU 的數據，好讓模型看起來更好，這其實只是多繞了幾步路的基準測試罷了，」他說。取而代之的是，TypeSafe 押注對模型智慧的信任將透過他所稱的「氛圍」（vibes）建立——也就是在實際工作流程中展現出的真實世界可靠性，而非排行榜上的名次。他承認該公司維護內部評估，但表示防範這些評估遭到操弄是團隊內部執行的「最重要事項之一」，因為誘因太容易腐化測量結果。
拒答機制是「型別錯誤」，而非安全功能
Diogo 提出的更具挑釁性的立場之一，是他拒絕在 API 產品中採用安全對齊風格的拒答機制。他將其與 ChatGPT 或 Claude 等消費者聊天產品做了明確區隔，並表示在後者中此類護欄有其道理。他主張，在 API 的情境下，拒答會以不具決定性且無法預測的方式破壞軟體。「如果你在跟聊天機器人對話時發生拒答，那很惱人——但你還可以應付，」他說。「如果這是一個在背景運作的相依系統，拒答時會發生什麼事？這簡直是瘋了。」他特別指出，這並非全面反對作為概念的安全本身，而是相信能力對齊（讓模型精確遵循開發者指令）與安全對齊（讓模型遵循某人的偏好，例如平台的偏好）是根本上不同的問題，不應該在模型層級混為一談。在關於模型被用於戰爭的敏感問題上，他表示個人偏好這項技術不要被用來傷害人類，但拒絕將這種偏好內建到模型本身，並主張這樣做會「撕裂」模型的通用智慧。
公司稱為 RLCD 的全新後訓練典範
Diogo 曾參與 OpenAI 基於 RLHF 的 InstructGPT 工作（該工作是 ChatGPT 指令遵循行為的前身）。他主張，在大型語言模型的歷史中，產業界成功建立的真正新訓練「北極星」只有兩到三個：RLHF（最佳化人類偏好與指令遵循）及 RLVR（最佳化基準可驗證推理）。TypeSafe 正在提出第三種，其內部稱為 RLCD，旨在以程式化的可靠性為導向，而非討好人類評分員或解決可驗證的謎題。值得注意的是，該公司尚未發表描述這項技術的論文。Diogo 也藉由這次專訪解釋了他為何認為 RLHF 調校的聊天機器人結構上容易出現逢迎（sycophancy）、過度自信與幻覺——他將此描述為「模式丟棄」（mode dropping）的後果，此時模型會變得過度自信以避免因對沖（hedging）而受懲罰，進而扭曲其底層機率分佈。他將此與楊立昆（Yann LeCun）著名的批評連結起來——即自迴歸模型注定會在長序列中累積錯誤——他稱楊立昆是 AI 領域中「最準確的」思想家之一，但主張其機制是來自 RLHF 的校準崩潰，而非逐字元生成的固有缺陷。
對業界「放慢前沿腳步」的安全共識抱持懷疑
當被問及前沿實驗室之間日益達成共識、基於安全理由應放慢 AI 能力進展時，Diogo 提出了尖銳的反駁，主張這種框架假設了每個實驗室都必須持續擴大 RLVR 規模才能保持競爭力——他拒絕將這項假設套用在 TypeSafe 自己的模型系列上。「我顯然不認為我們的模型需要做更多 RLVR，」他說。「我認為對我們的形態而言，零是最佳數量。」他將業界的步伐辯論形容為「某種手法上的障眼法」，暗示那些在訓練期間賦予模型廣泛、無拘束自主權以將能力最大化的人，正是稍後以所得風險作為協調放慢腳步之正當理由的人，卻不承認還有其他模型設計的存在。他另外指出，在不細說細節的情況下，其中一些安全對話是由與即將到來的選舉相關的政治考量所塑造，而非純粹的技術風險評估。
多模型架構可能重塑程式碼代理
Diogo 指出程式碼代理（coding agent）市場——目前由 Anthropic 的 Claude Code 與 OpenAI 的 Codex 領導——是 TypeSafe 的方法可能具有顛覆性的一個領域。他注意到這兩個領先產品都是圍繞著單一基礎模型建構架構，這在所有提供者都提供大致相當的能力形態的環境中是有道理的。他主張，許多獨立的開放程式碼代理專案現在正整合 Jev，並競相尋找單模型架構無法輕易複製的差異化使用案例。另外，Diogo 討論了一份即將發布的內部文件——擴充了他先前所寫題為〈KV 快取掌控我周遭的一切〉（KV Cache Rules Everything Around Me）的文章——主張當今的程式碼代理在架構上受限於對單一模型金鑰-數值快取（key-value cache）的依賴，這將代理鎖死在單一模型中，阻礙了適當的軟體分解，並使子代理任務委派、上下文壓縮以及多代理狀態共享變得複雜。他說，將代理從該限制中解放出來，可以釋放出截然不同、更便宜且更模組化的代理設計。
產品路線圖：無決定性、無微調（目前暫無）、可能的模型分級
p>在具體的產品設計選擇上，Diogo 確認 Jev 不支援決定性輸出（相同的輸入無法保證相同的輸出），並主張「強健性」（robustness）——相似的輸入產生相似的輸出——是更重要的屬性，而決定性會直接犧牲該公司核心的性價比最佳化。他為未來若客戶需求證明該權衡合理時，提供決定性變體保留了可能性。目前也不提供微調功能，Diogo 對此原因做了明確說明，指出 OpenAI、Anthropic 和 Google 在發現微調功能帶來的負擔大於好處後，都已經撤回了微調功能：「這可能只是一把對準自己腳開槍的槍（foot gun），」他說，不過隨著公司對需求的理解日趨成熟，他並未排除未來重新審視微調或提供多種模型尺寸的可能性。他也透露，TypeSafe 刻意避免在客戶數據上進行訓練，儘管他們可能可以取得這樣做的權利，因為他們希望避免模型過度擬合（overfitting）當今的使用案例，而犧牲了未來更難以想像的應用。在商業使用案例方面，Diogo 指出「暗數據」（dark data）——過去透過 LLM 執行成本過高的大型企業數據集——以及程式碼代理是該公司近期的兩個最大營收驅動力，而即時應用（特別是延遲直接影響轉換率的電子商務）以及企業可觀測性與驗證工作負載則為次要類別。他坦言，多跳推理（multi-hop reasoning）相較於單跳任務仍然是個弱點，而某些展示過的能力（包括完整的電腦與語音控制）尚未達到足以用於生產環境的可靠性，且這些能力某程度上是從開發者那裡意外湧現，而非來自公司自身的路線圖。
從 OpenAI 的 RLHF 團隊到為期兩年的隱匿打造
Diogo 表示，創立 TypeSafe 的想法是在 OpenAI從事 InstructGPT 工作時成形的。當時他確信，指令遵循聊天產品雖然在商業上取得成功，但卻是底層技術一條狹隘且最終受限的應用——這種應用主要在 AI 生成的行銷文案等類別中產生價值。他表示曾在 OpenAI 內部提出這個想法，包含直接向 Sam Altman 提出，但最終得出結論，新創公司的行動速度可以比持續在內部推進更快。他也透露，最初版本的 InstructGPT 是使用他自己建立且未發布的自訂演算法訓練的，因為標準的近端策略最佳化（PPO）太慢，無法清理底層偏好數據——這個細節在公眾間並廣為人知。針對前沿研究員創辦的新 AI 實驗室浪潮，Diogo 提出了異常嚴厲的評論，表示「多數新實驗室都是爛貨（crap）」，並且許多實驗室缺乏清晰的技術北極星，他主張缺乏明確有用任務的純粹研究血統很少能創造價值。