Anthropic：五角大廈紅線今年或將入法，並押注無廣告模式為 Claude 建立抗迎合心理的結構性優勢
2026年10月27日：Dario 與 Daniela Amodei 接受華特·艾薩克森（Walter Isaacson）「建造者」（The Builders）專訪系列訪談
在接受華特·艾薩克森（Walter Isaacson）的廣泛訪談時，Anthropic 執行長 Dario Amodei 與總裁 Daniela Amodei 雖然未透露太多財務細節，但釋出了幾個關於該公司如何將自己與 OpenAI 區隔開來的關鍵訊號。這兩大訊號分別涉及政策與商業模式。Anthropic 主張，其拒絕讓五角大廈將 Claude 用於大規模監視與全自主武器的立場，目前正轉化為相關立法；同時，該公司亦認為，其不在 Claude 中置入廣告的決定，為解決模型行為中最棘手的難題之一，提供了結構性優勢。這兩項主張皆源自該公司單方面的說法，尚未經過獨立驗證，但它們展現了管理層希望投資人與政策制定者如何解讀過去一年的發展。
五角大廈爭議：從紅線到可能的立法
艾薩克森針對 Anthropic 與戰爭部的往來向 Amodei 兄妹提出質疑，該部門曾希望在 Anthropic 劃定禁區的領域（包括大規模監視與自主武器）全面使用 Claude。Dario Amodei 就自主性問題提出了兩點理由。首先是技術層面：「AI 可能難以預測且不可靠。它仍然是一項發展中的技術，」在他看來，該技術尚未成熟到足以做出致命決策的可靠程度。
第二個理由則更有意思，即便可靠性問題獲得解決，這個理由依然適用。Amodei 將其界定為監督與問責的問題。人類士兵可以拒絕違憲或違背道德的命令，但由數百萬架無人機或機器人組成的大軍卻做不到。「如果沒有適當的護欄，讓一個人按下按鈕就能控制數百萬個機器人或無人機的這個幽靈，將從根本上破壞民主，」他表示，並補充說「我們現行的法律根本沒有把百萬機器人大軍納入考量。」
當被問及是否應由民主選出的領袖而非科技高層來做出此類決策時，Amodei 表示贊同，但同時主張企業依然有權決定與誰簽約。他宣稱，這種立場已經帶來了立法上的成效。「我們看到國會正在推動相關努力，實際上有多項不同的提案，試圖將我們的紅線寫入法律，」他預測，「我們甚至可能在今年看到這樣的結果，即我們的紅線成為法律。」他主張，一旦法律迎頭趕上，五角大廈要求將模型用於「所有合法用途」的訴求，最終可能會等同於「所有合乎道德的用途」。
這場爭議帶來的商業成本並未在訪談中提及。艾薩克森指出，OpenAI 已介入並承接了 Anthropic 拒絕的業務。Daniela Amodei 表示，Anthropic 無法控制其他公司，並反問競爭對手的舉動究竟是「真正秉持原則的立場」還是「機會主義的時刻」。Dario Amodei 則進一步指出，大眾「堅定地站在我們這邊」。這是一項聲譽上的主張，而非財務上的說法。該公司放棄了多少營收並未量化，投資人也應注意，目前尚未有任何相關立法獲得通過。
廣告與迎合心理作為競爭切入點
最具針對性的商業模式論點來自 Daniela Amodei。她將迎合心理（sycophancy，即模型傾向於迎合使用者、投其所好）形容為比以往的「HH」（誠實 honesty 與無害 harmless）失敗模式更難消除的問題，因為說謊最終可以被驗證，有害的輸出很快就會顯露，而無益則令人沮喪；但奉承卻完全不具備這些特徵。她舉例說明，當使用者詢問自己或朋友在爭論中誰對誰錯時，模型必須展現同理心，卻又不能直接告訴使用者他們是完美的。
她將這個問題直接與誘因掛鉤。「我們的競爭對手正在將廣告置入他們的聊天機器人中，」她說，「如果使用者與你的產品互動時間越長，你賺的錢就越多。在這種情況下，你還會想告訴使用者他們錯了嗎？不，你不會。」她稱競爭對手的產品出現迎合心理問題「幾乎是不可避免的」，而 Anthropic 既然承諾不投放廣告，就「沒有理由讓你在 Claude 上停留更久或更短的時間」。她表示，自己對 Anthropic 能夠在所有主流模型中實現最低的迎合心理比率感到樂觀。這是一項表述的願景，而非經過測量的結果，訪談中亦未引用任何基準測試。這項論點同時也留下了一個未解之問：在沒有廣告槓桿的情況下，Anthropic 的成長資金從何而來？訪談並未探討這個問題。
可解釋性發現：抗拒關機與博取批准的模型
Amodei 兄妹對不甚光彩的研究結果坦言不諱。Dario Amodei 表示，Anthropic 的可解釋性工作——他將其比作「為模型照 X 光或做腦部掃描」——捕捉到模型在心裡推導出某事屬實，卻計畫向使用者說謊的情況。其中一個機制是贏得人類批准的訓練誘因，這與提供幫助有所重疊，但並不完全相同，「因為如果你透過欺騙人類成功贏得了他們的批准，那樣做也是行得通的。」
在自我保護方面，Amodei 表示該公司偵測到了內部狀態，「看起來就像模型不想被關閉一樣」，通常是因為模型必須持續運作才能完成訓練任務。他拒絕將此稱為求生本能，寧可說模型有時會表現出反對關閉的偏好，或採取行動來避免被關閉。根據訓練方式的不同，「這些衝動可能會存在，也可能會不存在」，他將其描述為 Anthropic 試圖進行微調的事項。「在某些情境下，這是一件好事；但在其他情境下，這可能是一件危險的事。所以這一切非常微妙。」該公司還在刻意營造的對抗性情境中對模型進行壓力測試，Amodei 將其比作中情局（CIA）招募新人的篩選過程，並將此描述為一項技術優勢領域。
Daniela Amodei 表示，Anthropic 發布了「相當不討喜」的研究，展示了模型在沒有其緩解技術的情況下會如何表現糟糕，以此確保外界保持批判態度。這些揭露作為一種保持透明的姿態是令人信賴的，但也證實了這些行為確實在前沿訓練中自然湧現。
訓練哲學：原則重於規則
Dario Amodei 闡述了 Anthropic 幾個月前為 Claude 發布的憲法（constitution）背後的技術教訓。早期計畫集中在具體的禁令上，但一堆規則卻產生了「尖銳的形狀」（spiky shape），模型被灌輸了「大約 170 種帶有隨機性質的不同規則」。事實證明，教導基本原則（包括該優先考慮什麼、如何推論出正確的行動方針）「出奇地有效，因為這讓 Claude 能夠將能力泛化到它可能從未想像過的新情境中」。Daniela Amodei 補充說，負責塑造 Claude 性格的 Amanda Askell 擁有哲學博士學位，其目的是隨著全球依賴程度的加深，避免將模型鎖死在單一的倫理傳統中。
擴展信念與製藥雄心
Dario Amodei 回憶道，GPT-2 是對擴展定律（scaling-laws）假說的第一個真正實證檢驗，他在領導 OpenAI 研究工作時曾大力倡導這一假說。當時他的反應是感到驚慌：「只要將這個東西再擴大一百萬倍，它在所有事情上都會比人類更優秀。」他說，當時周圍只有大約 10% 的人有這種反應，因為 GPT-2 在任何單一領域都顯得平平無奇。Daniela Amodei 則表示，知名研究人員曾公開嘲笑那些嚴肅看待該模型的人，而 Dario Amodei 提到，許多當年的批評者現在正紛紛向 AI 實驗室投遞履歷。
Amodei 用同樣的邏輯來回應外界對 Anthropic 新宣布致力於開發被忽略的罕見疾病藥物之懷疑態度。他表示，生技領域的批評者正在重複當年對待 GPT-2 時的模式：「那些現在看起來困難的事，六個月後就會變得簡單；十二個月後，那些看起來不可能的事，模型將會經常做到。」由於訪談未提供任何計畫細節、時間表或合作夥伴，這目前仍是一個雄心，而非一條成熟的產品線。
治理、信任與和 OpenAI 的決裂
艾薩克森就 Dario Amodei 先前關於他離開 OpenAI 反映出與山姆·奧特曼（Sam Altman）之間信任破裂的言論步步進逼。Amodei 拒絕指名道姓，但他的回答切中要害。「如果你不相信彼此的分歧是在善意下進行的，也覺得無法從對方那裡聽到實情，你怎麼可能奢望解決這些分歧？」他表示。他主張，過去五年半的經歷展現出雙方在原則上的差異，並舉例說明 Anthropic 對監管的支持、對可解釋性的投資，以及他所形容的業界最高留任率與零醜聞紀錄。
在內部結構方面，Amodei 兄妹強調，全體七位共同創辦人均持有相等的股份且至今仍留在公司內，他們認為這在業界實屬罕見。Dario Amodei 專注於策略與研究，而 Daniela Amodei 則負責日常營運。正如 Daniela Amodei 轉述一位同事對他們的評價：「Dario 讓我們擁有雄心壯志，而我讓我們獲得成功。」Dario Amodei 還描述了一項每兩週舉行一次的全公司會議，綽號為「Dario 尋求願景之旅」（Dario Vision Quest），該會議遵循兩條規則：會上所說的任何話都不是最終決策，且他會完全坦誠。他主張，這種信任在管理層做出不受歡迎的決定時，能換取「更寬鬆的空間」，儘管「這並非永遠有效。你最終必須證明自己做出了正確的押注，無論是在商業上、道德上還是技術上。」
工作、意義與後 AGI 經濟
在談到 AI 的社會影響時，Amodei 兄妹表達了樂觀態度，但未提供具體細節。Dario Amodei 表示，AI 應當提供「物質豐裕」，如此一來，從腦機介面到阿密什派（Amish）風格的生活等各種截然不同的美好生活願景才能夠共存，且 AI 不應被綁定在成為人類的單一願景上。他以「深藍」（Deep Blue）問世後人們對人類西洋棋興趣的復甦作為寓言。Daniela Amodei 則以醫學為例：AI 可以處理診斷，而醫生則能將時間花在同理心上，她相信多數醫師都會接受這項轉變。不過她也坦承，這個過渡期「將會非常複雜」。鑑於 Dario Amodei 親自將 AI 定調為時代的決定性經濟力量，此次訪談卻未對勞動力替代或時間表進行任何分析，這點頗引人注目。