Anthropic 訪談逐字稿：技術主管預測 AGI 將在未來幾年內實現，且智慧將帶來指數級回報
2026年 8 月，American Optimist 納巴（Napa）對談，與會者為 Nick Marwell 與 Schult Douglas
節目開場
主持人：能力達到或超越全人類的模型，極有可能在未來幾年內出現。每一單位的邊際智慧，其價值都呈指數級大於前一單位。你可以持續提升、甚至使人類的生產性智力與實體產能倍效成長，透過這種方式真正邁入豐裕世界（post-scarcity world）。
主持人：各位正處於 AI 發展的最前沿。目前你們正在進行哪些最令人興奮的工作？
Nick Marwell：AI 將成為生命科學領域最重要的技術，這絕對是我們有生之年、甚至是有史以來最重要的技術。但它也伴隨著巨大的風險。
Schult Douglas：在我們能夠阻止有心人士造成重大破壞之前，不應該將這些技術釋放到世界上。
主持人：我所知道的一些比較持懷疑態度的科技領袖則認為：「噢，Dario 其實是在試圖嚇唬大家，好建立更多規則來放慢發展速度。」
Schult Douglas：到目前為止，我們放慢自己腳步的程度，遠超過其他任何人。
主持人：有沒有任何情況下，你們會選擇放慢美國的腳步，而讓中國領先？
Schult Douglas：身為執行長兼共同創辦人……我現在人在這裡。
主持人：Nick Marwell 與 Schult Douglas 是 Anthropic 的核心技術主管，而 Anthropic 正是全球成長最快的 AI 公司。儘管我們身為文明正面臨一些極其嚴重的威脅，他們兩人對未來仍然充滿樂觀。這些威脅究竟是什麼？我們該如何看待生物、網路及其他關鍵領域中的攻防動態？有些人對 Anthropic 的法規擄獲（regulatory capture）感到相當憤怒，他們對此有何看法？Anthropic 究竟在嘗試做什麼？他們如何看待與中國蒸餾技術（distillation）的對抗？如果每個人都能複製他們的模型，Anthropic 怎麼可能還能擁有幾兆美元的價值？再者，如果你是職場上的年輕人，正試圖建立自己的職涯，卻又不在 AI 的核心圈子裡，接下來的 10 年你該怎麼做？這是一場在迷人時刻中，針對全球發展最快公司之一的樂觀內部視角。很高興能邀請各位聆聽他們的分享。
自學機器學習與通往 Anthropic 的獨特道路
主持人：歡迎來到 American Optimist。非常高興今天能邀請到兩位來自 Anthropic 的傑出人才。Nick，你是核心技術團隊成員，協助帶領 RL 科學，也就是強化學習（reinforcement learning）科學；而 Schult Douglas 也是強化學習的技術主管，是這樣嗎？
Schult Douglas：是的。
主持人：兩位加入 Anthropic 多久了？
Nick Marwell：我剛滿 3 年。
主持人：不過這家公司成立才多久？
Schult Douglas：大概 5 年左右。
主持人：對啊，這真的很驚人。它就像是當今世上最重要、規模最大、成長最快的公司之一，而且竟然才成立 5 年。所以這在加州是個令人振奮的時期。我們今天在納巴進行拍攝，謝謝兩位來到這裡。
Nick Marwell：謝謝你邀請我們，這一定會很有趣。
Schult Douglas：謝謝邀請我們。
主持人：我們先從兩位的背景聊起。Schult，你在哪裡長大的？你是哪裡人？
Schult Douglas：我在雪梨長大。大約在 2020 年時，透過閱讀許多部落格文章和論文，我深信規模化（scaling）以及整體趨勢讓我們正走在於 2020 年代實現 AGI 的軌道上。我利用晚間和週末的時間非常努力地證明，自己能夠達到 DeepMind、Anthropic、OpenAI 這類公司所要求的品質標準。
主持人：你以前學過電腦科學嗎？
Schult Douglas：我大學主修機器人學。我在 2019 年畢業，之後基本上就是自己做研究，最後在 DeepMind 工作了 2 年，並在 Anthropic 待了過去 18 個月。
主持人：太棒了。Nick，你又是哪裡人？
Nick Marwell：對，我其實原本就來自舊金山，這在現在從事 AI 的人當中似乎很少見。我在一個家庭中長大，尤其是我的父親，他職業生涯的前半段從事非常傳統的商業活動，但在人生後半段以及我較為成形的成長歲月中，他找到了一條有趣的道路——花時間去思考如何回饋社會。具體來說，就是思考如何利用科技來回饋社會。
Nick Marwell：當我思考自己想做什麼時，我一直在尋找能讓我同時獲得這兩種經驗的事物：一方面培養成為一個有效率的資本家（或無論你怎麼稱呼它）所需的技能，另一方面又能利用這些技能創造社會公益。我覺得 Anthropic 就像是一個非常完美的巧合，當時我對 AI 安全性感到非常擔憂。事實上，我當時是 Thrive Capital 的駐點人員，正致力於一家截然不同的公司，而 Anthropic 就這樣憑空出現，當時我就覺得：這就是我要去做的東西。
你們正在進行哪些最令人興奮的工作？
主持人：太神奇了。自從兩位加入以來，Anthropic 似乎已經成為規模最大的 AI 公司。你們雖然沒有官方發布數據，但有很多消息外洩。對於聽眾朋友來說，根據外洩的資訊，時間來到 2026 年 8 月的現在……
Nick Marwell：我保持面無表情。
Schult Douglas：非常平靜。
Nick Marwell：非常平靜，毫無反應。
主持人：據說你們的年化營收（run rate）已超過 800 億美元，成長速度極快，領先 OpenAI，領先所有人。兩位正處於 AI 發展的最前沿，內部目前正在進行哪些最興奮、可以跟我們透露的工作？站在這種尖端浪潮上是什麼感覺？
Schult Douglas：嗯，我覺得我可以談很多關於程式設計體驗是如何改變的，因為這是我們感受到進展最直觀的方式。18 個月前，我基本上還要親手敲出每一行程式碼。後來，加入 Anthropic 幾個月後，我開始引導模型。每隔幾分鐘我得介入一次，告訴它我希望它做什麼、寫出下一個函式之類的，但我必須每隔幾分鐘就去檢查一次，因為它會犯錯、會偏離軌道之類的。
Schult Douglas：而我們現在的境界是，我可以要求模型獨立完成一到兩天的工作，並像個初階團隊成員一樣推動進展。這僅僅是過去 18 個月發生的事。我們已經從一個必須留在迴圈（in the loop）中的工具，轉變成一個非常像初階團隊成員的存在。
主持人：所以，就在我們現在談話的同時，它們就是初階團隊成員，AI 正在為你們努力工作？
Schult Douglas：對，沒錯。有一群它們正在努力工作。
主持人：如果可以透露的話，它們都在忙些什麼？有沒有什麼比較高階的概念可以告訴我們？
Schult Douglas：就是和這些團隊成員一起做一堆 RL 科學的東西。
Nick Marwell：太棒了。我來給出一個稍微不同的答案。我認為到目前為止，許多模型開發的重點，實際上都在於讓模型能夠執行人類本來就相當擅長且有能力勝任的任務。我們真正試圖做到的是，提供額外的槓桿作用，來處理人類本來就具備認知能力去達成的事，對吧？像是建立一個人類開發者團隊在相同時間內也能建構出來的軟體。
Nick Marwell：我想你現在開始看到的是——比方說最近在數學領域的一些成果就是很好的例子——人們正試圖找出如何利用模型來突破人類智慧與人類成就的邊界。
主持人：這就像是最近的一些數學成果嗎？
Nick Marwell：對，最近出現了許多新的數學證明，這些都是人類長期以來感興趣、卻一直無法解決的問題。
主持人：其中有些成果，看起來就像是某個非常聰明的數學家意識到電腦夠強大，可以用暴力破解法（brute force）完成人類無法暴力破解的事情。你明白我的意思嗎？有些成果似乎仍然擅長人類正在使用的特定領域，或者它們真的觸及了全新的理論？你是怎麼看的？
Nick Marwell：我不認為——至少目前還不認為——這是一種模型想出了人類根本無法想出來的點子。但我其實認為，在許多方面，進步或智慧成就很少是這個樣子的。當然有例外，但我認為社會所取得的大多數成就，實際上都只是關於串聯各個點子，並在前人先前智力成就的基礎上進行建構。
Nick Marwell：而你剛才描述的情況，像是把不同人提出的兩種點子結合在一起以發現新事物，這正是人類所做之事的基礎。現在不同之處在於，它確實是在結合新點子，或是透過組合過去未曾發生的其他人類點子來形成新點子。相較之下，編寫另一個網頁應用程式（web app）其實算不上是人類的新智力成就。
我們是否已達成 AGI——接下來會怎樣？
主持人：我們從未見過矽谷有公司以這種速度規模化。我想再強調一次，不是 10 倍、10 倍、10 倍，而是成長速度顯然極快。昨晚在納巴，我待在另一家我擔任董事的公司，感覺每 60 到 90 天就會誕生一家新公司。有太多事情正在發生，對吧？我想這也是我們許多人的切身感受。你們正處於成長最快公司的核心。與你們之前的生活相比，這有何感受？我們接下來要走向何方？它會繼續加速嗎？我們該如何看待這一切？
Schult Douglas：關於 Anthropic，有一件事讓我覺得很棒，那就是我們的企圖心現在能夠隨著公司的加速發展而擴大。18 個月前，我們確實感覺必須瘋狂地專注於程式碼，並真正證明我們能在某個領域做到世界第一。而現在，公司的使命遠比製作擅長程式碼的模型要宏大得多。隨著公司規模擴大、營收規模擴大，它讓我們真正開始將各種拼圖組合起來，去推動更多這類目標。
主持人：我們多談談這個使命。本週稍早我和另一位在 AI 領域資深的朋友聊過，據我了解，他提到首先你必須成為程式碼和數學領域的頂尖高手，但接下來還會有一些新領域，你要成為這些領域的 A++ 級高手。這就是概念嗎，引入大量的新技能？從這裡開始的使命是什麼？
Schult Douglas：嗯，從這裡開始的使命始終如一：我們認為 AGI 確實能在未來幾年內實現。
主持人：請向我們的聽眾解釋你們這句話的意思。
Schult Douglas：我們認為，能力達到或超越全人類的模型極有可能在未來幾年內出現。也就是說，它能做人類在電腦上能做的一切事情；或者一旦我們獲得足夠先進的機器人技術，它就能做人類在實體世界中能做的一切事情。
主持人：所以它會比我更擅長主持Podcast？我可以把機器人直接叫上來代班？
Schult Douglas：嗯，Podcast這件事嘛……
主持人：我們去葡萄園吧，那裡更有趣。
Schult Douglas：沒錯。而且我們認為這會帶來巨大的正面效益，對吧？這將使你能夠將現今世界上完成的智力勞動與體力勞動進行倍增。這將讓人類可能提前非常、非常多，就取得數個世紀的進展。
如何衡量 AI 進展
Schult Douglas：但這也伴隨著巨大的風險，因此公司的真正目標是帶領世界度過這些風險，好讓我們能在另一端收穫正面效益。
主持人：我們退一步來看整體的 AI 浪潮，以及我們目前處於這波浪潮的什麼位置。顯然，你提到在 2020 年時，你意識到 AGI 將成為可能。我想那差不多就是 OpenAI 推出 GPT-3 的時候。我翻閱了一些舊郵件，因為我們目前正在編纂一本 10 年期的 ADC 書籍，我甚至在 2020 年還開玩笑說我們將如何取代所有的分析師（associates）。所以當時這種氛圍已經在醞釀中，覺得「好吧，這開始變得很有可能了」。
主持人：今年稍早與 Dario 對談時，根據某些指標，某些能力每幾個月就會倍增一次。我們該如何將進展量化？你談到你可以直接使用 AI 來代替初階員工。從指標的角度來看，有沒有其他方法可以思考未來幾年它會變得有多好？
Schult Douglas：對，我覺得有很多評測（evals），這些基本上就是人們用來測試模型的考試。在這些測試中，進展極其迅速。一個很好的例子是——我不想過度依賴數學作為例子，但在某些方面數學或許是最好的例子——在一套由不同領域教授所組合的問題上，我們在一年的時間裡，正確率從 0% 大幅躍升到遠超 40%、50%、60%。這項評測稱為 FrontierMath。
主持人：你需要一些可證偽（falsifiable）的東西，對吧？你需要可以疊代推進的東西。那麼，你能讓它跟 Instagram 上的女生對話，並獲得一定的成功機率，讓她想跟你約會嗎？
Schult Douglas：沒錯。我是說，提出這種要求、並對此進行訓練，這還蠻單純的，對吧？
主持人：順便一提，我結婚了，這不是為我自己問的。
Schult Douglas：我們還沒有針對這個進行訓練。但這就是個例子。
主持人：其他這類的事情，對於我們在舊金山的某些朋友來說可能非常有用。
Schult Douglas：模型進步有兩種方式，對吧？其中之一是透過對來自網際網路的大量文字語料庫進行訓練。第二種形式是強化學習——也就是我們兩人在做的事——也就是透過做這些練習題，並檢查你是否得到了正確答案。這就是你剛才提到的，對於數學和電腦科學來說非常容易做到，但對於羅曼蒂克、詩歌或其他事情來說就相當困難，對吧？
主持人：對。
Schult Douglas：這就是為什麼你會看到數學和電腦科學的進步速度遠遠快於其他一切。但我們其實認為，把其他問題放進這個框架中並沒那麼難。
Nick Marwell：對。其實從某些方面來說，數學和電腦科學會率先取得突破，背後是有技術性解釋的。我也認為在某种程度上，這背後有一個社會學的解釋：那就是你找來了一群主要背景是數學和電腦科學的人，要求他們創造出智慧，於是他們理所當然地決定，他們想首先在自己理解的領域中創造智慧，因為這既是他們最感興趣的領域，也因為這樣做簡單得多。
Nick Marwell：當你試圖訓練出優秀的模型時，你會驚訝地發現自己花了我多少時間去閱讀模型正在做的事，並試圖藉此理解它變得有多能幹、你可能需要把焦點放在哪些類型的領域、它需要在哪些方面改進。對於那些你是專家、你完全理解狀況的領域來說，要做到這一點要容易得多。
主持人：你在思考時會將它擬人化（anthropomorphize）嗎？
Nick Marwell：我個人覺得我不會。我想有些人可能會，而且我確信 Anthropic 裡確實有一些這樣的人。
主持人：我們的大腦似乎就是這樣被程式化設定的，大腦中有整塊區域專門用來思考我們正在看著的人，並在與他們交談時，映射出我們認為他們所感受到的情緒。所以我們透過演化內建了所有這些機制，將一種智慧體視為另一種智慧體來對待。當你每天都在從事這項工作時，似乎很難避免這樣做。
Schult Douglas：這或許是關於人們如何將這些事物框架化為「工具」或「實體（entity）」的較大辯論之一。我真的認為「實體」是一個很有用的框架，因為如果是工具，你是一直在主動使用它；而對於這些模型，你真正做的是把這個非常聰明的事物拿來，在某些方面將其實際釋放到世界中，讓它代表你採取行動。出於這個原因，把這些視為一個實體通常更有用。
生物學是下一個偉大的前沿嗎？
主持人：有沒有哪些類別或領域是我們應該讓這種智慧去處理，但目前還沒有的？有沒有哪些領域是你們感到興奮或正在努力，準備在這些其他領域更多地使用它的？那些領域是什麼？我覺得最大的一個領域就是生物學，對吧？
Nick Marwell：對。我想這取決於你問的問題是關於「模型已經很擅長、但我們覺得被低估的技能是什麼」，還是「我們對模型未來發展最興奮的領域在哪裡」。對於後一個問題，我們可以更深入探討為什麼生物學是我在未來大約 6 到 24 個月內最感到興奮的領域——就我認為模型將真正開始在軟體工程領域之外產生影響的方式而言，不僅僅是在於它們會被廣泛採用，而是由此產生的社會正面效益將會非常普及、非常強大。
主持人：治癒疾病、讓我們所有人都更健康、以及長壽。似乎所有關於表觀遺傳學（epigenetics）的奇特事物都與長壽息息相關，而我們是透過 20 年前開始的諾貝爾獎才漸漸發現這些，現在我們所有的朋友在灣區都有自己的公司。有數十億美元正試圖弄清楚如何觸發這些機制，以及如何讓身體的某些部位變得更年輕之類的。所以你認為 AI 對於推動這項進展至關重要嗎？
Nick Marwell：我認為 AI 將成為生命科學領域最重要的技術，這絕對是我們有生之年、甚至是有史以來最重要的技術。事實上，我有這樣的信心：比起 AI 是否能成為一個有用的智力工具，我甚至更擔心我們是否擁有利用這一點所需的實體與實驗室基礎設施。
Nick Marwell：3 年前我們可能就應該建造更多算力，舉例來說。我們談論這個話題太多了。現在是不是有人應該為你們的使用創造更多實驗室空間之類的？
Nick Marwell：我想是的。而且我認為這在幾個軸線上都非常重要。其中一個重要的軸線字面意思就是你有多少實驗室空間。但我認為，圍繞美國現有實驗室品質的許多指標，也明顯落後於中國等地。這絕對是社會基礎設施的重大專案之一，人們應該思考如何去解決它——也就是如何讓美國的供應鏈與實驗室複合體恢復到世界頂級的金字塔標準。
Schult Douglas：這將成為生物學進展的速率限制器（rate limiter）。
Nick Marwell：對。
主持人：好的，那 Podcast 結束後我們就去解決這個問題聽起來是個好主意。從國防部那裡拿點資金來搞供應鏈，然後建幾間實驗室。
職涯建議與通才的十年
主持人：稍微退一步來看我們目前處於這波浪潮的什麼位置，如果你是剛畢業的大學生或是職場工作者，你不在 Anthropic，不在矽谷的核心，你可能是一個聰明且有企圖心的人。鑑於你們接下來幾年將發生的事，你該如何思考自己的職涯？
Nick Marwell：我覺得我們最終可能會走向幾種不同的情境。Anthropic 有責任談論它帶給世界的風險，其中之一就是我們其實對失業問題相當擔憂。但我確實認為，這項技術可能需要足夠長的時間才能普及到全世界，因此在許多情境下，你會有一個長達 10 年或 20 年的時期，這段期間其實有大量的機會參與這項技術的普及，並以此定義你的職涯。
Nick Marwell：我跟一些人——我有一個弟弟目前正在上大學，也正在思考這個確切的問題——說過一件事：如果我們處於這樣的情境，我認為下一個十年在許多方面將屬於通才（generalists）。過去 20 或 50 年中，你之所以能擁有美好的職涯，很大程度上是因為你掌握了一組非常有價值且極具市場價值的技能，而且依賴其他人非常容易。
Nick Marwell：現在，每個人背後都擁有一家擁有千名員工的公司的力量。這真正意味著，那些最能理解「有哪些問題需要出去解決」、「有哪些事情能讓我的社區變得更好」（無論是從商業角度、社會公益角度等）的人，將擁有實現這些變革所需的所有工具。因此，問題選擇（problem selection）之類的事情將成為決定性的技能。
主持人：你說「有哪些問題需要解決？我該如何讓我的社區變得更好？」我對世界觀的基本背景之一，身為猶太人，是你每週有六天必須修補世界（repair the world），然後假裝你在安息日（休息日）完成了，我想我們許多主要宗教都有類似的說法。我的樂觀之處在於，我們身邊的人、我們的社區周圍，總會有些事情需要我們去修補、協助和修復。除非你相信我們將進入烏托邦，否則總會有事情需要人們去做，對吧？我覺得這是一個樂觀的框架。
Nick Marwell：完全同意，是的。
Schult Douglas：對，在我們和烏托邦之間還有大量的工作要做。
主持人：沒錯。該宗教整個根本的含意就是，在米賽亞（Messiah）到來之前，這裡永遠不會是烏托邦，因此你必須不斷修復事物，對吧？這是一件正面的事。
可能會出什麼錯？最大的 AI 風險是什麼？
主持人：我知道兩位都是樂觀主義者，而且有很多正面的事情。但我首先想深入探討一些擔憂，因為這是許多人感到非常好奇的地方。顯然在沿海地區，我想我們在社區周圍都看到了所有這些非常正面的事物。我們都有朋友以比以往任何時候都快的速度創辦公司。這是一種非常正面的能量，至少當我來到舊金山、去紐約，甚至我在德州奧斯汀做的事情時，我都有這種感覺。
主持人：但我認為全國其他許多地方都覺得他們的業務受到了威脅、生計受到了威脅。這很可怕。他們不知道你們會不會只是一群瘋狂的人，會用這個來征服一切之類的。大家遺漏了什麼？有沒有什麼你們擔心的合理糟糕路徑？他們擔心的糟糕路徑是錯的嗎？你們如何思考這個問題？
Schult Douglas：我覺得這些擔憂非常合理。我們擔憂的有幾個大類，但我們認為，如果我們在未來幾年採取正確的行動，所有這些擔憂都能讓我們在 2030 年代迎來一個根本上好得多的世界。
Schult Douglas：這些類別包括：我們已經提到過的一個大類就是失業，對吧？我們應該對此進行長時間的討論，探討為什麼我們認為這是一個風險，以及我們認為正確的做法是什麼。此外，還有更迫切的近期生物和網路風險，這些威脅 literalmente（確實）就像今年現在這樣正在發生。
主持人：那裡有各種討人厭的事情，人們會嘲笑 Anthropic，因為你不能問它關於細胞粒線體的問題，這是一個經典案例。而情況就像是，其實你大概應該被允許做這件事，只是或許不要去幫忙製造生物武器之類的。
Schult Douglas：你絕對應該被允許做這件事。但我們正在建立相應的基礎設施，好讓我們能確信沒有人能利用它們製造出生物武器。
Nick Marwell：對。像生物和網路這類事情令人難以置信的困難之處在於，它們本質上被稱為「軍民兩用（dual-use）」能力。網路安全是最容易理解的一個。如果我提示 Claude 說：「這裡有一段程式碼庫。請找出所有的漏洞。」我身為該程式碼庫的擁有者、試圖加固防禦的可能性，跟我是個試圖尋找入侵辦法的攻擊者，機率其實是一樣高的。
主持人：沒錯。
Nick Marwell：這正是從根本上讓網路安全——或是具有許多相同軍民兩用特徵的生物學——如此難以監管的原因。
主持人：你試圖針對細胞中的某個東西，而這有很高的機率——大概 99.9% 的機率——你是為了消滅它以治癒癌症之類的東西，但其中存在著微乎其微的機率，你是為了針對某種可怕的東西。
Nick Marwell：沒錯。所以我認為我們正在致力於多項旨在確保好人能夠使用這些技術、而壞人被拒之門外的措施。但我認為我們的普遍看法是，在我們能夠阻止壞人做出有害事情之前，不應該將這些技術釋放到世界上。
主持人：確實有人——甚至不是 Anthropic，我認為例如在非洲的恐怖組織正在使用來自中國的開源模型，來弄清楚如何更輕易地製造他們以前不知道怎麼製造的某些炸彈，而模型只是因為不夠聰明（註：原文指模型變得夠聰明能幫忙）而提供協助。有些可怕的用途。但與此同時，我的偏見是，總體而言隨著智慧的增加，更多人能夠理解這些可怕的用途，並利用這一點來阻止它們，對吧？這是一種權衡。
Schult Douglas：因此，這裡的一個重大動態是我們應該討論某個領域究竟是「進攻主導」還是「防守主導」。
主持人：對。
Schult Douglas：目前，網路安全和生物學都是進攻主導的，但我認為在未來 2 年內，網路安全將轉為防守主導。
主持人：特別是如果每個人都能使用智慧來自我駭客攻擊並建立防禦。
Schult Douglas：沒錯。因為你可以預先嘗試自我駭客攻擊、建立防禦、修補所有漏洞，然後最終我們將迎來一個網路安全得多的世界。
主持人：在那個世界裡，每個人都已經能夠使用智慧，他們弄清楚自己將如何被入侵。這就是我們現在提前在做的事。我想我的某個朋友曾協助入侵五角大廈和銀行的系統（當他們被要求這麼做並向對方展示時），但他們正在使用新型 AI，因為 AI 在這方面非常擅長，所以現在每個人都必須快速行動。
進攻對防守：技術如何演進
主持人：我們稍微退一步來看。進攻與防守的概念超級有趣，對吧？這在人類歷史上有幾千年了。它改變了很多。我非常喜歡過去在歐洲互相競爭的那些非常自由的城市邦（city-states），這是一件很好的事。如果一個城市邦做得不好，你可以去另一個。
主持人：但不幸的是，這些混蛋帶著大砲來了。他們可以輕易轟垮城牆，然後他們建立了這些龐大的帝國，你再也不能直接離開你的城市邦了，因為現在不管怎樣你都歸他們管。所以，在不同的時期，事物會在進攻與防守之間切換。
主持人：我同意，我認為網路安全現在超級偏向進攻主導，到了人們應該感到害怕的程度。任何在聽的聽眾，如果你們沒有站在尖端、使用 AI 來挑戰你們的系統，你們的系統很可能會被入侵，而且入侵者可能是個非常壞的人。所以現在這很可怕。我同意最終如果使用得當，網路安全可能會變得更偏向防守主導。
主持人：AI 存在一個問題。對我來說恐懼之一是，世界上是否存在某些隱藏的事物，它們就是超級偏向進攻主導的？舉個例子——雖然我不認為會這樣——如果你能用足夠的智慧製造出一個會自我複製的奈米機器人，它把整個世界都吃掉，然後一個天才製造了它，接著吃掉整個世界，然後我們就全都死光了。再說一次，我不認為這會發生，但我們必須確保我們正在利用智慧，以更快的速度找出任何超級偏向進攻主導的東西。
Schult Douglas：沒錯。事實上，在我們投入大量工作讓世界轉向防守主導之前，生物學就是超級進攻主導的。有些方法可以讓世界在應對生物威脅時轉為防守主導，但這需要數千億美元的基礎設施。在 2030 年代獲得極度先進的機器人技術來協助你建構這些之前，這樣做並非不合理。
主持人：從某種意義上說，這是一個非常可怕的時期，因為它目前是進攻主導的。我們希望把它變成防守主導。我想解決方案是確保這些東西不要太祕密，並且或許把它們展示出來。我的觀點是，你希望很多人使用智慧來挑戰一切，而不是只有單一群體在祕密中進行。
Schult Douglas：在這點上我們非常贊同。
回應法規擄獲的批評
主持人：Anthropic 普遍受到高度推崇。同時，就像任何公司一樣，我把它拿來跟 90 年代的微軟相比：當你成為霸主時，人們就會嫉妒並攻擊你。有時候這些攻擊是因為他們嫉妒、你擁有強大的氣場且正在主導市場，有時候某些指控也是合理的。我很多非常聰明的朋友都有這種印象，認為 Anthropic 正在試圖搞某種不是好事的法規擄獲策略。你們對此有何反應？
Nick Marwell：我覺得這裡大概有兩件事值得談談。第一是與正在進行的開源權重（open-weights）討論綁在一起的法規擄獲敘事之興起。第二則是，如果你真的想以一種極度自私的方式來搞法規擄獲，你會用 Anthropic 選擇的那種方式來做嗎？
Nick Marwell：關於第一點，如果你沒有深入了解細節，把事情解讀為「開源權重是一項我們想要保留的重要公共利益技術，它在某些方面與 Anthropic 業務的一部分天然對立，而 Anthropic 想要利用任何能用的法規來打壓那些開發開源權重的人（因為歷史上開源權重或開源社群規模較小、資金較少，難以應對法規系統）」，這並不是不合理的想法。
Nick Marwell：但我認為這並不是開源權重這裡正在發生的事。如果你看看那些推動、開發開源權重模型並提供這些模型服務的人，他們主要是世界上最龐大的企業。在美國，像是 Nvidia、亞馬遜（Amazon）和微軟（Microsoft）這些公司正在推動開源權重的邊界。甚至像是中國的實驗室，這些也是資金極其雄厚、而且現在越來越多是國有實驗室在推動的。所以這些公司即使擁有開源權重模型，也完全有能力應對法規環境。
Nick Marwell：因此，我並不特別擔心對開源和閉源模型進行某些法規監管，會以一種不成比例的方式拖慢開源權重開發者的後腿，卻不影響閉源權重的開發者。
Nick Marwell：我覺得這部分的另一層面更直接：如果你是以純粹為了讓自己佔優勢的方式來搞法規擄獲，我很難看出 Anthropic 會去做出它所選擇的那一整套事情。這其中有一個非常好的例子——可能還有其他例子，或許 Schult 心裡有別的想法——那就是 Fable 發生了什麼事。如果你想想 Fable，或是在此之前的 Mythos，從純粹的經濟動機角度來看，Anthropic 當時擁有一個遙遙領先、是世界上最好的模型。在那段時期，沒有人的模型能接近它。
Nick Marwell：而 Anthropic 基本上決定與政府合作，以政府感到舒適的方式將其推出，本來它完全可以選擇憑藉領先數月的模型優勢，徹底打消其他實驗室是否有能力與之競爭的疑慮。這對公司來說絕對是一個糟糕的經濟決策，但這符合我們對於模型應該如何部署與監管的價值觀。
Nick Marwell：所以這不是為了經濟利益而進行的法規擄獲策略。這是一種策略，我們認為政府在關鍵且可能危險的技術如何開發與部署方面，扮演著非常重要的角色。我們認為身處尖端的人，我們的責任是確保他們對此有所了解並參與這個過程，否則誰來代表所有人？
主持人：這也很有趣，因為顯然這個政府裡有相當多聰明人，但也有很多完全不知道自己在幹嘛的人。結果你會陷入一種愚蠢的情況，比方說——或許你不能說，但我可以說——據我所能理解的，Anthropic 原本可以擁有更多可用於防禦的網路能力，但為了讓政府放行，這些能力被閹割（nerfed）了，我覺得這是一個錯誤。
Schult Douglas：我認為他們正傾向於典型的美國公私協力夥伴關係（public-private partnership），這一直是我們歷史中非常重要的一部分。我們的建立方式並不是要求政府必須成為世界上對所有主題最具知識、最 компетентный（稱職）的機構。我們希望做到的是建立良好的公私協力夥伴關係，讓政府知道如何與 Anthropic、OpenAI、Meta 或其他任何機構互動，以理解並進一步決定如何監管。
主持人：而對於我認識的那些比較懷疑的科技領袖，他們說：「噢，好吧，Dario 試圖嚇唬所有人以制定更多規則來放慢速度，因為他將成為擁有該過程的主導者之一」，對他們的回應是什麼？
Schult Douglas：到目前為止，我們放慢自己腳步的程度遠超過其他任何人。事實上，如果你看一下關於 Demis 針對閉源模型提供者——OpenAI、DeepMind、Anthropic——進行協調以制定我們在發布模型前必須達到安全門檻的提議之討論，這正是我們出於自身原則而討論放慢自己的腳步。現在，我想順便釐清我們對開源的整體立場是什麼。
Anthropic 對開源的立場
主持人：實際上的立場是什麼？
Schult Douglas：就我們個人而言，我們非常支持開源。我們真心認為這對世界來說是一件非常好的事。我是透過開源模型學會做機器學習的，對吧？我們也相信這裡面存在許多風險，未來風險還會增加。所以我們的看法是，基本上應該為全社會覺得可以放心發布的內容設定門檻。如果一個模型能夠發動網路攻擊，你對哪種能力門檻感到放心？我們認為閉源和開源模型應該達到相同的標準。除此之外，人們應該可以做他們想做的事。
主持人：如果中國無論如何都會發布每個人都可以使用的隨機東西，那嘗試這樣做還有意義嗎？同樣地，我們因為恐懼而過度監管，而中國沒有，結果還是出了問題而且他們領先了，這種機率有多大？你們怎麼看？
Schult Douglas：理想的世界是我們能夠實際與中國合作，讓他們——我是說，他們也不希望自己的國家遭受網路攻擊。
主持人：不過我的印象是，他們確實想對我們發動網路攻擊。
你會放慢腳步並讓中國領先嗎？
Schult Douglas：也許他們不希望自己遭受網路攻擊吧。這倒也合理。理想的世界是我們能夠在這一點上與他們合作。但這很棘手，對吧？隨著 AI 能力持續狂飆，這將成為未來幾年最困難的部分之一。這會出於許多不同的原因——生物、網路、就業——而讓許多人感到非常不舒服。因此，你已經看到了阻力，例如停止資料集。
Schult Douglas：這就是那種極其棘手的辯論之一，除非你能與其他各方協調並信任其他各方會遵守約定，否則很難暫停。
主持人：不過中國是不會暫停的。所以有沒有任何情境下，你們會選擇放慢美國的腳步並讓中國領先？
Schult Douglas：我不認為我們能接受的任何情境會包含放慢美國的腳步並讓中國領先。
主持人：而這似乎是目前我們控制之下的唯一選項。
Schult Douglas：對。對於任何暫停的情境，都必須是完全協調的，好讓我們完全信任每一個對手方。基本上，我們絕不可能放慢美國的腳步。
Anthropic 對蒸餾（Distillation）的看法
主持人：與其他人的想法相比，你們出人意料地更支持開源。這是一件好事，它對你們的人生產生了正面的影響。其中一些開源的東西似乎來自於別人從你們那裡偷走，如果我是你們，我會覺得很煩。這叫做蒸餾。很多人說：「好吧，為什麼他們不透過用他們的 AI 變得非常聰明並監視一切來阻止它呢？」為什麼你們無法阻止蒸餾？你們對此有何感受？這方面正在發生什麼事？
Schult Douglas：嗯，一方面，蒸餾——這裡有幾件事要談。其中之一是：為什麼我們反對蒸餾？蒸餾是好是壞？另一則是：如果你覺得它壞，為什麼你無法阻止它？
Schult Douglas：我們把第二點先結束，也就是這其實是一場貓捉老鼠的遊戲，對吧？人們希望對他們的模型有很高的存取權限。他們希望能夠檢查輸出結果、希望能在本地電腦上執行、希望查看思考軌跡（thinking traces）。但你每多提供一點存取權限，蒸餾就變得更容易。因此，你的工具和產品可以有多開放，與它有多容易被蒸餾，兩者之間存在著這種張力。
Nick Marwell：然後關於第一點，也就是我們為什麼應該對蒸餾感到不高興，我通常的思考方式是這樣的：你希望 AI 取得向前進展，因為我們認為變得越來越聰明的模型將為世界帶來所有這些美好的事物。而蒸餾並不是一種能夠帶領你超越目前能力邊界的 Методы（方法）。
主持人：它只是在複製你們。
Nick Marwell：它是一個複製品。而其中的問題在於，要到達下一個前沿需要巨大的前期資本投資。別去管現在了，我們最終將進入涉及 100 億美元、1000 億美元、1 兆美元訓練運算的體制中。只有在你能夠透過出售你所投資的東西來賺錢時，你才能支持那種研發（R&D）投資。
Nick Marwell：問題在於，如果其他所有人都能以一小部分的成本拿走你的東西、複製它，並在一兩週內推出複製品，他們實際上會成為對你具有經濟優勢的競爭者，因為他們沒有這筆龐大的研發負擔。所以，如果你想要前沿的進展，你就必須保護這些訓練模型的 IP（智慧財產權）和權利。
Nick Marwell：人們經常把這比作藥物開發。我其實覺得 AI 非常有趣，因為防禦蒸餾能為你帶來許多我們在藥物開發中保護 IP 的好處，同時避免了一些壞處。有哪些好處？由於保護了 IP，我們在美國獲得了更多的藥物開發。
主持人：顯然，如果我無法從藥物開發中賺錢，我就無法投資它。
Nick Marwell：沒錯。有些壞處則是因此導致成本極高。AI 有趣的地方在於，不同於藥物開發中你能獲得長達十年或更長時間的保護——我想是 20 或 30 年——在 AI 領域，智慧是極度通貨緊縮的（deflationary），因為前沿的有效期限是以「月」來計算的。所以每隔 6 個月，沒錯，前沿會很昂貴，但前沿背後的一切——6 個月前覺得是前沿的東西——都會因為你把前沿推得更遠而變得極其廉價。這是訓練運作方式的一種產物。
Nick Marwell：所以在我們一直身處的體制中，它給了你很多好處，並且實際上避免了大部分壞處。你可以非常具體地從特定智慧水準的成本中看到這一點。你可以看看一堆評測儀表板；在 Artificial Analysis 上有一個展示這個確切趨勢線的儀表板：它的成本大約每年降低 10 倍。它年復一年地變便宜。這裡存在著一種不可思議的通貨緊縮程度，順便說一句，這是在沒有蒸餾的情況下發生的，僅僅是由於技術的自然進展。
主持人：當然。而且有人能夠複製，直覺上就是不公平的，如果大家都這麼做，整個系統就會崩潰。
Nick Marwell：對。
主持人：或許有個後續問題：這難道不是一個瘋狂的商業模式嗎？你的東西會被淘汰。在某些方面，絕對是在一年之內、甚至 6 個月內，前沿似乎必須不斷向前推進，你才能贏。
Schult Douglas：前沿確實感覺必須不斷向前推進，你才能贏。我認為這是我們整體世界觀中非常重要的一部分，也就是說，AI 實際上只滲透了全球經濟非常微小的一部分。AI 總營收在數十兆到數十兆美元的經濟體中，大約在 1000 億美元的北部。而這還是假設經濟不會因為這項技術而大幅成長的前提下——而我們預期經濟會大幅成長。
Schult Douglas：所以這裡存在著這個前沿。在許多方面，你可以認為剛好位於前沿背後的那一層——落後邊緣（lagging edge）——在許多方面被商品化了，但接著領先邊緣（leading edge）擁有甚至更大的價值。
Nick Marwell：領先邊緣擁有巨大得多的價值。我們經常將此稱為智慧的指數級經濟回報，也就是你能夠獲得的每一單位邊際智慧，其價值都呈指數級大於它之前的單位。我們已經看到這種情況發生了。如果你看看像寫程式這樣的事情，對人們有一點用處的第一個智慧單位是 Tab 自動補全（tab auto-completion）。接著你從這裡邁向下一單位邊際智慧，在你的終端機中透過 Claude Code 將代理式寫程式（agentic coding）變成現實。這是一種價值高達 10 萬倍的能力。
Nick Marwell：所以，儘管其背后的 Tab 自動補全被商品化了——你甚至無法在這一點基於 Tab 自動補全開一家公司——但接下來這些增量的智慧單位就是極其有價值。
Nick Marwell：幾年前當我思考 Anthropic 時，這對我來說非常不直觀，因為我作為一個生活在這個世界的人類，從我所經歷的一切事物中獲得的直覺是：指數不會持續那麼久。所以你會想，好吧，這在幾年內會很有價值，但在某個時間點就不會呈指數成長了。在某些方面，這要求你必須極度樂觀，對吧？因為你必須相信你將從寫程式中的 Tab 補全走向代理式寫程式，還有什麼能比代理式寫程式更有價值？也許我們可以治癒癌症。
Nick Marwell：甚至在這之間，就像你擁有了一個隨插即用的軟體工程師，比世界上任何軟體工程師都還要優秀，而那感覺極其便宜。而且你擁有一個能協助你處理各種事情的高管。所以當人們談論「噢，這難道不會導致商品化嗎？」——當你甚至還在奢望完全商品化時，整個經濟已經被徹底重塑了。到了那個時間點， literalmente（字面意義上）整個經濟都將由 AI 來完成，包括智力與體力。
主持人：而且那可能是一個規模大得多、大得多的經濟體。如果 Anthropic 正在推動這一點向前發展，那顯然價值數兆美元。
Nick Marwell：沒錯。
豐裕世界是可以實現的嗎？
主持人：好的，所以我們全都變有錢了。開玩笑的。顯然有很多擔憂，但你們是樂觀主義者。那麼為什麼我們要這麼快地推動這件事？再次提醒我們一下。這裡到底發生了什麼？你們在為什麼而戰？
Schult Douglas：回到我們為什麼擔憂：因為我們將得到一個可以替代人類的東西，對吧？它在電腦上能做的所有事情上都和人類一樣好。一旦我們有了機器人，它在實體世界中的所有事情上也將和人類一樣好。但與此同時，這釋放了巨大、激進的改善。這意味著你可以字面意義上地拿出那些以我們目前的人口需要未來幾個世紀才能開發出來的技術，並將其壓縮到未來十年、數十年內完成。
主持人：我在航太領域已經看到這一點了，飛機設計相關的東西進展如此之快，以至於我們可能在 2040 年代才會獲得的極先進飛機，在未來幾年內可能就會開始看到。這真的很酷。
Schult Douglas：所以你可以持續提升、甚至使人類的生產性智力與實體產能倍效成長，透過這種方式真正邁入豐裕世界。這是一個字面意義上一切事物的成本都降低到能源成本的世界，建造房屋的成本也降低到能源成本的世界。
主持人：如果中產階級想要的話，他們都可以擁有巨大的房屋。
Schult Douglas：在這個世界裡，你 literalmente（字面意義上）可以擁有你想要的任何東西。
主持人：你可以去山上搞一個 50 萬平方英呎的東西，而且這只是中產階級的標配。
Schult Douglas：沒錯。這將是中產階級的標配，就像我們今天擁有的東西對於幾個世紀前的國王來說也是難以想像的一樣，對吧？我們治癒了每一種疾病，我們可能治癒了老化並解決了長壽問題。所以你身處於這個世界，地球上的每個人都擁有過去甚至連當今世界最富有的人都無法企及的豐裕水準。這就是我們為之奮戰的世界。
Schult Douglas：但這是一個非常棘手的世界，因為這意味著你需要規劃通往它的道路，其次，你必須弄清楚我們該如何分享這個世界的收益，才不會導致巨大的不平等，對吧？回報不會只流向那些在先前世界中剛好擁有資本的人，相反地，如果每個人都願意，都能擁有那種豐裕。所以這裡有一個巨大的社會政治問題：你該如何分享這些好處？
主持人：不過，如果我們假設我們已經到達那裡，也會犯下很多錯誤，對吧？因為工作的尊嚴在目前是真實存在的。
Schult Douglas：我們還沒到那裡。我們甚至離那裡還很遠。但如果我們以正確的方式投資這項技術，我們就有機會到達那裡。所以我們認為，基本上，讓我們把今天的趨勢線稍微向外延伸。在過去四五年間，我們每年將投入 AI 的算力容量翻了 2 到 3 倍。今年各大超大規模企業（hyperscalers）合計在與 AI 相關的資本支出（capex）上花費了大約 1 兆美元。
Schult Douglas：一個非常有趣的問題將是：這個趨勢線會維持下去嗎？明年會達到 2 兆美元，然後在 2028 年達到 4 兆美元嗎？如果這個趨勢線大致維持，並且你能將其擴大以涵蓋更廣泛的機器人產業之類的東西，那就意味著大約在 2030 年代初期左右，你將開始達到這樣的點：在 2030 年代初期，你實際上在使人類的 GDP 倍增。這同樣是一個有點荒謬的概念，需要許多事情順利進行，但生產力成長確實可能開始急劇加速。
主持人：感覺甚至在未來幾年內就會發生。凱文·沃什（Kevin Warsh）是聯準會的新主席。我不知道他是否被 AGI 洗腦（AGI-pilled），但他目前對 AI 生產力非常看好。我們非常聰明的朋友。感覺我們將開始更多地看到這一點，但說它甚至可以加速更多，聽起來太瘋狂了。
Nick Marwell：它甚至可以加速更多。我最近看到的一張有趣的圖表是菲律賓就業人數的圖表，它上升了。
主持人：這讓我感到意外。我以為 BPO 在那裡會受到重創。BPO 代表業務流程外包（business process outsourcing）。他們在做低階客服中心，然而他們仍在成長。
Nick Marwell：然而他們仍在成長，事實上軟體工程的就業人數也在上升。我認為這很大程度上是因為人們突然之間比以前具有戲劇性地更高的生產力。一個非常有趣的趨勢線將會是：這種人們正在進行配對（pairing）的景氣能持續多久？
主持人：還有這麼多事情要做。你們正在使用這些東西，這是一個正面的跡象。
Nick Marwell：至少在短期內，情況似乎是這樣的。但我確實認為，重要的是我們不要過度說服自己一切都會沒事的。正如 Schult 所說的，目前你正處於這個可能美好的時刻，你所有的員工仍然是利用 AI 的極重要部分。因此，結果就是你獲得了一項讓他們每個人都變得更有價值的賦能技術，所以你會想雇用更多人。
Nick Marwell：但在某個時刻，我們的信念是，我們將從一個「你需要人類與 AI 模型配對才能從中榨取所有價值」的世界，走向一個「你不需要」的世界。我認為那是我們開始對後果感到非常緊張的世界。
Nick Marwell：這就像西洋棋一樣：30 年來最好的西洋棋手是「人類加機器」，而現在機器簡直在輾壓，我們認為這只會經歷更短的時間週期。
Nick Marwell：是的。過去 3 年來對我來說是一個重大更新的事——或許是自我剛開始思考 AI 進展速度的過去 5 年來：我曾經相信我們最終會到達一個看起來像今天、或我認為一年後會達到的地方，但那需要更長的時間。很大程度上，我以為這會需要更長時間，是因為我認為擴展這樣做所需的資料將是一項極其耗時且昂貴的追求。
Nick Marwell：而發生的事情——即使以我當時對 AI 進展的高標準期望來看——是意料之外的：Anthropic 和 OpenAI 的營收飆升速度和這些公司的規模是如此之快，以至於開發這項技術的人突然之間完全可以大把灑錢，以快得多的速度衝破我們原本以為會遭遇的許多瓶頸。算力激增是另一個很好的例子。5 年前對大多數人來說，一年花費 1 兆美元是不可思議的。
主持人：一年前對人們來說也是不可思議的。
Nick Marwell：對，就是一年前。這確實讓人感覺我們正處於一個時間線上，許多彼此具有巨大交互作用的事情正在同時發生，有好有壞。我們談論將算力搬到太空中；很有趣的是，AI 的出現大約與 SpaceX 的成熟同時發生。那個時機真的很奇妙。你可以想像，如果 SpaceX 花了多 10 年才來到這裡，AI 的時間線看起來可能會截然不同。
Nick Marwell：這全都要歸功於馬斯克（Elon）。他夠瘋狂，比任何人都早很久就啟動了它。
Nick Marwell：另一方面，你也看到了一些更令人擔憂的事情正在發生。我不認為這對世界是件好事，出於各種原因，包括大國博弈動態（race dynamics），包括 AI 本質上一項比大多數其他政府形式更能讓極權主義受益的技術，AI 正值我們迎來我一生中絕對是最雙極化（bipolar）的世界時到來。
主持人：這難道不是有關聯的嗎？關於社群媒體及其如何使用機器學習和改進 AI 來使我們兩極化，這其中是不是有什麼關係？這跟注意力經濟（attention economy）有關嗎？
Nick Marwell：當我說雙極化時，我實際上指的是中美全球格局。
主持人：你不是指美國國內的左派右派兩極化。
Nick Marwell：不是，那可能是另一件值得思考的事。但我確實認為，如果 AI 是在例如 2000 年代初期、當我們處於這種更單極化的世界時進入世界，我對 AI 發展非常順利的預期至少會稍微更正面一些。那樣更安全。
Schult Douglas：這簡直是一場堪比科幻小說的悲劇：宇宙中最寶貴的資源，竟然是在這兩個世界超級大國之間的小島上生產出來的。
Nick Marwell：從某些方面來看，這確實相當具有詩意。
我們該如何維護價值觀、傳統與社區？
主持人：總體而言，如果我們挺過這段時期，這對人類未來的發展充滿了樂觀。這似乎是高階的結論。另一個我想很多聽眾都在好奇的問題是：擁有非凡財富是一回事，但我們的文明中也有我們所關心的事物。有美德、有家庭、有許多人賴以生活的傳統價值。有工作的尊嚴，但周圍還有所有這些形塑我們成為之我們的傳統。
主持人：我想有些人會擔心，因為這發生在舊金山——那裡的傳統平均而言可能不那麼受重視——掌權者的某種機構會不會現在就要重塑世界，並擺脫我傳統的感受，無論是基督教、一夫一妻制還是其他任何東西？我們是否可以建立一些機構來協助維護這些東西？從身處舊金山核心並改變一切的角度來看，我們該如何思考這個問題？
Schult Douglas：有趣的是，在舊金山，我們實際上預期這些機構的重要性將會復甦，因為隨著工作在人們生活中的首要地位下降，以及隨著我們逐步擁有越來越多的豐裕，純資本主義在人們生活中的首要地位下降，我們認為人們生活中重要的部分將是傳統、儀式、為其他人提供價值、你的本地社區以及這些紐帶。
Nick Marwell：與直覺相反，許多智力追求以及如何成為一個懂得如何思考世界的人之追求，其實是重要性可能會增長的事物，只是不是在經濟意義上。在一個衣食無憂的世界裡，這幾乎是僅存的用來娛樂自己、感受自己是社區一部分、以及所有這些事情的最後手段。
主持人：兩位都很年輕而且非常成功。我們假設 Anthropic 持續發展順利。那裡每個人都會擁有資源，整個世界也會擁有更多資源。你們有沒有考慮過建立機構來協助處理這些事情？有沒有什麼是你們充滿熱情、想要創立的？
Schult Douglas：有的。Nick，你父親正在從事的早期兒童教育就是一個很好的例子，但這目前也是 Anthropic 內部非常熱門的討論主題。慈善事業是 Anthropic 文化中非常重要的一部分。網路上有一篇很棒的部落格文章，標題大意類似「美國慈善事業的新浪潮」，裡面談到 OpenAI 基金會和 Anthropic 員工基數的慈善捐輸，規模將相當於數百個 Arc 研究所（Arc Institutes）或數十個蓋茲基金會（Gates Foundations）。
Schult Douglas：人們正在思考各種各樣的事情。我捐款過的一個基金會是一個旨在試圖終結所有病毒性疾病的計畫。很多人專注於與健康相關的事物。我的一位同事捐款給一個非營利組織，該組織專注於找出處理勞動力衝擊的正確方法：真正研究它們、弄清楚發生了什麼事、我們實際上應該擔心什麼、地面的真實情況和資料是什麼，以及我們應該倡導什麼政策，好讓每個人都能在這次轉型中得到支持並在另一端過得更好。
Nick Marwell：在這方面我無疑深受我父親的影響，他在過去 15 或 20 年裡一直專注於教育。我剛才談到，雖然我們可能想要學習的東西會發生很大變化，但我並不清楚我們在 20 年後是否還想出去取得高度技術領域的博士學位，但我確實認為對知識的追求、學習的樂趣、彼此進行智力交流的能力，以及坦白說理解我們所生活的世界的能力（如果事情按照我們一直在討論的方式發展，這對我們大多數人來說將是一個非常令人困惑的世界），其重要性只會不斷增長。
Nick Marwell：許多從事 AI 工作的人相信一件事，但我其實認為他們搞錯了，那就是 AI 將會修復教育。如果你關心的不僅僅是「如何為一個擁有兩個身處 1% 且自身受過高等教育父母的孩子提供非常棒的教育」，而是關心所有人的教育，我認為有兩件非常重要的事情必須理解。
Nick Marwell：第一是你的教育是一件極其、極其複利的事情。一個很好的例子是，學生在數學上表現好壞的最主要預測指標，是他們在三年級結束時是否能達到年級水準的閱讀能力，因為當你到達三年級結束時，正是你從「學會閱讀（learning to read）」過渡到「透過閱讀來學習（reading to learn）」的時刻。教育中有許多事情都是這樣的，特別是因為兒童和許多人類有一種心理機制：當他們覺得自己不擅長某事時，他們就會失去繼續做下去的動機。
Nick Marwell：而問題在於，如果你相信這一點，至少到目前為止有一個領域 AI 似乎表現得極其糟糕：電腦無法吸引小孩子的注意力。事實上，它們似乎是一股令人難以置信的分心力量。
主持人：如果你想的話，這可能會成為一個你對其進行訓練的全新事物。你必須弄清楚那個遊戲，雖然我不太確定。
Nick Marwell：所以，雖然我認為教育兒童過程中的某些部分 AI 將在極大程度上提供協助——特別是確保我們在正確的時間向孩子們教授適合他們的正確內容——但我真心認為這不會是一個靈丹妙藥，讓我們只要有了非常聰明的 AI，教育的所有問題就會消失。
2028 年預測
主持人：有很多聰明人在從事這方面的研究。我同意這真的很關鍵。快轉到 2028 年 8 月。你們回顧這個 Podcast。必須發生什麼事，才會讓你們說：「哇，那比我預期的快得多」？
Schult Douglas：比我們預期的快得多？我們預期事情進展得蠻快的。
主持人：快得多。
Schult Douglas：將資料中心送上太空的時間線就是一個重大指標。根據你問的對象不同，這上面的誤差範圍很大。
主持人：而這確實是其中非常大的一部分，因為你在那裡可以做更多的事情。一旦你有了這個，算力的激增速度將會更快，而這正是我們最需要的主因。
Schult Douglas：我大致預期到那時會有大約一太瓦（terawatt）的容量上線，但實際的激增速度還有待觀察（TBD）。我會對 2028 年我們在家庭中擁有多少人形機器人感興趣。我認為這很有可能是一大批早期部署——在 2028 年可能有幾萬台機器人在家庭中幫忙洗衣服、做一些基礎清潔之類的。但也可能會比那快相當多。
Schult Douglas：我們剛發布了一集與 Generalist 的對話。世界模型（world models）變得有多好真是令人驚嘆，而且比我預期的還要快。這似乎就是那件能讓一切快上幾年的事。
Schult Douglas：沒錯。而一旦你有了機器人，它就會真的產生複利效應；進展會非常快。
Nick Marwell：我認為這裡的許多事情在某些方面都與資料有關。制約 AI 能力進展的最大調節器之一，就是我們擴展我們關心領域資料的速度。而我認為這已經比我預期的要快，原因我之前討論過：因為實驗室營收變成了現在這樣，所以有更多的資金可以投入來解決這個問題。
Nick Marwell：但我的預期是，我們的速度將受到人類生產這些資料速率的某种限制。如果你告訴我，比方說我們展開了一場建立大量實驗室以產生用於訓練模型的生物資料之十字軍東征，而且這從今天開始、一年後全面展開，我可能會把我的時間線往前調。
主持人：我們現在顯然把焦點放在所有這些用於非常特定任務（如寫程式、數學和其他一切）的資料上。你認為有一天我們會致力於形塑美德之人、良好品格、心理健康或類似事物的資料嗎？顯然這複雜得多，但未來 AI 是否能解決這些其他極其複雜的問題？
Schult Douglas：老實說，那些問題我比較希望由人類來解決。
主持人：我們難道不會使用工具來解決問題嗎？
Schult Douglas：AI 絕對會在這些討論中協助我們，對吧？但我認為這屬於那一類廣泛的資料：我預期它既非常棘手且難以擴展，又極度依賴個人。這會比我們解決機器人技術的時間來得晚。
Nick Marwell：你們仍然有點像人類。聽起來我們依然有空間。
Schult Douglas：我會預期 AI 在 2028 年贏得普立茲獎（Pulitzer Prize）嗎？大概不會。
主持人：好吧，那如果我們不知道我們是把獎頒給 AI 呢？
Schult Douglas：這倒也是。我會預期它在 2028 年贏得費爾茲獎（Fields Medal）嗎？很有可能，對吧？極有可能。諾貝爾獎也不是瘋狂的妄想。感覺在本十年結束之前非常有可能發生。
主持人：與兩位對談真的很令人興奮。我們確實有一些挑戰需要克服，但如果我們把事情做對，我對人類的未來感到非常樂觀。
Schult Douglas：我也是。謝謝你們加入我們。
Nick Marwell：謝謝邀請我們。