Chemify 訪談記錄：李・克羅寧談分子計算、組裝理論與 Genesis 平台
2026年8月 Chemify 執行長李・克羅寧（Lee Cronin）深度訪談
李・克羅寧、DARPA 與化學機器人
主持人：李，很高興你能再次來到這裡，老兄。你上次來是第 289 集，大約是一年半前，我們當時節目錄完、攝影機才剛關掉，你就說：「對了，我之前也幫 DARPA 做過一些研究。」你就這樣輕描淡寫地拋出這句話。我心想，這種事通常應該在 Podcast 一開始就說，但你現在告訴我這好像也沒什麼大不了。怎麼會有人覺得 DARPA 沒什麼大不了？我是個超級 DARPA 粉絲耶。
李・克羅寧：對，我倒不覺得……好吧，讓我理一下。我到底拿過 DARPA 多少次補助？DARPA 是一個資助機構，對吧？他們是補助機構，給別人錢。你知道他們當初成立的原因嗎？你可以查證一下，他們的授權宗旨基本上是為了消除戰略驚奇（strategic surprise）。當時蘇聯把史普尼克（Sputnik）人造衛星射上太空時，美國完全沒有預料到。蘇聯人在 20世紀 50 年代左右發射了衛星，我沒記錯的話，DARPA 就是在那個背景下成立的，旨在消除戰略上的意外。基本上，他們想要投入大量資金，資助人們做一些瘋狂的事，並擁有執行任務的授權。所以你可以說，像是網際網路、自動駕駛汽車，其實都跟 DARPA 有點關係。而且早在現在這波AI炒作之前的好幾年前，DARPA 就已經開始關注化學與 AI 的結合了。他們當時啟動了一個名為 Make-It 的計畫。發起這個計畫的人，還用了我某篇論文裡的一些術語，當時我心裡其實有點不高興，因為他們根本沒有給我任何資金，反而把錢給了麻省理工學院（MIT）和史丹佛研究院（Stanford Research Institute）。
主持人：DARPA 抄襲了李・克羅寧。
李・克羅寧：是你說出那個「抄」字的，我可沒說。他們是「受到啟發」。總之，我記得他們當時跟我通了電話，我非常嚴厲地抱怨他們用了我試圖進行研究的那個段落。結果他們說：「克羅寧博士，我們打電話給你是想跟你談談這件事。」我說：「好吧。」原來，他們是希望我提交一份白皮書。我說：「好，我要這個（比手勢）天文數字的資金。」他們卻說：「嗯，為什麼不索取少一點，然後做一個符合我們計畫的事情呢？這是美國納稅人的錢，而且你是少數在海外做這件事的研究團隊之一，我們認為這對我們很有價值。」
主持人：具體來說，那個「東西」是什麼？
李・克羅寧：那是他們 Make-It 計畫的一部分。你能不能按需製造分子，直接在戰場上、月球上、南極洲，隨地都能造？我們該如何用機器人技術來做化學？然後當他們問你這個問題時，我其實已經建造化學機器人很多年了。
主持人：各位，有三件小事要提醒大家。第一，如果你還沒訂閱，請訂閱，這對我們真的、真的非常有幫助。第二，如果你想加入我的 Patreon，以搶先收看未刪減的完整版節目，可以透過我說明欄或下方置頂留言中的連結加入。第三，如果你想加入我們的精華剪輯社群，有機會利用節目內容創作並賺取收益，可以透過下方說明欄的 Discord 連結加入。你已經建造化學機器人很多年了。
李・克羅寧：對，對，對，對。
主持人：這句話資訊量真大。
李・克羅寧：從 2012 年開始，大約 14 年了。
主持人：對於不熟悉這種特定類型機器人的朋友，你該如何定義「化學機器人」？
Lee Cronin：就是你給它指令，它就會執行化學反應的機器人。所以，沒錯……我製作過，我可以跟你詳細說明，但讓我先回答你剛才問的關於 DARPA 的問題。那是他們給我的第一筆補助，也就是 Make-It 計畫，之後他們繼續資助我。後來他們有一個關於使用分子進行計算、製作分子計算機的專案，我也拿到了 DARPA 的資金。那是一個美國的聯盟，裡面還有美國的其他幾個團隊。後來他們還給了我第三筆補助，是關於利用 AI 進行科學發現。我想這就是那三筆 DARPA 的補助，應該是三筆。
主持人：他們是什麼時候給你 AI 補助的？
李・克羅寧：噢，大約是 2018、2019 年左右，然後一直持續到疫情期間。疫情期間確實比較艱難，但 DARPA 真是一個傑出的組織。他們總是去找真正的專家，而且他們不會把補助給那些可能反美的國家的研究人員，我是這麼認為的，對吧？所以他們沒有資助賓拉登（Bin Laden）。此外，他們致力於開創嶄新的領域，並且專注於那些顯然具有戰略重要性的領域。長期以來，英國和美國在許多不同的科學學科上都有很多合作。所以我覺得這相當不錯。我還製造過分子計算機，利用化學物質來進行計算，因為我想——
主持人：這到底是什麼意思？
李・克羅寧：對啊，我以前也不知道。好吧，我現在知道了。計算機到底是做什麼用的？我們話題扯得有點遠，不過沒關係，我們先從「什麼是化學計算機」開始講起。化學計算機就是一套化學實驗裝置，你可以把輸入資料放進去。你把資料以某種方式輸入到化學系統中，然後化學系統會利用化學反應來處理這些資料，而不是依靠矽晶片上的電晶體。最後，你再透過某種方法讀取結果。我利用所謂的別洛烏索夫－扎鮑廷斯基反應（Belousov-Zhabotinsky reaction，簡稱 BZ 反應）建造了一台化學計算機，這是一種化學時鐘。它做的事情就是滴答、滴答、滴答，或者紅－藍、紅－藍、紅－藍。好的，基本上就是把一大堆化學物質倒進一個容器裡。你拿一個燒杯，就像玻璃杯那樣，倒滿一半的化學品，什麼都不用做，只要看著它，在你攪拌的同時，它就會自己閃爍紅藍交替的光芒。當你停止攪拌時，它基本上會停下來，但隨後又會自發性地閃爍某種顏色，這就是所謂的「可興奮介質」（excitable media）。這有點像神經元放電的方式。所以我覺得這是一個很酷的想法。我為什麼不乾脆做一個攪拌器陣列呢？於是，我 3D 列印了一個大約一本小書大小的網格，裡面是一個 7x7 的網格，也就是 49 個小孔。我在每個孔裡放了一個攪拌子，底下放一個小馬達來攪拌，並注入化學反應液。所有的顏色在網格中流動，我用網路攝影機來讀取顏色。當攪拌器啟動時，代表 1；當攪拌器關閉時，代表 0。我基本上就是用 1 和 0 來列印以表示某些輸入，然後讀取並計算出它在做什麼。我們一開始其實只是瞎子摸象、隨便湊出來的。
主持人：等你做完了再告訴我們。
大腦凝膠與 AI 是否具備感知能力
李・克羅寧：嘿，這可是個 DARPA 的專案，本來就該瘋狂一點。不對啦。其實它原本要做的是：我能不能利用——因為記住，BZ 反應就是個時鐘：滴答、滴答、滴答。如果你把一堆時鐘放在一起，讓它們同步，隨著它們失去同步，你就能處理一些資訊。所以我們實際上是用它來做分類，並用它製作了一個原始的神經網路。這個神經網路的構想是：它完全不耗電，在錯誤修正方面表現相當不錯，還能像精煉影像一樣。這就像你使用 ChatGPT 或輝達（Nvidia）的架構來進行梯度下降（gradient descent）一樣。什麼是梯度下降？嗯，它基本上就是改變神經網路中的權重，以最大化其訓練能力，因為很顯然，你有權重和激活值這兩種不同的東西。但這基本上是一個化學神經網路，這只是第一步。我現在正在製作「大腦凝膠」（brain gels），不過那是另一個話題了。
主持人：你現在在做大腦凝膠？
李・克羅寧：對，因為我們把那個機制拿來放進凝膠裡。原本的系統全是液體，黏糊糊的，記憶效果也不是很好。但如果你把它放進凝膠裡，也許你就能利用高分子凝膠（polymer gel）以某種方式進行切換，從而教導系統進行更長時間的學習。
主持人：這在科學上是怎麼運作的？
李・克羅寧：完全不知道。所以我才要做啊。
主持人：所以你還在試圖搞清楚。
李・克羅寧：對啊。聽著，我們雖然想法天馬行空，但為什麼不呢？我當時是受到《瑞克和莫蒂》（Rick and Morty）裡「醃黃瓜瑞克」（Pickle Rick）那一集的啟發。於是我就拿了一根小黃瓜，把小黃瓜接上家用電源的 240 伏特電壓，然後放進——你知道我在家裡有自己的工作室——用了一堆電極，試圖編程這根小黃瓜，讓它學會分辨圓形和方形的差別。但它一直爆炸。它一直爆炸，因為它不斷發熱。我當時覺得小黃瓜可能是一個很好的——這聽起來似乎是個好主意。總之就是個小黃瓜電腦。
主持人：你其實是在胡扯對吧？
Lee Cronin：隨便啦，反正就是把小黃瓜加熱、放進去。聽起來很荒謬吧。你用 240 伏特電壓把它加熱，會發生什麼事？鈉離子、鉀離子會移動，因為裡面有鹽分。所以你把小黃瓜泡在鹽水裡，裡面就有了鹽分。當你通電時，它就會導電。當你通入高壓交流電時，它會發熱，離子就會四處移動。所以它實際上創造了一個可興奮介質，有點像 BZ 反應的閃爍，但在這裡換成了小黃瓜。然後當我插上小電極、弄了一個小網格，我接著就試圖訓練小黃瓜去分辨方形和圓形，因為它變柔軟了。這有點像把一些水泥重新變成液體，然後它會學習某些東西，接著你再把它凝固。但問題是，這東西在我實際訓練它之前就一直不斷爆炸。
主持人：這是你在自己家裡的實驗室做的？
李・克羅寧：對，我在家裡做的。我想大學如果看到那些爆炸的小黃瓜，大概不會太高興。所以現在快轉到大腦凝膠。我就想，好吧，如果我能拿一塊凝膠，讓凝膠導電——它的導電方式有點像電線——然後在一側和另一側放上電極，並用相機來編程其中一個表面。這樣我就可以取得視覺畫面並將其輸入凝膠中，然後當我把相機對準不同的物體時，讀取結果。凝膠能不能分辨物體邊緣的差異？並以訓練 OpenCV 或某種矽基系統進行邊緣檢測的方式來訓練它？這有點像是你用 Jetson Nano 或之類的東西對吧？我當時只是在玩弄，看我能不能用物質來進行計算。結果證明，確實可以。但當你問「這到底是怎麼運作的？」然後我笑了，那不是因為我在胡扯，而是因為你對物質進行編程的方式，是讓物質根據其受到的刺激在時間中做出反應。所以這很大程度上是透過試誤法（trial and error）來完成的。這有點像大腦演化的過程。大腦經過了數十億年的演化，因此大腦有許多不同類型的編程時期。它是被演化編程的。所以，比方說，你的大腦有 38 億年的歷史，這是第一段時間。然後你由父母孕育，在大約 9 個月的時間裡，你的大腦在子宮裡生長，於是你的大腦開始被編程。等你出生後，你顯然會經歷大規模的發育激增。到了 21、22 歲，你的大腦可能幾乎完全發育成熟。接著，你的大腦就能夠即時處理資料。大腦就是透過所有這些不同的發育階段來演化、生長、被編程、激活，並繼續運作。而我們根本不知道大腦是如何運作的。大腦有什麼獨特之處？嗯，感知能力（sentience）、意識、目的，一個會告訴你它是個個體的生命系統。你跟所有人類談話，大多數你能與之溝通的人都會宣稱自己是一個個體。
主持人：你是不是每 15 分鐘就迫切需要來一包尼古丁菸袋才能感覺正常？喬伊・D（Joey D）也是。他是個徹底的成癮者。這就是為什麼 D 開始使用 Ultra 的新型能量菸袋。對這個惡魔來說，這簡直是精英級的升級。Ultra 菸袋是一包就能瞬間獲得能量的產品。是不是啊，D？他大約一個月前開始瘋狂使用，當他早晨需要額外提神、工作時，或是健身前，這些菸袋總能給他巨大、強烈的能量提升。這是 100% 不含尼古丁的菸袋，它提供能量的方式與尼古丁、咖啡或其他菸袋完全不同。Ultra 能量菸袋仍然含有少量咖啡因，能給你一點提神效果。真正的區別來自於它的其他成分，包括能平穩能量並避免斷崖式疲勞的 L-茶氨酸（L-theanine），將碳水化合物、脂肪和蛋白質轉化為大腦燃料的維生素 B3，以及用於平衡情緒和恢復體力的維生素 B6 和 B12。因此，不像尼古丁可能只能維持 10 到 15 分鐘，Ultra 菸袋能提供持續 30 到 60 分鐘的即時能量。這就是為什麼你會看到我在 Podcast 進行中不斷在桌子底下傳遞它們，確保這傢伙不會睡著。它們最棒的地方在於，這是乾淨、真正對你有好處的菸袋。零尼古丁、零熱量、零糖分、零那些加油站賣的可疑化學品。Ultra 是終極的無罪惡感菸袋，在不含尼古丁、糖分或熱量的情況下，提供即時能量、思維清晰度和提升的情緒。Ultra 受到全球專業運動員、企業家和工程師的信賴。它適合所有人。今天，我們的聽眾只要在 takeultra.com 結帳時輸入折扣碼 JULIAN，就能以 85 折的優惠買到這款終極無罪惡感菸袋。該連結就在下方的說明欄中。再次強調，網址是 takeultra.com，下方的說明欄有連結，輸入折扣碼 JULIAN 即可享 85 折優惠。購買後，他們會問你是從哪裡得知這個品牌的。請支持我們的節目，告訴他們是我介紹的。所以你認為大腦只是嚴格地在進行編程，而事情未必一定如此嗎？
李・克羅寧：不，不。我覺得這背後有一些非常有趣的事情。我不認為這在大腦就停止了。我認為生物系統非常複雜，但我認為人類的獨特之處在於，如果我們教導他們語言，他們會宣稱自己是一個個體。我認為這是我們無法理解的一點：化學反應是如何產生意識的？化學反應又是如何產生這種現象的——我會宣稱「我就是我」，我有我自己的特定個性和行為模式？在當今這個時代，這非常重要，因為我們正在把 AI 視為具有感知能力的實體，而它們確實不是。
主持人：對，你針對這點提出過很多論點，因為你認為，比方說，許多 AI 末日論者（doomers）跳躍式地認為未來 AI 可以脫離人類而獨立存在，而你並不同意這種看法。
李・克羅寧：對，顯然不同。這簡直是異想天開。
主持人：為什麼你說這是異想天開？
李・克羅寧：嗯，我們沒有看到任何證據。如果我們思考 AI 的起源，如果你追溯到源頭——生命的起源，AI 是由……好吧，比方說「人工智慧」這個詞的起源是在達特茅斯會議（Dartmouth meeting）上，你可以去查證。管他呢，讓我們盡量建立越多陰謀論越好。但我認為 DARPA 從一開始就資助了一些 AI 研究。在達特茅斯學院，「人工智慧」這個詞被創造出來。那是什麼時候來著？20 世紀 50 年代，1956 年，我記不清了，是很久以前，也許稍微晚一點。所以，如果你思考一下什麼是計算機，計算機是一個以決定論方式建構的系統。它是由開關組成的，對吧？這些開關的運作方式就是：計算機是由開關建構的。這些開關有高電平（high）和低電平（low）。你把它們組合在一起就成了邏輯閘（logic gates）。計算機中的通用邏輯閘是 NAND 閘（反及閘）。
主持人：NAND 閘。
Lee Cronin：對，NOT-AND，對吧？你可以用 NOT 閘建構一切，你可以建構記憶體，你可以建構任何東西。你把這些架構組合在一起，在今天我們擁有的一切矽基基礎設施就是基於此建立的。聽這個節目的電機工程師可能會大喊「不，這是不對的」，這其中可能存在一些差異。還有另一種東西叫做 ASIC（特殊應用積體電路），它基本上可能能夠進行類神經晶片運算（neuromorphic computing），在那裡你可以有類比電壓。因此，在電磁晶體中，通常你的電壓在 0 到 5 之間。5 是高，代表 1；0 是低，代表 0；還有介於兩者之間的數值。如果它靠近 0 那側，你稱之為低；如果在 5 伏特那側，你稱之為 1。但我不是合格的電機工程師，所以我不知道今天的 ASIC 是如何製造的。我自己為了好玩設計過一些 ASIC。
主持人：為了好玩。
李・克羅寧：對，因為我想建造一個大腦。所以如果我想建造一個裝置——一個化學大腦——我必須設計一個用來與化學大腦進行通訊的類比電子系統。我們稍後會談到這個。
主持人：對，我們等下會回來談這個。
李・克羅寧：所以計算機最重要的一點是，它在某種程度上是相當具決定論的（deterministic），而且我們可以說是數位化的。這意味著我可以把輸入放進去然後運行。至於當今的 AI，它們是基於數位計算機，並使用所有這些數位基礎設施。我們獲取海量的資料來訓練模型，模型可以做出非常精彩的事情。但末日論者說這些模型可能會失控。我同意，如果有糟糕的人類在運營它們，模型確實可能會失控。這迴圈裡永遠有人類在操控。人類正在打開发电廠的開關。雖然我們使用像是「遞迴自我編程」（recursively self-programming）這樣的詞彙，但這有點像你和我現在可以建立一個 AI，我們可以在程式中加入一個迴圈：執行這件事，如果這件事發生了，就執行那件事，然後繼續下去，直到它達到目標或者有人關閉計算機。情況一直都是這樣，這種迴圈一直都存在。
山姆・奧特曼、Anthropic 與 OpenAI 的比較
李・克羅寧：所以 AI 末日論者陷入了一種異想天開的現實中，他們聲稱 AI 可能會接管世界並引發核爆炸或其他災難。我認為更有可能發生的是，心懷不軌的人類利用 AI 去做壞事，我確實擔心這點。所以並不是我在輕視 AI 末日論者，我是在輕視那些宣稱「僅憑魔法，這件事就會發生」的 AI 末日論者。
主持人：對，我懂了。
李・克羅寧：我認為這實際上是一個重大擔憂，因為他們談論的是魔法，而現實中其實只是一些不良份子在說：「我要用 AI 駭進這個系統並搞點破壞」，或者「我要使用 AI 機器人系統在社群媒體上進行一些社會工程（social engineering）以製造某種影響」，對吧？所以我認為我還沒在任何 AI 中看到任何感知的證據。感知完全是人類獨有的。你在網路上從模型訓練中得到的任何感知證據，如果你問 Claude：「你活著嗎？」，Claude 可能會回答：「不，我沒有活著，但是……」，然後它們會使用「我」。這種擬人化（anthropomorphization）只是為了吸引你，讓你對與這個實體對話上癮。
主持人：不過，如果這只是一個技術細節呢？它沒有獲得感知能力，但是因為——我接下來會把它大大簡化——我們最終能夠創造出技術，它不再是單純的插上電源和拔掉電源就能控制的。正因為如此，一個不具備感知能力、但極其聰明、完全沒有同理心、無法感受到任何情感或人性層次的強大人工智慧，做出了一些它自己也不理解其嚴重後果的行動。他們對這種可能發生的情況有論據嗎？
Lee Cronin：我不太理解這句話，但我明白你的意思，所以我也別太迂迴了。但是 AI，它們真的聰明嗎？我們必須定義「什麼是智慧」。真正讓我感到非常困惑的是，竟然有人說在未來幾年內，AI 將比任何人類都更聰明。那是什麼意思？什麼是智慧？如果你無法衡量某樣東西，AI 能夠靠自己讓某些事情發生嗎？不能。人類因為不懂得如何建立一個系統而導致壞事發生，這算嗎？想想社會工程。隨便拿個系統來說。這有點難講，因為我不是這方面的專家，但假設我們要在城市裡制定一條附帶法規，規定你在城市裡獲得規劃許可時，每次建造建築物，每個角落都必須有一棵樹之類的。於是突然之間，在你意識到之前，到處都是隨機的樹。當人類做出決定和政策時，它們會被傳播開來，並透過系統進行傳播，無論是在企業、機構還是在軟體演算法中，對吧？所以這些東西會被傳播，並且會產生意想不到的後果。我完全相信一個試圖達成目標的 AI 可能會做出壞事。但這些壞事背後，人類一直都在迴圈之中。我想表達的是，AI 並不壞，壞的是人類，或者是訓練資料很糟。
主持人：對，如果我同意這個觀點——說不定你是對的，老實說我希望你是對的，自私地說，希望人類還掌控著局勢——但假設確實有一些反社會人格者手中掌握著這些機制的發射開關，我想我們有理由說，世界上的某些技術官僚（不全是，但其中一些人）可能符合這種形象。有什麼能阻止——具體指名道姓的話——像山姆・奧特曼（Sam Altman）這樣拿人類毀滅開玩笑的人，是什麼在阻止他說：「啊，你知道嗎，今天我想玩《魔獸世界》（World of Warcraft），但是是用 AI 來玩，而且讓它徹底失控」？
李・克羅寧：聽著，對於那些正在建立公司和技術的人，我其實非常同情。我自己現在也正在建立一家公司，我們等下可以談談這個。我認為我們必須退一步，思考幾個問題：我們是如何建立技術的？我們是如何監管這些技術的？我們又是如何從對這些技術的監管中獲得回饋，以確保人類正在朝好的方向發展？讓我們舉一個已經發生過這種情況的例子：我們有了網際網路，然後有了社群媒體。社群媒體中的致命失敗是什麼，才導致了今天——我認為不會有人爭辯說社群媒體現在特別美好。那個失敗是什麼？我認為政策制定者本該做的一件至關重要的事情，就是告訴社群媒體，它們應該被當作出版商來對待，就像美國的《通訊規範法》第 230 條（Section 230）或類似的法規，我不太清楚美國的版本具體是什麼。如果你被當作出版商對待，你在平台上發布的任何內容，你都必須承擔責任。所以當你開始散播無稽之談時，你必須說：「不，這明顯是個謊言，把它刪掉。」基本上，Facebook、X 和 Instagram 所有這些實體，對他們發布的東西都不需要承擔責任。對我來說，這就是一個真正的問題，因為整個決定——儘管它們只是一個媒介，這有點像是你不能讓製造印刷機的人為印出壞書承擔責任，我理解這一點。就像我們在談論我的化學機器人時，我會不會對任何人在上面進行糟糕的化學實驗承擔責任？但我確實認為，我們可以從社群媒體以及我們未能監管它、沒有讓它承擔責任的事實中學到一些東西。所以很難預測它將如何演變話雖如此，話又說回來，如果有人發明了一個相當不錯的社群媒體——也就是說它是一個宜人的去處，而不是人間煉獄——如果我們能弄清楚為什麼人類會這樣——你為了獲得關注而製造憤怒，對吧？如果你製造憤怒，你就會得到系統想要的關注。如果存在一個社群媒體系統——我不是說它應該像個《歡樂滿人間》（Mary Poppins）的世界，每個人都在飛來飛去、無比快樂——我們必須理解社群媒體的心理學及其帶來的負面影響，特別是對青少年的影響。在我成長的年代，沒有社群媒體，而我看到社群媒體對許多青少年來說可能是一個負面因素。但有些人可能會爭辯說，在那些無法接觸到社交中心或青年俱樂部的環境中，人們可以在線上玩耍、互相交流、互相支持，而我們卻看不到所有這些正面效益，因為只有負面效益被放大了。
所以當談到 AI 時，我們面臨著類似的困境：我們如何讓自由市場和自由人類來決定事情的走向？因為有一種論點，如果你看看 Anthropic 和 OpenAI 之間的差異：Anthropic 基本上不允許你在模型上做任何事情，因為它內建了某種更高的宗旨，而 OpenAI 的態度則是：「不，不，我要作為一個實體為你服務。」事實上，如果我選擇利用這個工具去做壞事並且觸犯了法律，那麼我應該承擔責任。
主持人：當然。
李・克羅寧：在我看來，現在出現了分裂。但這被那些聲稱 AI 可能會失控的末日論者給模糊了焦點。我不理解失控的機制是什麼。我確實理解胡亂嘗試（tinkering）的機制，我確實理解散播虛假資訊或製造目前尚不存在的陰謀論的機制。這裡有一個瘋狂的事實：歷史上沒有真正的陰謀論，沒幾個，因為人類根本無法保守秘密。但如果我們有了優秀的 AI，你就可以用 AI 把未來模擬得很好，這或許才是真正令人擔憂的事情。有沒有這麼一種可能——如果我們說第二次世界大戰後，當勝利者談論發生了什麼事時，這會不會就是一個被美化的大型陰謀論，因為歷史向來是由勝利者書寫的？
主持人：對，歷史總有一部分是由勝利者書寫的，這是肯定的。當你看一個故事時，它絕對不可能是 100% 的事實。但我反對的是那種說法：如果 5% 不是我們被告知的那樣，因此 100% 都是假的。你得對自己的言論保持謹慎。
李・克羅寧：完全同意。我認為這在當今時代真的非常重要。那種對「我能驗證什麼」以及「什麼對我有實質影響」的批判性思考（critical reasoning），真的至關重要。所以我認為 AI 將會加速批判性思考的教學。現在，我很擔心年輕人將如何獲得他們的第一份工作、犯錯、獲得所需的訓練與精通、具備努力工作的精神。挫折是最好的導師。然而現在的人，如果你不想感到挫折，只要用 ChatGPT 就行了。但我認為這只是一種反常現象（aberration）。我覺得這些工具中有很多真的很棒。編碼工具簡直棒極了。所以我常常在想——這其實是我稍微轉變了我的側重點——AI 說不定最終會拯救我們所有人。
主持人：拯救我們所有人。
像測量溫度一樣定義智慧
李・克羅寧：拯救我們所有人，因為社群媒體實在是一團糟，對吧？
主持人：如果你聽過我的節目，你就會知道我每天都像遵循宗教儀式般服用營養補充品。你也聽過我談到補充品產業其實非常擁擠，裡面充斥著許多假貨。最重要的是，健康領域裡的每個人都意見相左。如果你曾用 Google 搜尋過某種補充品，你會讀到各種對於預期功效截然不同的意見，結果你離開時比剛開始時更加困惑。但如果你使用 Blueprint 的「長壽混合粉」（Longevity Mix），你就不會遇到這種問題。Blueprint 是建立在科學證據之上的，所以不再需要盲目猜測。他們使用的每一種成分都是透過群體層面的研究和現實世界的測試贏得其地位的，而不是追隨 TikTok 上的潮流。有了 Blueprint，不再需要一整櫃的藥丸，只需一勺、加水、攪拌、完成。這單獨的一勺有助於支持能量、認知表現、情緒、專注力、睡眠、細胞抵抗力和健康老化。它包含了鎂、牛磺酸、甘胺酸、肌酸等成分。Blueprint 還透過第三方檢測其純度和重金屬等毒素，並將結果公布在他們的網站上，讓你能確切看到補充品裡有什麼。Blueprint 不僅提供長壽混合粉，他們還有必需膠囊、高多酚橄欖油、Omega-3、膠原蛋白胜肽等產品。這是科學背書、精準劑量、絕無廢話。限時優惠，新客戶在 blueprint.bryanjohnson.com 結帳時輸入折扣碼 JULIAN，即可享 8 折優惠並免運費。網址在下方的說明欄中。再次強調，網址是 blueprint.bryanjohnson.com，輸入折扣碼 JULIAN 享 8 折優惠。購買後，他們會問你是從哪裡得知這個品牌的。請支持我們的節目，告訴他們是我介紹的。
李・克羅寧：如果在使用的過程中，AI 工具能夠協助我們進行批判性思考、幫助我們驗證事物。經典訓練下的當今 AI 過去在「正確性」上表現並不好，但實際上它們正在變得越來越準確，因為你可以說：「嘿，去查閱文獻，看看這件事是否真的發生過，並幫我針對某個特定論點建立反證（strawman）或強力論證（steelman），然後也幫我盡可能客觀地理解我該如何構建這個論點。」因為如果沒有別的，這些 AI 至少能讓你進行一對一的教學。只要你正確使用它們，它們擁有無限的時間和無限的耐性。任何東西我們都可以錯誤使用，所以我現在說的是看似截然相反的話：強烈主張，但隨時準備放棄（strong opinions loosely held）。
主持人：對，確實如此。
Lee Cronin：末日論者起到了很好的作用，但我只是在想，末日論者是否可以透過將他們的「末日恐慌」轉移到我們真正需要應對的問題上來幫助我們，比如那些濫用系統的不良份子。
主持人：沒錯。嗯，這正是我在思考你所描繪的世界時想到的。理論上這確實講得通。但話說回來，如果這些不同的平台真的要發揮正面作用，幫助人類進行批判性思考之類的事情，好讓個人能夠自主完成，那麼對全人類的硬性要求就會變成：你必須在所有時間開源（open source）所有的程式碼。因為你必須確保沒有人類在悄悄地把他們的小意見注入到將要教導我們的實際 AI 有機體（organism）的編碼中。
李・克羅寧：AI 有機體是賽博格有機體（cybernetic organisms）。它們是人類程式設計師與協同工作的模型的結合體，對吧？所以我非常樂意說：AI 的感知能力來自於人類。這確實是一個我們可以探討的美妙謎團。但聽著，要我說模型到底做了什麼，我是獨一無二的不夠資格，因為我並不建構——好吧，我根據資料和非常基礎的學習演算法與系統來建構模型，因為我需要對它有第一性原理（first-principles）的理解。如果我無法理解它，我通常就不會去實現它。原因在於我需要明白模型在做什麼。其中的許多模型都有很多元層次（meta levels）。這有點像你跟某人對話，你以為他聽懂了，結果你們腦子裡想的完全是兩碼事，然後結束對話後，他去做了一件完全出乎你意料的事，反之亦然。所以你對這些系統必須具備的能力是：想辦法把它們接地（ground），並在科學上概念性地理解到底發生了什麼事。這真的非常重要。我在 AI 領域唯一持保留態度、劃下的硬紅線是：AI 並不聰明，對吧？
主持人：它們不聰明。
李・克羅寧：它們不聰明。它們絕對不聰明。
主持人：那你如何定義「智慧」？
李・克羅寧：對，這才是真正有意義的問題，因為人們總是談論 AI、AGI（通用人工智慧）和超級人工智慧（superintelligence）。各位，什麼是超級人工智慧？超級人工智慧難道是一種我無法理解的某種魔法嗎？什麼是智慧？什麼又是通用人工智慧？讓我們追溯到源頭。我對此有非常堅定的立場，我認為這經得起時間的考驗。我會將智慧定義為：一個實體解決能夠讓該實體得以生存的問題的屬性。所以這就像生物學一樣，對吧？通用人工智慧將是一個能夠解決迎面而來的幾乎任何問題以求生存的實體。你可以說，你的實體非常擅長數學。現在人們會說：「好吧，AI 很擅長數學，它們確實能解決問題。」所以現在我們在說，AI 非常擅長接受一個提示、你給它的問題，並說：「請在擁有這個資料集時，幫我審問這個資料集並給出結果。」所以我現在正在做的事情，是試圖與人們就我們所指的「智慧」進行正面的交流。智慧是一件非常有趣的事情，而我要告訴你的是：我們目前還不知道如何定義或衡量它。我正在研究一個問題，一個我可能獨一無二的不夠資格、或者最終可能獨一無二的有資格解決的影子問題，它將嘗試去衡量智慧。而我受到的啟發，是回溯科學史去檢視那些問題以及問題中的不連續性（discontinuities）。我最喜歡的概念就是「溫度」的由來。
大型語言模型（LLM）揭示了人類的什麼認知
李・克羅寧：我們過去就知道——或者拿重力來舉例，但我們拿溫度來說。我們知道東西有冷有熱，但那到底是什麼？「噢，那個好熱。噢，那個好冷。」我們當時並不知道該如何測量溫度。我們只知道有些東西熱，有些東西冷。直到科學家和技術人員說：「好啦，我們需要做到什麼？我們需要測量溫度，對吧？」你今天是如何測量溫度的？好吧，在過去美好的舊時光裡，你有溫度計。溫度計裡可以有幾種不同的液體。你會想要一種液體，隨著溫度上升，它會膨脹，並且最好具有某種線性關係，不管是水銀還是酒精。為了測量這種膨脹，讓我們回顧一下：起初我們知道冷熱，但我們沒有刻度。我們是如何得到刻度的？嗯，我們意識到液體受熱會膨脹，冷卻會收縮。太棒了。所以讓我們建立一個系統，透過它來測量液體的膨脹。需要什麼技術？我們需要玻璃。我們對這種玻璃有什麼要求？我們需要玻璃是均勻的，因為如果你把它做得忽胖忽瘦、向外扇形展開，甚至做成三角形，那樣效果肯定不好。所以你需要製造一個非常漂亮的管子，管子的兩側是平行的，是一個完美的圓柱體，或者盡可能完美。好吧，在早期，義大利有一些玻璃吹製工，他們精通了如何吹製玻璃管。突然之間，他們吹製出了玻璃管，然後你把酒精放進去。你就可以到處去測量溫度了。突然間：「噢，這裡感覺好冷，我們拿這個溫度去南極。」當然啦，美國人偏要用華氏溫標。我不知道你們從哪弄來華氏度的。
主持人：我其實更喜歡華氏度。它的單位更多。攝氏度跳 1 度就是跳 1 度，但如果是從 82 度跳到 83 度（華氏），我穿的衣服還是一樣。
李・克羅寧：你這完全搞錯了，拜託承認失敗吧。有一種溫度刻度叫做絕對溫標，也就是克氏溫標（Kelvin scale）。所以 1 度開爾文等於 1 度攝氏，它只是向下延伸到負 273 點多度。這意味著 0 開爾文是你能達到的最低溫度。你不可能比 0 K 更冷了，對吧？事實上，你在地球上任何地方都無法達到 0 K。我們已經建造了一些非常優秀的系統，幾乎可以達到絕對零度，而這意味著處於絕對零度的分子將不會做任何事情。它們甚至不會振動，只會完全靜止。總之，關於溫度最妙的一點是：技術是為了測量它而建造的。在此之前我們就知道冷熱，但我們並不太清楚這意味著什麼。現在，對於「智慧」來說，問題在於人類認知、心理學、智力測驗（IQ tests）以及所有這些東西。我們有人說：「嗯，這個 AI 將能夠解決人類面臨的任何問題。」他們誤解了什麼是智慧。給演算法一系列查詢來解決數學測驗，與人類解決一個未見過的問題（unseen problem）是完全不同的。而智慧實際上是解決未見過的問題的能力。「未見過」是很難的，對吧？因為如果它不在我的訓練資料中，我就無法解決它。但當我實際上遇到了這個問題並將其解決後，我就可以對它進行訓練。
主持人：如果我把它歸類為「邏輯」與「創造能力」的對比，我是不是把問題過度簡化了？
李・克羅寧：如果你正確地對它們進行編碼，計算機非常擅長使用邏輯。有一些很好的編程語言可以做到這一點，它們可以做很多事情。不，我要說的是非常具體的一點：智慧是我們目前還不知道如何定義或衡量的事物。而且我認為，出於個人的小小愛好，因為我基本上覺得無聊而且工作還不夠多——
主持人：你覺得無聊。
李・克羅寧：我離無聊還遠得很，我忙得要命。但總得有人來嘗試解決這個問題。
主持人：嘿各位，如果你還沒訂閱，請點擊訂閱按鈕。這真的、真的非常有幫助。謝謝。
李・克羅寧：當然啦，我獨一無二的不夠資格，所以這或許會讓我——我幾乎已經快完成了，所以其實也沒那麼難。
主持人：對啊，你忙到連衣服都不換。
李・克羅寧：我今天輪流穿了 12 件不同的粉紅色襯衫。
主持人：好吧，我需要看到一些證據，因為這看起來跟上次穿的是同一件襯衫。
李・克羅寧：有可能。你可以去檢查。也許另一件是寬領的，這件領子比較窄。好處是我完全沒有認知負擔（cognitive load），對吧？當我穿衣服時，反正就是粉紅色。不過這點可能跟馬克・祖克柏（Mark Zuckerberg）一樣，他好像都只穿灰色。
主持人：他現在不是變得很有時尚感嗎？他總是戴著不同的項鍊和——
李・克羅寧：我不知道，我可不是億萬富翁。我只是個窮人。
主持人：嘿，你才剛募資了大約 7000 萬美元，我可不想聽你哭窮。
Lee Cronin：沒錯，但我募資是為了改變化學世界，而不是為了整理我的衣櫃。沒錯。但我們還是回到「測量智慧」這個話題，因為我想在這個問題上多停留一会儿。你可以測量溫度，因此我們能有一個刻度。我們做到了。但我們不知道智慧是什麼。我們面臨智力測驗的問題，隨之而來的還有種族爭議，以及基因爭議，這些都相當瘋狂，因為心理學家和認知心理學家都搞糊塗了。然後人們又把「AI 越來越擅長處理事情」混淆成了「AI 很有智慧」。所以馬斯克（Elon）不斷地說：「噢，AI，也就是 Grok，現在將在所有這些學科中達到博士水平，因此以後不需要博士了。」這簡直是根本性的失敗。
為什麼？因為一個博士——讓我來解釋一下目前 AI 是如何運作的，我將說服你，並且希望透過類推，說服任何正在收聽或觀看這段內容的人。當今的 AI 做的是以下這件事：你獲取大量的資料。你利用這些資料來訓練一個模型。該模型將能夠告訴你該資料中包含什麼，並找出資料中的關係。太棒了。如果過去解決的所有問題都捕捉在該資料集中，當你給 AI 一個過去已經解決過的問題時，它就能解決它，對吧？這不是智慧，這是無與倫比的檢索與保留能力。
主持人：沒錯。
李・克羅寧：而且有時候 AI 做得並不好，因為它們會產生幻覺（hallucinate）。由於其中一些模型的結構方式，它們會產生幻覺。所以發生了什麼事呢？因為它們必須回傳一個輸出，頂級的 AI 提供者非常擅長建立檢查系統。它們會讓模型給出一個答案，然後我們來檢查。你去 ChatGPT 叫它做個計算。它過去只是利用模型來檢索，但當然模型算得並不準確，因為網際網路上的訓練資料是人類放上去的，所以它只會隨機吐回一個數字。但現在它會說：「噢，我認得這是一個計算。讓我叫出我的計算機工具，按下計算機的按鈕，然後把數字拿回來。」AI 是透過海量資料訓練出來的，人類到目前為止解決的所有問題都在裡面。這潛在地說非常棒。但一個博士科學家、數學家，重點並不是去理解過去——他們受過這方面的訓練——而是利用科學方法來解決問題。因此，每當你把一個不在資料集中的全新問題交給 AI 時，它就無法解決。
主持人：但如果它擁有足夠的資料以及來自世界上所有事情的保留能力，能在同一時間掌握人類無法企及的資訊，以至於它能找出異常、漏洞或某些東西，並以比人類更快的速度把它們補上呢？這怎麼能說不聰明？
李・克羅寧：我們必須再次定義「智慧」。我會稱之為「非常有用」，對吧？我的計算機非常有用。人們已經建造了許多有用的工具，使我這個享有權利的人類能夠做事情。但愛因斯坦拿著鉛筆，比不拿鉛筆的愛因斯坦聰明得多，因為他能夠利用紙筆來思考。這幾乎就像是一種賽博格（cybernetic）的事情。所以我們陷入了這些循環論證：AI 到底聰不聰明、它們有沒有自由意志、它們有沒有感知能力？有智慧的實體能夠解決問題並希望在時間中延續下去，這叫做生物學。我會說，智慧是絕對屬於生物有機體的屬性。現在，這些 AI 到底是什麼？我們或許可以稱之為「擴增資訊學」（augmented informatics）。這個詞聽起來怎麼樣？
主持人：擴增資訊學。這念起來好繞口，李。
李・克羅寧：我知道，聽起來沒有 AI 那麼響亮對吧？人工智慧聽起來真棒。AI 並不是魔法。它們是不可思議的模型。事實上，它們正在揭示出一些我們意想不到的人類語言與認知規律。如果你用某種語言訓練一個 AI，然後用另一種語言訓練它，並觀察這些實體的表徵——比方說國王或女王、或者是磚頭與水泥——它們佔據了一個前語言的（pre-lingual）空間，也就是概念空間。在語言之外的某個空間裡存在著數學表徵，這真的非常有趣，但其實也不那麼令人驚訝，因為人類就是用語言來表徵概念的。所以如果我拿西班牙語，並把西班牙語提煉出愛與恨、冷與熱、上與下，把它們繪製在某個空間裡，然後對英語做同樣的事，把它們疊加在一起，你會發現它們非常接近。這就是為什麼 AI 翻譯工具如此神奇，對吧？
主持人：對。
李・克羅寧：我學過德語；我現在說得不是很好，但德語裡有一個很棒的詞叫做 gemütlich。
主持人：Gemütlich。
李・克羅寧：Gemütlich，大意可以翻譯為「舒適」（cozy）。你走進英國的一家酒館，外面是刮著風的冬夜、天氣很冷，裡面有舒適的壁爐和啤酒，你會說：「噢，這真舒適。真棒。」德國人有這個詞，但它無法完全被精準翻譯，對吧？這是一種不同感覺的詞。所以這其中存在著文化表徵。因紐特人（Inuit）有很多這樣的詞，因為因紐特人必須經常在寒冷的環境中生活，對吧？但我們再次回過頭來：什麼是智慧？我們不知道。我們能衡量它嗎？我們沒有測量標準。我們知道什麼是溫度。這些 AI 工具能夠做非常重要、非常有趣的事情；它們可以自動化許多任務。
AI 預測，人類創造
李・克羅寧：但我打算說一句話，而且我會不斷重複它：AI 只知道它受過訓練的內容。如果某個東西嵌入在那些資料中，而你發出的查詢（query）足夠正確，你就能把它提取出來，這很棒對吧？而且 AI 正在表明，人類知識中網際網路尚未明確發現的大量知識，其實是我們可以把它們挖掘出來的。
主持人：但它難道不能利用人類隨著時間推移進行查詢和推理的方式，將各種模式拼湊起來，從而在我們達到之前，預測人類未來將會如何進行查詢，並進而超越（outrun）人類嗎？
李・克羅寧：我聽不懂「超越人類」這句話是什麼意思。
主持人：因為如果它們能夠將一切模式化——我舉個例子，因為這有點複雜。如果我正在跟 AI 對話，人群中有另外 100 個人也在跟 AI 對話，我們都在試圖弄清楚關於油漆的事，我們提出了關於各種顏色以及如何粉刷房間等各種問題，我問問題的方式就是一系列的查詢。即使它與下一個人的問題非常相似，但措辭可能會不同，或者我可能感興趣的特定事情會不同。但 AI 正在以海量和規模化收集所有這些不同的查詢方式，因此 AI 可以利用它所有的計算技術，將每個人所說的話進行模式化，並能夠預測出最優化的問題實際上會是什麼。所以從這個角度來看，在我看來，它可能正在超越人類——用「搶先」（front-running）這個詞來形容也許更貼切。
李・克羅寧：不，事情不是這樣的。
主持人：感謝你澄清這點。
李・克羅寧：這裡存在一個非常有趣的謬誤，再說一次，我很樂意在這點上被證明是錯的，但我希望用數據來說話。AI 是預測機器；人類是創造機器。當那些創造相對膚淺時，AI 很擅長找出它們。如果你拿所有這些艾多斯問題（Erdős problems），或者是數學中 AI 正在解決、用來推翻某些猜想的方法，AI 非常擅長透過尋找反例來推翻事物。但是，AI 從未提出過單一具體的創造性數學行為，對吧？它沒有提出過單一具體的創造性科學行為。現在，人們會對此爭論不休。我其實想要阻止這種爭論，因為它模糊了 AI 真正擅長的地方。在過去的一年半裡，AI 極大地增強了我的創造能力，因為我不需要把時間花在寫程式碼、收集資料和處理事情上。AI 在這方面表現得無與倫比。它們真的很棒，但它們做不到的是：它們無法創造。它們可以「看似」創造，而那些創造相對來說是比較膚淺的。
我會用「解決未見過的問題的能力」來衡量智慧。AI 能夠解決已見過的、或嵌入在其資料中的問題。AI 可以做「新的」（new）事情，對吧，但它們做不出「創新的」（novel）事情。所以問題在於，「新的」與「創新的」之間有什麼區別？「新的」是指你可以從你的資料集中獲得的東西；它只是一堆事物的組合，相對比較膚淺。你最終可以在你的資料集中搜尋某個新事物並找到它。所以當 AI 做了一件事，然後你說：「噢，這太令人興奮了」，你可以看出它其實只是「新的」，並且完全嵌入在那些資料中。而人類能夠做出一種我稱之為「創新的」事情，而創新（novelty）的定義是：原則上不可預測、且未嵌入在資料中的事物。時尚和音樂完全是人類的產物。你永遠不會知道人類接下來會做出什麼。你有一天可能會請我再次上你的節目，而我登場時穿的顏色可能是你完全預料不到的。這算是「新的」還是「創新的」？
主持人：嗯，這是創新的，因為在先前的資料中你總是穿粉紅色。
李・克羅寧：沒錯，AI 只會把我生成穿這套西裝的樣子。所以當我穿著綠松石色（turquoise）或其他什麼顏色走進來時，你會覺得，這很創新。但這裡面存在著一定程度的誇大販售（misselling），因為我們試圖把 AI 宣傳成具有智慧的、將要取代博士的、取代這取代那的工具。
主持人：嗯哼。
李・克羅寧：人類將利用 AI 來極大地發揮他們的認知能力，而不是被 AI 取代。這就是所有人都搞錯的地方。AI 將會取代科學？不，它們不會，因為科學的本質在於解決問題。
主持人：不過你幾分鐘前剛好提到了一個觀點，我簡直不敢相信自己以前從未從這個簡單的角度看過它。這就像是站在三萬英尺高空俯瞰時最顯而易見的觀點。過去十年來，尤其是過去三年大家都在使用大型語言模型（LLM）以來，我們一直在廣泛談論這場 AI 危機。但它們到目前為止還沒有創造出自己的 E=mc² 或類似的東西，這剛好證明了你的觀點。它們還沒有搞懂量子定律——我現在只是隨便舉例——而這些正是科學家們每天都在努力測試的事物。因此，它們不僅沒有取代像你這樣的頂尖人物，而且在技術層面上，到目前為止它們根本還沒有以任何方式取代科學。
李・克羅寧：人們確實利用 AI 想出了非常好的新點子來製造新藥、摺疊蛋白質、解決一些物理學問題，但這些問題已經被人類為資料處理定義得很好了。所以 AI 是個偉大的工具。它們只是一個工具。社會學和文化層面上正在發生一件非常有趣的事情。我們現在面臨這樣一個問題：人們說 AI 實驗室需要大量資金、需要大量基礎設施、需要大量能源。而在學術界，存在著一種反對學術界的政治壓力：學術界充滿了左翼人士，他們不會批判性思考、都是「覺醒」（woke）等等，因此乾脆用 AI 取代所有學術界來做科學。這在所有層面上都是徹頭徹尾的失敗。當然，學術界確實有問題，意識形態無處不在。但鑑於 AI 的建造者們根本不懂什麼是科學——他們確實不懂，現在那裡充斥著計算機科學家和數學家。這並不是我在擺高姿態；在濕實驗室（wet laboratory）——無論是生物實驗室、化學實驗室、物理實驗室還是機械工程實驗室——中解決科學問題，是一件非常直覺且 visceral（發自內心、切身）的事情，而且它需要創造力。就像蒸汽機裡的調速器（governor）一樣：有人心想：「噢，對啊，我必須確保鍋爐不會爆炸，所以我需要建造一些東西。」我們與世界進行互動。
現在，我正在為化學建立一個世界模型（world model）。這意味著什麼？嗯，我只是透過實際動手去做來學習所有的化學反應，一旦我學會了，我將能夠製造任何分子。這挺酷的，但裡面沒有什麼魔法。我必須收集資料、我必須擁有可驗證的流程、然後我必須能夠運行它。科學從未處於如此令人興奮的時代。只是一旦想到我們同時還在經歷這場文化戰爭，就讓人覺得遺憾，因為我們必須做出決定：我們是想把所有這些資金花在 GPU、CPU、水、能源以及各種運算資料並向人們交付產品上呢？還是想把資金花在讓人類也來做這件事上？培養一個能夠解決你可以用 ChatGPT 解決的問題的人類，到底需要花多少錢？這裡沒有魔法。如果我想用 ChatGPT 取代人類，我可以做到，但代價是什麼？而被取代的人類現在失去了工作。也許這個人類會去做更有趣的事。我們還不知道智慧是什麼；我們還沒有衡量過它。我們正在利用 AI 以極大的規模和速度做非常重要、非常有趣的事情，但這並沒有貶低人類的價值。
主持人：你剛才在解釋智慧迴圈時提到，這裡有三個層次：我們經常談論智慧、通用人工智慧，然後是超級人工智慧。所以如果我沒有理解錯的話，因為我們甚至無法衡量底層，你是在說，要到達下一個層次，顯然還要跨越十萬八千里，對吧？
李・克羅寧：對，我認為 AI 的提供者們——而且我實際上很喜歡這些產品，它們很棒——
主持人：不過我對你的眼鏡保持質疑。它們剛才好像在進行某種計算。你可能得檢查一下那些東西。
李・克羅寧：我可不在你的 Podcast 上做任何產品宣傳。它們不是 Meta 眼鏡。
主持人：對，但 Meta 其實可能做對了，雖然我不是在幫他們當託（shill）。
李・克羅寧：不，它們有用，只是——總之，我們回去吧。AGI：很多人會說，AGI 是我們給某種可以自動化大部分任務的東西的稱呼。現在，這到底叫 AGI（通用人工智慧），還是應該叫「通用自動化機」（artificial general automator）？
為什麼 AGI 其實並不聰明
李・克羅寧：如果我能有一個幫我整理電子郵件的 AI，那會很棒。事實上，我確實用了一個大約 8 年前的 AI 來幫我整理電子郵件。我怎麼做的呢？我是個強迫症般的電子郵件清理者。我回覆所有我想回覆的郵件，並基本上把所有東西歸檔。當新郵件進來時，它們不會淹沒在雜訊中。我每天收到這麼多郵件，我發現這真的非常讓人沮喪，因為我常常在需要回覆的郵件中迷失。我的認知頻寬（cognitive bandwidth）是有限的。所以，前沿實驗室所討論的通用人工智慧，字面上看就是一個能夠執行大量任務的實體。它能解決一般性問題嗎？不能，人類才擅長這個。也許人類擁有些許像是檔案歸檔這樣的工作，但我們當今人類社會在人們從學校走向大學或進入職場時的失敗之處在於，也許我們需要創造出更多具有價值和意義的工作。我們完全可以做到，而 AI 為此提供了絕佳的機會。
現在我們來談談超級人工智慧。這個詞是尼克・博斯特倫（Nick Bostrom）發明的。
主持人：對，我們上次稍微聊到這個，但沒有深入探討。那本書我整本都讀過。
李・克羅寧：這意味著憑空捏造，對吧？如果你無法定義一個事物，卻又說它是「超級」的，我的意思是，我也可以成為一個「超級化學家」，那是什麼意思？對我來說，超級人工智慧將是某種超越我們目前對物理學和數學理解的東西，就像魔法一樣。再說一次，超級人工智慧利用了這種心態：「噢，可能會存在這樣一個實體，它比我聰明得多、知道得更多。」那是什麼意思？人類能夠學習宇宙是如何運作的；我們能夠理解遠超演化賦予我們的東西，這似乎是可能的。現在，末日論者所說的是，這個超級人工智慧可以理解如何做一些基本上能終結人類或製造超級武器之類的事情。嗯，我看不出支持這種看法的證據。所以我試圖貶低「超級人工智慧」這個詞，因為我根本不知道那是什麼意思。
現在它可能意味著——讓我嘗試從三個不同的方面來猜測：它可能只是一種更快的思考方式。當然，西洋棋電腦可以把西洋棋下得非常快，所以我可以接受這點，但為什麼要叫它「超級」，叫「快」不就好了？它可能意味著它能夠透過某種決策理論的推理鏈進行推演，如果我在這些決策中種下這些種子，我基本上就可以創造破壞，就像我可以在這裡、在那裡散播一個迷因（meme），從而擾亂市場，讓每個人都以某種特定方式買賣股票。它確實可以做到這點，但市場充滿了雜訊，而且人類非常擅長做各種奇怪的事情，這種影響最終會被沖淡。而另一種可能是，它突然能夠想出一個沒有前例的全新事物。嗯，我們從來沒見過這種情況。你剛才也說過，並沒有出現 E=mc² 這種東西。
問題在於，在 AI 內部，讓我們假設我們回到愛因斯坦的時代。在狹義相對論中，愛因斯坦基本上提出了這個問題：當我坐在光束上時會發生什麼事？他開始意識到光速是宇宙中的最高速度極限，你不可能比光更快。那麼在廣義相對論中會發生什麼事？愛因斯坦說質量會使時空彎曲，物體不會走直線，而是穿過彎曲的時空。酷。所以突然之間，當你運用廣義相對論時，你就能夠思考：如果我把一顆人造衛星發射到太空中，衛星距離地球越遠，衛星上的原子鐘與地球上的原子鐘在時間上的漂移就越大。事實上，如果衛星透過其時鐘發出脈衝，而我測量它並與我地球上的時鐘進行比較，我就可以利用它透過 GPS 進行定位，對吧？我們在把人造衛星發射到太空之前就已經理解了廣義相對論，而當我們把衛星發射到太空時，我們理解了框拖拽（frame dragging），於是我們能夠建造 GPS。記住這個想法。我們已經建造了這些系統，它們基本上可以不斷提煉資料並尋常關係，而我們卻將某種屬性賦予了這些關係，但我們實際上並不理解這些關係，因為我們還沒有理解智慧的基本理論。同樣地，想像一下如果我們在沒有廣義相對論的情況下把衛星發射到太空；我們當時一定會大喊：「見鬼了，它們的時間正在流失」，然後我們會胡亂捏造各種說法來理解它。所以前沿實驗室已經做出了某些功能極其強大的系統，它們似乎能夠進行推理並做出我們以前意想不到的事情，而這僅僅是因為我們缺乏一個好的智慧理論。
主持人：現在，我很喜歡你剛才提到的那個基準，也就是你其實已經有了明確定義的東西，以便在你測試它時可以對其進行測量，就像愛因斯坦用 GPS 測試衛星那樣。如果我回到博斯特倫（Bostrom）早期所做的事情，考慮到他在我們最近的 AI 時間線上寫那本書的時間有多早，我一直以來的看法是：他創造了一堆決策樹（decision trees）。他創造了各種可能性。我想我是贊同你的論點的，也就是這背後缺乏一個根本的定義，但他的決策樹從事情可以安然無恙一直到我們死無葬身之地，列出了一個尺度。它指出了如果發生這個，就會發生那個；如果發生那個，就會發生這個，並且它創造了所有這些不同的世界，在這些世界中你可以看到程式碼失控，其中他描述的一些事情——我甚至不會跳躍式地說這個 AI 變得有感知能力了，我只是說它被編程去執行某個任務，卻伴隨著人類的失誤。其中一個例子是它可能會過度製造迴紋針（paperclips），最終用迴紋針覆蓋地球的整個表面並把我們淹沒。當我看到類似的事情時，聽起來很瘋狂，但與此同時，我也能想像如果——這其實符合你的論點——人類在編寫程式碼時不負責任，這種情況確實有可能發生。所以你認為他指出我們犯錯、進而導致 AI 做出毀滅我們的行動，這些說法是毫無用處的嗎？
李・克羅寧：AI 不會做任何事。AI 是由人類編程的。所有的決定都來自人類。這是人們不理解的一點。這也是為什麼我覺得這整件事相當迷人之處。我的研究——為什麼我成立了一家公司來為化學建立世界模型並發現新藥和新事物，為什麼我基本上在建造化學引擎——是因為我想理解我們從物理學過渡到化學、再到生物學、再到認知或文化的整個轉變過程。那裡到底發生了什麼？我們其實並不理解。我對超級人工智慧的質疑在於，它需要一個根本不存在的機制。你說你可以看到這種跨越：如果發生這個，就會發生那個。好吧，讓我說我也害怕反重力（anti-gravity）。什麼是反重力？嗯，反重力是這樣一種東西：當我建造了一項新技術，突然之間它關閉了重力，然後我們全都漂浮著飛走，最後全都死掉，因為我們不再被困在行星上了，我們沒有空氣，什麼都沒有。我要不要寫一本關於有一天可能會出現的「超級反重力」的書？當然可以，我完全可以給你列出一棵決策樹：如果出現反重力，就會漂浮。但反重力的機制是什麼？我剛才只是隨便瞎編的。除非你能定義某個東西並理解其機制——迴紋針，簡直是一派胡言！如果你坐飛機飛越世界，你會發現世界的絕大部分根本沒有被機器覆蓋；那是空曠的空間、田野、樹木、海洋。你到底在說什麼迴紋針？
主持人：他只是用了某個荒謬的例子來比喻。
李・克羅寧：對，但這完全是荒謬的。它沒有任何科學價值，它脫離了現實。這是最糟糕形式的科幻小說，因為他把它包裝得好像頭頭是道、冷靜客觀。所有的思想家——尼克，我們所有人——都有義務去批判我們自己的想法。我們根本不理解人類的意識、感知和決策制定是什麼。事實上，人們在幾年後開始宣稱 AI 應該擁有自己的版權，這只不過是那些基本上想要拿走你的版權、餵給 AI 模型、然後——如果說得粗魯一點——在說：「噢，謝謝某某公司讀了網際網路並偷了我的智慧財產權（IP），訓練了一個模型，然後把我的 IP 賣回給其他人」的人的藉口罷了。然後你就會有那些 AI 擁護者跳出來說：「你只是無法接受 AI 很聰明。」而我的反應是：「不，它 literalmente（字面意義上）就是偷了我的 IP，好嗎？我要去偷你的房子，這樣可以嗎？因為 AI 說可以？」不行。這裡有三件事：我們不理解什麼是智慧，我們不理解什麼是創造力，我們也不理解什麼是創新。我們不理解這三件事，卻把它們全部混為一談——我想我可以告訴你它是如何運作的。
德瑞克（Drake）與威肯（The Weeknd）的 AI 歌曲與抄襲
李・克羅寧：一切之所以看起來可計算（computable），原因在於一旦某個事物被世界創造出來，我就可以對它進行標記並放入資料庫中。我可以對它進行分解，但这並不意味著我可以忠實地預測未來。我可以預測下一個 token。而且有時候，如果搜尋空間足夠膚淺，它在某些評估中看起來就會是可接受的對吧？但我們將要看到的是，人類正在做的事情是量化上不同的。人類處於一個與我們用矽晶片運算所處的完全不同的宇宙中，這很棒。再說一次，我不認為存在什麼超越物質的東西；我是個唯物主義者。但類似於羅傑・彭羅斯（Roger Penrose），以及我的合作者莎拉・沃克（Sara Walker）和許多其他人所說的，我們根本不知道那種物質在做什麼。
主持人：你能詳細說明一下嗎？像是當你說「我們不知道它在做什麼」的時候。
李・克羅寧：對，我無法理解物質是如何在空間和時間中處理資訊的。我們有一些模型，但對於生物學是如何由化學創造的、演化是如何產生生物學的、以及生物學又是如何產生意識和智慧的，我們有太多太多的不理解。我們正處於一個非常美好的時代，擁有所有的工具和資料，但 AI 真的很擅長預測過去。我再說一次：AI 是預測過去的高手，因為它擁有過去。讓我限定一下：當 AI 能夠對過去進行忠實的表徵進行訓練時，它非常擅長預測過去。它做不到的是預測未來，因為未來是完全不同的東西。過去是一個機率空間（probability space）；發生過的事，你可以在那裡尋找機率。未來則是一個可能性空間（possibility space）。直到人們理解這兩者之間的區別，我們才會一直把它們搞混。
主持人：你如何定義這兩者的區別？
Lee Cronin：可能性空間是尚未發生的事情。機率空間是已經發生的事情，因為我無法對尚未發生的事情定義機率。這是什麼意思？如果我拿一顆骰子並擲它，我知道我會擲出 1 到 6 點。我知道這以前發生過，我可以針對它訓練我自己的模型。但我可以在紙上一手創造出一個你無法預料的骰子，因此這是一個「可能性」，而不是「機率」。直到我們理解這兩者之間的微妙區別，我們才會不斷地誤解 AI 實際上在做什麼。背後有大量的利益相關者和資金試圖支撐這些模型。但這正是為什麼 AI 永遠無法取代科學。AI 只是我可以用來做科學的一個工具。
主持人：對，它不是火箭；它是威力加倍的火箭燃料。
李・克羅寧：99% 的科學家都會跟我爭辯說 AI 確實能做科學，但他們只是不懂什麼是科學。科學的本質是識別問題的能力，然後對發生的事情創造出假設，接著創造實驗來測試它。AI 非常擅長的是運行實驗。但博士們所做的全部事情，就是組裝問題陳述（problem statements）。這就是為什麼讀博士讓人如此抓狂。我的一些博士生常常問：「你為什麼要逼我用這種瘋狂的方式思考？」但要識別出一個問題或異常（anomaly）真的非常困難。許多人認為 AI 能夠做到這一點。它們做不到。AI 做的事情非常膚淺。它們可以透過觀察大型資料集並找出一個洞來識別異常，但这跟那件事並不是一碼事。
主持人：為什麼這不是一碼事？
李・克羅寧：一個是另一個的逆運算。你可以用 AI 說：拿取我已經定義好實驗的資料，並在該實驗中找出異常。這很棒，但我已經把實驗定義好了。AI 做不到的是：定義一套完全嶄新的實驗集。它們永遠只會根據它們已知的事物來定義實驗。說 AI 正在做科學，這簡直是個巨大的妄想。前幾天我用 AI 寫了一個利用組裝理論（assembly theory）模擬生命起源的程式。我說：「嘿，這是我要你做的事：這是我針對分子的組裝理論計算器，讓我們生成一堆隨機分子並把它們連接起來。」基本上它做得還算不錯。它使用了一些來自 GitHub 的工具包，將它們與程式碼拼湊在一起，並生成了一個模擬器。但它生成的隨機分子簡直瘋狂至極而且極其不穩定，我就說：「不，不要那樣做，把那個刪掉，把那個刪掉」，並加上了約束條件。我是根據我自己的品味來策劃（curate）它的。
主持人：沒錯，你必須動手修復它。
李・克羅寧：那是我的品味，對吧？我覺得自己就像個音樂製作人：「那聽起來不太好，我來改一下。」科學中的許多技術性環節將會被 AI 取代，我們確實需要培訓人們去使用這些工具。但我們絕不能單純利用 AI 來做枯燥的科學並假裝那是科學。當 AI 開始產出新理論、解釋量子引力、或者想出一些我們永遠無法構想的事物時，我會拭目以待。截至今天——2026年8月——我們所知的矽基計算機還不具備創造創新的能力。這並不意味著我們未來不會創造出一種能夠超越我們已知計算極限的機器。
主持人：所以你是說，我們未來可能會創造出一種目前我們甚至無法有效貼上「AI」標籤的東西？
李・克羅寧：當然。如果你想創造一個大腦，這裡有種老式的做法：我已經創造了兩個大腦，這週剛滿 20 歲和 18 歲，我的兩個兒子。他們也是透過可以追溯到最後共同祖先（LUCA）的達爾文演化論創造出來的。我在理解意識之前，必須先在實驗室裡創造出生命。大概沒有其他方法可以到達那裡了。我們正在進行一場巨大的飛躍，也許我們正在進入一個科學的全新黑暗時代，就像中世紀一樣，由於將科學武器化以產出成果和論文的趨勢將達到頂峰，創科學術研究可能會陷入停滯。每個人都會使用 LLM 來寫論文、使用 LLM 來評審論文、使用 LLM 來寫補助申請、使用 LLM 來評審補助申請。而誰來把關品味？到那時，博斯特倫（Bostrom）關於迴紋針的預言將會成真，只不過是在科學界發生，而那些「迴紋針」將會變成滿天飛的論文和補助申請。
主持人：好吧，這跟他說的有點差距，不過——
李・克羅寧：其實是一回事，對吧？當年印刷機出現時發生了什麼事？每個人都說這太糟糕了，把事情寫下來會奪走我們的某些東西。但事實上，如果不是因為我們書寫的能力，我們根本無法創造出我們今天所創造的一切。所以我感到興奮的是，我們將能夠利用 AI 來幫助我們創造什麼。
主持人：對，這讓我想到了當你看到 AI 創作音樂時的常見例子。一年半前曾引起一陣轟動，當時 AI 創作了一首模仿德瑞克（Drake）和威肯（The Weeknd）的歌曲，聽起來其實還不錯，當時人們都在想：「噢，這會不會成為一個問題？」但它並沒有真正爆紅。首先，是因為人們得知那是 AI 創作的，大家心裡總覺得：「人類的創造力並沒有參與其中，我對此無法產生相同的感受。」但另一個原因，則是回到你的觀點：它沒有創造出任何創新的東西。它只是拿取了這兩位歌手過去創作過的音樂類型，抓住了那種風格，然後說「再做一次」。
李・克羅寧：我來爆個料，這是我目前正在撰寫的內容中的一個獨家觀點。如果我現在想出了一個創新的東西，然後說：「嘿，這是個創新玩意兒」，我們心知肚明，我們隨後可以將其貼上標籤、放進資料庫中，並理解通往那裡的途徑，從而計算出我們到達那裡的機率，因為我們現在有了前例。AI 可以把各種東西組合在一起，但 AI 組合空間的大小雖然很大，卻也沒有大到哪裡去。大致來說，如果一個空間很大但是可搜尋的，AI 在一個膚淺的空間裡會表現得相當不錯。而人類能夠做到的，是從空中隨手抓取一個如此深邃、以至於你用現有任何計算能力都永遠無法搜尋到的東西。人類正乘風破浪，在幾乎無限的可能性中衝浪。這就是創造力的來源。而一旦他們找到了某個東西，他們就會把它扔回來，突然之間，他們就從那個無限的邊緣回到了有限的可編碼現狀。AI 預測過去，它們在編碼現狀，而現狀與未來之間的介面，正是無限的連續基質（continuous substrate）。當某個東西是連續的，它就是無限的，你原則上無法預知接下來會發生什麼。這就是創造力的來源。很多人在裝作很有創造力，但他們實際上只是在互相抄襲。如果某個東西存在於資料庫中，而你literally把它拼湊起來並假裝那是你的——我都幹過這種事。我隨時都能想出無數個點子，然後心想：「噢，原來別人早就想過這個點子了，這根本不是我的原創。」這會讓我變成一個抄襲者嗎？不會，因為我並不是明知故犯地拿走別人的東西並假裝那是我的。我這輩子大部分時間都在想一些膚淺的點子，我就是個膚淺的思考者。但偶爾，你會閃現出一個相當具有創新性的想法。而人類非常擅長做這件事：偉大的藝術家、音樂家、時尚界人士，都在現狀與未來的交界邊緣衝浪。
主持人：你覺得靈感究竟是從哪裡來的？
李・克羅寧：完全不知道。
主持人：你毫無頭緒？
分子計算與 DNA 計算機
李・克羅寧：我倒是準備提出一個觀點。如果我想給你一個產生創新想法、具備創造力的「食譜」，你想要做到的事情，是跨入一個大到你原則上根本無法搜尋的空間。而人類真正擅長的，正是在那個空間裡進行想像。想像力原則上是不可計算的（uncomputable），因為它太巨大了、根本無法計算。每個人都會說：「這太愚蠢了，因為你的大腦正在想像啊。」對，那我的大腦到底在做什麼，才導致它原則上是不可計算的？想像力似乎就是人類大腦正在做某些無法被圖靈機（Turing machine）、計數機器、標記機器所計算的事情的證明。
主持人：既然如此，如果你要建造一個大腦，而它執行的任務甚至不是可計算的，你該如何在現實世界中透過計算把它造出來？
李・克羅寧：我會拿一個物理物件，然後以數位方式與它介接。我把它插進數位計算機裡。然後大腦就能夠想出那些數位計算機永遠無法預測或變幻出來的想像，因為空間的尺寸實在太大了。某種高分子大腦（polymer brain）的特性，使得它能夠收斂這個介面。我對它的運作方式有一種直覺，但我很難把它轉化為適當的數學表達。
主持人：你研究這個多久了？
李・克羅寧：蠻久了。這個想法可能在我的腦海深處盤旋了超過 20 或 30 年。
主持人：噢，哇。
李・克羅寧：對。
主持人：我們剛才在 AI 話題上扯遠了，而這原本是從大腦開始談起的。你剛才解釋的方式是：在你建造了 49 個孔洞、讓所有的燈光透過 0 和 1 實現開關切換之後，你接著把那個東西放進凝膠裡。你是這麼說的嗎？
李・克羅寧：這就是下一步：現在就來建造一個大腦凝膠。
主持人：我們能回到這個話題，再多解釋一點嗎？
李・克羅寧：我試圖在做的事情是製造一種物質，其中的過程可以被數位編碼，但隨後又變成類比的，有點像振盪：開－關、開－關、滴答－滴答。你用一脈衝的電力去觸發它，從而對其進行數位編碼，然後讀取隨後發生的事情。我想理解這種數位編碼與讀取結果之間是如何關聯的，兩者之間究竟是複雜關係還是線性關係？目前，我們正在觀察的現象我還無法理解，而且我在做所謂的「分子計算」時，也惹惱了許多計算機科學家。
主持人：那是什麼？
李・克羅寧：他們正在使用 DNA。DNA 有四種鹼基對，他們可以將這些鹼基對連接起來進行計算。他們可以製作一台圖靈機，也就是數位計算機，進而製造出一台 DNA 計算機。
主持人：DNA 計算機？
李・克羅寧：對，他們已經做出來了。DARPA 資助的。
主持人：DARPA，老兄。安迪・雅各布森（Andy Jacobson）說他們在 1992 年就已經透過心靈感應跟海豚對話了，我只是隨口說說。
李・克羅寧：DARPA 是一個資助機構。他們資助人們，給人們錢，然後人們去做那些瘋狂的事。
主持人：你去過他們的秘密實驗室嗎？
Lee Cronin：他們沒有什麼秘密實驗室。
主持人：我才不信。如果我是被 DARPA 資助的，我一定也會這麼說。
李・克羅寧：DARPA 總部位於華盛頓地區。他們有專案經理，所有東西都在公開領域中。他們識別出非常有趣的領域並予以資助。他們提出了一個想法：如果這個能成功，將會改變世界。網際網路改變了世界。自動駕駛汽車：DARPA 曾舉辦過一場自動駕駛汽車挑戰賽，當時車子在沙漠裡開得翻車，但它無疑加速了許多視覺計算和機器人的發展。所以我不打算戳破 DARPA 的氣球。
主持人：不，我覺得這絕對是一個非常迷人的地方。事情肯定不是這樣的，李：當他們來找你時，不是那種「這是我們目前正在進行的 10 億項研究」的架構。他們是為了一個非常特定的事情來找你的，因為你在某個領域擁有專業知識。當他們帶著第一筆補助接近你時，他們是說：「我們正在進行這類型的研究，這正是你專門在做的，你有沒有什麼點子可以貢獻？」
李・克羅寧：這非常具有協作性。他們資助了許多不同的執行團隊（performers），我們大家會聚在一起分享和匯聚資源。他們正試圖將科學的邊界向前推進。英國也有一個版本的 DARPA，叫做 ARIA（高級研究與發明局，Advanced Research and Invention Agency）。
主持人：而且身為英國人的你，去跟 DARPA 合作，他們也覺得沒問題嗎？
李・克羅寧：當然。ARIA 也會在美國資助研究，就像 DARPA 一直在資助人們一樣。
主持人：噢，這很有意思。
李・克羅寧：他們把資金投在有好點子的地方。顯然這需要對納稅人負責，但如果有人正在建造對你非常有用的東西，這就合情合理。回到 DNA 計算機的話題：有些計算機科學家把 DNA 視為計算機來思考，並將其簡化為傳統的計算範式。而我的看法是：大腦並不是一臺傳統計算機。大腦具備做一些我們無法理解的事情的能力，也就是「想像力」。這難道不瘋狂嗎？你可以想像一個尚未存在的東西，而那個被想像出來的東西具有因果力量，因為你可以想像那個東西並讓它運作。這正是企業家們一直在做的事情：「我要製造這個小玩意兒，比如手機或 iPod Nano。」人類具有獨一無二的能力，能夠想像一個不存在的東西——它只存在於他們的腦海中、分子和突觸中——然後你字面上可以把它從未來抓取過來，拖進現在。
主持人：特別是從未來抓取。
李・克羅寧：這正是我喜歡的說法，因為對我來說，未來是不可預測的、是一個可能性空間，而想像力在可能性空間中運作，而不是在機率空間中。SpaceX 裡究竟是誰想出了這個點子：「你知道嗎，我們要把火箭用鋼鐵製造，然後我們要把它抓回來。我們要造一個像摩天大樓那麼大的東西，它會起飛、超音速飛行、次音速降落，而且當我們把它抓回來時，我們會聽到音爆。」這簡直瘋了，但它現在已經成了科學事實。這就是為什麼人類非常擅長科幻小說，像是儒勒・凡爾納（Jules Verne）。數位計算並不是萬能的。事實上，我們以為整個世界都是一個可模擬的實體。尼克・博斯特倫（Nick Bostrom）說我們都身處模擬之中，但這基本上是不可證偽的（unfalsifiable）。
主持人：我們身處模擬之中這件事，怎麼會是不可證偽的呢？
模擬理論被稱為「根植於信仰」
李・克羅寧：模擬存在於哪裡？你會陷入無限後退（infinite regress）。
主持人：你所說的無限後退是什麼意思？
李・克羅寧：如果我在模擬中，太好了。那這個模擬本身必須存在於某個地方。假設我存在於某個計算機中。那台計算機又在哪裡？它是另一個模擬嗎？模擬中的模擬中的模擬？如果我無法把模擬一路向下全部證偽，那麼這就等同於擁有一種宗教承諾、一種信仰。我並不是在說「因為我無法證偽上帝，所以上帝不存在」；我是說這不適用於科學過程。如果某個事物不適用於科學方法，那麼它就是一種信仰的承諾。大衛・多伊奇（David Deutsch）在《無限的開端》（The Beginning of Infinity）一書中對此有非常精彩的論述：模擬論點是一個垃圾論點，因為它根植於信仰。
主持人：我有個疑問，覺得這實際上可能超越了信仰，原因有二：第一，我們甚至不知道宇宙究竟能延伸多遠，我們只能了解我們親眼物理觀測到的部分；第二，人類模式中發生了一些無法解釋的事情，這似乎暗示著我們或許正身處層層模擬之中。
李・克羅寧：我們身處宇宙之中。是誰創造了宇宙？
主持人：你認為是誰創造的？
李・克羅寧：我們可以說有一個造物主，或者它本來就存在。但我們無法證偽這點，這才讓它成為了一場有趣的對話。有沒有設計師？有沒有上帝？當然有。但我們能利用科學方法去探索什麼？
主持人：但你說過你不是那種相信「無中生有」的勞倫斯・克勞斯（Lawrence Krauss）信徒。你相信它始於某個東西。
李・克羅寧：對我來說，「無中生有」的論點與模擬論點有點類似。它們都有根本上的科學缺陷。身為一個唯物主義者，我更喜歡在物質世界中工作，對我周遭的事物進行實驗。這並不意味著我們不是生活在模擬中，或者某個東西不是由無中生有而來的；只是我無法建立一個實驗來證偽這點。
主持人：那我們該如何找到方法建立實驗來證偽這點呢？
李・克羅寧：我不認為這有可能。以我微薄的智力，我目前還無法證偽這點。
主持人：他們在 1400 年代也無法證偽重力，直到一顆蘋果掉下來。
李・克羅寧：不，他們做得到。他們當時就在互相丟東西。他們只是不知道如何将其形式化。這正是哲學變得真正重要的地方。如果我們要假設某些事物存在——本體論（ontology）或形而上學（metaphysics）——然後檢視該形而上學中的關係，這些層次必須是自我一致的。你會發現，無論是模擬假說還是無中生有，都陷入了無限後退。一旦陷入無限後退，你就無法取得進展。所以你把它放在一邊，說那是科學方法之外的事情。這就是為什麼繼續把模擬論點當成嚴肅論點來討論是愚蠢的，因為我們生命中可以花時間討論如此多其他更有趣的事情：我們如何治癒癌症、我們能否利用核融合發動機快速前往火星？這些是遠為有趣的問題，因為我們能夠對其產生實質影響。
對我來說，模擬超級有趣，因為我正在建造化學機器人。如果我建造了一個機器人來做某件事，而且我建立了一個模擬，我需要一個叫做「驗證」的東西。在 AI 世界中，AI 運作得很好的原因在於，它們對某些問題擁有非常好的驗證機制。我從 AI 身上獲得的靈感之一，就是為物理化學建立正確的驗證迴圈。幾年前我發明了一種化學編程語言，每個人都說：「這簡直胡扯，你完全是瞎編的。」我確實是瞎編的，但這絕不是胡扯。這個想法之所以誕生，是因為我想對我的 3D 列印機進行編程來做化學實驗，而且我想確保 3D 列印機不會著火。於是我就建立了這個編程語言，這讓我能夠為其製作一個數位雙胞胎（digital twin），這樣我就可以在沙盒（sandbox）中對其進行驗證和測試。能夠讓我驗證現實世界中某個事物的模擬，就是好模擬。如果我能拿取現實世界、為其建立一個模型，並在現實世界中執行時檢查它不會著火，那我一定會這麼做。
現在，這並不意味著有朝一日我們不能創造一個可以將數位實體（digients）放入其中的模擬。特德・姜（Ted Chiang）寫過一篇非常精彩的中篇小說叫做《軟體體的生命週期》（The Lifecycle of Software Objects）。特德・姜是一位傑出的思想家、作家，也是聖塔菲研究所（Santa Fe Institute）的外部教員。我跟見過他好幾次，跟他辯論過組裝理論。這些數位實體是生活在某個世界中、並且能夠在實體機器人中具現化的實體。我可以想像這樣一個世界：我能夠創造一個足夠豐富的計算宇宙，在其中創造出可能顯得具有感知力的事物，我可以在上面進行測試，屆時我將不得不認真思考道德哲學和倫理學。我可以想像那個畫面，但我不知道我必須為此建立什麼樣的物理學，因為我不理解什麼是生命、化學是如何變成生物學的、生物學是如何產生意識的、以及意識又是如何產生智慧和自由意志的。在我弄清楚這些事情之前，我無法建立它們的模擬。
主持人：好，我懂了。
李・克羅寧：博斯特倫（Bostrom）人真的很好。
主持人：你有跟他聊過嗎？
李・克羅寧：我沒有。我有幾次在開會時遇到他，但我大概會太惹人厭吧。我會製造出「博斯特倫胡扯製造機」：一個把一堆東西拼湊在一起並假裝它們是真的哲學家。如果我們在這個替代宇宙中模擬了錯誤的咖啡杯，導致它引發了奇異點（singularity）並讓整個世界消失了，那會怎麼樣？
主持人：我不知道他有沒有扯到那麼遠。我想他的意思是那些被編碼以進行整體創造或摧毀的事物，而不是像違反物理定律的漂浮物體那樣。
李・克羅寧：這讓大家以為存在著這樣一種可能叫做「超級人工智慧」。這有點像我們說要打破光速。你不可能比光更快，永遠不能。這是宇宙的法則。當你把能量注入質量以使其加速時，它會輻射出輻射來阻止你達到光速。我們在歐洲核子研究組織（CERN）的質子束中一直都在做這件事。光速似乎是 99.99999% 的絕對極限。
主持人：所以你是說還是有機會囉。
李・克羅寧：不，一點機會也沒有。但身為一個科學家，對我來說說任何事情是「絕對的」是不可能的，因為我必須保持開放的心態。為事物設定極限，才讓我們得以建立起一個技術社會。當你去醫院，醫生在你的動脈裡放支架時，你是有機率死掉的，但看看所有的統計數據：裝支架能存活的機率已經挽救了無數生命。你在科學中永遠不能說「永不」，你只是走到極限的邊緣然後說：「我有 99.999999% 的把握我們不可能超越光速。」
主持人：當你提到 CERN 時，你有參與 CERN 的任何研究嗎？
李・克羅寧：沒有，我沒有。我去過 CERN，那裡曾舉辦過 CERN 的 TEDx 演講。就與其相關的媒體宣傳以及他們製造話題的方式而言，CERN 是一臺偉大的機器。這是一個規模宏大且耗資巨大的實驗。我們利用 CERN 找到了希格斯玻色子（Higgs boson）。很好。
人類基因體計畫真的值得嗎？
李・克羅寧：這值得花 5 十億歐元或美元之類的代價嗎？我不知道。
主持人：這似乎是學術界很大一部分的常態：你能在大眾中掀起多少輿論熱潮、炒作和科幻興趣，與真正資助那些具有開創性潛力的最佳點子之間，到底該如何權衡？
李・克羅寧：當你資助任何科學事業時，你都會獲得回報；而當回報遞減時，你該怎麼做？你大概會把它砍掉重練——這就是創造性破壞（creative destruction）。人類基因體計畫（Human Genome Project）真的值得嗎？嗯，它當時可能不值得，但它現在絕對值得了，因為我們現在知道如何編輯基因了。
主持人：你能多解釋一點嗎？
李・克羅寧：當人類基因體計畫完成時，那是英國醫學研究委員會（Medical Research Council）和美國國立衛生研究院（NIH）之間的一次大規模合作。他們花費了相當多的資金來建立定序人類基因體的技術。然後克雷格・凡特（Craig Venter）——一位偉大的先驅和企業家——創辦了一家公司，試圖在他們之前完成定序，因為他想要獲得 IP。為了證明其合理性，我們當時說：「嗯，我們將治癒所有疾病。」結果人類基因體被解開了，我們並沒有治癒所有疾病。現在開始發生的、而且真正令人興奮的事情是，有許多基因療法讓我們理解了如何矯正致病的基因。有些天生失明的年輕人，透過基因療法矯正了蛋白質，因而恢復了視力。這太驚人了。還有一些基因療法，讓我們了解如何重新編程身體的免疫系統來治癒癌症。極有可能是，在我们有生之年，我們所知道的大多数癌症都將透過結合小分子藥物的分子療法和基因療法來獲得治療。
主持人：你覺得他們其實已經有了這些療法，只是沒有交給民眾嗎？
李・克羅寧：不。為什麼要這樣——因為那是極度愚蠢的做法。
主持人：為什麼這很愚蠢？幾十年來我們一直使用同一種殘酷的治療方法。
李・克羅寧：根本沒有什麼陰謀論；那種東西不可能存在。有那麼多製藥公司在進行藥物化學研究。生物學的發展進展神速，但最關鍵的問題是，我們必須將這些實驗室的成果轉化到臨床上，而人體是很複雜的，而且人會死。現在中美英三國在監管嚴格程度上形成了一個有趣的對比。由於監管不同，中國的一些臨床試驗進展得更快。在西方，我們風險趨避（risk-averse）得多。如果我們接受多死幾個人，我們能走得更快嗎？大概可以。我們在西方受到的任何限制，都是我們監管環境的函數，而監管環境又是我們選民的函數。
主持人：中國在某些方面確實承擔了風險，因為他們沒有相同的安全護欄。但擁有護欄確實有其價值，這是肯定的。
李・克羅寧：曾有一位中國科學家利用基因療法編輯了一些胚胎，這些胚胎後來成了人類，並引發了問題。他被判入獄，因為他基本上對基因體進行了錯誤的編輯。
主持人：他做了什麼導致他們的人生可能沒那麼順遂？
李・克羅寧：我想那似乎跟人類免疫缺陷病毒（HIV）有關，但他做了一些並不明智的事。
主持人：那個製造出基因改造嬰兒的中國科學家被判處 3 年監禁。賀建奎和他的兩名合作者被判非法行醫罪名成立。讓我們看看他們做了什麼：這位震驚世界的中國研究人員宣稱他協助製造了基因編輯嬰兒，被判處 3 年徒刑。據新華社報導，深圳法院裁定他和兩名合作者偽造倫理審查文件，並誤導醫生在不知情的情況下將基因編輯胚胎植入兩名女性體內。其中一位母親於 2018 年 11 月生下一對雙胞胎女孩；目前尚不清楚第三個嬰兒是什麼時候出生的。法院裁定，三名被告蓄意違反國家有關生物醫學研究和醫學倫理的規定，輕率地將基因編輯技術應用於人類生殖醫學。三人均認罪。2018 年 11 月，他宣佈自己修改了人類胚胎中的一個關鍵基因，據信該修改能賦予抵抗 HIV 的能力。他希望免除嬰兒在未來生活中感染 HIV 的可能性。但這引發了其他嚴重的副作用。
李・克羅寧：那絕對是史上最愚蠢的做法，因為 HIV 現在基本上——它曾經摧毀了許多人口，主要是同性戀男性。然後我們有了控制它的療法，現在你可以將其控制到體內測不到病毒量的程度，這意味著它幾乎不可能被傳染。你可以透過化學手段控制並抑制這種病毒。人類醫療技術取得了多麼了不起的成就啊。他只是走得太遠了。我們必須就未來如何進行基因編輯展開辯論。人類基因體計畫是一項不可思議的成就，就像利用 CERN 找到希格斯玻色子是一項不可思議的成就一樣。我們現在陷入這樣一種幻想中：AI 實驗室將使所有科學自動化，因此科學會變得便宜，我們就能治癒所有疾病。這根本不可能發生。AI 工具會幫助我們治癒一些疾病並製造新分子，但我不知道其確切極限在哪裡。
主持人：如果它只是一個巨大的催化劑，讓我們能夠以極快的速度解決問題，同時人類依然在其中主導一切，這完全就是世界末日的反義詞。
李・克羅寧：我對 AI 末日論者抱持同情，因為他們正試圖讓政治家理解發生了什麼事；我也對 AI 豐裕論者（abundantists）抱持同情，因為他們希望利用這些工具來促進人類的繁榮。我討厭的是極端主義：我們全都要死，或者我們全都要長生不老並擁有無限的物質。這兩者顯然都是愚蠢的。
馬斯克的斷言：十年內將沒有金錢
李・克羅寧：令人擔憂的是，我們可能會利用 AI 系統駭入計算機系統，導致所有軟體永遠處於不安全狀態：銀行帳戶、加密等等。你可不希望你的特斯拉在高速公路上發瘋。另一方面，你希望利用 AI 來加速技術發展並治癒疾病。但一些變得相當富有的 AI 人士卻在說：「噢，10 年內金錢將不復存在。」
主持人：對啊，我完全無法理解這種論點。
李・克羅寧：這只是馬斯克又在胡說八道罷了。馬斯克是個天才，但他不擅長溝通。
主持人：怎麼會沒有金錢，以至於每個人都會變得一模一樣，特別是以那種速度？
李・克羅寧：金錢是資源分配的一種表徵。只要有人類在決定該做什麼，金錢就仍然是必需的。建造某些東西所需的資源確實會下降並漸近趨於零。你可以買到一些微處理器，過去要好幾美元，現在只要 15 美分。但瓶頸永遠會存在：地球的大小是有限的，今天可取得的能量是有限的，物理資源也是有限的。但可能性是無限的。我們會回收利用各種事物、尋找新的能源，並創造出全新的經濟體系。這種在不到 10 年內我們就能擁有無限豐裕的說法，可能只是一種反應，因為那些創造這些 AI 工具的人對它們的能力感到震驚。你可以用 Claude 或 ChatGPT 做一份 PPT（簡報），而且做得相當不錯。
主持人：對，你還可以用這些東西製作應用程式。
李・克羅寧：但如果你告訴 Claude「只要做一份關於 X 的 PPT」，卻不給它足夠的資訊，那做出來的就是垃圾。垃圾進，垃圾出（Garbage in, garbage out）。如果我說：「以下是我想要表達的要點，這是我針對這些要點的基礎數據，請幫我製作並與我一同反覆迭代」，我使用 AI 工具來釋放我的創造力完全沒有問題。至於寫作，我會用 AI 代筆嗎？不會，它們寫出來的東西在語意上太千篇一律了。永遠都是「不是 A，是 B」。拜託不要那樣寫！我的寫作雖然有瑕疵，但那是我的聲音。我現在確實會用 AI 來糾正拼寫錯誤，但當它試圖清理我的文法時我會說：「不，我就是要這種語氣。」我覺得相當迷人的一點是，現在我會使用 AI 來審閱我所有的論文校樣。我有一篇剛在 PNAS（美國國家科學院院刊）上發表的關於外星生命檢測系統的論文：「分子組裝是可用質譜法測量的普遍生物特徵」（Molecular Assembly Is a Universal Biosignature Measurable by Mass Spectrometry）。我把校樣放進 ChatGPT 裡，它通讀了一遍，並找出了 10 個我沒有發現的拼寫錯誤。
主持人：我們來讀一下摘要：「探測地球以外的生命需要不依賴已知生物化學的生物特徵。源自組裝理論的分子組裝（MA），量化了從基本建構塊建造分子的難度，將複雜性直接與選擇和演化聯繫起來。在這裡我們展示了，MA 可以作為一種既可解釋又可透過實驗測量的普遍生物特徵。與資訊理論測量不同，MA 可以直接從質譜（mass spectrometry）資料中推斷，而無需進行結構解析。我們證明了，使用在標準化單階段光譜上訓練的機器學模型，其預測 MA 的誤差比基準方法低三倍。模擬的多階段資料顯示，微小的儀器變化可能會使預測誤差加倍，凸顯了校準的重要性。這些發現將分子組裝確立為一種以質譜測量的、基於物理的、可量化的生物特徵，其解讀取決於對儀器效應的仔細控制，為未來行星任務中的生命探測提供了一條可擴展的路徑。」我們往下看圖表。
李・克羅寧：你可以使用機器學習，因為背後有理論支撐。人們一直試圖用機器學習來尋找生命，但他們當時只是在瞎編；組裝理論幫助你理解了這背後的基礎。溫度：我們知道東西是冷是熱，但我們如何量化它？生命：我們知道生物是生是死，但我們如何衡量它？生命系統獨特之處在於，它們會製造出具有許多不同零件且高拷貝數的分子，因此我們可以進行測量。我們對應的溫度計就是質譜儀。質譜儀做的事情是秤量分子的重量，將其射入真空電場中，並測量它有多重。然後你用能量轟擊它使其碎裂，就像把盤子摔在地上一樣。你計算零件的數量，並利用它來測量組裝指數（assembly index）。火星上目前有三台質譜儀，而 NASA 正在向土衛六（Titan）發送一台由核動力驅動的質譜儀，名叫「蜻蜓號」（Dragonfly）。這是一架由鈽同位素驅動的四軸飛行器，它將在土衛六上四處飛行、嗅探空氣並使用質譜儀進行檢測。
主持人：你能利用這些來嘗試尋找系外行星上的生命嗎？
李・克羅寧：可以。我們有一篇即將發表的論文，我們在其中利用組裝理論來測量系外行星上存在生命的機率。系外行星界非常習慣談論生命的單一標記，例如甲烷（CH4）、氧氣（O2）或水（H2O）。這些全都是非常小的分子，因此它們攜帶的資訊不足以區分生命與非生命。火星上的甲烷可能是由地質過程產生的。氧氣可以透過紫外線分解水來產生。從氣體推斷生物學的答案將會是組裝理論。你可以在實驗室中透過三種技術測量組裝指數：質譜法、核磁共振（NMR，nuclear magnetic resonance）和紅外光譜學（infrared spectroscopy）。
組裝理論與宇宙中的生命
主持人：外星人是你小時候經常思考的事情嗎？
李・克羅寧：倒也不是瘋狂地經常想。我可能一直在思考：為什麼我會在這裡？生命為什麼存在？我該如何把它拆開來研究？但將生命理解為一種化學現象，對於理解地球上生命的現象至關重要，而這將告訴我們關於外星人的事。如果我們在漆黑的天空中只看到我們的太陽，我們就會痴迷於太陽是如何形成的。我們知道太陽是由氫的引力坍縮形成的，變得足夠熱以克服強核力並進行融合。我們可以看到宇宙中處處都有恆星。但我們對於地球生命的樣本數只有 1（N of 1）。如果我們能從化學角度理解地球上生命起源的機率，我們就可以開始對機率進行界定。
主持人：在我們不理解宇宙有多大的情況下，我們怎麼能做到這點？
李・克羅寧：我們可以估算銀河系的大小，並且我們對宇宙的光錐（light cone）有界限。每一顆恆星似乎周圍都有行星。這些行星要嘛是：死的、永遠不會有生命；非生物的但具備生命的可能性；有生命的；有生命且具備技術的；或是後技術時代的。生命可能只存在於特定的溫度區間內：太熱了化學鍵會斷裂；太冷了什麼都不會發生。聽了大衛・吉平（David Kipping）的《酷炫世界》（Cool Worlds）Podcast，他們在談論適居帶（habitable zone），我意識到行星可能會做出反應。地球在經歷晚期重轟炸期（Late Heavy Bombardment）後開始冷卻，回饋過程調節了其溫度，就像詹姆斯・洛夫洛克（James Lovelock）的蓋亞假說（Gaia hypothesis）一樣。如果生命開始在一顆行星上形成，而該行星漂移出了那個區間，演化將會做出反應來對抗這種變化，就像恆溫器一樣。行星能夠為了生命的出現而進行自我調節。
主持人：如果一顆行星繞著它的恆星運行，以至於它靠得越來越近而且越來越熱，你是說行星能夠進行調整嗎？
李・克羅寧：在智慧出現之前，不能；在智慧出現之後，或許可以。這就引出了我最喜歡的一部中國科幻電影——《流浪地球》（The Wandering Earth）。如果一顆行星繞著恆星運行，變得越來越近、越來越熱，它可能會調節大氣壓力：當變得太熱時，讓大氣層變得具有反射性——升起防護罩；當離得更遠時，把光線鎖在裡面——放下防護罩。氣候變遷對人類來說很煩人，因為我們在海岸線和赤道周圍城市化，而那裡的區域原本非常適合農業，但西伯利亞將變得非常適合居住。在幾百年的時間尺度上，去西伯利亞買房吧。我們大概會想出應對氣候變遷的技術解決方案。也許地球會比原本預期的存活得更久，因為它孕育出了生命。
Chemify Genesis 與對工作被取代的恐懼
Lee Cronin：在未來 5 十億年裡，隨著氫燃料耗盡並開始融合氦氣，太陽將會變大，溫度也會升高。我們有大幾十億年的預警時間；我們難道不能輕輕地把地球往那個方向推一把嗎？只要射幾枚核彈：轟的一聲，一年把它推移幾毫米。給我們 20 億年時間，我們能做很多事。
主持人：我一定要把你和大衛・吉平請到這裡來一起做一期 Podcast。他 11 月會回來。
李・克羅寧：那樣交流點子一定會非常酷。我聽過他的 Podcast，當時心想：「不，不對。」
主持人：你就是個「不」先生。一聽到可疑的事情，你完全毫不畏懼地去挑戰它。
李・克羅寧：即時的批判性思考要求你不受那些阻撓者的束縛、勇於犯錯並樂於接受教育。我們正在把 AI 神秘化，因為我們被告知那是魔法。OpenAI 在訓練其模型時發現了一座認知寶庫，突然之間這些聊天機器人開始非常擅長預測下一個 token。隨著你擴大上下文視窗（context window），它變得甚至更好。當你建立了護欄和思維鏈（chain-of-thought）能力後，這些系統就能夠串聯起來。但我們必須將其去神秘化，並真正定義什麼是智慧、創造力以及創新。
我的公司 Chemify 現在有幾百名員工。我之前開會時聽到有人說：「我已經能夠從我的勞動力中裁掉這麼多數量的人了。」我當時心想：「夥計們，你們在幹什麼？」人類是奇妙靈活的、無限的問題解決者，也是無限的創造機器。你想要僱用更多的人，而不是更少。我覺得這種對工作被取代的恐懼相當令人反感。Chemify 的目標是為化學建立一個世界模型。如果你造訪 chemify.io/genesis，上面就會解釋這個世界模型。
虛擬分子庫
主持人：「螢幕上的分子只是一個假設。詢問、製造、測試。」
李・克羅寧：人們以為藥物發現就是發現一個分子。在過去的年代裡，你會觀察植物、尋找具有生物活性的分子，然後發現藥物。可能藥物分子的化學空間（chemical space）通常據說大約是 10 的 60 次方。宇宙中的原子總數大約是 10 的 80 次方。我用組裝理論重新計算了一下：這不是 10 的 60 次方，而是 10 的 117 次方。我們將其發表在 arXiv 上：「用組裝理論闡明化學空間的大小」（Elucidating the Size of Chemical Space with Assembly Theory）。如果允許你的分子在現有化學條件下擁有 25 個步驟的組裝指數，那麼就有 10 的 117 次方個可訪問的分子。當你的空間大到無法搜尋時，你必須創造出創新的東西。這就是 Genesis 的由來。
Genesis 不是目錄，也不是反應搜尋；它是一個連接到真實化學能力的計算執行迴圈，能將想法轉化為經過驗證的物質。所有這些做藥物發現的 AI 公司都只是在螢幕上生成隨機圖表（random graphs），他們根本造不出來。Chemify 一直在做的事情，是透過化學機器人在物理世界中製造分子，而 Genesis 將 AI 模型直接連接到我們的機器人合成引擎。客戶購買 Genesis，保留他們所有的智慧財產權，而我們將運算資料進行聯邦式整合（federated）。Chemify 做化學的速度變得更快，但客戶的設計保持完全加密和隔離，這與英國生物銀行（UK Biobank）的運作方式類似。我們在格拉斯哥建造了一個化學電腦農場（chemputer farm）。每當我們進行一項反應，我們的世界模型就會變得更好。Chemify 提供的數位可驗證分子虛擬庫擁有 10 的 40 次方個分子，這是在總共 10 的 117 次方的化學空間中抽樣而來的。
沒錯，我想扮演上帝
主持人：當你看到像 AI 這類工具的規模化擴張以及人類能夠以指數級速度利用的能力時，你是否曾擔心我們即將到來的「扮演上帝」的能力？
李・克羅寧：不，我想扮演上帝。事實上，我熱愛扮演上帝。我們有手機、有藥物、有汽車。我想要會飛的汽車。正如亞瑟・克拉克（Arthur C. Clarke）所說，任何足夠先進的技術都與魔法無異。想像一下帶著一支能正常運作的智慧型手機回到過去並跟別人視訊通話；人們會覺得你是個神。我們必須確保人類繁榮發展。無論從哪種標準來看，人類在地球上從未過得如此美好。我們燃燒化石燃料來製造氨以養活全球。如果我們為了應對氣候變遷而嘗試地球工程（geoengineering），結果有 50 個人因為某種意料之外的原因死亡，但同時拯救了數十億人的生命，算算這筆帳吧。
主持人：那基因工程呢，比如 Colossal Biosciences 公司試圖重現冰原狼或長毛象這類滅絕物種？
李・克羅寧：喬治・丘奇（George Church）大概是這背後的主使者。喬治非常調皮。就像我喜歡實驗化學一樣，他喜歡實驗生物學。他正在測試倫理和商業上可接受的極限。低智商是一種可治癒的疾病嗎？如果你能在基因上設計出更高智商的人類，你會這麼做嗎？社會將不得不決定什麼是可以接受的，正如剖腹產最終被社會接受一樣。在英國，我們批准了粒線體捐贈療法（mitochondrial donation therapy）——也就是所謂的三親嬰兒（three-parent babies）——以預防嚴重的粒線體疾病，健康的兒童因此得以出生，否則他們會死於肌肉 dystrophy（肌肉萎縮症）。
十二英尺高的巨人和基因宿命
主持人：這很難反駁。
李・克羅寧：如果你強化粒線體，那會不會造就出超級運動員？在過去的幾百年裡，西歐人由於營養不良，沒有實現他們的基因宿命；而現在在荷蘭，人們的身高都達到六英尺多。我會擔心有人利用 Chemify 的技術大規模製造壞東西嗎？我們在系統中內建了加密和 GPS 地理定位授權。我們的化學電腦中內建了廣泛的防火牆、即時遙測（telemetry）和故障安全（fail-safe）設計。
一百年前，「計算機」是指摩天大樓裡拿著計算尺、全球每秒執行幾十萬次運算的人類。今天，每天進行化學反應的化學家數量在 10 萬到 100 萬之間。Chemify 的實體 AI 將極大地增加化學操作。隨著出生率下降，我們需要讓人們更長時間保持健康，透過訂閱式醫療保健和先進療法來推動經濟發展。
李・克羅寧在皮爾斯・摩根節目對決詹姆斯・圖爾
主持人：只要詹姆斯・圖爾（James Tour）博士不是對的、而你是錯的就行。我看到你們兩個在皮爾斯・摩根（Piers Morgan）的節目上唇槍舌劍。
李・克羅寧：詹姆斯・圖爾首先是個化學家，其次才是科學家；而我首先是個科學家，其次才是化學家。詹姆斯做化學，並利用這種權威來對他的宗教信仰體系施加權威。他聲稱每個人對生命起源都一無所知。如果我早就知道答案，我為什麼還要去做實驗？我是唯一一個願意公開與他辯論的人。皮爾斯・摩根擁有龐大的追隨者，這是一場很有趣的辯論。我的一個兒子看了之後告訴我：「這是第一次聽到你談論某個東西而我真的聽懂了。」如果這激勵了他，那這一切就值得去做。
李・克羅寧的研究
主持人：在科學領域中能有開放的對話總是棒極了。謝謝你，李，一如既往。我們改天還得再來一次。現在我們去吃塊牛排吧。
李・克羅寧：謝謝，很高興能和你一起錄節目，我們下次見。
主持人：好的各位，好好思考一下。再見。非常感謝收看。請點擊訂閱按鈕、按讚、加入 Patreon，並加入下方的 Discord 精華剪輯社群。我們下集見。