Anthropic対談書き起こし：テクニカルリードが予測する「数年以内のAGI」と知能の指数関数的リターン
2026年8月、アメリカン・オプティミスト・ナパ討論会（ニック・マルウェル、シュルト・ダグラス）
エピソード序文
ホスト：あらゆる人間と同等か、それを上回る能力を持つモデルは、今後数年以内に極めて高い確率で登場するでしょう。知能の限界費用あたりの価値は、その前の段階に比べて指数関数的に増加していきます。生産的な知的・物理的キャパシティを倍増させ続けることで、真のポスト・スケアシティ（希少性のない）世界を本当に実現することが可能になるのです。
ホスト：お二人はAIフロンティアの最先端にいらっしゃいます。今取り組んでいる中で、最もエキサイティングなことは何ですか？
ニック・マルウェル：AIはライフサイエンスにおいて、間違いなく私たちの世代で最も重要なテクノロジーとなり、あるいは史上最も重要なものになるでしょう。しかし同時に、莫大なリスクも伴います。
シュルト・ダグラス：悪意ある者が大きな被害をもたらすのを防ぐ能力を持つ前に、こうしたテクノロジーを世の中にリリースすべきではありません。
ホスト：より懐疑的なテックリーダーたちは、「ダリオ（・アモデイ）は規制を増やして物事のスピードを落とすために、みんなを怖がらせようとしているだけだ」と言っていますが。
シュルト・ダグラス：これまでのところ、私たち自身が誰よりも自らのスピードを落としてきました。
ホスト：アメリカのスピードを落とし、中国を先行させるようなシナリオはあり得ますか？
シュルト・ダグラス：CEO兼共同創業者……今ここに私がいます。
ホスト：ニック・マルウェル氏とシュルト・ダグラス氏は、世界で最も急速に成長しているAI企業、Anthropicの主要なテクニカルリードです。文明が直面している非常に深刻な脅威があるにもかかわらず、お二人は未来について非常に楽観的です。それらの脅威とは何なのか？ バイオ、サイバー、その他の主要分野におけるオフェンスとディフェンスの力学をどう考えるべきか？ Anthropicが規制の囲い込み（レギュラトリー・キャプチャー）を行っているとして、同社に強い怒りを抱く人々もいます。これに対する彼らの見解は？ Anthropicは何を目指しているのか？ 中国における蒸留（ディスティレーション）を巡る戦いをどう見ているのか？ もし誰もが彼らのモデルをコピーできるようになったら、Anthropicはどうやって何兆ドルもの価値を維持し続けるのか？ そして、もしあなたが労働市場にいる若者で、キャリアを築こうとしているもののAIの中心にいない場合、この先10年間に何をするべきなのか？ Fascinating（魅力的）な時代において、世界で最も急成長している企業の内部から見た、楽観的な視点をお届けします。お二人の話を聞くのが楽しみです。
独学で学んだ機械学習と、Anthropicへの異色の道のり
ホスト：American Optimistへようこそ。本日はAnthropicから2名の素晴らしい才能をお迎えでき、本当に興奮しています。ニックさんはテクニカルスタッフの主要メンバーであり、強化学習（RL）サイエンスを率いるRLサイエンスを担当されていますね。そしてシュルト・ダグラスさんも、強化学習のテックリードでいらっしゃいます。間違いないですか？
シュルト・ダグラス：はい。
ホスト：お二人はAnthropicに入社してどれくらいになりますか？
ニック・マルウェル：私でちょうど3年を過ぎたところです。
ホスト：会社自体はまだ何年でしたっけ？
シュルト・ダグラス：5年くらいですね。
ホスト：ええ、驚異的ですよね。今や世界で最も重要で最大の企業の一つであり、最も急成長している企業のひとつなのに、まだ創業5年ですからね。カリフォルニアは実にエキサイティングな時期を迎えています。本日はナパで収録を行っています。お二人とも、ご出演ありがとうございます。
ニック・マルウェル：お招きいただきありがとうございます。楽しい時間になりそうです。
シュルト・ダグラス：呼んでいただきありがとうございます。
ホスト：まずは経歴から伺いましょう。シュルト、子供の頃はどこで育ったのですか？出身はどちらですか？
シュルト・ダグラス：シドニーで育ちました。2020年頃、ブログ記事や論文を色々読んで、スケーリング則によって2020年代にAGIが実現する軌道に乗っていると強く確信したのです。そして、DeepMindやAnthropic、OpenAIといった企業が求める品質水準の仕事ができることを証明しようと、夜間や週末に猛勉強を重ねました。
ホスト：コンピュータサイエンスを専攻していたのですか？
シュルト・ダグラス：学部ではロボット工学を専攻しました。2019年に卒業した後、基本的に個人で研究を行っていました。そしてDeepMindで2年働き、直近の18ヶ月間はAnthropicにいます。
ホスト：素晴らしい。ニックはどちらの出身ですか？
ニック・マルウェル：はい、私は実はサンフランシスコの出身です。AI業界の人々の中では今や珍しい方だと思います。父はキャリアの前半を非常に伝統的なビジネスの世界で過ごし、その後、人生の後半というか、私の人格形成期において、社会に恩返しする方法を模索するという興味深い道を見出しました。特に、テクノロジーを活用して社会に還元する方法を追求していた父親のいる家庭で育ちました。
ニック・マルウェル：自分自身の進む道を考える際、私は、効果的な資本家（キャピタリスト）――何と呼ぶにせよ――としてのスキルを効果的に構築する経験と、それを社会的善（ソーシャル・グッド）のために使う経験の、両方を同時に得られるようなものを探していました。Anthropicは、AIの安全性について強い懸念を抱き始めていた私にとって、まさに完璧な偶然の一致でした。当時、私はThrive Capitalでまったく異なる企業に取り組むレジデントとして働いていたのですが、それが突然目の前に現れ、「これこそ自分がやるべきことだ」と思ったのです。
現在取り組んでいる中で最もエキサイティングなこととは？
ホスト：素晴らしいですね。お二人が入社して以来、AnthropicはAI企業の中で最大手に成長したと思います。公式な数字は発表されていませんが、多くの情報がリークされています。リークされた情報によれば、今は2026年8月ですが……。
ニック・マルウェル：表情を全く動かさないでおきます。
シュルト・ダグラス：全く動きません。
ニック・マルウェル：全く動きません、反応なしです。
ホスト：年間ランレートで800億ドルを超えており、猛烈な勢いで成長し、OpenAIを抜き、あらゆる企業をリードしているとされています。お二人はAIフロンティアの最先端にいますが、現在社内で取り組んでいることで、私たちに話せる範囲で最もエキサイティングなことは何ですか？ その最先端にいるというのは、どのような感覚なのでしょうか？
シュルト・ダグラス：私たちが最も生々しく進化を感じているのは、プログラミングの体験がどのように変わったかということです。18ヶ月前、私は自分のコードを基本的にすべて手打ちで書いていました。それがAnthropicに入社して数ヶ月経つと、モデルを誘導するようになっていました。数分おきに介入し、次に書くべき関数やそういったものについて指示を出していましたが、モデルがミスをしたり、脱線したりするため、数分ごとにチェックする必要がありました。
シュルト・ダグラス：そして現在の状況はというと、モデルに1日、あるいは2日分の作業を自律的に任せ、ジュニアチームのメンバーのように進捗を引っ張ってもらうことができます。この変化が、わずか18ヶ月の間に起きたのです。人間がループに張り付いていなければならないツールから、ジュニアのチームメンバーそのもののように感じられるものへと進化しました。
ホスト：では、私たちが今こうして話している間も、AIというジュニアメンバーたちがあなたたちのために懸命に働いているわけですね？
シュルト・ダグラス：ええ、その通りです。たくさんのAIが一生懸命働いています。
ホスト：差し支えなければ、彼らはどのような作業に取り組んでいるのですか？ 高水準なレベルで何か教えていただけますか？
シュルト・ダグラス：こうしたチームメンバーたちと共に、RL（強化学習）サイエンスに関する様々な作業を進めています。
ニック・マルウェル：私からは少し違った角度でお答えしましょう。これまでのモデル開発の多くは、人間がすでに得意とし、遂行能力を持っているタスクをモデルに実行させることに主眼が置かれていました。私たちが本当にやろうとしているのは、人間がすでに認知的に達成できていたことに、さらに多くのレバレッジ（てこ入れ）をもたらす能力の開発です。人間の開発者チームが同じ期間内に構築できたであろうソフトウェアを構築することなどですね。
ニック・マルウェル：今見られ始めていること、そして例えば数学における最近の成果はその良い例ですが、人々は人間の知性と人間の達成のフロンティアを押し広げるためにモデルをどう活用すべきかを模索し始めています。
ホスト：最近の数学に関するブレイクスルーのようなものですね？
ニック・マルウェル：ええ、人間が長年関心を持ちながらも解決できずにいたような、多くの新しい数学の証明が生み出されています。
ホスト：それらのいくつかを見ると、非常に頭の良い数学者が、人間には総当たり（ブルートフォース）できなかった問題をコンピュータなら十分に総当たりできると気づいた、ということのようにも思えます。私の言いたいことが分かりますか？ AIは依然として人間が使っている特定のタスクが得意なだけのように見えるものもありますが、それとも彼らが到達しつつあるのは全く新しい理論なのでしょうか？ この点についてどうお考えですか？
ニック・マルウェル：少なくとも今の段階では、人間には思いもよらなかったようなアイデアをモデルが独自に生み出している、というわけではないと思います。しかし実際のところ、いかなる進歩や知的達成も、多くの面においてそのような見え方をすることはほとんどありません。もちろん例外はありますが、社会が成し遂げたことの大部分は、単に点と点を結びつけ、先人が遺した知的成果の上に積み上げていくことに他ならないのです。
ニック・マルウェル：そして今お話しされている、異なる人々が持っていた2つのアイデアを組み合わせて新しいものを見つけ出すという行為こそが、人間の活動の基礎です。現在異なっている重要な点は、これまで起きていなかったような形で、人間のアイデア同士を組み合わせて新しいアイデアを形作っている、あるいは新しいアイデアを次々と生み出しているということです。一方で、もう一つのウェブアプリを書くことは、人類にとって新たな知的達成ではありませんでした。
AGIには到達したのか、そしてその先にあるものは何か？
ホスト：シリコンバレーにおいて、これほど急速に規模を拡大した企業はかつてありません。10倍、10倍、10倍と、明らかに猛烈なスピードで成長しています。昨夜もナパで、私が取締役を務めている別の企業の宿泊先で一緒だったのですが、60〜90日ごとにまるで別の会社のように様変わりしています。それほどのことが起きていますよね。そしてこれは、私たちの多くが実感している体験だと思います。あなたは、最も急成長している企業の中心に身を置いています。以前の生活と比べてどうですか？ここからどこへ向かうのでしょうか？ この加速は続くのでしょうか？ どう捉えるべきでしょうか？
シュルト・ダグラス：Anthropicに関して本当に良かったと感じていることの一つは、会社の急成長に合わせて私たちの野心も拡大させることができたという点です。18ヶ月前は、コードに対して狂気的なまでに集中し、何かにおいて世界最高であることを証明しなければならないというプレッシャーがありました。しかし現在、会社のミッションは「コードが得意なモデルを作る」という枠組みをはるかに超えて壮大なものになっています。会社が拡大し、収益が拡大するにつれて、さらなる高みへと挑戦するためのピースを本格的に組み立て始めることが可能になりました。
ホスト：そのミッションについてもっと詳しく話しましょう。今週初め、AI業界でシニアな立場にいる別の友人称していましたが、最初はコードと数学で世界最高にならなければならないが、その後に、次に最高になるべき新しい領域がやってくると言っていました。人間が身につけられる他のあらゆるスキルにおいても「A++」レベルに到達できるようになるというわけです。それは、多くの新しいスキルを取り込んでいくということなのでしょうか？ これからのミッションは何ですか？
シュルト・ダグラス：今後のミッションは常に、今後数年以内にAGIが実際に達成可能であるという確信に基づいています。
ホスト：それが意味するところを、私たちの視聴者向けに説明していただけますか？
シュルト・ダグラス：私たちは、あらゆる人間と同等か、それを上回る能力を持つモデルが、今後数年以内に極めて高い確率で登場すると考えています。つまり、人間がコンピュータ上でできることのすべてをこなせる存在、あるいは十分に高度なロボット工学が実現すれば、人間が物理世界で行えるすべてのことをこなせる存在ということです。
ホスト：ということは、このポッドキャストもAIの方がずっと上手になるから、私がロボットに交代してもらえるわけですね？
シュルト・ダグラス：まあ、ポッドキャストについては……。
ホスト：ブドウ畑に行きましょう。そっちの方が楽しいですから。
シュルト・ダグラス：その通りです。そして、これには莫大なメリットがあると考えています。今日の世界で行われている知的労働と物理的労働を何倍にも増幅させることが可能になります。何世紀分もの進歩を、潜在的にはるかに早い段階で手に入れることができるのです。
AIの進歩をどう測定するか
シュルト・ダグラス：しかし同時に、それは莫大なリスクも伴います。したがって、会社の真の目的は、その反対側にあるメリットを安全に享受できるように、世界をそうしたリスクの荒波から導き手（シェパード）として誘導していくことです。
ホスト：AIの波全体、そして私たちがこの波のどこにいるのかについて一歩引いて考えてみましょう。当然ながら、2020年頃にはAGIが可能になると気づいたとおっしゃっていましたね。それはちょうどOpenAIからGPT-3が発表された時期と重なります。私たちも現在「10年史（10-year ADC book）」のようなプロジェクトを進めているため、過去のメールを見返していたのですが、2020年の時点でさえ「アシスタントは全員置き換わるだろう」と冗談を言っていました。ですから、こうした変化が現実味を帯びてくるという空気感はすでにありました。
ホスト：今年初めにダリオと話した際、いくつかの指標では一部の能力が数ヶ月ごとに倍増しているとのことでした。進捗を定量化するということを、私たちはどう捉えるべきでしょうか？ 先ほど、ジュニア従業員の代わりにAIを使えるというお話しがありましたが、今後数年間でどれほど性能が向上するのかを測定する、他の指標的な考え方はありますか？
シュルト・ダグラス：ええ、多くのevals（評価ベンチマーク）が存在します。これは基本的に、人々がモデルをテストするための試験のようなものです。これらにおける進歩は極めて急速です。優れた例として、数学を例にしすぎるのは避けたいですが、数学はある意味で最良の例かもしれません。様々な分野の教授陣が集めた問題セットに対し、正答率が0%だった状態から、昨年1年間だけであっという間に40%、50%、60%を大きく超える水準へと達しました。これは「FrontierMath」と呼ばれるevalです。
ホスト：反証可能性（falsifiable）のあるものが必要ですよね。イテレーション（反復）を重ねる対象が必要です。例えば、Instagram上の女性に話しかけさせて、デートに応じてくれる確率を一定数引き出す、といったことは評価基準にできますか？
シュルト・ダグラス：なるほど。それを訓練データにするというのは、ある意味で無邪気な発想ですね。
ホスト：ちなみに私は既婚者ですので、自分自身のためではありませんよ。
シュルト・ダグラス：私たちはそのデータで訓練はしていませんが、一つの例としては面白いですね。
ホスト：そういった類いのものは、特にサンフランシスコの友人たちの一部にとっては非常に役に立つかもしれませんね。
シュルト・ダグラス：モデルが向上する方法には2つの経路があります。1つは、インターネット上の膨大なテキストのコーパスを学習すること。そして2枚目のカードである第2の形態が、私たち2人が取り組んでいる強化学習です。これは、解法が示された問題に取り組み、正解にたどり着いたかどうかを検証するものです。これこそが今おっしゃっていた話ですが、数学やコンピュータサイエンスにおいては非常に簡単に行えます。しかし、ロマンスや詩、その他の分野ではかなり難しいのです。
ホスト：そうですね。
シュルト・ダグラス：だからこそ、数学やコンピュータサイエンスは他のどの分野よりも圧倒的に速く進化してきたのです。しかし、他の問題もこの枠組みに落とし込むことは、それほど難しくないと考えています。
ニック・マルウェル：ええ。ある意味で、なぜ数学やコンピュータサイエンスが最初に来たのかについての技術的な説明は確かに存在します。同時に、これが起きた理由には社会的背景もある程度あると考えています。つまり、主に数学やコンピュータサイエンスのバックグラウンドを持つ人々を集めて「知能を作ってくれ」と頼んだわけですから、彼らが最初に作りたいと思った知能が自分たちの理解しているドメインのものであるのは当然のことです。なぜなら、自分たちが最も興味を持っていますし、その方がはるかに簡単だからです。
ニック・マルウェル：優れたモデルを訓練しようとするとき、モデルが実際に何をしているのかを読み解き、その結果としてどれほど有能になっているのか、どのような点に注力すべきか、どの領域を改善する必要があるのかを理解することに、どれほどの時間を費やしているか驚くほどです。自分が専門家であり、何が起きているのかを完全に理解しているドメインであれば、それははるかに容易に行えます。
ホスト：それについて考えるとき、AIを擬人化してしまいますか？
ニック・マルウェル：個人的にはしていないと思います。しかし、おそらく擬人化している人たちもいますし、Anthropicの中にもそういう人は確実にいるでしょう。
ホスト：私たちの脳はある意味でプログラミングされています。目の前にいる人物を認識し、その人の感情を推測して会話するために、相手の感情をミラーリングするように設計された脳の領域が存在します。ですから、知能を別の知能として扱うように進化の過程で組み込まれた仕組みが私たちには備わっています。これを日々の仕事で扱っているときに避けるのは難しいように思えますが。
シュルト・ダグラス：これは、AIを「ツール」として捉えるか「エンティティ（主体）」として捉えるかというフレーミングを巡る、おそらく最大級の議論の一つです。個人的には、「エンティティ」という枠組みは非常に有用だと考えています。ツールであれば、常に人間が手で使っています。しかしこうしたモデルの場合、私たちが実際に行っているのは、非常に知的な存在を取り出し、ある意味で世の中に解き放ち、私たちの代わりに彼らに行動させるということです。そのため、その理由からこれをエンティティとして捉える方がより有益であることが多いのです。
生物学は次の偉大なフロンティアなのか？
ホスト：私たちがこの知能にやらせるべきでありながら、まだやらせていないカテゴリーや領域はありますか？ AIをこれらの他の領域でもっと活用していく上で、お二人がエキサイティングだと感じていることや取り組んでいることはありますか？ それらはどのような領域でしょうか？ やはり最大のものは生物学ですよね？
ニック・マルウェル：ええ。それは、「モデルがすでに得意としていながら単に活用しきれていないスキル」について尋ねているのか、それとも「モデルの将来の展開において最もエキサイティングな領域はどこか」という質問なのかによって変わります。後者の質問に関して言えば、今後6〜24ヶ月の間にモデルがソフトウェアエンジニアリングで見せたようなインパクトを本当に発揮し始める領域として、なぜ生物学が私が最もエキサイティングだと考える分野なのか、さらに深く語ることができます。単に広く採用されるという意味だけでなく、そこから生まれる社会的利益が非常に広範囲にわたり、かつ極めて強力なものになるからです。
p>ホスト：病気の治癒や、私たちの健康増進、そして寿命の延伸ですね。20年前のノーベル賞受賞を皮切りに私たちが発見しつつある、寿命に結びついたエピジェネティクスに関するあらゆる奇妙な仕組みが存在するようです。ベイエリアの私たちの友人の多くが関連企業を立ち上げています。こうした仕組みをどう引き起こすか、身体の特定の部分をどう若返らせるかを見つけ出すために、何十億ドルもの資金が投じられています。AIがその進歩において決定的な役割を果たすと考えていますか？ニック・マルウェル：AIはライフサイエンスにおいて、間違いなく私たちの世代で最も重要なテクノロジーとなり、おそらく史上最も重要になるでしょう。実際、AIが有用な知的ツールになり得るかどうかということよりも、これを活用するために必要な物理的・実験室的インフラが私たちに揃っているかどうかの方をより心配してしまうほど、私はその可能性を確信しています。
ホスト：3年前であれば、例えばもっと多くのコンピュート（計算資源）を構築しておくべきでしたね。私たちはこのことについて話しすぎているかもしれません。誰かがあなたたちのために、もっと多くの実験室スペースを作ったりするべきなのでしょうか？
ニック・マルウェル：そう思います。そして、これが重要となる軸はいくつかあります。1つの軸は文字通り、どれだけの実験室スペースがあるかという点です。しかし同時に、米国にある実験室の質に関するいくつかの指標を見ると、中国のような場所に明らかに遅れをとっているという現実もあります。アメリカのサプライチェーンと実験室の複合体を再び世界最高水準のゴールドスタンダードへと引き戻す方法を考えることは、人々が取り組むべき偉大な社会インフラプロジェクトの一つであると言えます。
シュルト・ダグラス：これが生物学の進歩におけるレートリミッター（ボトルネック）になるでしょう。
ニック・マルウェル：ええ。
p>ホスト：なるほど。では、ポッドキャストが終わったらそれを解決しに行きましょう。それは良さそうなアイデアですね。国防総省からサプライチェーン用の資金をもらって、実験室をいくつか建てましょう。キャリアのアドバイスと「ジェネラリストの10年」
ホスト：私たちがAIの波のどこにいるのかという話から少し引いて、もしあなたが新卒の学生や労働市場にいる人間だとしたらどうしますか？ あなたはAnthropicにいないし、シリコンバレーの中心にもいない。しかし、頭が良くて野心的であるとします。今後数年間で自分たちに起きることを踏まえて、キャリアをどのように考えるべきでしょうか？
ニック・マルウェル：私たちがたどり着く可能性のあるシナリオはいくつか存在します。Anthropicは、自らが世界にもたらすリスクについて語る責任を負っていますが、そのリスクの一つとして、私たちは失業問題について実際にかなり懸念しています。しかし同時に、このテクノロジーが世界に浸透するまでに十分な時間がかかるため、実際のところ、このテクノロジーの普及に関与する機会が山ほど生まれ、それがあなたのキャリアを定義するものとなる10年、あるいは20年の期間が存在するようなシナリオも十分にあり得ると考えています。
ニック・マルウェル：私が周囲の人々――現在大学にいてまさにこの疑問について考えている私の弟にも言っていることですが――もし私たちがそのようなシナリオにいるのであれば、次の10年は、多くの意味において「ジェネラリスト（多領域に通じた人材）のための時代」になるだろうということです。過去20年あるいは50年間における素晴らしいキャリアの築き方の多くは、非常により価値が高く市場性のある特定の一連のスキルを持ち、他の人々に依存するというものでした。
ニック・マルウェル：しかし今や、誰もが1,000人規模の企業に匹敵するパワーを背後に持つようになります。本当に意味を持つのは、「解決すべき問題は何か」「商業的観点、社会的善の観点などから、どうすれば自分のコミュニティをより良くできるのか」を最も的確に理解し、その変化をもたらすことができる人々です。したがって、問題の選定（プロブレム・セレクション）といったスキルが決定的なものになるでしょう。
ホスト：あなたは「解決すべき問題は何か」「どうすれば自分のコミュニティをより良くできるのか」と言いました。ユダヤ人である私の世界観の根本的な背景の一つに、週6日は世界を修復（ティクン・オラム）し、安息日である休日は完了したふりをする、という教えがあります。私たちの主要な宗教の多くも似たような教えを持っていますよね。そして私の楽観主義は、私たちの周囲の人々と共に、コミュニティと共に、私たちが修復し、助け、修正すべきことが常に存在し続けるという点にあります。私たちがユートピアにいると信じない限り、人々がやるべきことは常になくならないのです。それは楽観的な枠組みだと思います。
ニック・マルウェル：まったくその通りです。
シュルト・ダグラス：ええ、私たちとユートピアの間には、まだまだやるべきことが山ほどあります。
ホスト：その通りです。その宗教の根本的な含意は、メシアが到来するまではここがユートピアになることは決してないということであり、だからこそ私たちは物事を修復し続けなければならないのです。そしてそれは非常に前向きなことです。
何がうまくいかないのか？ AIの最大のリスクとは何か？
ホスト：お二人が楽観主義者であり、多くのポジティブな側面があることは分かっています。しかし、まずは懸念事項についても掘り下げたいと思います。なぜなら、多くの人が最も好奇心を抱いているのはそこだからです。もちろん海岸沿い（沿岸部）では、自分たちのコミュニティの周りで本当にポジティブなことが次々と起きているのを目にしています。私たちの友人はかつてないほどのスピードで企業を立ち上げています。少なくとも私がサンフランシスコに来たときや、ニューヨークに行ったとき、さらにはテキサス州オースティンで行っている活動においても、そこには非常に前向きなエネルギーが満ちています。
ホスト：しかし、国内のその他の地域の人々の多くは、自分たちのビジネスや生活への脅威を感じているように思います。それは恐ろしいことです。彼らは、あなたたちがこれを悪用して世界を征服するような狂人ではないと確信できていません。人々は見落としているものは何でしょうか？ 私たちが懸念すべき妥当な「悪いシナリオ」はあるのでしょうか？ 彼らが恐れている悪いシナリオは間違っているのでしょうか？ この問題についてどう考えていますか？
シュルト・ダグラス：人々の懸念は極めてもっともなものだと思います。私たちが懸念している大きなカテゴリーはいくつかありますが、そのすべてにおいて、今後数年間に正しい行動を取れば、2030年代には劇的に優れた世界に行き着くことができると私たちは考えています。
シュルト・ダグラス：それらのカテゴリーとは、すでに言及した「失業問題」がその大きな一つです。これについては、なぜそれがリスクだと考えるのか、そしてそれに対して何をすべきなのかについて長い議論を行うべきです。また、バイオやサイバーのリスクといった、まさに今まさに今年起きつつある、より差し迫った短期的な懸念も存在します。
ホスト：そこには厄介な問題も色々あって、例えば「細胞のミトコンドリアについてAIに質問できなかった」という古典的な事例でAnthropicが笑いものにされたりしました。実際には、そういう質問にも答えられるべきだし、単に生物兵器の製造などを手助けしなければいいだけの話なのに、というケースです。
p>シュルト・ダグラス：それは間違いなく許可されるべきことです。しかし私たちは、誰もそれらを使って生物兵器を作ることができないという確信を持てるようなインフラをまさに構築しているところです。ニック・マルウェル：ええ。バイオやサイバーのような分野で信じられないほど難しいのは、これらが本質的に「デュアルユース（軍民両用）能力」として知られている点です。サイバーは最も理解しやすい例でしょう。私がClaudeにプロンプトで「ここにコードベースがあります。脆弱性をすべて見つけてください」と言った場合、それは私がそのコードベースの所有者で防御を固めようとしているのと全く同じ確率で、私が侵入方法を探している攻撃者である可能性もあります。
ホスト：ええ。
ニック・マルウェル：これこそが、サイバーや、同様のデュアルユースの特性を多く持つバイオの取り締まりを根本的に難しくしている要因なのです。
p>ホスト：細胞内の特定の標的を狙おうとしているとき、それは99.9%の確率で、癌などを取り除くためにそれを破壊しようとしている善意の試みである可能性が高いですが、極めて低い確率で、恐ろしい何かを標的にしようとしている可能性もあります。ニック・マルウェル：その通りです。だからこそ私たちは、善意の主体（グッド・アクター）がこうしたテクノロジーを利用でき、悪意ある者（バッド・アクター）が排除されるようにするための様々な取り組みを進めています。しかし私たちの一般的な感覚としては、悪意ある者が有害なことを行うのを防げるようになる前に、こうしたテクノロジーを世の中にリリースすべきではないということです。
ホスト：実際に、Anthropicのものではなく、中国のオープンモデルをアフリカなどのテロ組織が利用して、これまで知らなかった特定の爆弾をより簡単に作る方法を割り出すといった事例が確実に起きています。モデルがあまりにも優秀なため、彼らが自力ではそれほど賢くなかったとしても手助けしてしまうわけです。恐ろしい用途が存在します。しかし同時に、私のバイアスとしては、全体として知能が高まれば、より多くの人々がその恐ろしい用途を理解し、それを阻止するためにも知能を使えるようになるはずだ、ということです。そこにはトレードオフが存在します。
シュルト・ダグラス：ここで私たちが議論すべき大きな力学の一つは、ある領域が「オフェンス（攻撃）優位」なのか「ディフェンス（防御）優位」なのかという点です。
ホスト：その通りです。
シュルト・ダグラス：現在、サイバーとバイオはいずれもオフェンス優位です。しかし、今後2年間でサイバーはディフェンス優位に転換すると考えています。
ホスト：誰もが知能にアクセスして自分自身をハッキングし、防御を構築できるようになれば特にそうです。
シュルト・ダグラス：まさにその通りです。先回りして自分自身をハッキングし、防御を固め、すべての脆弱性にパッチを当てることができるため、最終的にははるかにサイバーセキュリティの保たれた世界に行き着くことになります。
p>ホスト：誰もがすでに知能にアクセスでき、どうやって侵入されるかを自ら突き止める。それこそ私たちが事前にやっていることです。私の友人の一人が、ペンタゴンや銀行から要請されて依頼を受け、システムの脆弱性を突いて侵入するのを手伝ったと言っていました。しかし彼らは新しいAIを使っています。なぜならAIがあまりにも優秀だからであり、だからこそ今や誰もが迅速に行動しなければならないのです。オフェンス対ディフェンス：テクノロジーの進化
ホスト：一歩引いて考えてみましょう。オフェンスとディフェンスの構図は非常に興味深いですよね。これは人類の歴史において何千年も存在してきた概念であり、大きく変化してきました。私はかつてヨーロッパで競い合っていた非常に自由な都市国家の大ファンであり、これは素晴らしいことでした。ある都市国家が何か間違ったことをしていれば、別の都市国家に行くことができたからです。
ホスト：しかし不運にも、大砲を持った連中が現れました。彼らは城壁をいとも簡単に打ち破り、巨大な帝国を築き上げました。その結果、もはや都市国家を離れて逃げ出すことはできなくなり、有無を言わさずその支配下に置かれることになりました。このように、オフェンスとディフェンスの力学が入れ替わる時代はこれまでにも何度かありました。
ホスト：そして私も同意します。現在のサイバーは、人々が恐怖を抱くほどに圧倒的にオフェンス優位な状態です。聞いている皆さん、もしあなたがAIを使って自分のシステムに挑戦するという最先端の取り組みをしていないなら、おそらくシステムは突破され、相手は非常に悪質な人物かもしれません。ですから現在は恐ろしい状況です。しかし適切に使用されれば、サイバーはやがてディフェンス優位に移行し得ると私も同意します。
ホスト：AIには一つの懸念があります。私の恐れの一つは、世界には「あまりにも圧倒的にオフェンス優位なもの」が隠されているのではないかという点です。例えば――私はそう信じていませんが――十分な知能を持ち、世界中を食いつくす自己複製ナノボットをたった一人の天才が作ってしまい、それが世界を食いつくして人類が全滅してしまうようなケースです。繰り返しになりますが、それが起きるとは思いませんが、圧倒的にオフェンス優位な性質を持つ何かが見つかった場合、それを早期に発見するために知能を確実に使わなければなりません。
シュルト・ダグラス：その通りです。そして実際、生物学は、私たちが世界をディフェンス優位にするために膨大な労力を注ぎ込むまでは、圧倒的にオフェンス優位です。生物学に対して世界をディフェンス優位にする方法は存在しますが、それには数百億ドル規模のインフラが必要です。2030年代にロボット工学が劇的に進歩して構築を支援してくれるようになるまでは、それは非現実的なことではありません。
p>ホスト：現在はオフェンス優位であるという意味において、非常に恐ろしい時期ですね。私たちはこれをディフェンス優位にしたいと考えています。私の見解では、解決策は、こうしたものをあまり秘密主義にせず、むしろ広く公開することです。一握りのグループが秘密裏に行うのではなく、多くの人々が知能を使ってあらゆるものに挑戦することが望ましいと考えています。シュルト・ダグラス：その点については全面的に同意します。
規制の囲い込み（レギュラトリー・キャプチャー）批判への反論
ホスト：Anthropicは概ね非常に賞賛されています。同時に、どのような企業であれ、私は90年代のマイクロソフトになぞらえて考えています。業界のチャンピオンになると、人々は嫉妬し、あなたを攻撃します。その攻撃の中には、嫉妬心やあなたが圧倒的なオーラを放って支配していることによるものもあれば、正当な批判が含まれている場合もあります。私の非常に優秀な友人たちの多くは、Anthropicが好ましくない「規制の囲い込み（レギュラトリー・キャプチャー）戦略」を企んでいるという印象を持っています。これにどう反論しますか？
ニック・マルウェル：ここでは議論すべきことがおそらく2つあります。1つは、現在進行中のオープンウェイト（オープンソースモデルの重み公開）論争に結びついた、規制の囲い込みという物語の台頭です。そしてもう1つは、仮にAnthropicが非常に自分勝手な目的で規制の囲い込みをやろうとしていたとして、本当に今のようなやり方を選ぶだろうかという疑問です。
ニック・マルウェル：1つ目の点について言えば、物事の詳細に立ち入っていない場合、「オープンウェイトは私たちが維持したい重要な公共財（パブリック・グッド）のテクノロジーであり、Anthropicのビジネスの一部にとって自然なライバルであるため、Anthropicは規制を利用してオープンウェイトの開発者を潰そうとしている」と解釈することは、必ずしも不合理ではありません。歴史的に、オープンウェイトやオープンソースのコミュニティは規模が小さく、資金力も乏しく、規制システムを切り抜けるのに苦労してきたからです。
ニック・マルウェル：しかし、オープンウェイトに関して起きているのはそういうことではありません。オープンウェイトモデルを推進、開発し、提供している人々が誰であるかを見れば、それは大部分が世界でも最も巨大な企業たちです。米国では、Nvidia、Amazon、Microsoftといった企業がオープンウェイトのフロンティアを押し進めています。さらに、中国のラボなどをとっても、これらは極めて潤沢な資金を持ち、今やますます公的資金が入ったラボがこれを推進しています。つまり、これらはオープンウェイトモデルでありながら、規制環境を十分に切り抜ける能力を持つ企業なのです。
ニック・マルウェル：したがって、オープンおよびクローズドなモデルに関するある種の規制が存在することが、クローズドモデルの開発者に対して不当に有利に働く形で、オープンウェイトの開発者のスピードを不当に遅らせるものになるとは特に懸念していません。
ニック・マルウェル：この問題のもう一つの側面は、より直接的なものです。もし本当に自社の利益だけに有利な形で規制の囲い込みを行おうとしていたとしたら、Anthropicがこれまで選んできた一連の行動を実際にとったかどうかは極めて疑問です。その非常に良い例が――他にもいくつかあるでしょうが、シュルトも何か念頭にあるかもしれませんが――「Fable」を巡る出来事です。純粋な経済的動機の観点からFable、あるいはその前のMythosについて考えると、当時Anthropicは、世界で圧倒的に最高のモデルを保有していました。その時期、どのラボもそれに近いモデルすら持っていなかったのです。
p>ニック・マルウェル：しかしAnthropicは、モデルにおける数ヶ月間のリードを維持して「他のラボが我が社と競争できるか」という疑問を完全に葬り去ることもできたにもかかわらず、政府が快適と感じる方法でそれを展開するために政府と協力する道を選びました。これは企業の経済的利益の観点からは明らかに悪手でしたが、モデルがどのように展開され規制されるべきかという私たちの価値観に合致したものでした。 p>ニック・マルウェル：したがって、これは経済的利益のための規制の囲い込み戦略ではありません。それは、「重要かつ潜在的に危険なテクノロジーが開発・展開される方法において、政府は非常に重要な役割を果たすべきである」という考えに基づいた戦略です。そして、フロンティアにいる企業として、政府がそれについて十分に情報を得てプロセスに参加できるようにすることが私たちの責任であると考えています。そうでなければ、一体誰が全員を代表するというのでしょうか？ p>ホスト：興味深いことに、この政府には非常に賢い人々が少なからずいる一方で、何をやっているのか全く分かっていない人々も大勢います。その結果として愚かしい状況が生じます。例えば――これは私には言えてもあなたには言えないかもしれませんが――私の理解では、Anthropicは本来、人々が防御のために活用できたはずのより高度なサイバー能力を持っていたにもかかわらず、政府にモデルのリリースを許可してもらうためにそれらの能力が「ナーフ（弱体化）」されたのであり、私はそれは間違いだったと考えています。 p>シュルト・ダグラス：彼らは、私たちの歴史において極めて重要な役割を果たしてきた、古典的なアメリカの官民パートナーシップ（Public-Private Partnership）に傾倒しているのだと思います。私たちは、政府が世界中のあらゆる主題について最も知識と能力を備えた機関でなければならないような仕組みで作られているわけではありません。私たちが実現したいのは、政府がAnthropic、OpenAI、Metaその他あらゆる企業とどのように関わり、理解し、その上で規制をどう決定すべきかを判断できるような、素晴らしい官民パートナーシップを築くことです。 p>ホスト：そして、「ダリオは自分がそのプロセスの支配者の一人になるために、みんなを怖がらせてより多くのルールを作らせ、スピードを落とそうとしているだけだ」と言っている、より懐疑的なテックリーダーたちに対しては何と答えますか？シュルト・ダグラス：これまでのところ、私たち自身が誰よりも自らのスピードを落としてきました。実際、オープンモデルのプロバイダーであるOpenAI、DeepMind、Anthropicが協調し、モデルをリリースする前に満たさなければならない安全性基準を実際に設けるべきだというデミス（・ハサビス）の提案に関する議論を見ればわかるように、これは私たちの原則ゆえに自らのスピードを落とそうと議論している私たち自身の姿です。さて、オープンソースに対する全体的なスタンスについても、ここで明確にしておくべきでしょう。
オープンソースに対するAnthropicのスタンス
ホスト：実際のスタンスはどうなのですか？
p>シュルト・ダグラス：個人的に、私たちはオープンソースを非常に強く支持しています。それが世界に存在することは非常に良いことだと心から信じています。私自身、オープンソースモデルを使って機械学習のやり方を学びましたからね。同時に、多くのリスクが存在し、将来に向けてリスクが増大していくことも信じています。したがって私たちが信じているのは、社会全体としてリリースを容認できると感じる水準（スレッショルド）についての基準が存在すべきだということです。もしモデルがサイバー攻撃を行えるなら、どの程度の能力の閾値までなら容認できますか？ クローズドモデルもオープンソースモデルも、同じ基準を満たすべきだと私たちは考えています。それさえ満たせば、人々は何をやっても自由であるべきです。 p>ホスト：中国がどうせ誰もが使えるような適当なものを次々とリリースするのであれば、そんなことを試みる価値はあるのでしょうか？ 同様に、私たちが恐怖から過剰に規制してしまい、中国は規制せず、結局問題が起きて彼らが先行してしまう確率はどのくらいあるのでしょうか？ この点についてどう考えていますか？ p>シュルト・ダグラス：理想的な世界とは、中国とも実際に協力し合える世界です――つまり、中国だて自国へのサイバー攻撃など望んでいないわけですから。 p>ホスト：しかし私の印象では、彼らは私たちに対するサイバー攻撃を望んでいると思いますが。スピードを落として中国を先行させるか？
シュルト・ダグラス：おそらく彼らは自国へのサイバー攻撃は望んでいないでしょう。それは公平です。理想的な世界とは、その点について彼らと協力できる世界です。しかしそれは難しいことです。AIの能力が猛烈なスピードで前進し続ける中で、今後数年間における最も困難な課題の一つとなるでしょう。これにより、バイオ、サイバー、雇用など、さまざまな理由から多くの人々が非常に居心地の悪さを感じるようになります。その結果として、データセットの凍結といった押し戻しがすでに起きています。
シュルト・ダグラス：これは、他の関係者と協調し、相手がその合意を守ると信頼できない限り、一時停止（ポーズ）することが非常に難しくなる議論の一つです。
p>ホスト：しかし中国は一時停止しません。では、アメリカのスピードを落とし、中国を先行させるようなシナリオはあり得ますか？ p>シュルト・ダグラス：私たちが受け入れられるようなシナリオにおいて、アメリカのスピードを落とし、中国を先行させるようなものは存在しないと考えています。 p>ホスト：それは、私たちがコントロールできる範囲内では唯一の選択肢に見えますが。シュルト・ダグラス：ええ。スピードを落とすいかなるシナリオであっても、すべてのカウンターパーティを完全に信頼できる形で完全に協調していなければ成り立ちません。基本的に、アメリカのスピードを落とすような方法はあり得ません。
蒸留（ディスティレーション）に対するAnthropicの見解
ホスト：他の人々の考えに比べると、あなたは意外にもオープンソース寄りの姿勢を示していますね。それは良いことですし、あなたの人生にもプラスの影響を与えました。しかし、オープンソースの中には、人々があなたたちからモデルを「盗んでいる」ように見えるものもあり、もし私があなたなら非常に腹が立つでしょう。それは蒸留（ディスティレーション）と呼ばれています。多くの人々は「なぜAIの頭を使ってすべてを監視し、賢く阻止しないのか？」と言います。なぜ蒸留を阻止できないのですか？ それについてどう感じていますか？ 何が起きているのですか？
シュルト・ダグラス：一方で、蒸留については議論すべき点がいくつかあります。1つは、「そもそもなぜ私たちは蒸留に反対しているのか？ 蒸留は良いことなのか悪いことなのか？」という点であり、もう1つは「それが悪いと思うなら、なぜ阻止できないのか？」という点です。
シュルト・ダグラス：2つ目の点について締めくくると、そこにはイタチごっこが存在します。人々はモデルへの多大なアクセスを求めています。出力を検査したいですし、ローカルコンピュータで実行したいですし、思考の軌跡（シンキング・トレース）を見たいと思っています。しかし、提供するアクセスが増えれば増えるほど、蒸留は容易になります。そのため、ツールや製品をどれほどオープンにするかと、どれほど簡単に蒸留できるかという点の間には、実質的にトレードオフが存在するのです。
ニック・マルウェル：そして1つ目の点、つまり「そもそもなぜ私たちは蒸留に不快感を覚えるべきなのか」についてですが、私が普段考えているのはこういうことです。私たちがAIに前進してほしいと願うのは、より賢いモデルを手に入れていることが世界のあらゆる素晴らしいことにつながると信じているからです。しかし、蒸留は現在の能力のフロンティアの先へと連れていってくれるような手法ではありません。
p>ホスト：それは単なるコピーにすぎませんから。ニック・マルウェル：コピーにすぎません。問題なのは、次のフロンティアに到達するには莫大な先行資本投資が必要であるという点です。今日のことではなく将来を見据えれば、100億ドル、1000億ドル、1兆ドル規模のトレーニングランが行われる体制に入ることになります。そして、その種のR&D（研究開発）投資を支えることができるのは、自分が投資したものを販売して利益を上げられる場合に限られます。
ニック・マルウェル：問題は、もし他の誰もがわずかなコストであなたのモデルを取り込み、それをコピーして1、2週間で公開できるようになれば、彼らは莫大なR&Dの負担を背負っていない分、経済的に優位な競合相手になってしまうという点です。したがって、フロンティアでの進歩を望むのであれば、これらのモデルを訓練している人々のIP（知的財産）と権利を保護しなければなりません。
ニック・マルウェル：人々はこの状況を創薬（ドラッグ・ディベロップメント）と比較することがよくあります。しかしAIは非常に興味深い特性を持っています。なぜなら、蒸留からの保護は、創薬におけるIP保護の良い部分の多くをもたらしつつ、悪い部分のいくつかを回避できるからです。良い部分とは何か？ IPを保護した結果として、米国でより多くの創薬が行われるようになるという点です。
p>ホスト：利益を出せなければ、創薬に投資することは明らかにできませんからね。 p>ニック・マルウェル：その通りです。悪い部分のいくつかは、その結果としてコストが極めて高くなるという点です。AIの興味深いところは、創薬のように10年以上にわたって（確か20年や30年だったと思いますが）そのような保護が与えられるのとは異なり、AIにおける知能は信じられないほどデフレ的であるという点です。なぜなら、フロンティアの賞味期限は「数ヶ月」単位で計測されるからです。つまり、6ヶ月ごとに、確かにフロンティアの訓練には多額のコストがかかりますが、フロンティアの後方に位置するもの――6ヶ月前にはフロンティアだと感じられたものすべて――は、フロンティアがさらに前進したという事実によって、圧倒的に安価なものへと変わります。これはトレーニングが進化する仕組みのひとつのアーティファクト（副産物）です。 p>ニック・マルウェル：したがって、私たちがこれまで置かれてきた体制の下では、多くの良い面をもたらし、大部分の悪い面を回避することができます。これは、特定のレベルの知能にかかるコストを見れば非常に具体的にわかります。Artificial Analysisなどの数多くのevalダッシュボードを見れば、まさにこのトレンドラインが示されています。毎年およそ10分の1のコストに低下しているのです。年を追うごとに安くなっています。信じられないほどのデフレ的傾向が存在し、ちなみにこれは蒸留なしでも、テクノロジーの自然な進歩だけで起きています。 p>ホスト：もちろん。そして誰かがそれをコピーできるというのは直感的に不公平ですし、全員がそれをやったらシステム全体が破綻してしまいますよね。 p>ニック・マルウェル：ええ。ホスト：では次の質問ですが、自分の作ったものがすぐに陳腐化してしまうというのは、非常にクレイジーなビジネスモデルではないですか？ ある意味で、1年も経てば――いや確実に6ヶ月もすれば――勝利し続けるためにはフロンティアを常に前進させ続けなければならないように思えますが。
シュルト・ダグラス：勝利し続けるためにはフロンティアを前進させ続けなければならないと感じられます。そしてこれは、私たちの一般的な世界観において非常に重要な部分です。実際、AIが世界経済に浸透している度合いはまだごくわずかです。AIの総収益は、何十兆ドル規模の経済の中でおそらく1000億ドルを少し超えた程度にすぎません。しかもそれは、このテクノロジーの結果として経済が劇的に成長しないという前提に立った場合の数値であり、私たちは実際には大きく成長すると予想しています。
シュルト・ダグラス：ですから、このフロンティアが存在するのです。多くの意味において、フロンティアのすぐ後ろにあるレベル、すなわちレギング・エッジ（遅れをとった周縁部）は様々な面でコモディティ化（汎用品化）していくと考えられますが、その一方で、リーディング・エッジ（最先端）にはさらに大きな価値が生まれます。
ニック・マルウェル：リーディング・エッジには、計り知れないほど莫大な価値が存在します。私たちはこれを「知能に対する指数関数的経済リターン」と呼ぶことがよくあります。自分が達成できる知能の限界単位ごとに、その価値は、その前に来た単位よりも指数関数的に大きくなるのです。私たちはすでにこれが起きるのを目撃しています。コーディングのような分野を見ると、人間に少しでも役立ったコーディングにおける最初の知能単位は、タブキーによるオートコンプリートでした。そしてそこから、Claude Codeを用いてターミナル内でエージェント型コーディングを現実のものにした次の限界単位へと移行しました。これは10万倍も価値の高い能力でした。
ニック・マルウェル：したがって、その後ろでタブオートコンプリートがコモディティ化したとしても――現時点でタブオートコンプリート単体に基づく企業を立ち上げることすらできません――次なるインクリメンタルな知能の単位は、極めて高い価値を持ち続けるのです。
p>ニック・マルウェル：数年前にAnthropicについて考えていた当時、これは私にとって非常に直感に反するものでした。この世界に生きる人間として他のあらゆる経験から得た私の直感では、「指数関数的成長はそれほど長く続かない」というものだったからです。ですから、「ああ、これは数年間は非常に価値があるだろうが、いつの日か指数関数的な伸びは止まるはずだ」と考えていました。ある意味で、これは極めて楽観的であることを要求されます。なぜなら、コーディングのタブ補完からエージェント型コーディングへと移行し、そしてエージェント型コーディングよりも価値のあるものとは何だろうか――例えば、癌の治癒かもしれません――と信じ続けなければならないからです。 p>ニック・マルウェル：そしてその間であっても、世界中のどんなソフトウェアエンジニアよりも優れた、完全にドロップイン（代行）可能なソフトウェアエンジニアが手に入り、それが驚異的な安さで提供されるようになります。さらに、あらゆる種類の雑務を手伝ってくれるエグゼクティブ（幹部アシスタント）も手に入ります。ですから、人々の間で「おい、これは単なるコモディティ化を招くのではないか？」という議論が交わされる頃には――完全なコモディティ化の希望が見え始めるその時点までに――経済全体が根本的に変革されているのです。その時点では文字通り、経済全体の知的・物理的活動のすべてがAIによって行われているわけです。 p>ホスト：そしてそれはおそらく、はるかに、はるかに巨大な経済規模になっているでしょう。もしAnthropicがそれを牽引しているのであれば、それは明らかに何兆ドルもの価値があります。ニック・マルウェル：その通りです。
ポスト・スケアシティ（希少性のない）世界は達成可能か？
ホスト：なるほど、つまり私たちはみんな大金持ちになるわけですね。冗談です。明らかに多くの懸念事項はありますが、お二人は楽観主義者です。では、なぜ私たちはこれほど急速にこれを推し進めているのでしょうか？ その理由をもう一度思い出させてください。ここで何が起きているのですか？ あなたたちは何のために戦っているのですか？
シュルト・ダグラス：なぜ私たちが懸念を抱いているのかという点に立ち返りますが、それは、人間にとって代わる「ドロップイン」な存在が手に入るからです。人間がコンピュータ上でできることのすべてにおいて人間と同等の能力を持ち、ロボットが手に入れば、物理世界でのあらゆることにおいても人間と同等の能力を持つ存在が誕生します。しかし同時に、それは巨大でラディカルな改善をもたらします。私たちの人口規模では次の数世紀を要したであろうテクノロジーの発展を、今後10年、あるいは数十年へと圧縮できることを意味します。
ホスト：航空宇宙分野ですでにこれを目の当たりにしています。飛行機の設計プロセスが非常に高速化しているため、2040年代に手に入ると予想されていたような非常に高度な航空機を、今後数年のうちに目にし始めることになるでしょう。本当にクールですね。
シュルト・ダグラス：その結果として、人類の生産的な知的・物理的キャパシティを継続的に拡大させ、潜在的に倍増させていくことが可能になり、真のポスト・スケアシティ（希少性のない）世界へと到達することが本当に可能になります。これは、あらゆるものが文字通りエネルギーのコストにまで引き下げられ、住宅の建設コストすらエネルギーのコストにまで低下する世界です。
p>ホスト：中流階級の誰もが、望むなら巨大な家に住めるようになるわけですね。 p>シュルト・ダグラス：その世界では、文字通り自分の欲しいものを何でも手に入れることができます。 p>ホスト：山に行って50万スクエアフィートの家を建てても、それが中流階級のスタンダードになるわけですね。 p>シュルト・ダグラス：その通りです。私たちが今日持っているものが何世紀前の王たちにとっても想像できなかったのと同じように、それは中流階級のスタンダードになるでしょう。あらゆる病気が治癒され、おそらく老化も克服され、寿命の延伸が解決された世界です。地球上のすべての人が、今日の世界の最富裕層ですら手にできないレベルの豊かさを手に入れられる世界、それこそ私たちが戦っている世界です。 p>シュルト・ダグラス：しかしそれは非常にトリッキーな世界でもあります。なぜなら、そこに至る道筋を正確に航海する必要があるのと同時に、莫大な不平等に陥らないような形で、その世界で得られる収益をどのように分配すべきかを考えなければならないからです。利益が、たまたまプレ・エグジスティング（既存）の世界で資本を所有していた人々にだけ流れ込むのではなく、誰もが望むならばその豊かさを享受できるようにしなければなりません。したがって、その恩恵をどう分かち合うかという大きな社会政治的疑問が存在します。 p>ホスト：とはいえ、「すでにその場所に到達した」と仮定してしまうことで犯してしまう間違いもたくさんありますよね。なぜなら、現在の労働の尊厳はリアルなものですから。 p>シュルト・ダグラス：私たちはまだそこにいません。そこには程遠い状態です。しかし、このテクノロジーに正しい方法で投資すれば、そこに到達するチャンスが生まれます。ですから、今日のトレンドラインを少し先まで延長してみましょう。過去4、5年の間に、私たちはAIに捧げられるコンピュート・キャパシティを毎年2倍から3倍に拡大させてきました。ハイパースケーラーたちは協力して、今年およそ1兆ドルをAI関連の設備投資（カペックス）に費やしています。 p>シュルト・ダグラス：非常に興味深い疑問となるのは、そのトレンドラインが維持されるかという点です。来年には2兆ドルに達し、2028年には4兆ドルになるのでしょうか？ もしそのトレンドラインがおおむね維持され、ロボット工学などを含むより広範な産業へとそれを拡大させることができるならば、それは2030年代初頭あたりに、人類のGDPを実質的に倍増させるポイントに到達し始めることを意味します。これもまた、少し馬鹿げたコンセプトであり、多くの物事がうまく噛み合う必要がありますが、生産性の成長は急速に加速し始める可能性があります。 p>ホスト：今後数年のうちにそれが起きるようにさえ感じられます。ケビン・ウォーシュがFRBの新議長に就任します。彼がAGIピルド（AGI信奉者）かどうかはわかりませんが、現在のAIの生産性に対して非常に強気（ブル）です。私たちの非常に優秀な友人の一人です。私たちはそれをはるかに多く目の当たりにし始めるように感じますが、それがさらに劇的に加速し得ると言うのは狂気の沙汰のように思えます。 p>ニック・マルウェル：さらに加速する可能性は十分にあります。最近目にして興味深かったチャートの一つに、フィリピンの雇用に関するチャートがあります。雇用が上昇していました。 p>ホスト：これには驚きました。BPO（ビジネス・プロセス・アウトソーシング）がそこで大きな打撃を受けると思っていたからです。BPOはローエンドのコールセンター業務などを指しますが、それにもかかわらず成長を続けています。 p>ニック・マルウェル：それにもかかわらず成長しており、実際にはソフトウェアエンジニアの雇用も増加しています。その大きな理由は、人々が以前よりも劇的に生産性を高めているからだと思います。非常に興味深いトレンドラインとなるのは、人間がAIとペアを組むというこのブーストが、どれほど長く続くかという点です。 p>ホスト：やるべきことはまだまだ山ほどあります。あなたたちは実際にこれを活用しており、それは前向きな兆候です。 p>ニック・マルウェル：少なくとも短期的にはそう見えるようです。しかし、「すべてが順調にいくだろう」と自分たちを過度に納得させないことが重要であるとも思います。シュルトが表現したように、現在は、すべての従業員がAIを活用する上で依然として非常に重要な役割を果たしている、おそらく良好な時期にあります。その結果として、一人ひとりをより価値のある存在にするイネーブリング・テクノロジー（イネーブラー）が誕生し、企業はさらに多くの従業員を雇いたいと考えました。 p>ニック・マルウェル：しかしある時点で、私たちの信念としては、人間がAIモデルとペアを組まなければあらゆる価値を引き出せない世界から、そうしなくてもよい世界へと移行することになります。そして、その世界こそ私たちがその結果に対して強い懸念を抱き始める瞬間なのです。 p>ホスト：これはチェスに似ていますね。30年間、最強のチェスプレイヤーは「人間＋機械」でしたが、今や機械が圧倒しており、私たちはそれがさらに短い時間スケールで起きると考えています。 p>ニック・マルウェル：ええ。過去3年間、あるいはAIの進歩のスピードについて最初に考え始めた過去5年間において、私にとって大きなアップデートとなったことの一つは、「最終的には現在私たちがいる場所、あるいは1年後に到達すると思われる場所に行き着くだろうが、そこにはより時間がかかるだろう」と考えていた点でした。主に、これを実行するために必要なデータの規模を拡大することは、時間とコストの面で極めて莫大な追求になるだろうと思っていたからです。 p>ニック・マルウェル：そして、当時の私の高いAI進歩の期待値に照らし合わせても予想外だったことは、AnthropicやOpenAIといった企業の収益の急増と事業規模の拡大があまりにも速かったため、開発者たちが多くのボトルネックを遥かに高速で突き破る問題に対して資金を投入することが完全に現実的になったという点です。コンピュートの急拡大もその素晴らしい例です。5年前であれば、1年間に1兆ドルを費やすなど、ほとんどの人にとって想像もつかないことでした。 p>ホスト：1年前の人々にとっても想像できないことでしたよ。 p>ニック・マルウェル：ええ、1年前の出来事です。お互いに非常に強い相互作用を持つ多くの物事が同時に起きているタイムラインに私たちがいることは確かであり、良いこともあれば悪いこともあります。コンピュートのために宇宙空間へと進出する動きについて語られますが、AIが台頭する時期と、SpaceXが本格的に独自の地位を築き上げる時期がほぼ重なっているというのは非常に興味深いことです。そのタイミングは本当に興味深いものでした。もしSpaceXの到着があと10年遅れていたら、AIのタイムラインはまったく違ったものになっていたかもしれないと想像できます。 p>ホスト：すべてはイーロン（・マスク）のおかげでもありますね。彼は他の誰よりもずっと前にそれを始めるほど狂気的でしたから。 p>ニック・マルウェル：一方で、さらに懸念される事態も起きています。人種的な力学を含め、あらゆる理由から、世界にとって決して素晴らしいことだとは思えません。AIは本質的に、他のほとんどのどの政治体制よりも権威主義に利益をもたらすことができるテクノロジーですが、AIが到来したのは、私が生きてきた中で間違いなく最も二極化した世界に私たちが突入しているまさにその時期なのです。 p>ホスト：しかし、それは連動しているのではないでしょうか？ ソーシャルメディアが機械学習をどのように利用し、AIを向上させることが私たちの二極化を招いているという面はありませんか？ アテンション・エコノミー（注意経済）に何かしらの原因があるのでしょうか？ p>ニック・マルウェル：私が「二極化（バイポーラー）」と言っているのは、米中間のグローバルな構図を指しています。 p>ホスト：米国内の左右の分極化という意味ではありませんか？ p>ニック・マルウェル：いいえ、そちらも考える価値のある別の問題ですがね。しかし、仮にAIがもっと単極的（ユニポーラー）だった時代、例えば2000年代初頭の世の中に誕生していたとしたら、AIの将来性についてもう少し前向きに捉えていたはずだと本当に思います。その方がより安全でした。 p>シュルト・ダグラス：SF小説にふさわしい悲劇のようですね。宇宙で最も価値のある資源が、2大超大国にはさまれたこの小さな島（台湾などを暗示）で生み出されているというのですから。 p>ニック・マルウェル：ある意味で非常に詩的ですね。