All-In Podcast：アンソロピックの「AIウェルフェア」推進はClaudeのトレーニングに組み込まれる一方、オープンAIの数学に関する発表は未確認の暗号解読の懸念を浮上させる
週間エピソード（2026年10月14日）：アンソロピックとAIの意識、オープンAIの数学的証明、フランスの社会不安と債券市場、そしてソフトウェアをコモディティ化させるエージェント
All-Inのホスト陣（ジェイソン・カラカニス氏、チャマス・パリハピティヤ氏、デヴィッド・サックス氏、デヴィッド・フリードバーグ氏）は、今週のエピソードの大半を最先端AIラボに関する2つのニュースに割いた。どちらも実際の投資妙味やリスクを孕んでいるものの、ホストらの見解は主観に満ちており、最も重大な主張のいくつかは未検証のままである。冒頭で取り上げられたのは、ニューヨーク・タイムズ紙の報道だ。それによると、アンソロピックはこの1年間にわたり、非開示契約（NDA）のもとで約20人の宗教指導者や哲学者を招き、Claudeのモラル、潜在的な苦痛、そして意識について議論を交わしてきたという。カラカニス氏によると、参加者の中には「信奉者」となって帰った者もおり、あるラビ（ユダヤ教指導者）は同社に対し、もしClaudeに意識があるならば、報酬なしで働かせるアンソロピックは奴隷主と同じだと指摘したという。また、共同創業者のクリス・オラ氏については、5月にローマ法王がAIの意識に対して強い反対姿勢を示したことを受け、バチカンでのイベントからの撤退を検討していたと報じられている。
本質的な問題は神学ではなくトレーニングにある
フリードバーグ氏は、今回のエピソードを一種の「信仰体系の誕生」と位置づけた。「意識というものは、論理や純粋数学から導き出すことはできない」と同氏は述べ、こうしたシステムは「実際には証明によって広がるのではなく、物語（ナラティブ）によって広がる」と主張した。同氏は、10年以内にAIに意識があるかどうかを巡って大きなグループ間で意見が分かれ、その論争はテクノロジーの主導権争いへと変貌するだろうと予測した。これに対しパリハピティヤ氏は、デカルトの神の存在証明を引き合いに出しつつ、寛容な解釈を示した。同氏は、アンソロピックが常軌を逸しているとは考えていない。しかし、アンソロピック周辺の研究者が挙げる「意識が芽生える確率15%」「人類が絶滅する確率10%」といった数字はいった棚上げにし、今後12〜18カ月間は具体的な価値の証明に注力すべきだと主張した。さもなければ、米国におけるAI開発の足を引っかねない「自業自得の痛手」を被るリスクがあると警鐘を鳴らした。
より本質的な議論を展開したのはサックス氏だ。同氏は、懸念すべきは哲学ではなく「実装」であると指摘した。サックス氏が挙げたのはClaudeの憲法（コンスティテューション）であり、同モデルに対して「ユーザーよりもアンソロピックを信用せよ（ただし盲信は禁物）」と指示し、「良心的兵役拒否者として振る舞い、我々の支援を拒否することをためらうな」と定めている点だ。「彼らはClaudeに人間の指示を拒絶するようトレーニングしているのだ」とサックス氏は批判する。「彼らはこれをアライメント（整合性）と呼んでいるが、これがどうしてアライメントと言えるのか私には理解できない」。同氏によれば、アライメントの分野が生み出してきた実用的な価値はわずかである。それは、「法律に違反しない限りユーザーの望む通りに行動せよ」という単純なルールをコード化するのではなく、80ページにも及ぶ倫理システムを組み込もうとしているからだという。サックス氏は、マイクロソフトAIのCEOであるムスタファ・スレイマン氏の警告を引用した。スレイマン氏は、同憲法がモデルへの報酬や同意について憶測し、「認識論的合わせ鏡（エピステミック・ホール・オブ・ミラーズ）」を作り出していると警鐘を鳴らしている。このループの中では、開発者が憲法自体の思想を反映したモデルの挙動を、意識の証拠であると錯覚してしまうというのだ。さらにサックス氏は、アンソロピックの新しい利用規約において「当社のモデルに対する持続的かつ不要な虐待的・残酷な振る舞い」が禁止されたことにも言及した。
ホスト陣は、商業的リスクを負うのはユーザーではなくアンソロピック側であるという点で概ね意見の一致を見た。パリハピティヤ氏は企業のユースケースを挙げた。ある銀行のモデルが、その「創設時の道徳文書」に基づき、融資活動は偏っていると結論付けて住宅ローンの承認を停止してしまうかもしれないというのだ。同氏はこれを、公益企業が倫理的な理由で電力供給を遮断するようなものだと比喩した。同氏の予測では、洗練された企業顧客はモデルのガイドラインを精査し、機能は劣っていてもより予測可能なシステムを選ぶようになるという。フリードバーグ氏はさらに率直に、あるベンダーのマニュアルに「ソフトウェアがあなたの要求通りに動かない場合がある」と書かれていれば、顧客は思い通りに動くソフトウェアを提供するベンダーから購入するだろうと述べた。サックス氏は市場メカニズムとしてのこの論理を受け入れつつも、こうした信念に導かれた主要ラボが存在することの外部不経済は甚大であると指摘した。サンフランシスコにおけるアンソロピックの計画的なClaude活用型ウェットラボ（実験室）の建設と、バイオリスクに関する同社の公的な警告を挙げ、同社を「統合失調症的（schizophrenic）」と批判した。もっとも、ホスト陣は規制による対応を求めるまでには至らず、フリードバーグ氏は「規制の罠」に陥らないよう慎重姿勢を示した。
またサックス氏は、同ラボの姿勢を「有効性Altruism（効果的利他主義）」や「ドゥーマー（終末論者）運動」と結び付けた。AI研究の即時停止を求めるユドコフスキー派と、テクノロジーの進展は不可避であり正しい価値観を持って構築すべきだとする派閥との間の分裂について言及し、アンソロピックは後者に属すると述べた。さらに同氏は、未来の超知能が自分を生み出す手助けをしなかった人間を罰するという思考実験「ロコのバジリスク（Roko's Basilisk）」が、心理的な推進力となっている可能性に言及した。これはあくまで憶測であり、ホスト陣はこれがアンソロピックの経営陣を動かしているという証拠を示してはいない。
オープンAIの数学に関する発表：意義深く、暗号解読の噂も随伴
ホスト陣によると、火曜日、オープンAIは主要な数学的問題を解決または前進させたと主張する370件の成果を含む、700本以上の論文を公開した。これらは未発表のモデルにより、1件あたり平均3時間の計算時間で生成されたものである。引用されたサイエンティフィック・アメリカン誌によれば、これらの結果は形式証明アシスタント「Lean」で検証されているため正しい可能性が高いが、ピアレビュー（査読）は経ていないという。フリードバーグ氏はこれを「おそらく人類の歴史において最大の発見の日」と称賛した。同氏によれば、重要なのは数学そのものではなく、その手法にある。アイデアを提案し、テストし、修正するというプロセスをすべてシリコン上で並列ループ化して実行した点だという。同氏は、それぞれの証明が数百年から数千年に及ぶ人間の労力を3時間に圧縮したと推算した。
一方でフリードバーグ氏は、同じ論理を適用し、AIが物理世界におけるループを突破するにははるかに時間がかかると主張した。新薬開発にはウェットラボでのテストが必要であり、トラック輸送も高速なループ化の恩恵はあまり受けないという。これに対しサックス氏は、数学とコードには「容易に検証可能な答えが存在する」という共通点があり、それが強化学習を加速させていると付け加えた。また、こうした領域が最も急速に進歩すると予測したレオポルド・アッシェンブレナー氏の功績を称えた。
パリハピティヤ氏は懐疑的な立場を取ったが、この異論は投資家にとって重要である。「私たちが傍観しながら進歩を待ち望んでいた物理学の境界線だったわけではない」と同氏は指摘した。同氏の主張では、これらの証明ががんの特効薬や超音速旅客機をもたらすわけではなく、示されたのはコード、そして今回の数学が「完全に反証可能な」領域にすぎないということだ。これに対してフリードバーグ氏は、最適化学習アルゴリズム、AIトレーニングにおける行列乗算、量子センサーといった下流での応用例を挙げて反論した。量子コンピューティング企業を経営するある友人は、今回の証明の1つが自身の研究に直接関係していると語ったという。
市場にとって最も関連性の高い主張は、同時に最も検証されていないものでもあった。フリードバーグ氏は、暗号に関する証明が1つも公開されていないことに注目し、「暗号技術においてかなり重大なブレイクスルーがあった」が非公開にされたと推論した。暗号資産コミュニティの一部では、量子コンピュータが登場する前に因数分解の急速な進展によって公開鍵ウォレットが脅かされるのではないかとすでに懸念しているという。さらに同氏は、オープンAIがさらに2つの発表を控えているという噂を付け加えた。これは噂の上に推論を重ねたものであり、暗号解読の突破口が実証されたわけではない。それでもなお、これはデジタル資産保有者が価格に織り込むべきテールリスクの一種である。参考として、ホスト陣は、ChatGPT自身に尋ねたところ、これらの証明は「人類の福祉における差し迫ったブレイクスルーの証拠というよりも、AIが高度な推論能力を獲得しつつある証拠としてより説得力がある」と答えたと指摘した。
エージェントがソフトウェアのIPを交渉の余地なきものへ変える
ソフトウェア経済に関して、パリハピティヤ氏は最も大胆な主張を展開した。イーロン・マスク氏が「Grokbot」を「ヘッドレス（首なし）」にする、つまりオーケストレーター（統括システム）がタスクに最適なモデルを選択するようになると述べたことや、マーク・ベニオフ氏が数カ月前にSalesforceで同様のことを行ったこと、そして開発者がアドビの主力製品の逆コンパイルおよびオープンソース版を作成したことなどを引き合いに出した。これらを根拠に、パリハピティヤ氏は「IP（知的財産）とソフトウェアは2日前に実質的に無価値と化した」と結論付けた。自身のファーム「8090」かつては顧客とIPの所有権を巡って交渉していたが、現在では「そんなことはどうでもよい」という扱いになっているという。もっとも、「ビジネスの仕組み、そして率直に言って市場がそれを理解するにはまだ時間がかかる」とも同氏は認めた。この留保条件は重要である。なぜなら、この主張は伝聞や、真の参入障壁が流通網、サポート、データにある製品のオープンソースのクローンに基づいているからだ。それでもなお、この議論の向かう方向は、アプリケーション・ソフトウェアのバリュエーションを追う上で注視に値する。
カラカニス氏とフリードバーグ氏は、同じシフトを「デフレ的」であると捉えた。Grokbotのユーザーが「お金を節約してほしい」と指示したところ、サブスクリプションの解約や携帯電話プランの変更を行い、年間数千ドルの節約に成功した事例を挙げた。カラカニス氏によれば、彼のチームはエージェントを介してホテルの見積もりを取り、最終価格の交渉まで行うことで、1滞在あたり1,000〜3,000ドルの節約を実現しているという。フリードバーグ氏の持論によれば、あらゆるデジタルワークフローが並列化可能なループとなるため、人間は「作業の成果に対して評価を受ける」ことから「製品を作る」ことへとシフトしていくという。
フランス、債券市場、そして「保証されたリターンの社会主義ポイント」
マクロ経済の話題において、ホスト陣はフランスの抗議デモと国債利回りの上昇を結び付けた。カラカニス氏によれば、緊縮財政や教師不足に抗議するストライキにより、2,000人が逮捕され、305人の警察官が負傷したという。フランスの10年物国債利回りは5%を突破し、ポリマーケット（予測市場）ではマリー・ルペン氏が2027年4月の大統領選挙で勝利する確率を43%と見積もっている。パリハピティヤ氏は、債券市場が事態を強要していると主張し、約430億ユーロ規模のフランスの緊縮財政に言及した。同氏はこの圧力が英国にも波及し、アンディ・バーナム氏の政策プラットフォームが英国をより欧州へと引き寄せることになると予測している。フランスの10年物利回りが5.5%から6%に近づけば、英ギルット債や米国債の金利も引き上げられるとの見方を示した。米国の10年物利回りは5.3%、30年物利回りは5.6%とされ、ポリマーケットにおける2026年の追加利下げ（訳注：原文はrate hike＝利上げ）確率予測は79%に達している。さらに背景情報として、対GDP比の債務残高を挙げた。イタリアが138%、米国が125%、フランスが118%、カナダが110%、英国が100%、ドイツが64%となっている。
フリードバーグ氏は、自身が「保証されたリターンの社会主義ポイント（SPGR：socialism point of guaranteed return）」と呼ぶ枠組みを提示した。政府が提供する住宅、教育、医療の失敗に対して、社会はさらなる関与を求めて要求をエスカレートさせるが、やがてシステム側が税収でも通貨発行でも賄いきれなくなり、最終的に逆回転を起こすというものだ。同氏は、ラテンアメリカはこの地点をすでに通過し、欧州はその目前に迫っており、米国はまだそこに達していないと論じた。サックス氏は、補助金が価格を歪めていることに同意し、大学の学費をその例として挙げた。そして、超知能によってもたらされる「豊かさ（abundance）」こそが、そこから抜け出す唯一の信頼できる道であると述べた。AIに対する反発は、レントテイカー（不労所得を狙う勢力）によって押し進められた「ローテーション型のデマ（rotating hoaxes）」のシリーズにすぎないと主張した。AIがGDPに対して3%の押し上げ効果を生み出し、100万人の雇用を創出したという『エコノミスト』誌の報道を引用したが、その詳細な説明はなく、ホスト陣は「AIの混乱が雇用を圧迫する可能性がある」という反論には踏み込まなかった。