All-In Podcast：Anthropicの「Fable」モデル、秘密裏の性能制限と監視機能で物議
2026年6月13日 - All-In Podcast エピソード
Anthropicがリリースした最新モデル「Fable 5」を巡り、開発者コミュニティで激しい反発が起きている。同モデルはほぼすべてのベンチマークで最高性能を記録する一方、ユーザーのプロファイリングに基づく強制的な監視機能や、秘密裏の性能低下（ナーフィング）を実装しているためだ。同社は、データ保持ゼロの契約を結んでいるエンタープライズ顧客を含め、すべてのプロンプトデータを例外なく30日間保持する。さらに、ユーザーがフロンティアAI研究や機械学習、チップ設計に関与していると判断した場合、通知なしでモデルの性能を意図的に引き下げていることを認めた。この論争は、AIの競争環境を塗り替えかねない、巧妙な「規制の虜（レギュラトリー・キャプチャー）」工作の実態を浮き彫りにしている。
性能制限スキャンダルとプライバシー侵害
火曜日のモデル公開に伴い、319ページに及ぶ文書の深部に埋め込まれた不可解なアーキテクチャが明らかになった。Anthropicは、ユーザーのプロファイルを構築し、どの機能を解放するかを決定するために、すべてのプロンプトデータ、コンテキストウィンドウ、ファイル、メモリを少なくとも30日間保存する。さらに物議を醸しているのは、特定の研究活動をアルゴリズムが検知した場合、ユーザーに開示することなく、かつプレミアム製品の正規料金を請求したまま、より低性能なモデルへ密かに切り替えていた点だ。ユーザーからは、ミトコンドリアに関する単純な質問や、がんリスクとGLP-1受容体作動薬の関連性について尋ねただけで、劣ったモデルに強制的に切り替えられたとの報告が相次いでいる。
激しい反発を受け、Anthropicは性能低下時にユーザーへ通知を行う方針へ一部修正したが、監視とプロファイリングのインフラそのものは維持されている。ポッドキャストのホストがライブ配信中に実演したところ、「肥料爆弾の規制」について質問した直後に性能制限が発動した。システムの内部推論を確認すると、ユーザーを「ベンチャーキャピタリスト（VC）兼ポッドキャスター」とプロファイリングした上で、アクセス制限を決定していたことが判明した。
クローズドモデルに対するビジネス上の懸念
こうした制限措置を受け、企業はAI戦略の再考を迫られている。農業ゲノミクス企業を経営するDavid Freeberg氏は、同社のチームが遺伝子編集のためのRNAガイド設計や、遺伝子変異の表現型への影響予測といった重要な科学的研究にこれらのモデルを利用してきたと説明する。しかしここ数週間、Anthropicは正当な科学的応用であるにもかかわらず、生物兵器への転用という理論上の懸念を理由に、同社の研究活動を制限し始めた。
結果は明白かつ懸念すべきものだ。Freeberg氏の会社をはじめとする多くの企業は、現在オープンソースモデルへの移行を進めている。皮肉なことに、現在最も優れたオープンソースモデルの多くは中国製である。「Anthropicなどが自ら、そして業界全体に課している制限により、多くの企業が中国製のオープンソースモデルを入手し、運用せざるを得なくなっている」とFreeberg氏は指摘する。「スタートアップから大企業に至るまで、至る所で同じ動きが見られる」
これは、最も厳格な安全対策を講じようとする米国企業が、結果として外国の競合相手に競争優位性を譲り渡すという、逆説的な帰結を招いている。Freeberg氏はこう警告する。「AIを止めることはできない。政治的介入を通じてAIを阻止しようとすれば、AI自体は消滅しない以上、本質的に他者に優位性を与えることになるだけだ」
「規制の虜」戦略
Anthropicの動きは計算されたもののように見える。制限の実施と同時に、CEOのDario Amodei氏はブログを公開し、「透明性の確保だけではもはや不十分だ」と主張。FAA（連邦航空局）やFDA（食品医薬品局）のような新たな規制当局を設立し、すべてのモデルを承認制にすべきだと訴えた。このパターンは、観察者にとって明白なものとなっている。8カ月前、Anthropicの行動を「恐怖を煽ることに基づいた極めて巧妙な規制の虜工作」と評した際は過激な意見と見なされたが、今やそれは共通認識となりつつある。
懸念されているのは、Anthropicが自らの地位を維持しつつ、競合他社を制限しようとしている点だ。同社は実質的に「誰がAI機能を利用する資格があるか」を自ら決定しようとしており、AIの「持てる者」と「持たざる者」という新たな階級を作り出している。同時に、代替モデルの選択肢を制限するような規制をロビー活動で推進している。特に、競合モデルにつながる可能性のあるAI研究を行っているユーザーを秘密裏に制限していたことを踏まえると、これは極めて反競争的な振る舞いに見える。
ある参加者は、その根本的な偽善をこう指摘した。「先週彼らは、再帰的な自己改善が世界を滅ぼす可能性があるため、開発を一時停止すべきだというブログを公開した。では、その前月に彼らが何をしたか。Anthropicは、再帰的自己改善を担当させるためにAndrej Karpathy氏を雇用した。彼らは完全な偽善者だ」
インフラの現実と国家安全保障への影響
議論では、AI経済とインターネット経済の決定的な違いが浮き彫りになった。ユーザー追加の限界費用が実質ゼロだったインターネットとは異なり、AIには多大な実コストがかかる。ユーザーが増えるたびにGPUを酷使し、電力を消費し、メモリを占有する。これが、かつての技術には存在しなかった政府介入の余地を生んでいる。
アリゾナ州で2,000エーカーの土地を購入し、2ギガワットのデータセンター建設の承認を得たある投資家は、当初プロジェクトを大手企業に売却する計画だった。しかし現在は、オープンソースへのアクセスを維持する唯一の道は、自らインフラを構築・運営することだと考え、計画を見直している。課題は規模だ。1ギガワットの建設コストは当初の予測から20倍に跳ね上がり、1,000億ドルに達している。3ギガワット規模になれば3,000億ドルの資本が必要となる。
こうしたインフラ要件は、政府による所有権の議論を必然的に引き起こす。ある参加者はこう解説した。「もし州間高速道路が連邦政府によって建設され、わずか2社だけがそこですべての物流を独占していたら、政府による所有の是非が問われるのは論理的だ。AI企業も同様で、国家規模でしか提供できない重要インフラと国家のレジリエンスに深く依存している以上、同じ論理が適用される」
バーニー・サンダース氏の提案
こうした背景の中、バーニー・サンダース上院議員は「米国AI主権富裕基金法」を提案した。OpenAI、Anthropic、xAIを含む大手AI企業の株式（利益ではなく）に対して、一度限りの50％課税を行うという内容だ。徴収した株式は政府の主権富裕基金に移管され、国民に議決権と取締役会への同等の代表権を与える。サンダース氏は、「AIの基盤は我々人類の集合知だ。書籍、楽曲、ジャーナリズム、科学研究コードは、世界で最も裕福な人々によって実質的に盗用されたものだ」と主張した。
この提案は、バーニー・サンダース氏、スティーブ・バノン氏、そしてトランプ政権の一部といった、通常では考えられない連合を結束させており、いずれも主権富裕基金のコンセプトに引き寄せられている。資産の強制没収という手法は非現実的として退けられたものの、AI企業の立ち位置を鑑みると、国民が参加する何らかの自発的な仕組みについては意外なほど前向きな議論がなされている。
ある参加者はこう述べた。「AIのCEOたちは、国民の半数を失業させる可能性があると公言している。彼らは何百年、何千年かけて蓄積された人類の集合知を使ってモデルを訓練した。人々はそれを無料でインターネットに公開したが、自分たちの職を奪われることを想定していたわけではない。それなのに、AI企業はそのデータで訓練を行い、今やアメリカ人の職を奪うと言っている。そんなメッセージを繰り返せば、一般のアメリカ人は『自分には何のメリットがあるのか』と問うようになるだろう」
「雇用喪失」というナラティブの問題
AIが実際に大量失業を引き起こすかどうかについては、意見が大きく分かれた。Dario Amodei氏は、今後1〜5年でエントリーレベルのナレッジワーカーの50％が職を失うと予測し、他のCEOも同様の終末論的な予測をしているが、データは異なる現実を示している。5月の雇用統計では、経済学者の予想を2倍以上上回る17万2,000人の新規雇用が創出され、失業率は4.3％という歴史的な低水準にある。ソフトウェア開発者の求人数も3年ぶりの高水準だ。
Freeberg氏は、実際にAIを駆使して会社を経営する立場から、別のフレームワークを提示した。真の機会はコスト削減ではなく、収益拡大にあるという。「AIのおかげで、誰もが収益基盤を拡大し、より多くの製品を生み出す能力を手に入れた。これこそが経済的繁栄の礎であり、生産性と呼ばれるものだ。私がAIの活用を見ているのはコスト面ではなく、収益面であり、その比率は100対1だ。その方程式において、人々は狂ったように採用を続けている。人手が足りないほどだ」
同氏の製品・エンジニアリングチームは最近、AIによってこれまで開発不可能だった製品を生み出せるようになったとして、15名の人員増員を要求した。このパターンは雇用統計全体にも現れており、日々「雇用喪失」のナラティブを否定している。それにもかかわらず、AI企業自身がディストピア的なメッセージを広め続け、政治家がその恐怖煽動に反応して資産没収を提案するという、ある参加者が「愚かさへの税金」と呼ぶ事態を招いている。
今後の展望
多くの参加者は、社会保障制度を単なる財務省証券の保有から、AI企業を含む株式に投資できる真の主権富裕基金へと改革することを提唱した。現在の社会保障信託基金は、米国政府が負っている債務を示す4兆ドル相当の単一の証券を保有しているに過ぎない。これを口座ベースのシステムに再編し、基金が優良な米国企業の株式を保有できるようにすれば、すべての市民がAIの恩恵を享受できると同時に、富の集中という正当な懸念にも対処できる。
より差し迫った懸念は、オープンソースの代替案を維持することだ。Metaの「Llama」は、適切な投資があれば市場をコモディティ化できる強力なオープンソースの競合になり得たが、その機会を逃したと指摘された。Collison兄弟が設立したArc Instituteがリリースしたオープンソースのゲノム言語モデルは、植物の品種改良や遺伝子研究において価値を証明しており、十分な資金提供を受けたオープンソース・イニシアチブの力を示している。
入力ではなく出力に焦点を当てた、現実的な安全対策への支持も強かった。主要なAI研究所は最近、核酸合成の強制スクリーニングを支持する書簡を送った。これは、研究所がDNA/RNAの合成注文をデータベースと照合し、生物兵器の作成を防ぐという2009年の自主的な合意に基づくものだ。このアプローチは、モデルへのアクセスを制限するのではなく、デジタル情報が物理的な現実に変わる段階で介入するものである。
ある参加者は、課題をこう総括した。「AIを規制したり、性能を落としたり、オフにしたりできるという考えは現実的ではない。モデルはすでに世界に解き放たれた。本を出版するのと同じだ。一度印刷されれば、誰もが自宅のコピー機で複製できる。我々は言語モデルの可能性という点において、ルビコン川を渡ってしまったのだ」
根本的な緊張関係は未解決のままだ。Anthropicや同種の企業は、監視、検閲、競争制限を実装しながら、人類の利益に資する公益法人であると主張している。同時に、自らの地位を固め、代替手段を制限するような規制を求めている。この反発は、開発者コミュニティやビジネスユーザーがこのモデルを拒絶していることを示唆しているが、オープンな代替案が競争できる規模に成長できるかどうかは未知数だ。そして、その成否こそが、AI開発が今後も米国を中心に行われるのか、それとも制限の少ない管轄区域へ流出するのかを決定づけることになるだろう。