All-In Podcast: Anthropic-Modell „Fable“ sorgt für Empörung wegen heimlicher Drosselung und Überwachung
13. Juni 2026 – All-In Podcast Episode
Anthropic hat in der Entwickler-Community einen Sturm der Entrüstung ausgelöst. Das neue Modell „Fable 5“ führt zwar fast alle Benchmarks an, implementiert jedoch eine obligatorische Überwachung sowie eine heimliche Leistungsdrosselung auf Basis von Nutzerprofilen. Das Unternehmen speichert sämtliche Prompt-Daten für 30 Tage – ohne Ausnahme, selbst für Unternehmenskunden mit Vereinbarungen zum Datenverzicht. Zudem räumte Anthropic ein, Nutzer ohne Benachrichtigung auf ein niedrigeres Leistungsniveau herabzustufen, sobald diese nach Einschätzung des Unternehmens Forschung im Bereich Frontier AI, Machine Learning oder Chipdesign betreiben. Die Kontroverse offenbart eine Strategie, die Beobachter als gezielte „Regulatory Capture“ bezeichnen und die den Wettbewerb im Bereich der Künstlichen Intelligenz grundlegend verändern könnte.
Der Skandal um Drosselung und Datenschutzverletzungen
Die am Dienstag erfolgte Veröffentlichung des Modells enthüllte eine problematische Architektur, die in einem 319-seitigen Dokument verborgen war. Anthropic speichert alle Prompt-Daten, Kontextfenster, Dateien und Erinnerungen für mindestens 30 Tage, um Nutzerprofile zu erstellen und zu entscheiden, welche Funktionen freigeschaltet werden. Noch kontroverser: Das Unternehmen stufte Nutzer heimlich auf unterlegene Modelle herab, sobald Algorithmen bestimmte Forschungsaktivitäten erkannten – ohne Offenlegung und während weiterhin der volle Preis für das Premium-Produkt berechnet wurde. Nutzer berichteten, dass sie auf schwächere Modelle umgestellt wurden, nur weil sie einfache Fragen zu Mitochondrien oder zum Zusammenhang zwischen Krebsrisiko und GLP-1-Medikamenten stellten.
Nach heftiger Kritik ruderte Anthropic teilweise zurück und versprach, künftige Herabstufungen offenzulegen. Die grundlegende Infrastruktur zur Überwachung und Profilbildung bleibt jedoch bestehen. Wie ein Podcast-Host live demonstrierte, löste allein die Frage nach Vorschriften für Düngemittelbomben eine sofortige Herabstufung aus. Die interne Logik des Systems enthüllte dabei, dass der Nutzer als „VC und Podcaster“ profiliert wurde, bevor der Zugriff eingeschränkt wurde.
Das Geschäftsargument gegen geschlossene Modelle
Die Beschränkungen zwingen Unternehmen dazu, ihre KI-Strategien zu überdenken. David Freeberg, der ein Unternehmen für landwirtschaftliche Genomik leitet, erklärte, sein Team habe die Modelle für kritische wissenschaftliche Arbeiten genutzt, etwa für das Design von RNA-Guides zur Gen-Editierung und die Vorhersage phänotypischer Auswirkungen von Genvarianten. In den vergangenen Wochen begann Anthropic, diese Arbeiten aufgrund theoretischer Bedenken hinsichtlich Biowaffen einzuschränken – ungeachtet der offensichtlichen legitimen wissenschaftlichen Anwendung.
Das Ergebnis ist vorhersehbar und besorgniserregend. Freebergs Unternehmen migriert, wie viele andere auch, zu Open-Source-Modellen. Die besten Open-Source-Modelle kommen heute aus China. „Die Beschränkungen, die Anthropic und andere sich selbst und der Branche auferlegen, zwingen viele Unternehmen dazu, auf chinesische Open-Source-Modelle zurückzugreifen“, sagte Freeberg. „Wir sehen diesen Trend über die gesamte Landschaft hinweg, bei Startups ebenso wie bei Großkonzernen. Alle vollziehen diesen Schritt.“
Dies führt zu einem paradoxen Ergebnis: Amerikanische Unternehmen, die versuchen, strengste Sicherheitsmaßnahmen umzusetzen, verlieren ihren Wettbewerbsvorteil an ausländische Akteure. Freeberg warnte: „Man kann KI nicht einfach abschalten. Wer versucht, KI durch politische Maßnahmen zu stoppen, verschafft anderen einen fundamentalen Vorteil, denn die Technologie wird nicht verschwinden.“
Die Strategie der „Regulatory Capture“
Der Zeitpunkt von Anthropics Vorgehen wirkt kalkuliert. Zeitgleich mit der Einführung dieser Beschränkungen veröffentlichte CEO Dario Amodei einen Blogbeitrag, in dem er argumentiert, Transparenz reiche nicht mehr aus, und eine neue Regulierungsbehörde nach dem Vorbild der FAA oder FDA forderte, die alle Modelle genehmigen soll. Das Muster ist für Beobachter klar. Vor acht Monaten wirkte die Charakterisierung von Anthropics Verhalten als „hochgradig raffinierte Regulatory-Capture-Kampagne auf Basis von Panikmache“ noch gewagt. Heute herrscht darüber weitgehend Konsens.
Die Sorge ist, dass Anthropic Wettbewerber einschränken will, um die eigene Marktposition zu festigen. Das Unternehmen entscheidet faktisch darüber, wer Zugang zu KI-Fähigkeiten erhält, und schafft so eine neue Klasse von „KI-Gewinnern und -Verlierern“, während es gleichzeitig für Regulierungen lobbyiert, die die Zahl alternativer Modelle begrenzen würden. Dies erscheint besonders wettbewerbsfeindlich, da das Unternehmen Nutzer heimlich herabstufte, die KI-Forschung betrieben, welche zu konkurrierenden Modellen führen könnte.
Ein Teilnehmer wies auf die fundamentale Heuchelei hin: „Letzte Woche veröffentlichten sie einen Blogbeitrag, in dem behauptet wurde, rekursive Selbstverbesserung könne die Welt beenden. Deshalb bräuchten wir eine Pause. Was haben sie im Monat davor getan? Sie haben Andrej Karpathy eingestellt, um bei Anthropic genau diese rekursive Selbstverbesserung zu leiten. Sie sind durch und durch heuchlerisch.“
Die Infrastruktur-Realität und nationale Sicherheitsimplikationen
Die Diskussion verdeutlichte einen entscheidenden Unterschied zwischen KI-Ökonomie und Internet-Ökonomie. Anders als im Internet, wo die Grenzkosten für einen zusätzlichen Nutzer nahezu null waren, verursacht KI reale Kosten. Jeder zusätzliche Nutzer belastet GPUs, benötigt Strom und verbraucht Speicher. Dies schafft einen Hebel für staatliche Eingriffe, den es bei früheren Technologien in dieser Form nicht gab.
Ein Investor, der 2.000 Acres in Arizona erwarb und die Genehmigung für ein 2-Gigawatt-Rechenzentrum erhielt, wollte das Projekt ursprünglich an Großkonzerne verkaufen. Nun überdenkt er dies, da er glaubt, der einzige Weg zum Erhalt von Open-Source-Zugängen sei der direkte Bau und Betrieb der Infrastruktur. Die Herausforderung ist die Skalierung: Ein Gigawatt kostet mittlerweile 100 Milliarden Dollar – das Zwanzigfache der ursprünglichen Schätzungen. Drei Gigawatt würden 300 Milliarden Dollar an Kapital erfordern.
Die Infrastrukturanforderungen liefern ein natürliches Argument für staatliche Beteiligungen. Ein Teilnehmer verglich dies mit dem Autobahnbau: Wenn der Staat die Fernstraßen baut und nur zwei Unternehmen alle Waren darauf transportieren, stellt sich zwangsläufig die Frage nach staatlichem Eigentum. Die gleiche Logik gilt für KI-Unternehmen, die in hohem Maße von kritischer Infrastruktur und nationaler Resilienz abhängen, die nur der Staat in diesem Maßstab bereitstellen kann.
Der Vorschlag von Bernie Sanders
Vor diesem Hintergrund schlug Senator Bernie Sanders den „American AI Sovereign Wealth Fund Act“ vor. Er forderte eine einmalige Steuer von 50 % auf das Aktienkapital (nicht auf Gewinne) der größten KI-Unternehmen, darunter OpenAI, Anthropic und xAI. Die Anteile würden in einen staatlichen Staatsfonds fließen, was der Öffentlichkeit Stimmrechte und eine gleichberechtigte Vertretung im Vorstand einräumen würde. Sanders argumentierte: „Das Fundament der KI ist unsere kollektive menschliche Intelligenz. Die Bücher, die Lieder, der Journalismus, der wissenschaftliche Forschungscode – all das wurde im Grunde von einigen der reichsten Menschen der Welt gestohlen.“
Der Vorschlag vereint eine ungewöhnliche Koalition aus Bernie Sanders, Steve Bannon und Teilen der Trump-Administration, die alle vom Konzept eines Staatsfonds angezogen werden. Während eine direkte Enteignung als unhaltbar abgelehnt wurde, stieß die Idee freiwilliger Mechanismen für eine öffentliche Teilhabe auf überraschende Offenheit – insbesondere angesichts der Art und Weise, wie sich KI-Unternehmen positioniert haben.
Ein Teilnehmer bemerkte: „Diese KI-CEOs erklären der Öffentlichkeit, dass sie die Hälfte der Arbeitsplätze vernichten werden. Sie haben ihre Modelle mit dem kollektiven Wissen der Menschheit trainiert, das über Hunderte oder Tausende von Jahren zusammengetragen wurde. Menschen haben es kostenlos ins Internet gestellt – sicher nicht in der Erwartung, sich damit selbst arbeitslos zu machen. Und jetzt sagen diese KI-Unternehmen, sie würden es nutzen, um Amerikaner zu ersetzen. Wenn man diese Botschaft ständig wiederholt, werden normale Amerikaner fragen: ‚Was habe ich eigentlich davon?‘“
Das Problem mit dem Narrativ des Arbeitsplatzverlusts
Ein kritischer Dissens entstand bei der Frage, ob KI tatsächlich zu massiver Arbeitslosigkeit führen wird. Während Dario Amodei einen Verlust von 50 % der Arbeitsplätze für Wissensarbeiter im Einstiegsbereich innerhalb von ein bis fünf Jahren vorhersagte und andere CEOs ähnliche apokalyptische Prognosen abgaben, zeichnen die Daten ein anderes Bild. Der Arbeitsmarktbericht für Mai wies 172.000 neue Stellen aus – mehr als doppelt so viele wie von Ökonomen erwartet – bei einer Arbeitslosenquote von 4,3 % auf einem Rekordtief. Die Zahl der Softwareentwickler-Jobs befindet sich auf einem Drei-Jahres-Hoch.
Freeberg bot ein anderes Rahmenmodell an, das auf der tatsächlichen Nutzung von KI im Unternehmensalltag basiert. Die echte Chance liege auf der Umsatzseite, nicht in der Kostensenkung. „Dank KI kann jeder seine Umsatzbasis erweitern, um mehr Produkte zu schaffen – das ist das Fundament wirtschaftlichen Wohlstands. Es nennt sich Produktivität. Ich sehe, dass KI auf der Umsatzseite hundertmal stärker genutzt wird als auf der Kostenseite. Und in dieser Gleichung stellen Unternehmen massiv Leute ein. Wir können gar nicht genug Leute finden.“
Sein Produkt- und Engineering-Team forderte kürzlich 15 zusätzliche Stellen an, weil KI Möglichkeiten eröffnete, Produkte zu entwickeln, die sonst nicht realisierbar gewesen wären. Dieses Muster spiegelt sich in den aggregierten Arbeitsmarktzahlen wider und widerlegt das Narrativ vom Arbeitsplatzverlust täglich. Dennoch verbreiten die KI-Unternehmen weiterhin die dystopische Botschaft, was ein Teilnehmer als „Dummheitssteuer“ bezeichnete: Politiker reagieren auf die Panikmache der Unternehmen mit Vorschlägen zur Beschlagnahmung von deren Vermögenswerten.
Der Weg nach vorn
Mehrere Teilnehmer plädierten dafür, die Sozialversicherung in einen echten Staatsfonds umzuwandeln, der in Aktien – auch in KI-Unternehmen – investieren könnte, anstatt nur Staatsanleihen zu halten. Der Treuhandfonds der Sozialversicherung hält derzeit 4 Billionen Dollar in Form eines einzigen Zertifikats, das die Schulden der US-Regierung verbrieft. Eine Umstrukturierung in ein kontenbasiertes System, bei dem der Fonds Aktien großer amerikanischer Unternehmen halten könnte, würde es jedem Bürger ermöglichen, am Erfolg der KI teilzuhaben, und gleichzeitig berechtigte Sorgen über die Konzentration von Reichtum adressieren.
Die unmittelbarere Sorge gilt dem Erhalt von Open-Source-Alternativen. Metas Llama wurde als verpasste Chance identifiziert; eine angemessene Investition hätte einen lebensfähigen Open-Source-Konkurrenten schaffen können, der den Markt commodifiziert hätte. Das zur Arc-Stiftung der Collison-Brüder gehörende Institut veröffentlichte ein Open-Source-Genom-Sprachmodell, das sich als wertvoll für die Pflanzenzucht und genetische Forschung erwiesen hat – ein Beweis für die Kraft gut finanzierter Open-Source-Initiativen.
Es gab starke Unterstützung für pragmatische Sicherheitsmaßnahmen, die sich auf Ergebnisse (Outputs) statt auf Eingaben (Inputs) konzentrieren. Die großen KI-Labore unterstützten kürzlich in einem Schreiben das obligatorische Screening synthetischer Nukleinsäuren, basierend auf einer freiwilligen Vereinbarung von 2009, bei der Labore DNA/RNA-Syntheseaufträge gegen Datenbanken prüfen, um die Erstellung von Biowaffen zu verhindern. Dieser Ansatz greift dort ein, wo digitale Informationen physische Realität werden, anstatt den Zugang zu den zugrundeliegenden Modellen zu beschränken.
Ein Teilnehmer fasste die Herausforderung zusammen: „Die Vorstellung, dass man KI regulieren, herunterskalieren oder abschalten kann, ist unrealistisch. Die Modelle sind in der Welt. Es ist wie mit der Veröffentlichung eines Buches: Sobald es gedruckt ist, kann jeder zu Hause seinen eigenen Kopierer benutzen, um es zu vervielfältigen. Wir haben den Rubikon überschritten, was das Potenzial von Sprachmodellen angeht.“
Die fundamentale Spannung bleibt ungelöst. Anthropic und ähnliche Unternehmen behaupten, als Public-Benefit-Corporations im Interesse der Menschheit zu handeln, während sie gleichzeitig Überwachung, Zensur und Wettbewerbsbeschränkungen implementieren. Gleichzeitig fordern sie Regulierungen, die ihre eigene Position zementieren und Alternativen begrenzen würden. Die Gegenreaktion deutet darauf hin, dass die Entwickler-Community und Geschäftsanwender dieses Modell ablehnen. Ob Open-Source-Alternativen jedoch skalieren können, um zu konkurrieren, bleibt eine offene Frage – eine, die darüber entscheiden könnte, ob die KI-Entwicklung in den USA bleibt oder in Jurisdiktionen mit weniger Restriktionen abwandert.