Anthropic: Der 965-Milliarden-Dollar-KI-Gigant zwischen Pentagon-Konflikt und der Angst vor Jobverlusten
Bloomberg-Interview mit Dario und Daniela Amodei, 10. Juni 2026
Anthropic-CEO Dario Amodei beziffert die Wahrscheinlichkeit eines durch KI ausgelösten Zivilisationskollapses auf 10 bis 25 Prozent. Dennoch rast sein Unternehmen weiter voran, ist mittlerweile fast eine Billion Dollar wert und schreibt erstmals schwarze Zahlen. In einem seltenen, ausführlichen Interview mit Emily Chang von Bloomberg verteidigte der ehemalige OpenAI-Mitarbeiter, der Anthropic gemeinsam mit seiner Schwester Daniela gründete, die widersprüchliche Haltung des Unternehmens: Man warnt vor existenziellen Risiken, während man gleichzeitig Produkte mit atemberaubender Geschwindigkeit auf den Markt bringt.
Das Pentagon-Verbot und das Verteidigungsdilemma
Die wohl bedeutendste Entwicklung der jüngsten Zeit ereignete sich Anfang 2026, als das US-Verteidigungsministerium von Anthropic verlangte, die uneingeschränkte Nutzung von Claude ohne Sicherheitsvorkehrungen zu erlauben. Das Unternehmen lehnte ab und zog rote Linien gegen Massenüberwachung und autonome Waffensysteme. Dies führte dazu, dass Anthropic trotz eines 2025 gemeinsam mit OpenAI, xAI und Google gewonnenen Vertrags über 200 Millionen Dollar vom Pentagon auf die schwarze Liste gesetzt wurde. Verteidigungsminister Pete Hegseth bezeichnete Dario als „ideologischen Wahnsinnigen“, doch Amodei scheint diese Charakterisierung unbeeindruckt zu lassen.
„Hier geht es eher um die Debatte, was die angemessene Nutzung von KI durch die Regierung ist“, sagte Dario gegenüber Chang. „KI ist eine aufkommende neue Technologie. Wir verstehen noch nicht, in welchen Bereichen sie zuverlässig ist und in welchen nicht.“ Er bezeichnete den Konflikt als einen Präzedenzfall für angemessene Anwendungsbereiche und räumte ein, dass „wir bereit waren, die Zukunft unseres Unternehmens zu riskieren, um die Nutzung dieser Modelle einzuschränken.“
Die Position des Unternehmens hat zu unangenehmen Widersprüchen geführt. Während Anthropic vom Pentagon gesperrt ist, arbeitet es seit 2024 mit dem Verteidigungsdienstleister Palantir zusammen. Bloomberg berichtete zudem, dass Claude vom US-Militär für KI-gestützte Zielerfassung über das Maven-Smart-System von Palantir eingesetzt wird. Als Chang Amodei darauf ansprach, ob Claude eine Rolle bei einem Angriff im Februar spielte, bei dem Berichten zufolge eine iranische Mädchenschule getroffen wurde und mehr als 150 Menschen, die meisten davon Kinder, ums Leben kamen, erkannte Amodei die Tragödie an, sagte aber: „Dies ist ein Anwendungsfall, der nicht einmal unsere roten Linien verletzt.“
Seine Logik konzentriert sich auf die Wahrung der menschlichen Entscheidungsgewalt. „Das Prinzip, das hier befolgt wurde, ist, dass ein Mensch die endgültige Entscheidung trifft“, erklärte er. „Wenn das kein Beweis dafür ist, warum dieses Prinzip so wichtig ist, dann weiß ich es auch nicht.“ Er verteidigte die Partnerschaft mit dem Verteidigungsapparat als notwendig in einer Welt, in der „Russlands Invasion in der Ukraine“ und „das Risiko einer chinesischen Invasion in Taiwan“ es erfordern, dass die USA ihre technologische Überlegenheit gegenüber dem, was er als „wiedererstarkten autoritären Block“ bezeichnet, wahren.
Mythos und die Cybersecurity-Superwaffe
Die vielleicht alarmierendste Enthüllung des Interviews betrifft ein neues KI-Modell namens Mythos, das Anthropic entwickelt, aber nicht vollständig veröffentlicht hat. Das Modell identifizierte Tausende von Sicherheitslücken in großen Betriebssystemen, was einige frühe Empfänger dazu veranlasste, es als „Superwaffe“ zu bezeichnen und Anthropic anzuflehen, es nicht öffentlich zugänglich zu machen. „Das ist eine Superwaffe, man sollte einen Waffenschein brauchen, um sie zu benutzen. Bitte veröffentlichen Sie das nicht“, erinnerte sich Amodei an die Worte der Unternehmen.
Im Rahmen einer Initiative namens Project Glasswing gewährte Anthropic ausgewählten Organisationen Zugang zu Mythos, darunter auch Bundesbehörden wie der National Security Administration – trotz der Pentagon-Sperre. Dario beschrieb dies als „einen besonders großen Sprung“ in der Fähigkeit der Modelle, Schwachstellen zu finden, und drückte seine Überraschung über das Ausmaß dieser Kapazitätssteigerung aus.
Auf die Frage, ob Anthropic die Macht haben sollte zu entscheiden, wer Zugang zu einer solchen Technologie erhält, verteidigte Daniela die Entscheidung als begründet in „einer sehr spezifischen Sorge um die Cybersicherheit“. Sie räumte die Komplexität ein, bestand aber darauf: „Wir haben versucht, so offen wie möglich zu kommunizieren, dass wir unser Bestes geben, um diese Entscheidung richtig zu treffen, auch wenn uns das vielleicht nicht perfekt gelingt.“ Dario widersprach der Darstellung, die eingeschränkte Veröffentlichung sei reines Marketing-Theater, und merkte an: „Wir haben kommerziell enorm darunter gelitten, dieses Modell nicht zu veröffentlichen.“
Die Frage der Arbeitsplatzvernichtung und der Umsatzboom
Der Umsatz von Anthropic ist in die Höhe geschossen. Das Unternehmen meldete ein annualisiertes Wachstum im ersten Quartal von 80x gegenüber dem Vorjahr, das API-Volumen stieg um fast das 17-fache. Anthropic erreichte erstmals die Gewinnzone, vor allem getrieben durch unternehmensorientierte Produkte wie Claude Code und Claude Cowork, die Softwareentwicklung und Wissensarbeit automatisieren.
Dario hat sich ungewöhnlich direkt zum Thema Arbeitsplatzverlust geäußert und zuvor geschätzt, dass KI innerhalb von ein bis fünf Jahren die Hälfte aller Einstiegsjobs im Büro-Sektor überflüssig machen könnte. Als Chang fragte, ob diese Prognose ein Jahr später noch Bestand habe, antwortete er: „Ich weiß es nicht genau, aber ich bin immer noch sehr besorgt. Ich bewerte die Lage weiterhin genauso kritisch.“ Er beschrieb eine unbehagliche Zukunft, in der „KI diese sehr ungewöhnliche Kombination aus sehr schnellem BIP-Wachstum und hoher Arbeitslosigkeit oder zumindest Unterbeschäftigung beziehungsweise schlecht bezahlten Jobs mit sich bringen könnte.“
Boris Cherny, der Ingenieur hinter Claude Code und Cowork, verkörpert diesen Wandel. Er berichtet, dass Claude mittlerweile „fast den gesamten“ Code in seinem Team schreibe; in den letzten sechs Monaten seien 100 Prozent seines eigenen Codes KI-generiert gewesen. „Die Arbeit in der Softwareentwicklung hat sich komplett verändert“, sagte Cherny. „Ich habe das Gefühl, plötzlich Superkräfte zu haben.“ Dennoch räumte er die Schattenseiten ein: „Das Besorgniserregende ist, dass sie Dinge tun können, von denen wir nicht einmal zu träumen wagten, und das in Zeiträumen, die wir nie erwartet hätten. Man muss wirklich vorbereitet sein, denn sie werden tausendmal produktiver sein.“
Dario verteidigte sich energisch gegen Vorwürfe von Persönlichkeiten wie Jensen Huang, seine Warnungen vor Arbeitsplatzverlusten seien „Angstmache“ oder „Doom-Marketing, das Anthropic zugutekommt“. Er nannte solche Kritiken „billiges Marketing“, das „Teil der Krankheit des Silicon Valley“ sei, gefangen in „dieser Social-Media-Welt von drei Sekunden“. Er betonte, seine Essays wie „The Adolescence of Technology“ würden detaillierte wirtschaftspolitische Antworten enthalten, einschließlich Besteuerung und der Identifizierung neuer Jobkategorien, doch Social-Media-Clips würden seine differenzierte Position verzerren.
Als mögliche Lösungen nannte er den Ausbau der physischen Weltwirtschaft, zwischenmenschliche Berufe und Rollen bei der Steuerung von KI-Systemen, gab jedoch zu, unsicher darüber zu sein, „wie dünn oder wie dick“ diese letzte Kategorie sein werde. Daniela äußerte sich optimistischer und nannte die Medizin als Beispiel, wo KI die Diagnostik übernehmen könnte, während sich Menschen auf die Patientenbetreuung und körperliche Untersuchung konzentrieren.
Die Wette auf Unternehmen und die SaaS-Apokalypse
Der strategische Fokus von Anthropic auf Unternehmenskunden statt auf Endverbraucher scheint sowohl eine wertebasierte als auch eine geschäftliche Entscheidung gewesen zu sein. Dario erklärte die Logik: „Wenn man ein Geschäftsmodell wählt, das grundlegend mit den eigenen Werten in Konflikt steht, wird man es schwer haben. Entweder man verrät seine eigenen Werte oder man wird irrelevant.“ Er stellte das auf Engagement und Werbung basierende Modell der sozialen Medien der Arbeit in Bereichen wie Biotechnologie, Pharma und Energie gegenüber, die darauf ausgerichtet sind, „KI einzusetzen, um Krankheiten zu heilen, die wir früher nicht heilen konnten“ und „Energie billiger und effizienter zu machen.“
Die Veröffentlichung von Claude Cowork löste die sogenannte „SaaSpocalypse“ aus, bei der über Nacht 285 Milliarden Dollar an Marktwert bei Softwareunternehmen vernichtet wurden, während die Märkte versuchten zu begreifen, in welchem Umfang traditionelle Software durch KI ersetzt wird. Dario räumte ein, dass „einige von ihnen an Wert verlieren oder sogar vom Markt verschwinden könnten, wenn sie sich nicht richtig anpassen“, argumentierte aber, dass die Softwareindustrie insgesamt wachsen werde, auch wenn einzelne Unternehmen vor existenziellen Bedrohungen stünden.
Der Bruch mit OpenAI und die Gründungsgeschichte
Die Amodei-Geschwister verließen OpenAI im Jahr 2021 zusammen mit fünf weiteren Mitgründern, die bis heute alle bei Anthropic sind – eine Seltenheit im Silicon Valley. Auf die Gründe für den Weggang angesprochen, äußerte sich Dario direkter als in früheren Interviews über Vertrauensprobleme mit Sam Altman. „Wenn man das Gefühl hat, jemandem nicht vertrauen zu können, wenn man das Gefühl hat, dass dessen Werte nicht das sind, was er vorgibt, wenn man das Gefühl hat, dass er nicht ehrlich ist, dann macht es das sehr schwer, weiter mit einem Unternehmen zu arbeiten“, sagte er. „Warum mit jemandem streiten, wenn man nicht die gleiche Vision hat und ihm nicht vertraut? Die Lösung ist, dass man geht und sein eigenes Ding macht.“
Bei OpenAI entwickelte Dario das Konzept der Skalierungsgesetze (Scaling Laws) und sagte voraus, dass sich große Sprachmodelle allein durch das Hinzufügen von mehr Daten und Rechenleistung verbessern würden. „Zu diesem Zeitpunkt glaubten nicht viele Leute daran, dass Skalierung der Weg ist, wie diese Modelle intelligenter und besser werden“, erinnerte er sich. Dieser Ansatz trug dazu bei, die Modelle von OpenAI zu beschleunigen und ebnete den Weg für ChatGPT, doch die philosophischen Differenzen erwiesen sich als unüberbrückbar.
Das Gründungsteam traf sich während der Pandemie im Precita Park in San Francisco, rückte Stühle auf den Rasen und diskutierte, was sie aufbauen wollten. Von Anfang an positionierte sich Anthropic als die sicherheitsbewusste Alternative, wobei Claude darauf trainiert wurde, einer „Verfassung“ aus Prinzipien zu folgen. Auf die Frage, wessen Werte in Claude einfließen, verwies Daniela auf „Gründungsdokumente der Menschheitsgeschichte, wie die UN-Menschenrechtscharta“, und sagte, das Unternehmen habe Gespräche mit religiösen Führern über „Grundwerte, die religionsübergreifend konsistent sind“, begonnen.
Regulatorische Haltung und staatliche Beteiligung
Dario übte scharfe Kritik an beiden Enden des politischen Spektrums in Bezug auf die KI-Regulierung. Er kritisierte eine „bestimmte Gruppe von Leuten in der Tech-Welt im Silicon Valley“, die mit extremen antireregulatorischen Positionen begannen und argumentierten, dass selbst „Transparenz bei dieser Technologie oder Exportkontrollen“ das „Potenzial zur Schaffung der Technologie apokalyptisch zerstören“ würden, dann aber „sobald sie die erste echte Gefahr sehen“, anfingen, über „Nationalisierung und staatliche Beschlagnahmung“ zu sprechen.
„Sie pendeln zwischen extremster Antiregulierung und diesem völlig kommunistischen ‚der Staat sollte sich alles schnappen‘“, sagte er. „Wir brauchen einen vernünftigeren, moderaten Ansatz.“ Sein bevorzugter Rahmen umfasst eine „grundlegende Regulierung der Technologie“ mit „erforderlichen Tests und Audits vor der Veröffentlichung der Modelle“ – ein Ansatz, den die erste Trump-Regierung ablehnte, als Präsident Trump an seinem ersten Tag im Amt die KI-Executive-Order von Biden aufhob.
Die Position des Weißen Hauses, artikuliert vom ehemaligen KI- und Krypto-Zaren David Sachs, bevorzugte einen zurückhaltenden Ansatz. Sachs warnte, dass „übermäßige Regulierung des KI-Sektors eine transformative Industrie töten könnte, gerade wenn sie abhebt.“ Die Entwicklung von Mythos und die damit verbundenen nationalen Sicherheitsimplikationen scheinen das Denken der Regierung jedoch dahingehend verschoben zu haben, dass sie die mächtigste KI kontrollieren möchte.
Dario kritisierte zudem Chiphersteller für den Verkauf von KI-Chips an China und nannte es „ein bisschen so, als würde man Atomwaffen an Nordkorea verkaufen“. Er sagte, er habe sich „sehr deutlich für die Notwendigkeit von Exportkontrollen für Chips nach China ausgesprochen“, weil „es für Amerika und für den Zustand der Demokratie in der Welt sehr schlecht wäre, wenn China bei den KI-Fähigkeiten die Nase vorn hätte.“ Er räumte ein, dass seine Chip-Partner „dieser Ansicht natürlich nicht zustimmen, aber das hat mich nicht davon abgehalten, es zu sagen.“
Die Geschwisterdynamik und die Unternehmenskultur
Das Interview enthüllte eine ungewöhnliche Unternehmensstruktur, in der Daniela das Tagesgeschäft leitet und das gesamte Führungsteam an sie berichtet, während Dario keine direkten Unterstellten hat. „Es ist unglaublich befreiend“, sagte Dario. „Es erlaubt mir, all die Dinge, die ich tue, viel einfacher zu erledigen, als es sonst der Fall wäre.“ Als Chang scherzte, „sie erledigt die ganze Arbeit“, entgegnete Dario: „Wenn du durch die Dinge gehen müsstest, durch die ich während des ‚Department of War‘ gehen musste...“
Daniela beschrieb ihre komplementären Hintergründe: Dario belegte schon in der Mittelstufe Analysis und während der Highschool Mathematikkurse an der UC Berkeley, während sie „mehr am Lesen und an den Künsten interessiert“ war. Sie lebten zusammen in San Francisco mit Danielas Ehemann Holden Karnofsky, bevor sie 2016 beziehungsweise 2018 zu OpenAI stießen. „Dario und ich, wir standen uns schon immer sehr nahe, seit wir klein waren, aber ich glaube, wir wollten schon immer etwas Großes zusammen machen“, sagte Daniela.
Dario betonte die interne Kommunikation als entscheidend für die Bewältigung des Drucks. Er hält unzensierte zweiwöchentliche All-Hands-Meetings ab, bei denen er „eine Stunde lang darüber spricht, was mir durch den Kopf geht, was in der Branche passiert, was in der Welt außerhalb vor sich geht.“ Dieser Ansatz schafft das, was er „3.000 Leute, die auf dem gleichen Stand sind wie ich“ nennt – ein „unglaublicher Verstärker“, der bedeutet: „Ich habe nie das Gefühl, dass ich allein bin“, wenn er mit externen Herausforderungen konfrontiert wird.
Existenzielles Risiko und die Oppenheimer-Frage
Auf die Frage nach Parallelen zu Oppenheimer angesichts seiner Vorliebe für das Buch „The Making of the Atomic Bomb“ identifizierte sich Dario stattdessen mit Leo Szilard, „der als Erster die Idee hatte, dass es eine Kettenreaktion geben könnte.“ Er sieht Oppenheimer als „einen Fall des Scheiterns, als das, was nicht passieren sollte“, und argumentiert: „Wir werden das nicht mit überlebensgroßen Persönlichkeiten oder Figuren überstehen, die versuchen, im Zentrum von allem zu stehen.“
Zu der Wahrscheinlichkeit von 10 bis 25 Prozent für einen Zivilisationskollaps, die er zuvor genannt hatte, sagte Dario, dieses Risiko „entsteht aus dem sehr einfachen Rezept der Technologie, der Existenz vieler Länder auf der Welt, der Existenz vieler Unternehmen innerhalb einer Wirtschaft.“ Er zog einen Vergleich zu Fluggesellschaften: „Es kann sowohl sein, dass deine Fluggesellschaft zehnmal sicherer ist als alle anderen. Aber wenn jemand kommt und dich fragt: Kannst du garantieren, dass dein Flugzeug niemals abstürzt?“ Als Chang anmerkte, dass niemand in ein Flugzeug mit einem Absturzrisiko von 25 Prozent steigen würde, antwortete Dario: „25 Prozent ist zu hoch. Wir versuchen, diese Wahrscheinlichkeit viel, viel niedriger zu machen. Das ist das Ziel.“
Auf die Frage, ob etwas, das Anthropic baut, diesen Kollaps verursachen könnte, sagte er: „Ich hoffe natürlich nicht“, räumte aber ein: „Es wird nie null sein.“ Er beschrieb die Rolle von Anthropic als den Versuch, die sicherste Option in einem unvermeidlichen Wettlauf zu sein: „Die Hälfte dessen, was wir im Unternehmen tun, ist der Versuch, das Risiko so weit wie möglich zu reduzieren.“ Die zugrunde liegende Prämisse ist, dass ohnehin jemand fortschrittliche KI bauen wird – die Frage ist also, ob die Entwickler Sicherheit priorisieren.
Darios Stressabbau umfasst gelegentliche Wochenenden, an denen er Videospiele spielt, manchmal mit Daniela, und Reisen nach Italien, wo er und seine Frau ein Pferd namens Calypso haben. „Sie weiß von all dem nichts, sie ist einfach ein glückliches Pferd“, sagte er und beschrieb das Zusammensein mit dem Tier als eine Form von Zen.
Auf die Frage, warum die Menschen Anthropic angesichts der Glaubwürdigkeitskrise im Silicon Valley vertrauen sollten, räumte Dario ein, dass „ein Start von einer Position des Misstrauens aus ziemlich rational ist“ und dass „das Silicon Valley viel vom Vertrauen der Welt verloren hat und es sich neu verdienen muss.“ Sein Appell: „Die Botschaft, die wir senden wollen, ist: Wir sind tatsächlich anders, und das muss sich durch Dinge verdienen, die wir tatsächlich tun.“ Ob sich das bewahrheitet, wird davon abhängen, wie Anthropic die eskalierende Spannung zwischen seiner Sicherheitsmission und dem kommerziellen sowie politischen Druck bewältigt, die vielleicht folgenreichste Technologie des Jahrhunderts zu bauen.