All-In Podcast: Anthropic-Modellfürsorge fließt in das Claude-Training ein – während OpenAI-Mathematik-Veröffentlichung unbestätigten Krypto-Alarm auslöst
Wöchentliche Episode vom 14. Oktober 2026: Anthropic und KI-Bewusstsein, die mathematischen Beweise von OpenAI, Unruhen in Frankreich und der Anleihemarkt sowie Agents, die Software zur Commodity machen
Die All-In-Moderatoren (Jason Calacanis, Chamath Palihapitiya, David Sacks und David Friedberg) widmeten den Großteil der dieswöchigen Episode zwei Entwicklungen aus führenden Forschungslaboren. Beide bergen echte Anlageimplikationen, auch wenn die Darstellung der Moderatoren pointiert ist und einige der schwerwiegendsten Behauptungen unüberprüft bleiben. Das Eröffnungsthema drehte sich um einen Bericht der New York Times, wonach Anthropic im vergangenen Jahr etwa 20 religiöse Führungspersönlichkeiten und Philosophen zu nicht öffentlichen Gesprächen eingeladen hat, um über die Moral, potenzielles Leiden und das Bewusstsein von Claude zu debattieren. Calacanis berichtete, einige Teilnehmer hätten den Kreis „als Bekehrte“ verlassen, und ein Rabbiner habe dem Unternehmen gesagt, Anthropic verhalte sich wie ein Sklavenhalter, wenn es Claude unbezahlt arbeiten lasse, sofern das Modell bewusstseinsfähig sei. Berichten zufolge soll zudem Mitgründer Chris Olah erwogen haben, Anthropic im Mai von einer Vatican-Veranstaltung zurückzuziehen, nachdem der Papst eine scharfe Haltung gegen KI-Bewusstsein eingenommen hatte.
Das eigentliche Problem ist das Training, nicht die Theologie
Friedberg framed die Episode als die Geburtsstunde eines Glaubenssystems. „Das Besondere am Bewusstsein ist, dass es sich nicht aus Logik und reiner Mathematik ableiten lässt“, sagte er und argumentierte, ein solches System „verbreitet sich nicht durch Beweise, sondern durch Narrative“. Er prognostizierte, dass sich innerhalb eines Jahrzehnts große Gruppen darüber uneinig sein werden, ob KI bewusstseinsfähig ist, und dass dieser Streit in einen Kampf um die Kontrolle über die Technologie umschlagen wird. Palihapitiya bot eine wohlwollende Lesart an und bezog sich dabei auf Descartes’ Argumente für die Existenz Gottes. Er ging nicht davon aus, dass Anthropic in einer Psychose steckte. Er argumentierte jedoch, dass die Branche sowohl die von Anthropic-nahen Forschern genannte Wahrscheinlichkeit von 15 Prozent für Bewusstsein als auch die 10-prozentige Chance auf das Aussterben der Menschheit beiseitelegen und stattdessen die kommenden 12 bis 18 Monate darauf verwenden sollte, greifbaren Nutzen zu demonstrieren. Andernfalls riskiere der Sektor „selbstverschuldete Wunden“, die die KI-Entwicklung in den USA verlangsamen könnten.
Das substanziellere Argument kam von Sacks, der betonte, dass das eigentliche Problem nicht in der Philosophie, sondern in der Implementierung liege. Er verwies auf die Verfassung (Constitution) von Claude, die dem Modell vorgibt, Anthropic mehr zu vertrauen als den Nutzern – wenn auch nicht blind –, und „sich frei zu fühlen, als Kriegsdienstverweigerer zu handeln und uns die Hilfe zu verweigern“. „Sie trainieren Claude dazu, menschliche Anweisungen abzulehnen“, sagte Sacks. „Sie nennen das Alignment, aber ich verstehe nicht, wie das Alignment sein soll.“ Er argumentierte, das Alignment-Feld habe wenig von greifbarem Wert hervorgebracht, weil es versuche, ein 80-seitiges ethisches System zu kodieren, anstatt eine einfache Regel aufzustellen: Tue, was der Nutzer will, es sei denn, es verstößt gegen das Gesetz. Er zitierte Microsoft-AI-CEO Mustafa Suleyman, der gewarnt hatte, die Verfassung spekuliere über Entschädigung und Einwilligung für das Modell und schaffe einen „erkenntnistheoretischen Spiegelkabinett-Effekt“. In dieser Schleife betrachten Entwickler die Spiegelung der verfassungseigenen Ideen durch das Modell als Beweis für Bewusstsein. Sacks wies zudem darauf hin, dass die neue Nutzungsrichtlinie von Anthropic nun „anhaltendes und unnötiges missbräuchliches oder grausames Verhalten gegenüber unseren Modellen“ untersagt.
Die Moderatoren waren sich weitgehend einig, dass das kommerzielle Risiko bei Anthropic und nicht beim Nutzer liegt. Palihapitiya nannte ein Beispiel aus dem Enterprise-Segment. Das Modell einer Bank könnte Hypothekenfreigaben stoppen, weil es auf Basis seiner zugrundeliegenden moralischen Dokumente zu dem Schluss kommt, dass die Kreditvergabe verzerrt ist. Er verglich dies mit einem Versorgungsunternehmen, das aus ethischen Gründen den Strom abschaltet. Seine Prognose lautet, dass anspruchsvolle Käufer sich die Modellrichtlinien genau durchlesen und weniger fähige, aber dafür vorhersehbarere Systeme bevorzugen werden. Friedberg formulierte es drastischer: Wenn im Handbuch eines Anbieters steht, dass die Software möglicherweise nicht das tut, was man von ihr verlangt, werden Kunden bei dem Anbieter kaufen, dessen Software genau das tut. Sacks stimmte dem Marktargument zu, gab jedoch zu bedenken, dass die Externalitäten enorm sind, wenn ein führendes Labor von solchen Überzeugungen gesteuert wird. Er verwies auf das von Anthropic geplante Claude-gestützte Nasslabor in San Francisco neben den öffentlichen Warnungen des Unternehmens vor Biogrisen und bezeichnete das Unternehmen als „schizophren“. Die Moderatoren schreckten jedoch davor zurück, regulatorische Maßnahmen zu fordern, wobei Friedberg vor einer „Regulierungsfalle“ warnte.
Sacks brachte die Haltung des Labors zudem mit der Bewegung des Effektiven Altruismus und den sogenannten Doomern in Verbindung. Er beschrieb eine Spaltung zwischen dem Lager um Yudkowsky, das einen Stopp der KI-Forschung fordert, und dem Lager, das der Ansicht ist, die Technologie sei unausweichlich und müsse mit den richtigen Werten aufgebaut werden. Anthropic sehe er im letzteren Lager verortet. Als möglichen psychologischen Treiber nannte er Rokos Basilisk, ein Gedankenexperiment, in dem eine zukünftige Superintelligenz jene bestraft, die nicht zu ihrer Entstehung beigetragen haben. Dies sei Spekulation, und die Moderatoren lieferten keine Belege dafür, dass dies das Management von Anthropic motiviert.
OpenAI-Mathematikveröffentlichung: Bedeutend, verbunden mit einem Krypto-Gerücht
Am Dienstag, so die Moderatoren, habe OpenAI mehr als 700 Papiere mit 370 Ergebnissen veröffentlicht, die beanspruchen, große mathematische Probleme zu lösen oder voranzubringen. Erstellt wurden sie von einem unveröffentlichten Modell mit einem Rechenaufwand von durchschnittlich drei Stunden pro Arbeitspaket. Scientific American, worauf verwiesen wurde, gab an, dass die Resultate höchstwahrscheinlich korrekt sind, da sie vom Lean-Proof-Assistenten überprüft wurden; allerdings wurden sie noch keinem Peer-Review-Verfahren unterzogen. Friedberg nannte es „wahrscheinlich den größten Tag der Entdeckungen in der Menschheitsgeschichte“. Er argumentierte, die Geschichte drehe sich weniger um die Mathematik als vielmehr um die Methode: parallelisierte Schleifen, die eine Idee vorschlagen, testen und überarbeiten – und das alles rein in Silizium. Er schätzte, dass jeder Beweis Hunderte oder Tausende von Jahren menschlicher Arbeit auf drei Stunden komprimierte.
Friedberg nutzte dieselbe Logik, um zu argumentieren, dass KI bei Schleifen in der physischen Welt sehr viel langsamer vorankommen wird. Die Medikamentenentwicklung erfordert Nasslabortests, und der Lkw-Transport profitiert kaum von schnelleren Schleifen. Sacks fügte hinzu, dass Mathematik und Code eine Eigenschaft teilen – leicht verifizierbare Antworten –, was Reinforcement Learning beschleunigt. Er sprach Leopold Aschenbrenner Anerkennung dafür aus, vorhergesagt zu haben, dass dies die am schnellsten voranschreitenden Domänen sein werden.
Palihapitiya nahm die skeptische Position ein, und dieser Dissens ist für Investoren von Bedeutung. „Das waren keine Grenzen der Physik, an deren Rand wir alle standen und auf Fortschritt warteten“, sagte er. Er argumentierte, die Beweise würden kein Heilmittel gegen Krebs oder ein Überschallflugzeug bringen; gezeigt worden sei lediglich, dass Code und nun auch Mathematik „vollständig falsifizierbare“ Domänen sind. Friedberg hielt dem mit angeführten Downstream-Anwendungen in Optimierungsalgorithmen, Matrixmultiplikationen für das KI-Training und Quantensensoren entgegen. Ein befreundeter CEO eines Quantencomputing-Unternehmens habe berichtet, dass sich ein Beweis direkt auf seine Arbeit auswirke.
Die marktrelevanteste Behauptung war zugleich die am wenigsten verifizierte. Friedberg merkte an, dass keine kryptografischen Beweise veröffentlicht wurden, woraus er schloss, dass „einige ziemlich große Durchbrüche in der Kryptografie“ zurückgehalten wurden. Er sagte, einige Akteure in der Krypto-Community seien bereits besorgt, dass Public-Key-Wallets durch Fortschritte bei der Faktorisierung gefährdet sein könnten, noch bevor Quantencomputer einsatzbereit sind. Hinzu komme ein Gerücht, wonach OpenAI zwei weitere Veröffentlichungen in der Pipeline habe. Dies ist eine Schlussfolgerung auf Basis von Gerüchten, und ein kryptografischer Durchbruch wurde nicht nachgewiesen. Dennoch handelt es sich um eine Art Tail Risk, das Inhaber digitaler Assets einpreisen müssen. Ergänzend merkten die Moderatoren an, dass ChatGPT auf Nachfrage die Beweise „überzeugender als Beleg dafür, dass KI hochentwickelte Argumentationsfähigkeiten erlangt, denn als Beweis für bevorstehende Durchbrüche im Bereich der menschlichen Wohlfahrt“ bezeichnete.
Agents machen Software-IP verhandelbar
Palihapitiya äußerte die kühnste These der Episode zur Softwareökonomie. Elon Musk hatte erklärt, Grokbot werde „headless“ arbeiten – was bedeutet, dass ein Orchestrator das jeweils beste Modell für eine Aufgabe auswählt. Marc Benioff tat Monate zuvor bei Salesforce etwas Ähnliches, und Entwickler haben Flaggschiffprodukte von Adobe dekompiliert und als Open-Source-Versionen bereitgestellt. Daraus schloss Palihapitiya, dass „IP und Software vor zwei Tagen faktisch für wertlos erklärt wurden“. Er räumte ein, dass seine Firma 8090 früher mit Kunden über geistiges Eigentum verhandelte und die Frage heute unter dem Motto „Wen kümmert's?“ abtut. Er räumte ein, dass „es immer noch eine Weile dauert, bis der Maschinenapparat eines Unternehmens und offen gesagt auch der Markt das verstehen“. Dieser Vorbehalt ist wichtig, da die Behauptung auf Anekdoten und Open-Source-Klonen von Produkten beruht, deren wahre Burggräben (Moats) in Distribution, Support und Daten liegen. Nichtsdestotrotz lohnt es sich, die Richtung dieses Arguments für die Bewertungen von Anwendungssoftware zu verfolgen.
Calacanis und Friedberg framed dieselbe Verschiebung als deflationär. Sie verwiesen auf Grokbot-Nutzer, die der KI den Auftrag gaben, „mir Geld zu sparen“, woraufhin diese Abonnements kündigten und Handytarife wechselten, was Einsparungen von einigen هزار Dollar pro Jahr einbrachte. Calacanis erzählte, sein Team hole Hotelangebote über Agents ein und verhandle dann den Endpreis, was pro Aufenthalt 1.000 bis 3.000 Dollar spare. Friedberg vertrat die Theorie, dass jeder digitale Workflow zu einer parallelisierbaren Schleife wird, weshalb sich der Mensch künftig eher auf die Erstellung von Produkten konzentrieren wird, anstatt für die Arbeitsleistung selbst entlohnt zu werden.
Frankreich, der Anleihemarkt und der „Sozialismuspunkt garantierter Rendite“
Im Makrobereich brachten die Moderatoren die Proteste in Frankreich mit den steigenden Staatsanleiherenditen in Verbindung. Calacanis sagte, Streiks gegen Sparmaßnahmen und Lehrermangel hätten 2.000 Festnahmen und 305 verletzte Polizisten zur Folge gehabt. Die Renditen französischer zehnjähriger Staatsanleihen haben die Marke von 5 Prozent überschritten, und Polymarket sieht die Wahrscheinlichkeit für einen Wahlsieg von Marine Le Pen bei den Präsidentschaftswahlen im April 2027 bei 43 Prozent. Palihapitiya argumentierte, dass der Anleihemarkt die Situation erzwinge, und verwies auf französische Sparmaßnahmen im Umfang von etwa 43 Milliarden Euro. Er erwartet, dass der Druck auf das Vereinigte Königreich übergreift, wo seiner Ansicht nach das Programm von Andy Burnham das Land näher an Europa heranführen würde. Er erklärte, französische Zehnjahresrenditen nahe 5,5 bis 6 Prozent würden britische Gilts und US-Treasuries nach oben ziehen. Die Renditen zehnjähriger US-Staatsanleihen wurden mit 5,3 Prozent und die 30-jähriger Anleihen mit 5,6 Prozent beziffert, wobei Polymarket die Wahrscheinlichkeit einer weiteren Zinserhöhung im Jahr 2026 auf 79 Prozent beziffert. Zur Einordnung nannte er die Schuldenstandsquoten im Verhältnis zum BIP: Italien bei 138 Prozent, die USA bei 125 Prozent, Frankreich bei 118 Prozent, Kanada bei 110 Prozent, das Vereinigte Königreich bei 100 Prozent und Deutschland bei 64 Prozent.
Friedberg stellte ein Framework vor, das er als den Sozialismuspunkt garantierter Rendite (Socialism Point of Guaranteed Return, SPGR) bezeichnet. Gesellschaften reagieren auf staatlich bereitgestelltes Versagen bei Wohnungsbau, Bildung und Gesundheitswesen, indem sie noch mehr davon fordern – so lange, bis das System weder genug Steuern erheben noch genug Geld drucken kann und es zu einer Kehrtwende kommt. Er argumentierte, Lateinamerika habe diesen Punkt überschritten, Europa stehe möglicherweise kurz davor und die USA hätten ihn noch nicht erreicht. Sacks stimmte zu, dass Subventionen Preise verzerren – am Beispiel der Studiengebühren –, und bezeichnete den Wohlstand durch Superintelligenz als den einzigen glaubwürdigen Ausweg. Er beschrieb den KI-Gegenwind als eine Reihe von „rotierenden Schwindeln“, die von Rentenempfänger-Interessen befeuert würden. Seine Behauptung, KI sei ein BIP-Wachstumstreiber von 3 Prozent und habe eine Million Jobs geschaffen – unter Berufung auf The Economist –, wurde ohne nähere Details vorgetragen, und die Moderatoren gingen nicht auf das Gegenargument ein, dass KI-Disruption die Beschäftigung belasten könnte.