DruckFin

Anthropic-Transkript: Technische Leiter prognostizieren AGI in den nächsten Jahren und exponentielle Erträge der Intelligenz

August 2026, American-Optimist-Diskussion in Napa mit Nick Marwell und Schult Douglas

Episoden-Intro

Host: Modelle, die mindestens so leistungsfähig sind wie alle Menschen zusammengenommen oder noch fähiger, werden höchstwahrscheinlich in den nächsten paar Jahren auf den Markt kommen. Jede zusätzliche Einheit an Intelligenz ist exponentiell mehr wert als die zuvor. Man kann die produktive intellektuelle und physische Kapazität der Menschheit immer weiter steigern – potenziell verdoppeln –, und zwar so, dass tatsächlich eine Welt ohne Knappheit entsteht.

Host: Ihr beide seid an vorderster Front der KI-Entwicklung tätig. Was sind die spannendsten Projekte, an denen ihr arbeitet?

Nick Marwell: KI wird die wichtigste Technologie in den Biowissenschaften sein, ganz sicher in unserem Leben und womöglich überhaupt.

Schult Douglas: Wir sollten diese Technologien nicht auf die Welt loslassen, bevor wir verhindern können, dass böswillige Akteure großen Schaden anrichten.

Host: Technologieführer, die dem Ganzen skeptischer gegenüberstehen, sagen: „Ach, Dario versucht doch nur, alle in Schrecken zu versetzen, um strengere Regeln durchzusetzen und die Dinge zu verlangsamen.“

Schult Douglas: Bisher haben wir uns selbst weitaus stärker ausgebremst als jeder andere.

Host: Gibt es irgendein Szenario, in dem ihr Amerika ausbremsen und China den Vortritt lassen würdet?

Schult Douglas: CEO und Mitgründer... jetzt bin ich hier.

Host: Nick Marwell und Schult Douglas sind zentrale technische Leiter bei Anthropic, dem am schnellsten wachsenden KI-Unternehmen der Welt. Beide blicken sehr optimistisch in die Zukunft – trotz einiger schwerwiegender Bedrohungen, denen unsere Zivilisation ausgesetzt ist. Um welche Bedrohungen handelt es sich dabei? Wie beurteilen wir die Dynamik von Angriff und Verteidigung in den Bereichen Biologie, Cyber-Sicherheit und anderen Schlüsselbereichen? Manche Menschen sind ziemlich verärgert über Anthropic und werfen dem Unternehmen anwaltliche beziehungsweise regulatorische Einflussnahme („Regulatory Capture“) vor. Wie stehen sie dazu? Was hat Anthropic vor? Wie bewerten sie den Kampf gegen die Modell-Distillation in China? Wenn jeder ihre Modelle kopieren kann, wie soll Anthropic dann weiterhin Billionen Dollar wert sein? Und was sollte ein junger Berufseinsteiger, der seine Karriere aufbauen will, aber nicht im Zentrum der KI-Welt sitzt, in den nächsten zehn Jahren tun? Ein optimistischer Insider-Blick auf eines der dynamischsten Unternehmen der Welt in einer faszinierenden Zeit. Ich freue mich, dass sie heute zu Wort kommen.

Autodidaktisches ML und ungewöhnliche Wege zu Anthropic

Host: Willkommen zu American Optimist. Ich freue mich sehr, heute zwei herausragende Talente von Anthropic bei uns zu haben. Nick, du bist ein Kernmitglied des technischen Stabs und leistest Pionierarbeit in der RL-Science, also der Erforschung des bestärkenden Lernens (Reinforcement Learning), und Schult Douglas ist ebenfalls technischer Leiter im Bereich Reinforcement Learning. Ist das richtig?

Schult Douglas: Ja, absolut.

Host: Und wie lange seid ihr beide schon bei Anthropic?

Nick Marwell: Bei mir sind es jetzt etwas mehr als drei Jahre.

Host: Aber wie alt ist das Unternehmen überhaupt?

Schult Douglas: Etwa fünf Jahre.

Host: Ja, das ist erstaunlich. Es ist inzwischen eines der wichtigsten, größten und am schnellsten wachsenden Unternehmen der Welt, und es existiert erst seit fünf Jahren. Das ist eine berauschende Zeit hier in Kalifornien. Wir filmen heute hier in Napa. Danke, dass ihr da seid, Jungs.

Nick Marwell: Nun, danke für die Einladung. Das wird ein Spaß.

Schult Douglas: Danke, dass wir hier sein dürfen.

Host: Fangen wir mit euren Hintergründen an. Wo bist du aufgewachsen, Schult? Wo kommst du her?

Schult Douglas: Ich bin in Sydney aufgewachsen. Um das Jahr 2020 herum war ich nach der Lektüre diverser Blogbeiträge und Fachartikel davon überzeugt, dass Skalierung und unsere allgemeine Entwicklung darauf hinauslaufen, in den 2020er Jahren AGI zu erreichen. Ich habe nachts und an den Wochenenden hart gearbeitet, um zu beweisen, dass ich den Qualitätsansprüchen genügen kann, die von Unternehmen wie DeepMind, Anthropic und OpenAI gefordert werden.

Host: Hattest du Informatik studiert?

Schult Douglas: Ich habe im Bachelor Robotik studiert. 2019 habe ich meinen Abschluss gemacht und danach im Grunde eigene Forschung betrieben. Schließlich habe ich zwei Jahre lang für DeepMind gearbeitet und die letzten 18 Monate bei Anthropic.

Host: Großartig. Und Nick, wo kommst du her?

Nick Marwell: Ja, ich komme ursprünglich tatsächlich aus San Francisco, was heutzutage wohl eher selten ist unter Leuten in der KI-Branche. Ich bin in einem Haushalt aufgewachsen, in dem vor allem mein Vater die erste Hälfte seiner Karriere in der traditionellen Wirtschaft verbracht hatte. In der zweiten Hälfte seines Lebens und in meinen prägendem Jahren schlug er dann einen interessanten Weg ein: Er überlegte, wie er etwas zurückgeben kann – insbesondere durch den gezielten Einsatz von Technologie.

Nick Marwell: Als ich darüber nachdachte, was ich tun wollte, suchte ich nach Möglichkeiten, bei denen ich die Fähigkeiten erlernen konnte, ein effektiver Kapitalist – oder wie immer man das nennen will – zu werden und gleichzeitig dieses Know-how für das soziale Wohl einzusetzen. Anthropic war für mich eine Art perfekte Fügung: Ich machte mir zunehmend Sorgen um die KI-Sicherheit, war zu dem Zeitpunkt als „Resident“ bei Thrive Capital an einem ganz anderen Unternehmen beteiligt, und plötzlich tauchte Anthropic auf und ich dachte mir: Das ist genau das Richtige für mich.

Was sind die spannendsten Projekte, an denen ihr arbeitet?

Host: Erstaunlich. Nun, seitdem ihr dazugestoßen seid, ist Anthropic meines Erachtens zum größten der KI-Unternehmen geworden. Ihr veröffentlicht zwar keine offiziellen Zahlen, aber es gibt zahlreiche Leaks. Die Berichte, die durchsickern – wir befinden uns hier im August 2026 –, sprechen für sich...

Nick Marwell: Ich verziehe keine Miene.

Schult Douglas: Absolut regungslos.

Nick Marwell: Völlig regungslos, keine Reaktionen.

Host: Es wird gemunkelt, dass das Unternehmen eine Umsatz-Run-Rate von über 80 Milliarden Dollar aufweist, extrem schnell wächst und damit vor OpenAI und allen anderen liegt. Ihr befindet euch an der vordersten Front der KI. Was sind die spannendsten Dinge, an denen ihr intern gerade arbeitet und über die ihr sprechen könnt? Wie fühlt es sich an, an dieser technologischen Speerspitze zu sein?

Schult Douglas: Nun, worüber ich viel sprechen kann, ist, wie sich die Programmierung verändert hat – denn das ist die unmittelbarste Art, wie wir den Fortschritt spüren. Vor 18 Monaten habe ich im Grunde noch jede einzelne Zeile Code von Hand getippt. Wenige Monate nach meinem Start bei Anthropic habe ich dann bereits ein Modell angeleitet. Ich musste alle paar Minuten eingreifen, ihm sagen, was es tun soll – etwa die nächste Funktion schreiben oder ähnliches –, aber ich musste regelmäßig nachschauen, weil es Fehler machte oder vom Kurs abkam.

Schult Douglas: Und wo wir heute stehen: Ich kann Modellen Aufgaben für ein bis zwei Tage übertragen und sie im Grunde wie ein junioriges Teammitglied arbeiten lassen. Und das hat sich allein in den letzten 18 Monaten so entwickelt. Wir sind von einem Werkzeug, bei dem man ständig manuell eingreifen muss, zu etwas gelangt, das sich wie ein vollwertiger Junior-Entwickler anfühlt.

Host: Während wir uns also unterhalten, sind diese Modelle quasi deine Junior-Teammitglieder und arbeiten hart für dich?

Schult Douglas: Ja, genau. Da arbeiten eine ganze Reihe von ihnen im Hintergrund.

Host: Woran arbeiten sie genau, sofern du das sagen kannst? Gibt es da ein übergeordnetes Thema?

Schult Douglas: Einfach eine Menge RL-Forschung gemeinsam mit diesen Teammitgliedern.

Nick Marwell: Wunderbar. Ich gebe darauf eine etwas andere Antwort. Bisher ging es bei der Modellentwicklung vor allem darum, Modelle zu befähigen, Aufgaben zu erledigen, die Menschen ohnehin schon recht gut beherrschen. Unser Ziel ist es jedoch, Fähigkeiten zu schaffen, die menschliche kognitive Leistungen massiv multiplizieren – also Software zu entwickeln, die ein Team menschlicher Entwickler im selben Zeitraum hätte bauen können.

Nick Marwell: Was man jetzt aber beobachten kann – und die jüngsten Resultate im Bereich der Mathematik sind dafür ein gutes Beispiel –, ist der Versuch herauszufinden, wie man Modelle einsetzen kann, um über die bisherigen Grenzen menschlicher Intelligenz und menschlicher Leistungen hinauszugehen.

Host: Meinst du damit einige der jüngsten mathematischen Errungenschaften?

Nick Marwell: Ja, es wurden zahlreiche neue mathematische Beweise vorgelegt, an denen Menschen lange Zeit interessiert waren, die sie aber bisher nicht lösen konnten.

Host: Bei manchen davon wirkte es so, als hätte ein sehr kluger Mathematiker erkannt, dass der Computer leistungsstark genug ist, um etwas durch Brute-Force-Computing zu lösen, was ein Mensch allein nicht geschafft hätte. Verstehst du, was ich meine? Man hat den Eindruck, sie sind einfach gut in spezifischen Dingen, die Menschen nutzen – oder handelt es sich wirklich um völlig neue Theorien, auf die sie stoßen? Wie siehst du das?

Nick Marwell: Zumindest bisher sind das meines Erachtens keine Ideen, auf die Menschen prinzipiell niemals hätten kommen können. Aber ich glaube ohnehin, dass die wenigsten Fortschritte oder intellektuellen Errungenschaften jemals so zustande kommen. Natürlich gibt es Ausnahmen, aber die meisten gesellschaftlichen Fortschritte basieren schlicht darauf, Punkte zu verbinden und auf früheren intellektuellen Leistungen aufzubauen.

Nick Marwell: Und was du beschreibst – zwei Ideen unterschiedlicher Personen zusammenzuführen, um etwas Neues zu finden –, das ist das Fundament dessen, was Menschen tun. Der wesentliche Unterschied besteht heute darin, dass wir nun völlig neue Ideen generieren oder neue Gedanken formen, indem wir menschliche Konzepte kombinieren, was in diesem Umfang früher nicht möglich war. Das Schreiben einer weiteren Web-App war dagegen gewiss keine bahnbrechende intellektuelle Leistung für die Menschheit.

Haben wir AGI erreicht – und was kommt als Nächstes?

Host: Wir haben noch nie erlebt, dass Unternehmen im Silicon Valley so rasant skalieren. Ich meine, nicht nur mal ein 10x, sondern fortlaufend exponentiell wachend. Gestern Abend war ich in Napa bei einem anderen Unternehmen, in dessen Vorstand ich sitze, und es fühlt sich an, als würde sich das Geschäftsmodell alle 60 bis 90 Tage grundlegend wandeln. Es passiert so unglaublich viel. Und ich denke, das spiegelt die Erfahrung vieler von uns wider. Ihr befindet euch mitten im Epizentrum des am schnellsten wachsenden Unternehmens. Wie fühlt sich das im Vergleich zu eurem früheren Leben an? Wohin führt der Weg von hier aus? Geht die Beschleunigung weiter? Wie denkt ihr darüber?

Schult Douglas: Eine Sache, die an Anthropic besonders erfreulich ist, ist, dass unsere Ambitionen im Einklang mit der Beschleunigung des Unternehmens skalieren konnten. Vor 18 Monaten mussten wir noch extrem fokussiert sein – rein auf Code und darauf zu beweisen, dass wir in diesem Bereich zu den Weltbesten gehören. Inzwischen ist die Mission des Unternehmens jedoch weit grösser, als nur gute Programmiermodelle zu bauen. Mit dem Wachstum des Unternehmens und der Umsätze können wir nun die Puzzleteile zusammenfügen, um noch ambitioniertere Ziele anzugehen.

Host: Sprechen wir genauer über diese Mission. Anfang der Woche sprach ich mit einem anderen Bekannten, der ebenfalls in leitender Position in der KI-Branche tätig ist. Er meinte, man müsse zunächst in den Bereichen Code und Mathematik der absolut Beste werden, aber danach würden weitere Domänen folgen – all die anderen menschlichen Fähigkeiten, in denen man das Niveau A++ erreichen kann. Ist das der Plan: eine Vielzahl neuer Skills zu integrieren? Was ist die Mission für die Zukunft?

Schult Douglas: Nun, das Ziel war und ist immer unsere Überzeugung, dass AGI in den nächsten Jahren tatsächlich erreichbar ist.

Host: Erkläre unserem Publikum, was ihr damit meint.

Schult Douglas: Wir sind der Ansicht, dass Modelle, die ebenso fähig oder fähiger sind als alle Menschen, höchstwahrscheinlich in den kommenden Jahren entstehen werden. Es handelt sich dabei um Systeme, die alles das tun können, was ein Mensch am Computer tun kann – oder, sobald wir über ausreichend fortgeschrittene Robotik verfügen, alles, was ein Mensch in der physischen Welt tun kann.

Host: Sie werden also auch viel besser sein als ich im Podcast. Ich könnte einfach den Roboter einspringen lassen?

Schult Douglas: Naja, beim Podcast...

Host: Lass uns lieber in den Weinberg gehen. Das macht mehr Spaß.

Schult Douglas: Ganz genau. Und wir glauben, dass dies massive Vorteile mit sich bringt. Es würde uns erlauben, die intellektuelle und physische Arbeit, die heute weltweit verrichtet wird, immens zu multiplizieren. Es könnte jahrhundertelangen Fortschritt potenziell sehr, sehr viel früher ermöglichen.

Wie man den KI-Fortschritt misst

Schult Douglas: Aber das Ganze ist natürlich auch mit gewaltigen Risiken verbunden. Die eigentliche Aufgabe des Unternehmens besteht daher darin, die Welt durch diese Risiken zu leiten, damit wir auf der anderen Seite von den Vorteilen profitieren können.

Host: Lassen wir uns die KI-Welle im Allgemeinen betrachten und schauen, wo wir uns darauf befinden. Du hast bereits erwähnt, dass du 2020 erkannt hast, dass AGI möglich werden würde – das war ungefähr zu der Zeit, als OpenAI GPT-3 veröffentlichte. Ich habe kürzlich in alten E-Mails gebastelt, da wir ein Buch zum zehnjährigen Jubiläum des ADC vorbereiten, und selbst 2020 habe ich Witze darüber gemacht, dass wir bald alle Associates ersetzen würden. Es lag also förmlich in der Luft, dass dies Realität werden könnte.

Host: Im Gespräch mit Dario Anfang dieses Jahres hieß es, dass sich bestimmte Fähigkeiten je nach Metrik alle paar Monate verdoppelten. Wie quantifizieren wir den Fortschritt? Du hast erwähnt, dass man KI anstelle eines Juniormitarbeiters einsetzen kann. Gibt es andere Kennzahlen, um zu messen, wie viel besser diese Systeme in den nächsten Jahren werden?

Schult Douglas: Ja, es gibt zahlreiche Evaluierungen – im Grunde standardisierte Prüfungen, mit denen Modelle getestet werden. In diesen Bereichen verläuft der Fortschritt extrem rasant. Ein hervorragendes Beispiel – auch wenn ich ungern zu sehr auf Mathematik abziele, aber in mancherlei Hinsicht ist sie schlicht der beste Maßstab – ist ein Benchmark namens FrontierMath. Dort sind wir von 0 Prozent bei einer Reihe von Problemen, die von Professoren verschiedenster Fachrichtungen zusammengestellt wurden, im Laufe des letzten Jahres auf weit über 40, 50, 60 Prozent gestiegen.

Host: Man braucht etwas Falsifizierbares, richtig? Man braucht messbare Iterationsschritte. Könnte man das Modell zum Beispiel mit einer Frau auf Instagram chatten lassen, um eine bestimmte Erfolgswahrscheinlichkeit für ein Date zu ermitteln?

Schult Douglas: Gut, das ist eine harmlose Frage, um darauf zu trainieren, oder?

Host: Ich bin verheiratet, falls das unklar war – gilt also nicht für mich.

Schult Douglas: Wir haben darauf nicht trainiert. Aber das wäre ein anschauliches Beispiel.

Host: Ähnliche Anwendungsfälle wären vermutlich besonders für einige unserer Freunde in San Francisco sehr nützlich.

Schult Douglas: Modelle verbessern sich auf zwei Wegen. Der erste Weg ist das Training anhand gigantischer Textkorpora aus dem Internet. Der zweite Weg ist das Reinforcement Learning – woran wir beide arbeiten –, bei dem konkrete Probleme gelöst und die Ergebnisse überprüft werden. Das ist genau das, was du meinst, und das funktioniert bei Mathematik und Informatik hervorragend. Bei Romantik, Gedichten oder anderen Themen ist das hingegen ziemlich schwierig.

Host: Ja, verstehe.

Schult Douglas: Des Weiteren erklärt das, warum sich Mathematik und Informatik so viel schneller entwickelt haben als andere Bereiche. Aber wir glauben keineswegs, dass es unmöglich ist, auch andere Probleme in diesen Rahmen zu gießen.

Nick Marwell: Ja. Ich denke, es gibt in gewisser Weise eine technische Erklärung dafür, warum Mathematik und Informatik den Anfang machten. Zum Teil gibt es aber auch eine soziale Erklärung: Man hat eine Gruppe von Menschen genommen, die überwiegend aus der Mathematik und Informatik stammen, und sie gebeten, Intelligenz zu erschaffen. Natürlich haben sie sich entschieden, zuerst Intelligenz in jenen Domänen zu erzeugen, die sie verstanden – sowohl weil ihr Interesse dort lag als auch weil es schlicht einfacher ist.

Nick Marwell: Es ist faszinierend, wie viel Zeit man beim Training guter Modelle darauf verwendet, das Verhalten des Modells zu analysieren: zu verstehen, wie leistungsfähig es wird, worauf man sich konzentrieren muss und in welchen Bereichen es sich verbessern soll. Das gelingt wesentlich einfacher in Fachgebieten, in denen man selbst Experte ist und genau weiß, was vor sich geht.

Host: Neigst du dazu, das Modell zu anthropomorphisieren, wenn du darüber nachdenkst?

Nick Marwell: Ich persönlich eigentlich nicht. Aber es gibt sicherlich Leute, die das tun, und ich bin mir sicher, einige davon arbeiten auch bei Anthropic.

Host: Unser Gehirn ist gewissermaßen darauf programmiert – ganze Areale unseres Denkapparats sind darauf ausgelegt, das Gegenüber als Person wahrzunehmen und dessen Emotionen zu spiegeln, um die Kommunikation zu erleichtern. Durch unsere Evolution sind wir also darauf gepolt, eine Intelligenz als eine andere Intelligenz zu behandeln. Es dürfte schwer sein, das im täglichen Umgang komplett auszublenden.

Schult Douglas: Das ist vermutlich eine der zentralen Debatten: Betrachten wir diese Systeme als Werkzeuge oder als eigenständige Entitäten? Ich halte den Begriff der Entität für sehr nützlich. Ein Werkzeug benutzt man aktiv die ganze Zeit. Bei diesen Modellen hingegen nimmt man etwas hoch Intelligentes und entlässt es in gewisser Weise in die Welt, wo es eigenständig in deinem Namen handelt. Aus diesem Grund ist es oft treffender, sie als Entität zu betrachten.

Ist die Biologie die nächste große Grenze?

Host: Gibt es Kategorien oder Bereiche, in denen wir diese Intelligenz einsetzen sollten, es aber noch nicht tun? Worüber freut ihr euch oder woran arbeitet ihr, um KI künftig in ganz neuen Feldern zu nutzen? Was sind diese Bereiche? Ich schätze, der größte davon ist die Biologie, oder?

Nick Marwell: Ja. Das kommt darauf an, ob man fragt, worin Modelle bereits großartig sind und lediglich unterasstzt werden, oder wo wir die spannendsten Zukunftsperspektiven sehen. Letzteres betrifft vor allem die Biologie. Ich bin überzeugt, dass die Biologie in den kommenden 6 bis 24 Monaten der Bereich sein wird, in dem KI einen ebenso tiefgreifenden Einfluss entfalten wird wie in der Softwareentwicklung – und zwar nicht nur durch breite Akzeptanz, sondern weil die gesellschaftlichen Vorteile immens und äußerst wirkmächtig sein werden.

Host: Das Heilen von Krankheiten, die Verbesserung unserer allgemeinen Gesundheit und Langlebigkeit. Es gibt faszinierende Erkenntnisse zur Epigenetik im Zusammenhang mit Langlebigkeit, die seit den Nobelpreisen vor 20 Jahren Stück für Stück entdeckt wurden, und all unsere Bekannten gründen nun Start-ups im Bay Area. Milliarden von Dollar fließen in den Versuch herauszufinden, wie man diese Mechanismen triggern und Körpergewebe verjüngen kann. Glaubt ihr, dass KI hierbei eine Schlüsselrolle spielen wird?

Nick Marwell: KI wird die wichtigste Technologie in den Biowissenschaften sein – zweifellos in unserem Leben und vielleicht jemals. Tatsächlich bin ich mir da so sicher, dass ich mir fast mehr Sorgen darüber mache, ob wir über die physische und laborinfrastrukturelle Ausstattung verfügen, um dies auszunutzen, als darüber, ob KI ein nützliches intellektuelles Werkzeug sein wird.

Host: Vor drei Jahren hätten wir wahrscheinlich deutlich mehr Rechenleistung aufbauen müssen. Darüber reden wir ohnehin zu oft. Müsste jetzt jemand massenhaft Laborflächen für euch errichten?

Nick Marwell: Das denke ich schon. Und das betrifft mehrere Dimensionen. Einerseits geht es ganz banal um physische Laborfläche. Andererseits hinkt die Qualität unserer Labore in den USA in bestimmten Metriken Ländern wie China eindeutig hinterher. Die Modernisierung der Lieferketten und der Laborinfrastruktur in Amerika hin zu einem weltweiten Goldstandard sollte eines der großen gesellschaftlichen Infrastrukturprojekte sein, die wir anpacken.

Schult Douglas: Das wird der primäre Engpass für den biologischen Fortschritt sein.

Nick Marwell: Ja, genau.

Host: Gut, dann lösen wir das Problem am besten gleich im Anschluss an diesen Podcast. Das klingt nach einer soliden Idee: ein paar Gelder vom Verteidigungsministerium für Lieferketten loseisen und ein paar Labore hochziehen.

Karrieretipps & das Jahrzehnt der Generalisten

Host: Wenn wir einen Schritt zurücktreten und unsere Position in dieser Welle betrachten: Was würdest du tun, wenn du frisch von der Universität kommst oder im Berufsleben stehst, aber weder bei Anthropic noch im Zentrum des Silicon Valley bist? Du bist vielleicht klug und ehrgeizig – wie solltest du angesichts dieser Entwicklungen deine Karriere in den nächsten Jahren planen?

Nick Marwell: Wir könnten in verschiedenen Szenarien landen. Anthropic trägt die Verantwortung, offen über die Risiken zu sprechen, die diese Technologie mit sich bringt, und eines davon ist unsere durchaus berechtigte Sorge vor Arbeitslosigkeit. Dennoch halte ich es für gut möglich, dass sich diese Technologie so allmählich in der Welt verbreitet, dass es eine 10- oder 20-jährige Übergangsphase gibt, in der sich zahlreiche Möglichkeiten eröffnen, aktiv an dieser Diffusion mitzuwirken und dadurch die eigene Karriere zu prägen.

Nick Marwell: Ich habe das auch meinem Bruder gesagt, der gerade im College ist und genau über diese Fragen nachdenkt: Wenn wir uns in einem solchen Szenario befinden, wird das kommende Jahrzehnt in vielerlei Hinsicht den Generalisten gehören. In den vergangenen 20 oder 50 Jahren basierte eine erfolgreiche Karriere oft darauf, ein sehr spezifisches, hochgradig marktfähiges Set an Fähigkeiten zu besitzen und sich auf andere verlassen zu können.

Nick Marwell: Nun verfügt plötzlich jeder Einzelne über die Leistungskraft eines 1.000-köpfigen Unternehmens im Rücken. Das bedeutet, dass jene Menschen erfolgreich sein werden, die am besten erkennen können, welche Probleme gelöst werden müssen und wie sie ihre Gemeinschaft voranbringen können – sei es aus kommerzieller Sicht oder im Sinne des Gemeinwohls. Sie werden über alle Werkzeuge verfügen, um diesen Wandel herbeizuführen. Die richtige Problemauswahl wird daher zur entscheidenden Fähigkeit.

Host: Du sagtest: „Welche Probleme müssen gelöst werden? Wie mache ich meine Gemeinschaft besser?“ Ein fundamentaler Hintergrund meiner Weltsicht als Jude ist das Gebot, die Welt an sechs Tagen in der Woche zu reparieren und am Sabbat – dem Ruhetag – so zu tun, als sei man fertig. Ähnliche Ansätze kennen viele unserer großen Religionen. Mein Optimismus speist sich aus dem Gedanken, dass es für uns alle immer etwas zu reparieren, zu unterstützen und zu verbessern gibt im Umgang mit unseren Mitmenschen und unseren Gemeinschaften. Sofern man nicht an eine utopische Endstation glaubt, wird es immer Arbeit für Menschen geben. Das ist ein optimistischer Rahmen.

Nick Marwell: Absolut, ja.

Schult Douglas: Ja, zwischen uns und der Utopie liegt noch eine Menge Arbeit.

Host: Ganz genau. Die fundamentale Implikation des religiösen Konzepts ist ja, dass es hier auf Erden erst dann eine Utopie gibt, wenn der Messias kommt – bis dahin müssen wir unermüdlich die Dinge in Ordnung bringen. Und das ist etwas Positives.

Was kann schiefgehen? Die größten KI-Risiken

Host: Ich weiß, dass ihr Optimisten seid und es viele positive Aspekte gibt. Dennoch möchte ich auf einige Bedenken eingehen, da hierzu das größte öffentliche Interesse besteht. An den Küsten erleben wir all diese wunderbaren positiven Entwicklungen in unseren Communities. Wir alle haben Freunde, die schneller als je zuvor Unternehmen gründen. Das setzt eine ungeheure positive Energie frei – zumindest empfinde ich das so, wenn ich nach San Francisco oder New York komme oder meine Projekte in Austin, Texas, verfolge.

Host: Aber der Rest des Landes hat oft das Gefühl, dass ihre Geschäfte und ihre Existenzgrundlage bedroht sind. Das ist beängstigend. Sie wissen nicht, ob ihr nicht einfach ein paar verrückte Typen seid, die mit dieser Technologie die Weltherrschaft anstreben. Was übersehen die Kritiker? Gibt es einen plausiblen negativen Pfad, der euch Sorgen bereitet? Liegen die Befürchtungen der Menschen daneben? Wie bewertet ihr dieses Problem?

Schult Douglas: Ich finde die Bedenken äußerst nachvollziehbar. Es gibt ein paar große Kategorien, die uns Sorgen bereiten – aber bei allen sind wir überzeugt: Wenn wir in den nächsten Jahren die richtigen Schritte unternehmen, können wir in den 2030er Jahren in einer radikal besseren Welt leben.

Schult Douglas: Zu diesen Kategorien gehört erstens die bereits erwähnte Arbeitslosigkeit, über die wir ausführlich sprechen sollten – warum wir darin ein Risiko sehen und welche Gegenmaßnahmen wir für richtig halten. Zweitens gibt es unmittelbarere, kurzfristige Sorgen bezüglich Bio- und Cyber-Risiken, die faktisch schon heute, in diesem Jahr, akut sind.

Host: Dazu gibt es all diese lässigen Anekdoten, bei denen Anthropic verspottet wurde, weil das Modell anfangs nicht einmal Auskunft über die Mitochondrien einer Zelle geben durfte. Dabei sollte man so etwas natürlich tun können – man darf eben nur nicht bei der Erschaffung einer Biowaffe helfen.

Schult Douglas: Das sollte man definitiv tun dürfen. Aber wir bauen im Hintergrund die Infrastruktur auf, um sicherzustellen, dass niemand daraus eine Biowaffe basteln kann.

Nick Marwell: Ja. Das Unglaublich schwierige an Bereichen wie Bio und Cyber ist, dass es sich hierbei inhärent um sogenannte Dual-Use-Technologien handelt. Cyber-Sicherheit ist da am leichtesten zu verstehen. Wenn ich Claude einen Befehl gebe wie: „Hier ist ein Code-Base, bitte finde alle Schwachstellen“, ist die Wahrscheinlichkeit genau gleich hoch, dass ich der rechtmäßige Eigentümer des Codes bin, der seine Abwehr stärken will, oder ein Angreifer, der sich unbefugt Zutritt verschaffen möchte.

Host: Genau.

Nick Marwell: Und genau das macht Bereiche wie Cyber – oder die Biologie, die ähnliche Dual-Use-Eigenschaften aufweist – so fundamental schwer zu kontrollieren.

Host: Man versucht, ein Ziel in einer Zelle zu bekämpfen, und in 99,9 Prozent der Fälle will man damit Krebs oder andere Leiden heilen, aber es verbleibt eine winzige Chance, dass jemand damit etwas Schreckliches anrichten will.

Nick Marwell: Richtig. Deshalb arbeiten wir an verschiedenen Mechanismen, die sicherstellen sollen, dass gute Akteure diese Technologien nutzen können, während böswillige Akteure ausgeschlossen bleiben. Unsere Grundüberzeugung lautet jedoch: Wir sollten diese Technologien nicht in die Welt entlassen, bevor wir garantieren können, dass keine schädlichen Missbräuche durch unredliche Parteien stattfinden.

Host: Es gibt zweifellos Akteure – und das betrifft nicht einmal Anthropic –, die offene Modelle aus China nutzen, um beispielsweise mit terroristischen Gruppen in Afrika zu ergründen, wie sich bestimmte Bomben leichter herstellen lassen, wozu sie vorher nicht in der Lage waren. Die KI ist schlicht schlau genug, ihnen dabei zu helfen, weil sie selbst auf diesem Gebiet wenig Ahnung hatten. Es gibt furchterregende Anwendungsszenarien. Aber gleichzeitig lautet meine Grundannahme: Wenn mehr Intelligenz verfügbar ist, können auch mehr Menschen diese Gefahren erkennen und sie abwehren. Es ist ein Kompromiss.

Schult Douglas: Eine zentrale Dynamik hierbei ist die Frage, ob ein Bereich angriffs- oder verteidigungsdominant ist.

Host: Richtig.

Schult Douglas: Momentan sind sowohl Cyber als auch Bio angriffsdominant. Ich bin jedoch zuversichtlich, dass Cyber in den nächsten zwei Jahren verteidigungsdominant werden wird.

Host: Vor allem dann, wenn jeder Zugang zu Intelligenz hat, um die eigenen Systeme zu hacken und Abwehrmechanismen aufzubauen.

Schult Douglas: Genau. Man kann präventiv versuchen, sich selbst zu hacken, die Verteidigungen zu stärken und alle Sicherheitslücken zu schließen, wodurch wir letztlich in einer wesentlich sichereren Cyber-Welt ankommen.

Host: In der jeder bereits Zugang zu Intelligenz hat und herausfindet, wo Schwachstellen liegen. Genau das tun wir im Vorfeld. Einer meiner Bekannten hat im Auftrag des Pentagons und großer Banken geholfen, in Systeme einzudringen, um Schwachstellen aufzuzeigen – und sie nutzen dafür modernste KI, weil diese darin so gut ist. Deshalb muss jetzt jeder schnell handeln.

Angriff vs. Verteidigung: Wie sich Technologie entwickelt

Host: Lassen wir uns das kurz sacken. Das Verhältnis von Angriff und Verteidigung ist höchst interessant. Dieses Konzept begleitet die Menschheit schon seit Jahrtausenden und unterliegt ständigen Wandlungen. Ich bin ein großer Fan der freien Stadtstaaten, die einst in Europa miteinander konkurrierten – das war im Grunde eine sehr positive Dynamik. Wenn ein Stadtstaat versagte, konnte man in den anderen ziehen.

Host: Und dann tauchten diese Burschen mit Kanonen auf, die Mauern problemlos niederknallten, und errichteten große Imperien, sodass man nicht mehr einfach auswandern konnte, weil man fortan unter ihrer Herrschaft stand. Die Waage hat sich im Laufe der Geschichte also immer wieder zwischen Angriff und Verteidigung verschoben.

Host: Und ich stimme zu: Cyber-Sicherheit ist derzeit extrem angriffsdominiert, und das in einem besorgniserregenden Ausmaß. Wer nicht an der technologischen Speerspitze agiert und KI zur Überprüfung der eigenen Systeme nutzt, wird wahrscheinlich gehackt – und das möglicherweise von Kriminellen. Das ist beängstigend. Aber ich stimme auch zu, dass Cyber-Sicherheit bei korrekter Anwendung langfristig verteidigungsdominiert werden kann.

Host: Die entscheidende Frage bei KI lautet: Gibt es verborgene Phänomene auf der Welt, die von Natur aus absolut angriffsdominant sind? Wenn beispielsweise ein genialer Kopf einen selbstreplizierenden Nanobotanismus erschafft, der mit ausreichender Intelligenz ausgestattet ist, um die gesamte Welt aufzufressen, und alle sterben. Noch einmal: Ich glaube nicht, dass das passieren wird. Aber wir müssen sicherstellen, dass wir die Intelligenz nutzen, um potenzielle extrem angriffsdominante Risiken frühzeitig aufzuspüren.

Schult Douglas: Richtig. Und die Biologie ist tatsächlich so lange extrem angriffsdominant, bis wir massiven Aufwand betreiben, um sie verteidigungsdominant zu machen. Es gibt Wege, die Welt gegen biologische Bedrohungen abzusichern, aber das erfordert Hunderte Milliarden Dollar an Infrastruktur. Das ist absolut machbar – insbesondere, wenn wir in den 2030er Jahren über drastisch fortschrittlichere Robotik verfügen, die uns beim Aufbau hilft.

Host: Das ist in gewisser Weise eine furchterregende Übergangsphase, da der Bereich derzeit angriffsdominiert ist und wir ihn in einen verteidigungsdominierten Zustand überführen müssen. Die Lösung besteht offenbar darin, sicherzustellen, dass diese Dinge nicht zu geheim gehalten werden, und sie stattdessen offenzulegen. Meine Ansicht ist: Man will, dass viele Menschen Intelligenz nutzen, um alles zu überprüfen, anstatt dass eine einzelne Gruppe im geheimen Kämmerlein agiert.

Schult Douglas: Da stimmen wir absolut zu.

Antwort auf die Kritik des „Regulatory Capture“

Host: Anthropic wird im Allgemeinen sehr bewundert. Wie jedes erfolgreiche Unternehmen erinnert mich die Situation an Microsoft in den 90er Jahren: Wenn man zum Branchenprimus aufsteigt, werden die Leute neidisch und greifen einen an. Manchmal entspringen diese Angriffe purem Neid und der eigenen Marktdominanz, manchmal sind aber auch berechtigte Kritikpunkte dabei. Viele meiner sehr klugen Bekannten hegen den Eindruck, dass Anthropic eine Art strategisches „Regulatory Capture“ (Einflussnahme auf die Regulierung zum eigenen Vorteil) betreibt, was schädlich ist. Wie reagiert ihr darauf?

Nick Marwell: Hierzu gibt es im Wesentlichen zwei Aspekte zu besprechen. Erstens den Vorwurf des Regulatory Capture im Zusammenhang mit der aktuellen Debatte über offene Modellgewichte („Open Weights“). Und zweitens die Frage: Würde man Regulatory Capture auf diese eigennützige Weise betreiben, wenn man es wirklich darauf anlegte – hätte Anthropic dann so gehandelt, wie es das getan hat?

Nick Marwell: Zum ersten Punkt: Es ist durchaus verständlich, wenn man sich nicht in den feinen Details auskennt, Open Weights als wichtiges Gemeingut zu betrachten, das bewahrt werden muss. In gewisser Weise stehen sie in einem natürlichen Spannungsverhältnis zu Teilen von Anthropics Geschäftsmodell, und manche vermuten, Anthropic wolle Regulierungen nutzen, um Open-Weights-Entwickler zu schwächen. Historisch gesehen waren Open-Source-Gemeinschaften schließlich oft kleiner, schlechter finanziert und taten sich schwer im Umgang mit dem regulatorischen System.

Nick Marwell: Das ist jedoch nicht das, was hier passiert. Wenn man sich ansieht, wer heute Open-Weights-Modelle vorantreibt und bereitstellt, sind das überwiegend die gigantischsten Konzerne der Welt – in den USA Unternehmen wie Nvidia, Amazon und Microsoft, die die technologische Grenze verschieben. Hinzu kommen extrem gut finanzierte chinesische Labore, die oft staatlich unterstützt werden. Das sind Konzerne, die problemlos in der Lage sind, in einem regulierten Umfeld zu navigieren.

Nick Marwell: Ich bin daher nicht sonderlich besorgt, dass eine Regulierung von Modellen – ob offen oder geschlossen – die Entwickler offener Modelle in einer Weise bremst, die unverhältnismäßig im Vergleich zu geschlossenen Modellen ist.

Nick Marwell: Der zweite Aspekt ist direkter: Wenn man Regulierung rein zu dem Zweck betreiben würde, sich selbst unfaire Vorteile zu verschaffen, ist völlig unklar, ob Anthropic jene Schritte unternommen hätte, die tatsächlich erfolgt sind. Ein hervorragendes Beispiel dafür – und es gibt vermutlich noch andere – ist der Fall Fable. Denkt man an Fable oder das frühere Mythos zurück, hatte Anthropic aus rein ökonomischer Sicht ein Modell, das zu diesem Zeitpunkt mit weitem Abstand das beste der Welt war. Niemand auch nur annähernd Vergleichbares war verfügbar.

Nick Marwell: Und Anthropic hat sich im Grunde entschieden, mit der Regierung zusammenzuarbeiten, um das Modell so einzuführen, dass es den staatlichen Sicherheitsbedenken entsprach. Man hätte stattdessen einen monatelangen technologischen Vorsprung ausnutzen und sämtliche Fragen zur Konkurrenzfähigkeit anderer Labore im Keim ersticken können. Das war eine geschäftlich ausgesprochen schlechte Entscheidung für das Unternehmen, aber sie stand im Einklang mit unseren Werten darüber, wie Modelle bereitgestellt und reguliert werden sollten.

Nick Marwell: Es handelt sich hierbei also nicht um eine Strategie des Regulatory Capture zur Durchsetzung wirtschaftlicher Eigeninteressen. Es ist die Überzeugung, dass die Regierung eine essenzielle Rolle bei der Entwicklung und Bereitstellung kritischer, potenziell gefährlicher Technologien spielen muss. Als Akteur an der vordersten Front sehen wir es als unsere Verantwortung an, sicherzustellen, dass die Behörden informiert sind und diesen Prozess mitgestalten – denn wer sonst soll die Interessen aller vertreten?

Host: Das ist auch deshalb interessant, weil es in der Regierung zwar einige sehr kluge Köpfe gibt, aber eben auch viele, die absolut keine Ahnung haben. Man landet dann in absurden Situationen: So hätte Anthropic – wenn ich das richtig verstanden habe, auch wenn du es vielleicht nicht direkt sagen kannst – über weitreichendere Cyber-Fähigkeiten verfügt, die für die Verteidigung hätten genutzt werden können, die jedoch künstlich beschnitten („nerfed“) wurden, damit die Regierung grünes Licht für die Veröffentlichung geben konnte. Das halte ich für einen Fehler.

Schult Douglas: Ich denke, das knüpft an die klassische amerikanische öffentlich-private Partnerschaft an, die seit jeher ein zentrales Fundament unserer Geschichte ist. Unser Staat ist nicht so aufgebaut, dass die Regierung zu jedem Thema auf der Welt die sachkundigste und kompetenteste Instanz sein muss. Unser Ziel muss es sein, eine exzellente öffentlich-private Partnerschaft zu etablieren, in der die Regierung weiß, wie sie mit Anthropic, OpenAI, Meta oder wem auch immer kooperieren muss, um Sachverhalte zu verstehen und fundierte Regulierungsentscheidungen zu treffen.

Host: Und was entgegnet ihr Technologieführern, die skeptisch sind und sagen: „Naja, Dario versucht doch nur, alle in Angst und Schrecken zu versetzen, um strengere Regeln zu schaffen, die ihn selbst als dominanten Player absichern“?

Schult Douglas: Bisher haben wir uns selbst weitaus stärker ausgebremst als irgendjemand sonst. Wenn man sich die Diskussion um Demis Hassabis' Vorschlag für die Anbieter geschlossener Modelle – also OpenAI, DeepMind und Anthropic – ansieht, bei der es darum ging, Sicherheitsstandards zu koordinieren, die vor der Veröffentlichung von Modellen erfüllt werden müssen, dann tun wir das aus Prinzip. Übrigens sollten wir ohnehin klären, wie unsere allgemeine Haltung zu Open Source aussieht.

Anthropics Haltung zu Open Source

Host: Wie sieht sie denn tatsächlich aus?

Schult Douglas: Persönlich stehen wir Open Source sehr positiv gegenüber. Wir sind fest davon überzeugt, dass es ein großer Gewinn für die Welt ist, wenn solche Modelle existieren. Ich selbst habe Machine Learning an Open-Source-Modellen gelernt! Gleichzeitig sehen wir jedoch die erheblichen Risiken, die sich in Zukunft weiter verschärfen werden. Unsere Position lautet daher: Es sollte gesellschaftliche Schwellenwerte dafür geben, was wir guten Gewissens veröffentlichen können. Wenn ein Modell Cyber-Angriffe ausführen kann, ab welchem Schwellenwert an Fähigkeiten ist das noch verantwortbar? Wir sind der Ansicht, dass für geschlossene und offene Modelle dieselben strengen Maßstäbe gelten sollten. Abgesehen davon sollte jeder tun können, was er will.

Host: Lohnt es sich überhaupt, diesen Weg zu gehen, wenn China ohnehin beliebige frei zugängliche Modelle veröffentlicht, die jeder nutzen kann? Und wie groß ist die Wahrscheinlichkeit, dass wir aus lauter Angst überregulieren, während China das nicht tut, am Ende ins Hintertreffen geraten und ein Problem haben?

Schult Douglas: Die ideale Welt ist eine, in der wir so mit China kooperieren können, dass auch sie – schließlich wollen sie keine Cyber-Angriffe auf ihr eigenes Land...

Host: Meines Erachtens wollen sie allerdings sehr wohl Cyber-Angriffe auf uns.

Würdet ihr das Tempo drosseln und China den Vortritt lassen?

Schult Douglas: Vielleicht wollen sie keine Cyber-Angriffe auf sich selbst. Das ist fair. Eine erstrebenswerte Welt ist eine, in der wir diesbezüglich zusammenarbeiten können. Aber das ist kompliziert. Das wird einer der schwierigsten Aspekte der kommenden Jahre sein, während die KI-Fähigkeiten rasant voranschreiten. Das wird viele Menschen aus unterschiedlichsten Gründen verunsichern – in Bezug auf Biologie, Cyber-Sicherheit und Arbeitsplätze. Folglich sieht man bereits jetzt Gegenreaktionen, etwa Forderungen nach dem Einfrieren von Datensätzen.

Schult Douglas: Das ist eine dieser Debatten, in denen es extrem schwerfällt, zu pausieren, es sei denn, man kann sich mit der Gegenpartei abstimmen und darauf vertrauen, dass sich alle daran halten.

Host: China wird jedoch nicht pausieren. Gibt es also irgendein Szenario, in dem ihr Amerika verlangsamt, um China den Vortritt zu lassen?

Schult Douglas: Mir ist kein Szenario bekannt, mit dem wir uns wohlfühlen würden, in dem wir Amerika bremsen und China davonziehen lassen.

Host: Was augenscheinlich die einzige Option zu sein scheint, die unserer Kontrolle unterliegt.

Schult Douglas: Ja. Jedes Drosselungsszenario müsste vollständig koordiniert sein, und zwar so, dass wir jeder Gegenpartei absolut vertrauen können. Kurz: Es gibt schlicht keinen Weg, wie wir Amerika ausbremsen würden.

Anthropics Haltung zur Distillation

Host: Entgegen der landläufigen Meinung befürwortet ihr Open Source also überraschend stark. Es ist eine gute Sache, die euer beider Leben positiv geprägt hat. Ein Teil dieser Open-Source-Entwicklungen scheint jedoch darauf zu basieren, dass eure Modelle gestohlen werden – ein Prozess namens Distillation, der mich an eurer Stelle ziemlich nerven würde. Viele fragen sich: „Warum stoppen sie das nicht einfach, indem sie mit ihrer KI clever vorgehen und alles überwachen?“ Warum könnt ihr Distillation nicht verhindern? Wie steht ihr dazu und was passiert in diesem Bereich?

Schult Douglas: Nun, zum Thema Distillation gibt es mehrere Aspekte zu besprechen. Zum einen: Sind wir grundsätzlich gegen Distillation? Ist Distillation gut oder schlecht? Und zum anderen: Warum kann man sie nicht unterbinden, wenn man sie für schädlich hält?

Schult Douglas: Gehen wir zunächst auf den zweiten Punkt ein: Es ist ein ständiges Katz-und-Maus-Spiel. Nutzer verlangen breiten Zugriff auf die Modelle. Sie wollen die Outputs inspiriert prüfen, auf ihren lokalen Computern laufen lassen und die Denkprozesse nachvollziehen. Aber jeder zusätzliche Zugriff erleichtert die Distillation. Es existiert folglich ein inhärentes Spannungsfeld zwischen der Offenheit eines Tools beziehungsweise Produkts und der Anfälligkeit für Distillation.

Nick Marwell: Und zum ersten Punkt – warum sollten wir von Distillation überhaupt genervt sein? Meine Sichtweise ist folgende: Wir wollen, dass KI Fortschritte macht, weil intelligentere Modelle der Welt enormen Nutzen bringen. Distillation ist jedoch keine Methode, die es vermag, uns über die bisherige Grenze der Leistungsfähigkeit hinauszuführen.

Host: Es ist schlicht eine Kopie.

Nick Marwell: Es ist eine Kopie. Und das Problem dabei ist, dass das Erreichen der nächsten technologischen Grenze enorme Vorabinvestitionen an Kapital erfordert. Wir werden in Zukunft – von der Gegenwart ganz zu schweigen – Phasen erreichen, in denen Trainingsläufe 10 Milliarden, 100 Milliarden oder sogar 1 Billion Dollar kosten. Solche F&E-Investitionen lassen sich nur refinanzieren, wenn man das Produkt anschließend gewinnbringend verkaufen kann.

Nick Marwell: Das Problem ist: Wenn alle anderen in der Lage sind, euer Produkt für einen Bruchteil der Kosten zu nehmen, zu kopieren und binnen ein oder zwei Wochen zu veröffentlichen, haben sie einen unfairen ökonomischen Wettbewerbsvorteil, weil sie die enormen F&E-Kosten nicht tragen mussten. Wer Fortschritte an der technologischen Speerspitze will, muss daher das geistige Eigentum und die Rechte derjenigen schützen, die diese Modelle trainieren.

Nick Marwell: Oft wird dies mit der Pharmaindustrie verglichen. Ich halte KI in dieser Hinsicht für hochinteressant: Der Schutz vor Distillation bietet viele Vorteile des IP-Schutzes in der Pharmazie, vermeidet jedoch einige der Nachteile. Was sind die Vorteile? Dank des IP-Schutzes wird in den USA mehr pharmazeutische Forschung betrieben.

Host: Offensichtlich kann ich nicht in die Arzneimittelentwicklung investieren, wenn ich damit kein Geld verdiene.

Nick Marwell: Ganz genau. Ein Nachteil dort ist allerdings, dass die Kosten dadurch extrem hoch bleiben. Das Interessante an KI ist jedoch: Im Gegensatz zur Pharmazie, wo man diesen Schutz für ein Jahrzehnt oder länger genießt – 20 bis 30 Jahre glaube ich –, ist Intelligenz im Bereich KI unglaublich deflationär, da die Halbwertszeit der Speerspitze in Monaten gemessen wird. Alle sechs Monate ist die Speerspitze zwar extrem teuer in der Entwicklung, aber alles dahinter – was vor sechs Monaten noch als Speerspitze galt – wird schlicht dadurch unermesslich billig, dass wir die Grenze weiter nach vorne verschieben. Das ist ein inhärentes Artefakt des Trainingsprozesses.

Nick Marwell: Man erhält also viele Vorteile und vermeidet die meisten Nachteile. Das lässt sich konkret an den Kosten für ein bestimmtes Intelligenz-Niveau ablesen. Wenn man sich die Dashboards von Plattformen wie Artificial Analysis ansieht, zeigt sich genau dieser Trend: Es wird jedes Jahr etwa zehnmal kostengünstiger. Jahr für Jahr sinken die Preise. Diese deflationäre Dynamik ist unglaublich – und das geschieht völlig ohne Distillation, rein durch die natürliche Evolution der Technologie.

Host: Natürlich. Und intuitiv ist es schlicht unfair, wenn sich jemand die Arbeit einfach kopiert, und das gesamte System würde kollabieren, wenn das alle tun würden.

Nick Marwell: Ja, absolut.

Host: Eine Anschlussfrage dazu: Ist das nicht ein verrücktes Geschäftsmodell, wenn das eigene Produkt so schnell obsolet wird? In gewisser Hinsicht – spätestens nach einem Jahr, wenn nicht nach sechs Monaten – scheint sich die Speerspitze rasant weiterbewegen zu müssen, damit man im Markt bestehen kann.

Schult Douglas: Die Speerspitze muss sich zwingend weiterbewegen, um erfolgreich zu sein. Das ist ein zentraler Pfeiler unserer Weltanschauung: KI ist bisher erst in einem extrem geringen Maße in die globale Wirtschaft vorgedrungen. Die Summe aller KI-Umsätze liegt irgendwo nördlich von 100 Milliarden Dollar in einer Wirtschaft, die viele Dutzend Billionen Dollar umfasst – und das setzt voraus, dass die Wirtschaft nicht einmal massiv durch diese Technologie wächst, was wir jedoch erwarten.

Schult Douglas: Es gibt also diese Speerspitze. Das Niveau direkt hinter der Speerspitze mag in vielerlei Hinsicht commoditized (also zur austauschbaren Handelsware) werden, aber die absolute Führungskante gewinnt dadurch noch mehr an Wert.

Nick Marwell: An der Führungskante entsteht ein unvorstellbar großer Mehrwert. Wir sprechen oft von den exponentiellen wirtschaftlichen Erträgen der Intelligenz: Jede zusätzliche Einheit an Intelligenz, die wir erzeugen können, ist exponentiell wertvoller als die vorangegangene. Wir haben das bereits erlebt. Schauen wir auf die Programmierung: Die erste nützliche Einheit an Intelligenz war die automatische Vervollständigung per Tab-Taste. Von dort aus ging es weiter zur nächsten Grenzabstufung, bei der agentisches Programmieren in der Konsole mit Claude Code Realität wurde. Das war eine um das 100.000-fache wertvollere Fähigkeit.

Nick Marwell: Selbst wenn also die einfache Tab-Vervollständigung im Nachhinein commoditized wurde – man kann heutzutage kaum noch ein Unternehmen allein darauf gründen –, sind diese nächsten inkrementellen Einheiten an Intelligenz extrem wertvoll.

Nick Marwell: Als ich vor ein paar Jahren über Anthropic nachdachte, war das für mich sehr unintuitiv. Meine Lebenserfahrung als Mensch in dieser Welt sagte mir, dass exponentielles Wachstum nicht ewig anhält. Man denkt: Okay, das ist ein paar Jahre lang wertvoll, aber irgendwann bricht das Exponentielle ein. In gewisser Hinsicht erfordert das also enormen Optimismus. Man muss daran glauben, dass der Sprung von der Tab-Vervollständigung zum agentischen Programmieren gelingt – und was könnte wertvoller sein als agentisches Programmieren? Vielleicht die Heilung von Krebs.

Nick Marwell: Und selbst dazwischen hat man im Grunde einen vollwertigen Software-Ingenieur, der jeden menschlichen Entwickler auf der Welt übertrifft, und das zu extrem geringen Kosten. Man hat einen virtuellen Manager, der bei allen möglichen Aufgaben hilft. Wenn also Menschen fragen: „Führt das nicht zu totaler Verkommodifizierung?“, lautet die Antwort: Bis wir überhaupt in die Nähe einer vollständigen Verkommodifizierung gelangen, ist die gesamte Wirtschaft bereits radikal transformiert. Buchstäblich die gesamte Wirtschaft wird zu diesem Zeitpunkt von KIs betrieben – sowohl intellektuell als auch physisch.

Host: Und wahrscheinlich handelt es sich dann um eine weitaus größere Wirtschaft. Wenn Anthropic diesen Prozess antreibt, ist das offensichtlich Billionen von Dollar wert.

Nick Marwell: Genau so ist es.

Ist eine Welt ohne Knappheit erreichbar?

Host: Gut, wir sind also alle reich. Nur Spaß. Natürlich gibt es zahlreiche Bedenken, aber ihr seid Optimisten. Warum treiben wir das Ganze also so rasant voran? Erinnert uns noch einmal daran: Was passiert hier? Wofür kämpft ihr?

Schult Douglas: Um auf den Kern unserer Sorgen zurückzukommen: Wir werden ein System erhalten, das für Menschen voll einsetzbar ist. Es wird in allem, was man am Computer tun kann, so gut sein wie ein Mensch. Sobald wir Roboter haben, wird es in der physischen Welt ebenso leistungsfähig sein wie wir. Das erschließt jedoch gleichzeitig massive, radikale Verbesserungen. Es bedeutet, dass wir Technologien, für die unsere menschliche Bevölkerung unter normalen Umständen noch Jahrhunderte gebraucht hätte, in den kommenden ein bis zwei Jahrzehnten komprimieren können.

Host: Ich sehe das bereits in der Luft- und Raumfahrt, wo die Entwicklung von Flugzeugen so viel schneller voranschreitet, dass wir extrem fortschrittliche Maschinen, die wir sonst erst in den 2040er Jahren gesehen hätten, vermutlich schon in den nächsten Jahren erleben werden. Das ist wirklich faszinierend.

Schult Douglas: Man kann die produktive intellektuelle und physische Kapazität der Menschheit immer weiter steigern und potenziell verdoppeln, sodass man tatsächlich in eine Welt ohne Knappheit gelangt. Das ist eine Welt, in der die Kosten für buchstäblich alles auf die Energiekosten reduziert werden – selbst der Hausbau wird so günstig wie Energie.

Host: Die Mittelschicht wird riesige Häuser besitzen, wenn sie das will.

Schult Douglas: Man kann in dieser Welt im Grunde alles haben, was man sich wünscht.

Host: Man zieht in die Berge und baut sich ein Anwesen mit 50.000 Quadratmetern, und das ist völlig normal für die Mittelschicht.

Schult Douglas: Ganz genau. Das wäre für die Mittelschicht normal – auf ähnliche Weise, wie die Annehmlichkeiten, die wir heute genießen, für Könige vergangener Jahrhunderte unvorstellbar gewesen wären. Wir haben jede Krankheit besiegt, wir haben wahrscheinlich das Altern geheilt und Langlebigkeit erreicht. Man lebt in einer Welt, in der ein Niveau an Wohlstand für jeden Menschen auf der Erde verfügbar ist, das heute nicht einmal den reichsten Menschen zur Verfügung steht. Und genau für diese Welt kämpfen wir.

Schult Douglas: Aber es ist ein extrem schwieriger Weg, weil man diesen Kurs präzise navigieren und zweitens herausfinden muss, wie wir die Erträge dieser Welt so teilen, dass keine massiven Ungleichheiten entstehen. Die Gewinne dürfen nicht nur an jene fließen, die zufällig bereits im heutigen System das Kapital besitzen. Stattdessen soll jeder, der will, diesen Wohlstand genießen können. Es stellt sich also eine große soziopolitische Frage: Wie teilen wir die Gewinne gerecht auf?

Host: Man kann jedoch auch gravierende Fehler machen, wenn man so tut, als wären wir schon dort, oder? Denn die Würde der Arbeit ist gegenwärtig sehr real.

Schult Douglas: Wir sind noch nicht dort. Wir sind nicht einmal nah dran. Aber wenn wir auf die richtigen Weisen in die Technologie investieren, haben wir eine Chance, dorthin zu gelangen. Wenn wir die Entwicklungstrends fortschreiben: In den letzten vier bis fünf Jahren haben wir die Rechenleistung für KI jedes Jahr verdoppelt oder verdreifacht. Zusammen geben die Hyperscaler in diesem Jahr rund 1 Billion Dollar für KI-bezogene Capex aus.

Schult Douglas: Eine hochinteressante Frage lautet: Hält dieser Trend? Steigt das Volumen nächstes Jahr auf 2 Billionen und 2028 auf 4 Billionen Dollar? Wenn dieser Trend im Wesentlichen anhält und sich auf die breitere Robotikindustrie ausweitet, erreichen wir Anfang der 2030er Jahre den Punkt, an dem wir das globale BIP der Menschheit effektiv verdoppeln. Das ist natürlich ein fast absurder Gedanke, der voraussetzt, dass vieles optimal läuft, aber das Produktivitätswachstum könnte schlicht rasant anziehen.

Host: Es fühlt sich so an, als könnte das sogar schon in den nächsten Jahren passieren. Kevin Warsh ist der neue Fed-Vorsitzende. Ich weiß nicht, ob er vom AGI-Fieber infiziert ist, aber er ist extrem bullish, was das KI-getriebene Produktivitätswachstum angeht – ein sehr kluger Kopf unter unseren Bekannten. Es wirkt so, als würden wir das schon bald viel deutlicher spüren, auch wenn es sich wahnsinnig anhört, dass es sich noch weiter beschleunigen könnte.

Nick Marwell: Es könnte sich sogar noch stärker beschleunigen. Eine der faszinierenden Statistiken, die ich kürzlich sah, betraf die Beschäftigung auf den Philippinen, die gestiegen ist.

Host: Das hat mich überrascht. Ich dachte, BPO würde dort massiv getroffen werden. BPO steht für Business Process outsourcing – einfache Callcenter-Dienstleistungen –, und dennoch wächst die Branche weiter.

Nick Marwell: Dennoch wächst sie, und auch die Beschäftigung im Bereich Softwareentwicklung ist gestiegen. Ich denke, das liegt zum großen Teil daran, dass die Menschen plötzlich dramatisch produktiver sind als zuvor. Ein spannender Indikator wird sein: Wie lange hält dieser Beschäftigungs- und Produktivitätsschub an, bei dem Menschen eng mit KI zusammenarbeiten?

Host: Es gibt noch so viel zu tun. Ihr nutzt diese Werkzeuge aktiv, was ein positives Signal ist.

Nick Marwell: Zumindest kurzfristig scheint es so zu sein. Aber ich halte es für wichtig, dass wir uns nicht einreden, es werde schon alles glattlaufen. Momentan – wie Schult es formulierte – befinden wir uns in einer vermeintlich guten Phase, in der menschliche Angestellte noch unverzichtbare Partner bei der Nutzung von KI sind. Infolgedessen hat uns eine Basistechnologie produktiver gemacht, weshalb Unternehmen mehr Arbeitskräfte einstellen wollten.

Nick Marwell: Unserer Überzeugung nach werden wir jedoch irgendwann den Übergang von einer Welt vollziehen, in der man einen Menschen an der Seite eines KI-Modells benötigt, um den vollen Nutzen zu ziehen, zu einer Welt, in der dies nicht mehr der Fall ist. Und ich glaube, das ist der Punkt, an dem wir uns wegen der Konsequenzen ernsthafte Sorgen machen müssen.

Host: Das ist wie beim Schach: 30 Jahre lang war der beste Schachspieler eine Kombination aus Mensch und Maschine, und heute werden die Menschen von Maschinen gnadenlos vernichtet. Wir glauben nur, dass dieser Zeitraum bei KI wesentlich kürzer sein wird.

Nick Marwell: Ja. Ein wesentlicher Erkenntnissprung für mich in den letzten drei Jahren – beziehungsweise seit ich vor rund fünf Jahren erstmals über das Tempo des KI-Fortschritts nachdachte – war: Ich ging zwar davon aus, dass wir irgendwann an einem Punkt ankommen würden, der dem heutigen Stand oder dem in einem Jahr ähnelt, aber ich dachte, es würde viel länger dauern. Vor allem deshalb, weil ich annahm, dass die Skalierung der dafür notwendigen Daten ein extrem zeit- und geldintensives Unterfangen sein würde.

Nick Marwell: Was dann jedoch passierte – selbst gemessen an meinen ohnehin hohen Erwartungen an den KI-Fortschritt zu jener Zeit –, war unerwartet: Der Umsatzanstieg und das Unternehmenswachstum von Anthropic und OpenAI verliefen so rasant, dass es für die Entwickler plötzlich absolut machbar wurde, massenhaft Geld auf das Problem zu werfen, um vermeintliche Engpässe viel schneller zu durchbrechen. Die Eskalation der Rechenleistung ist ein weiteres glänzendes Beispiel dafür. Vor fünf Jahren wäre es den meisten unvorstellbar erschienen, 1 Billion Dollar in einem einzigen Jahr auszugeben.

Host: Noch vor einem Jahr war das unvorstellbar.

Nick Marwell: Ja, das war es noch vor einem Jahr. Wir befinden uns offenkundig in einer Zeitleiste, in der viele hochgradig miteinander verknüpfte Ereignisse gleichzeitig stattfinden – einige gut, andere problematisch. Der Vorstoß der Rechenzentren in den Weltraum ist faszinierend; es ist bemerkenswert, dass KI parallel zu SpaceX heranreift. Das Timing ist äußerst interessant. Man kann sich vorstellen, dass die KI-Zeitleisten anders ausgesehen hätten, wenn SpaceX zehn Jahre länger gebraucht hätte.

Nick Marwell: Letztlich ist das alles auch Elon zu verdanken. Er war verrückt genug, das Projekt weit vor allen anderen zu starten.

Nick Marwell: Andererseits gibt es besorgniserregendere Entwicklungen. Ich halte es für die Welt keineswegs für ideal – aus diversen Gründen, darunter geopolitische Machtdynamiken und die Tatsache, dass KI den Autoritarismus stärker begünstigt als die meisten anderen Regierungsformen –, dass KI ausgerechnet in einer Zeit auf den Markt kommt, in der wir unbestreitbar in die bipolareste Welt meines Lebens eintreten.

Host: Hängt das nicht zusammen? Gibt es nicht Parallelen zwischen Social Media, dem Einsatz von Machine Learning und der Verbesserung von KI, die uns polarisieren? Liegt das an der Ökonomie der menschlichen Aufmerksamkeit?

Nick Marwell: Wenn ich von bipolar spreche, meine ich primär das globale Spannungsverhältnis zwischen China und den USA.

Host: Du meinst also nicht die Links-Rechts-Polarisierung innerhalb der USA.

Nick Marwell: Nein, das ist vermutlich ein weiteres Thema, über das man nachdenken muss. Aber ich wäre bei den Aussichten für eine positive KI-Entwicklung zweifellos etwas zuversichtlicher gewesen, wenn sie etwa in den frühen 2000er Jahren in eine eher unipolare Welt hineingeboren worden wäre. Das wäre sicherer gewesen.

Schult Douglas: Es hat fast die tragische Qualität eines Science-Fiction-Romans, dass die wertvollste Ressource des Universums auf dieser kleinen Insel zwischen den beiden Supermächten der Welt produziert wird.

Nick Marwell: Das hat in gewisser Weise etwas zutiefst Poetisches.

Wie bewahren wir Werte, Tradition und Gemeinschaft?

Host: Insgesamt überwiegt der Optimismus hinsichtlich der Perspektiven für die Menschheit, sofern wir diese Phase überstehen – das ist der Tenor. Eine weitere Frage, die sich viele unserer Zuhörer stellen: Es ist schön und gut, außergewöhnlichen Wohlstand zu erlangen, aber unsere Zivilisation schätzt auch andere Dinge. Es gibt Tugenden, Familie und traditionelle Werte, auf die viele ihr Leben gründen. Es gibt die Würde der Arbeit und all die kulturellen Traditionen, die uns ausmachen.

Host: Und es existiert die Sorge, dass – da dies alles in San Francisco geschieht, wo solche Traditionen im Schnitt vielleicht weniger geschätzt werden – die Verantwortlichen nun die Welt nach ihrem Gusto umbauen und unsere traditionellen Vorstellungen von Christentum, Monogamie oder anderen Werten über Bord werfen könnten. Gibt es Institutionen, die wir aufbauen können, um diese Dinge zu bewahren? Wie denken wir darüber aus der Perspektive des Epizentrums in San Francisco, während sich alles verändert?

Schult Douglas: Interessanterweise erwarten wir in San Francisco sogar eine Renaissance der Bedeutung genau dieser Institutionen. Denn wenn Arbeit und purer Kapitalismus an zentraler Bedeutung für das Leben der Menschen verlieren, weil wir durchgehend im Überfluss leben, werden die wirklich wichtigen Dinge in den Vordergrund treten: Tradition, Rituale, das Stiftung von Werten für andere, die lokale Gemeinschaft und soziale Bindungen.

Nick Marwell: Kontraintuitiv wächst auch die Bedeutung intellektueller Bestrebungen und der Erwerb von tieferem Weltverständnis – nur eben nicht im ökonomischen Sinne. In einer Welt, in der man keinen Mangel mehr leidet, ist das schlicht der verbleibende Weg, um sich zu unterhalten, Teil einer Gemeinschaft zu sein und Erfüllung zu finden.

Host: Ihr beide seid jung und sehr erfolgreich. Nehmen wir an, Anthropic setzt sich durch. Alle dort werden über Ressourcen verfügen, und die Welt wird insgesamt reicher sein. Habt ihr darüber nachgedacht, Institutionen aufzubauen, um solche Werte zu stützen? Gibt es Projekte, für die ihr brennt?

Schult Douglas: Ja. Nick hat ein fantastisches Beispiel mit den frühkindlichen Bildungsprojekten, an denen sein Vater arbeitet, aber das ist generell ein großes Diskussionsthema bei Anthropic. Philanthropie ist ein wesentlicher Bestandteil unserer Unternehmenskultur. Es gibt einen wunderbaren Blogbeitrag dazu mit dem Titel „The New Wave of American Philanthropy“, der beschreibt, wie die philanthropischen Ausschüttungen der OpenAI-Stiftung und der Belegschaft von Anthropic dem Äquivalent hunderter Arc Institutes oder Dutzender Gates Foundations entsprechen würden.

Schult Douglas: Es gibt unzählige Initiativen, über die nachgedacht wird. Eine Stiftung, die ich selbst unterstützt habe, widmet sich einem Programm zur Ausrottung aller Viruserkrankungen. Viele konzentrieren sich auf gesundheitsbezogene Themen. Einer meiner Kollegen hat an eine Non-Profit-Organisation gespendet, die sich mit den Auswirkungen auf den Arbeitsmarkt befasst: Sie analysiert fundiert, was tatsächlich passiert, wo reale Sorgen angebracht sind und welche politischen Maßnahmen wir ergreifen sollten, damit der Übergang sozial abgefedert wird und die Menschen auf der anderen Seite besser dastehen.

Nick Marwell: In dieser Hinsicht bin ich stark von meinem Vater geprägt, der sich in den letzten 15 oder 20 Jahren auf Bildung konzentriert hat. Ich habe gerade ausgeführt, dass sich die Art von Wissen, die wir anstreben werden, zwar stark verändern wird – es erscheint mir fraglich, ob wir in 20 Jahren noch alle massenhaft Doktorate in hochtechnischen Fächern anstreben –, aber die Freude am Lernen, das intellektuelle Miteinander und vor allem das Verstehen der Welt, in der wir leben (die für die meisten von uns in den skizzierten Szenarien extrem verwirrend sein wird), gewinnen rasant an Bedeutung.

Nick Marwell: Eine weitverbreitete Fehleinschätzung vieler Menschen in der KI-Branche lautet, dass KI das Bildungswesen schlicht „reparieren“ wird. Wer sich jedoch um die Bildung aller Kinder sorgt – und nicht nur darum, wie man dem Kind zweier hochgebildeter Eltern aus den einkommensstärksten ein Prozent der Bevölkerung eine exzellente Ausbildung zukommen lässt –, muss zwei fundamentale Dinge verstehen.

Nick Marwell: Erstens ist Bildung ein zutiefst kumulativer Prozess. Ein klassisches Beispiel: Der wichtigste Indikator dafür, wie gut ein Schüler in Mathematik abschneidet, ist seine Lesekompetenz auf Klassenstufenniveau am Ende der dritten Klasse. Denn ab diesem Zeitpunkt wechselt man von „lesen lernen“ zu „durch Lesen lernen“. Es gibt im Bildungswesen viele solcher Mechanismen – insbesondere, weil Kinder und Menschen generell die psychologische Eigenart besitzen, bei Misserfolgen oder dem Gefühl, in etwas „schlecht“ zu sein, schnell die Motivation zu verlieren.

Nick Marwell: Und das Hauptproblem dabei ist, dass Computer zumindest bisher in einer Disziplin extrem schlecht abschneiden: Sie können die Aufmerksamkeit kleiner Kinder nicht halten. Im Gegenteil wirken sie oft als enorme Ablenkungsquelle.

Host: Das könnte man natürlich als völlig neue Disziplin trainieren, wenn man wollte. Man müsste dafür ein passendes Spiel entwickeln, auch wenn ich mir da nicht sicher bin.

Nick Marwell: Zwar wird KI in bestimmten Bereichen der Kindererziehung enorm helfen – insbesondere bei der passgenauen Vermittlung von Inhalten zur richtigen Zeit –, aber ich glaube keineswegs an ein Allheilmittel, bei dem einfach eine smarte KI kommt und alle Bildungsprobleme in Luft auflösen.

Prognosen für 2028

Host: Daran arbeiten zahlreiche kluge Köpfe, und ich stimme zu, dass dies von entscheidender Bedeutung ist. Machen wir einen Zeitsprung in den August 2028. Ihr blickt auf diesen Podcast zurück. Was muss passiert sein, damit ihr sagt: „Wow, das ging deutlich schneller als erwartet“?

Schult Douglas: Deutlich schneller als erwartet? Wir rechnen ohnehin damit, dass die Dinge recht schnell verlaufen.

Host: Noch viel schneller.

Schult Douglas: Zeitpläne für Rechenzentren im All wären ein solches Beispiel. Da gehen die Meinungen je nach Gesprächspartner stark auseinander.

Host: Und das ist ein zentraler Faktor, weil man im Orbit so viel mehr tun kann. Sobald dieser Schritt geschafft ist, skaliert die Rechenleistung noch rasanter, und genau das ist unser primärer Bedarf.

Schult Douglas: Ich rechne grob damit, dass bis dahin etwa ein Terawatt an Leistung online ist, aber das genaue Tempo bleibt abzuwarten. Ich wäre gespannt zu sehen, wie viele humanoide Roboter im Jahr 2028 in privaten Haushalten stehen. Wahrscheinlich erleben wir dann eine Welle von Frühinstallationen – vielleicht zehntausende Roboter in Haushalten, die Wäsche waschen, grundlegende Reinigungsarbeiten erledigen und ähnliche Aufgaben übernehmen. Aber es könnte auch deutlich schneller gehen.

Host: Wir haben gerade eine Episode mit Generalist veröffentlicht. Es ist schlicht faszinierend, wie gut die Weltmodelle („World Models“) werden, und das geschieht schneller als von mir erwartet. Das könnte der Hebel sein, der alles um ein paar Jahre beschleunigt.

Schult Douglas: Ganz genau. Und sobald man über Roboter verfügt, potenziert sich der Fortschritt; die Entwicklung zieht massiv an.

Nick Marwell: Vieles hängt hier in gewisser Weise mit Daten zusammen. Einer der stärksten Regulatoren des KI-Fortschritts ist die Geschwindigkeit, mit der wir Daten in den für uns relevanten Domänen skalieren können. Und das lief bereits schneller, als ich erwartet hatte, aus dem vorhin genannten Grund: Aufgrund der enormen Laboreinnahmen stand deutlich mehr Kapital zur Verfügung, um das Problem anzugehen.

Nick Marwell: Meine Erwartung ist jedoch, dass wir durch die Rate gebremst werden, mit der die Menschheit diese Daten produzieren kann. Wenn du mir jetzt sagst, wir hätten eine großangelegte Initiative gestartet, um tonnenweise biologische Daten für das Modelltraining zu generieren – und diese würde heute anlaufen und in einem Jahr auf Hochtouren laufen –, dann würde ich meine Zeitleiste wahrscheinlich nach vorne korrigieren.

Host: Aktuell konzentrieren wir uns stark auf Datentypen für sehr spezifische Aufgaben wie Programmierung, Mathematik und ähnliches. Glaubt ihr, dass wir eines Tages auch an Daten für die Formung tugendhafter Menschen, guten Charakters, psychischer Gesundheit oder ähnlicher Aspekte arbeiten werden? Das ist natürlich unendlich viel komplexer – aber könnten solche hochkomplexen Probleme künftig von KI gelöst werden?

Schult Douglas: Um ehrlich zu sein, diese Probleme möchte ich lieber von Menschen gelöst sehen.

Host: Würden wir dafür nicht trotzdem ein Werkzeug einsetzen?

Schult Douglas: Natürlich wird KI uns in diesen Diskussionen unterstützen! Aber das fällt für mich in jene Kategorie von Daten, deren Skalierung extrem knifflig ist und stark vom Individuum abhängt. Das kommt erst lange nach der Lösung der Robotik.

Host: Ihr seid also immer noch ein Stück weit Menschen. Es gibt offenbar noch Raum für uns.

Schult Douglas: Würde ich erwarten, dass eine KI 2028 einen Pulitzer-Preis gewinnt? Vermutlich eher nicht.

Host: Nun, was, wenn wir verschweigen, dass der Text von der KI stammt?

Schult Douglas: Stimmt, das ist ein Argument. Würde ich erwarten, dass sie 2028 eine Fields-Medaille gewinnt? Durchaus möglich, ja, extrem wahrscheinlich. Auch ein Nobelpreis ist nicht absurd und erscheint vor Ende des Jahrzehnts durchaus greifbar.

Host: Nun, es ist faszinierend, mit euch zu plaudern. Wir haben zweifellos einige Herausforderungen zu bewältigen, aber ich blicke äußerst optimistisch in die Zukunft der Menschheit, wenn wir diese Dinge richtig anpacken.

Schult Douglas: Ich auch. Und danke, dass wir dabei sein durften.

Nick Marwell: Danke für die Einladung.