DruckFin

Chemify-Transcript: Lee Cronin über molekulare Berechnungen, Assembly Theory und die Genesis-Plattform

Ausführliches Interview vom August 2026 mit Chemify-CEO Lee Cronin

Lee Cronin, die DARPA und chemische Roboter

Host: Lee, es ist großartig, dich wieder hier zu haben, Mann. Das letzte Mal warst du in Episode 289 hier, das ist wohl anderthalb Jahre her. Wir haben buchstäblich die Kameras ausgeschaltet, und du meintest so: „Ja, ich habe übrigens auch ein bisschen für DARPA gearbeitet.“ Und das haust du uns einfach so hin. Und ich denke mir, gut, sowas sagt man sonst am Anfang des Podcasts, aber du erzählst mir das so nebenbei, als wäre es keine große Sache. Wieso ist DARPA keine große Sache? Ich meine, ich bin ein riesiger DARPA-Fan.

Lee Cronin: Ja, ich weiß auch nicht. Also, ich hatte – lass mich kurz nachdenken. Wie viele Grants hatte ich eigentlich von DARPA? DARPA ist ja ein Geldgeber, richtig? Sie vergeben Fördermittel. Weißt du, warum sie gegründet wurden? Du kannst das gerne überprüfen, aber ihr Mandat bestand ursprünglich darin, strategische Überraschungen auszuschließen, nachdem Sputnik in den Weltraum geschossen wurde. Die US-Regierung hatte diesen Satelliten nicht erwartet. Die Sowjets haben damals, ich glaube in den 1950er-Jahren, einen Satelliten gestartet, und DARPA wurde im Grunde gegründet, um genau solche Überraschungen zu verhindern. Sie bekamen jede Menge Budget, um Leute zu finanzieren, die verrückte Dinge tun, und hatten den Auftrag, Dinge einfach umzusetzen. Man kann durchaus argumentieren, dass DARPA etwas mit der Erfindung des Internets zu tun hat, oder mit selbstfahrenden Autos. Vor vielen Jahren, lange vor dem heutigen Hype, hat DARPA begonnen, sich mit Chemie und KI zu beschäftigen. Sie hatten damals ein Programm namens Make-It ins Leben gerufen. Der Verantwortliche dort hat sich gewissermaßen bei der Terminologie an einem meiner Paper bedient, worüber ich ehrlicherweise etwas verschnupft war. Sie hatten mir nämlich keinerlei Fördermittel angeboten, sondern das Geld stattdessen an das MIT und das Stanford Research Institute gegeben.

Host: DARPA hat also bei Lee Cronin plagiiert.

Lee Cronin: Du hast das P-Wort benutzt, ich nicht. Sie waren inspiriert. Auf jeden Fall erinnere ich mich, dass sie mich angerufen haben und ich mich bitterlich darüber beschwerte, dass sie diesen Absatz über das verwendet hatten, was ich versuchte aufzubauen. Und sie meinten nur: „Dr. Cronin, wir rufen Sie an, weil wir mit Ihnen darüber sprechen wollen.“ Ich erwiderte: „Okay.“ Und im Grunde lief es darauf hinaus, dass sie wollten, dass ich ein Whitepaper einreiche. Ich sagte daraufhin: „Okay, ich will diese (und nannte eine) Zillion Dollar.“ Und sie meinten: „Nun, warum fordern Sie nicht etwas weniger und machen stattdessen diese Sache, die genau in unser Programm passt? Es sind US-Steuergelder, und Sie sind eine der wenigen Forschungsgruppen im Ausland, die das tun, und wir halten das für wertvoll.“

Host: Und worum ging es bei dieser Sache ganz konkret?

Lee Cronin: Es war Teil ihres Make-It-Programms. Geht es darum, Moleküle auf Abruf zu synthetisieren – direkt im Einsatzgebiet, auf dem Mond, in der Antarktis oder wo auch immer? Wie automatisieren wir die Chemie durch Robotik? Und wenn sie dich dann dazu befragen – ich baue schließlich schon seit Jahren chemische Roboter.

Host: Leute, noch kurz drei Dinge. Erstens: Falls ihr noch nicht abonniert habt, tut es bitte, das ist eine riesige, riesige Hilfe. Zweitens: Wenn ihr meinem Patreon beitreten wollt, um frühe, unzensierte Versionen der vollständigen Episoden zu sehen, findet ihr den Link in der Beschreibung oder im angepinnten Kommentar unten. Und drittens: Wenn ihr unserer Clipping-Community beitreten wollt, um Content aus der Show zu erstellen und Geld zu verdienen, könnt ihr das über den Discord-Link in der Beschreibung unten tun. Du baust also schon seit Jahren chemische Roboter.

Lee Cronin: Ja, ja, ja, ja.

Host: Das ist eine gewichtige Aussage.

Lee Cronin: Seit 2012, genau. Also seit rund 14 Jahren.

Host: Wie würdest du einen chemischen Roboter für jemanden definieren, der mit dieser speziellen Art von Technologie nicht vertraut ist?

Lee Cronin: Einen Roboter, dem man Anweisungen gibt, woraufhin er chemische Prozesse ausführt. Ja, also es ist im Grunde... ich kann es dir genau erklären, aber lass mich erst die DARPA-Frage beantworten, da du danach gefragt hast. Das war also der erste Grant für das Make-It-Programm, und sie haben mich weiter gefördert. Danach gab es ein Programm zur molekularen Berechnung, bei dem Moleküle für Berechnungen eingesetzt werden sollen – für molekulare Computer –, und auch dafür habe ich Gelder von DARPA erhalten. Das lief im Rahmen eines US-Konsortiums mit ein paar anderen Gruppen in den Staaten. Und dann gab es noch ein weiteres Grant für den Einsatz von KI in der Entdeckungsforschung. Das waren die drei DARPA-Grants, ich glaube, es waren drei Stück.

Host: In welchem Jahr haben sie dir das KI-Grant gegeben?

Lee Cronin: Oh, grob geschätzt 2018 oder 2019, und das lief dann durch die Pandemie hindurch weiter. Während der Pandemie war es etwas schwieriger, aber DARPA ist eine brillante Organisation. Sie gehen dorthin, wo die Experten sind. Sie vergeben keine Fördermittel an Personen in Ländern, die der USA vermutlich feindlich gesinnt sind, sage ich mal – Bin Laden haben sie also nicht finanziert. Außerdem wollen sie neue Forschungsfelder begründen, und zwar solche, die von offensichtlicher strategischer Bedeutung sind. Großbritannien und die USA arbeiten in verschiedenen wissenschaftlichen Disziplinen schon lange eng zusammen. Das fand ich ziemlich gut. Ich habe einen molekularen Computer gebaut, also Chemikalien für Berechnungen eingesetzt, weil ich wollte –

Host: Was bedeutet das?

Lee Cronin: Ja, keine Ahnung. Nun, mittlerweile weiß ich, was es bedeutet. Was macht ein Computer? Wir greifen zwar weit vor, aber fangen wir doch damit an: Was ist ein chemischer Computer? Ein chemischer Computer ist im Grunde ein Chemiebaukasten, in den man Inputs – die Daten – eingibt. Man speist die Daten irgendwie in die Chemikalien ein, und diese verarbeiten die Daten dann durch chemische Reaktionen anstelle von Transistoren auf Silizium. Am Ende liest man das Ergebnis über eine bestimmte Methode aus. Ich habe einen chemischen Computer gebaut, der auf der Belousov-Zhabotinsky-Reaktion (BZ-Reaktion) basiert, einer chemischen Uhr. Die macht einfach tick-tack, tick-tack oder wechselt zwischen rot und blau hin und her. Man gießt also jede Menge Chemikalien in ein Gefäß – man nimmt einfach ein Becherglas, füllt es zur Hälfte und gibt einige Chemikalien hinein. Ohne dass man etwas tun muss, während man einfach nur zuschaut und rührt, blinkt das Ganze rot-blau, rot-blau. Wenn man aufhört zu rühren, stoppt der Prozess kurz, fängt aber spontan wieder an, in der einen oder anderen Farbe zu blinken. Das nennt man ein anregbares Medium. Es ist ein bisschen so, wie wenn man sich vorstellt, wie Neuronen feuern. Ich dachte mir, das ist eine coole Idee. Warum baue ich nicht einfach ein Raster aus Rührern? Also habe ich ein Raster im Format eines kleinen Buches im 3D-Drucker hergestellt – ein 7x7-Raster mit 49 kleinen Vertiefungen. In jede Vertiefung habe ich ein Magnetrührstäbchen gelegt, darunter einen kleinen Motor platziert, das Ganze gerührt und die chemische Reaktion hineingegeben. Die Farben liefen über das gesamte Raster, und ich habe eine Webcam genutzt, um die Farben auszulesen. Wenn die Rührer an waren, entsprach das einer 1. Wenn sie aus waren, war das eine 0. Ich habe im Grunde Einsen und Nullen gedruckt, um einen bestimmten Input darzustellen, diesen ausgelesen und so ermittelt, was das System macht. Am Anfang haben wir uns das im Grunde einfach ausgedacht.

Host: Sag uns Bescheid, wenn du fertig bist.

Gehirngel und die Frage, ob KI sentient ist

Lee Cronin: Nun, hey, es ist ein DARPA-Projekt, das soll eben verrückt sein. Nein, im Ernst: Was das System eigentlich tun sollte – da die BZ-Reaktion wie eine Uhr tickt (tick-tack, tick-tack) –, war folgendes: Wenn man eine Menge solcher Uhren zusammenschaltet und sie synchronisieren lässt, kann man während der Entsynchronisierung Informationen verarbeiten. Wir haben das tatsächlich genutzt, um Muster zu klassifizieren und ein primitives neuronales Netz zu bauen. Die Idee dahinter war ein neuronales Netz, das buchstäblich keine Energie verbraucht, sich ziemlich gut zur Fehlerkorrektur eignet und Bilder verfeinern kann. Ganz ähnlich wie man ChatGPT oder die Architektur von Nvidia für den Gradientenabstieg (Gradient Descent) nutzen würde. Und was ist Gradientenabstieg? Nun, im Grunde werden dabei die Gewichtungen im neuronalen Netz angepasst, um die Trainingsfähigkeit zu maximieren, da man es mit zwei unterschiedlichen Dinge zu tun hat: Gewichtungen und Aktivierungen. Das Ganze war jedenfalls ein chemisches neuronales Netz, und es war als erster Schritt gedacht. Mittlerweile baue ich Gehirn-Gels, aber das ist eine andere Geschichte.

Host: Du baust jetzt Gehirn-Gels?

Lee Cronin: Weil wir diesen Ansatz genommen und in ein Gel überführt haben, da die flüssige Variante zu instabil war. Sie war zu wässrig, und das Gedächtnis funktionierte nicht besonders gut. Aber wenn man das Ganze in ein Gel einbettet, kann man das Polymergel möglicherweise so schalten, dass man das System trainiert, über einen längeren Zeitraum zu lernen.

Host: Wie funktioniert das auf wissenschaftlicher Ebene?

Lee Cronin: Keine Ahnung. Deswegen habe ich es ja gemacht.

Host: Du versuchst also noch herauszufinden, wie es funktioniert.

Lee Cronin: Ja. Ich meine, klar, wir springen hier von einem Thema zum anderen, aber warum auch nicht? Inspiriert wurde ich durch die „Pickle Rick“-Episode von Rick and Morty. Ich habe mir also eine Essiggurke geschnappt, sie an die Steckdose mit 240 Volt angeschlossen und – du kennst ja meine Werkstatt zu Hause – mit einer Reihe von Elektroden bestückt. Dann habe ich versucht, die Essiggurke so zu programmieren, dass sie den Unterschied zwischen einem Kreis und einem Quadrat erkennt. Allerdings ist sie mir ständig explodiert. Sie ist immer wieder explodiert, weil sie sich zu stark erhitzte. Ich dachte mir, eine Essiggurke könnte ein guter... es schien mir eine gute Idee zu sein. Es läuft eben immer auf einen Essiggurken-Computer hinaus.

Host: Du könntest dir das jetzt buchstäblich komplett ausdenken, oder?

Lee Cronin: Wie auch immer: Gurke nehmen, aufheizen, anschließen. Es klingt absolut lächerlich. Man erhitzt sie, indem man 240 Volt anlegt. Was passiert dann? Natrium- und Kalium-Ionen geraten in Bewegung, weil sie in Salz eingelegt ist. Man hat also diese in Salz eingelegte Gurke, weshalb sie den Strom leitet, wenn man Elektrizität anlegt. Wenn man Wechselstrom mit hoher Spannung anlegt, erhitzt sich das Ganze, und die Ionen können sich bewegen. Dadurch entsteht buchstäblich ein anregbares Medium – ein bisschen wie die blinkende BZ-Reaktion, nur eben hier mit der Essiggurke. Und als ich dann die kleinen Elektroden und dieses kleine Raster hineinsteckte, versuchte ich die Gurke darauf zu trainieren, den Unterschied zwischen einem Quadrat und einem Kreis zu erkennen, da sie formbarer geworden war. Das ist ein bisschen so, als würde man Zement nehmen, ihn wieder verflüssigen, damit etwas lernen und das Ganze dann aushärten lassen. Das Problem war nur, dass die Gurke jedes Mal explodierte, bevor ich sie tatsächlich trainieren konnte.

Host: Und das hast du in deinem Labor zu Hause gemacht?

Lee Cronin: Das habe ich zu Hause gemacht, ja. Ich glaube, die Universität wäre von diesen explodierenden Essiggurken nicht sonderlich begeistert gewesen.

Spulen wir also zum Gehirn-Gel vor. Ich dachte mir: Gut, wenn ich ein Gel nehmen und es so modifizieren kann, dass es elektrisch leitfähig wird – ein bisschen wie ein Draht –, dann kann ich auf der einen und der anderen Seite Elektroden anbringen und eine Oberfläche über eine Kamera programmieren. Ich könnte einfach einen visuellen Feed abgreifen und in das Gel einspeisen und dann auslesen, während ich der Kamera verschiedene Objekte zeige. Kann das Gel die Kanten der Objekte unterscheiden? Lässt es sich auf dieselbe Weise trainieren wie OpenCV oder ein anderes siliziumbasiertes System zur Kantenerkennung? Ein bisschen so, als würde man einen Jetson Nano oder etwas Ähnliches verwenden. Ich habe einfach damit herumgespielt, ob man Materie zum Berechnen nutzen kann. Es stellt sich heraus: Das geht. Und wenn du jetzt fragst „Wie funktioniert das?“ und ich lache, dann nicht, weil ich mir das ausdenke, sondern weil man Materie dadurch programmiert, dass das Material zeitlich auf seine Reize reagiert. Es ist also stark von Trial and Error geprägt. Das ist sehr ähnlich dazu, wie sich das Gehirn entwickelt hat. Das Gehirn hat sich über Milliarden von Jahren entwickelt und durchläuft verschiedene Programmierungsphasen. Es wurde durch die Evolution programmiert. Dein Gehirn ist also sagen wir mal 3,8 Milliarden Jahre alt – das ist Phase Nummer eins. Dann wirst du von deinen Eltern gezeugt. Über einen Zeitraum von neun Monaten wächst dein Gehirn im Mutterleib, und die Programmierung beginnt. Nach der Geburt durchläufst du massive Entwicklungsschübe. Mit 21 oder 22 Jahren ist das Gehirn dann fast vollständig ausgereift. Und ab da ist es in der Lage, Daten in Echtzeit zu verarbeiten. Es gibt all diese verschiedenen Entwicklungsstufen, in denen das Gehirn evolvieren, wachsen, programmiert werden, aktiv werden und kontinuierlich arbeiten kann. Und wir haben keine Ahnung, wie Gehirne funktionieren. Was ist das Einzige am Gehirn? Nun ja: Sentience, Bewusstsein, der Lebenszweck, ein lebendiges System, das dir sagt, dass es ein Individuum ist. Wenn man mit Menschen spricht – den meisten Menschen, mit denen man kommunizieren kann –, beanspruchen sie für sich, ein Individuum zu sein.

Host: Brauchst du unbedingt alle 15 Minuten ein Nikotinbeutelchen, um dich normal zu fühlen? Joey D tut es nämlich. Er ist ein kompletter Süchtiger. Genau deshalb hat D angefangen, die neuen Energiebeutel von Ultra zu nutzen. Für diesen Suchtbolzen waren sie ein elitäres Upgrade. Ultra-Beutel sind instant energy in einem Beutel – nicht wahr, D? Er benutzt sie jetzt seit etwa einem Monat obsessiv, und sie geben ihm diesen enormen, intensiven Energieschub, wenn er diesen extra Kick am Morgen, während der Arbeit oder vor dem Training braucht. Das sind 100 % nikotinfreie Beutel, die dir auf eine Weise Energie geben, die sich völlig von Nikotin, Kaffee oder anderen Pouches unterscheidet. Ultra Energy Pouches enthalten zwar noch etwas Koffein, um diesen kleinen Schub zu geben, aber der wahre Unterschied liegt in den anderen Inhaltsstoffen: L-Theanin glättet die Energiekurve und beugt dem Absturz vor; Vitamin B3 wandelt Kohlenhydrate, Fette und Proteine in Gehirnstoffwechsel um; die Vitamine B6 und B12 sorgen für ausgeglichene Stimmung und Regeneration. Im Gegensatz zu Nikotin, das vielleicht nur 10 bis 15 Minuten hilft, liefern Ultra Pouches sofortige Energie, die 30 bis 60 Minuten anhält. Genau deshalb schiebe ich ihm während der Podcasts immer so viele davon unter dem Tisch zu, damit er wach bleibt. Das Beste daran ist: Es sind saubere, wirklich gesunde Beutel. Null Nikotin, null Kalorien, null Zucker, null dubiose Tankstellenchemie. Ultra ist der ultimative, reuefreie Beutel für sofortige Energie, mentale Klarheit und bessere Stimmung – ganz ohne Nikotin, Zucker oder Kalorien. Ultra wird von Profisportlern, Unternehmern und Ingenieuren auf der ganzen Welt geschätzt. Es ist für jeden da. Und heute erhalten unsere Zuhörer diesen ultimativen Beutel mit 15 % Rabatt, wenn sie den Code JULIAN unter takeultra.com eingeben. Der Link ist in der Beschreibung unten. Das ist takeultra.com, Link in der Beschreibung unten, für 15 % Rabatt mit dem Code JULIAN. Nach dem Kauf werdet ihr gefragt, woher ihr von ihnen erfahren habt. Bitte unterstützt unsere Show und sagt ihnen, dass ich euch geschickt habe. Du glaubst also, dass das Gehirn einfach strikt diesen Prozess programmiert, und dass das nicht notwendigerweise bedeutet, dass es sich so verhält?

Lee Cronin: Nein, nein. Ich denke, da ist etwas sehr Interessantes im Gange. Ich glaube nicht, dass es beim Gehirn aufhört. Biologische Systeme sind extrem komplex, aber ich denke, Menschen sind insofern einzigartig, als sie – wenn man ihnen Sprache beibringt – behaupten, ein Individuum zu sein. Und ich glaube, das ist etwas, das wir noch nicht verstehen: wie Chemie Bewusstsein hervorbringt und wie Chemie zu der Tatsache führt, dass ich behaupte, ich selbst zu sein, meine ganz eigene Persönlichkeit habe und Dinge tue. Das ist in der heutigen Zeit von enormer Bedeutung, da wir dazu neigen, KI als fühlende Entitäten zu betrachten – was sie schlicht und einfach nicht sind.

Host: Ja, du hast dazu viele Argumente vorgebracht, weil du zum Beispiel der Meinung bist, dass viele KI-Doomer den Sprung wagen zu behaupten, KI könne in Zukunft ohne Menschen existieren, und dieser Ansicht stimmst du nicht zu.

Lee Cronin: Ja, natürlich nicht. Das ist fantastisch (im Sinne von weltfremd).

Host: Warum nennst du das fantastisch?

Lee Cronin: Nun, wir haben keinerlei Belege dafür. Wenn wir uns den Ursprung der KI ansehen – gehen wir ganz an den Anfang zurück, zum Ursprung des Lebens. KI wurde von... nun, sagen wir, der Begriff KI wurde auf der Dartmouth-Konferenz geprägt, das kann man nachprüfen. Wie auch immer, lasst uns so viele Verschwörungstheorien spinnen wie möglich. Aber ich denke, DARPA hat direkt zu Beginn einige KI-Forschungen finanziert. Am Dartmouth College wurde der Begriff KI geprägt. Wann war das noch gleich? In den 1950ern, 1956, keine Ahnung, vor langer Zeit, vielleicht etwas später. Wenn man sich überlegt, was ein Computer ist: Ein Computer ist ein deterministisch aufgebautes System. Es besteht aus Schaltern. Und diese Schalter funktionieren so, dass ein Computer aus Schaltern gebaut ist, die entweder High oder Low sein können. Man schaltet sie zusammen, um Logikgatter zu bauen. Das universelle Logikgatter in einem Computer ist ein NAND-Gatter.

Host: Ein NAND-Gatter.

Lee Cronin: Ja, NOT-AND, richtig? Man kann alles mit NOT-Gattern bauen, man kann Speicher bauen, absolut alles. Die Art und Weise, wie man diese Schaltungen architektonisch verschaltet, bildet das Silizium-Fundament für alles, was wir heute haben. Es mag einige Abweichungen geben, und Elektroingenieure, die jetzt zuhören, schreien vielleicht: „Nein, das ist falsch!“ Es gibt noch andere Dinge, sogenannte ASICs (anwendungsspezifische integrierte Schaltungen), die im Grunde neuromorphes Computing ermöglichen, bei dem man mit analogen Spannungen arbeiten kann. Bei einem Transistor hat man typischerweise eine Spannung zwischen 0 und 5 Volt. 5 ist High, also 1; 0 ist Low, also 0; und dazwischen gibt es Zwischenwerte. Liegt es auf der 0-Seite, nennt man es Low, und auf der 5-Volt-Seite eine 1. Aber ich bin kein ausgebildeter Elektroingenieur, daher weiß ich nicht genau, wie ASICs heute gebaut werden. Ich habe mir zu meinem Vergnügen selbst schon einige ASICs entworfen.

Host: Zum Vergnügen.

Lee Cronin: Ja, nun, ich möchte ein Gehirn bauen. Wenn ich also ein Gerät bauen will, ein chemisches Gehirn, muss ich ein analoges elektrisches System entwerfen, um dieses chemische Gehirn anzusteuern. Darauf kommen wir später noch zu sprechen.

Host: Ja, darauf kommen wir zurück.

Lee Cronin: Das Wichtigste an einem Computer ist also, dass er in gewisser Hinsicht ziemlich deterministisch und digital arbeitet. Das bedeutet, ich kann Inputs hineingeben und er arbeitet sie ab. Die heutigen KIs basieren auf Digitalcomputern und nutzen all diese digitale Infrastruktur. Wir nehmen riesige Mengen an Daten und trainieren ein Modell, und dieses Modell kann wunderbare Dinge vollbringen. Aber die Doomer behaupten, diese Modelle könnten sich verselbstständigen. Ich stimme zu, dass Modelle durch schlechte Menschen, die sie bedienen, außer Kontrolle geraten können – es gibt schließlich immer einen Menschen im Regelkreis (Human in the Loop). Es ist der Mensch, der das Kraftwerk einschaltet. Auch wenn wir Ausdrücke wie „rekursive Selbstprogrammierung“ verwenden, ist das im Grunde so, als könnten du und ich jetzt eine KI bauen, in die wir eine Programmschleife einbauen: Tu dies, und wenn Jenes eintritt, dann tu das, und mach so lange weiter, bis das Ziel erreicht ist oder jemand den Computer ausschaltet. Das war schon immer so; solche Programmschleifen gab es schon immer.

Sam Altman, Anthropic und OpenAI im Vergleich

Lee Cronin: Die KI-Doomer stecken also in dieser fantastischen Realität fest, in der sie behaupten, KI könne die Weltherrschaft übernehmen und Atomexplosionen oder Ähnliches auslösen. Was ich für viel wahrscheinlicher halte – und worüber ich mir durchaus Sorgen mache –, ist, dass schlechte Menschen KI nutzen, um Schlimmes anzurichten. Ich wische KI-Doomer also nicht einfach vom Tisch. Ich lehne lediglich jene Doomer ab, die behaupten, dass so etwas einfach durch pure Magie von alleine passiert.

Host: Ja, verstanden.

Lee Cronin: Und ich halte das tatsächlich für ein großes Problem, weil sie über Magie reden, während in Wirklichkeit einfach ein böswilliger Akteur sagt: „Ich nutze KI, um in dieses System einzudringen und Schaden anzurichten“, oder „Ich setze ein KI-Bot-System ein, um Social Engineering in den sozialen Medien zu betreiben und bestimmte Effekte zu erzielen.“ Ich habe bisher absolut keine Beweise für Sentience in irgendeiner KI gesehen. Sentience stammt ausschließlich von Menschen. Jedes Anzeichen von Sentience, das man bekommt, stammt aus dem Internet-Training des Modells. Wenn du zu Claude sagst: „Bist du am Leben?“, wird Claude wahrscheinlich antworten: „Nein, ich bin nicht am Leben, aber...“ und dabei das Wort „ich“ verwenden. Diese Anthropomorphisierung dient einzig und allein dazu, dich süchtig danach zu machen, mit der Entität zu sprechen.

Host: Was aber, wenn es sich um eine technische Feinheit handelt und die KI keine Sentience erlangt, aber – und ich vereinfache das jetzt extrem – wir es irgendwann schaffen, Technologie zu entwickeln, bei der man nicht einfach den Stecker ziehen muss, um sie zu kontrollieren? Könnte es passieren, dass eine nicht-sentiente, aber extrem intelligente künstliche Intelligenz, die absolut nicht in der Lage ist, Empathie, Emotionen oder ein Maß an Menschlichkeit zu empfinden, Handlungen setzt, deren gravierende Konsequenzen sie nicht versteht? Haben diejenigen, die vor so etwas warnen, nicht ein stichhaltiges Argument?

Lee Cronin: Ich verstehe die Aussage nicht ganz, weiß aber, worauf du hinauswillst, also stelle ich mich jetzt nicht stur. Aber sind KIs intelligent? Wir müssen erst einmal definieren, was Intelligenz ist. Was mich wirklich verwirrt, sind Leute, die behaupten, in den nächsten Jahren werde die KI intelligenter sein als jeder Mensch. Was soll das überhaupt heißen? Was ist Intelligenz? Wenn man etwas nicht messen kann... könnte die KI aus sich heraus etwas auslösen? Nein. Könnte es sein, dass Menschen, die nicht wissen, wie man ein System aufsetzt, etwas Schlimmes verursachen? Denken wir an Social Engineering. Nehmen wir irgendein System – das ist jetzt etwas schwer, weil ich kein Experte bin, aber nehmen wir an, wir erlassen eine Vorschrift in einer Stadt, die besagt: Um eine Baugenehmigung zu erhalten, muss bei jedem Gebäude an jeder Ecke ein Baum gepflanzt werden. Plötzlich hast du überall völlig willkürlich Bäume stehen. Wenn Menschen Entscheidungen und Richtlinien treffen, pflanzen sich diese fort – durch Systeme, sei es in einem Unternehmen, einer Institution oder durch Software-Algorithmen. Diese Dinge pflanzen sich fort, und sie haben unvorhergesehene Konsequenzen. Und ich kaufe absolut das Argument ab, dass eine KI bei dem Versuch, ein Ziel zu erreichen, schlechte Dinge tun kann. Aber bei diesen schlechten Dingen sitzt immer ein Mensch im Regelkreis. Und ich schätze, was ich damit sagen will, ist: Die KI ist nicht böse; der Mensch ist böse, oder die Trainingsdaten sind schlecht.

Host: Ja, und selbst wenn ich diesem Punkt zustimme – und du hast vielleicht recht, ganz ehrlich, ich hoffe, du hast recht und die Menschheit hat die Kontrolle, um das mal aus egoistischer Sicht zu sagen: Gehen wir doch mal davon aus, dass es ein paar Soziopathen gibt, die bei diesen Dingen den Finger am Abzug haben. Ich denke, es ist fair zu sagen, dass einige der Technokraten, die wir auf der Welt haben – nicht alle, aber einige –, genau in dieses Schema passen. Was hält jemanden, um mal einen Namen zu nennen, wie Sam Altman, der Witze über das Ende der Menschheit macht, davon ab zu sagen: „Ach, weißt du was, heute spiele ich mal World of Warcraft, aber mit KI, und lasse sie von der Leine?“

Lee Cronin: Schau mal, ich habe viel Verständnis für Leute, die Unternehmen und Technologien aufbauen. Ich baue ja selbst gerade eins auf, worüber wir noch sprechen können. Ich denke, wir müssen einen Schritt zurücktreten und uns fragen: Wie bauen wir unsere Technologien? Wie regulieren wir sie? Und wie gewinnen wir aus dieser Regulierung Feedback, um sicherzustellen, dass für die Menschheit positive Dinge dabei herauskommen? Nehmen wir ein Beispiel, bei dem das bereits passiert ist: Wir bekamen das Internet, und dann bekamen wir die sozialen Medien. Was war das kritische Versagen bei den sozialen Medien, das uns – ich glaube, niemand würde bestreiten, dass Social Media im Moment besonders angenehm ist – hierhergeführt hat? Was war der Fehler? Ich denke, es gibt eine entscheidende Sache, die politische Entscheidungsträger hätten tun müssen: Social Media wie Verleger zu behandeln (so etwas wie Section 230 in den USA, ich kenne die deutsche Entsprechung nicht im Detail). Wenn du wie ein Verlag behandelt wirst, bist du für alles haftbar, was du auf deiner Plattform veröffentlichst. Wenn du also anfangst, Unsinn zu verbreiten, muss es heißen: „Nein, das ist ganz klar eine Lüge, nimm es runter.“ Im Grunde sind Facebook, X, Instagram und all diese Plattformen nicht für den Schrott haftbar, den sie verbreiten. Das ist für mich ein echtes Problem. Natürlich kann man den Erfinder der Druckerpresse nicht für schlechte Bücher haftbar machen, das verstehe ich. Auf dieselbe Weise könnte man fragen: Wenn es um meine chemischen Roboter geht, bin ich dann haftbar, wenn jemand darauf gefährliche Chemie betreibt? Aber ich denke, wir können von den sozialen Medien lernen – und der Tatsache, dass wir sie nicht reguliert und nicht zur Rechenschaft gezogen haben. Deshalb ist es sehr schwer vorherzusagen, wie sich das entwickeln wird.

Nichtsdestotrotz: Wenn jemand ein Social-Media-Netzwerk erfindet, das ziemlich gut ist – im Sinne eines angenehmen Ortes und nicht einer Hölle –, wenn wir herausfinden können, warum Menschen so ticken... Man generiert Wut für Aufmerksamkeit, richtig? Wenn man Wut erzeugt, bekommt man die Aufmerksamkeit, die das System will. Wenn es ein Social-Media-System gäbe, das – und ich sage nicht, dass es eine Mary-Poppins-Welt sein muss, in der alle glücklich herumschweben –, wir müssen die Psychologie von Social Media verstehen und die negativen Auswirkungen, die sie besonders auf Teenager hat. Als ich aufwuchs, gab es kein Social Media, und ich sehe, dass Social Media für viele Teenager wahrscheinlich ein negativer Faktor war. Auf der anderen Seite könnte man argumentieren, dass in Umgebungen, in denen sie keinen Zugang zu Freizeitzentren oder Jugendclubs haben, Menschen online spielen, miteinander interagieren und sich gegenseitig unterstützen können. All diese positiven Dinge sehen wir nicht, weil nur das Negative verstärkt wird.

Wenn es also um KI geht, stehen wir vor einem ähnlichen Dilemma: Wie lassen wir den freien Markt und freie Menschen bestimmen, was passiert? Es gibt da einen Unterschied, wenn man sich zum Beispiel Anthropic im Vergleich zu OpenAI ansieht: Anthropic lässt dich bestimmte Dinge auf ihren Modellen einfach nicht tun, weil eine Art höherer Zweck fest einprogrammiert ist, während OpenAI sagt: „Nein, nein, ich diene dir als Werkzeug.“ Und wenn ich mich entscheide, dieses Werkzeug für illegale Dinge zu nutzen und damit das Gesetz zu brechen, dann sollte ich auch zur Rechenschaft gezogen werden.

Host: Klar.

Lee Cronin: Mir scheint, es gibt da im Moment eine Spaltung. Aber das wird von den Doomern verdeckt, die behaupten, KI könnte außer Kontrolle geraten. Ich verstehe den Mechanismus für das „Außer-Kontrolle-Geraten“ nicht. Ich verstehe den Mechanismus des Herumtüftelns, ich verstehe den Mechanismus der Verbreitung von Desinformation oder von Verschwörungstheorien, die bisher so noch nicht möglich waren. Hier ist eine verrückte Sache: Es gibt in der Geschichte kaum echte Verschwörungen, weil Menschen sie schlüssig nicht geheim halten konnten. Aber wenn wir gute KIs hätten, könnte man die Zukunft mit ihnen ziemlich gut durchspielen, und das könnte durchaus etwas sein, worüber man sich Sorgen machen muss. Ist die Welt nach dem Zweiten Weltkrieg, wenn die Sieger erzählen, was passiert ist, vielleicht eine einzige große, glorifizierte Verschwörungstheorie, weil die Sieger nun mal die Geschichtsbücher schreiben?

Host: Ja, ein gewisser Prozentsatz wird definitiv von Siegern geschrieben. Wenn man sich eine Geschichte ansieht, entspricht sie nie zu 100 % dem, was gesagt wurde. Ich habe allerdings ein Problem damit, wenn man dann sagt: Na gut, wenn 5 % nicht so waren, wie man uns erzählt hat, dann sind es eben 100 %. Da muss man aufpassen, wohin man steuert.

Lee Cronin: Absolut. Und ich denke, das ist heutzutage wirklich wichtig. Dieses kritische Denken – was kann ich verifizieren und was hat für mich wirklich Hand und Fuß – ist essenziell. Daher denke ich, dass KI das Lehren von kritischem Denken sogar beschleunigen wird. Im Moment mache ich mir große Sorgen darüber, wie jungen Leuten erlaubt wird, ihren ersten Job zu bekommen, Fehler zu machen, die erforderliche Ausbildung und Meisterschaft zu erlangen und die Arbeitsmoral zu entwickeln. Frustration ist der beste Lehrmeister. Aber heute, wenn du keine Frustration willst, benutzt du eben ChatGPT. Allerdings halte ich das für eine vorübergehende Verirrung. Viele dieser Werkzeuge sind wirklich gut. Die Programmierwerkzeuge sind fantastisch. Und deshalb frage ich mich – und hier verlagere ich meinen Schwerpunkt tatsächlich ein wenig –, ob die uns am Ende vielleicht alle retten wird.

Host: Uns alle retten.

Intelligenz definieren wie das Messen von Temperatur

Lee Cronin: Uns alle retten, weil Social Media so ein Chaos ist, richtig?

Host: Wenn ihr meinen Podcast hört, wisst ihr, dass ich meine Supplements jeden Tag wie ein Ritual einnehme. Ihr habt mich auch schon darüber sprechen hören, dass der Supplement-Markt mit tonnenweise schlechten Produkten überflutet ist. Obendrein ist sich in der Gesundheitswelt gefühlt niemand mit irgendwem einig. Wenn ihr jemals nach einem Nahrungsergänzungsmittel gegoogelt habt, werdet ihr so viele verschiedene Meinungen zu den erwarteten Vorteilen lesen, dass ihr am Ende verwirrter seid als zuvor. Aber dieses Problem werdet ihr mit dem Longevity Mix von Blueprint nicht haben. Blueprint basiert auf wissenschaftlichen Erkenntnissen, das Rätselraten hat also ein Ende. Jede Zutat verdient ihren Platz durch populationsbasierte Forschung und Praxistests, nicht durch das, was gerade auf TikTok trendet. Statt eines ganzen Schranks voller Pillen gibt es bei Blueprint: ein Löffel, Wasser, mischen, fertig. Dieser eine Löffel unterstützt Energie, kognitive Leistungsfähigkeit, Stimmung, Fokus, Schlaf, zelluläre Widerstandskraft und gesundes Altern. Er enthält Inhaltsstoffe wie Magnesium, Taurin, Glycin, Kreatin und mehr. Blueprint wird zudem von Dritten auf Reinheit und Toxine wie Schwermetalle getestet, und die Ergebnisse werden auf der Website veröffentlicht, sodass ihr genau seht, was drin ist. Blueprint bietet nicht nur den Longevity Mix, sondern auch essentielle Kapseln, Olivenöl mit hohem Polyphenolgehalt, Omega-3, Kollagenpeptide und mehr. Das ist wissenschaftlich fundiert, präzise dosiert, ohne Bullshit. Nur für kurze Zeit erhalten Neukunden 20 % Rabatt plus kostenlosen Versand unter blueprint.bryanjohnson.com – der Link ist in der Beschreibung unten –, wenn sie beim Checkout den Code JULIAN eingeben. Das ist der Code JULIAN auf blueprint.bryanjohnson.com, Link in der Beschreibung unten, für 20 % Rabatt. Nach dem Kauf werdet ihr gefragt, woher ihr von ihnen erfahren habt. Bitte unterstützt unsere Show und sagt ihnen, dass ich euch geschickt habe.

Lee Cronin: Wenn wir KI-Tools nutzen, um uns beim kritischen Denken zu helfen, um Dinge zu verifizieren... Die aktuellen KIs waren in ihrer klassischen Ausbildung nicht besonders gut darin, fehlerfrei zu sein, aber sie werden darin besser, weil man ihnen sagen kann: „Hey, durchsuche die Fachliteratur und prüfe, ob das wirklich passiert ist, und hilf mir dabei, ein bestimmtes Argument zu stützen oder zu widerlegen, und unterstütze mich dabei, dieses Argument so objektiv wie möglich zu formulieren.“ Denn wenn nichts anderes, könnten diese KIs es dir ermöglichen, Einzelunterricht zu erhalten. Sie haben unendlich viel Zeit und unendliche Geduld, wenn man sie richtig einsetzt. Man kann natürlich alles falsch einsetzen – ich äußere hier also wild widersprüchliche Dinge: starke Meinungen, die man locker vertritt.

Host: Ja, absolut.

Lee Cronin: Die Doomer erfüllen einen sehr guten Zweck, aber ich frage mich nur, ob sie uns nicht eigentlich helfen könnten, indem sie ihre Untergangspanik auf die echten Probleme lenken, mit denen wir uns befassen müssen – wie etwa böswillige Akteure, die diese Systeme missbrauchen.

Host: Richtig. Nun, das ist genau der Punkt, den ich mir bei dem Szenario denke, das du gerade malst. Auf dem Papier würde das Sinn ergeben. Aber wenn diese verschiedenen Plattformen tatsächlich positiv sein und helfen sollen, kritisches Denken zu lehren, damit eine Person das selbst anwenden kann, dann wäre meiner Ansicht nach eine Grundvoraussetzung für die gesamte Menschheit: Ihr müsst den gesamten Code zu jeder Zeit als Open Source veröffentlichen. Denn man muss sicherstellen, dass nicht irgendwelche Menschen stillschweigend ihre eigenen kleinen Meinungen in die Programmierung des KI-Organismus einfließen lassen, der uns letztlich das Denken beibringen soll.

Lee Cronin: KI-Organismen sind kybernetische Organismen. Sie sind die Kombination aus menschlichen Programmierern und dem Modell, die Hand in Hand arbeiten. Ich sage sehr gerne: Die Sentience in der KI stammt von den Menschen. Das ist wirklich das schöne Geheimnis, über das wir sprechen können. Aber schauen wir hin: Ich bin absolut unqualifiziert zu beurteilen, was die Modelle tun, weil ich sie nicht baue – beziehungsweise ich baue Modelle basierend auf Daten und sehr einfachen Lernalgorithmen und Systemen, weil ich ein First-Principles-Verständnis (Erstes-Prinzipien-Verständnis) davon brauche. Und wenn ich es nicht verstehen kann, implementiere ich es in der Regel auch nicht. Der Grund dafür ist, dass ich verstehen muss, was das Modell tut. Viele dieser Modelle haben zahlreiche Meta-Ebenen. Es ist ein bisschen so, als würdest du dich mit jemandem unterhalten, denkst, er versteht dich, aber in seinem Kopf existieren völlig andere Bilder. Ihr beendet das Gespräch, er geht weg und tut etwas völlig anderes, als du erwartet hättest – und umgekehrt. Du musst diese Systeme also irgendwie verankern und konzeptionell verstehen, was in der Wissenschaft vor sich geht. Das ist extrem wichtig. Die einzige Ausnahme, die ich bei KI mache – meine strikten Grenzen sind: KIs sind nicht intelligent.

Host: Sie sind nicht intelligent.

Lee Cronin: Sie sind nicht intelligent. Sie sind nicht intelligent.

Host: Wie definierst du Intelligenz?

Lee Cronin: Ja, das ist die einzig sinnvolle Frage, denn die Leute reden über KI, AGI und Superintelligenz. Was zur Hölle ist Superintelligenz? Ist Superintelligenz so eine Art Magie, die ich nicht verstehe? Was ist Intelligenz, und was ist Artificial General Intelligence (AGI)? Gehen wir ganz an den Anfang zurück. Ich habe dazu sehr feste Positionen, die meiner Meinung nach Bestand haben werden. Intelligenz definiere ich als die Eigenschaft einer Entität, Probleme zu lösen, die das Überleben dieser Entität sichern. Das ist also wie in der Biologie. Eine allgemeine Intelligenz (General Intelligence) wäre demnach eine Entität, die fast jedes auf sie einströmende Problem lösen kann, um zu überleben. Man könnte sagen: Deine Entität ist wirklich gut in Mathematik. Und die Leute werden entgegnen: „Nun, KIs sind gut in Mathematik und lösen Probleme.“ Aber was wir hier tun, ist folgendes: KIs sind sehr gut darin, einen Prompt – ein Problem, das du ihnen gibst – entgegenzunehmen und zu sagen: „Bitte, wenn du diesen Datensatz hast, hilf mir, ihn zu durchleuchten und Ergebnisse zu liefern.“ Womit ich im Moment spiele, ist der Versuch, mich konstruktiv mit Menschen darüber auszutauschen, was wir unter Intelligenz verstehen. Intelligenz ist etwas sehr Interessantes, und ich sage dir: Wir wissen noch immer nicht, wie man sie definiert oder misst. Ich arbeite an einem Problem – einem Schattenproblem, für das ich absolut unqualifiziert bin, oder am Ende vielleicht doch genau der Richtige –, um einen Versuch zu wagen, sie zu messen. Und ich lasse mich stark davon inspirieren, in die Wissenschaftsgeschichte zurückzublicken und Brüche in Problemen zu untersuchen. Mein Lieblingsbeispiel dafür ist das Konzept der Temperatur.

Was LLMs über die menschliche Kognition verraten

Lee Cronin: Früher wussten wir – oder bei der Schwerkraft ähnlich, aber nehmen wir die Temperatur –, dass Dinge heiß oder kalt sind. Aber was bedeutet das? „Oh, das ist heiß. Oh, das ist kalt.“ Wir wussten nicht wirklich, wie man Temperatur misst. Wir wussten nur, dass manches heiß und manches kalt ist. Erst als Wissenschaftler und Technologen sagten: „Gut, was müssen wir tun? Wir müssen Temperatur messen!“, änderte sich das. Wie misst man heute Temperatur? In den guten alten Zeiten hatte man ein Thermometer. Das Thermometer konnte eine Reihe verschiedener Flüssigkeiten enthalten. Man will eine Flüssigkeit, die sich bei steigender Temperatur ausdehnt und idealerweise eine lineare Beziehung aufweist – sei es Quecksilber oder Alkohol. Um diese Ausdehnung zu nutzen, gehen wir zurück: Zuerst wussten wir, dass Dinge heiß und kalt sind, aber wir hatten keine Skala. Wie bekommen wir eine Skala? Nun, wir stellten fest, dass sich Flüssigkeiten bei Hitze ausdehnen und bei Kälte zusammenziehen. Großerartig. Also bauen wir ein System, mit dem wir die Ausdehnung von Flüssigkeit messen können. Welche Technologie ist dafür erforderlich? Nun, wir brauchen Glas. Und welche Eigenschaft muss dieses Glas haben? Das Glas muss absolut gleichmäßig sein. Wenn es dick, dünn, wellig oder dreieckig geformt ist, funktioniert das nicht. Man brauchte also ein perfekt gefertigtes Rohr, dessen Wände parallel verliefen, einen perfekten Zylinder – oder eben so perfekt wie möglich. Damals gab es in Italien Glasbläser, die das Kunsthandwerk des Röhren-Glasbläsens perfektioniert hatten. Plötzlich konnten sie diese Röhren blasen, füllten Alkohol hinein und konnten überall die Temperatur messen. Plötzlich hieß es: „Oh, hier fühlt sich’s kalt an, wir bringen diese Temperatur in die Antarktis.“ Und natürlich haben die Amerikaner Fahrenheit. Woher auch immer ihr Fahrenheit habt.

Host: Ich mag Fahrenheit viel lieber. Es hat mehr Einheiten. Ein Sprung um 1 Grad Celsius ist ein Sprung, aber wenn es von 82 auf 83 geht, trage ich genau dasselbe.

Lee Cronin: Da liegst du falsch, gib einfach auf, bitte. Nun, es gibt diese Temperaturskala, die absolute Skala, die Kelvin-Skala. 1 Grad Kelvin entspricht genau 1 Grad Celsius, nur dass sie bei minus 273,schlagmichtot beginnt. Das bedeutet, 0 Kelvin ist die niedrigste Temperatur, die man erreichen kann. Kälter als 0 K geht nicht. Tatsächlich kann man 0 K nirgendwo auf der Erde erreichen. Wir haben zwar extrem gute Systeme gebaut, die dem absoluten Nullpunkt sehr nahe kommen, aber das würde bedeuten, dass sich Moleküle am absoluten Nullpunkt überhaupt nicht mehr bewegen. Sie würden nicht einmal mehr vibrieren, sondern völlig stillstehen. Wie auch immer: Das Brillante an der Temperatur ist, dass Technologie entwickelt wurde, um sie zu messen. Wir wussten vorher auch schon, was heiß und kalt ist, aber wir verstanden nicht ganz, was es bedeutet. Bei der Intelligenz haben wir das Problem mit der menschlichen Kognition, der Psychologie, IQ-Tests und all dem Zeug. Und wir haben Leute, die behaupten: „Diese KI wird jedes menschliche Problem lösen.“ Sie missverstehen völlig, was Intelligenz ist. Einem Algorithmus eine Reihe von Abfragen zu geben, um einen Mathetest zu lösen, ist nicht dasselbe wie ein Mensch, der ein noch nie zuvor gesehenes Problem löst. Und Intelligenz ist tatsächlich die Fähigkeit, ein unvorhergesehenes Problem zu lösen. „Unvorhergesehen“ ist schwer, richtig? Wenn es nicht in meinen Trainingsdaten ist, kann ich es nicht lösen. Aber wenn ich das Problem erst einmal habe und gelöst habe, kann ich darauf trainieren.

Host: Vereinfache ich das jetzt extrem, wenn ich das in die Schublade stecke: Du sagst im Grunde Logik versus die Fähigkeit zur Kreativität?

Lee Cronin: Computer sind ziemlich gut darin, Logik anzuwenden, wenn man sie richtig codiert. Es gibt dafür gute Programmiersprachen, und sie können viele Dinge tun. Nein, was ich sage, ist etwas extrem Konkretes: Intelligenz ist etwas, das wir bisher weder definieren noch messen können. Und ich dachte mir, als kleines Hobby, weil ich im Grunde gelangweilt bin und nicht genug Arbeit habe –

Host: Du bist gelangweilt.

Lee Cronin: Ich bin weit davon entfernt, gelangweilt zu sein, und viel zu beschäftigt. Aber irgendjemand muss sich dieser Sache eben annehmen.

Host: Leute, falls ihr noch nicht abonniert habt, drückt bitte diesen Abonnieren-Button. Das ist eine riesige, riesige Hilfe. Danke.

Lee Cronin: Und natürlich bin ich absolut unqualifiziert, also wird mich das vielleicht... ich bin fast fertig damit, es ist also gar nicht so schwer.

Host: Ja, du bist so beschäftigt, dass du nicht mal deine Kleidung wechselst.

Lee Cronin: Ich habe heute 12 verschiedene rosa Hemden im Einsatz.

Host: Alles klar, ich werde da wohl mal ein Beweisstück sehen müssen, denn das sieht verdammt nach demselben Hemd aus wie beim letzten Mal.

Lee Cronin: Wahrscheinlich. Du kannst es überprüfen. Vielleicht hatte das andere einen breiteren Kragen, diese hier haben einen schmaleren. Das Schöne ist, ich habe keine kognitive Belastung beim Anziehen – es ist einfach immer rosa. Es ist ein bisschen wie bei Mark Zuckerberg, der trägt glaube ich auch nur graue Shirts.

Host: Ist er nicht inzwischen fashion-mäßig unterwegs? Er trägt doch ständig irgendwelche Ketten und –

Lee Cronin: Keine Ahnung, ich bin kein Milliardär. Nur ein armer Schlucker.

Host: Hey, du hast gerade mal eben 70 Millionen Dollar eingesammelt, ich will das Gejammer nicht hören.

Lee Cronin: Klar, aber das Geld habe ich eingesammelt, um die Welt in der Chemie zu verändern, nicht um meinen Kleiderschrank zu sortieren. Stimmt. Aber kehren wir zur Messung von Intelligenz zurück, denn ich möchte mich daran festbeißen. Man kann Temperatur messen, deshalb haben wir eine Skala. Das haben wir geschafft. Bei der Intelligenz wissen wir nicht einmal, was sie ist. Wir haben die IQ-Debatte, wir haben die damit verknüpfte Rassen-Debatte, die im Raum steht, und auch die Genetik-Debatte, was alles ziemlich verrückt ist, weil Psychologen und kognitive Psychologen völlig verwirrt sind. Und jetzt verwechseln die Leute die Tatsache, dass KI in bestimmten Dingen gut wird, mit echter Intelligenz. Elon behauptet ständig: „Oh, die KI Grok wird auf all diesen Gebieten sofort ein PhD-Level erreichen, und deshalb braucht man keine PhDs mehr.“ Das ist ein so fundamentaler Irrtum.

Warum? Weil ein PhD... Lass mich erklären, wie KIs im Moment funktionieren, und hoffentlich überzeuge ich dich und per Extension jeden, der das hier hört oder sieht. Die heutigen KIs tun folgendes: Man nimmt eine Menge Daten. Man nimmt diese Daten und trainiert ein Modell. Dieses Modell wird in der Lage sein, dir zu sagen, was in diesen Daten enthalten ist, und Beziehungen darin zu finden. Großartig. Wenn alle in der Vergangenheit gelösten Probleme in diesem Datensatz erfasst sind, kann die KI ein Problem lösen, das in der Vergangenheit schon einmal gelöst wurde, wenn man es ihr vorlegt. Das ist keine Intelligenz; das ist unglaubliches Abrufen und Behalten (Retrieval and Retention).

Host: Exakt.

Lee Cronin: Und manchmal sind KIs darin nicht mal besonders gut, weil sie halluzinieren. Aufgrund der Art und Weise, wie die Strukturen mancher Modelle aufgebaut sind, halluzinieren sie. Und weil sie dir zwingend eine Antwort geben müssen, sind die Top-KI-Anbieter sehr gut darin, ein Kontrollsystem einzubauen. Sie sagen: Das Modell spuckt eine Antwort aus, und die überprüfen wir. Wenn du zu ChatGPT gehst und eine Berechnung anforderst, hat es das früher einfach rein über das Modell abgerufen. Natürlich lag das Modell dabei oft falsch, weil die Trainingsdaten im Internet von Menschen stammen, und es spuckte einfach eine zufällige Zahl aus. Aber heute heißt es: „Oh, ich erkenne das als Rechenaufgabe. Lass mich mein Taschenrechner-Tool öffnen, die Tasten drücken und das korrekte Ergebnis holen.“ KIs werden mit gigantischen Datenmengen trainiert, und all die Probleme, die wir als Menschheit bis heute gelöst haben, stecken darin. Das ist potenziell fantastisch. Aber ein promovierter Wissenschaftler, ein Mathematiker – da geht es nicht darum, die Vergangenheit zu verstehen (auch darauf werden sie trainiert), sondern darum, die wissenschaftliche Methode anzuwenden, um Probleme zu lösen. Immer wenn man der KI ein neues Problem vorlegt, das nicht in ihrem Datensatz enthalten ist, kann sie es nicht lösen.

Host: Aber was, wenn sie über genügend Daten und Speicherfähigkeit verfügt, um all die Dinge der Welt simultan zu halten – was ein Mensch nicht kann –, sodass sie Anomalien oder Lücken findet und diese schneller schließt, als ein Mensch es jemals könnte? Wie ist das nicht intelligent?

Lee Cronin: Noch einmal: Wir müssen Intelligenz definieren. Ich würde das als extrem nützlich bezeichnen. Mein Taschenrechner ist extrem nützlich. Es wurden viele nützliche Werkzeuge gebaut, die es mir als Entität mit Menschenrechten ermöglichen, Dinge zu tun. Aber Einstein mit einem Bleistift war viel intelligenter als Einstein ohne Bleistift, weil er Papier und Bleistift zum Denken nutzen konnte. Es ist fast wie eine kybernetische Sache. Wir verstricken uns also in diesen Zirkelschlüssen: Sind KIs intelligent, haben sie einen freien Willen, sind sie sentient? Intelligente Entitäten können Probleme lösen und wollen in der Zeit fortbestehen; das nennt man Biologie. Ich würde sagen, Intelligenz ist eine Eigenschaft, die absolut biologischen Organismen vorbehalten ist. Was sind KIs im Moment? Man könnte sie vielleicht als „augmentierte Informatik“ (augmented informatics) bezeichnen.

Host: Augmentierte Informatik. Das ist ein langes Wort, Lee.

Lee Cronin: Ich weiß, es klingt nicht so gut wie KI, oder? Künstliche Intelligenz klingt großartig. KIs sind keine Magie. Sie sind unglaubliche Modelle. Tatsächlich enthüllen sie Dinge über menschliche Sprache und Kognition, die wir so nicht erwartet haben. Wenn du eine KI in einer bestimmten Sprache trainierst und sie dann in einer anderen Sprache trainierst und dir die Repräsentationen dieser Entitäten anschaust – sagen wir „König“ oder „Königin“, oder „Ziegelstein und Zement“ –, dann besetzen sie einen Raum, der präligual ist, also konzeptuell. Es gibt eine mathematische Repräsentation jenseits der Sprache in einem Raum, was wirklich interessant ist, aber nicht allzu überraschend, da Menschen Sprache nutzen, um Konzepte darzustellen. Wenn ich also Spanisch nehme und Spanisch destilliere, um Liebe und Hass, heiß und kalt, oben und unten zu finden, und sie in einem Raum plotte, und dasselbe mit Englisch mache und sie übereinanderlege, liegen sie sehr nah beieinander. Deshalb sind KI-Übersetzungstools so genial.

Host: Ja.

Lee Cronin: Ich habe Deutsch gelernt; ich bin heute nicht mehr sehr gut darin, aber es gibt ein tolles deutsches Wort: „gemütlich“.

Host: Gemütlich.

Lee Cronin: Gemütlich, was frei als „cozy“ ins Englische übersetzt wird. Du gehst an einem windigen Winterabend in einen Pub in Großbritannien, es ist draußen kalt, es brennt ein schönes Kaminfeuer und es gibt Bier, und du denkst: „Oh, das ist cozy. Schön.“ Die Deutschen haben diesen Begriff, aber er lässt sich nicht perfekt übersetzen – es ist eine andere Art von Wort. Es gibt also kulturelle Repräsentationen. Die Inuits haben viele Ausdrücke für Schnee, weil sie viel in der Kälte leben müssen. Aber kehren wir noch einmal zurück: Was ist Intelligenz? Wir wissen es nicht. Können wir sie messen? Wir haben kein Messverfahren. Wir wissen, was Temperatur ist. Diese KI-Werkzeuge sind in der Lage, sehr wichtige, sehr interessante Dinge zu tun; sie können viele Aufgaben automatisieren.

KI prognostiziert, Menschen KREIEREN

Lee Cronin: Aber ich werde eine Aussage treffen, auf die ich immer wieder zurückkommen werde: Die KI weiß nur das, worauf sie trainiert wurde. Und wenn etwas in diesen Daten eingebettet ist und du es korrekt abfragst, kannst du es herausholen, was großartig ist. Und KIs zeigen, dass es im menschlichen Wissen eine enorme Menge an Erkenntnissen gibt, die wir im Internet bisher nicht explizit gefunden hatten, die wir aber herausziehen können.

Host: Aber kann sie nicht die Art und Weise nutzen, wie Menschen über die Zeit hinweg Abfragen stellen und argumentieren, um Muster zusammenzustellen und vorherzusagen, wie sie in Zukunft Abfragen stellen werden – und damit den Menschen eventuell überholen, bevor wir überhaupt begreifen, wie uns geschieht?

Lee Cronin: Ich verstehe den Satz bis zu dem Teil mit dem „Überholen der Menschen“ nicht.

Host: Weil sie alles mustern können – lass mich ein Beispiel geben, weil es ein wenig komplex ist. Wenn ich mit einer KI spreche und 100 andere Leute aus der Bevölkerung ebenfalls mit einer KI sprechen, und wir alle versuchen, etwas über Farbe herauszufinden, und wir stellen all diese Fragen über verschiedene Farben und wie man einen Raum streicht oder was auch immer: Die Art und Weise, wie ich Fragen stelle, ist eine Abfragesequenz. Selbst wenn sie der einer anderen Person sehr ähnelt, mag die Formulierung anders sein oder mich ein ganz bestimmtes Detail interessieren. Aber die KI sammelt im Großvolumen und in großem Maßstab all diese verschiedenen Arten von Abfragen, sodass die KI ihre gesamte Rechenleistung nutzen kann, um ein Muster in dem zu erkennen, was alle sagen, und um vorherzusagen, wie die optimalen Fragen tatsächlich aussehen könnten. Auf diese Weise – so sehe ich das – könnte sie den Menschen überholen. Sie läuft uns gewissermaßen den Rang ab (Front-Running).

Lee Cronin: Nein, das ist nicht das, was passiert.

Host: Danke für die Aufklärung.

Lee Cronin: Es gibt hier einen Trugschluss, der super interessant ist. Und noch mal: Ich irre mich diesbezüglich gerne, aber ich möchte das mit Daten belegen. KIs sind Vorhersagemaschinen; Menschen sind Kreationsmaschinen. Wenn die Schöpfungen eher oberflächlich sind, ist die KI großartig darin, sie zu finden. Wenn du all diese Erdős-Probleme oder mathematischen Wege nimmst, die KIs lösen, indem sie bestimmte Vermutungen widerlegen – KIs sind sehr gut darin, Dinge zu widerlegen, indem sie ein Gegenbeispiel finden. Aber eine KI hat noch nie einen einzigen kreativen mathematischen Akt vollbracht. Sie hat noch nie einen einzigen kreativen wissenschaftlichen Akt vollbracht. Nun, die Leute werden darüber streiten wollen. Ich möchte diesen Streit an dieser Stelle abkürzen, weil er verdeckt, worin KIs wirklich gut sind. In den letzten anderthalb Jahren haben KIs meine Fähigkeit zur Kreativität enorm beschleunigt, weil ich meine Zeit nicht mehr mit dem Schreiben von Code, dem Sammeln von Daten und dem Verarbeiten von Dingen verschwenden muss. Darin sind KIs glänzend. Sie sind wirklich großartig, aber was sie nicht können, ist: Sie können nicht erschaffen. Sie können so tun, als würden sie erschaffen, und diese Schöpfungen sind relativ oberflächlich.

Intelligenz würde ich an der Fähigkeit messen, unvorhergesehene Probleme zu lösen. KIs sind in der Lage, Probleme zu lösen, die gesehen wurden oder in ihren Daten eingebettet sind. KIs können neue Dinge tun, ja, aber sie können keine neuartigen (novel) Dinge tun. Die Frage lautet also: Was ist der Unterschied zwischen neu (new) und neuartig (novel)? „Neu“ ist etwas, das du aus deinem Datensatz gewinnen kannst; es ist lediglich eine Kombination von Dingen, es ist ziemlich oberflächlich. Du kannst in deinem Datensatz nach etwas Neuem suchen und es am Ende finden. Wenn die KI also etwas tut und du rufst: „Oh, wie spannend!“, wirst du feststellen, dass es einfach neu ist und vollständig in den Daten steckt. Menschen sind jedoch in der Lage, etwas zu tun, das ich als „neuartig“ bezeichne, und Neuartigkeit ist dadurch definiert, dass sie prinzipiell unvorhersehbar ist und nicht in den Daten steckt. Mode und Musik sind rein menschlich. Du wirst nicht wissen, was Menschen als Nächstes tun werden. Du lädst mich vielleicht eines Tages wieder in deinen Podcast ein, und ich tauche in einer Farbe auf, die du nicht erwartet hast. Ist das neu oder neuartig?

Host: Nun, es ist neuartig, weil du in den bisherigen Daten immer nur Rosa getragen hast.

Lee Cronin: Richtig, die KI würde mich einfach in diesem Anzug darstellen. Wenn ich also in Türkis oder was auch immer auftauche, würdest du sagen: Das ist neuartig. Aber hier wird uns einiges falsch verkauft, weil wir versuchen, KI als intelligent zu verkaufen, die PhDs und alles andere ersetzen wird.

Host: Mhm.

Lee Cronin: Menschen werden KIs nutzen, um ihre kognitiven Fähigkeiten massiv zu entfalten, aber nicht, um sie zu ersetzen. Da irren sich alle. Wird KI die Wissenschaft ersetzen? Nein, wird sie nicht, denn Wissenschaft dreht sich um das Lösen von Problemen.

Host: Nun, du hast vor ein paar Minuten einen Punkt gemacht, und ich fasse es nicht, dass ich das nie so einfach gesehen habe. Es ist wie der offensichtlichste Blick aus 10.000 Metern Höhe. Wir reden seit dem letzten Jahrzehnt intensiv über diese KI-Krise, vor allem aber in den letzten drei Jahren, in denen jeder LLMs nutzt. Aber sie haben noch kein eigenes E=mc² oder etwas Ähnliches hervorgebracht, was deinen Punkt im Grunde untermauert. Sie haben nicht die Gesetze der Quantenphysik entschlüsselt – ich sage das jetzt einfach mal so –, also all diese Dinge, die Wissenschaftler jeden Tag aufs Neue zu testen versuchen. Daher haben sie nicht nur die hochkarätigsten Köpfe wie dich nicht ersetzt, sondern bis heute technisch gesehen auch die Wissenschaft in keiner Weise ersetzt.

Lee Cronin: Leute haben KI genutzt, um sehr gute neue Ideen für die Entwicklung neuer Medikamente, das Protein folding (Proteinfaltung) und das Lösen einiger physikalischer Probleme zu finden. Aber diese Probleme waren bereits von Menschen für die Datenverarbeitung wohl definiert. KIs sind also ein großartiges Werkzeug. Sie sind ein Werkzeug. Es passiert gerade etwas sehr Interessantes auf soziologischer und kultureller Ebene: Wir haben das Problem, dass Leute behaupten, KI-Labore bräuchten viel Geld, viel Infrastruktur, viel Energie. Und in der akademischen Welt gibt es diesen politischen Druck gegen die Universitäten: Die Uni sei voller linker Leute, die nicht kritisch denken, alle woke sind und so weiter, weshalb man die gesamte Wissenschaft einfach durch KI ersetzen sollte. Das ist auf allen Ebenen ein derartiger Fehlschlag. Klar, die Wissenschaft hat Probleme, Ideologien sind überall. Aber da die Entwickler von KI nicht wissen, was Wissenschaft ist – sie tun es schlicht nicht, sie bestehen heute aus Informatikern und Mathematikern. Und das soll keine Arroganz sein, aber das Lösen wissenschaftlicher Probleme in einem Nasslabor (Wet Lab) – sei es in der Biologie, Chemie, Physik oder im Maschinenbau – ist etwas sehr Viszerales, und es erfordert Schöpferkraft. So wie der Fliehkraftregler bei einer Dampfmaschine: Jemand dachte sich: „Verdammt, ich muss sicherstellen, dass der Kessel nicht explodiert, also muss ich Zeug bauen.“ Wir interagieren mit der Welt.

Jetzt baue ich ein Weltmodell für Chemie. Was bedeutet das? Nun, ich lerne einfach alle chemischen Reaktionen, indem ich sie durchführe, und wenn ich sie einmal gelernt habe, bin ich in der Lage, jedes Molekül herzustellen. Das ist ziemlich cool, aber da ist keine Magie im Spiel. Ich muss die Daten sammeln, ich muss einen verifizierbaren Prozess haben, und dann muss ich ihn ausführen können. Die Wissenschaft war noch nie an einem so aufregenden Punkt. Es ist nur schade, dass wir gleichzeitig diesen Kulturkampf austragen, weil wir eine Entscheidung treffen müssen: Wollen wir all dieses Geld für GPUs, CPUs, Wasser, Energie und so weiter ausgeben, um Daten zu verarbeiten und Produkte auszuspucken, oder wollen wir das Geld auch dafür ausgeben, dass Menschen das tun? Was kostet es eigentlich, einen Menschen hervorzubringen, der ein Problem lösen kann, für das du ChatGPT benutzt? Da ist keine Magie. Wenn ich einen Menschen durch ChatGPT ersetzen will, kann ich das tun – aber was ist der Preis? Und draußen steht der Mensch, der nun keinen Job mehr hat. Vielleicht tut dieser Mensch dann etwas Interessanteres. Wir wissen immer noch nicht, was Intelligenz ist; wir haben sie nicht gemessen. Wir nutzen KIs, um sehr wichtige, sehr interessante Dinge in großem Maßstab und mit hoher Geschwindigkeit zu tun, aber das entwertet den Menschen nicht.

Host: Du hast am Anfang, als du das mit dem Intelligenzkreislauf erklärt hast, gesagt, es gibt drei Ebenen: Wir sprechen oft über Intelligenz, allgemeine Intelligenz (AGI) und dann Superintelligenz. Wenn ich dich richtig verstehe – weil wir nicht einmal die unterste Ebene messen können –, meinst du, dass es offenbar zehn Sprünge und einen Satz erfordert, um überhaupt zu den nächsten Ebenen zu gelangen.

Lee Cronin: Ja, ich denke, die KI-Anbieter – und ich mag die Produkte wirklich, sie sind großartig –

Host: Ich weiß ja nicht, was deine Brille angeht. Die hat vorhin irgendwelche Berechnungen angestellt. Du solltest das Ding vielleicht mal überprüfen.

Lee Cronin: Ich mache in deinem Podcast keine Produktwerbung. Das sind keine Meta-Brillen.

Host: Ja, aber Meta hat das verdammt noch mal richtig gemacht, nicht dass ich hier als Schiedsrichter für sie auftreten will.

Lee Cronin: Nein, sie haben funktioniert, es war einfach... wie auch immer. Gehen wir zurück. AGI: Viele Leute sagen, AGI sei der Begriff für etwas, das die meisten Aufgaben automatisieren kann. Ist das jetzt AGI (Artificial General Intelligence) oder ist es einfach ein „Artificial General Automator“ (allgemeiner Automatisierer)?

Warum AGI eigentlich nicht intelligent ist

Lee Cronin: Es wäre toll, wenn ich eine KI hätte, die meine E-Mails aufräumt. Tatsächlich benutze ich eine KI, um meine E-Mails aufzuräumen – ich nutze eine, die etwa 8 Jahre alt ist. Ich bin nämlich ein obsessiver E-Mails-Aufräumen-Mensch. Ich beantworte alle E-Mails, die ich beantworten will, und archiviere alles andere. Wenn neue Sachen reinkommen, gehen sie im Rauschen nicht unter. Ich erhalte jeden Tag so viele E-Mails, dass ich das unglaublich deprimierend finde, weil Dinge, die ich beantworten muss, im Lärm untergehen. Meine kognitive Bandbreite ist eben begrenzt. Eine AGI, über die die Frontier-Labore diskutieren, ist also buchstäblich eine Entität, die eine Reihe von Aufgaben erledigen kann. Löst sie allgemeine Probleme? Nein, dafür sind Menschen gut. Und vielleicht gibt es Jobs wie das Archivieren, die Menschen heute machen – aber unser Versagen in der menschlichen Gesellschaft auf dem Weg von der Schule über die Universität in den Job liegt vielleicht darin, dass wir Jobs schaffen müssen, die mehr Wert und Sinn stiften. Das können wir tun, und KI bietet dafür eine großartige Chance.

Kommen wir nun zur Superintelligenz. Nick Bostrom hat diesen Begriff erfunden.

Host: Ja, wir haben das beim letzten Mal kurz gestreift, aber sind nicht tief eingestiegen. Ich habe dieses ganze Buch gelesen.

Lee Cronin: Es bedeutet im Grunde einfach, sich Zeug auszudenken. Wenn man etwas nicht definieren kann und es als „super“ bezeichnet... ich meine, ich könnte ein „Super-Chemiker“ sein, aber was soll das heißen? Eine Superintelligenz wäre für mich etwas, das jenseits unseres aktuellen Verständnisses von Physik und Mathematik liegt – wie Magie. Auch diese Superintelligenz spielt mit der Vorstellung: „Oh, da könnte es diese Entität geben, die viel intelligenter ist als ich und mehr weiß.“ Was bedeutet das? Menschen sind in der Lage zu lernen, wie das Universum funktioniert; wir sind fähig, weit mehr zu verstehen, als uns die Evolution vermutlich mitgegeben hat. Nun behaupten die Doomer, diese Superintelligenz könnte verstehen, wie man Dinge tut, die im Grunde die Menschheit auslöschen oder eine Super-Waffe bauen. Nun, ich sehe dafür keinerlei Belege. Deshalb versuche ich, den Begriff Superintelligenz zu entzaubern, weil ich nicht weiß, was er bedeuten soll.

Nun könnte es drei verschiedene Dinge bedeuten: Erstens könnte es einfach ein schnelleres Denken sein. Klar, Schachcomputer spielen verdammt schnell Schach, das kaufe ich ihnen ab – aber warum es „super“ nennen, nenn es einfach „schnell“! Zweitens könnte es sein, dass das System in der Lage ist, eine Kette von Überlegungen zur Entscheidungstheorie durchzuspielen, und wenn ich diese Saat in Entscheidungen pflanze, kann ich Chaos erzeugen – so wie ich einen Markt stören kann, indem ich hier oder da ein Meme platze und plötzlich alle Aktien auf eine bestimmte Weise kaufen. Das könnte man tun, aber der Markt ist so verrauscht und Menschen verhalten sich so verdammt seltsam, dass das im Rauschen untergeht. Und drittens: Vielleicht kann die Entität plötzlich etwas völlig Neues erschaffen, das keinen Präzedenzfall hat. Nun, das haben wir noch nie gesehen. Du hast gerade selbst gesagt: Es gibt kein neues E=mc².

Das Problem innerhalb der KI – stellen wir uns einfach vor, wir reisen in die Zeit von Einstein zurück. Bei der speziellen Relativitätstheorie stellte Einstein im Grunde die Frage: Was passiert, wenn ich auf einem Lichtstrahl reite? Er begriff, dass die Lichtgeschwindigkeit das absolute Tempolimit im Universum ist; schneller als das Licht kann man sich nicht bewegen. Was folgt daraus in der allgemeinen Relativitätstheorie? Einstein sagte, dass Masse die Raumzeit krümmt und Dinge sich nicht auf geraden Linien bewegen, sondern durch die gekrümmte Raumzeit reisen. Cool. Wenn man die allgemeine Relativitätstheorie anwendet, kann man plötzlich folgendes überlegen: Wenn ich einen Satelliten in den Weltraum schieße, desto weiter er sich von der Erde entfernt, desto größer ist die Zeitabweichung der Atomuhr auf dem Satelliten im Vergleich zur Atomuhr auf der Erde. Und wenn dieser Satellit tatsächlich Signale mit seiner Uhr sendet und ich das mit meiner Uhr auf der Erde vergleiche und messe, kann ich das nutzen, um mich per GPS zu positionieren. Wir haben die allgemeine Relativitätstheorie verstanden, bevor wir Satelliten ins All geschossen haben, und als wir sie ins All schossen, verstanden wir den Mitnahmeeffekt (Frame-Dragging) und konnten GPS bauen. Halten wir diesen Gedanken fest: Wir haben Systeme gebaut, die Daten ununterbrochen verdichten und Beziehungen finden, und wir schreiben diesen Beziehungen Eigenschaften zu, die wir nicht verstehen, weil wir keine fundamentale Theorie der Intelligenz haben. Genauso – stell dir vor, wir hätten Satelliten ohne die allgemeine Relativitätstheorie ins All geschossen: Wir hätten völlig fassungslos dagestanden, weil sie Zeit verloren hätten, und hätten uns die wildesten Dinge ausgedacht, um das zu erklären. Die Frontier-Labore haben also unfähige... beziehungsweise unglaublich fähige Systeme geschaffen, die scheinbar schlussfolgern und Dinge tun, die wir vorher nicht vorhersehen konnten, und das liegt schlicht daran, dass wir keine gute Theorie der Intelligenz besitzen.

Host: Nun, mir gefällt deine Grundannahme, dass man zuerst etwas definiert, um es dann zu messen, wenn man es testet – wie Einstein mit Satelliten und GPS. Wenn ich auf das zurückblicke, was Bostrom ziemlich früh – gemessen an unserer jüngeren KI-Zeitleiste – geschrieben hat: So wie ich es immer gesehen habe, hat er eine Reihe von Entscheidungsbäumen erschaffen. Er hat Möglichkeiten skizziert. Und ich kaufe dir dein Argument ab, dass es dafür keine zugrundeliegende Definition gab, aber seine Entscheidungsbäume zeigten auf einer Skala von „Alles wird gut“ bis „Wir sind dem Untergang geweiht“ folgendes: Wenn dies eintrifft, dann passiert jenes; wenn jenes eintrifft, passiert das. Er entwarf all diese verschiedenen Welten, in denen man sehen konnte, wie Code außer Kontrolle gerät. Einige der von ihm beschriebenen Dinge – ich würde nicht so weit gehen zu sagen, diese KI sei sentient geworden, ich sage lediglich, sie wurde so programmiert, dass sie durch einen menschlichen Fehler etwas tut. Ein Beispiel war, dass sie unendlich viele Büroklammern herstellen und die gesamte Erdoberfläche mit Büroklammern bedecken und uns ertränken könnte. Wenn ich solche Dinge sehe, klingt das verrückt, aber gleichzeitig kann ich mir ein solches Szenario vorstellen, wenn – und das stützt eigentlich dein Argument – Menschen bei der Erstellung des Codes unverantwortlich handeln. Hältst du es also für nutzlos, wenn er Dinge aufzeigt, bei denen wir Fehler machen und die KI daraufhin Dinge tut, die uns das Genick brechen?

Lee Cronin: Die KI wird gar nichts tun. Die KI wird von Menschen programmiert. Alle Entscheidungen gehen vom Menschen aus. Das ist die Sache, die die Leute nicht verstehen. Und das ist einer der Gründe, warum ich das Ganze ziemlich faszinierend finde. Meine Forschung – warum ich ein Unternehmen gegründet habe, um ein Weltmodell für Chemie zu bauen und Medikamente sowie neue Dinge zu entdecken, warum ich im Grunde Motoren für die Chemie baue – zielt darauf ab, den Übergang zu verstehen, den wir von der Physik über die Chemie und Biologie hin zur Kognition oder Kultur vollziehen. Was passiert da eigentlich? Wir verstehen es nicht wirklich. Und mein Problem mit der Superintelligenz ist, dass sie einen Mechanismus voraussetzt, der schlicht nicht existiert. Du sagst, du siehst diesen Sprung: wenn das passiert, dann passiert jenes. Gut, dann sage ich: Ich habe Angst vor AG – Anti-Schwerkraft. Was ist AG? Nun, Anti-Schwerkraft ist eine Technologie, die, wenn ich sie baue, plötzlich die Schwerkraft ausschaltet, sodass wir alle davonchillen und sterben, weil wir nicht mehr an den Planeten gebunden sind, keinen Sauerstoff mehr haben und nichts. Soll ich ein Buch über Super-Anti-Schwerkraft schreiben, die eines Tages auftauchen könnte? Klar, ich könnte dir einen Entscheidungsbaum aufmalen: Wenn Anti-Schwerkraft, dann Schweben. Aber was ist der Mechanismus für die Anti-Schwerkraft? Ich habe mir einfach etwas ausgedacht. Wenn du etwas nicht definieren und den Mechanismus nicht verstehen kannst – Büroklammern, was für ein Blödsinn! Wenn du in einem Flugzeug über die Welt fliegst, ist der Großteil der Erde nicht mit Maschinen bedeckt; es sind leere Flächen, Felder, Wälder, Ozeane. Was für Büroklammern?

Host: Er hat ein völlig absurdes Beispiel gewählt.

Lee Cronin: Ja, aber es ist absolut absurd. Es hat keinerlei wissenschaftlichen Wert, es ist völlig losgelöst von der Realität. Das ist fantastischer Nonsens und Science-Fiction im schlechtesten Sinne, weil er es ruhig und plausibel vorträgt. Alle Denker, Nick und wir alle, haben die Pflicht, unsere eigenen Ideen kritisch zu hinterfragen. Wir verstehen nicht, was menschliches Bewusstsein, Sentience oder Entscheidungsfindung ist. Die Tatsache, dass die Leute in ein paar Jahren anfangen werden zu fordern, KI solle ihr eigenes Copyright besitzen, ist nur eine Ausrede für Leute, die im Grunde dein Copyright nehmen, in ein KI-Modell füttern und dann – um es mal ganz direkt zu sagen – erklären: „Oh ja, danke, liebes Unternehmen, dass du das Internet gelesen, mein geistiges Eigentum gestohlen, ein Modell trainiert und mein Eigentum dann an andere verkauft hast.“ Und dann kommen die KI-Befürworter und sagen: „Du kannst einfach nicht akzeptieren, dass die KI schlau ist.“ Und ich antworte: „Nein, sie hat einfach mein IP gestohlen! Sie hat buchstäblich meine Schöpfung gestohlen. Soll ich dein Haus stehlen? Ist das in Ordnung, weil die KI es gesagt hat?“ Nein. Es gibt drei Dinge: Wir verstehen nicht, was Intelligenz ist, wir verstehen nicht, was Kreativität ist, und wir verstehen nicht, was Neuartigkeit (Novelty) ist. Die Tatsache, dass wir diese drei Dinge nicht begreifen und sie völlig synonym verwenden... ich glaube, ich kann dir erklären, wie es wirklich funktioniert.

Der Drake/The Weeknd-KI-Song und Plagiat

Lee Cronin: Der Grund, warum alles berechenbar erscheint, ist folgender: Sobald etwas von der Welt erschaffen wurde, kann ich es etikettieren und in eine Datenbank stecken. Ich kann es zerlegen, aber das bedeutet nicht, dass ich die Zukunft zuverlässig vorhersagen kann. Ich kann das nächste Token vorhersagen. Und manchmal – wenn der Suchraum flach genug ist –, wird es für irgendeine Bewertung akzeptabel erscheinen. Aber was wir sehen werden, ist, dass das, was Menschen tun, quantitativ anders ist. Sie befinden sich in einem völlig anderen Universum als das, was wir mit Silizium-Rechenleistung tun, was großartig ist. Noch einmal: Ich glaube nicht, dass es etwas jenseits der Materie gibt; ich bin Materialist. Aber ähnlich wie Roger Penrose und meine Kollegin Sara Walker sowie viele andere wissen wir schlicht nicht, was diese Materie da eigentlich tut.

Host: Kannst du das näher erläutern? Was meinst du mit „wir wissen nicht, was sie tut“?

Lee Cronin: Ja, ich verstehe nicht, wie Materie in der Lage ist, Informationen in Raum und Zeit zu verarbeiten. Wir haben einige Modelle, aber es gibt so viel, was wir darüber nicht verstehen, wie Biologie aus Chemie entsteht, wie Evolution Biologie hervorbringt und wie Biologie wiederum Bewusstsein und Intelligenz erzeugt. Wir wissen es einfach nicht. Wir befinden uns in einer wunderbaren Zeit, in der wir all diese Werkzeuge und Daten haben, aber KI ist wirklich verdammt gut darin, die Vergangenheit vorherzusagen. Ich sage das noch einmal: KI ist am besten darin, die Vergangenheit vorherzusagen, weil sie die Vergangenheit besitzt. Um es genauer zu sagen: KI ist sehr gut darin, die Vergangenheit vorherzusagen, wenn sie auf einer treuen Repräsentation der Vergangenheit trainiert werden kann. Was sie nicht tun kann, ist die Zukunft vorhersagen, denn die Zukunft ist etwas anderes. Die Vergangenheit ist ein Wahrscheinlichkeitsraum (Probability Space); was passiert ist, daarüber kann man Wahrscheinlichkeiten betrachten. Die Zukunft ist ein Möglichkeitsraum (Possibility Space). Solange die Leute den Unterschied zwischen diesen beiden Dingen nicht verstehen, werden wir sie weiterhin verwechseln.

Host: Wie definierst du den Unterschied?

Lee Cronin: Ein Möglichkeitsraum ist etwas, das noch nicht passiert ist. Ein Wahrscheinlichkeitsraum ist etwas, das bereits passiert ist, denn ich kann keine Wahrscheinlichkeit auf etwas definieren, das noch gar nicht stattgefunden hat. Was meine ich damit? Wenn ich einen Würfel nehme und ihn werfe, weiß ich, dass ich eine Zahl von 1 bis 6 treffe. Ich weiß, dass das in der Vergangenheit schon oft passiert ist, ich kann mein eigenes Modell darauf trainieren. Aber ich könnte auf dem Papier einen Würfel erfinden, den du nicht vorhersehen kannst, und deshalb ist das eine Möglichkeit, keine Wahrscheinlichkeit. Solange wir den feinen Unterschied zwischen diesen beiden Dingen nicht begreifen, werden wir kontinuierlich missverstehen, was KIs eigentlich tun. Es gibt eine Menge Eigeninteresse und Geld, das in den Erhalt dieser Modelle gesteckt wird. Aber genau deshalb kann KI niemals Wissenschaft betreiben. KI ist ein Werkzeug, das ich nutzen kann, um Wissenschaft zu betreiben.

Host: Ja, sie ist keine Rakete; sie ist extrem guter Raketentreibstoff.

Lee Cronin: 99 % der Wissenschaftler werden mir widersprechen und behaupten, dass KI sehr wohl Wissenschaft betreibt, aber sie verstehen einfach nicht, was Wissenschaft ist. Wissenschaft ist die Fähigkeit, ein Problem zu identifizieren, eine Hypothese darüber aufzustellen, was vor sich geht, und ein Experiment zu entwerfen, um diese zu testen. Worin KIs sehr gut sind, ist das Durchführen von Experimenten. Aber alles, was promovierte Forscher tun, ist das Zusammenstellen von Problemstellungen. Genau deshalb ist es so nervig, einen PhD zu machen. Einige meiner Doktoranden fragen mich: „Warum zwingst du mich, auf diese verrückte Art zu denken?“ Aber es ist extrem schwer, ein Problem oder eine Anomalie zu identifizieren. Viele glauben, KIs können das. Tun sie aber nicht. KIs tun etwas sehr Oberflächliches. Sie können Anomalien identifizieren, indem sie große Datensätze durchforsten und ein Loch finden, aber das ist nicht dasselbe.

Host: Wieso ist das nicht dasselbe?

Lee Cronin: Das eine ist das Kehrbild des anderen. Du kannst KI nutzen, um – nimm diesen Datensatz, bei dem ich das Experiment bereits definiert habe, und finde eine Anomalie darin. Das ist großartig, aber das Experiment habe ich bereits definiert. Was die KI nicht tun kann, ist, einen völlig neuen Satz von Experimenten zu definieren. Sie wird immer Experimente definieren, die auf dem basieren, was sie bereits kennt. Die Vorstellung, dass KIs Wissenschaft betreiben, ist eine große Illusion. Neulich habe ich eine KI benutzt, um eine Simulation zum Ursprung des Lebens mithilfe der Assembly Theory zu schreiben. Ich sagte: „Hey, das möchte ich, dass du tust: Hier ist mein Assembly-Theory-Rechner für Moleküle, lass uns eine Menge zufälliger Moleküle generieren und sie miteinander verknüpfen.“ Und im Grunde macht sie das ziemlich gut. Sie nutzt ein paar Toolkits von GitHub, kombiniert sie mit dem Code und generiert einen Simulator. Aber sie generierte zufällige Moleküle, die absolut geisteskrank und instabil waren. Ich sagte: „Nein, tu das nicht, nimm das raus, nimm jenes raus“ und fügte Einschränkungen hinzu. Ich habe das Ganze nach meinem Geschmack kuratiert.

Host: Richtig, du musstest es korrigieren.

Lee Cronin: Es entsprach meinem Geschmack. Ich kam mir vor wie ein Musikproduzent: „Das klang nicht gut, das ändere ich.“ Viele der technischen Aspekte in der Wissenschaft wird die KI ersetzen, und wir müssen Menschen darin ausführen, diese Tools zu nutzen. Aber wir dürfen KI nicht dazu verwenden, langweilige Pseudo-Wissenschaft zu betreiben und so zu tun, als sei es echte Forschung. Wenn die KI anfängt, neue Theorien hervorzubringen, Quantengravitation zu erklären oder etwas zu erfinden, das wir uns niemals hätten vorstellen können, dann werde ich darauf aufmerksam werden. Stand heute, August 2026, sind siliziumbasierte Computer, wie wir sie kennen, nicht fähig, Neuartigkeit (Novelty) zu erzeugen. Das bedeutet nicht, dass wir keine Maschine bauen werden, die in der Lage ist, über die uns bekannte Berechnung hinauszuwachsen.

Host: Willst du damit sagen, dass wir etwas erschaffen könnten, das wir im Moment gar nicht als KI bezeichnen würden?

Lee Cronin: Sicher. Wenn du ein Gehirn erschaffen willst, gibt es den altmodischen Weg: Ich habe zwei Gehirne erschaffen, eines ist 20 und das andere wurde diese Woche 18 Jahre alt – meine beiden Jungs. Und die wurden auch durch die darwinistische Evolution erschaffen, die bis zu LUCA zurückreicht. Ich muss erst Leben in einem Labor erschaffen, bevor ich Bewusstsein verstehen kann. Wahrscheinlich gibt es keinen anderen Weg dorthin. Wir machen einen massiven Sprung, und vielleicht treten wir in ein neues wissenschaftliches dunkles Zeitalter ein – wie das Mittelalter –, in dem kreative Wissenschaft ins Stocken gerät, weil die Radikalisierung der Wissenschaft hin zur reinen Produktion von Outputs und Papern durch die Decke geht. Jeder wird LLMs nutzen, um Paper zu schreiben, LLMs nutzen, um die Paper zu bewerten, LLMs nutzen, um Grants zu schreiben, und LLMs nutzen, um die Grants zu bewerten. Und wer wird dann noch den Geschmack (den Sinn für Qualität) haben? Dann wird Bostroms Vorhersage über die Büroklammern wahr werden – nur eben in der wissenschaftlichen Welt, und die Büroklammern bestehen dann aus Papern und Förderanträgen.

Host: Nun, das ist schon ein Stück weit weg von dem, was er meinte, aber –

Lee Cronin: Dasselbe in grün! Was passierte bei der Erfindung der Druckerpresse? Alle sagten, sie sei schrecklich, das Aufschreiben von Dingen würde uns etwas wegnehmen. Aber wenn wir nicht schreiben könnten, wären wir nie in der Lage gewesen, das zu erschaffen, was wir heute haben. Worauf ich mich also freue, ist die Frage, wofür wir KIs nutzen werden, um uns beim Erschaffen zu helfen.

Host: Ja, und da muss ich an das klassische Beispiel von KI-generierter Musik denken. Vor anderthalb Jahren gab es einen riesigen Aufruhr, als eine KI einen Song von Drake und The Weeknd generierte, der tatsächlich ziemlich gut klang. Die Leute fragten sich: „Oh, wird das ein Problem?“ Aber es setzte sich nicht durch. Erstens, weil die Leute erfuhren, dass es von einer KI stammte, und es gab da etwas, das die Leute spüren ließ: „Menschliche Kreativität hat das nicht gemacht, ich kann dabei nicht dasselbe empfinden.“ Aber der andere Grund – um auf deinen Punkt zurückzukommen – war: Es hat nichts Neuartiges geschaffen. Es hat den Musikstil genommen, den diese Typen bereits erschaffen hatten, hat diesen Stil kopiert und gesagt: „Mach das nochmal.“

Lee Cronin: Ich gebe dir einen Exklusivbericht aus etwas, das ich gerade schreibe. Wenn ich jetzt etwas Neuartiges erfinde und sage: „Hey, hier ist diese neuartige Sache“, wissen wir genau, dass wir das etikettieren, in eine Datenbank stecken und den Weg dorthin nachvollziehen können – und damit auch die Wahrscheinlichkeit, dorthin zu gelangen, weil wir nun einen Präzedenzfall haben. KIs können Dinge miteinander kombinieren, aber die Größe des Kombinationsraums für die KI ist zwar groß, aber nicht so riesig. Grob gesagt: Wenn ein Raum groß, aber durchsuchbar ist, schlägt sich die KI in einem flachen Raum ziemlich gut. Was Menschen tun können, ist, etwas aus dem Nichts zu greifen, das so tief ist, dass du es mit der verfügbaren Rechenleistung niemals durchsuchen kannst. Menschen surfen auf der Welle nahezu unendlicher Möglichkeiten. Genau dort liegt die Kreativität. Und sobald sie etwas finden, werfen sie es zurück, und plötzlich wechseln sie von dieser unendlichen Kante zur endlichen, codierbaren Gegenwart. KIs sagen die Vergangenheit voraus, sie codieren die Gegenwart, und die Schnittstelle zwischen Gegenwart und Zukunft ist der Punkt, an dem das Unendliche ein kontinuierliches Substrat bildet. Wenn etwas kontinuierlich ist, ist es unendlich, und du kannst prinzipiell nicht wissen, was als Nächstes kommt. Genau dort entspringt die Kreativität. Viele Leute tun so, als wären sie kreativ, aber sie plagiieren sich einfach gegenseitig. Wenn etwas in einer Datenbank existiert und du es buchstäblich zusammenfügst und als dein eigenes ausgibst – ich habe das auch schon getan. Ich erfinde ständig so viele Ideen und denke mir dann: „Oh, jemand anderes hatte diese Idee auch schon, es war gar nicht meine.“ Macht mich das zum Plagiatoren? Nein, denn ich habe ihr Zeug nicht wissentlich genommen und so getan, als wäre es meins. Den größten Teil meines Lebens habe ich ohnehin flache Ideen, ich bin ein flacher Denker. Aber gelegentlich hast du einen Gedanken, der ziemlich neuartig ist. Und Menschen sind verdammt gut darin: Große Künstler, Musiker, Modeschöpfer surfen auf dieser Kante zwischen Gegenwart und Zukunft.

Host: Woher kommen deiner Meinung nach Ideen?

Lee Cronin: Keine Ahnung.

Host: Du hast keinen Schimmer?

Molekulares Computing und der DNA-Computer

Lee Cronin: Ich habe da etwas, das ich vorschlagen möchte. Wenn ich dir ein Rezept für eine neuartige Idee geben wollte, für etwas Kreatives, dann bestünde der Trick darin, einen Sprung in einen Raum zu wagen, der so gigantisch ist, dass du ihn prinzipiell nicht durchsuchen kannst. Und worin Menschen extrem gut sind, ist das Imaginieren in diesem Raum. Vorstellungskraft ist prinzipiell unberechenbar (uncomputable), weil der Raum zu groß zum Berechnen ist. Jeder sagt: „Aber das ist blöd, dein Gehirn imaginiert doch auch.“ Ja, was macht mein Gehirn da, das für eine Turing-Maschine, eine Zählmaschine, eine Etikettiermaschine prinzipiell unberechenbar ist? Vorstellungskraft scheint der Beweis dafür zu sein, dass das menschliche Gehirn Dinge tut, die von einem Computer nicht berechnet werden können.

Host: Wie willst du dann ein Gehirn bauen, wenn es Aufgaben ausführt, die nicht einmal berechenbar sind? Wie kannst du in der realen Welt so etwas berechnen?

Lee Cronin: Ich nehme ein physisches Objekt und kopple es digital an. Ich schließe es an einen digitalen Computer an. Und dann ist das Gehirn in der Lage, Vorstellungen zu entwickeln, die der digitale Computer niemals vorhersagen oder herbeizaubern könnte, weil die Größe des Raums zu gewaltig ist. Es gibt etwas am Polymer-Gehirn, das in der Lage ist, diese Schnittstelle zum kollabieren zu bringen. Ich habe eine Intuition dafür, wie das funktionieren könnte, aber ich kämpfe noch damit, das in adäquate Mathematik zu gießen.

Host: Wie lange arbeitest du schon daran?

Lee Cronin: Schon ziemlich lange. Es schwirrt mir vielleicht schon seit über 20 oder 30 Jahren im Hinterkopf herum.

Host: Oh, wow.

Lee Cronin: Ja.

Host: Wir sind vorhin auf diesen Schlenker zur KI gekommen, der ursprünglich vom Gehirn ausging. Und wie du es erklärt hast: Nachdem du 49 Vertiefungen gebaut hattest, in denen du Nullen und Einsen erhieltest, das Blinken an und aus mit all den Lichtern, hast du das genommen und in Gels gegossen. Hast du das gesagt?

Lee Cronin: Das ist der nächste Schritt: genau jetzt ein Gehirn-Gel zu bauen.

Host: Können wir darauf noch einmal zurückkommen und das genauer erklären?

Lee Cronin: Was ich versuche, ist ein Material zu erschaffen, bei dem Prozesse digital codiert werden können, die dann aber analog werden – ein bisschen wie eine Oszillation: an-aus, an-aus, tick-tack. Du codierst es digital, indem du es mit einem elektrischen Impuls anstupst, und liest dann aus, was später passiert. Ich möchte verstehen, wie diese digitale Codierung und dieses Auslesen miteinander zusammenhängen und ob es eine komplexe oder eine lineare Beziehung zwischen den beiden gibt. Im Moment verstehe ich das Phänomen, das wir beobachten, selbst noch nicht, und ich bringe damit eine Menge Informatiker zur Weißglut, die das tun, was wir molekulares Computing nennen.

Host: Was ist das?

Lee Cronin: Sie verwenden DNA. DNA hat vier Basenpaare, und sie können diese Basenpaare für Berechnungen nutzen. Sie können eine Turing-Maschine bauen, im Grunde einen Digitalcomputer aus DNA.

Host: Einen DNA-Computer?

Lee Cronin: Ja, das haben sie getan. DARPA hat das finanziert.

Host: DARPA, Mann. Andy Jacobson meinte, sie hätten 1992 telepathisch mit Delfinen gesprochen, ich sage ja nur.

Lee Cronin: DARPA ist eine Förderagentur. Sie finanzieren Leute, geben ihnen Geld, und diese Leute tun dann die verrückten Dinge.

Host: Warst du schon mal in einem ihrer Geheimlabore?

Lee Cronin: Die haben keine Geheimlabore.

Host: Das kaufe ich dir nicht ab. Das würde ich auch sagen, wenn ich von DARPA finanziert würde.

Lee Cronin: DARPA hat seinen Sitz im Raum Washington. Sie haben Programmmanager, und das Ganze ist komplett öffentlich zugänglich. Sie identifizieren hochinteressante Bereiche und finanzieren sie. Sie kommen mit der Idee an: Wenn das funktioniert, verändert es die Welt. Das Internet hat die Welt verändert. Selbstfahrende Autos: DARPA hatte eine Challenge für autonome Fahrzeuge, bei der Autos durch die Wüste fuhren und reihenweise umkippten, aber das hat zweifellos einen Großteil der visuellen Datenverarbeitung und Robotik beschleunigt. Ich will die DARPA also nicht kleiner machen, als sie ist.

Host: Nein, das ist zweifellos ein faszinierender Ort. Es ist ja nicht so, dass sie zu dir kommen, Lee, und sagen: „Hier sind die 1 Milliarden Dinge, an denen wir gerade arbeiten.“ Sie kommen wegen einer ganz spezifischen Sache auf dich zu, weil du auf einem Gebiet Experte bist. Als sie mit dem ersten Grant auf dich zukamen, haben sie da gesagt: „Wir arbeiten an dieser Art von Projekt, du machst genau das, hast du eine Idee, wie du dazu beitragen kannst?“

Lee Cronin: Es ist sehr kollaborativ. Sie haben eine Reihe verschiedener Geförderter, und wir kommen alle zusammen, teilen und poolen unsere Erkenntnisse. Sie versuchen, die Grenzen der Wissenschaft voranzutreiben. Großbritannien hat übrigens mittlerweile eine eigene DARPA-Version namens ARIA (Advanced Research and Invention Agency).

Host: Und die haben kein Problem damit, dass du mit DARPA arbeitest, obwohl du ein britischer Typ bist?

Lee Cronin: Klar. ARIA finanziert ja auch Projekte in den USA, genauso wie DARPA Leute in anderen Ländern finanziert hat.

Host: Oh, das ist interessant.

Lee Cronin: Sie finanzieren dorthin, wo die besten Ideen sind. Natürlich gibt es eine Rechenschaftspflicht gegenüber den Steuerzahlern, aber wenn jemand etwas baut, das von großem Nutzen ist, macht das Sinn. Um noch mal auf den DNA-Computer zurückzukommen: Es gibt Informatiker, die über DNA als Computer nachdenken, und sie reduzieren das auf dieses konventionelle Rechenparadigma. Ich behaupte dagegen, dass das Gehirn kein konventioneller Computer ist. Das Gehirn ist fähig, Dinge zu tun, die wir nicht verstehen – wie zum Beispiel Fantasie. Ist das nicht wild? Du kannst dir etwas vorstellen, das noch gar nicht existiert, und diese vorgestellte Sache hat kausale Kraft, weil du sie dir ausmalst und sie dann Realität werden lassen kannst. Genau das tun Unternehmer ständig: „Ich werde dieses Gadget bauen, ein Mobiltelefon oder einen iPod Nano.“ Menschen sind auf einzigartige Weise in der Lage, sich etwas vorzustellen, das noch nicht existiert – es existiert nur in ihrem Kopf, in Molekülen und Synapsen –, und man kann diese Idee buchstäblich aus der Zukunft greifen und in die Gegenwart zerren.

Host: Speziell aus der Zukunft.

Lee Cronin: So nenne ich es gerne, denn für mich ist die Zukunft unvorhersehbar und ein Möglichkeitsraum, und die Fantasie operiert im Möglichkeitsraum, nicht im Wahrscheinlichkeitsraum. Wer auch immer bei SpaceX auf die Idee kam: „Wisst ihr was, wir bauen die Rakete aus Stahl und fangen sie wieder ein. Wir bauen etwas von der Größe eines Wolkenkratzers, das abhebt, überschnell fliegt, subsonisch landet, und wenn wir es fangen, hören wir die Überschallknall-Wellen.“ Das ist völlig verrückt, aber heute ist es wissenschaftliche Realität. Genau deshalb sind Menschen so gut in Science-Fiction, wie Jules Verne. Digitales Computing ist nicht alles. Und die Tatsache ist: Wir glauben, dass das gesamte Universum eine simulierbare Entität ist. Nick Bostrom sagte, wir seien alle in einer Simulation, aber das ist im Grunde nicht falsifizierbar.

Host: Inwiefern ist es nicht falsifizierbar, dass wir in einer Simulation leben?

Simulationstheorie als „im Glauben verwurzelt“

Lee Cronin: Wo existiert eine Simulation? Du hast einen unendlichen Regress.

Host: Was meinst du mit diesem unendlichen Regress?

Lee Cronin: Wenn ich in einer Simulation bin, wunderbar. Aber diese Simulation muss irgendwo existieren. Nehmen wir an, ich existiere in einem Computer irgendwo. Wo steht dieser Computer? Ist das wiederum eine Simulation und das Ganze eine Simulation in einer Simulation? Wenn ich Simulationen nicht bis ganz nach unten falsifizieren kann, dann ist das exakt dasselbe wie ein religiöses Bekenntnis, ein Glaube. Ich sage nicht: „Ich kann Gott nicht falsifizieren, also existiert Gott nicht“; ich sage, es ist dem wissenschaftlichen Prozess nicht zugänglich. Wenn etwas nicht der wissenschaftlichen Methode zugänglich ist, handelt es sich um eine Glaubensentscheidung. David Deutsch schreibt darüber wirklich großartig in The Beginning of Infinity: Das Simulationsargument ist Müll, weil es aus dem Glauben entspringt.

Host: Der Punkt, bei dem ich mich frage, ob er tatsächlich über den Glauben hinausgeht, ist zweierlei: Erstens wissen wir nicht einmal, wie weit das Universum reicht, und wir können nur das wissen, was wir physisch beobachten konnten. Und zweitens passieren unerklärliche Dinge in menschlichen Mustern auf eine Weise, die nahelegen könnte, dass wir uns womöglich innerhalb von Simulationsebenen befinden.

Lee Cronin: Wir sind im Universum. Wer hat das Universum erschaffen?

Host: Wer meiner Meinung nach hat es erschaffen?

Lee Cronin: Wir können sagen, es gab einen Schöpfer, oder es ist einfach da. Aber die Tatsache, dass wir das nicht falsifizieren können, macht es zu einem netten Gespräch. Gab es einen Designer, gab es einen Gott? Sicher. Aber was können wir mithilfe der wissenschaftlichen Methode erforschen?

Host: Aber du hast gesagt, du bist kein Lawrence-Krauss-Typ, der glaubt, dass etwas aus dem Nichts entstanden ist. Du glaubst, dass es aus etwas heraus begonnen hat.

Lee Cronin: Das Argument „Etwas aus dem Nichts“ ist für mich dem Simulationsargument ziemlich ähnlich. Beide haben fundamentale wissenschaftliche Mängel. Als Materialist arbeite ich lieber in der materiellen Welt und führe Experimente an den Dingen um mich herum durch. Das bedeutet nicht, dass wir nicht in einer Simulation existieren oder dass nicht etwas aus dem Nichts entstanden ist; es bedeutet lediglich, dass ich nicht in der Lage bin, ein Experiment zu entwerfen, um das zu falsifizieren.

Host: Wie finden wir einen Weg, ein Experiment zu bauen, um das zu falsifizieren?

Lee Cronin: Ich glaube nicht, dass das möglich ist. Mit meinem beschränkten Intellekt kann ich das im Moment jedenfalls nicht falsifizieren.

Host: Im 14. Jahrhundert konnte man die Schwerkraft auch nicht falsifizieren, und dann fiel ein Apfel herunter.

Lee Cronin: Doch, das konnten sie. Sie warfen Zeug aufeinander. Sie wussten nur noch nicht, wie sie es formalisieren sollten. Hier wird Philosophie wirklich wichtig. Wenn wir davon ausgehen, dass bestimmte Dinge existieren – eine Ontologie oder Metaphysik –, und wir dann die Beziehungen innerhalb dieser Metaphysik betrachten, müssen diese Ebenen in sich konsistent sein. Was du sowohl bei der Simulationshypothese als auch bei „Etwas aus dem Nichts“ feststellen wirst, ist ein unendlicher Regress. Bei einem unendlichen Regress kommt man nicht voran. Also stellt man das beiseite und sagt: Das ist etwas außerhalb der wissenschaftlichen Methode. Deshalb ist es unsinnig, weiter über das Simulationsargument zu diskutieren, als wäre es eine seriöse These, denn wir können unser Leben damit verbringen, so viele andere interessante Dinge zu besprechen: Wie heilen wir Krebs, können wir mit einem Fusionsantrieb schnell zum Mars reisen? Das sind weitaus interessantere Fragen, weil wir sie beeinflussen können.

Für mich ist Simulation super interessant, weil ich Chemiereboter baue. Wenn ich einen Roboter baue, um etwas zu tun, und ich baue eine Simulation, brauche ich etwas namens Verifikation. In der KI-Welt funktionieren KIs genau deshalb so gut, weil sie bei bestimmten Problemen eine sehr gute Verifikation haben. Eines der Dinge, die mich an KI inspirieren, ist der Aufbau der korrekten Verifikationsschleife für die physikalische Chemie. Ich habe vor einigen Jahren eine Programmiersprache für Chemie erfunden, und alle sagten: „Das ist Blötzinn, das hast du dir einfach ausgedacht.“ Ich habe sie mir tatsächlich ausgedacht, aber es ist kein Blödsinn. Die Idee kam mir, weil ich meinen 3D-Drucker so programmieren wollte, dass er Chemie betreibt, und ich sicherstellen musste, dass der 3D-Drucker dabei nicht Feuer fängt. Also habe ich diese Programmiersprache entwickelt, und die erlaubte mir, einen digitalen Zwilling zu erstellen, sodass ich das Ganze in einer Sandbox verifizieren und testen konnte. Eine Simulation, die es mir erlaubt, etwas in der realen Welt zu verifizieren, ist großartig. Wenn ich die reale Welt nehmen, ein Modell davon erstellen und überprüfen kann, dass es in der realen Welt beim Ausführen nicht Feuer fängt, dann mache ich das.

Nun bedeutet das nicht, dass wir nicht eines Tages eine Simulation erschaffen können, in die wir digitale Entitäten (Digients) hineinsetzen können. Ted Chiang hat eine wirklich großartige Novelle geschrieben: The Lifecycle of Software Objects. Ted Chiang ist ein fantastischer Denker, Autor und externer Mitarbeiter am Santa Fe Institute. Ich habe mich mehrfach mit ihm getroffen und mit ihm über die Assembly Theory debattiert. Diese Digients sind Entitäten, die in einer Welt leben und sich in physischen Robotern manifestieren können. Ich kann mir eine Welt vorstellen, in der ich ein ausreichend reiches rechentechnisches Universum erschaffe, in dem ich Dinge hervorbringe, die sentient erscheinen könnten, an denen ich Tests durchführen und über die ich mir Gedanken über Moralphilosophie und Ethik machen müsste. Ich kann mir das vorstellen, aber ich habe keine Ahnung, welche Physik ich dafür bauen müsste, weil ich nicht verstehe, was Leben ist, wie Chemie zu Biologie wurde, wie Biologie Bewusstsein erzeugt und wie Bewusstsein zu Intelligenz und freiem Willen führt. Solange ich das nicht weiß, kann ich keine Simulation davon bauen.

Host: Verstehe, ich habe es begriffen.

Lee Cronin: Bostrom, er ist ein wirklich netter Kerl.

Host: Hast du jemals mit ihm gesprochen?

Lee Cronin: Nein, habe ich nicht. Ich war auf mehreren Konferenzen, bei denen er anwesend war, aber ich wäre wahrscheinlich einfach zu nervig. Ich würde den Bostrom-Konfabulierer bauen: einen Philosophen, der einfach eine Menge Zeug zusammenwirft und so tut, als wäre es real. Was würde passieren, wenn wir in diesem alternativen Universum die falsche Kaffeetasse simulieren und das eine Singularität auslöst und die ganze Welt verschwindet?

Host: Ich weiß nicht, ob er so weit gegangen ist. Ich glaube, er bezog sich eher auf Dinge, die per Code generell erschaffen oder zerstört werden können, nicht auf fliegende Objekte, die der Physik trotzen.

Lee Cronin: Es hat den Leuten erlaubt zu glauben, dass es diese angebliche Möglichkeit namens Superintelligenz gibt. Das ist ein bisschen so, als würde man sagen, wir reisen schneller als das Licht. Man kann sich nicht schneller als das Licht bewegen – niemals. Das ist das Gesetz des Universums. Wenn du Energie in eine Masse steckst, um sie zu beschleunigen, strahlt sie Strahlung ab, um dich genau daran zu hindern. Das machen wir bei Protonenstrahlen im CERN ständig. Die Lichtgeschwindigkeit scheint zu 99,99999% absolut zu sein.

Host: Du sagst also, es gibt eine Chance.

Lee Cronin: Nein, es gibt null Chance. Aber als Wissenschaftler ist es mir unmöglich, etwas absolut zu formulieren, weil ich mir einen offenen Geist bewahren muss. Grenzen zu setzen hat uns erst ermöglicht, eine technologische Gesellschaft aufzubauen. Wenn du ins Krankenhaus gehst und sie dir einen Stent in die Arterie setzen, besteht die Chance, dass du stirbst – aber sieh dir die Statistiken an: Die Wahrscheinlichkeit, mit einem Stent zu überleben, hat unzählige Leben gerettet. Man sagt in der Wissenschaft niemals „niemals“, man geht einfach an den Rand der Skala und sagt: „Ich bin mir zu 99,999999% sicher, dass wir uns nicht schneller als das Licht bewegen werden.“

Host: Als du das CERN erwähnt hast – bist du in irgendeiner Weise mit dem CERN verbunden?

Lee Cronin: Nein, bin ich nicht. Ich war mal im CERN, es gab dort einen TEDx-Vtalk. Das CERN ist eine großartige Maschine, was die Medienpräsenz und die Art und Weise angeht, wie sie Interesse generieren. Es ist ein gewaltiges Experiment und es kostet verdammt viel Geld. Wir haben das CERN genutzt, um das Higgs-Boson zu finden. Großartig.

War das Humangenomprojekt das wert?

Lee Cronin: War das 5 Milliarden Euro oder Dollar oder was auch immer wert? Ich weiß es nicht.

Host: Das scheint ein so riesiger Teil der akademischen Welt zu sein: Wie viel Lärm, Hype und kreatives Science-Fiction-Interesse kann man in der breiten Öffentlichkeit erzeugen, verglichen mit der tatsächlichen Finanzierung von Ideen, die das Zeug dazu haben, bahnbrechend zu sein?

Lee Cronin: Wenn du ein wissenschaftliches Unterfangen finanzierst, fallen Ergebnisse ab, und wenn diese Ergebnisse abflachen, was tust du dann? Wahrscheinlich stampfst du es ein und fängst von vorne an – kreative Zerstörung. War das Humangenomprojekt das wert? Nun, zu dem Zeitpunkt war es das vielleicht nicht, aber es zahlt sich jetzt aus, weil wir nun wissen, wie man das Genom editiert.

Host: Kannst du das genauer erklären?

Lee Cronin: Als das Humangenomprojekt durchgeführt wurde, war es eine massive Kollaboration zwischen dem britischen Medical Research Council und den US National Institutes of Health. Sie haben eine Menge Geld ausgegeben, um die Technologie zur Sequenzierung des menschlichen Genoms zu entwickeln. Und dann startete Craig Venter, ein großartiger Pionier und Unternehmer, ein Unternehmen, um sie zu übertrumpfen, weil er das IP haben wollte. Um es zu rechtfertigen, sagten wir: „Nun, wir werden alle Krankheiten heilen.“ Das Genom wurde entschlüsselt, und wir haben nicht alle Krankheiten geheilt. Was jetzt – und das ist wirklich aufregend – langsam passiert, ist, dass es viele Gentherapien gibt, bei denen wir verstehen, wie man ein krankes Gen korrigiert. Es gibt junge Menschen, die blind geboren wurden, bei denen man durch Gentherapie Proteine korrigieren konnte, sodass sie wieder sehen können. Das ist erstaunlich. Es gibt auch Gentherapien, bei denen wir verstehen, wie wir das körpereigene Immunsystem so umprogrammieren können, dass es Krebs heilt. Es besteht eine sehr hohe Wahrscheinlichkeit, dass die meisten Krebsarten, die wir kennen, noch zu unseren Lebzeiten durch eine Kombination aus molekularen und genomischen Therapien unter Einsatz von Small Molecules behandelt werden können.

Host: Glaubst du, dass sie diese Therapien längst haben und sie den Leuten einfach vorenthalten?

Lee Cronin: Nein. Warum sollten sie – das wäre doch bescheuert.

Host: Warum bescheuert? Wir nutzen seit Jahrzehnten dieselbe Art von brutaler Behandlung.

Lee Cronin: Es gibt keine Verschwörung; das kann gar nicht existieren. Es gibt haufenweise Pharmaunternehmen, die medizinische Chemie betreiben. Die Entwicklungen in der Biologie schreiten zügig voran, aber das kritischste Problem ist, dass wir diese Entwicklungen aus dem Labor in die Klinik übertragen müssen – und Menschen sind nun mal komplex, und Menschen sterben. Es gibt einen interessanten Kontrast zwischen China auf der einen und den USA sowie Großbritannien auf der anderen Seite, was unsere Regulierungsdichte angeht. Einige klinische Studien laufen in China aufgrund unterschiedlicher Regulierung schneller ab. Im Westen sind wir viel risikoscheuer. Könnten wir schneller sein, wenn wir ein paar mehr Todesfälle in Kauf nähmen? Wahrscheinlich. Jede Einschränkung, die wir im Westen haben, ist eine Funktion unseres regulatorischen Umfelds, welches wiederum eine Funktion unserer Wähler ist.

Host: China ist in gewisser Weise vorgegangen und hat Risiken in Kauf genommen, weil sie dort nicht dieselben Leitplanken haben. Es lässt sich zweifellos einiges für Leitplanken sagen.

Lee Cronin: Es gab da diesen einen chinesischen Wissenschaftler, der Gentherapie nutzte, um einige Embryonen zu editieren, aus denen Menschen wurden, was zu Problemen führte. Er landete im Gefängnis, weil er das Genom im Grunde fehlerhaft editiert hatte.

Host: Was hat er getan, weshalb diese Kinder kein so gutes Leben haben werden?

Lee Cronin: Ich glaube, es hatte etwas mit dem HIV-Virus zu tun, aber er hat irgendetwas gemacht, das nicht sonderlich klug war.

Host: Chinesischer Wissenschaftler, der genetisch veränderte Babys zeugte, zu 3 Jahren Haft verurteilt. He Jiankui und seine zwei Kollaborateure wurden wegen illegaler medizinischer Praktiken schuldig gesprochen. Mal sehen, was sie taten: Der chinesische Forscher, der die Welt mit der Ankündigung schockierte, er habe geholfen, genetisch editierte Babys zu zeugen, wurde zu 3 Jahren verurteilt. Das Gericht in Shenzhen befand, dass er und zwei Kollaborateure ethische Prüfdokumente gefälscht und Ärzte dazu gebracht hatten, unbewusst geneditierte Embryonen in zwei Frauen zu implantieren, so Xinhua, die staatliche Nachrichtenagentur Chinas. Eine Mutter gebar im November 2018 Zwillingsmädchen; es wurde nicht klargestellt, wann das dritte Baby geboren wurde. Das Gericht urteilte, die drei Angeklagten hätten vorsätzlich gegen nationale Vorschriften zur biomedizinischen Forschung und medizinischen Ethik verstoßen und die Gen-Editing-Technologie leichtfertig auf die menschliche Reproduktionsmedizin angewendet. Alle drei plädierten auf schuldig. Im November 2018 gab er bekannt, er habe ein Schlüsselgen in menschlichen Embryonen so modifiziert, dass es angeblich Resistenz gegen HIV verleiht. Er wollte den Babys die Möglichkeit ersparen, sich später im Leben mit HIV zu infizieren. Aber das verursachte andere gravierende Nachteile.

Lee Cronin: Das war das absolut Dümmste, was man tun konnte, denn HIV ist heute – es hat damals Populationen verwüstet, vor allem homosexuelle Männer. Und dann bekamen wir Therapien, um es unter Kontrolle zu bringen, und heute kann man es so gut kontrollieren, dass es keine Viruslast mehr gibt, was bedeutet, dass es nahezu unmöglich ist, es zu übertragen. Man kann es chemisch kontrollieren und das Virus unterdrücken. Was für eine unglaubliche Leistung der humanmedizinischen Technologie! Er ist einfach einen Schritt zu weit gegangen. Wir müssen darüber debattieren, wie wir in Zukunft Gen-Editing betreiben. Das Humangenomprojekt war eine unglaubliche Leistung – genauso wie die Nutzung des CERN zur Entdeckung des Higgs-Bosons. Wir leben derzeit in dieser Illusion, dass KI-Labore die gesamte Wissenschaft automatisieren werden, sodass sie billig wird und wir einfach alle Krankheiten heilen. Das wird schlicht nicht passieren. Die KI-Werkzeuge werden uns helfen, einige Krankheiten zu heilen und neue Moleküle zu produzieren, aber ich weiß nicht, wie weit das exakt gehen wird.

Host: Wenn es einfach ein riesiger Beschleuniger ist, der uns erlaubt, Probleme viel schneller zu lösen, während Menschen nach wie vor die Führung innehaben, dann ist das das genaue Gegenteil vom Untergang.

Lee Cronin: Ich habe Sympathie für die KI-Doomer, weil sie versuchen, Politiker dazu zu bringen, zu verstehen, was hier vor sich geht, und ich habe Sympathie für die KI-Optimisten, die diese Werkzeuge für das Aufblühen der Menschheit nutzen wollen. Was ich nicht mag, sind die Extreme: dass wir alle sterben oder dass wir alle ewig leben und unendlich Zeug haben werden. Beide Dinge sind offensichtlich schwachsinnig.

Elons Behauptung: Kein Geld in zehn Jahren

Lee Cronin: Es gibt die Sorge, dass wir KI-Systeme nutzen, um in Computersysteme einzudringen, und dass jegliche Software dauerhaft unsicher sein wird – Bankkonten, Verschlüsselung und so weiter. Du willst ja auch nicht, dass dein Tesla auf der Autobahn verrückt spielt. Auf der anderen Seite will man KI nutzen, um Technologie zu beschleunigen und Krankheiten zu heilen. Aber einige reich gewordene KI-Leute behaupten: „Oh, Geld wird in 10 Jahren nicht mehr existieren.“

Host: Ja, dieses Argument verstehe ich absolut überhaupt nicht.

Lee Cronin: Das ist einfach Elon, der sich wieder mal Zeug ausdenkt. Elon ist ein Genie, aber er ist kein Genie in der Kommunikation.

Host: Wie soll Geld nicht mehr existieren, sodass alle Menschen plötzlich gleich sind – vor allem in so kurzer Zeit?

Lee Cronin: Geld ist die Repräsentation der Allokation von Ressourcen. Solange Menschen darüber entscheiden, was zu tun ist, wird Geld benötigt. Die Ressourcen, die zum Bau bestimmter Dinge erforderlich sind, werden sinken und sich asymptotisch der Null annähern. Es gibt Mikroprozessoren, die man heute für 15 Cent kaufen kann, während sie früher viele Dollar gekostet haben. Aber es wird immer einen Flaschenhals geben: Planet Erde hat eine endliche Größe, es gibt eine endliche Menge an heute zugänglicher Energie und eine endliche Menge an physischen Ressourcen. Aber es gibt eine unendliche Menge an Möglichkeiten. Wir werden Dinge recyceln, neue Energiequellen finden und völlig neue Volkswirtschaften schaffen. Diese Idee, dass wir in weniger als 10 Jahren unendlichen Überfluss haben werden, ist vielleicht eine Reaktion darauf, dass die Erschaffer dieser KI-Werkzeuge von deren Leistungsfähigkeit schlicht erstaunt sind. Du kannst Claude oder ChatGPT nutzen, um eine PowerPoint zu erstellen, und die ist verdammt gut.

Host: Ja, man kann mit den Dingern inzwischen auch Apps bauen.

Lee Cronin: Aber wenn du Claude sagst: „Erstelle einfach eine PowerPoint zu X“ und du gibst ihm nicht genügend Informationen, ist das Müll. Müll rein, Müll raus. Wenn ich sage: „Hier sind die Punkte, die ich machen möchte, und hier sind die zugrundeliegenden Daten dafür, bitte mach das und iteriere mit mir“, habe ich kein Problem damit, KI-Werkzeuge zu nutzen, um meine Kreativität zu entfesseln. Nutze ich KI zum Schreiben? Nein, sie schreiben auf eine so semantisch einheitliche Art und Weise. Es heißt immer: „Es ist nicht A, es ist B.“ Bitte schreib nicht so! Mein Schreibstil hat Fehler, aber es ist meine eigene Stimme. Ich nutze KI heute zwar, um Tippfehler zu korrigieren, aber sie versucht dann immer, meine Grammatik glattzubügeln, woraufhin ich sage: „Nein, es soll genau so klingen.“ Was ich ziemlich faszinierend finde: Ich nutze KIs mittlerweile, um all meine Paper-Proofs (Korrekturfahnen) zu prüfen. Ich hatte dieses Paper, das in PNAS über Alien-Erkennungssysteme erschienen ist: „Molecular Assembly Is a Universal Biosignature Measurable by Mass Spectrometry.“ Ich habe die Proofs in ChatGPT geworfen, und das System ging sie durch und fand 10 Tippfehler, die ich übersehen hatte.

Host: Lasst uns den Abstract lesen: „Das Entdecken von Leben jenseits der Erde erfordert Biosignaturen, die nicht von der Chemie bekannter Organismen abhängen. Die molekulare Assembly (MA), abgeleitet von der Assembly Theory, quantifiziert, wie schwierig es ist, ein Molekül aus grundlegenden Bausteinen aufzubauen, und verknüpft Komplexität direkt mit Selektion und Evolution. Hier zeigen wir, dass MA als universelle Biosignatur dienen kann, die sowohl interpretierbar als auch experimentell messbar ist. Im Gegensatz zu informationstheoretischen Maßen kann MA direkt aus Massenspektrometriedaten ohne Strukturaufklärung abgeleitet werden. Wir demonstrieren, dass die Verwendung eines Modells für maschinelles Lernen, das auf standardisierten einstufigen Spektren trainiert wurde, MA mit einem dreifach geringeren Fehler vorhersagt als Basismethoden. Simulierte mehrstufige Daten zeigen, dass kleine instrumentelle Abweichungen den Vorhersagefehler verdoppeln können, was die Bedeutung der Kalibrierung unterstreicht. Diese Ergebnisse etablieren die molekulare Assembly als physikalisch fundierte, quantifizierbare Biosignatur, gemessen durch Massenspektrometrie, deren Interpretation von einer sorgfältigen Kontrolle instrumenteller Effekte abhängt und einen skalierbaren Weg zur Entdeckung von Leben bei zukünftigen Planetenmissionen eröffnet.“ Gehen wir runter zum Diagramm.

Lee Cronin: Man kann maschinelles Lernen nutzen, weil eine Theorie dahintersteckt. Die Leute haben versucht, maschinelles Lernen zu nutzen, um nach Leben zu suchen, und haben sich dabei einfach Zeug ausgedacht; die Assembly Theory hilft dir, das Fundament dafür zu verstehen. Temperatur: Wir wissen, ob Dinge heiß oder kalt sind, aber wie quantifizieren wir es? Leben: Wir wissen, ob Dinge leben oder tot sind, aber wie messen wir es? Lebende Systeme stellen auf einzigartige Weise Moleküle mit vielen verschiedenen Teilen in hoher Kopienanzahl her, also können wir das messen. Unser Äquivalent zum Thermometer ist ein Massenspektrometer. Was ein Massenspektrometer tut: Es wiegt ein Molekül, schießt es in ein Vakuum-Elektrofeld und misst, wie schwer es ist. Dann beschießt man es mit Energie, und es fragmentiert – so als würdest du einen Teller nehmen und ihn auf den Boden werfen. Du zählst die Anzahl der Teile und nutzt das, um den Assembly-Index zu messen. Es gibt im Moment drei Massenspektrometer auf dem Mars, und die NASA schickt ein nuklearbetriebenes Massenspektrometer namens Dragonfly zum Saturnmond Titan. Das ist ein Quadcopter, angetrieben von einem Plutonium-Block, der über Titan fliegen, an der Luft schnüffeln und Massenspektrometrie betreiben wird.

Host: Kannst du das auch nutzen, um nach Leben auf Exoplaneten zu suchen?

Lee Cronin: Das kannst du. Es erscheint bald ein Paper, in dem wir die Assembly Theory nutzen, um die Wahrscheinlichkeit von Leben auf einem Exoplaneten zu messen. Die Exoplaneten-Forschung spricht gewöhnlich über einen einzigen Marker für Leben wie Methan (CH4), Sauerstoff (O2) oder Wasser (H2O). Das sind alles sehr kleine Moleküle, sie tragen also nicht genügend Informationen in sich, um zwischen Leben und Nicht-Leben zu unterscheiden. Methan auf dem Mars könnte durch geologische Prozesse erzeugt worden sein. Sauerstoff kann durch das Aufspalten von Wasser mit UV-Licht entstehen. Die Antwort auf die Frage, wie man Biologie aus Gasen ableitet, wird die Assembly Theory sein. Du kannst den Assembly-Index im Labor mit drei Techniken messen: Massenspektrometrie, NMR (Kernspinresonanz) und Infrarotspektroskopie.

Assembly Theory und Leben im Universum

Host: Waren Aliens etwas, worüber du als Kind viel nachgedacht hast?

Lee Cronin: Nicht obsessiv. Ich habe wahrscheinlich eher darüber nachgedacht: Warum bin ich hier, warum existiert Leben, wie kann ich das auseinandernehmen? Aber zu verstehen, was Leben als chemisches Phänomen ist, ist entscheidend, um die Phänomene des Lebens auf der Erde zu verstehen – was uns wiederum etwas über Aliens verraten wird. Wenn wir nur unsere Sonne an einem schwarzen Himmel sähen, würden wir uns den Kopf darüber zerbrechen, wie die Sonne entstanden ist. Wir wissen, dass die Sonne durch den gravitativen Kollaps von Wasserstoff entsteht, der heiß genug wird, um die starke Kernkraft zu überwinden und Fusion zu betreiben. Wir sehen Sterne überall im Universum. Aber wir haben nur ein N von 1 für das Leben auf der Erde. Wenn wir verstehen können, wie wahrscheinlich es chemisch ist, dass Leben auf der Erde entstanden ist, können wir anfangen, die Wahrscheinlichkeiten einzugrenzen.

Host: Wie können wir das tun, wenn wir nicht verstehen, wie groß das Universum ist?

Lee Cronin: Wir können die Größe der Milchstraße abschätzen, und wir haben Grenzen für den Lichtkegel des Universums. Jeder Stern scheint Planeten zu haben. Diese Planeten sind entweder: tot und werden niemals Leben haben; abiotisch, haben aber die Möglichkeit für Leben; lebendig; lebendig und technologisch; oder post-technologisch. Leben ist wahrscheinlich nur innerhalb einer bestimmten Temperaturzone möglich: zu heiß, und die chemischen Bindungen fallen auseinander; zu kalt, und nichts passiert. Als ich David Kippings Podcast Cool Worlds hörte, sprachen sie über die habitable Zone, und mir wurde klar, dass Planeten wahrscheinlich reagieren können. Die Erde begann nach dem späten schweren Bombardement abzukühlen, und Feedback-Prozesse regulierten ihre Temperatur – wie James Lovelocks Gaia-Hypothese. Wenn Leben beginnt, sich auf einem Planeten zu formen, und der Planet aus dieser Zone driftet, wird die Evolution reagieren, um dem entgegenzuwirken, wie ein Thermostat. Der Planet ist in der Lage, sich selbst für die Entstehung von Leben zu regulieren.

Host: Wenn ein Planet um seinen Stern kreist und sich dabei annähert und erhitzt – schlägst du vor, dass der Planet sich anpassen könnte?

Lee Cronin: Prä-Intelligenz: nein; post-Intelligenz: vielleicht. Das bringt mich zu einem meiner chinesischen Lieblings-Sci-Fi-Filme, The Wandering Earth. Wenn sich ein Planet um einen Stern bewegt und dabei näher und heißer wird, reguliert er möglicherweise den Luftdruck: Wenn es zu heiß wird, macht man die Atmosphäre reflektierend – Schilde hoch; wenn er sich weiter entfernt, fängt man das Licht ein – Schilde runter. Der Klimawandel ist für Menschen nervig, weil wir uns an den Küsten und am Äquator angesiedelt haben, wo die Zone für Landwirtschaft ideal war, aber Sibirien wird dadurch richtig bewohnbar werden. Auf einer Zeitskala von ein paar hundert Jahren: Kauft Immobilien in Sibirien. Wir werden wahrscheinlich eine technologische Lösung für den Klimawandel finden. Vielleicht überlebt die Erde länger, als sie es sonst tun würde, weil sie Leben hervorgebracht hat.

Chemify Genesis und die Angst vor Arbeitsplatzverlust

Lee Cronin: Über die nächsten 5 Milliarden Jahre wird die Sonne größer werden, da ihr Wasserstoff aufgebraucht wird und sie beginnt, Helium zu fusionieren, wodurch sie heißer wird. Wir haben ein paar Milliarden Jahre Vorwarnung – können wir die Erde nicht einfach sanft in die Richtung schieben? Einfach ein paar Atombomben zünden: Bumm, sie jedes Jahr ein paar Millimeter verschieben. Angesichts von 2 Milliarden Jahren können wir eine Menge tun.

Host: Ich muss dich und David Kipping hier mal gemeinsam in einen Podcast holen. Er kommt im November wieder.

Lee Cronin: Das wäre wirklich cool, um Ideen auszutauschen. Ich habe seinen Podcast gehört und dachte mir: „Nee, stimmt nicht.“

Host: Du bist ein „Nee“-Typ. In dem Moment, in dem du etwas Fragwürdiges hörst, bist du völlig unerschrocken darin, es herauszufordern.

Lee Cronin: Kritisches Denken in Echtzeit erfordert, dass man sich von Gegenwind nicht einschüchtern lässt, bereit ist, sich zu irren, und offen für Bildung ist. Wir mystifizieren KI, weil man uns erzählt hat, sie sei Magie. OpenAI stieß auf einen kognitiven Schatz, als sie ihr Modell trainierten, und plötzlich fingen diese Chatbots an, extrem gut darin zu sein, das nächste Token vorherzusagen. Als man das Kontextfenster vergrößerte, wurde es noch besser. Als man Leitplanken (Guardrails) und Chain-of-Thought-Fähigkeiten einbaute, konnten diese Systeme sich verketten. Aber wir müssen das entzaubern und definieren, was Intelligenz, Kreativität und Neuartigkeit tatsächlich sind.

Mein Unternehmen Chemify hat mittlerweile ein paar hundert Mitarbeiter. Ich war in einem Meeting, in dem Leute sagten: „Ich konnte all diese Mitarbeiter aus meiner Belegschaft entlassen.“ Ich erwiderte: „Leute, was macht ihr da eigentlich?“ Menschen sind fantastisch flexible, unendliche Problemlöser und unendliche Kreativitätsmaschinen. Man will mehr von ihnen beschäftigen, nicht weniger. Ich finde die ganze Angst vor dem Verlust von Arbeitsplätzen eher unappetitlich. Chemifys Ziel ist es, ein Weltmodell für Chemie zu bauen. Wenn man auf chemify.io/genesis geht, wird dieses Weltmodell erklärt.

Eine virtuelle Bibliothek von Molekülen

Host: „Das Molekül auf dem Bildschirm ist nur eine Hypothese. Frage, Erstelle, Teste.“

Lee Cronin: Die Leute glauben, dass die Entdeckung von Medikamenten darin besteht, ein Molekül zu finden. Früher schaute man sich Pflanzen an, fand Moleküle mit biologischer Aktivität und entdeckte so ein Medikament. Der chemische Raum für mögliche Medikamenten-Moleküle wird typischerweise auf etwa 10 hoch 60 geschätzt. Die Anzahl der Atome im Universum beträgt 10 hoch 80. Ich habe diese Berechnung mit der Assembly Theory neu durchgeführt: Es sind nicht 10 hoch 60, es sind 10 hoch 117. Wir haben das auf arXiv publiziert: „Elucidating the Size of Chemical Space with Assembly Theory.“ Wenn man zulässt, dass ein Molekül einen Assembly-Index von 25 Schritten mit der verfügbaren Chemie hat, gibt es 10 hoch 117 zugängliche Moleküle. Wenn dein Raum so riesig ist, dass du ihn nicht durchsuchen kannst, musst du etwas Neuartiges generieren. Daher kommt Genesis.

Genesis ist kein Katalog, keine Reaktionssuche; es ist eine rechentechnische, ausführbare Schleife, gekoppelt an echte chemische Kapazitäten, die Ideen in verifizierte Materie verwandelt. All diese KI-Unternehmen, die Medikamentenentwicklung betreiben, generieren lediglich zufällige Graphen auf einem Bildschirm – sie können sie nicht herstellen. Was Chemify tut, ist, Moleküle in der physischen Welt mit chemischen Robotern zu synthetisieren, und Genesis verbindet die KI-Modelle direkt mit unserer robotischen Synthese-Engine. Kunden kaufen Genesis, behalten all ihr geistiges Eigentum, und wir föderieren die Betriebsdaten. Chemify wird dadurch schneller in der Chemie, aber die Kundendesigns bleiben vollständig verschlüsselt und getrennt – ähnlich wie der UK Biobank betrieben wird. Wir haben eine Chemputer-Farm in Glasgow aufgebaut. Jedes Mal, wenn wir eine Reaktion durchführen, wird unser Weltmodell besser. Chemifys virtuelle Bibliothek digital verifizierbarer Moleküle umfasst 10 hoch 40 Moleküle, geschöpft aus dem Gesamtraum von 10 hoch 117.

Ja, ich will Gott spielen

Host: Wenn du dir die Skalierung von Tools wie KI und die Fähigkeiten anschaust, die Menschen exponentiell nutzen können, machst du dir jemals Sorgen über unsere kommende Fähigkeit, Gott zu spielen?

Lee Cronin: Nein, ich will Gott spielen. Tatsächlich liebe ich es, Gott zu spielen. Wir haben Mobiltelefone, wir haben Medikamente, wir haben Autos. Ich will fliegende Autos. Wie Arthur C. Clarke sagte: Jede hinreichend fortgeschrittene Technologie ist von Magie nicht zu unterscheiden. Stell dir vor, du reist mit einem funktionierenden Smartphone in die Vergangenheit und telefonierst per FaceTime mit jemandem – die Leute würden denken, du bist ein Gott. Wir müssen sicherstellen, dass die Menschen florieren und gedeihen. Nach jedem erdenklichen Maßstab hatten die Menschen noch nie eine bessere Zeit auf Planeten Erde. Wir verbrennen fossile Brennstoffe, um Ammoniak herzustellen und die Welt zu ernähren. Wenn wir Geoengineering betreiben, um den Klimawandel zu bekämpfen, und dabei 50 Menschen durch unvorhergesehene Umstände sterben, während wir Milliarden von Leben retten – rechne es durch.

Host: Was ist mit Gentechnik, wie Colossal Biosciences, die ausgestorbene Arten wie den dire wolf oder das Wollhaarmammut zurückbringen wollen?

Lee Cronin: George Church steckt vermutlich hinter all dem Zeug. George ist sehr spitzbübisch. Genauso wie ich gerne mit Chemie experimentiere, experimentiert er gerne mit Biologie. Er testet die Grenzen dessen aus, was ethisch und kommerziell akzeptabel ist. Ist ein niedriger IQ eine heilbare Störung? Wenn man einen höheren IQ in Menschen genetisch einbauen könnte, würdest du es tun? Die Gesellschaft wird entscheiden müssen, was akzeptabel ist – genau wie Kaiserschnitte irgendwann akzeptiert wurden. In Großbritannien haben wir die mitochondriale Spende – sogenannte Drei-Eltern-Babys – zugelassen, um schwere mitochondriale Erkrankungen zu verhindern, und es wurden gesunde Kinder geboren, die sonst an Muskeldystrophie gestorben wären.

Zwölf-Fuss-Riesen und genetisches Schicksal

Host: Schwer, dagegen zu argumentieren.

Lee Cronin: Wenn man Mitochondrien supertunt, könnte das Super-Athleten hervorbringen? In Westeuropa haben die Menschen in den letzten Jahrhunderten aufgrund von Unterernährung ihr genetisches Potenzial nicht erreicht; heute sind die Menschen in den Niederlanden eben sechs Fuß soundso groß. Habe ich Sorge, dass Leute Chemifys Technologie nutzen könnten, um im großen Stil schlechtes Zeug herzustellen? Wir bauen Verschlüsselung und GPS-geolokalisierte Lizenzierung in die Systeme ein. In unseren Chemputern stecken umfangreiche Firewalls, Echtzeit-Telemetrie und Fail-Safe-Designs.

Vor hundert Jahren waren „Computer“ Menschen in Wolkenkratzern mit Rechenschiebern, die weltweit ein paar hunderttausend Operationen pro Sekunde ausführten. Heute liegt die Zahl der Chemiker, die jeden Tag Reaktionen durchführen, zwischen 100.000 und 1.000.000. Chemifys physische KI wird chemische Operationen drastisch steigern. Angesichts sinkender Geburtenraten müssen wir die Menschen länger gesund halten und die Wirtschaft durch Abonnement-Gesundheitsversorgung und fortschrittliche Therapeutika antreiben.

Lee vs. James Tour bei Piers Morgan

Host: Solange Dr. James Tour nicht recht hat und du unrecht hast. Ich habe euch bei Piers Morgan aneinandergeraten sehen.

Lee Cronin: James Tour ist in erster Linie Chemiker und erst in zweiter Linie Wissenschaftler, während ich in erster Linie Wissenschaftler und erst in zweiter Linie Chemiker bin. James betreibt Chemie und nutzt diese Autorität, um Autorität über sein religiöses Glaubenssystem auszuüben. Er behauptet, jeder sei ahnungslos bezüglich des Ursprungs des Lebens. Warum sollte ich Experimente durchführen, wenn ich die Antwort bereits wüsste? Ich bin die einzige Person, die bereit ist, sich öffentlich mit ihm zu streiten. Piers Morgan hat eine riesige Reichweite, und es war eine spaßige Debatte. Einer meiner Söhne hat sie gesehen und mir gesagt: „Das war das erste Mal, dass ich dich über etwas reden hörte und es tatsächlich verstanden habe.“ Wenn es ihn inspiriert hat, war es die Sache wert.

Lees Arbeit

Host: Es ist immer großartig, einen offenen Dialog in der Wissenschaft zu führen. Danke wie immer, Lee. Wir werden das definitiv wiederholen. Lass uns jetzt ein Steak essen gehen.

Lee Cronin: Danke, war toll mit dir, und ja, bis zum nächsten Mal.

Host: Alles klar, Leute, denkt drüber nach. Macht’s gut. Vielen Dank fürs Zuschauen. Bitte drückt den Abonnieren-Button, lasst ein Like da, tretet dem Patreon und der Discord-Clipping-Community bei. Bis zur nächsten Episode.