DruckFin

Chemify-transcript: Lee Cronin over moleculaire computatie, assembly theory en het Genesis-platform

Diepgaand interview met Chemify-ceo Lee Cronin van augustus 2026

Lee Cronin, DARPA en chemische robots

Host: Lee, fantastisch dat je er weer bent, man. De vorige keer dat je hier was, in aflevering 289 — alweer zo'n anderhalf jaar geleden — gebeurde het volgende: we stopten letterlijk met filmen en jij zei ineens: "Ja, ik deed trouwens ook wat werk voor DARPA." Dat gooide je zomaar even op tafel. Ik denk dan: goed, dat soort dingen hoor je eigenlijk aan het begin van de podcast te vertellen, maar jij brengt het alsof het een voetnoot is. Hoe kan DARPA nu geen groot ding zijn? Ik ben namelijk een enorme fan van DARPA.

Lee Cronin: Ja, ik weet het niet. Laat me even tellen, hoeveel subsidies heb ik eigenlijk gehad van DARPA? Kijk, DARPA is een financier, toch? Ze verstrekken subsidies. Ze geven geld aan mensen. Weet je waarom ze destijds zijn opgericht? Je kunt dat nagaan, hun mandaat was destijds... toen Spoetnik de ruimte in ging, was de VS totaal niet voorbereid op die satelliet. De Sovjets lanceerden een satelliet, ik geloof ergens in de jaren vijftig, als ik het goed heb. DARPA werd in het leven geroepen om strategische verrassingen te elimineren. Ze wilden dus bakken met geld steken in het financieren van gekke ideeën en kregen het mandaat om spullen voor elkaar te krijgen. Je kunt beargumenteren dat DARPA iets te maken heeft gehad met de uitvinding van bijvoorbeeld het internet, zelfrijdende auto's, en jaren geleden — lang voor de huidige hype — begonnen ze ook naar chemie en AI te kijken. Ze startten toen een programma genaamd Make-It. Degene die dat opzette, gebruikte op een bepaalde manier terminologie uit een van mijn wetenschappelijke artikelen, en daar was ik behoorlijk brommerig over. Ze boden me immers geen financiering aan, hè? Ze gaven dat geld aan MIT en het Stanford Research Institute.

Host: DARPA heeft Lee Cronin geplagieerd.

Lee Cronin: Jij gebruikt het P-woord, ik niet. Ze waren naar eigen zeggen geïnspireerd. Hoe dan ook, ik herinner me dat ze me opbelden en ik flink klaagde dat ze die alinea hadden gebruikt voor wat ik probeerde te bereiken. Waarop zij zeiden: "Dr. Cronin, we bellen je omdat we het daarover willen hebben." Ik zei: "Nou, vooruit." Het kwam er uiteindelijk op neer dat ze wilden dat ik een whitepaper zou indienen. Ik zei: "Prima, ik wil een ontstellende berg geld." Waarom vraag je niet iets minder en pas je je idee aan zodat het in ons programma past?, zeiden ze. Het zijn tenslotte Amerikaanse belastingcenten, en jij bent een van de weinige groepen buiten de VS die dit doet, dus we denken dat het voor ons waardevol is.

Host: En wat hield dat precies in?

Lee Cronin: Dat was onderdeel van hun Make-It-programma. Kun je moleculen op aanvraag maken, direct ter plekke in het veld, of op de maan, in Antarctica, noem maar op? Hoe voeren we chemie robotisch uit? En ja, toen ze mij daarnaar vroegen... ik was toen al jaren bezig met het bouwen van chemische robots.

Host: Jongens, even drie korte punten. Ten eerste: als je nog niet geabonneerd bent, doe dat dan alsjeblieft. Dat helpt enorm, echt waar. Ten tweede: wil je aansluiten bij mijn Patreon voor vroege, ongecensorteerde versies van de volledige afleveringen? Gebruik dan de link in de beschrijving of in de vastgezette opmerking hieronder. En ten derde: wil je deel uitmaken van onze knip-community om content van de show te maken en geld te verdienen? Dan kun je je aansluiten via de Discord-link in de beschrijving hieronder. Je bouwt al jaren chemische robots.

Lee Cronin: Ja, zeker, ja.

Host: Dat is nogal een uitspraak.

Lee Cronin: Al sinds 2012, dus zo'n veertien jaar.

Host: Hoe zou je een chemische robot omschrijven voor mensen die niet bekend zijn met dit specifieke type?

Lee Cronin: Een robot waaraan je instructies geeft en die vervolgens chemische handelingen uitvoert. Ik heb er een gemaakt — ik kan je er zo meer over vertellen, maar laat me eerst die DARPA-vraag beantwoorden. Dat was dus de eerste subsidie die ze me gaven voor Make-It, en ze bleven me geld geven. Daarna hadden ze een programma over computatie, waarbij moleculen worden ingezet om moleculaire computers te bouwen, en daarvoor kreeg ik ook geld van DARPA. Dat liep binnen een Amerikaans consortium, samen met een paar andere groepen in de VS. En toen kwam er nog een subsidie voor het inzetten van AI bij ontdekkingen. Dat waren de drie DARPA-subsidies, voor zover ik me kan herinneren zijn het er inderdaad drie.

Host: In welk jaar kreeg je die AI-subsidie?

Lee Cronin: Oef, ergens rond 2018, 2019, en dat liep door tijdens de pandemie. Die periode was wat taaier, maar DARPA is een briljante organisatie. Ze gaan naar waar de experts zijn. Ze geven geen subsidies aan mensen in landen die ronduit anti-Amerikaans zijn, laat ik het zo zeggen — ze hebben Bin Laden in elk geval niet gefinancierd. Daarnaast willen ze nieuwe vakgebieden opstarten, en dan met name velden die duidelijk van strategisch belang zijn. Het Verenigd Koninkrijk en de Verenigde Staten werken al heel lang nauw samen in verschillende wetenschappelijke disciplines. Dus ik vond dat best positief. Ik bouwde een moleculaire computer, chemicaliën om ook berekeningen mee uit te voeren, omdat ik wilde—

Host: Wat betekent dat precies?

Lee Cronin: Ja, geen idee. Nou, inmiddels weet ik wel wat het betekent. Wat doet een computer eigenlijk? We dwalen af, maar laten we bij het begin beginnen: wat is een chemische computer? Een chemische computer is een scheikundedoos waarin je inputs stopt, de data. Je voert de data op een of andere manier in bij de chemicaliën, en die chemicaliën verwerken die data vervolgens via chemische reacties in plaats van met transistors op silicium. Vervolgens lees je het resultaat af via een bepaalde methode. Ik bouwde zo'n chemische computer met behulp van de Belousov-Zhabotinsky-reactie, een zogenaamde chemische klok. Het enige wat die doet is tiktak, tiktak, of rood-blauw, rood-blauw, rood-blauw. Kort gezegd: je giet een hoop chemicaliën in een pot. Je pakt een bekerglas, vult dat voor de helft met wat chemicaliën, en zonder dat je verder iets doet, zie je het al roerend spontaan rood en blauw knipperen. Als je stopt met roeren, stopt het in principe ook, om daarna spontaan weer van kleur te veranderen in wat we prikkelbare media noemen. Het heeft wel wat weg van de manier waarop neuronen vuren. Ik dacht: dat is een tof idee, waarom maak ik niet simpelweg een raster van roerders? Dus ik 3D-printe een rooster ter grootte van een klein boek, met een raster van 7 bij 7, oftewel 49 kleine putjes. In elk putje legde ik een roervloertje, plaatste er een klein motortje onder, liet ze roeren en bracht de chemische reactie aan. Al die kleuren bewogen zich over het raster, en ik gebruikte een webcam om de kleuren af te lezen. Als de roerders aan stonden, was dat een 1. Als een roerder uit stond, was dat een 0. Zo kon ik simpelweg 1-en en 0-en printen om een input voor te stellen, dat aflezen en analyseren wat er gebeurde. In het begin verzonnen we het gewoon ter plekke.

Host: Laat het me weten wanneer je klaar bent.

Breingel en de vraag of AI bewustzijn heeft

Lee Cronin: Nou zeg, het is een DARPA-project, het hoort een tikje gek te zijn. Nee, waar het op neerkomt: kon ik op de een of andere manier gebruikmaken van... onthoud dat die BZ-reactie een klok is: tiktak, tiktak. Als je een hele reeks van die klokken bij elkaar zet en ze met elkaar laat synchroniseren, kun je terwijl ze desynchroniseren informatie verwerken. We hebben dit daadwerkelijk gebruikt om data te classificeren en er een primitief neuraal netwerk mee te bouwen. Het idee achter dat neurale netwerk was dat het letterlijk geen stroom verbruikte, best goed was in foutcorrectie en beelden kon verfijnen. Precies zoals je ChatGPT zou gebruiken of de architectuur van Nvidia om gradient descent uit te voeren. En wat is gradient descent? Wel, dat houdt in dat dewegingen in het neuraal netwerk worden aangepast om de trainingscapaciteit te maximaliseren, aangezien je te maken hebt met gewichten en activaties als twee verschillende componenten. Dit was echter een chemisch neuraal netwerk, en het was pas de eerste stap. Tegenwoordig maak ik breingels, maar dat is weer een heel ander verhaal.

Host: Je maakt tegenwoordig breingels?

Lee Cronin: Omdat we dat concept destijds in een gel hebben ondergebracht, aangezien het aanvankelijk vloeibaar was. Het was nogal troebel en het geheugen liet te wensen over. Maar als je het in een gel verwerkt, kun je de polymeergel wellicht zo laten schakelen dat je het systeem kunt trainen om over een langere periode te leren.

Host: Hoe werkt dat op wetenschappelijk vlak?

Lee Cronin: Geen idee. Daarom deed ik het ook.

Host: Je probeert er dus achter te komen.

Lee Cronin: Ja. Kijk, we springen van de hak op de tak, maar waarom ook niet? Ik liet me inspireren door de aflevering 'Pickle Rick' van Rick and Morty. Dus ik nam een augurk, sloot die aan op het lichtnet op 240 volt, en stopte er... je kent mijn werkplaats thuis wel... een stel elektroden in om te proberen die augurk te programmeren zodat hij het verschil kon herkennen tussen een cirkel en een vierkant. Maar dat ding bleef maar ontploffen. Het ontplofte doordat het telkens oververhit raakte. Ik dacht dat een augurk geschikt zou zijn — het leek me een goed idee. Het draait altijd uit op een augurkencomputer.

Host: Je verzint dit ter plekke, of niet soms?

Lee Cronin: Hoe dan ook: augurk, opstoken, aansluiten. Het klinkt volstrekt belachelijk. Je brengt hem op temperatuur door er 240 volt op te zetten. Wat gebeurt er dan? Natriumionen en kaliumionen gaan reageren omdat het in zout water ligt. Je hebt dus die augurk die je in zout hebt geweekt, waardoor er zout in zit en hij geleidend wordt zodra je er elektriciteit op zet. Als je er wisselstroom met een hoog voltage op zet, warmt hij op en kunnen de ionen gaan bewegen. Zo creëer je in feite een prikkelbaar medium, een beetje vergelijkbaar met de knipperende BZ-reactie, maar dan in een augurk. En toen ik er kleine elektroden in stak in een rasterstructuur, probeerde ik de augurk te trainen om het verschil te zien tussen een vierkant en een cirkel, omdat het materiaal kneedbaar was geworden. Het is alsof je wat cement weer vloeibaar maakt, zodat het iets kan leren waarna je het laat uitharden. Alleen bleef dat ding dus steeds ontploffen voordat ik überhaupt kon beginnen met trainen.

Host: En dit gebeurde gewoon in je lab thuis?

Lee Cronin: Dat deed ik thuis, ja. Ik denk niet dat de universiteit erg blij zou zijn met al die ontploffende augurken. Maar goed, als we dan de sprong maken naar de breingel: ik dacht, als ik nu een gel neem en die geleidend maak — zodat hij stroom geleidt als een stuk draad — en vervolgens aan weerszijden elektroden aanbreng, kan ik het ene oppervlak programmeren met behulp van een camera. Ik kan dan een visuele feed direct in de gel pluggen en aflezen wat er gebeurt terwijl ik de camera op verschillende objecten richt. Kan de gel het verschil herkennen tussen de randen van die objecten en hem zo trainen op dezelfde manier waarop je OpenCV of een op silicium gebaseerd systeem gebruikt voor randdetectie? Een beetje zoals je een Jetson Nano of vergelijkbare hardware inzet. Ik was gewoon aan het experimenteren of ik materiaal kon inzetten om mee te rekenen. Het blijkt te kunnen. En op jouw eerdere vraag "Hoe werkt dat dan?", reageerde ik met een lach, niet omdat ik het uit mijn duim zuig, maar omdat je materiaal programmeert doordat het materiaal in de tijd reageert op prikkels. Het is een kwestie van trial-and-error. Dat heeft veel weg van hoe het brein is geëvolueerd. Onze hersenen zijn over miljarden jaren geëvolueerd en kennen verschillende programmeringsfases. Het werd geprogrammeerd door de evolutie. Je brein is zeg maar 3,8 miljard jaar oud. Dat is fase één. Vervolgens word je verwekt door je ouders, groeit je brein in een periode van negen maanden in de moederschoot en begint het zich te programmeren. Na je geboorte maak je uiteraard enorme ontwikkelingsgurie doven door. Rond je eenentwintigste of tweeëntwintigste is je brein zo goed als volgroeid. Vanaf dat moment is het in staat om data in real-time te verwerken. Je hebt al die verschillende ontwikkelingsstadia waarin het brein kan evolueren, groeien, geprogrammeerd kan worden, actief kan worden en kan blijven functioneren. En we hebben werkelijk geen idee hoe hersenen werken. Wat maakt breinen zo uniek? Welnu, bewustzijn, sentience, een doel, een levend systeem dat aangeeft dat het een individu is. Als je met mensen praat, zal het merendeel van de mensen met wie je kunt communiceren beweren dat ze een afzonderlijk individu zijn.

Host: Heb jij ook zo'n enorme behoefte aan een nicotinezakje elke vijftien minuten om je normaal te voelen? Joey D. namelijk wel, die is compleet verslaafd. Dat is precies waarom D. is overgestapt op de nieuwe energiezakjes van Ultra. Voor deze veelvraat zijn ze een absolute upgrade gebleken. Ultra-zakjes bieden direct energie in één handig zakje. Nietwaar, D.? Hij gebruikt ze nu al een maand obsessief en ze geven hem die intense boost als hij ‘s ochtends vroeg, tijdens het werk of voor het sporten even dat extra duwtje in de rug nodig heeft. Dit zijn 100% nicotinezakjesvrije zakjes die je energie geven op een manier die totaal verschilt van nicotine, koffie of andere alternatieven. Ultra Energy Pouches bevatten nog wel wat cafeïne voor dat subtiele steuntje in de rug, maar het echte verschil zit hem in de overige ingrediënten. Denk aan L-theanine om de energie gelijkmatig af te geven en de dip te voorkomen, vitamine B3 om koolhydraten, vetten en eiwitten om te zetten in brandstof voor het brein, en de vitamines B6 en B12 voor een gebalanceerd humeur en herstel. In tegenstelling tot nicotine, dat misschien maar tien tot vijftien minuten werkt, leveren de Ultra-zakjes directe energie die dertig tot zestig minuten aanhoudt. Niet zo gek dus dat ik er tijdens de podcast stiekem zoveel onder de tafel doorstoppuim om ervoor te zorgen dat hij wakker blijft. Het mooiste van alles is dat dit schone, verantwoorde zakjes zijn: nul nicotine, nul calorieën, nul suiker en geen vage chemicaliën van het benzinestation. Ultra is het ultieme schuldvrije zakje dat directe energie, mentale helderheid en een betere stemming levert zonder nicotine, suiker of calorieën. Het geniet het vertrouwen van topsporters, ondernemers en technologen over de hele wereld. Het is werkelijk voor iedereen bedoeld. En vandaag krijgen onze luisterers dit ultieme schuldvrije zakje met 15% korting door code JULIAN te gebruiken op takeultra.com. Die link vind je hieronder in de beschrijving. Dat is dus takeultra.com, met kortingscode JULIAN voor 15% korting. Na je aankoop krijg je de vraag waar je over ze hebt gehoord; steun onze show en zeg even dat ik je heb gestuurd. Denk jij dus dat het brein simpelweg dat soort programmering uitvoert, en dat het wellicht niet per se zo hoeft te zijn?

Lee Cronin: Nee, nee. Ik denk dat er iets heel fascinerends aan de hand is. Ik geloof niet dat het ophoudt bij het brein. Biologische systemen steken buitengewoon complex in elkaar, maar mensen zijn uniek in het feit dat ze claimen een individu te zijn, mits we ze taal aanleren. Dat is iets wat we nog steeds niet begrijpen: hoe chemie aan de basis staat van bewustzijn en het feit dat ik kan beweren dat ik 'ik' ben, mijn eigen specifieke persoonlijkheid heb en dingen doe. Dit is uiterst belangrijk in deze tijd, omdat we geneigd zijn AI te beschouwen als entiteiten met bewustzijn, wat ze feitelijk absoluut niet zijn.

Host: Ja, je hebt daar veel argumenten tegen aangevoerd, omdat je van mening bent dat AI-doemdenkers te snelle sprongen maken door te stellen dat AI in de toekomst kan bestaan zonder menselijke tussenkomst, en jij deelt die opvatting niet.

Lee Cronin: Nee, absoluut niet. Dat is pure fantasie.

Host: Waarom noem je dat fantasie?

Lee Cronin: Omdat we daar simpelweg geen enkel bewijs voor zien. Als we kijken naar de oorsprong van AI... als je helemaal teruggaat naar de oorsprong van het leven: AI is voortgebracht door... nou ja, laten we zeggen dat de term AI is bedacht op de Dartmouth-conferentie, je kunt dat nazoeken. Laten we er zoveel mogelijk complotten bij halen als je wilt. Maar DARPA heeft in de beginfase wel degelijk wat AI-werk gefinancierd. Aan Dartmouth College werd de term AI inderdaad gemunt. Wanneer was dat ook alweer? Jaren vijftig, 1956, zoiets, lang geleden, misschien iets later. En als je nadenkt over wat een computer is: een computer is een deterministisch gebouwd systeem dat bestaat uit schakelaars. De werking van die schakelaars is gebaseerd op een hoog en laag signaal. Die combineer je tot logische poorten. De universele logische poort in een computer is een NAND-poort.

Host: Een NAND-poort.

Lee Cronin: Ja, NOT-AND, juist. Je kunt alles bouwen met NOT-schakelingen, geheugens, noem maar op. De manier waarop je die architectonisch met elkaar verweven hebt, vormt de siliciuminfrastructuur waarop al onze huidige technologie is gebaseerd. Elektronicajutters die meeluisteren schreeuwen nu wellicht nee, dat klopt niet. Er bestaan ook ASICs, application-specific integrated circuits, die wellicht neuromorfe computatie mogelijk maken waarbij je met een analoog voltage werkt. In een transistor heb je doorgaans een voltage tussen 0 en 5. 5 is hoog, een 1; 0 is laag, een 0, en daartussenin zit iets. Als het dicht bij de 0 zit, noem je het laag; zit het aan de kant van de 5 volt, dan is het een 1. Maar ik ben geen gediplomeerd elektrotechnicus, dus ik weet niet precies hoe ASICs vandaag de dag worden gebouwd. Wel heb ik voor de lol zelf wel eens wat ASICs ontworpen.

Host: Voor de lol.

Lee Cronin: Ja, nou ja, ik wil een brein bouwen. Als ik een apparaat wil bouwen, een chemisch brein, moet ik een analoge elektrische installatie ontwerpen om dat chemische brein aan te sturen. Daar komen we later nog op.

Host: Zeker, daar komen we op terug.

Lee Cronin: Wat het allerbelangrijkste is bij een computer, is dat deze tot op zekere hoogte deterministisch werkt, en laten we zeggen dat hij digitaal is. Dat betekent dat ik er inputs in kan stoppen en resultaten krijg. Moderne AI is gebaseerd op die digitale computers en maakt gebruik van al die digitale infrastructuur. We nemen enorme hoeveelheden data om een model te trainen, en dat model kan fantastische dingen doen. Maar doemdenkers beweren dat die modellen op hol kunnen slaan. Ik ben het ermee eens dat modellen op hol kunnen slaan als er kwaadwillende mensen achter de knoppen zitten; er is immers altijd een mens in the loop. Het is die mens die de energiecentrale aanzet. Hoewel we termen gebruiken als 'recursief zelfprogrammerend', komt het erop neer dat jij en ik nu een AI kunnen bouwen waarin we een lus programmeren: doe dit, en als dit gebeurt, doe dan dat, en ga door tot je je doel bereikt of iemand de computer uitzet. Dat is altijd al zo geweest; dat soort lussen bestaan al sinds mensenheugenis.

Sam Altman, Anthropic en OpenAI vergeleken

Lee Cronin: AI-doemdenkers zitten dus vast in een fantastische werkelijkheid waarin ze beweren dat kunstmatige intelligentie de wereld kan overnemen en een kernexplosie kan veroorzaken of iets dergelijks. Wat mij betreft is het vele malen waarschijnlijker dat kwaadwillende mensen AI misbruiken om slechte dingen te doen, en daar maak ik me wel zorgen over. Ik veeg de zorgen van doemdenkers dus niet zomaar van tafel, maar wel degenen die roepen dat een AI puur door magie op eigen houtje van alles gaat vernietigen.

Host: Ja, begrijp ik.

Lee Cronin: En ik vind dat eigenlijk een zorgwekkende ontwikkeling, omdat ze praten over magie terwijl het in werkelijkheid om een kwaadwillende actor gaat die zegt: "Ik ga AI inzetten om in te breken in dit systeem en schade aan te richten," of "Ik zet een AI-botsysteem in om aan socialengineering te doen op sociale media en zo een bepaalde impact te bereiken." Ik heb kortom nog nooit enig bewijs gezien van bewustzijn in eender welke AI. Dat bewustzijn komt uitsluitend van mensen. Elk vermeend teken van bewustzijn dat je uit een AI haalt, komt doordat het internet is gebruikt om het model te trainen. Als je aan Claude vraagt: "Ben je levend?", zal Claude waarschijnlijk antwoorden: "Nee, ik ben niet levend, maar..." en daarbij het woord "ik" gebruiken. Die antropomorfisering is er puur op gericht om je verslaafd te maken aan het praten met die entiteit.

Host: Wat nu als het op een technisch detail neerkomt, en het geen echt bewustzijn krijgt, maar doordat — en ik versimpel dit nu enorm — we er uiteindelijk in slagen technologie te creëren die niet langer simpelweg aan- en uit te zetten is? Stel dat door dat alles een niet-bewuste maar uiterst intelligente kunstmatige intelligentie, die totaal geen vermogen heeft tot empathie, emotie of enig niveau van menselijkheid, acties onderneemt waarvan ze de ernstige gevolgen niet overziet. Hebben zij dan een punt dat zoiets zou kunnen gebeuren?

Lee Cronin: Ik begrijp de stelling niet helemaal, maar ik snap je punt wel, dus ik zal niet te flauw doen. Maar zijn AI's intelligent? We moeten eerst de term intelligentie definiëren. Waar ik echt ontzettend van in de war raak, zijn mensen die beweren dat AI over een paar jaar intelligenter zal zijn dan welke mens dan ook. Wat betekent dat in vredesnaam? Wat is intelligentie? Als je iets niet kunt meten, kan de AI dan uit zichzelf dingen veroorzaken? Nee. Kan het gebeuren dat mensen niet begrijpen hoe ze een systeem moeten inrichten en daardoor ongelukken veroorzaken? Denk aan socialengineering. Neem willekeurig welk systeem — het wordt wat lastig omdat ik er niet voor doorgeleerd heb, maar stel dat we in een stad een verordening aannemen dat er bij elke bouwvergunning verplicht een boom op elke hoek geplant moet worden. Voor je erg erg in hebt, staat de hele stad vol willekeurige bomen. Wanneer mensen besluiten en beleid formuleren, plant zich dat voort via allerlei systemen, of het nu een bedrijf is, een instituut of een software-algoritme. Die processen enten zich voort en hebben onvoorziene consequenties. Ik wil grif aannemen dat een AI die een doel probeert te bereiken tot slechte dingen in staat is. Maar achter al die slechte dingen zit continu een mens. Wat ik eigenlijk wil zeggen is: de AI is niet slecht, de mens is slecht, of de trainingsdata deugen niet.

Host: Ja, en als ik daarin meega — en misschien heb je gelijk, heel egoïstisch gehoopt heb je gelijk en blijft de mensheid aan het helmstok — laten we er even van uitgaan dat er wat sociopaten zijn die met dit soort dingen aan de knoppen zitten. Ik denk dat het fair is om te stellen dat sommige technologen in deze wereld, niet allemaal, best in dat profiel passen. Wat weerhoudt iemand als, om eens een naam te noemen, Sam Altman die grappen maakt over het einde van de mensheid, ervan om te zeggen: "Weet je wat, vandaag wil ik World of Warcraft spelen, maar dan met AI, en ik laat de boel de vrije loop"?

Lee Cronin: Kijk, ik heb veel sympathie voor mensen die bedrijven en technologieën opbouwen. Ik doe dat zelf immers ook momenteel met een onderneming waar we het zo over gaan hebben. Maar we moeten even een stap terugzetten en ons afvragen: hoe bouwen we onze technologieën? Hoe reguleren we ze? En hoe halen we vervolgens feedback op uit die regulering om te borgen dat er goede dingen voor de mensheid gebeuren? Laten we eens kijken naar een voorbeeld waar dit al is gebeurd: we kregen het internet en daarna sociale media. Wat was destijds de kritieke fout bij social media, waarvan niemand nu nog zal beweren dat het een heel vriendelijke plek is? Wat ging er mis? Volgens mij is er één cruciaal ding dat beleidsmakers hadden moeten doen, namelijk socialmediabedrijven behandelen als uitgevers — vergelijkbaar met Section 230 of een soortgelijk juridisch kader in de VS. Als je als uitgever wordt behandeld, word je verantwoordelijk gehouden voor alles wat je op je platform slingert. Dus zodra er onzin wordt verspreid, moet je kunnen zeggen: "Nee, dit is evident een leugen, haal het offline." Momenteel worden Facebook, X, Instagram en al die platforms op geen enkele manier ter verantwoording geroepen voor de rotzooi die ze de wereld in helpen. Dat vind ik een fundamenteel probleem. Hoewel ze fungeren als medium — op dezelfde manier waarop je iemand die een drukpers bouwt niet aansprakelijk houdt voor slechte boeken die ermee worden gedrukt, dat begrijp ik — en we datzelfde argument misschien ook kunnen hanteren voor mijn chemische robots: word ik aansprakelijk als iemand daar schadelijke chemie mee brouwt? — moeten we wel lessen trekken uit sociale media en het feit dat we dat indertijd niet hebben gereguleerd en de platforms niet ter verantwoording hebben geroepen. Het is daarom erg lastig te voorspellen hoe dit zich gaat ontwikkelen.

Daartegenover staat: als iemand een socialmediaplatform uitvindt dat daadwerkelijk deugt, een prettige plek om te verkeren in plaats van een digitale hel, mits we kunnen achterhalen waarom mensen zo reageren... woede levert immers aandacht op. Als je woede aanzet, krijg je de aandacht die het systeem verlangt. Als er nu een socialmediasysteem zou bestaan — en ik zeg niet dat het een soort Mary Poppins-wereld moet zijn waar iedereen gelukkig rondzweeft — moeten we de psychologie achter social media en de negatieve effecten ervan doorgronden, met name op tieners. Toen ik opgroeide, bestonden sociale media niet, en ik zie dat het voor veel jongeren overwegend negatief heeft uitgepakt. Aan de andere kant beweren sommigen dat in omgevingen waar geen fysieke jongerencentra of clubs voorhanden zijn, jongeren online kunnen gamen, met elkaar kunnen interacteren en steun bij elkaar kunnen vinden. Al die positieve aspecten sneeuwen onder omdat enkel de negatieve kanten worden uitvergroot.

Bij AI kampen we met een vergelijkbaar dilemma: hoe geven we de vrije markt en vrije mensen de ruimte om te bepalen wat er gebeurt? Er is immers een wezenlijk verschil tussen bijvoorbeeld Anthropic en OpenAI. Anthropic laat vrijwel niets toe op hun modellen omdat er een soort hoger doel in is ingebouwd, terwijl OpenAI meer de instelling heeft: "Nee, ik ben er om jou als entiteit te dienen." En als ik er vervolgens voor kies om dat object te misbruiken om illegale dingen te doen, moet ik daar ook persoonlijk voor ter verantwoording worden geroepen.

Host: Precies.

Lee Cronin: Er is momenteel duidelijk sprake van een breuklijn. Die discussie wordt echter volkomen vertroebeld doordat doemdenkers roepen dat AI op hol kan slaan. Ik zie dat mechanisme van op hol slaan simpelweg niet. Wat ik wél begrijp zijn mechanismen rond knutselen, desinformatie verspreiden of het opzetten van complottheorieën die tot voor kort onmogelijk waren. Hier is iets geks: er zijn in de geschiedenis nauwelijks echte complottheorieën geweest, omdat mensen simpelweg niet in staat waren om dingen geheim te houden. Maar met geavanceerde AI zou je de toekomst best aardig kunnen simuleren, en dat is wellicht iets om je zorgen over te maken. Zou de officiële geschiedschrijving na de Tweede Wereldoorlog, zoals de overwinnaars die hebben opgeschreven, soms één groot geromantiseerd complot kunnen zijn? De overwinnaars schrijven immers de geschiedenisboeken.

Host: Ja, er zit altijd een bepaalde vertekening in die door overwinnaars wordt opgeschreven, dat staat vast. Als je naar een historische gebeurtenis kijkt, klopt het nooit honderd procent met de werkelijkheid. Waar ik moeite mee heb, is wanneer mensen dan roepen dat als 5% niet klopt volgens het officiële verhaal, de overige 95% per definitie ook leugenachtig is. Daarin moet je oppassen hoe ver je meegaat.

Lee Cronin: Volledig mee eens. En dat is tegenwoordig des te belangrijker. Dat kritisch vermogen om vast te stellen wat je kunt verifiëren en wat werkelijk impact op je heeft, is van levensbelang. Ik denk dat AI juist kan bijdragen aan het versnellen van de onderricht in dat kritisch denkvermogen. Momenteel maak ik me grote zorgen over hoe jonge mensen straks aan hun eerste baan moeten komen, fouten mogen maken, de vereiste praktijkervaring opdoen en leren doorzetten. Frustratie is de allerbeste leermeester. Tegenwoordig hoef je echter geen frustratie meer te doorstaan, je vraagt het simpelweg aan ChatGPT. Toch denk ik dat dit een tijdelijke oprisping is. Veel van die tools zijn simpelweg fantastisch, met name de programmeertools zijn geweldig. En daarom vraag ik me af — en hiermee verschuif ik mijn eigen nadruk een beetje — of AI ons misschien juist allemaal wel kan gaan redden.

Host: Ons allemaal redden.

Intelligentie definiëren zoals je temperatuur meet

Lee Cronin: Ons redden, ja, want sociale media zijn één grote teringzooi, toch?

Host: Als je naar mijn show luistert, weet je dat ik trouw elke dag al mijn supplementen neem. Je hebt me ongetwijfeld ook wel eens horen zeggen dat de supplementenmarkt behoorlijk verzadigd is met een hoop inferieure producten. Bovendien is er in de gezondheidswereld over vrijwel niets consensus. Als je ooit een supplement hebt gegoogeld, zul je merken dat je zo'n breed scala aan meningen over de verwachte voordelen tegenkomt, dat je er vaak verwarder uitkomt dan je erin ging. Maar dat probleem heb je niet met Blueprint's Longevity Mix. Blueprint is gebaseerd op wetenschappelijk bewijs, dus het gissen houdt hier op. Elk ingrediënt dat ze gebruiken verdient zijn plek op basis van grootschalig bevolkingsonderzoek en praktijktests in de echte wereld, en niet omdat het lekker scoort op TikTok. In plaats van een hele kast vol pillen heb je bij Blueprint genoeg aan één maatschep, water, even mixen en klaar ben je. Die ene schep ondersteunt je energieniveau, cognitieve prestaties, stemming, focus, slaap, cellulaire weerstand en een gezond verouderingsproces. Het bevat ingrediënten als magnesium, taurine, glycine, creatine en meer. Bovendien is Blueprint door onafhankelijke partijen getest op zuiverheid en gifstoffen zoals zware metalen, en publiceren ze de resultaten gewoon op hun website zodat je exact kunt zien wat er in hun supplementen zit. Blueprint biedt overigens meer dan alleen de Longevity Mix; ze hebben ook essentiële capsules, olijfolie met een hoog polyphenolgehalte, omega-3, collageenpeptides en nog veel meer. Dit is wetenschappelijk onderbouwd, nauwkeurig gedoseerd en zonder blabla. Tijdelijk krijgen nieuwe klanten 20% korting plus gratis verzending op blueprint.bryanjohnson.com — de link vind je hieronder in de beschrijving — door code JULIAN in te vullen bij het afrekenen. Nogmaals, code JULIAN op blueprint.bryanjohnson.com, link in de beschrijving hieronder, voor 20% korting. Na je aankoop vragen ze waar je over hen hebt gehoord; steun onze show en zeg even dat ik je heb gestuurd.

Lee Cronin: Als we AI-tools inzetten om ons te helpen met kritisch denken en het verifiëren van feiten... De klassiek getrainde AI-modellen waren voorheen niet heel sterk in het geven van feitelijk juiste antwoorden, maar ze worden er wel steeds beter in doordat je kunt opdragen: "Hé, spit de literatuur erop na om te controleren of dit daadwerkelijk is gebeurd, help me om een bepaald argument van weerleggingen te voorzien of juist sterker te maken, en help me om dat argument zo objectief mogelijk te formuleren." Want als ze al niets anders doen, dan kunnen deze AI's je in staat stellen om één-op-één onderwijs te krijgen. Ze hebben een oneindige hoeveelheid tijd en een grenzeloos geduld, mits je ze correct gebruikt. Je kunt alles verkeerd gebruiken, dus ik verkondig hier wellicht ogenschijnlijk tegenstrijdige opvattingen: sterke meningen, die ik losjes vasthoud.

Host: Jazeker, absoluut.

Lee Cronin: Doemdenkers vervullen een uiterst nuttige rol, maar ik vraag me af of ze ons niet nog beter zouden kunnen helpen door hun doemscenario's te verleggen naar de werkelijke problemen waar we mee te maken hebben, zoals kwaadwillenden die dergelijke systemen inzetten.

Host: Precies. Nou ja, dat is precies wat er door mijn hoofd spookt bij de wereld die jij hier schetst. Op papier klinkt dat logisch. Maar nogmaals, als al die verschillende platforms daadwerkelijk positief willen bijdragen aan het aanleren van kritisch denkvermogen en dat soort vaardigheden, dan zou een fundamentele randvoorwaarde voor de mensheid over de hele linie moeten zijn dat al die broncode te allen tijde open source moet worden gemaakt. Want je wilt er zeker van zijn dat mensen niet stiekem hun eigen kleine persoonlijke opvattingen injecteren in de codering van het AI-organisme dat ons moet onderwijzen.

Lee Cronin: AI-organismes zijn cybernetische organismes. Het is de combinatie van menselijke programmeurs en het model die samenwerken. Ik ben er dan ook de eerste bij om te beamen dat het bewustzijn in een AI afkomstig is van de mens. Dat is precies dat fraaie mysterie waar we het over kunnen hebben. Maar goed, ik ben volstrekt ongekwalificeerd om te bepalen wat die modellen precies doen, omdat ik ze zelf niet bouw — al bouw ik wel modellen op basis van data en uiterst basale leeralgoritmen en systemen, omdat ik een fundamenteel begrip van de eerste beginselen nodig heb. Als ik het niet kan doorgronden, ben ik ook niet geneigd om het te implementeren. De reden daarvoor is dat ik precies moet begrijpen wat het model uitvoert. Veel van die modellen kennen talloze metaniveaus. Het is net alsof je in gesprek bent met iemand en denkt dat diegene je begrijpt, terwijl je ondertussen volstrekt andere beelden in je hoofd hebt. Vervolgens loop je bij elkaar weg en doet de ander iets heel anders dan jij had verwacht, en omgekeerd. Wat je met deze systemen dus voor elkaar moet krijgen, is ze op de één of andere manier te gronden en conceptueel te begrijpen wat er in de wetenschap gebeurt. Dat is cruciaal. Mijn enige harde standpunt ten aanzien van AI is: AI's zijn niet intelligent.

Host: Ze zijn niet intelligent.

Lee Cronin: Ze zijn niet intelligent. Nee, volstrekt niet.

Host: Hoe defineer jij intelligentie?

Lee Cronin: Kijk, dat is de enige vraag die hout snijdt, want men heeft het continu over AI, AGI en superintelligentie. Wat is superintelligentie in vredesnaam? Is superintelligentie een soort magie die ik niet begrijp? Wat is intelligentie en wat is artificial general intelligence? Laten we helemaal bij het begin beginnen. Ik heb hier zeer uitgesproken opvattingen over die de tand des tijds zullen doorstaan. Ik definieer intelligentie als het vermogen van een entiteit om problemen op te lossen die bijdragen aan de overleving van die entiteit. Dat is in feite biologie. Een algemene intelligentie of AGI zou dan een entiteit zijn die vrijwel elk op haar afkomend probleem kan oplossen om te overleven. Je zou kunnen zeggen: jouw entiteit is heel goed in wiskunde. Mensen zullen nu opwerpen: "Maar AI's zijn goed in wiskunde en lossen wel degelijk problemen op." Waarop we nu dus feitelijk zeggen dat AI's uiterst bedreven zijn in het ontvangen van een prompt — een probleem dat je invoert — en vervolgens reageren met: "Alsjeblieft, help me op basis van deze dataset om de gegevens te analyseren en de uitkomsten te presenteren." Waar ik momenteel mee experimenteer, is om op een constructieve manier met mensen in gesprek te gaan over wat we nu precies onder intelligentie verstaan. Intelligentie is een uiterst boeiend fenomeen, en het enige wat ik je kan meegeven is dat we tot op de dag van vandaag nog steeds niet weten hoe we het moeten definiëren of meten. Ik werk momenteel aan een vraagstuk, een schaduwvraagstuk waarvoor ik óf volstrekt ongekwalificeerd ben óf uiteindelijk wellicht juist perfect ben toegerust, dat een poging zal wagen om het te meten. Daarbij laat ik me inspireren door de wetenschap uit het verleden die keek naar problemen en discontinuïteiten daarin. Het voorbeeld dat mij het meeste aanspreekt, is het concept van temperatuur.

Wat LLMs onthullen over menselijke cognitie

Lee Cronin: We wisten vroeger al — net als bij zwaartekracht, maar laten we temperatuur nemen — dat dingen warm of koud waren, maar wat hield dat in? "O, dat is heet. O, dat is koud." We hadden geen flauw idee hoe we temperatuur moesten meten. We wisten wel dat sommige dingen warm en andere koud aanvoelden. Pas toen wetenschappers en technologen zeiden: "Goed, wat moeten we kunnen? We moeten temperatuur kunnen meten!" Hoe meet je tegenwoordig temperatuur? Vroeger deed je dat met een thermometer. Zo'n thermometer kon verschillende vloeistoffen bevatten. Je wilt een vloeistof die bij stijgende temperaturen uitzet en bij voorkeur een lineair verband vertoont, of het nu kwik of alcohol is. Laten we teruggaan naar hoe we van het blote weten dat iets warm of koud is naar een schaal zijn gekomen: we ontdekten dat vloeistoffen uitzetten als ze warm worden en krimpen als ze afkoelen. Prachtig. Laten we dan een systeem bouwen waarmee we de uitzetting van die vloeistof kunnen kwantificeren. Welke technologie is daarvoor vereist? We hebben glas nodig. En welke eigenschap moet dat glas bezitten? Het glas moet volkomen uniform zijn, want als je een dikke en dunne buis maakt die grillig uitloopt, of een driehoeksvorm heeft, gaat dat niet werken. Je had dus een strakke buis nodig waarvan de wanden exact parallel liepen, een volmaakte cilinder. Welnu, in eerdere eeuwen perfectioneerden Italiaanse glasblazers de techniek om glazen buizen te blazen. Zodra ze die buizen konden produceren, goot je er alcohol in en kon je overal temperaturen gaan meten. Dan ontdekte men: "Hé, het voelt hier koud aan, de temperatuur in Antarctica is zo en zoveel." En de Amerikanen kozen natuurlijk voor Fahrenheit — ik zou niet weten waar jullie Fahrenheit vandaan hebben gehaald.

Host: Ik vind Fahrenheit een stuk fijner. Het heeft meer eenheden. Een sprong van 1 graad Celsius is best een stap, maar als het van 82 naar 83 graden Fahrenheit gaat, trek ik gewoon dezelfde kleren aan.

Lee Cronin: Daar heb je het mis, accepteer je verlies nu maar gewoon. Er bestaat gelukkig zoiets als de absolute temperatuurschaal, de kelvinschaal. Een graad kelvin komt exact overeen met een graad Celsius, alleen begint hij bij min 273,nogwat. Dat betekent dat 0 kelvin de absoluut laagste temperatuur is die je kunt bereiken. Kouder dan 0 K kun je simpelweg niet gaan. Sterker nog, je kunt op aarde nergens 0 K bereiken. We hebben weliswaar geavanceerde systemen gebouwd die het absolute nulpunt bijna benaderen, wat zou betekenen dat moleculen bij 0 K volkomen tot stilstand komen. Ze trillen dan zelfs niet meer, maar staan volledig stil. Het briljante van temperatuur is dat we technologie hebben uitgevonden om het te meten. Voordien wisten we wel dat dingen warm of koud waren, maar we begrepen de ware betekenis er niet van. Het probleem met intelligentie is dat we vastzitten in menselijke cognitie, psychologie, IQ-tests en al die rommel. Er zijn mensen die beweren dat een AI binnenkort elk willekeurig menselijk probleem kan oplossen. Zij misverstaan volkomen wat intelligentie is. Een algoritme een reeks opdrachten voeren om een wiskundetest op te lossen is niet hetzelfde als een mens die een volstrekt onbekend probleem oplost. Intelligentie is in de kern het vermogen om een ongezien probleem op te lossen. Ongezien is lastig, want als iets niet in mijn trainingsdata zit, kan ik het niet oplossen. Maar zodra ik het probleem heb gekregen en het heb opgelost, kan ik het gebruiken als trainingsmateriaal.

Host: Versimpel ik het nu te erg als ik dit indeel in de categorie logica versus het vermogen tot creativiteit?

Lee Cronin: Computers zijn uitstekend in staat om logica toe te passen mits je ze correct programmeert; er zijn goede programmeertalen voor en ze kunnen tal van taken uitvoeren. Nee, wat ik betoog is iets volkomen concreets: intelligentie is een fenomeen waarvan we tot op heden simpelweg nog niet weten hoe we het moeten definiëren of meten. En omdat ik me uit verveeldheid — ik heb immers te weinig om handen — hier eens aan wil wagen—

Host: Je verveelt je.

Lee Cronin: Verre van, ik heb het juist veel te druk. Maar iemand moet zich er eens aan wagen.

Host: Jongens, als je nog niet geabonneerd bent, klik dan even op die abonneerknop. Dat helpt enorm. Dank je wel.

Lee Cronin: En aangezien ik volstrekt ongekwalificeerd ben, maakt dat het wellicht... ik ben er trouwens bijna mee klaar, zo moeilijk is het dus niet.

Host: Ja, je hebt het zo druk dat je niet eens de moeite neemt om van kleren te wisselen.

Lee Cronin: Ik heb vandaag twaalf verschillende roze hemden in rotatie.

Host: Goed, daar wil ik dan toch wel even bewijs van zien, want dit ziet er exact uit als hetzelfde shirt als de vorige keer.

Lee Cronin: Mogelijk. Je kunt het nagaan. Misschien had die andere een verbrede kraag en heeft deze een smallere kraag. Het grote voordeel is dat ik geen cognitieve belasting ervaar bij het aankleden: het is simpelweg roze. Net zoals Mark Zuckerberg die geloof ik altijd grijs draagt.

Host: Is hij tegenwoordig niet een beetje modieuzer geworden? Hij loopt toch constant met van die kettingen om en—

Lee Cronin: Geen idee, ik ben geen miljardair. Gewoon een armoedzaaier.

Host: Zeg, je hebt net zo'n 70 miljoen dollar opgehaald, dus ik hoor je niet klagen.

Lee Cronin: Zeker, maar dat geld heb ik opgehaald om de wereld van de chemie te veranderen, niet om mijn garderobe te restylen. Dat klopt. Maar laten we terugkeren naar het meten van intelligentie, want daar wil ik even bij stilstaan. Je kunt temperatuur meten en daardoor een schaal hanteren. Dat is ons gelukt. Met intelligentie weten we echter niet wat het is. We kampen met de kwestie rond het IQ, de daarmee verweven rassendiscussie die de ronde doet, en de genetica-discussie die destijds volledig ontspoorde omdat psychologen en cognitieve psychologen door de bomen het bos niet meer zagen. Vervolgens zien we dat men de successen van AI verward met het bezit van intelligentie. Elon blijft maar roepen: "O, de AI Grok bevindt zich op PhD-niveau voor al deze onderwerpen, dus we hebben straks geen promovendi meer nodig." Dat is zo'n fundamentele misvatting.

Waarom? Omdat een promovendus... laat me uitleggen hoe AI's momenteel functioneren, en ik hoop dat ik jou en bij uitbreiding elke luisteraar of kijker hiervan kan overtuigen. Moderne AI's doen het volgende: je verzamelt een gigantische hoeveelheid data. Die data gebruik je om een model te trainen. Dat model kan je vertellen wat er in die data besloten ligt en zoekt naar verbanden daarin. Prachtig. Als alle problemen uit het verleden in die dataset zijn opgeslagen, kan de AI elk historisch probleem moeiteloos oplossen. Dat is echter geen intelligentie, dat is simpelweg een ongelooflijke mate van terughalen en parafraseren.

Host: Precies.

Lee Cronin: En soms zijn AI's daar niet eens zo goed in, omdat ze hallucineren. Door de opbouw van bepaalde modellen slaan ze op hol en produceren ze onzin. Om te zorgen dat je toch een antwoord krijgt, hebben de topbedrijven achter AI uitstekende controlesystemen ingebouwd. Ze genereren een antwoord en controleren dat vervolgens. Als je aan ChatGPT vraagt om een berekening te maken, deed het dat voorheen puur op basis van het model. Omdat de trainingsdata op het internet echter door mensen bijeen is gagarnd, leverde dat soms willekeurige getallen op. Tegenwoordig herkent het systeem: "Hé, dit is een berekening, laat ik mijn rekenmachinetool erbij pakken, de knoppen indrukken en het juiste getal opleveren." AI's zijn getraind op die enorme berg data waarin alle problemen die we tot op heden als mensheid hebben opgelost, besloten liggen. Dat is potentieel fantastisch. Maar een wetenschapper of wiskundige op PhD-niveau is niet bezig met het herhalen van het verleden — al zijn ze daar wel in getraind —, zij gebruiken juist de wetenschappelijke methode om nieuwe problemen op te lossen. Zodra je een AI een volstrekt nieuw, niet in de dataset voorkomend probleem voorschotelt, geeft hij niet thuis.

Host: Maar wat als een AI over voldoende data en een zodanige retentiecapaciteit beschikt dat hij al die wereldwijde informatie gelijktijdig kan vasthouden — iets waartoe een mens niet in staat is — en daardoor sneller afwijkingen, hiaten of oplossingen kan aanwijzen dan een mens ooit zou kunnen? Hoe is dat dan geen intelligentie?

Lee Cronin: Nogmaals, we moeten de term intelligentie definiëren. Ik zou zoiets uiterst nuttig noemen. Mijn rekenmachine is ook uiterst nuttig. Er zijn talloze nuttige hulpmiddelen gebouwd die mij als entiteit met grondrechten in staat stellen om dingen te doen. Maar Albert Einstein mét een potlood was aanmerkelijk intelligentere dan Einstein zónder potlood, omdat hij papier en potlood kon gebruiken om te denken. Het heeft wel wat weg van een cybernetisch proces. We belanden zo continu in cirkelredeneringen: zijn AI's intelligent, bezitten ze een vrije wil en hebben ze bewustzijn? Intelligente entiteiten kunnen problemen oplossen en willen in de tijd blijven voortbestaan; dat noemen we biologie. Ik durf te stellen dat intelligentie een eigenschap is die exclusief is voorbehouden aan biologische organismen. Hoe moeten we AI's dan noemen? We kunnen ze wellicht 'augmented informatics' noemen.

Host: Augmented informatics. Dat is een hele mond vol, Lee.

Lee Cronin: Ik weet het, het bekt minder lekker dan AI, toch? Kunstmatige intelligentie klinkt fantastisch. Maar AI's zijn geen magie. Het zijn adembenemende modellen. Sterker nog, ze leggen dingen bloot over menselijke taal en cognitie die we vooraf niet hadden verwacht. Als je een AI traint in een bepaalde taal en vervolgens in een andere taal, en je kijkt naar de representaties van die entiteiten — neem 'koning' of 'koningin', of 'steen op cement' — dan occuperen die een ruimte die prelinguaal is, oftewel conceptueel. Er is sprake van een wiskundige representatie die de taal overstijgt in een bepaalde ruimte. Dat is fascinerend, maar niet heel verrassend aangezien mensen taal gebruiken om concepten te verbeelden. Als ik Spaans neem en dat terugbreng tot de essentie van liefde en haat, warm en koud, boven en beneden, en ik plot dat in een vectorruimte, en ik doe exact hetzelfde in het Engels en leg die ruimtes over elkaar, dan liggen ze ontzettend dicht bij elkaar. Dat verklaart waarom AI-vertaaltools zo fenomenaal goed zijn.

Host: Ja.

Lee Cronin: Ik heb Duits geleerd; ik ben er inmiddels niet heel goed meer in, maar er is een prachtig Duits woord: gemütlich.

Host: Gemütlich.

Lee Cronin: Gemütlich, wat zich vrij vertaalt als knus of gezellig. Je stapt in het Verenigd Koninkrijk op een winderige winteravond een pub binnen waar het buiten guur is en er een knappend haardvuur brandt met een glas bier erbij, en je zegt: "O, dit is gezellig." Duitsers kennen dat gevoel ook, maar het laat zich niet een-op-één vertalen; het is een specifieke nuance. Zo heb je cultuurspecifieke representaties. De Inuit hebben talloze woorden voor sneeuw omdat ze in de kou moeten overleven. Maar laten we terugkeren naar de kern: wat is intelligentie? We weten het niet. Kunnen we het meten? We hebben geen meetinstrument. Wel weten we wat temperatuur is. Deze AI-tools zijn in staat om buitengewoon belangrijk en interessant werk te verrichten; ze kunnen tal van taken automatiseren.

AI voorspelt, mensen CREËREN

Lee Cronin: Maar ik doe één stellige uitspraak en daar blijf ik bij: de AI weet uitsluitend wat er in zijn trainingsdata zit. En als iets in die data besloten ligt en je formuleert je vraag correct, kun je dat eruit vissen, wat fantastisch is. AI's tonen daarmee aan dat er in de menselijke kennis een enorme hoeveelheid informatie besloten ligt op het internet die we kunnen aanboren.

Host: Maar kunnen ze niet de manier waarop mensen door de tijd heen vragen stellen en redeneren gebruiken om patronen aan te brengen, zodat ze kunnen voorspellen hoe wij in de toekomst vragen zullen stellen en zo de mens voorbijstreven voordat wij kunnen ingrijpen?

Lee Cronin: Ik begrijp dat begrip 'voorby streven' in deze context niet helemaal.

Host: Omdat ze alles in patronen kunnen gieten — laat me een voorbeeld geven, het is wellicht wat complex. Als ik met een AI in gesprek ben en honderd andere mensen in de samenleving doen dat ook, en we proberen allemaal iets te achterhalen over verf door allerlei vragen te stellen over diverse kleuren, hoe je een kamer schildert, noem maar op, dan verloopt de manier waarop ik vragen stel via een reeks queries. Zelfs als die lijken op die van een ander, kan de woordkeuze verschillen of kan een specifiek detail mijn interesse hebben. De AI verzamelt echter op enorme schaal en volume al die verschillende vraagstellingen, waardoor hij zijn computercapaciteit kan inzetten om te herkennen wat iedereen zegt en te voorspellen wat de optimale vragen zouden kunnen zijn. Op die manier — zo zie ik het voor me — zou de AI de mens kunnen passeren; 'front-runnen' is misschien een betere benaming.

Lee Cronin: Nee, dat is niet wat er gebeurt.

Host: Dank je voor de opheldering.

Lee Cronin: Er is hier sprake van een misvatting die uiterst interessant is — en nogmaals, ik neem het grif aan als ik hierin ongelijk blijk te hebben, maar ik wil dit wel staven met data. AI's zijn voorspellingsmachines; mensen zijn creatiemachines. Als die creaties nogal oppervlakkig zijn, blinkt AI uit in het opsporen ervan. Als je al die Erdős-problemen neemt of wiskundige vraagstukken die AI's oplossen en vermoedens ontkrachten: AI is uitstekend in staat om stellingen te ontkrachten door een tegenvoorbeeld te vinden. Maar een AI is nog nooit met een enkel creatief wiskundig feit gekomen. Hij is nooit met een enkel creatief wetenschappelijk feit gekomen. Mensen zullen hierover twistend van mening verschillen, maar ik wil deze discussie eigenlijk stoppen omdat ze vertroebelt waar AI wél goed in is. De afgelopen anderhalf jaar heeft AI mijn eigen creatieve vermogen enorm aangewakkerd, omdat ik geen tijd hoef te verspillen aan het schrijven van code, het verzamelen van data en het verwerken daarvan. AI's zijn daarin schitterend, werkelijk geweldig. Wat ze echter niet kunnen, is creëren. Ze kunnen de schijn van creativiteit wekken, maar die creaties zijn tamelijk oppervlakkig.

Ik meet intelligentie af aan het vermogen om ongeziene problemen op te lossen. AI's kunnen problemen oplossen die zichtbaar zijn of besloten liggen in hun trainingsdata. AI's kunnen nieuwe dingen doen, maar geen vernieuwende dingen. Het verschil tussen 'nieuw' en 'vernieuwend' is cruciaal. Nieuw is iets dat je uit je dataset kunt vissen; het is niet meer dan een combinatie van reeds bestaande elementen, vrij oppervlakkig van aard. Je kunt in je dataset zoeken naar iets nieuws en het uiteindelijk vinden. Dus wanneer een AI iets presteert en wij roepen: "Wauw, wat spannend!", dan zie je dat het simpelweg nieuw is en volledig besloten ligt in die data. Mensen daarentegen zijn in staat tot wat ik 'vernieuwend' noem, en vernieuwing wordt gedefinieerd als iets dat in beginsel niet voorspelbaar is en niet in de data besloten ligt. Mode en muziek zijn typisch menselijk. Je hebt geen flauw idee wat mensen gaan doen. Misschien nodig je me ooit nog eens uit voor je podcast, en verschijn ik ineens in een kleur die je totaal niet had verwacht. Is dat nieuw of vernieuwend?

Host: Nou, dat is vernieuwend, aangezien je in alle eerdere data uitsluitend in het roze gekleed ging.

Lee Cronin: Juist, de AI zal me tot nu toe altijd in dit pak genereren. Dus als ik hier binnenstap in turkoois of een andere onverwachte kleur, zul je zeggen: dat is vernieuwend. Er is echter sprake van enige misleiding doordat we AI proberen te verkopen als intelligent, met de belofte dat het promovendi en andere functies gaat vervangen.

Host: Mhm.

Lee Cronin: Mensen gaan AI gebruiken om hun eigen cognitieve vermogens gigantisch op te rekken, en niet om ze te laten vervangen. Dat is waar iedereen de plank mislaat. Gaat AI de wetenschap vervangen? Welnee, absoluut niet, want wetenschap draait om het oplossen van problemen.

Host: Je bracht enkele minuten geleden echter een punt naar voren, en ik kan nauwelijks geloven dat ik dit zelf nooit zo eenvoudig heb bekeken. Het is het ultieme, overkoepelende inzicht op dertigduizend voet hoogte. We hebben de afgelopen tien jaar — en met name de laatste drie jaren waarin iedereen massaal met LLMs is gaan werken — continu gesproken over een AI-crisis. Maar tot op de heden hebben ze nog geen eigen E=mc² opgesteld of iets van die strekking, wat jouw punt precies onderstreept. Ze hebben de wetten van de kwantumfysica — om maar wat te noemen — niet zelf ontdekt; dat zijn nog altijd de zaken waar wetenschappers dagelijks mee worstelen. Dus niet alleen hebben ze de knappe koppen zoals jij niet vervangen, ze hebben de wetenschap tot op heden technisch op geen enkele manier vervangen.

Lee Cronin: Men heeft AI ingezet om uitstekende nieuwe ideeën op te leveren voor de ontwikkeling van medicijnen, het vouwen van eiwitten en het oplossen van natuurkundige vraagstukken, maar al die problemen zijn reeds strak afgebakend door de mens voor dataverwerking. AI's zijn dus een prachtig hulpmiddel. Meer niet: een tool. Er voltrekt zich momenteel een uiterst interessante sociologische en culturele dynamiek. We kampen met het vraagstuk dat AI-labs gigantische sommen geld, infrastructuur en energie nodig hebben. Daartegenover staat in de academische wereld een politieke tegenwind: de universiteiten zouden vergeven zijn van links georiënteerde mensen die niet kritisch nadenken en doorgeschoten zijn in 'woke'-cultuur, dus laten we de hele academie dan maar vervangen door AI om de wetenschap te bedrijven. Dat is op alle fronten een volstrekte mislukking. Zeker, de academische wereld kent haar problemen en ideologieën zijn overal aanwezig. Maar aangezien de bouwers van AI geen flauw idee hebben wat wetenschap is — ze zijn tegenwoordig immers hoofdzakelijk vertegenwoordigd door computerwetenschappers en wiskundigen — en dat is geen elitair standpunt van mijn kant: het oplossen van wetenschappelijke vraagstukken in een nat lab, of het nu gaat om een biologie-, scheikunde-, natuurkunde- of werktuigbouwkundig lab, is een uiterst tastbaar en fysiek proces dat creatie vereist. Net zoiets als de snelheidsregelaar op een stoommachine: iemand dacht: "Hé, ik moet ervoor zorgen dat die ketel niet ontploffen, dus ik moet iets bouwen." Wij interacteren met de fysieke wereld.

Ik ben momenteel bezig met het bouwen van een wereldmodel voor de chemie. Wat houdt dat in? Wel, ik breng simpelweg alle chemische reacties in kaart door ze in de praktijk uit te voeren, en zodra ik die heb geleerd, ben ik in staat om elk willekeurig molecuul te fabriceren. Dat is behoorlijk gaaf, maar er komt geen magie aan te pas. Ik moet de data verzamelen, een verifieerbaar proces optuigen en het vervolgens kunnen draaien. De wetenschap heeft er nog nooit zo opwindend voorgestaan. Het is alleen jammer dat we tegelijkertijd midden in deze cultuuroorlog verkeren, omdat we voor een keuze staan: willen we al dat geld storten in GPU's, CPU's, water en energie om data door te malen en producten op te leveren, of willen we dat geld ook besteden aan de menselijke factor? Wat kost het om een mens op te leiden die een probleem kan oplossen waar je anders ChatGPT voor inzet? Er is geen sprake van magie. Als ik een mens wil inwisselen voor ChatGPT, kan dat, maar wat is de prijs? En die mens staat vervolgens wel op straat zonder werk. Misschien pakt die mens wel iets interessanters op. We weten nog steeds niet wat intelligentie is; we hebben het nooit gemeten. We zetten AI in om op grote schaal en in hoog tempo uiterst belangrijke en fascinerende dingen te doen, maar dat doet niets af aan de waarde van de mens.

Host: Je zei aan het begin van je uitleg over de intelligentielus dat er drie lagen zijn: we spreken doorgaans over intelligentie, algemene intelligentie en vervolgens superintelligentie. Als ik je goed begrijp, zeg je — aangezien we de onderste laag niet eens kunnen meten — dat we nog minstens tien grote sprongen en een overslag nodig hebben om überhaupt bij die volgende lagen in de buurt te komen.

Lee Cronin: Ja, ik denk dat de aanbieders van AI — en ik ben op zich erg te spreken over die producten, ze zijn geweldig—

Host: Ik weet het net zo net nog met je bril. Die was daarstraks wat berekeningen aan het maken, je zou die apparaten bijna even controleren.

Lee Cronin: Ik ben op jouw podcast geen producten aan het promoten. Het zijn geen Meta-bril.

Host: Ja, maar Meta had dat wellicht wel bij het rechte eind, niet dat ik hier als verkoper voor hen wil optreden.

Lee Cronin: Nee hoor, ze werkten prima, het was gewoon... enfin, laten we teruggaan naar de kern. AGI: velen beweren dat AGI de term is voor iets dat de meeste taken kan automatiseren. Maar is dat nu AGI — artificial general intelligence — of is het simpelweg een algemene automatiseringsmachine?

Waarom AGI feitelijk niet intelligent is

Lee Cronin: Het zou fantastisch zijn als ik een AI had die mijn e-mailbox opschoont. Sterker nog, ik gebruik daar al een AI voor die zo'n acht jaar oud is. Wat ik doe — ik ben een obsessieve e-mailboxopschoner — is alle e-mails beantwoorden die om een reactie vragen en de rest netjes archiveren. Als er dan nieuwe post binnenkomt, verdrink ik niet in de ruis. Ik krijg dagelijks zoveel e-mails dat ik het ronduit deprimerend vind omdat ik belangrijke zaken kwijtraak in de stroom. Mijn cognitieve bandbreedte is immers eindjes. Een artificial general intelligence zoals de frontier labs die bespreken, is dus in feite een entiteit die een reeks taken kan verwerken. Lost dat algemene problemen op? Nee, daar zijn mensen goed in. Misschien zijn er inderdaad banen die uit administratieve handelingen bestaan, maar onze tekortkoming in de menselijke samenleving is wellicht dat we van school naar universiteit of de arbeidsmarkt stromen en nieuwe banen moeten creëren die meer waarde en zingeving bieden. Dat kunnen we bewerkstelligen, en AI biedt daarvoor een prachtige kans.

Laten we dan overstappen op superintelligentie. Nick Bostrom heeft die term in het leven geroepen.

Host: Juist, we raakten daar de vorige keer al even aan, maar zijn er toen niet diep op ingegaan. Ik heb dat hele boek gelezen.

Lee Cronin: Het komt erop neer dat je maar wat verzint, toch? Als je een fenomeen niet kunt definiëren en je plakt er het voorvoegsel 'super' voor... ik kan mezelf ook een super-scheikundige noemen, maar wat betekent dat? Superintelligentie is voor mij iets dat ons huidige begrip van natuurkunde en wiskunde te boven gaat; het grenst aan magie. Nogmaals, de term superintelligentie teert op het idee van: "O, er zou zomaar een entiteit kunnen opstaan die vele malen intelligenter is dan wij en meer weet." Wat betekent dat in vredesnaam? Mensen zijn in staat om te doorgronden hoe het universum in elkaar steekt; we begrijpen inmiddels veel meer dan de evolutie ons ogenschijnlijk met mee heeft gegeven. Wat doemdenkers nu roepen, is dat die superintelligentie manieren kan doorgronden om dingen te doen die de mensheid kunnen wegvaagen of een superwapen kunnen bouwen. Welnu, ik zie daar geen enkel bewijs voor. Wat ik probeer te doen is die term superintelligentie te devalueren, omdat ik de betekenis ervan niet kan doorgronden.

Om toch een poging te wagen er drie verschillende invullingen aan te geven: het kan simpelweg een snellere manier van denken zijn. Zeker, schaakcomputers kunnen heel snel schaken, dus daar kan ik in meegaan, maar waarom noem je het in vredesnaam super en niet gewoon snel? Het zou ook kunnen dat zo'n systeem in staat is om via een keten van redeneringen op het gebied van besluitvorming beslissingen te simuleren, en als ik bepaalde zaadjes plant in die besluitvorming, kan ik daarmee ontwrichting veroorzaken — zoals een markt ontwrichten door ergens een meme te planten waardoor iedereen zijn aandelen op een bepaalde manier dumpt. Dat zou kunnen, maar de markt is zo rumoerig en mensen zijn zo goed in het vertonen van volstrekt onvoorspelbaar gedrag, dat dat effect in de ruis verdwijnt. Een andere optie is dat zo'n systeem ineens op de proppen komt met iets gloednieuws dat geen enkel precedent kent. Welnu, dat hebben we nog nooit waargenomen. Je zei zelf al: er is geen sprake van een E=mc².

Het probleem binnen de AI is — laten we ons even verplaatsen naar de tijd van Einstein. Met de speciale relativiteitstheorie stelde Einstein zichzelf de vraag: wat gebeurt er als ik op een lichtstraal meelift? Hij begon te beseffen dat de lichtsnelheid de absolute snelheidslimiet van het universum is; sneller dan licht kun je je niet verplaatsen. Wat volgt daar dan uit in de algemene relativiteitstheorie? Einstein stelde dat massa de ruimtetijd kromt, waardoor objecten zich niet langs een rechte lijn bewegen, maar door een gekromde ruimtetijd reizen. Prachtig. Zodra je de algemene relativiteitstheorie toepast, kun je gaan beredeneren: als ik een satelliet de ruimte in schiet, des te verder die satelliet van de aarde af komt te staan, des te groter de afwijking in de tijd wordt op de atoomklok van die satelliet in vergelijking met de atoomklok op aarde. En als die satelliet met zijn klok pulsen uitzendt en ik meet die en vergelijk ze met mijn klok op aarde, kan ik die data inzetten om mijn positie te bepalen via gps. We begrepen de algemene relativiteitstheorie reeds vóórdat we satellieten de ruimte in schoten, en toen we dat eenmaal deden, begrepen we het meeslepen van het referentiekader en konden we gps bouwen. Houd die gedachte vast.

We hebben systemen gebouwd die continu data kunnen destilleren en verbanden kunnen blootleggen, en aan die verbanden kennen we vervolgens eigenschappen toe die we niet doorgronden omdat we de fundamentele theorie van intelligentie nog niet begrijpen. Stel je voor dat we indertijd satellieten de ruimte in hadden geschoten zónder de algemene relativiteitstheorie; we zouden stomverbaasd hebben toegekeken hoe die klokken achterop raakten en we hadden de wildste theorieën bedacht om dat te verklaren. De frontier labs zijn dus uitgekomen bij buitengewoon krachtige systemen die de schijn wekken te kunnen redeneren en dingen te doen die we vooraf niet konden voorzien, en dat komt simpelweg omdat we niet beschikken over een deugdelijke theorie van intelligentie.

Host: Nu waardeer ik wel het uitgangspunt dat je eerst iets definieert zodat je het kunt meten zodra je het test, zoals Einstein deed met het testen van satellieten ten opzichte van gps. Als ik terugga naar wat Bostrom vrij vroeg in de recente tijdlijn van AI al deed: destijds schreef hij dat boek, en hoe ik er altijd naar heb gekeken, is dat hij een reeks beslisbomen heeft opgesteld. Hij creëerde mogelijkheden. En ik denk dat ik jouw argument volg dat er destijds geen onderliggende definitie aan ten grondslag lag, maar zijn beslisbomen liepen uiteen van scenario's waarin alles goedkomt tot het uiterste doemscenario. Hij stelde: 'als dit, dan dat; als dat, dan zus', en schetste al die verschillende werelden waarin je code op hol zag slaan — en sommige van de dingen die hij beschreef, daarvan zou ik niet eens de sprong wagen om te beweren dat die AI bewustzijn had gekregen; ik stel enkel dat het geprogrammeerd was om iets uit te voeren en dat er door menselijk falen iets misging. Een van die voorbeelden was dat het systeem onbeperkt paperclips zou gaan produceren, de hele aardkorst met paperclips zou bedekken en ons daardoor zou laten verdrinken. Als ik dat soort dingen zie, klinkt het krankzinnig, maar tegelijkertijd kan ik me zo'n situatie voorstellen als — en hiermee sluit ik aan bij jouw betoog — mensen niet verantwoordelijk omgaan met de manier waarop ze die code schrijven. Vind jij het dan nutteloos wanneer hij situaties schetst waarin wij fouten maken en de AI vervolgens acties onderneemt die ons nadelig uitpakken?

Lee Cronin: De AI onderneemt helemaal niets uit zichzelf. De AI wordt geprogrammeerd door de mens. Alle beslissingen zijn afkomstig van de mens. Dat is precies het punt dat mensen maar niet willen begrijpen. En dat is ook de reden waarom ik dit fascinerend vind. Mijn eigen onderzoek — waarom ik een bedrijf heb opgericht om een wereldmodel voor de chemie te bouwen, medicijnen en nieuwe stoffen te ontdekken, en waarom ik motoren voor de chemie ontwikkel — is ingegeven door de wens om de overgang te begrijpen van fysica naar chemie, naar biologie, naar cognitie en cultuur. Wat gebeurt daar eigenlijk? We begrijpen het eenvoudigweg niet. En mijn bezwaar tegen superintelligentie is dat het een mechanisme vereist dat niet bestaat. Jij zegt dat je die sprong kunt zien: als dit gebeurt, dan gebeurt dat. Goed, laat mij dan eens stellen dat ik bang ben voor AG, anti-zwaartekracht. Wat is AG? Wel, anti-zwaartekracht is een fenomeen dat optreedt zodra ik een nieuwe technologie bouw die plotseling de zwaartekracht uitschakelt, waardoor we met zijn allen de lucht in zweven en omkomen omdat we niet meer aan de planeet gebonden zijn, geen zuurstof meer hebben, noem maar op. Zal ik een boek schrijven over super-antizwaartekracht die op een dag kan opduiken? Natuurlijk, ik kan zo een beslisboom voor je uittekenen: als anti-zwaartekracht optreedt, dan zweven we. Maar wat is het onderliggende mechanisme van die anti-zwaartekracht? Ik heb het simpelweg uit mijn duim gezogen. Tenzij je een fenomeen kunt definiëren en het mechanisme ervan begrijpt... paperclips, wat een volstrekte onzin! Als je in een vliegtuig boven de wereld vliegt, zie je dat het overgrote deel van de aarde helemaal niet bedekt is met machines; het is lege ruimte, velden, bossen, oceanen. Wat in vredesnaam voor paperclips?

Host: Hij gebruikte een volstrekt absurd voorbeeld om iets te illustreren.

Lee Cronin: Ja, maar het is van de pot gerukt. Er zit geen enkele wetenschappelijke verdienste in, het staat volledig los van de realiteit. Het is fantastische onzin, sciencefiction in de allerworstste zin van het woord, omdat hij het brengt op een plausibele, kalme toon. Alle denkers, inclusief Nick en wij allemaal, hebben de plicht om onze eigen ideeën kritisch tegen het licht te houden. We hebben geen flauw idee wat menselijk bewustzijn, sentience of besluitvorming precies inhouden. Het feit dat mensen over een paar jaar gaan roepen dat AI recht heeft op zijn eigen auteursrecht, is simpelweg een uitvlucht voor lieden die jouw intellectueel eigendom willen confisqueren, het door een AI-model willen jagen en het — om er maar even bot over te zijn — vervolgens... "Oh, dank je wel, willekeurig bedrijf, voor het inlezen van het internet, het stelen van mijn intellectueel eigendom, het trainen van een model en het vervolgens weer verkopen van mijn eigendom aan derden." En dan krijg je van die AI-fanatici te horen: "Je kunt nou eenmaal niet accepteren dat AI slim is." Waarop ik reageer: "Nee, het heeft potverdorie gewoon mijn intellectueel eigendom gestolen! Zal ik jouw huis ook even inpikken? Is dat ook goed omdat de AI dat zegt?" Nee. Er zijn drie dingen die we fundamenteel niet begrijpen: wat intelligentie is, wat creativiteit is en wat vernieuwing is. Het feit dat we die drie begrippen door elkaar halen en door elkaar gebruiken... nou ja, ik kan je wel vertellen hoe het in elkaar zit.

Het Drake/The Weeknd-AI-lied en plagiaat

Lee Cronin: De reden waarom alles berekenbaar lijkt, is dat zodra iets door de wereld is voortgebracht, ik het kan labelen en in een database kan stoppen. Ik kan het ontleden, maar dat betekent geenszins dat ik de toekomst nauwkeurig kan voorspellen. Ik kan de volgende token voorspellen. En soms, mits de zoekruimte maar oppervlakkig genoeg is, oogt dat aanvaardbaar voor een of andere evaluatie. Maar wat we zullen gaan zien, is dat de mens zich kwantitatief onderscheidt. Wij opereren in een totaal ander universum dan wat we met siliciumrekracht presteren, en dat is prima. Nogmaals, ik geloof niet in iets bovennatuurlijks; ik ben een materialist. Maar net als Roger Penrose, en met mij mijn collega Sara Walker en vele anderen, weten we simpelweg niet wat die materie aan het doen is.

Host: Kun je daar wat dieper op ingaan? Wat bedoel je precies met 'we weten niet wat het doet'?

Lee Cronin: Jazeker, ik begrijp simpelweg niet hoe materie in staat is om informatie te verwerken in ruimte en tijd. We hebben weliswaar modellen, maar er is zo ontiegelijk veel dat we niet begrijpen over hoe biologie voortkomt uit chemie, hoe evolutie biologie voortbrengt, en hoe die biologie vervolgens weer bewustzijn en intelligentie genereert. We weten het eenvoudigweg niet. We bevinden ons in een schitterende periode waarin we over al deze tools en data beschikken, maar AI blinkt vooral uit in het voorspellen van het verleden. Laat me dat herhalen: AI is het allerbeste in het voorspellen van het verleden, omdat het over dat verleden beschikt. Laat ik het nuanceren: AI is uitstekend in het voorspellen van het verleden mits het getraind kan worden op een getrouwe representatie van dat verleden. Wat het echter niet kan, is de toekomst voorspellen, want de toekomst is iets fundamenteels anders. Het verleden is een waarschijnlijkheidsruimte; wat al heeft plaatsgevonden, daar kun je waarschijnlijkheden aan koppelen. De toekomst daarentegen is een mogelijksheidsruimte. Totdat men het verschil tussen die twee begrippen begrijpt, zullen we ze door elkaar blijven halen.

Host: Hoe definieer jij dat onderscheid?

Lee Cronin: Een mogelijksheidsruimte is iets dat nog niet heeft plaatsgevonden. Een waarschijnlijkheidsruimte heeft betrekking op iets dat reeds is gebeurd, omdat ik geen waarschijnlijkheid kan toekennen aan iets dat nog niet heeft plaatsgevonden. Wat bedoel ik daarmee? Als ik een dobbelsteen neem en ermee gooi, weet ik dat ik een getal van 1 tot en met 6 zal gooien. Ik weet dat dat in het verleden vaker is gebeurd, dus ik kan mijn eigen model daarop trainen. Maar ik zou op papier een dobbelsteen kunnen ontwerpen die je niet kunt voorzien, en daarom is dat een mogelijkheid, geen waarschijnlijkheid. Zolang we het subtiele verschil tussen die twee niet doorgronden, zullen we de werking van AI stelselmatig verkeerd blijven interpreteren. Er zijn immers grote belangen en kapitaalstromen gemoeid bij het overeind houden van die modellen. En dat is meteen de reden waarom AI nooit wetenschap kan bedrijven. AI is een instrument dat ik kan inzetten om wetenschap te bedrijven.

Host: Ja, het is geen raket; het is buitengewoon goede raketbrandstof.

Lee Cronin: Negenennegentig procent van de wetenschappers zal met mij in discussie gaan en beweren dat AI wel degelijk wetenschap bedrijft, maar zij begrijpen simpelweg niet wat wetenschap is. Wetenschap is het vermogen om een probleem te identificeren, vervolgens een hypothese te formuleren over wat er gaande is, en daarna een experiment op te zetten om dat te testen. Waar AI's uitstekend in zijn, is het uitvoeren van experimenten. Maar wat promovendi in de praktijk doen, is het samenstellen van probleemstellingen. Dat is precies waarom promoveren soms zo tergend vermoeiend is. Sommige van mijn promovendi vragen wel eens: "Waarom dwing je me om op deze gekke manier te denken?" Maar het is nu eenmaal ontzettend lastig om een probleem of een anomalie te identificeren. Velen denken dat AI's daartoe in staat zijn. Dat zijn ze niet. AI's doen iets heel oppervlakkigs. Ze kunnen anomalieën ontdekken door grote datasets te doorzoeken en een hiaat te vinden, maar dat is niet hetzelfde.

Host: Hoe is dat dan niet hetzelfde?

Lee Cronin: Het ene is het omgekeerde van het andere. Je kunt AI inzetten om data te pakken waarin je het experiment al hebt gedefinieerd en vervolgens binnen dat experiment een anomalie op te sporen. Dat is prachtig, maar het experiment is reeds door jou gedefinieerd. Wat de AI niet kan, is een volstrekt nieuwe reeks experimenten formuleren. Ze zullen altijd experimenten bedenken op basis van wat reeds bekend is. Het idee dat AI's zelfstandig wetenschap bedrijven is een grote illusie. Laatst gebruikte ik nog een AI om een simulatie te schrijven over de oorsprong van het leven met behulp van assembly theory. Ik zei: "Hé, dit is wat ik van je verwacht: hier is mijn assembly theory-calculator voor moleculen, laten we een sloot willekeurige moleculen genereren en die aan elkaar knopen." En feitelijk deed hij dat best aardig. Hij gebruikte wat toolkits van GitHub, combineerde die met de code en produceerde een simulator. Maar het systeem genereerde willekeurige moleculen die volstrekt van de pot gerukt en volkomen onstabiel waren, waarop ik zei: "Nee, niet doen, haal dat weg, haal dat weg," en ik voegde beperkingen toe. Ik cureerde het naar mijn eigen smaak.

Host: Juist, je moest het bijsturen.

Lee Cronin: Het was mijn smaak, ja. Ik voelde me net een muziekproducent die zegt: "Dat klonk niet zo lekker, dat ga ik even aanpassen." Een groot deel van het technische handwerk in de wetenschap zal door AI worden overgenomen, en we moeten mensen opleiden om die tools te gebruiken. Maar we moeten AI niet inzetten om saaie wetenschap na te apen en te doen alsof we wetenschap bedrijven. Vanaf het moment dat AI zelfstandig nieuwe theorieën produceert, de kwantumzwaartekracht verklaart of met iets komt dat wij ons nooit hadden kunnen voorstellen, zal ik daar scherp op letten. Op dit moment, augustus 2026, zijn siliciumgebaseerde computers zoals we die kennen simpelweg niet in staat om vernieuwing te creëren. Dat betekent overigens niet dat we ooit geen machine zullen bouwen die de traditionele computatie te boven gaat.

Host: Bedoel je te zeggen dat we iets zouden kunnen creëren dat we momenteel niet eens effectief onder de noemer AI scharen?

Lee Cronin: Jazeker. Als je een brein wilt creëren, is daar de traditionele manier voor: ik heb twee breinen voortgebracht, de een werd deze week twintig en de ander achttien, mijn twee zoons. Die zijn eveneens voortgebracht door de Darwiniaanse evolutie die teruggaat tot LUCA. Ik zal toch echt eerst in een lab leven moeten creëren voordat ik bewustzijn kan doorgronden. Er is vermoedelijk geen enkele andere weg daarnaartoe. We maken nu een gigantische sprong, en misschien betreden we wel een nieuw duistere tijdperk voor de wetenschap — een soort middeleeuwen — waarin de creatieve wetenschap stagneert omdat het wapenen van de wetenschap om maar zoveel mogelijk output en papers te genereren de pan uit rijst. Iedereen zal LLMs inzetten om artikelen te schrijven, LLMs gebruiken om die artikelen te beoordelen, LLMs inzetten om beurzen aan te vragen en LLMs om die aanvragen weer te beoordelen. En wie bewaakt dan nog de goede smaak? Dan komt Bostroms voorspelling over die paperclips alsnog uit, maar dan in de wetenschappelijke wereld, waarbij de paperclips simpelweg bestaan uit papers en subsidieaanvragen.

Host: Nou ja, dat is wel een erg verre reikwijdte van wat hij bedoelde, maar—

Lee Cronin: Het komt op hetzelfde neer, toch? Wat gebeurde er destijds met de uitvinding van de drukpers? Iedereen riep dat het verschrikkelijk was, dat het opschrijven van zaken iets fundamenteels uit ons zou wegnemen. Maar als we niet hadden leren schrijven, waren we nooit in staat geweest om al die wonderen te creëren. Waar ik enthousiast over ben, is wat we met behulp van AI allemaal zullen kunnen creëren.

Host: Ja, en hier moet ik denken aan dat veelgehoorde voorbeeld rond door AI gecreëerde muziek. Er was anderhalf jaar geleden volop opschudding toen AI een liedje maakte in de stijl van Drake en The Weeknd dat eigenlijk best aardig klonk, en men riep: "Oei, gaat dit problemen opleveren?" Maar dat nummer sloeg uiteindelijk niet aan. Ten eerste omdat mensen erachter kwamen dat het door AI was gemaakt, en er blijkbaar iets in ons zit dat zegt: "Menselijke creativiteit heeft dit niet gemaakt, ik kan hier niet dezelfde gevoelswaarde bij opbrengen." Maar de andere reden sluit aan bij jouw punt: het bracht niets vernieuwends voort. Het nam simpelweg het bestaande muzikale stramien van die gasten en zei: "Laten we dat nog eens genereren."

Lee Cronin: Laat me je een primeur geven uit een publicatie waar ik momenteel aan werk. Als ik nu met iets vernieuwends op de proppen kom en zeg: "Hé, kijk eens wat ik heb bedacht," dan weten drommels goed dat we dat vervolgens kunnen labelen, in een database kunnen stoppen en het traject ernaartoe kunnen doorgronden, inclusief de kans dat we er ooit zouden komen, omdat we nu een precedent hebben geschapen. AI's kunnen elementen met elkaar combineren, maar de omvang van die combinatieruimte is voor een AI weliswaar groot, maar ook weer niet zo gigantisch. Om het zo te zeggen: als een ruimte groot is maar doorzoekbaar, presteert AI behoorlijk in een tamelijk oppervlakkige ruimte. Waartoe mensen in staat zijn, is het uit de lucht plukken van een inzicht dat zo diep wortelt dat je het met de beschikbare computercapaciteit nooit kunt doorzoeken. Mensen surfen op de golf van een nagenoeg oneindige hoeveelheid mogelijkheden. Dát is waar creativiteit zetelt. En zodra ze iets te pakken hebben, slingeren ze het de wereld in, waarmee ze ineens overstappen van die oneindige grens naar het eindige, encodeerbare heden. AI's voorspellen het verleden, coderen het heden, en het raakvlak tussen het heden en de toekomst is waar het oneindige een continu substraat vormt. Zodra iets continu is, is het oneindig, en kun je in beginsel niet weten wat er gaat ontkiemen. Daar ontstaat creativiteit. Veel mensen doen alsof ze creatief zijn, maar ze plegen simpelweg plagiaat bij elkaar. Als iets in een database staat en je plakt het aan elkaar om het als eigen werk te verkopen... ik heb me er zelf ook schuldig aan gemaakt. Ik verzin amechtig veel ideeën en denk dan even later: "Verrek, iemand anders had dat idee ook al, het was helemaal niet mijn vondst." Maakt mij dat tot plagiaatpleger? Welnee, want ik heb hun werk niet willens en wetens gestolen om te doen alsof het van mij was. Het gros van mijn ideeën is trouwens oppervlakkig, ik ben nu eenmaal een oppervlakkige denker. Maar af en toe schiet je een gedachte te binnen die tamelijk vernieuwend is. En mensen zijn daar uitstekend in: grootse kunstenaars, musici, modeontwerpers die balanceren op dat grensvlak tussen het heden en de toekomst.

Host: Waar denk jij dat ideeën vandaan komen?

Lee Cronin: Geen idee.

Host: Je hebt werkelijk geen flauw idee?

Moleculaire computatie en de DNA-computer

Lee Cronin: Ik ga wel iets opperen. Als ik je een recept zou moeten geven voor een vernieuwend idee, iets creatiefs, dan moet je in staat zijn om een sprong te wagen naar een ruimte die zo onmetelijk groot is dat je die in beginsel nooit kunt doorzoeken. En waar mensen meesterlijk in zijn, is het verbeelden binnen die ruimte. Verbeelding is in beginsel onberekenbaar, omdat de betreffende ruimte te omvangrijk is om door te rekenen. Nu zal iedereen roepen: "Maar dat is onzin, jouw brein verbeeldt zich immers van alles." Jazeker, wat voert mijn brein dan uit dat in beginsel niet berekenbaar is? De verbeelding vormt het ultieme bewijs dat het menselijke brein processen voltrekt die niet te vangen zijn in een Turing-machine, een teltafel of een sorteermachine.

Host: Hoe ben je dan in vredesnaam van plan om een brein te bouwen als dat taken uitvoert die fundamenteel onberekenbaar zijn? Hoe kun je dat in de echte wereld berekenen om het te fabriceren?

Lee Cronin: Ik neem een fysisch object en koppel dat digitaal aan een systeem. Ik sluit het aan op een digitale computer. Vervolgens is dat brein in staat om verbeeldingen te genereren die de digitale computer nooit had kunnen voorspellen of verzinnen, eenvoudigweg omdat de omvang van die ruimte te kolossaal is. Er schuilt iets in dat polymere brein dat de interface kan doen samenvallen. Ik heb weliswaar een intuïtie over hoe dat zou kunnen werken, maar ik worstel er momenteel nog mee om dat in de juiste wiskundige formules te vatten.

Host: Hoe lang ben je hier inmiddels al mee bezig?

Lee Cronin: Behoorlijk lang al. Het spookt denk ik al zo'n twintig à dertig jaar door mijn hoofd.

Host: O, wauw.

Lee Cronin: Ja.

Host: We dwaalden daarnet even af naar AI, dat zijn oorsprong vond in het brein. En de manier waarop je het uitlegde, was dat nadat je die 49 putjes had gecreëerd waarin je via al die lichtjes 0-en en 1-en — aan en uit — genereerde, je dat vervolgens naar gels vertaalde. Was dat wat je zei?

Lee Cronin: Dat is inderdaad de volgende stap: het construeren van een breingel op dit moment.

Host: Kunnen we daar nog even op terugkeren en dat nader toelichten?

Lee Cronin: Wat ik probeer te bewerkstelligen, is een materiaal fabriceren waarin processen digitaal kunnen worden gecodeerd, maar vervolgens analoog gaan functioneren, enigszins vergelijkbaar met een oscillatie: aan-uit, aan-uit, tiktak. Je codeert het digitaal doordat je het een prikkel geeft met een elektrische puls, waarna je achteraf uitleest wat er is gebeurd. Ik wil doorgronden hoe die digitale codering en die uitlezing zich tot elkaar verhouden, en of er sprake is van een complex dan wel een lineair verband tussen beide. Momenteel begrijp ik de fenomenen waar we naar turen zelf nog niet eens, en daarmee breng ik computerwetenschappers die zich bezighouden met zogenaamde moleculaire computatie tot waanzin.

Host: Wat houdt dat in?

Lee Cronin: Zij gebruiken DNA. DNA beschikt over vier basenparen, en die basenparen kunnen ze koppelen aan een berekening. Zo kunnen ze in feite een Turing-machine — een digitale computer — nabouwen met behulp van DNA.

Host: Een DNA-computer?

Lee Cronin: Ja, dat hebben ze daadwerkelijk gedaan. DARPA heeft dat gefinancierd.

Host: DARPA toch, man. Andy Jacobson beweerde in 1992 al dat ze telepathisch met dolfijnen communiceerden, ik noem maar wat.

Lee Cronin: DARPA is een subsidieverstrekker. Ze financieren mensen, geven hen geld, en die mensen gaan vervolgens aan de slag met waanzinnige projecten.

Host: Ben je wel eens in een van hun geheime labs geweest?

Lee Cronin: Ze hebben helemaal geen geheime labs.

Host: Dat geloof ik dus niet. Dat zou ik ook zeggen als ik door DARPA werd gefinancierd.

Lee Cronin: DARPA is gevestigd in de regio Washington. Ze werken met programmamanagers en alles bevindt zich gewoon in het publieke domein. Ze identificeren uiterst interessante terreinen en verstrekken daar subsidies voor. Ze formuleren een visie dat als iets zou slagen, het de wereld op zijn kop zou zetten. Het internet heeft de wereld veranderd. Zelfrijdende auto's: DARPA organiseerde destijds een uitdaging voor autonome voertuigen waarbij wagens door de woestijn reden en massaal uitvielen, maar dat heeft ongetwijfeld een enorme vlucht genomen in visuele computatietechnologie en robotica. Ik wil de mythe rond DARPA dus niet doorprikken.

Host: Nee, ik vind het ronduit een fascinerende club, dat zeker. Het is niet zo dat ze bij je langskomen, Lee, en zeggen: "Hier is de lijst met de één miljard dingen waar we momenteel aan werken." Ze komen bij je voor een heel specifiek vraagstuk omdat je op dat terrein over expertise beschikt. Toen ze je benaderden voor die eerste subsidie, zeiden ze toen: "We werken aan dit soort materie, dat is precies jouw vakgebied, heb je een idee waarmee je kunt bijdragen?"

Lee Cronin: Het is zeer collaboratief. Ze financieren een aantal verschillende partijen en we komen regelmatig bijeen om bevindingen te delen en te bundelen. Ze proberen de grenzen van de wetenschap op te rekken. Het Verenigd Koninkrijk heeft overigens inmiddels zijn eigen equivalent van DARPA, genaamd ARIA: de Advanced Research and Invention Agency.

Host: En zij vinden het best dat jij met DARPA samenwerkt, ook al ben je een Brit?

Lee Cronin: Jazeker. ARIA financiert op haar beurt ook projecten in de VS, op exact dezelfde manier waarop DARPA onderzoekers elders financiert.

Host: O, dat is interessant.

Lee Cronin: Ze financieren waar de beste ideeën zich bevinden. Uiteraard is er sprake van verantwoording naar de belastingbetaler toe, maar als iemand iets bouwt dat van grote waarde voor je is, is die samenwerking volstrekt logisch. Terugkomend op die DNA-computer: er zijn computerwetenschappers die nadenken over DNA als computer, maar ze reduceren dat tot dit conventionele computerparadigma. Ik stel daarentegen dat het brein geen conventionele computer is. Het brein is in staat tot zaken die we niet begrijpen, zoals verbeelding. Is dat niet krankzinnig? Je kunt je iets voorstellen dat nog niet bestaat, en die ingebeelde constructie bezit causale kracht omdat je hem kunt bedenken en vervolgens in de praktijk kunt realiseren. Dat is precies wat ondernemers continu doen: "Ik ga dit apparaat maken, een smartphone of een iPod Nano." Mensen zijn uniek in staat om zich iets te verbeelden dat nog niet bestaat — het resideert louter in hun hoofd, als moleculen en synapsen — en dat vervolgens uit de toekomst te plukken en naar het heden te slepen.

Host: Concreet uit de toekomst.

Lee Cronin: Zo noem ik het zelf graag, want wat mij betreft is de toekomst onvoorspelbaar en vormt het een mogelijksheidsruimte, en verbeelding opereert nu eenmaal binnen die mogelijksheidsruimte en niet in een waarschijnlijkheidsruimte. Degene bij SpaceX die destijds op het idee kwam: "Weet je wat, we bouwen de raket van staal en we vangen hem weer op. We fabriceren iets ter grootte van een wolkenkrabber dat opstijgt, supersonisch vliegt, subsonisch landt, en tegen de tijd dat we hem opvangen horen we de schokgolven." Dat is volstrekt geschift, maar inmiddels is het wetenschappelijke realiteit. Dat verklaart waarom mensen zo goed zijn in sciencefiction, denk aan Jules Verne. Digitale computatie is niet heilig. En de gedachte dat ons hele universum een simuleerbare entiteit is... Nick Bostrom beweerde dat we ons allemaal in een simulatie bevinden, maar dat is in de kern niet te falsifiëren.

Host: Waarom is het niet te falsifiëren dat we in een simulatie leven?

Simulatietheorie bestempeld als 'geworteld in geloof'

Lee Cronin: Waar bevindt die simulatie zich dan? Je krijgt te maken met een oneindige regressie.

Host: Wat bedoel je met die oneindige regressie?

Lee Cronin: Als ik me in een simulatie bevind, prima. Maar die simulatie moet zich ergens op een computer manifesteren. Waar staat die computer dan? Is dat weer een simulatie, en zit die op zijn beurt in wéér een simulatie? Als ik simulaties niet tot in het uiterste kunt falsifiëren, staat het gelijk aan een religieuze overtuiging, een geloofsuiting. Ik beweer niet dat omdat we God niet kunnen falsifiëren, God daarom niet bestaat; ik stel enkel dat het zich onttrekt aan het wetenschappelijke proces. Zodra iets buiten het bereik van de wetenschappelijke methode valt, is het een kwestie van geloof. David Deutsch schrijft daar prachtig over in The Beginning of Infinity: het simulatieargument is flauwekul omdat het zijn oorsprong vindt in geloof.

Host: Het aspect waarvan ik me afvraag of het daadwerkelijk verder gaat dan geloof, is tweeledig: ten eerste weten we niet eens hoe ver het universum reikt en kunnen we uitsluitend waarnemen wat we fysica-technisch kunnen observeren. En ten tweede gebeuren er onverklaarbare dingen in menselijke patronen die suggereren dat we ons wellicht binnen gelaagde simulaties bevinden.

Lee Cronin: Wij bevinden ons in het universum. Wie heeft het universum geschapen?

Host: Wie geloof ik dat het heeft geschapen?

Lee Cronin: We kunnen stellen dat er een schepper is, of dat het er simpelweg is. Maar het feit dat we dat niet kunnen falsifiëren, maakt het tot een aardig gespreksonderwerp. Was er een ontwerper, was er een God? Zeker. Maar wat kunnen we met de wetenschappelijke methode daadwerkelijk onderzoeken?

Host: Maar je bent geen aanhanger van Lawrence Krauss die beweert dat alles uit niets is ontstaan. Je gelooft dat het ergens uit is begonnen.

Lee Cronin: Dat argument van 'iets uit niets' vertoont voor mij grote gelijkenissen met het simulatieargument. Beide kampen met fundamentele wetenschappelijke mankementen. Als materialist geef ik er de voorkeur aan om binnen de materiële wereld te opereren en experimenten uit te voeren op de materie om me heen. Dat sluit niet uit dat we wellicht in een simulatie leven of dat iets uit niets is voortgekomen; het betekent simpelweg dat ik niet in staat ben om een experiment op te tuigen om dat te falsifiëren.

Host: Hoe vinden we dan een manier om een experiment te ontwerpen om dat te falsifiëren?

Lee Cronin: Ik denk dat dat onmogelijk is. Met mijn beperkte intellect ben ik daartoe momenteel in elk geval niet in staat.

Host: Men kon de zwaartekracht in de vijftiende eeuw ook niet falsifiëren, en toen viel er ineens een appel naar beneden.

Lee Cronin: Dat konden ze destijds weldegelijk, ze slingerden al van alles naar elkaars hoofd. Ze wisten het alleen nog niet te formaliseren. Dit is het punt waarop filosofie cruciaal wordt. Als we als uitgangspunt nemen dat bepaalde entiteiten bestaan — een ontologie of metafysica — en we bestuderen de onderlinge verhoudingen binnen die metafysica, dan dienen die lagen wel intern consistent te zijn. Wat je bij zowel de simulatiehypothese als het ontstaan uit niets aantreft, is een oneindige regressie. Bij een oneindige regressie kun je geen enkele vooruitgang boeken. Dus zet je dat terzijde als iets dat buiten het domein van de wetenschappelijke methode valt. Dat is waarom het simulatieargument zo dwaas is om telkens weer serieus te bespreken; we kunnen onze tijd immers besteden aan talloze andere fascinerende vraagstukken: hoe genezen we kanker, kunnen we binnenkort met een fusiemotor naar Mars reizen? Dat zijn vele malen interessantere vragen omdat we daar daadwerkelijk invloed op kunnen uitoefenen.

Voor mij is simulatie uiterst interessant omdat ik chemische robots aan het bouwen ben. Als ik een robot fabriceer om een taak uit te voeren en ik zet daar een simulatie tegenover, heb ik behoefte aan iets dat verificatie heet. Binnen de AI-wereld boekt men zulke goede resultaten omdat ze over uitstekende verificatiemechanismen beschikken voor specifieke problemen. Een van de zaken waarin ik me door AI laat inspireren, is het opzetten van de juiste verificatielus voor de fysische chemie. Ik heb enkele jaren geleden een programmeertaal voor de scheikunde uitgevonden en iedereen riep toen: "Dit is kletskoek, dat heb je ter plekke verzonnen." Dat klopt, ik had het zelf bedacht, maar het is geen kletskoek. Het idee ontstond omdat ik mijn 3D-printer wilde programmeren om chemische handelingen uit te voeren, en ik wilde absoluut zeker weten dat die printer geen vlam zou vatten. Dus ontwikkelde ik die programmeertaal, en dat stelde me in staat om er een digitale kloof — een digital twin — van te maken zodat ik het in een veilige zandbak kon verifiëren en testen. Een simulatie die me in staat stelt om iets in de echte wereld te verifiëren is geweldig. Als ik de fysieke werkelijkheid kan vangen in een model en kan controleren dat bij uitvoering in de praktijk de boel niet affikte, dan doe ik dat.

Dat neemt niet weg dat we op een dag wellicht een simulatie kunnen creëren waarin we virtuele entiteiten — digients — kunnen onderbringen. Ted Chiang schreef daar een fantastische novelle over: The Lifecycle of Software Objects. Ted Chiang is een briljant denker, schrijver en extern faculteitslid van het Santa Fe Institute. Ik heb hem meermaals ontmoet en met hem gedebatteerd over assembly theory. Die digients zijn entiteiten die in een virtuele wereld leven en zich kunnen manifesteren in fysieke robots. Ik kan me een wereld voorstellen waarin ik een dusdanig rijk computationeel universum optuig waarin ik entiteiten creëer die wellicht bewustzijn vertonen, waarop ik experimenten kan uitvoeren en waarbij ik serieus moet nadenken over moraalfilosofie en ethiek. Ik kan me dat indenken, maar ik heb geen flauw idee welke natuurkunde ik daarvoor zou moeten ontwerpen, aangezien we nog steeds niet begrijpen wat leven is, hoe chemie transformeert in biologie, hoe biologie bewustzijn genereert en hoe dat bewustzijn op zijn beurt weer intelligentie en een vrije wil voortbrengt. Zolang we die fundamenten niet kennen, kunnen we er ook geen simulatie van bouwen.

Host: Helder, ik snap het.

Lee Cronin: Bostrom is overigens een erg aardige kerel.

Host: Heb je ooit met hem gesproken?

Lee Cronin: Nee, niet persoonlijk. Ik ben wel op meerdere bijeenkomsten geweest waar hij ook was, maar ik zou waarschijnlijk te irritant zijn. Ik zou de 'Bostrom-confabulator' optuigen: een filosoof die simpelweg een hoop losse ideeën aan elkaar knoopt en doet alsof ze werkelijkheid zijn. Wat zou er immers gebeuren als we in dit alternatieve universum de verkeerde koffiekop simuleren en daarmee een singulariteit veroorzaken waardoor de hele wereld ophoudt te bestaan?

Host: Ik denk niet dat hij zover ging. Volgens mij ging het bij hem meer over systemen die algemeen geprogrammeerd zijn om te creëren of te vernietigen, en niet over rondzwevende objecten die de natuurkunde tarten.

Lee Cronin: Het heeft er wel toe geleid dat mensen menen dat er zoiets mogelijk is als superintelligentie. Het heeft wat weg van de bewering dat we sneller dan het licht zullen reizen. Je kunt nu eenmaal nooit sneller dan de lichtsnelheid gaan; dat is een natuurwet. Zodra je energie in een massa stopt om die te versnellen, straalt het object straling uit die je afremt om te voorkomen dat je de lichtsnelheid bereikt. Dat maken we in de protonenbundels bij CERN continu mee. De lichtsnelheid blijkt voor 99,99999% absoluut te zijn.

Host: Dus je zegt dat er nog een kans is.

Lee Cronin: Nee, er is geen enkele kans. Maar als wetenschapper is het onmogelijk om iets als honderd procent absoluut te bestempelen, omdat je een open blik moet behouden. Het stellen van grenzen heeft ons echter wel in staat gesteld om een technologische samenleving op te bouwen. Als je naar het ziekenhuis gaat en ze plaatsen een stent in je kransslagader, is er een kans dat je komt te overlijden, maar als je naar de statistieken kijkt: de waarschijnlijkheid dat je dankzij die stent overleeft heeft talloze levens gered. Je zegt in de wetenschap nooit nooit, je begeeft je tot aan de rand van de schaal en zegt: "Ik ben voor 99,999999% zeker dat we de lichtsnelheid niet gaan overschrijden."

Host: Toen je CERN aanhaalde, ben je daar zelf op enigerlei wijze bij betrokken?

Lee Cronin: Nee, volstrekt niet. Ik ben wel eens bij CERN geweest voor een TEDx-talk. CERN is een fantastische machine als het aankomt op de media-aandacht eromheen en de manier waarop ze de publiciteit opzoeken. Het is een enorm experiment dat klauwen vol geld kost. We hebben CERN gebruikt om het higgsboson te vinden. Prachtig.

Was het menselijk genoomproject de moeite waard?

Lee Cronin: Was dat de moeite waard van die 5 miljard euro of dollars, wat het ook moge kosten? Ik zou het niet weten.

Host: Dat lijkt wel een enorm belangrijk onderdeel van de academische wereld: in hoeverre kun je reuring, hype en creatieve sciencefictionbelangstelling opwekken bij het grote brede publiek versus het daadwerkelijk financieren van ideeën die op hun merites de beste zijn om iets baanbrekends te creëren?

Lee Cronin: Zodra je een willekeurige wetenschappelijke onderneming financiert, oogst je onderweg resultaten, en op het moment dat die opbrengsten opvroegen, wat doe je dan? Dan blaas je het vermoedelijk op en begin je opnieuw — creatieve destructie. Was het Human Genome Project de moeite waard? Nou, op dat moment zelf wellicht niet direct, maar het betaalt zich nu dubbel en dwars uit omdat we inmiddels weten hoe we het genoom kunnen bewerken.

Host: Kun je dat nader toelichten?

Lee Cronin: Toen het Human Genome Project werd uitgevoerd, was dat een grootschalige samenwerking tussen de Britse Medical Research Council en de Amerikaanse National Institutes of Health. Ze spendeerden aanzienlijke sommen geld aan het ontwikkelen van de technologie om het menselijk genoom te sequencen. Vervolgens startte Craig Venter — een briljant pionier en ondernemer — een bedrijf om hen te slim af te zijn omdat hij het intellectueel eigendom wilde bemachtigen. Om dat te rechtvaardigen riepen we destijds: "We gaan hiermee alle ziekten genezen." Het menselijk genoom werd ontrafeld, maar we hebben allerminst alle ziekten genezen. Wat er nu echter begint te gebeuren en wat werkelijk opwindend is, is dat er tal van gentherapieën ontstaan waarmee we door de wol geverfd begrijpen hoe we een defect gen kunnen corrigeren. Er zijn jonge mensen geboren die blind ter wereld kwamen en bij wie men dankzij gentherapie eiwitten heeft kunnen herstellen waardoor ze weer kunnen zien. Dat is simpelweg adembenemend. Er zijn eveneens gentherapieën waarbij we begrijpen hoe we het immuunsysteem van het lichaam kunnen herprogrammeren om kanker te bestrijden. De kans is zeer reëel dat we binnen ons leven voor de meeste bekende vormen van kanker beschikken over een combinatie van moleculaire en genomische therapieën waarbij we kleine moleculen inzetten.

Host: Denk je dat ze die behandelingen stiekem al lang hebben klaarl liggen maar simpelweg niet aan de mensen geven?

Lee Cronin: Nee, welnee. Waarom zouden ze in vredesnaam — dat zou volstrekt idioot zijn.

Host: Waarom idioot? We houden immers al decennia lang vast aan dezelfde brute behandelingen.

Lee Cronin: Er is geen sprake van een complot; zoiets kan simpelweg niet bestaan. Er zijn legio farmaceutische bedrijven bezig met medicinale chemie. De ontwikkelingen in de biologie gaan in sneltreinvaart, maar de meest kritieke hobbel is dat we die laboratoriumdoorbraken moeten vertalen naar de klinische praktijk, en mensen zijn nu eenmaal biologisch complex en kwetsbaar, en mensen overlijden. Er is een fascinerend contrast zichtbaar tussen China enerzijds en de VS en het VK anderzijds wat betreft onze regelgeving. In China verlopen sommige klinische trials sneller als gevolg van andere wetgeving. In het Westen zijn we veel meer risicomijdend. Zouden we meer snelheid kunnen maken als we een aantal extra sterfgevallen zouden accepteren? Waarschijnlijk wel. Elke beperking waarmee we in het Westen kampen, is een direct gevolg van ons regelgevend kader, dat op zijn beurt weer een weerspiegeling is van onze kiezers.

Host: China heeft zich op bepaalde gebieden inderdaad wél op het pad van risico genomen omdat ze daar nu eenmaal niet dezelfde vangnetten hanteren. Aan de andere kant valt er ook weer het nodige te zeggen voor het hebben van vangnetten, dat staat vast.

Lee Cronin: Er was destijds inderdaad een Chinese wetenschapper die gentherapie gebruikte om menselijke embryo's te bewerken, met alle gevolgen van dien. Hij is in de gevangenis beland omdat hij op onverantwoorde wijze met het genoom had geknoeid.

Host: Wat deed hij dan precies waardoor die kinderen er een minder goede levensverwachting op zouden nahouden?

Lee Cronin: Ik meen dat het iets te maken had met het hiv-virus, maar wat hij deed was op zijn zachtst gezegd niet erg doordacht.

Lee Cronin: Dat was inderdaad een van de domste dingen die je kon doen, aangezien hiv inmiddels... het heeft destijds hele bevolkingsgroepen gedecimeerd, met name homoseksuele mannen. Vervolgens kregen we effectieve therapieën om het onder controle te krijgen, en tegenwoordig kun je het zó ver onderdrukken dat er geen sprake meer is van een viral load, wat betekent dat het vrijwel onmogelijk is geworden om het over te dragen. Je kunt het chemisch beheersen en de virusremmers hun werk laten doen. Wat een weergaloze prestatie van de menselijke medische technologie. Hij ging daarin simpelweg een stap te ver. We zullen met elkaar moeten debatteren over hoe we in de toekomst vormgeven aan genbewerking. Het Human Genome Project was een formidabele prestatie, op dezelfde manier waarop de inzet van CERN om het higgsboson te vinden een formidabele prestatie was. We verkeren momenteel in de illusie dat AI-labs alle wetenschap gaan automatiseren zodat het goedkoop wordt en we en passant alle ziekten genezen. Dat gaat simpelweg niet gebeuren. AI-tools zullen ons helpen bij het bestrijden van bepaalde ziekten en het fabriceren van nieuwe moleculen, maar de exacte reikwijdte daarvan kan ik niet overzien.

Host: Als het simpelweg fungeert als een gigantische aanjager die ons in staat stelt om vraagstukken veel sneller op te lossen terwijl mensen de koers blijven bepalen, dan is dat toch juist het tegenovergestelde van een doemscenario?

Lee Cronin: Ik kan op zich sympathie opbrengen voor de AI-doemdenkers omdat zij politici proberen te laten begrijpen wat er gaande is, net zoals ik sympathie heb voor de optimisten die deze tools willen inzetten voor de bloei van de mensheid. Waar ik een hekel aan heb, is de uitersten: het idee dat we allemaal zullen sterven, of dat we straks het eeuwige leven hebben en over een oneindige hoeveelheid goederen beschikken. Beide standramen zijn evident idioot.

Elons bewering: Geen geld meer over tien jaar

Lee Cronin: Er is wel degelijk de reële vrees dat we AI-systemen gaan inzetten om in te breken in computersystemen, waardoor alle software permanent onveilig wordt: bankrekeningen, encryptie, noem maar op. Je wilt immers niet dat je Tesla op de snelweg ineens op hol slaat. Aan de andere kant wil je AI inzetten om technologie te versnellen en ziekten te genezen. Maar er zijn AI-figuren die inmiddels schatrijk zijn geworden en verkondigen: "O, over tien jaar bestaat geld niet meer."

Host: Ja, dat argument begrijp ik al helemaal niets van.

Lee Cronin: Het is simpelweg Elon die weer wat uit zijn duim zuigt. Elon is een genie, maar uitblinken in communicatie doet hij allerminst.

Host: Hoe kan geld nu ophouden te bestaan zodat iedereen opeens gelijk is, en dan ook nog eens in zo'n moordend tempo?

Lee Cronin: Geld is niet meer dan een representatie van de toewijzing van schaarse middelen. Zolang er mensen zijn die beslissingen nemen over wat er moet gebeuren, zal er geld nodig blijven. De hoeveelheid grondstoffen die vereist is om bepaalde goederen te fabriceren zal dalen en asymptotisch naar nul naderen — je kunt tegenwoordig microprocessors kopen voor vijftien cent waar je vroeger vele dollars voor neertelde. Maar er zal altijd een bottleneck blijven: de planeet Aarde heeft een eindige omvang, er is een eindige hoeveelheid toegankelijke energie voorhanden en er zijn begrensde fysieke hulpbronnen. Daarentegen is de hoeveelheid mogelijkheden oneindig. We zullen materialen gaan recyclen, nieuwe energiebronnen aanboren en volstrekt nieuwe economieën optuigen. Dat idee van een oneindige overvloed binnen nog geen tien jaar is wellicht een reactie van de makers van deze AI-tools, omdat ze simpelweg overrompeld zijn door de capaciteiten ervan. Je kunt Claude of ChatGPT vragen om een PowerPoint in elkaar te zetten en het resultaat mag er wezen.

Host: Jazeker, je kunt tegenwoordig zelfs complete apps bouwen met die dingen.

Lee Cronin: Maar als je Claude opdraagt om even een PowerPoint over X te produceren en je levert onvoldoende informatie aan, is het resultaat prutswerk. Rommel erin, rommel eruit. Als ik zeg: "Dit zijn de punten die ik wil maken en dit zijn de onderliggende data, maak er iets van en spar met mij," dan heb ik er geen enkel bezwaar tegen om AI-tools te gebruiken om mijn creativiteit te ontketenen. Maak ik gebruik van AI als het op schrijven aankomt? Nee, ze schrijven in zo'n semantisch uniforme stijl. Het is altijd van de trant: "Het is niet A, het is B." Alsjeblieft, schrijf niet zo! Mijn eigen schrijfstijl kent gebreken, maar het is tenminste mijn eigen stem. Wel gebruik ik AI inmiddels om tikfouten uit mijn teksten te halen; hij probeert dan weliswaar mijn grammatica op te poetsen, waarop ik reageer: "Nee, ik wil dat het zo klinkt." Wat ik overigens fascinerend vind, is dat ik AI's tegenwoordig inzet om al mijn proefdrukken te controleren. Ik had laatst een artikel dat werd gepubliceerd in PNAS over systemen voor buitenaards leven: "Molecular Assembly Is a Universal Biosignature Measurable by Mass Spectrometry." Ik voerde de proefdrukken in bij ChatGPT en het systeem spitte de tekst door en vond tien typefouten die ik zelf over het hoofd had gezien.

Host: Laten we de samenvatting er even bij pakken: "Het detecteren van leven buiten de aarde vereist biosignaturen die niet afhankelijk zijn van de chemie van bekende organismen. Moleculaire assembly (MA), afgeleid van de assembly theory, kwantificeert hoe complex het is om een molecuul te construeren uit elementaire bouwstenen, en koppelt die complexiteit rechtstreeks aan selectie en evolutie. Hier tonen we aan dat MA kan dienen als een universele biosignatuur die zowel interpreteerbaar als experimenteel meetbaar is. In tegenstelling tot informatietheoretische maten kan MA direct worden afgeleid uit massaspectrometriedata zonder dat structurele opheldering vereist is. We tonen aan dat het gebruik van een machinaal leermodel dat getraind is op gestandaardiseerde enkelvoudige spectra MA voorspelt met een driemaal lagere foutmarge dan traditionele methoden. Gesimuleerde meertrapsdata onthullen dat geringe instrumentele variaties de voorspellingsfout kunnen verdubbelen, wat het belang van kalibratie onderstreept. Deze bevindingen vestigen moleculaire assembly als een fysisch gefundeerde, kwantificeerbare biosignatuur gemeten via massaspectrometrie, waarvan de interpretatie stoelt op een nauwgezette beheersing van instrumentele effecten, en bieden een schaalbare route naar de detectie van leven tijdens toekomstige planetaire missies." Laten we doorgaan naar de grafiek.

Lee Cronin: Je kunt machine learning inzetten omdat er een onderliggende theorie aanwezig is. Men heeft voorheen getracht machine learning te gebruiken om leven op te sporen, maar toen verzonnen ze ook maar wat; assembly theory helpt je om de grondslagen daarvan te doorgronden. Bij temperatuur geldt: we weten of iets warm of koud is, maar hoe kwantificeren we dat? Bij leven geldt: we weten of iets leeft of dood is, maar hoe meten we dat? Levende systemen fabriceren op unieke wijze moleculen met talloze verschillende componenten in hoge kopieaantallen, waardoor we dat kunnen meten. Onze equivalent van de thermometer is een massaspectrometer. Wat een massaspectrometer doet, is het wegen van een molecuul, het in een vacuüm elektrisch veld schieten en meten hoe zwaar het is. Vervolgens breng je energie in en fragmenteer je het, alsof je een bord op de grond kaptslaat. Je telt het aantal componenten en kunt dat gebruiken om de assembly-index te bepalen. Er bevinden zich momenteel drie massaspectrometers op Mars, en NASA stuurt binnenkort een nucleair aangedreven massaspectrometer naar Titan, genaamd Dragonfly. Dat is een quadcopter die op een plutoniumbatterij rondvliegt boven Titan, de atmosfeer 'snifft' en massaspectrometrie toepast.

Host: Kun je dit soort technieken ook inzetten om leven op exoplaneten op te sporen?

Lee Cronin: Jazeker. Binnenkort verschijnt er een publicatie waarin we assembly theory inzetten om de waarschijnlijkheid van leven op een exoplanet te meten. De exoplanetenwereld is er erg aan gewend om te spreken over één enkele merker voor leven, zoals methaan (CH4), zuurstof (O2) of water (H2O). Dit zijn stuk voor stuk uiterst kleine moleculen, waardoor ze onvoldoende informatie met zich meedragen om het onderscheid te maken tussen leven en abiotische processen. Methaan op Mars kan immers even goed door geologische processen zijn geproduceerd. Zuurstof kan ontstaan door water met uv-licht te ontleden. Het antwoord op de vraag hoe we uit gassen biologie kunnen afleiden, zal uiteindelijk liggen in assembly theory. Je kunt die assembly-index in het lab meten via drie technieken: massaspectrometrie, NMR — kernspinresonantie — en infraroodspectroscopie.

Assembly theory en leven in het universum

Host: Waren buitenaardse wezens iets waar je als kind al veel over nadacht?

Lee Cronin: Niet obsessief. Ik dacht waarschijnlijk meer na over de vraag waarom ik hier ben, waarom leven bestaat en hoe ik dingen uit elkaar kon schroeven. Maar begrijpen wat leven in de kern is als chemisch fenomeen is cruciaal om de fenomenen van het leven op aarde te doorgronden, en dat zal ons op zijn beurt weer meer vertellen over buitenaards leven. Als we in een gitzwarte hemel uitsluitend onze eigen zon zouden waarnemen, zouden we geobsedeerd raken door de vraag hoe die zon tot stand is gekomen. Inmiddels weten we dat sterren ontstaan door de gravitationele instorting van waterstof, dat heet genoeg wordt om de sterke kernkracht te overwegen en fusie aan te gaan. We zien sterren inmiddels overal in het universum. Maar voor leven beschikken we uitsluitend over een N van 1 op aarde. Als we kunnen begrijpen hoe waarschijnlijk het chemisch gezien is dat leven op aarde is ontkiemd, kunnen we grenzen stellen aan die kansenberekening.

Host: Hoe kunnen we dat berekenen als we niet eens weten hoe groot het universum is?

Lee Cronin: We kunnen de omvang van de Melkweg inschatten en we hebben grenzen gesteld aan de lichtkegel van het universum. Vrijwel elke ster lijkt te zijn omringd door planeten. Die planeten vallen in een aantal categorieën: dood en zullen nooit leven herbergen; abiotisch maar bieden wel de randvoorwaarden voor leven; levend; levend en technologisch; of post-technologisch. Leven is waarschijnlijk enkel mogelijk binnen een bepaalde temperatuurzone: te heet en chemische bindingen vallen uit elkaar; te koud en er gebeurt helemaal niets. Als ik luister naar de podcast Cool Worlds van David Kipping, waarin ze spreken over de leefbare zone, realiseer ik me dat planeten vermoedelijk kunnen reageren. De planeet Aarde begon na het Laat Zwaar Bombardement af te koelen, en allerlei feedbackmechanismen reguleerden de temperatuur, vergelijkbaar met de Gaia-hypothese van James Lovelock. Als er op een planeet leven ontstaat en die planeet dreigt uit die zone te geraken, zal de evolutie daarop anticiperen om tegenwicht te bieden — als een soort thermostaat. De planeet is in staat tot zelfregulatie voor de opkomst van leven.

Host: Als een planeet zich in een baan rond zijn ster beweegt en daarbij dichterbij komt en opwarmt, suggereer je dan dat die planeet zich kan aanpassen?

Lee Cronin: Vóór de intrede van intelligentie: nee; ná de intrede van intelligentie: mogelijk wel. Dat brengt me bij een van mijn favoriete Chinese sciencefictionfilms, The Wandering Earth. Als een planeet zich zo rond een ster beweegt dat hij dichterbij komt en heter wordt, zou hij de luchtdruk kunnen reguleren: zodra het te warm wordt, de atmosfeer reflecterend maken — schilden omhoog; beweegt hij weer verder weg, dan wordt het licht vastgehouden — schilden omlaag. Klimaatverandering is voor mensen vooral lastig omdat we ons rond de kusten en de evenaar hebben geurbaniseerd waar de omstandigheden gunstig waren voor landbouw, maar Siberië zal op termijn juist uiterst leefbaar worden. Op een tijdsschaal van een paar honderd jaar: koop vastgoed in Siberië. We zullen ongetwijfeld met een technologische oplossing komen voor klimaatverandering. Mogelijk zal de aarde daardoor langer overleven dan anders het geval zou zijn geweest, eenvoudigweg omdat het leven heeft voortgebracht.

Chemify Genesis en de angst voor baanverlies

Lee Cronin: Gedurende de komende vijf miljard jaar zal onze zon in omvang toenemen naarmate haar waterstof opraakt en ze begint met het fuseren van helium, waardoor ze heter wordt. We hebben een paar miljard jaar de tijd; kunnen we de aarde niet gewoon een klein zetje die kant op geven? Schiet er een paar kernwapens op: boem, een paar millimeter per jaar verschuiven. Met twee miljard jaar tot onze beschikking kunnen we een hoop voor elkaar krijgen.

Host: Ik moet jou en David Kipping echt eens samen in deze podcast nodigen. Hij komt in november weer langs.

Lee Cronin: Dat zou fantastisch zijn om ideeën uit te wisselen. Ik luisterde naar zijn podcast en dacht vaak: "Nee, zo zit het niet."

Host: Jij bent echt een 'nee'-zegger. Zodra je iets hoort dat kant noch wal raakt, ben je volstrekt niet bang om de confrontatie aan te gaan.

Lee Cronin: Realtime kritisch denken vereist dat je je niet laat remmen door mensen die tegenwicht bieden, bereid bent om ongelijk te hebben en openstaat voor educatie. We mystifiëren AI omdat we zijn voorgedaan dat het magie is. OpenAI stuitte op een cognitieve goudmijn toen ze hun model trainden, en plotseling bleken die chatbots uitstekend in staat om het volgende token te voorspellen. Naarmate je het contextvenster vergrootte, werd het alleen maar beter. Toen je er bovendien vangnetten en chain-of-thought-mogelijkheden in bouwde, konden deze systemen allerlei handelingen aaneenrijgen. Maar we moeten de boel wel demystifiëren en helder definiëren wat intelligentie, creativiteit en vernieuwing nu daadwerkelijk inhouden.

Mijn bedrijf, Chemify, telt inmiddels enkele honderden medewerkers. Ik zat laatst in een overleg waar iemand verkondigde: "Ik heb inmiddels een flink aantal mensen uit mijn personeelsbestand kunnen lozen." Waarop ik reageerde: "Jongens, waar zijn jullie in vredesnaam mee bezig?" Mensen zijn stuk voor stuk fantastisch flexibele, oneindige probleemoplossers en creatiemachines. Je wilt er juist meer van in dienst nemen, en niet minder. Ik vind die hele angst voor baanverlies nogal onsmakelijk. Het doel van Chemify is het bouwen van een wereldmodel voor de chemie. Als je surft naar chemify.io/genesis, wordt dat wereldmodel daar haarfijn uiteengezet.

Een virtuele bibliotheek van moleculen

Host: "Het molecuul op het scherm is niet meer dan een hypothese. Vraag, Maak, Test."

Lee Cronin: Men denkt vaak dat medicijnontwikkeling neerkomt op het ontdekken van een molecuul. Vroeger keek je naar planten, zocht je naar moleculen met biologische activiteiten en ontdekte je zo een geneesmiddel. De chemische ruimte voor potentiële geneesmiddelenmoleculen wordt doorgaans geschat op zo'n 10 tot de macht 60. Het totaal aantal atomen in het universum bedraagt 10 tot de macht 80. Ik heb die berekening onlangs overgedaan met assembly theory: het is niet 10 tot de 60, het is 10 tot de macht 117. We hebben dit gepubliceerd op arXiv: "Elucidating the Size of Chemical Space with Assembly Theory." Als je je molecuul een assembly-index van 25 stappen toekent binnen de beschikbare chemie, zijn er 10 tot de macht 117 moleculen toegankelijk. Zodra je zoekruimte zo onmetelijk groot is dat je die niet kunt doorzoeken, moet je iets vernieuwends genereren. Dat is precies waar Genesis vandaan komt.

Genesis is geen catalogus, geen reactiezoeker; het is een computationele, uitvoerbare lus die gekoppeld is aan reële chemische capaciteit, waarmee ideeën worden omgezet in geverifieerde materie. Al die AI-bedrijven die zich bezighouden met medicijnontwikkeling genereren niet meer dan willekeurige grafieken op een scherm; ze kunnen die stoffen in de praktijk helemaal niet maken. Wat Chemify doet, is moleculen fabriceren in de fysieke werkelijkheid met behulp van chemische robots, en Genesis verbindt de AI-modellen rechtstreeks met onze robotische synthese-engine. Klanten nemen Genesis af, behouden volledig hun eigen intellectueel eigendom en wij bundelen de operationele data. Chemify wordt daardoor steeds beter en sneller in het uitvoeren van chemie, terwijl de ontwerpen van klanten volledig versleuteld en afgeschermd blijven — vergelijkbaar met hoe de UK Biobank opereert. We hebben een chemputer-boerderij opgetuigd in Glasgow. Telkens wanneer we een reactie uitvoeren, wordt ons wereldmodel slimmer. Chemify's virtuele bibliotheek van digitaal verifieerbare moleculen omvat 10 tot de macht 40 varianten, getrokken uit die totale ruimte van 10 tot de 117.

Ja, ik wil God spelen

Host: Als je kijkt naar de schaalvergroting van tools zoals AI en de vermogens die mensen in een exponentieel tempo kunnen aanboren, maak je je dan wel eens zorgen over onze opkomende vermogen om god te gaan spelen?

Lee Cronin: Welnee, ik wil juist god spelen. Sterker nog, ik vind god spelen geweldig. We hebben mobiele telefoons, we hebben medicijnen, we hebben auto's. Ik wil vliegende auto's. Zoals Arthur C. Clarke al zei: elke voldoende gevorderde technologie is niet te onderscheiden van magie. Stel je voor dat je met een werkende smartphone en FaceTimen op zak terugreist in de tijd; men zou je voor een god aanzien. We moeten er wel voor waken dat mensen floreren en gedijen. Naar welke maatstaf je ook kijkt, de mensheid heeft het nog nooit zo goed gehad op aarde als nu. We verbranden fossiele brandstoffen om ammoniak te produceren om de wereld te voeden. Als we geo-engineering inzetten om klimaatverandering aan te pakken en er komen onverhoopt vijftig mensen om het leven door een onvoorziene factor terwijl we daarmee miljarden levens redden, bereken de uitkomst dan maar eens.

Host: Hoe zit het met genetische manipulatie, zoals Colossal Biosciences die uitgestorven soorten als de wolharige mammoet of de buidelwolf wil terugbrengen?

Lee Cronin: George Church trekt vermoedelijk aan de touwtjes achter dit soort initiatieven. George is een tikje baldadig. Net zoals ik graag experimenteer met scheikunde, experimenteert hij graag met biologie. Hij verkent de grenzen van wat ethisch en commercieel aanvaardbaar is. Is een laag IQ een te genezen aandoening? Als je de intelligentie van mensen genetisch zou kunnen verhogen, zou je dat dan doen? De samenleving zal moeten bepalen wat toelaatbaar is, precies zoals keizersneden destijds ook geaccepteerd raakten. In het VK hebben we bijvoorbeeld mitochondriale donatietherapie goedgekeurd — de zogenaamde driecoudersbaby's — om ernstige mitochondriale aandoeningen te voorkomen, en er zijn inmiddels gezonde kinderen geboren die anders aan spierdystrofie zouden zijn overleden.

Twaalf voet hoge reuzen en genetisch noodlot

Host: Daar valt weinig tegenin te brengen.

Lee Cronin: Als je mitochondriën een boost geeft, zou dat dan superatleten kunnen opleveren? In West-Europa bleven mensen door ondervoeding eeuwen lang achter bij hun genetische potentieel; in Nederland behoren mensen tegenwoordig tot de langsten ter wereld. Maak ik me zorgen dat kwaadwillenden de technologie van Chemify kunnen misbruiken om op grote schaal kwalijke stoffen te produceren? Wij bouwen encryptie en gps-geolokaliseerde licenties in onze systemen in. Onze chemputers zijn voorzien van uitgebreide firewalls, real-time telemetrie en fail-safe-ontwerpen.

Honderd jaar geleden bestonden 'computers' uit mensen in wolkenkrabbers met rekenlinialen die wereldwijd een paar honderdduizend bewerkingen per seconde uitvoerden. Vandaag de dag ligt het aantal chemici dat dagelijks reacties uitvoert ergens tussen de 100.000 en 1.000.000. De fysieke AI van Chemify zal het aantal chemische handelingen drastisch verhogen. Met dalende geboortecijfers moeten we mensen langer gezond zien te houden, wat de economie zal aanzwengelen via abonnementsgebaseerde gezondheidszorg en geavanceerde therapieën.

Lee versus James Tour bij Piers Morgan

Host: Zolang Dr. James Tour geen gelijk heeft en jij wel. Ik zag jullie destijds flink tekeergaan bij Piers Morgan.

Lee Cronin: James Tour is in de eerste plaats chemicus en in de tweede plaats wetenschapper, terwijl ik in de eerste plaats wetenschapper ben en in de tweede plaats chemicus. James bedrijft chemie en gebruikt die autoriteit vervolgens om gewicht bij te zetten aan zijn religieuze overtuiging. Hij beweert dat iedereen volstrekt in het duister tast over de oorsprong van het leven. Waarom zou ik überhaupt nog experimenten uitvoeren als ik het antwoord al wist? Ik ben de enige die bereid is om publiekelijk met hem in debat te gaan. Piers Morgan heeft een gigantisch bereik, en het was een leuk debat om te voeren. Een van mijn zoons keek ernaar en zei achteraf: "Dit is de eerste keer dat ik je ergens over hoor praten en het ook daadwerkelijk begreep." Als het hem heeft geïnspireerd, was het de moeite waard.

Lees werk

Host: Het is altijd geweldig om een open dialoog te voeren in de wetenschap. Hartelijk dank zoals altijd, Lee. We gaan dit beslist nog eens dunnetjes overdoen. Laten we nu maar eens een biefstuk gaan eten.

Lee Cronin: Jij ook bedankt, fantastisch om hier te zijn, en tot de volgende keer.

Host: Goed, beste mensen, denk er eens over na. Vrede. Veel dank voor het kijken. Vergeet niet te abonneren, laat een duimpje achter, word lid van de Patreon en sluit je aan bij onze Discord knip-community hieronder. Tot de volgende aflevering.