Video-essay "Recursive self-improvement has started", gepubliceerd op 13 november 2026

Dwarkesh Patel, de host van de Dwarkesh Podcast, heeft zijn prognose voor kunstmatige superintelligentie fors vervroegd. In een video-essay dat op 13 november werd geüpload, stelde hij dat hij de komst hiervan eerder dit jaar nog op "minstens het merendeel van een decennium" had geschat. Na drie maanden van debat en het observeren van de vooruitgang van AI in verifieerbare domeinen, gelooft hij nu dat de wereld "slechts een paar jaar, en mogelijk slechts een paar maanden verwijderd is" van AI's die even goed zijn als de beste mensen in AI-onderzoek. Hij verwacht dat AI's tegen 2030 minstens zo goed zijn als de beste menselijke experts in elk vakgebied, en mogelijk zelfs al volgend jaar. Hij noemde dit "een wilde bewering" die hij een paar maanden geleden zelf nog niet had geloofd.

Bewijs dat AI de AI-vooruitgang al versnelt

Patel fundeert zijn betoog op data uit de labs. METR, de onafhankelijke evaluatie-organisatie, bracht drie maanden door binnen Anthropic. De organisatie concludeerde dat het tempo van de AI-vooruitgang bij Anthropic op afgebakende taken tweemaal zo hoog ligt als een jaar geleden, en dat een "groot deel van deze versnelling vandaag de dag waarschijnlijk te danken is aan het intensieve gebruik van AI door Anthropic om R&D uit te voeren".

OpenAI publiceerde in september een blogpost waaruit bleek dat de 10% zwaarste AI-gebruikers onder onderzoekers aan het begin van de zomer nog zo'n $1.000 per dag aan intern gebruik van programmeeragents uitgaven, en dat dit tegen eind augustus was gestegen tot meer dan $7.000 per dag. Uit een eigen blogpost van Anthropic in september bleek dat Claude inmiddels leiding geeft aan 26% van het AI-R&D-werk van het bedrijf, tegenover nog geen 1% in februari.

Wiskunde als blauwdruk voor AI-onderzoek

De belangrijkste aanjager van Patels bijstelling is de snelheid waarmee AI op het gebied van wiskunde verbetert. Hij wees erop dat modellen in 2023 nog niet betrouwbaar viercijferige getallen konden optellen, dat ze in 2024 nauwelijks middelbare schoolcompetitieproblemen konden oplossen en dat ze in 2025 goud wonnen op de Internationale Wiskundeolympiade. Eerder dit jaar begonnen ze niche-open problemen op te lossen, en een maand geleden loste OpenAI in 88 uur tijd een Millennium Prize-probleem op. Volgens Patel worden honderden resultaten waar topwiskundigen tientallen jaren naar hebben gezocht nu geproduceerd "als nevenmissies om toekomstige modelreleases te promoten".

Hij erkende het tegenargument van Toby Ord, die schreef dat er "zeer weinig bewijs is dat ze krachtige vragen kunnen stellen of diepgaande nieuwe terreinen van wiskundig onderzoek kunnen ontdekken". Patels weerwoord is dat dezelfde zin ook betekent dat AI's een Millennium Prize-probleem hebben opgelost zonder die vermogens. Hij voert aan dat de scheefgroei richting verifieerbaar werk belangrijker is voor machine learning dan voor de wiskunde. Wiskunde waardeert uiteindelijk nieuwe theorie, terwijl AI-labs geven om wat empirisch gezien de training efficiënter of slimmer maakt, en de afgelopen anderhalf decennium van vooruitgang in deep learning heeft niet veel nieuwe theorie vereist.

Hij illustreerde dit punt aan de hand van de transformer. Onder verwijzing naar gesprekken met Sholto Douglas en een citaat van Chris Olah stelde hij dat geen enkel kernonderdeel actieve onderzoekers verraste. De architectuur bleek pas duidelijk superieur toen een stuk of zes aanpassingen juist werden gecombineerd, wat onderzoeksinstinct en een groot aantal kleine experimenten vergde. Dat is naar zijn mening de aanhoudende combinatorische zoektocht waarin AI's uitblinken in de wiskunde, en "het soort ding dat Claude 7 had kunnen uitvinden" als het was gevraagd om de attentielaag beter te laten werken.

Tijdlijn: mediaan in 2028, met een dikke staart aan beide kanten

Patels mediaan voor geautomatiseerde onderzoekers die de allerbeste menselijke AI-onderzoekers evenaren, is 2028, ervan uitgaande dat labs vol gas vooruitgaan en niet worden afgeremd door zichzelf of door de overheid. Hij schat de kans op minstens 25% dat dit pas na 2032 gebeurt, omdat belangrijke onderdelen van AI-onderzoek wel eens moeilijk te automatiseren kunnen blijken. Aan de andere kant stelt hij dat sommige van de best gekalibreerde onderzoekers die hij kent deze mijlpaal al volgend jaar verwachten.

Hij merkte op dat 2027 ook de logische implicatie is van METR's bevinding ingevoerd in een 'takeoff'-model. Hij citeerde Ajeya Cotra: "Als we voor zoete koek aannemen dat AI de snelheid van de vooruitgang in AI-capaciteiten inmiddels bijna verdubbelt en we ervan uitgaan dat de versnelling door AI geleidelijk verloopt, impliceert dit op naïeve wijze dat we binnen een jaar extreme superintelligentie zouden bereiken." Patels mediaan is niet 2027, enkel omdat hij onzeker is over de nauwkeurigheid van dergelijke modellen.

Waarom geautomatiseerde onderzoekers sneller, beter en talrijker zouden zijn

Patel gaf drie redenen waarom de vooruitgang versnelt zodra de mijlpaal is bereikt. Ten eerste werken AI's al op ongeveer tien keer de menselijke snelheid en zouden ze dag en nacht doorwerken, waardoor elke geautomatiseerde onderzoeker ruwweg vijftig keer zoveel werk per kalenderweek zou verzetten als een mens. Hij waarschuwde dat de rekenkracht voor experimenten niet zou versnellen, waardoor de opbrengst sterk zou afnemen, maar hij verwacht nog steeds dat de algoritmische vooruitgang vele malen sneller zal verlopen.

Ten tweede: kwaliteit. Hij schat dat zo'n 80% van de algoritmische vooruitgang in een grensverleggend lab afkomstig is van de vijftig toponderzoekers, wat volgens hem verklaart waarom Zuckerberg bereid was honderden miljoenen dollars te betalen voor toptalent. In een geautomatiseerd lab zou elke onderzoeker op dat niveau acteren.

Ten derde: kwantiteit. Patel voerde aan dat AI-onderzoek meer lijkt op het formaliseren van een theorema dan op het schrijven van een roman. Hij wees op een animatie van talloze Claudes die gezamenlijk de laatste stelling van Fermat formaliseren verdeeld over duizenden modulaire subtaken, die elk lokaal controleerbaar zijn. AI-labs splitsen werk nu al op tussen teams op het gebied van datafiltratie, synthetische RL-omgevingen en attentiekernels. Hij erkende de sterk afnemende meeropbrengsten, en merkte op dat "het hebben van 100.000 collaborateurs niet betekent dat je 100.000 keer zo snel gaat, waarschijnlijk niet eens 100 keer zo snel", maar stelde dat het onaannemelijk is dat orden van grootte meer arbeid niet minstens een paar keer snellere vooruitgang zou opleveren.

Vonk of 'software-only singularity': een munt opwerpen

Patel formuleerde de kernvraag als de kwestie of de zelfverbeteringslus sneller gaat dan de toenemende moeilijkheid om nieuwe ideeën te vinden. Hij merkte op dat AI-bedrijven nu al elk jaar de R&D-rekenkracht moeten viervoudigen en hun personeelsbestand moeten verdubbelen om een constant tempo van vooruitgang te handhaven. Als AI sneller verbetert dan dat ideeën moeilijker te vinden zijn, is het resultaat een "software-only singularity", waarin de zwerm – zonder extra rekenkracht – binnen enkele maanden een superintelligentie bereikt die "schuurt tegen de fysieke limieten van onze huidige chips".

Als ideeën sneller moeilijker worden, is het resultaat wat hij een "vonk" noemt: growweg drie tot zes jaar aan vooruitgang in het huidige tempo gecomprimeerd in één kalenderjaar, waarna de boel "kalmeert" totdat er meer rekenkracht is gebouwd. Hij gaf beide scenario's 50% kans.

Zelfs het vonk-scenario, zo zei hij, zou extreem aanvoelen. Hij vergeleek een sprong van vier jaar met de overgang van GPT-3.5 – dat een acceptabel limerick kon schrijven maar "vooral een nutteloos speelgoed" was – naar een hypothetische GPT-6 "Astra" die hele videogames vanaf nul opbouwt en bijdragen levert die een Fields-medaille waardig zijn, in een tempo dat waarnemers ongevoelig maakt. Vanaf 2027 of 2028, zo zei hij, zou een dergelijke sprong een geest opleveren die zelfs op licht verifieerbare domeinen enorm Bovenmenselijk is. Hij somde op: het ontwerpen van de volgende generatie AI-accelerators op een manier die beter is dan Nvidia, het verdienen van meer dan de huidige menselijke versies van Citadel en Jane Street bij gelijke markttoegang, en het vinden van een kamertemperatuur-supergeleider mits er op afstand toegang wordt verleend tot een materiaallab.

Hoe superintelligentie goed wordt in moeilijk te verifiëren werk in de echte wereld

Patel ging in op het voor de hand liggende bezwaar dat een in datacenters getraind systeem niet kan wedijveren met experts wier voordeel voortkomt uit jarenlange ervaring in de echte wereld, op gebieden als het opbouwen van bedrijven, het winnen van rechtszaken, handelen of het voeren van campagnes. Hij beweert niet dat de antwoorden in de modelgewichten kunnen worden ingebakken. Zijn bewering is dat opgeschaalde RL AI's de algemene vaardigheden zal geven om snel op te schalen in nieuwe contexten, zoals het zoeken naar informatie, plannen, doorzetten bij obstakels, bijhouden wat ze hebben geleerd en samenwerken.

Hij verwacht dat geautomatiseerde technici tienduizenden keren meer RL-omgevingen zullen bouwen dan er vandaag de dag bestaan, vele malen groter en opener, "elk vergelijkbaar met de huidige videogames zoals een Bugatti zich verhoudt tot een paard-en-wagen". Voorbeelden zijn het droppen van een AI in een gesimuleerde economie van miljoenen andere AI's om samen een bedrijf te starten, of het uitvoeren van historische backtests. Een dergelijke taak zou de vraag kunnen omvatten of een AI die is getraind op een corpus dat eindigt in 1700 de algemene relativiteitstheorie kan afleiden, en een andere of deze de Cubaanse raketcrisis kan voorspellen aan de hand van kranten tot en met 1962. Geautomatiseerde onderzoekers zouden ook de leeralgoritmen zelf verbeteren, in het bijzonder online leren en 'sample efficiency'....