Naveen Rao van Unconventional AI: Vrijwel lege Amerikaanse stroomreserves binnen enkele jaren op, volgende efficiëntiewinst komt uit co-design van model en machine
Podcastinterview met de oprichter van Unconventional AI, 24 oktober 2026
Naveen Rao, oprichter van Unconventional AI, stelt dat de AI-uitrol op een harde fysieke grens afstevent. De VS heeft datacenters gevoed vanuit de restcapaciteit van het bestaande elektriciteitsnet, en hij verwacht dat die ruimte "de komende jaren" is verdwenen. Rao verkocht MosaicML eerder aan Databricks voor $1,3 miljard. Unconventional AI heeft sindsdien honderden miljoenen dollars opgehaald, meest recentelijk tegen een waardering die de host op bijna $5 miljard schatte. In een breed aangesneden podcastgesprek zette Rao ook uiteen waarom de energiefirst-benadering van zijn chipontwerp nog volop ruimte heeft na het bereiken van de fysieke schaalbaarheidsgrens.
De gemakkelijke stroom is al opgesnoept
Rao's kernpunt over energie is dat beleggers gigawatts als een abstract begrip behandelen. Hij haalde cijfers uit de industrie aan van grofweg $50 miljard om één gigawatt aan capaciteit te bouwen, tegenover $20 miljard tot $30 miljard voor een geavanceerde halfgeleiderfabriek. "Mensen slingeren met het woord gigawatt alsof het niks is," zei hij. "Jongens, dit is niet eenvoudig."
Volgens Rao heeft de industrie tot nu toe stroom gevonden door bestaande infrastructuur op een hogere bezettingsgraad te laten draaien. Het Amerikaanse stroomnet levert gemiddeld zo'n 900 gigawatt, maar kan uitschieten naar pieken van 1,2 tot 1,3 terawatt, en dat gat is wat datacenters hebben opgeslokt. Hij verwacht dat die buffer snel is uitgeput, waarna de groei van het aanbod gelijk opgaat met het tempo van nieuwe bouwprojecten. Hij was sceptisch over de bewering dat de VS 40 gigawatt per jaar kan toevoegen: "Dat hebben we nog nooit gedaan." Tien gigawatt zou een sterk resultaat zijn, en daar plakt hij een prijskaartje van grofweg een halfbiljoen dollar aan.
Hij merkte op dat China de VS in 2023 qua totale capaciteit voorbijstreefde na twee decennia lang ongeveer zes keer sneller te hebben gebouwd. Hij erkende de voordelen van centrale planning bij de uitrol van infrastructuur, maar stelde dat de VS aan de winnende hand blijft op het gebied van baanbrekende innovatie.
Rao ziet vroege tekenen van krapte in de prijzen. Achter-de-meter-contracten (behind-the-meter) zijn maatwerk, dus harde cijfers heeft hij niet, maar kopers betalen volgens hem flink boven de reguliere nettarieven. Dit creëert een gespleten markt waarin elektriciteit meer waard is voor datacenters dan voor reguliere gebruikers. Hij haalde zijn eigen ruwe, en naar eigen zeggen verzonnen berekening aan dat rekencapaciteit kan worden verkocht voor ongeveer 5x de kosten van de onderliggende elektriciteit, waardoor een exploitant 30% tot 40% meer voor stroom kan betalen en alsnog aantrekkelijke marges overhoudt. Over het multi-gigawattproject van Bloom Energy in Arizona bleef hij terughoudend: "Als dat werkt, fantastisch," maar het is "nog niet echt bewezen" en de economische dynamiek wijkt sterk af van netstroom.
Gevraagd of dit wijst op een AI-bubbel, noemde Rao de terugval in schuldfinanciering "een rimpel in het water. Het is geen bubbel die uiteenvalt." Hij gaf toe dat hij "behoorlijk AI-pilled" is en dat de echte test ligt bij de vraag naar AI-diensten, waarvan volgens hem het potentieel nog amper is aangeboord.
Efficiëntiewinst is opgeschoven in de stack
De meest waardevolle technische inkijk volgde toen Rao drie lagen van computer-efficiëntie beschreef. De eerste is fysiek en omvat de wet van Moore en de schaalvergroting van Dennard. Die winst is "grotendeels gestopt", aldus Rao, en de laatste generaties GPU's tonen weinig verbetering vanuit het silicium zelf. De tweede laag is de computerarchitectuur, waar de meeste recente winst vandaan kwam door datatypes in te korten van 32-bit naar 16-bit, 8-bit en 4-bit. De derde laag, die volgens hem grotendeels onontgonnen is, betreft het afdwingen van lokaliteit en het reduceren van datatransport op modelniveau.
Rao zei dat zijn grootste spijt van twee jaar geleden is dat hij onvoldoende besefte hoeveel "alpha" er nog in de toplaag verscholen zit. De verschuiving bestaat eruit dat een computer nu kan worden behandeld als een apparaat dat uitsluitend is gebouwd om intelligentie te leveren, waardoor het model, de architectuur en de fysieke laag samen kunnen worden ontworpen. "We beschouwen het model niet als heilig en we denken vanuit energie: alles wat we doen moet ons een energievoordeel opleveren," zei hij. Hij benadrukte dat dit verschilt van elke eerdere computeregeneratie, die juist op snelheid was ontworpen – een lijn die hij terugvoert tot de ENIAC.
Hij voerde aan dat puur softwarematige verbeteringen worden begrensd door de onderliggende hardware. Sparsiteit is daarvan zijn voorbeeld: een GPU met standaard extern geheugen (off-chip) kan er enig voordeel uit halen, maar de winst blijft beperkt omdat de hardware er niet voor is ontworpen. Hardware die is gebouwd om sparsiteit te benutten, zoals het brein in de loop der evolutie is gaan doen, zou "enorme winst" kunnen opleveren. Hij verwacht dat dit zal leiden tot aanhoudende specialisatie van chips voor specifieke workloads, waarbij hij onder meer Etched, Fractile, Olix en Cerebras noemt als partijen die dit nastreven.
Waarom Rao geen commoditisering van chips verwacht
Op de vraag of specialisatie de adresseerbare markt van Nvidia bedreigt, prees Rao het bedrijf om zijn sterke uitvoering en het vroegtijdig onderkennen van het belang van AI. Hij merkte op dat Jensen Huang in 2014 op GTC al sprak over kunstmatige intelligentie, tot ergernis van graphics-specialisten. Aangepaste chips (custom silicon) van hyperscalers ziet hij niet als bewijs van commoditisering. Zijn redenering is dat de vraag naar intelligentie feitelijk oneindig is omdat de wereld adversarieel is, dat energie moet worden omgezet in intelligentie, en dat hardware – oftewel de chips, systemen, cloud en netwerken – het omzettingsmechanisme vormt. "Hoe beter ik dat doe, des te meer waarde ik toe-igen."
Hij was opener over waar commoditisering wél plaatsvindt. Energie is al een commodity. Een deel van de intelligentie volgt diezelfde weg, omdat open models – waaronder Chinese – die een half jaar oud zijn, "nog steeds verdomd goed" zijn, en de technologietop (frontier) open modellen binnen dat tijdsvenster bereikt. Hij trok de analogie met tomaten: gecommoditiseerd, maar nog steeds een enorme markt met dalende marges. Nvidia strijkt volgens hem vandaag de dag de leeuwendeel van de marges op over de hele stack heen, en hij verwacht niet dat modelbedrijven die positie zullen overnemen.
Voor inferentieleveranciers zoals Fireworks en Baseten verwacht Rao dat de prijs per token zal dalen en marges zullen krimpen, aangezien zij open modellen op hardware leggen en het model zelf een commodity is. Zijn conclusie: "Ik denk daadwerkelijk dat de hardware de plek is om te zitten de komende 10 jaar."
Marktomvang, open versus gesloten, en wat Rao overschat acht
Rao stelt dat de inferentiemarkt binnen 10 jaar $10 biljoen zal bereiken, en dat AI-modellen zelf binnen enkele jaren een markt van een biljoen dollar zullen vormen. Hij haalde de paradox van Jevons aan: een vertienvoudiging van de efficiëntie bij tokenlevering vergroot de markt ruwweg vertienvoudigd doordat de basis aan applicaties groeit. Hij ging nog een stap verder wat betreft robotica en stelde dat die markt "100 keer groter" zal worden dan coderen, omdat de fysieke wereld nog volledig onaangeraakt is door intelligentie. Industriële robots zijn vandaag de dag volgens hem routinematig in plaats van intelligent. Hij verwacht werkende prototypes over twee tot drie jaar en een echte markt over vijf tot zeven jaar. Hij investeert liever in de technologiestack dan in toepassingen, verwacht dat modelbouwers uiteindelijk end-to-end-apparaten gaan verkopen, en toonde zich het meest geïnteresseerd in bedrijven die "de omzetting van een taak naar motorische output" oplossen, zoals Physical Intelligence.
Over de mix van tokens voorspelde hij dat binnen drie jaar 80% van het tokenverkeer via open modellen zal verlopen, maar dat de uitgaven grofweg 50/50 verdeeld zullen zijn. Hij gebruikte de analogie van de smartphone: Apple heeft pakweg 20% van de stuks-omzet maar 80% van de marge, en topmodellen (frontier models) zullen premium prijzen kunnen vragen voor een klein aantal complexe vraagstukken, terwijl routinetaken naar open modellen gaan.
Hij was negatief over twee categorieën. Klantenservice-automatisering, een "standaardtaak door mensen uitgevoerd" die startups proberen te automatiseren, is "de slechtste plek om nu in te investeren." Daarnaast noemde hij agentic coding-tools "behoorlijk overschat" als op zichzelf staande markt; volgens hem vloeit de waarde naar de modelleveranciers toe en bieden interfaces (harnesses) en IDE's te weinig binding. "Mensen stappen daar vrij soepel tussen over." Hij erkende de exit van Cursor, maar benadrukte dat het model er toe doet.
Verificatie, niet creatie, is de nieuwe knelpas
Rao zei dat AI het verkennen van ideeën een stuk goedkoper heeft gemaakt. Een vraagstuk over ruis-propagatie dat zijn onderzoeksteam vroeger twee weken kostte, vraagt nu een uur. Maar hij signaleert een "AI-slop-probleem" waarbij het volume aan output de capaciteit om het te controleren overstijgt. "We hebben het probleem verplaatst van productie naar verificatie." Hij waarschuwde dat het bezitten van verificatie op zich nog niet betekent dat je ook de productie bezit, omdat de specificatie en het end-to-end-proces minstens zo belangrijk zijn.
Hij vindt dat beslissingen van AI-agenten het vertrouwen dat menselijke experts krijgen nog niet verdienen. Modellen zijn stochastisch, het mechanisme om over verschillende taken heen een goede output te selecteren is onvoldoende doorgrond, en lange ketens van beslissingen kunnen robuust ogen terwijl ze "totaal verkeerd" zijn. Hij verwacht nog enkele doorbraken voordat dat verandert, en rekent er uiteindelijk op dat mensen hun agenten meer zullen vertrouwen dan zichzelf.
Labs, reinforcement learning en de visie na de transformer
Rao voerde aan dat data en het trainingscurriculum – en niet de architectuur – de drijvende kracht zijn achter de meest recente capaciteitswinst, en dat de opeenvolging van pre-training naar reinforcement learning en fine-tuning "het geheime recept" vormt. Hij gaf aan dat dataleveranciers zich eerder specialiseren dan dat ze commoditiseren naarmate ze opschuiven naar datasets van hogere kwaliteit. Openhartig erkende hij dat reinforcement learning per rekeneenheid of dollar minder efficiënt is dan pre-training. De waarde ervan zit in het feit dat het werkt met verifieerbare beloningen voor taken waar data niet op grote schaal kan worden verzameld.
Hij opperde dat de grote labs geen diepgaande architectonische risico's durven nemen omdat een vertraging van een maand op een model een "ramp" betekent. Hij haalde xAI aan, dat snel de top bereikte door gericht te werven en uit te voeren, als bewijs dat het werk meer neerkomt op integratie dan op uitvinding. Hij verwacht dat diepere innovatie zal komen van startups, zoals die van Yann LeCun en Fei-Fei Li, en dat grote bedrijven hen zullen overnemen, analoog aan de farmaceutische industrie. Ook stelt hij dat de industrie voorbij de transformer zal groeien, wat hij een inefficiënte manier noemde om tot redenering te komen omdat het leunt op het samplen en vergelijken van meerdere sporen.
Software, diensten en banen
Rao deed de meest onomwonden uitspraak over beleggen: "Als je een pure software-belegger bent, ben je eigenlijk de sjaak." Hij betoogde dat de SaaS-boom die grofweg rond 2010 begon en leunde op frictieloze levering, ten einde loopt naarmate applicaties draaien om de intelligentielaag. Hij ziet software over 20 jaar niet meer als een gigantische markt. Wat daarvoor in de plaats komt, zijn volgens hem resultaatgerichte bedrijven die AI combineren met mensen, met Harvey als eerste voorbeeld in de juridische sector. Hij gaf de host toe dat dit in de kern een geavanceerdere versie is van een dienstverlenend bedrijf. Sceptisch is hij over het idee dat de meeste bedrijven hun eigen modellen gaan bouwen op basis van propriëtaire data; dat noemde hij "wat technologisch optimistisch" omdat daar een schaalgrootte voor nodig is die enkel grote ondernemingen bezitten.
Op de vraag of AI de budgetten voor ontwikkelaars doet inkrimpen, verwacht Rao dat de budgetten ruwweg stabiel blijven, terwijl de output stijgt. Klanten zullen bugfixes binnen een week en later binnen een uur eisen, en mensen blijven hard nodig voor de verificatie. Hij vergeleek dit met robots die de bouw van een wolkenkrabber verkorten van twee jaar naar acht maanden: in dat scenario bouwt de sector simpelweg twee keer zoveel wolkenkrabbers in plaats van dezelfde hoeveelheid in minder tijd.
Durfkapitaalrisico heroverwogen
Rao gaf aan dat de grootste verandering in zijn denkwijze van het afgelopen jaar betrekking heeft op beleggingsmetriek. Marktvalidatie is een overblijfsel uit het SaaS-tijdperk, zo betoogde hij. Bij dieptechnologische vraagstukken waar de vraag zonneklaar is – zoals computing, robotica en biologie – telt enkel de voortgang op het technische vlak. "De markt is overduidelijk aanwezig." Hij erkende dat groeibeleggers die deze aanpak ondisciplinair noemen één kamp vormen, met Unconventional AI pal in het andere kamp. Hij voegde eraan toe dat wanneer de markt de schaal van een biljoen dollar bereikt, "de prijs vrijwel irrelevant is."
Gevraagd wat hij zou doen met onbeperkte middelen, antwoordde hij dat hij zijn eigen productieketen zou opzetten, dichter bij de grondstoffen zou kruipen en fabrieken zou ontwerpen rond zijn eigen behoeften in plaats van een commodity-proces aan te passen. Hij vergeleek dit met wat Elon Musk doet. Ook merkte hij op dat de Europese beleggersbasis te conservatief is om ambitieuze ideeën te financieren, wat daar volgens hem leidt tot een "commoditisering van ideeën."