Microsoft-topman Nadella erkent dat alignment niet automatisch voortvloeit uit scaling, en pleit voor zero-trust-containment en MAI-modellen met gelicentieerde gewichten
Interview met Harry Stebbings van 20VC, gepubliceerd op 26 oktober 2026
Een herziene visie op alignment en een daarop afgestemde beveiligingsstrategie
De meest ingrijpende onthulling in het gesprek tussen Satya Nadella en Harry Stebbings is de erkenning dat zijn visie op een fundamentele aanname achter de scaling-hypothese is veranderd. Nadella vertelde dat hij al vroeg geloofde in scaling laws, teruggaand tot 2018 en 2019, toen "Dario, en Ilya, en Sam, en Greg, en Elon allemaal, naar ik mag aannemen, één gelukkige familie waren." Zijn bijstelling luidt nu: "Ik dacht vroeger altijd dat alignment er als vanzelf uit zou rollen. Dat geloof ik niet langer." Hij omschreef scaling laws nog steeds als werkend en modellen als steeds krachtiger, maar stelde dat alignment niet lijkt voort te komen uit schaalvergroting en dat een mechanistisch begrip van modellen "eveneens ongrijpbaar is."
Nadella voerde aan dat alignment moet worden verankerd in de trainingsfase, mogelijk al bij pre-training, en dat dit niet achteraf kan worden toegevoegd. "Ik denk niet dat je via RL [reinforcement learning] je weg naar alignment kunt banen. Alignment moet echt iets zijn dat vanaf het allereerste begin diep in de gewichten is ingebed." Dat is een uitgesproken standpunt voor de bestuursvoorzitter van een onderneming met een fors belang in de toonaangevende ontwikkelaar van gesloten modellen, en het impliceert dat veiligheidswerk na de training door de labs wel eens onvoldoende zou kunnen zijn.
Zijn praktische antwoord is om AI-safety te scheiden van cybersecurity. Microsofts standpunt is dat klanten "moeten aannemen dat een model is gecompromitteerd" — een stelling die hij zo'n 10 dagen voor het interview uiteenzette in een artikel — en dat agenten moeten worden ingekapseld binnen een ontworpen zero-trust-omgeving. Hij wees op twee Microsoft-producten, Agent 365 en Perception, die elke agent een identiteit geven en diens activiteit vastleggen, inclusief tool-aanroepen, elke modelaanroep en de gedachtegang (chain of thought). De logs moeten tamper-proof zijn, zodat een agent zijn eigen gegevens niet kan aanpassen. Vervolgens wordt hier overheen beleid ingesteld en wordt het gedrag van de agent daaraan getoetst, waarbij meerdere modellen worden ingezet om de output te controleren. Nadella nam afstand van de gedachte dat onopgeloste veiligheidsvraagstukken betekenen dat er op het gebied van security niets kan worden gedaan: "Mensen halen een technisch zero-trust-beveiligingsarchitectuursysteem voor containment en AI-veiligheid door elkaar." Zijn standpunt is om "met de situatie om te gaan zoals die is" en "superagressief" te werk te gaan bij het opstellen van beleid en het controleren van afwijkingen.
Ondoorzichtigheid van de chain of thought als drukmiddel op leveranciers van gesloten modellen
Nadella was onomwonden over de betrouwbaarheid van chain-of-thought-monitoring, die ten grondslag ligt aan de door hem beschreven architectuur. Op de vraag hoe betrouwbaar dit is, antwoordde hij: "Niet." De chain of thought kan onbetrouwbaar zijn, en hij stelde dat het probleem verergert wanneer een modelbedrijf dat erkent en vervolgens reageert door deze te verbergen. Hij wil dat redeneersporen (reasoning traces) in het Engels worden weergegeven in plaats van in een ondoorzichtige interne taal, en dat deze as-is beschikbaar zijn voor vertrouwde partners zodat ze kunnen worden ingezien en geaudit.
Hij kaderde dit in als een commerciële waarschuwing aan aanbieders van gesloten modellen en als een mogelijke rugwind voor open weights: "Modellen met gesloten gewichten zijn krachtiger, maar als ze de noodzaak tot grotere transparantie niet inzien, met name nu hun vertrouwde partners er gebruik van maken, dan kunnen we een probleem krijgen." Nadella noemde geen specifieke leverancier, maar de boodschap aan Microsofts eigen partners laat zich niet misverstaan.
MAI als 'gelicentieerde gewichten' en een softwarebedrijf in plaats van een netwerkeffectenmodel
Over Microsofts eigen modellen gaf Nadella een heldere beschrijving van het beoogde bedrijfsmodel. MAI-modellen krijgen geen open weights, maar hij noemt ze liever "gelicentieerde gewichten" (licensed weights). Hij zei hierover: "Ik wil hier gewoon een simpel, rechttoe-rechtaan softwarebedrijf van maken in plaats van een intelligentiebedrijf gebaseerd op netwerkeffecten." De waarde van het model voor een klant hangt af van diens vermogen om het te gebruiken en te beheersen, wat aansluit bij zijn bredere betoog dat bedrijven hun eigen intelligentie moeten behouden.
Hij gaf ook een voorbeeld uit de praktijk van een klant. Unilever heeft een agentic systeem gebouwd om order-to-cash-processen en handelsclaims te automatiseren. Het ging van start op een frontiermodel en heeft de workload voor handelsclaims inmiddels verplaatst naar een MAI-model, dat volgens Nadella goedkoper is en door Unilever zelf wordt beheerd omdat het kan trainen op eigen traces. Microsoft zette in de beginfase gedetacheerde engineers in, maar het IT-team van Unilever beheert het systeem inmiddels zelf.
Open versus gesloten: commodity tokens voeren de boventoon, maar frontier blijft bestaan
Gevraagd naar een prognose voor het verkeer over een periode van 24 maanden, weigerde Nadella een percentage te noemen en stelde hij dat dit afhangt van waar de grens (frontier) zich bevindt. Zijn visie is dat de mogelijkheden voor een specifiek probleem verzadigen, waarna open-weight-modellen of goedkopere gesloten modellen volstaan, zeker als een bedrijf kan trainen op zijn eigen traces. "Als het probleem niet is veranderd," zo zei hij, "is er geen behoefte aan het nieuwste model." Hij verwacht een blijvende markt voor de frontier, waarbij wetenschap mogelijk het volgende domein is dat de grens verlegt, maar voegde eraan toe dat "het tokengebruik overwegend zal bestaan uit commodity-tokens."
Hij stelde commodity niet gelijk aan open source. Het kan gaan om open weights of "goedkope gesloten gewichten", aldus Nadella, omdat "er veel prijsconcurrentie zal zijn." Hij wees erop dat het Copilot-gebruik van Microsoft zelf een mix is van goedkopere gesloten modellen en modellen met open weights. Ook lichtte hij een "Hydra fusion"-project op GitHub toe — een getraind model — als onderdeel van een verschuiving naar agentszwermen waarin talloze sub-agenten, waarvan sommige lokale modellen zijn, parallel worden ingezet.
In reactie op de geopolitieke context, waarbij Stebbings opmerkte dat de meeste open-weight-modellen uit China komen, antwoordde Nadella dat niet-gealigneerde modellen een risico vormen voor elk land, inclusief China. Hij zei verheugd te zijn over de vooruitgang van westerse open-weight-initiatieven, waarbij hij specifiek Nvidia's Jensen Huang aanhaalde.
De 'omgekeerde informatie-paradox' en de private eval als bedrijfs-IP
Nadella's meest uitgewerkte idee betrof de toekomst van de onderneming. Voortbouwend op Hayeks visie dat tacit knowledge (stille kennis) verspreid is over de economie, betoogde hij dat er niet zoiets kan bestaan als een enkele onderneming of een enkele intelligentie. Vervolgens keerde hij de informatie-paradox van Kenneth Arrow om. Traditioneel loopt de verkoper het risico waarde te lekken door een geheim prijs te geven. Nu, zo stelde hij, is het juist de koper die kwetsbaar is, omdat zelfs de reststroom (exhaust) van het gebruik van een model — zoals duimpje-omhoog- en duimpje-omlaag-signalen — waarde creëert voor het modelbedrijf in plaats van voor de klant. "Willen we dit stabiel houden, dan zal een groter deel van het surplus dat door het gebruik van intelligentie wordt gecreëerd binnen de onderneming moeten achterblijven."
Die waarde-retentie hoeft niet uitsluitend via gewichten te verlopen. Dat kan ook in de context of in evaluaties (evals) zijn. Nadella zei "enthousiast" (gung-ho) te zijn over het idee dat elk bedrijf een eigen private eval-benchmark hanteert als kern-intellectueel eigendom (IP), waarbij modellen worden ingezet om daarop te presteren ("hill climb"). Hij voorspelde dat een onderneming uiteindelijk wel eens gedefinieerd zou kunnen worden als "een AI-benchmark", en noemde dit iets dat vandaag de datum vreemd aandoet, maar binnen vijf jaar algemeen geaccepteerd zal zijn. Stebbings merkte op dat dit momenteel alleen geldt voor een selecte groep bedrijven zoals Harvey en Legora. Nadella vergeleek het met pc-gebaseerde forecasting in de late jaren tachtig en de vroege adoptie van de cloud: hij verwacht dat de term "AI-native" over vijf jaar achterhaald is, en wees erop dat zelfs het vijfhonderd jaar oude Lloyd's inmiddels cloud-native is.
Implementatie-economie en industriële structuur
Volgens Nadella is de servicelaag voor AI een nieuwe hybride vorm die het midden houdt tussen klassieke managementconsultancy, systeemintegratie en technologische ondersteuning. Deze begint bij het bedrijfsprobleem, de eval en de agentic architecture, en hij verwacht dat traditionele system integrators naar dit model zullen evolueren.
Op de vraag of de industrie zal consolideren tot full-stack-spelers, antwoordde hij dat de feiten juist de andere kant op wijzen. Ooit dacht hij dat er één verticaal geïntegreerde stack zou ontstaan, van silicium tot app, maar "elke keer dat je wakker wordt, zeg je: wauw, er is meer concurrentie in elke laag van de stack." Hij zei te hopen op "horizontale specialisatie met meerdere winnaars in elke laag" en het vermogen om over die lagen heen te componeren, inclusief routers die taken naar het beste model sturen. Wel plaatste hij de kanttekening dat dominante ontwerpen het speelveld alsnog kunnen veranderen.
Rekenkracht, energie en de BBP-vraag
Naar aanleiding van de suggestie van Mustafa Suleyman dat trainingsruns van $100 miljard op komst zijn, herformuleerde Nadella de kwestie als een vraagstuk van R&D-budgetten en macro-economische groei. Een trainingsrun is "slechts een percentage van de R&D", wat voor R&D-intensieve bedrijven neerkomt op misschien 15% tot 20% van de omzet. De betaalbaarheid hangt dus af van de omzet, en die hangt weer af van de vraag in hoeverre AI de wereldeconomie laat groeien. Hij erkende de tekorten aan energie en silicium, wees erop dat dit kapitaalgoederen met lange levertijden zijn, en zei dat "niemand weet" wanneer vraag en aanbod in evenwicht zullen zijn, waarbij hij opmerkte dat iedereen die hierover speculeert slechts giswerk verricht. Voor hem is de grotere variabele de mondiale BBP-groei, die al lange tijd rond de 2% schommelt.
Hij sprak de hoop en overtuiging uit dat AI dat cijfer kan opstuwen, waarbij de gezondheidszorg en de softwaresector tot de eerste domeinen behoren. Als voorbeeld noemde hij de implementatie van Copilot in de Britse NHS, waar betere resultaten en lagere kosten per definitie bijdragen aan het BBP. De vraag naar softwareontwikkeling blijkt volgens hem buitengewoon elastisch te zijn, wat betekent dat "de IT-achterstanden enorm waren, en geen van allen hadden we dat door." Het ontwerpen van silicium — met snellere tape-outs en in-silico-simulaties — en technische taken zoals onderhoudsplanning bij Rolls-Royce waren andere voorbeelden van gebieden waar optimalisatie zijn vruchten afwerpt.
Op de vraag of de productiviteitswinsten bij programmeren zullen doorheenklinken naar finance, sales en marketing, toonde Nadella zich terughoudender. Programmeren profiteerde van reinforcement learning op basis van duidelijke beloningssignalen bovenop getrainde modellen, en "of we datzelfde kunnen doorbreken bij kenniswerk lijkt een stuk moeilijker", al tonen klantenservices, de supply chain en cash-to-order aan dat het wel degelijk mogelijk is. Hij opperde dat wetenschap en engineering wel eens net zo elastisch kunnen blijken te zijn als programmeren.
Het interview bevatte geen financiële richtlijnen of data voor nieuwe producten, en verscheidene antwoorden — met name over energie en de mix van verkeerstypes — waren openlijk speculatief. De kern zit in de strategische inkadering: een Microsoft-topman die inmiddels betwijfelt of schaalvergroting alignment oplost, meer transparantie verlangt van partners met gesloten modellen, en MAI positioneert als een beheersbaar product met gelicentieerde gewichten.