Microsoft-Chef Nadella räumt ein, dass Alignment nicht automatisch durch Skalierung entsteht, und setzt auf Zero-Trust-Kapselung sowie MAI-Modelle mit lizenzierten Gewichten
Interview mit Harry Stebbings von 20VC, veröffentlicht am 26. Oktober 2026
Ein Umdenken beim Thema Alignment und eine darauf ausgerichtete Sicherheitsarchitektur
Die folgenreichste Offenbarung in Satya Nadellas Gespräch mit Harry Stebbings ist das Geständnis eines veränderten Blickwinkels auf eine Kernannahme der Skalierungsthese. Nadella erklärte, er sei ein früher Befürworter der Skalierungsgesetze gewesen, zurückreichend bis in die Jahre 2018 und 2019, als „Dario, und Ilya, und Sam, und Greg, und Elon schätzungsweise eine glückliche Familie waren“. Seine Korrektur lautet nun: „Früher dachte ich immer, Alignment wird sich ganz von selbst einstellen. Das glaube ich nicht mehr.“ Er bezeichnete die Skalierungsgesetze zwar weiterhin als funktionierend und Modelle als zunehmend leistungsfähig, jedoch scheine sich Alignment nicht aus der Skalierung zu ergeben, und ein mechanistisches Verständnis der Modelle „bleibt ebenfalls schwer greifbar“.
Nadella argumentierte, Alignment müsse in das Training integriert werden – möglicherweise bereits in das Pre-Training –, und lasse sich nicht nachträglich hinzufügen. „Ich glaube nicht, dass man sich per Reinforcement Learning zum Alignment durchschlagen kann. Man muss dafür sorgen, dass Alignment von Anfang an tief in den Gewichten verankert ist.“ Das ist eine bemerkenswerte Aussage für den CEO eines Unternehmens, das stark an dem führenden Anbieter geschlossener Modelle beteiligt ist, und sie legt nahe, dass die bisherige Post-Training-Sicherheitsarbeit der Labore unzureichend sein könnte.
Seine praktische Antwort darauf besteht darin, KI-Sicherheit und IT-Security strikt voneinander zu trennen. Microsofts Position lautet, Kunden sollten „davon ausgehen, dass ein Modell kompromittiert ist“ – eine These, die er rund zehn Tage vor dem Interview in einem Beitrag dargelegt hatte –, und Agenten in einer per Engineering abgesicherten Zero-Trust-Umgebung kapseln. Er verwies auf zwei Microsoft-Produkten, Agent 365 und Perception, die jedem Agenten eine Identität zuweisen und dessen Aktivitäten protokollieren, darunter Tool-Aufrufe, jeden Modellaufruf sowie die jeweilige Gedankenkette (Chain of Thought). Die Protokolle müssen manipulationssicher sein, damit ein Agent seinen eigenen Verlauf nicht verändern kann. Darauf aufsetzend werden Richtlinien definiert und das Agentenverhalten entsprechend überwacht, wobei mehrere Modelle zur Überprüfung der Ausgabe eingesetzt werden. Nadella wehrte sich gegen die Auffassung, ungelöste Sicherheitsfragen bei der KI-Sicherheit bedeuteten, dass man bei der IT-Security nichts tun könne: „Die Leute werfen ein technisch abgesichertes Zero-Trust-Architektursystem zur Kapselung und KI-Sicherheit in einen Topf.“ Seine Haltung ist es, „mit der Situation so umzugehen, wie sie ist“, und bei der Festlegung von Richtlinien sowie der Überwachung von Abweichungen „äußerst aggressiv“ vorzugehen.
Intransparenz von Chains of Thought als Druckmittel gegen Anbieter geschlossener Modelle
Nadella äußerte sich unverblümt zur Zuverlässigkeit der Überwachung von Gedankenketten (Chain-of-Thought), die der von ihm beschriebenen Architektur zugrunde liegt. Auf die Frage nach deren Zuverlässigkeit erwiderte er: „Sie ist es nicht.“ Chains of Thought können unzuverlässig sein, und er betonte, das Problem verschärfe sich, wenn ein Modellanbieter dies einräume und darauf mit Versteckspiel reagiere. Er fordert, dass Argumentationsspuren (Reasoning Traces) in englischer Sprache statt in einer undurchsichtigen internen Sprache verfasst und vertrauenswürdigen Partnern im Original zur Inspektion und Überprüfung zur Verfügung gestellt werden.
Er bettete dies in eine kommerzielle Warnung an die Anbieter geschlossener Modelle ein und sah darin einen potenziellen Rückenwind für Open-Weight-Modelle: „Modelle mit geschlossenen Gewichten sind leistungsstärker, aber wenn sie die Notwendigkeit größerer Transparenz nicht erkennen – insbesondere für ihre vertrauenswürdigen Partner –, dann könnten wir ein Problem bekommen.“ Nadella nannte zwar keinen konkreten Anbieter, aber die Botschaft an Microsofts eigene Partner ist unübersehbar.
MAI als „lizenzierte Gewichte“ und ein Softwaregeschäft statt eines Netzwerkeffekte-Modells
Zu Microsofts eigenen Modellen gab Nadella eine klare Beschreibung des angestrebten Geschäftsmodells ab. MAI-Modelle werden keine Open-Weight-Modelle sein, aber er zieht es vor, sie als „lizenzierte Gewichte“ zu bezeichnen. Er sagte: „Ich möchte das in ein ganz normales, unkompliziertes Softwaregeschäft verwandeln, anstatt in ein auf Netzwerkeffekten basierendes Intelligenzgeschäft.“ Der Wert des Modells für den Kunden hängt von dessen Fähigkeit ab, es zu nutzen und zu kontrollieren, was zu seiner breiteren These passt, dass Unternehmen ihre eigene Intelligenz behalten sollten.
Er nannte zudem ein Kundenbeispiel. Unilever hat ein agentenbasiertes System zur Automatisierung von Order-to-Cash und Handelsgutschriften (Trade Claims) aufgebaut. Es begann mit einem Frontier-Modell und hat die Workloads für Handelsgutschriften inzwischen auf ein MAI-Modell verlagert, das laut Nadella kostengünstiger ist und von Unilever kontrolliert wird, da das Unternehmen damit auf seinen eigenen Traces trainieren kann. Microsoft hat zu Beginn dedizierte Ingenieure vor Ort eingesetzt, aber das IT-Team von Unilever verwaltet das System inzwischen eigenständig.
Open versus Closed: Commodity-Tokens dominieren, aber Frontier-Modelle bleiben bestehen
Auf die Bitte, die Traffic-Entwicklung über die nächsten 24 Monate zu prognostizieren, lehnte Nadella eine prozentuale Angabe ab und erklärte, dies hänge davon ab, wo die technologische Speerspitze (Frontier) stehe. Seine Ansicht ist, dass die Leistungsfähigkeit für ein bestimmtes Problem sättigt, ab welchem Punkt Open-Weight- oder günstigere geschlossene Modelle ausreichen – vor allem dann, wenn ein Unternehmen auf Basis seiner eigenen Traces trainieren kann. „Wenn das Problem unverändert geblieben ist“, so sagte er, besteht kein Bedarf für das neueste Modell. Er rechnet mit einem dauerhaften Markt für die Frontier, wobei die Wissenschaft ein potenzieller nächster Bereich sein könnte, der neue Maßstäbe setzt, betonte jedoch: „Der überwiegende Token-Verbrauch wird die Nutzung von Commodity-Tokens sein.“
Er setzte Commodity nicht mit Open Source gleich. Es könne sich um Open Weights oder „günstige geschlossene Gewichte“ handeln, da „es reichlich Preiswettbewerb geben wird“. Er wies darauf hin, dass die unternehmenseigene Copilot-Nutzung günstigere Closed-Source-Modelle mit Open-Weight-Modellen kombiniert. Zudem hob er ein „Hydra-Fusion“-Projekt auf GitHub hervor – ein gelerntes Modell –, das Teil eines Trends hin zu Agenten-Schwären ist, bei denen viele Sub-Agenten, darunter teils lokale Modelle, parallel aufgerufen werden.
Zur Geopolitik befragt, notierte Stebbings, dass die meisten Open-Weight-Modelle aus China stammen. Nadellas Antwort darauf war, dass nicht ausgerichtete (unaligned) Modelle ein Risiko für jedes Land darstellen, einschließlich China, und dass er mit den Fortschritten westlicher Open-Weight-Initiativen zufrieden sei, wobei er Nvidia-Chef Jensen Huang namentlich hervorhob.
Das „inverse Informationsparadoxon“ und die private Evaluation als Corporate IP
Nadellas am weitesten ausgearbeitete Idee betraf die Zukunft des Unternehmens. Unter Rückgriff auf Hayeks Ansicht, dass implizites Wissen (Tacit Knowledge) in der gesamten Wirtschaft verteilt ist, argumentierte er, dass es weder eine einzige Firma noch eine einzige Intelligenz geben könne. Anschließend invertierte er Kenneth Arrows Informationsparadoxon. Traditionell riskiert der Verkäufer, durch die Offenlegung eines Geheimnisses Wert zu verlieren. Heute hingegen, so Nadella, sei es der Käufer, der im Nachteil ist, da selbst das Abfallprodukt der Modellnutzung – wie Daumen-hoch- und Daumen-runter-Signale – Wert für das Modellunternehmen statt für den Kunden schafft. „Damit das stabil bleibt, muss ein größerer Teil des durch die Nutzung von Intelligenz geschaffenen Mehrwerts im Unternehmen verbleiben.“
Diese Wertbindung muss nicht ausschließlich über die Gewichte erfolgen, sondern kann auch im Kontext oder in Evaluations (Evals) stattfinden. Nadella erklärte, er sei „absolut begeistert“ davon, dass jedes Unternehmen einen privaten Evaluations-Benchmark als sein Kern-IP (Intellectual Property) besitzt, während Modelle herangezogen werden, um sich daran zu optimieren („hill climb“). Er meinte, ein Unternehmen könnte schließlich als „ein KI-Benchmark“ definiert werden, und bezeichnete dies als etwas, das heute noch befremdlich wirke, aber innerhalb von fünf Jahren akzeptiert sein werde. Stebbings wies darauf hin, dass dies derzeit auf einen sehr erlesenen Kreis von Unternehmen wie Harvey und Legora zutrifft. Nadella verglich dies mit PC-basierten Prognosen in den späten 1980er-Jahren und der frühen Cloud-Adoption: Er geht davon aus, dass der Begriff „AI native“ in fünf Jahren Schnee von gestern sein wird, und verwies darauf, dass selbst das 500 Jahre alte Unternehmen Lloyd’s heute Cloud native ist.
Implementierungsökonomie und Branchenstruktur
Nadella sagte, die Service-Ebene für KI sei ein neues Hybridmodell, das weder klassische Unternehmensberatung, Systemintegration noch Technologiasupport darstellt. Es beginnt mit dem Geschäftsproblem, dem Eval und der Agenten-Architektur, und er rechnet damit, dass sich traditionelle Systemintegratoren zu diesem Modell weiterentwickeln werden.
Auf die Frage, ob sich die Branche zu Full-Stack-Anbietern konsolidieren wird, entgegnete er, die Indizien sprächen für das Gegenteil. Einst habe er gedacht, es könnte ein einziges vertikal integriertes Stack von der Halbleiterfertigung bis zur App entstehen, aber „jeden Tag wacht man auf und stellt fest: Wow, es gibt in jeder Ebene des Stacks noch mehr Wettbewerb.“ Er hoffe auf „horizontale Spezialisierung mit mehreren Gewinnern in jeder Ebene“ und die Fähigkeit, diese modular zu kombinieren – einschließlich Routern, die Aufgaben an das jeweils beste Modell weiterleiten. Einschränkend fügte er hinzu, dass dominante Designs das Bild dennoch verändern können.
Rechenleistung, Energie und die BIP-Frage
Zu Mustafa Suleymans Annahme, dass Trainingsläufe im Wert von 100 Milliarden US-Dollar bevorstehen, entgegnete Nadella, man müsse die Frage eher im Kontext von F&E-Budgets und Makrowachstum betrachten. Ein Trainingslauf sei „lediglich ein Prozentsatz von F&E“, was für forschungsintensive Unternehmen vielleicht 15 bis 20 Prozent des Umsatzes ausmache. Die Finanzierbarkeit hänge somit vom Umsatz ab, der wiederum davon abhängt, ob KI die Weltwirtschaft ankurbelt. Er räumte Engpässe bei Energie und Halbleitern ein, verwies auf deren lange Lieferzeiten und erklärte, die Frage, wann sich Angebot und Nachfrage die Waage halten werden, könne „niemand beantworten“ – wer spekuliere, der spekuliere eben. Die größere Variable ist für ihn das weltweite BIP-Wachstum, das sich seit langem um die Marke von 2 Prozent bewege.
Er hoffe und glaube, dass KI dieses Niveau anheben könne, wobei das Gesundheitswesen und die Softwarebranche zu den ersten Bereichen gehören dürften. Als Beispiel nannte er den Copilot-Einsatz im britischen Gesundheitssystem (NHS), wo bessere Ergebnisse und geringere Kosten per Definition das BIP steigern. Die Nachfrage nach Softwareentwicklung habe sich als äußerst elastisch erwiesen, was bedeute: „Die IT-Backlogs waren enorm, und keiner von uns hatte das überhaupt erkannt.“ Chip-Design mit schnellerem Tape-Out und In-Silico-Simulation sowie Engineering-Aufgaben wie die Instandhaltungsplanung bei Rolls-Royce seien weitere Beispiele für Bereiche, in denen sich Optimierungen auszahlen.
Ob sich die Produktivitätsgewinne im Coding auf die Bereiche Finanzwesen, Vertrieb und Marketing übertragen lassen, beurteilte Nadella vorsichtiger. Das Programmieren profitierte von Reinforcement Learning auf Basis klarer Belohnungssignale auf der Grundlage vortrainierter Modelle; „ob wir das auch bei Wissensarbeit knacken können, erscheint ungleich schwieriger“, auch wenn Contact Center, Lieferketten und Order-to-Cash zeigen, dass es möglich ist. Er deutete an, dass sich Wissenschaft und Engineering als ebenso elastisch erweisen könnten wie das Programmieren.
Das Interview enthielt keine Finanzprognosen oder neue Produktdermine, und mehrere Antworten – insbesondere zu Energie und Traffic-Mix – waren offene Spekulationen. Der Kern liegt in der strategischen Ausrichtung: ein Microsoft-CEO, der inzwischen anzweifelt, dass Skalierung allein das Alignment-Problem löst, mehr Transparenz von Partnern mit geschlossenen Modellen fordert und MAI als kontrollierbares Produkt mit lizenzierten Gewichten positioniert.