Nadella de Microsoft admite que la alineación no surgirá "por arte de magia" con la escala, e impulsa el aislamiento de confianza cero y los modelos MAI de pesos licenciados
Entrevista con Harry Stebbings de 20VC, publicada el 26 de octubre de 2026
Un cambio de postura sobre la alineación y una estrategia de seguridad construida en torno a ella
La revelación más trascendental en la conversación de Satya Nadella con Harry Stebbings es la admisión de un cambio de perspectiva sobre un supuesto fundamental detrás de la tesis de escala. Nadella señaló que fue uno de los primeros creyentes en las leyes de escala, remontándose a 2018 y 2019, cuando "Dario, e Ilya, y Sam, y Greg, y Elon eran todos, supongo, una gran familia feliz". Su revisión actual es que "antes solía pensar que la alineación simplemente se daría por añadidura. Ya no lo creo". Describió que las leyes de escala siguen funcionando y que los modelos son cada vez más capaces, pero afirmó que la alineación no parece surgir a partir de la escala y que la comprensión mecanicista de los modelos "también sigue siendo esquiva".
Nadella argumentó que la alineación debe integrarse en el entrenamiento, posiblemente en el preentrenamiento, y que no se puede añadir a posteriori. "No creo que siquiera puedas recurrir al RL [aprendizaje por refuerzo] para lograr la alineación. Es necesario lograr verdaderamente que la alineación sea algo que quede incrustado en los pesos desde el mismo inicio del proceso". Se trata de una postura contundente para el CEO de una empresa con una participación significativa en el principal desarrollador de modelos cerrados, lo que implica que el trabajo de seguridad posterior al entrenamiento realizado por los laboratorios podría ser insuficiente.
Su respuesta práctica consiste en separar la seguridad de la IA de la ciberseguridad tradicional. La postura de Microsoft es que los clientes deben "asumir que un modelo está comprometido", una tesis que expuso en un artículo publicado unos 10 días antes de la entrevista, y deben contener a los agentes dentro de un entorno de confianza cero diseñado a la medida. Señaló dos productos de Microsoft, Agent 365 y Perception, que asignan una identidad a cada agente y registran toda su actividad —incluyendo llamadas a herramientas, cada invocación del modelo y la cadena de pensamiento—. Los registros deben ser a prueba de manipulaciones para que un agente no pueda editar su propio historial. A partir de ahí, se establecen políticas sobre dicha capa y se supervisa el comportamiento del agente en función de estas, utilizando múltiples modelos para verificar el resultado. Nadella rechazó la idea de que la falta de soluciones en materia de seguridad intrínseca signifique que no se pueda hacer nada en seguridad operativa: "La gente confunde un sistema arquitectónico de confianza cero de seguridad informática para la contención con la seguridad de la IA". Su postura consiste en "afrontar la situación tal como existe" y ser "súper agresivo" al establecer políticas y monitorear las desviaciones.
La opacidad de la cadena de pensamiento como punto de presión sobre los proveedores de modelos cerrados
Nadella fue contundente respecto a la confiabilidad del monitoreo de la cadena de pensamiento (*chain-of-thought*), que sustenta la arquitectura que describió. Al ser consultado sobre qué tan confiable es, respondió: "No lo es". La cadena de pensamiento puede ser infiel, y señaló que el problema empeora cuando una empresa de modelos reconoce este hecho y responde ocultándola. Su exigencia es que los rastros de razonamiento estén en inglés en lugar de un lenguaje interno opaco, y que estén disponibles tal cual para los socios de confianza para que puedan ser inspeccionados y auditados.
Enmarcó esto como una advertencia comercial para los proveedores de modelos cerrados y como un posible viento de cola para los modelos de pesos abiertos: "Los modelos de pesos cerrados son más potentes, pero si no reconocen la necesidad de ser más transparentes, especialmente a medida que sus socios de confianza los utilizan, entonces podríamos tener un problema". Nadella no mencionó a ningún proveedor en específico, pero el mensaje para los propios socios de Microsoft es difícil de pasar por alto.
MAI como "pesos licenciados" y un negocio de software en lugar de uno basado en efectos de red
Sobre los modelos propios de Microsoft, Nadella ofreció una descripción clara del modelo de negocio previsto. Los modelos MAI no serán de pesos abiertos, pero prefiere denominarlos "pesos licenciados". Al respecto, señaló: "Quiero convertir esto en un negocio de software simple y directo, en lugar de un negocio de inteligencia basado en efectos de red". El valor del modelo para un cliente dependerá de su capacidad para utilizarlo y controlarlo, lo cual encaja con su argumento más amplio de que las empresas deben conservar su propia inteligencia.
Asimismo, ofreció un ejemplo con un cliente. Unilever ha construido un sistema agéntico para automatizar los procesos de pedido a efectivo (*order-to-cash*) y las reclamaciones comerciales. Comenzó utilizando un modelo de frontera y, desde entonces, ha trasladado la carga de trabajo de reclamaciones comerciales a un modelo MAI, el cual —según Nadella— ofrece un menor costo y es controlado por Unilever, ya que la compañía puede entrenarlo sobre sus propios registros. Microsoft asignó ingenieros de despliegue avanzado al inicio, pero el equipo de TI de Unilever ahora gestiona el sistema por sí mismo.
Abierto versus cerrado: los tokens *commodity* dominan, pero la frontera persiste
Al ser consultado para pronosticar la distribución del tráfico en un horizonte de 24 meses, Nadella declinó dar un porcentaje y afirmó que depende de dónde se ubique la frontera. Su perspectiva es que las capacidades se saturan para un problema determinado, momento en el cual los modelos de pesos abiertos o cerrados más económicos resultan suficientes, especialmente si una empresa puede entrenar el modelo con sus propios registros. "Si el problema no ha cambiado", indicó, no hay necesidad de utilizar el modelo más reciente. Anticipa que existirá un mercado duradero para la frontera —siendo la ciencia un posible próximo dominio que defina dicha frontera—, pero advirtió que "predominantemente el uso de tokens corresponderá a tokens de tipo *commodity* [materias primas]".
Aclaró que no equipara el concepto de *commodity* con el código abierto (*open source*). Podría tratarse de pesos abiertos o de "pesos cerrados económicos", apuntó, ya que "habrá mucha competencia de precios". Destacó que el propio uso de Copilot por parte de Microsoft combina modelos cerrados económicos con modelos de pesos abiertos. También resaltó el proyecto "Hydra fusion" en GitHub —un modelo entrenado— como parte de una transición hacia enjambres de agentes en los cuales múltiples subagentes, algunos de ellos modelos locales, se invocan de forma paralela.
En cuanto a la geopolítica, Stebbings señaló que la mayoría de los modelos de pesos abiertos son de origen chino. La respuesta de Nadella fue que los modelos no alineados representan un riesgo para todos los países, incluida China, y agregó que se siente satisfecho con el progreso de las iniciativas occidentales de pesos abiertos, mencionando específicamente a Jensen Huang, de Nvidia.
La "paradoja de la información inversa" y la evaluación privada como IP corporativa
La idea más desarrollada de Nadella giró en torno al futuro de la empresa. Basándose en la visión de Hayek de que el conocimiento tácito se encuentra distribuido en toda la economía, argumentó que no puede existir una única empresa ni una sola inteligencia. A continuación, aplicó una inversión a la paradoja de la información de Kenneth Arrow. Tradicionalmente, el vendedor corre el riesgo de filtrar valor al revelar un secreto. Ahora, afirmó, es el comprador quien queda expuesto, debido a que incluso el subproducto del uso de un modelo —como las señales de aprobación o rechazo (*thumbs-up / thumbs-down*)— genera valor para la empresa creadora del modelo en lugar de para el cliente. "Para que esto sea estable, una mayor parte de ese excedente generado por el uso de la inteligencia debe permanecer en la empresa".
Dicha retención no tiene que darse exclusivamente a través de los pesos. Puede manifestarse en el contexto o en las evaluaciones (*evals*). Nadella señaló que está "muy entusiasmado" con la idea de que cada empresa cuente con un estándar de evaluación privado como su propiedad intelectual (*IP*) central, y que los modelos externos compitan para optimizar su rendimiento (*hill climb*) sobre dicho estándar. Comentó que una empresa podría eventualmente definirse como "un benchmark de IA", y calificó esto como una noción que hoy resulta extraña, pero que será ampliamente aceptada en un plazo de cinco años. Stebbings acotó que esto actualmente aplica a un conjunto selecto de compañías como Harvey y Legora. Nadella lo comparó con las previsiones basadas en computadoras personales a finales de la década de 1980 y con la adopción temprana de la nube: espera que el término "nativo de IA" pase de moda en cinco años, y señaló que incluso Lloyd's, una institución con 500 años de historia, es hoy en día nativa de la nube.
Economía de implementación y estructura de la industria
Nadella afirmó que la capa de servicios para la IA constituye un nuevo híbrido que no se alinea estrictamente con la consultoría de gestión clásica, la integración de sistemas ni el soporte tecnológico tradicional. Comienza con el problema de negocio, la evaluación y la arquitectura agéntica, y prevé que los integradores de sistemas tradicionales evolucionarán hacia este modelo.
Ante la pregunta de si la industria se consolidará en torno a jugadores de pila completa (*full-stack*), respondió que la evidencia apunta en dirección contraria. Alguna vez pensó que podría surgir una única pila integrada verticalmente desde el silicio hasta las aplicaciones, pero "todos los días te despiertas y dices 'vaya, hay más competencia en cada capa de la pila'". Expresó su deseo de ver "una especialización horizontal con múltiples ganadores en cada capa" y la capacidad de articular soluciones entre ellas, incluyendo enrutadores que dirijan las tareas hacia el modelo óptimo. Añadió la salvedad de que los diseños dominantes aún tienen el potencial de alterar el panorama.
Cómputo, energía y la incógnita del PIB
Respecto a la sugerencia de Mustafa Suleyman de que se aproximan entrenamientos valuados en $100.000 millones, Nadella reencuadró la cuestión como un asunto de presupuestos de I+D y crecimiento macroeconómico. Un ciclo de entrenamiento es "simplemente un porcentaje de la I+D", el cual para las empresas con un fuerte componente de investigación representa quizás entre el 15% y el 20% de los ingresos; por lo tanto, la viabilidad financiera depende de los ingresos, y estos a su vez dependen de que la IA impulse la expansión de la economía mundial. Reconoció la existencia de escasez de energía y silicio, señaló que se trata de insumos con plazos de entrega prolongados, y afirmó que determinar cuándo se equilibrarán la oferta y la demanda es algo que "nadie sabe", añadiendo que cualquiera que especule al respecto simplemente está adivinando. Para él, la variable de mayor peso es el crecimiento del PIB mundial, que ha permanecido estancado en torno al 2% durante un largo periodo.
Aseguró que espera y confía en que la IA pueda elevar esa cifra, situando a la salud y al software entre los primeros sectores de impacto. Citó el despliegue de Copilot en el Servicio Nacional de Salud (*NHS*) del Reino Unido como un ejemplo donde la mejora de los resultados y la reducción de costos incrementan el PIB por definición. Indicó que la demanda de desarrollo de software ha demostrado ser altamente elástica, lo que significa que "los retrasos acumulados en TI eran enormes, y ninguno de nosotros siquiera lo había reconocido". El diseño de semiconductores, mediante la aceleración en la fabricación de prototipos (*tape-outs*) y simulación *in silico*, así como las tareas de ingeniería como la programación de mantenimiento en Rolls-Royce, fueron señalados como otros ejemplos donde la optimización está dando frutos.
Sobre si las ganancias de eficiencia en programación se trasladarán a las finanzas, ventas y marketing, Nadella se mostró más cauteloso. La programación se benefició del aprendizaje por refuerzo (*RL*) aplicado sobre señales de recompensa claras fundamentadas en modelos preentrenados, y "determinar si podemos replicar eso en el trabajo de conocimiento parece mucho más difícil", aunque puntualizó que los centros de contacto, la cadena de suministro y los procesos de cobro a pedido (*cash-to-order*) están demostrando que es posible. Sugirió que la ciencia y la ingeniería podrían resultar tan elásticas como la programación.
La entrevista no incluyó guías financieras ni fechas de lanzamiento de nuevos productos, y varias de sus respuestas —particularmente en lo relativo a la energía y la mezcla de tráfico— fueron abiertamente especulativas. El fondo del asunto radica en su planteamiento estratégico: un CEO de Microsoft que ahora alberga dudas de que la escala resuelva por sí sola el problema de la alineación, que exige mayor transparencia por parte de sus socios de modelos cerrados y que está posicionando a MAI como un producto controlable de pesos licenciados.