Saining Xie: Silicon Valley está "hipnotizada por los LLM" — Construyendo modelos del mundo más allá del lenguaje
Podcast de Zhang Xiaojun, 16 de marzo de 2026
En un apartamento cubierto de nieve en Brooklyn a principios de 2026, Saining Xie está realizando una de las apuestas más audaces en inteligencia artificial. El profesor de la NYU y recién nombrado cofundador de AMI Labs junto al ganador del Premio Turing, Yann LeCun, acaba de cerrar una ronda semilla récord de $1.030 millones con una valoración pre-money de $3.500 millones. Sin embargo, a pesar de todos los superlativos, Xie insiste en que él es "el normal": no el genio elegido, sino alguien que tomó decisiones profesionales mediante lo que él llama "lógica mística", guiado más por las personas y la curiosidad que por la ambición.
Esta conversación de siete horas revela a un investigador que ha pasado más de una década construyendo silenciosamente los cimientos de lo que él cree que será el próximo salto de la IA: modelos del mundo que comprendan verdaderamente la realidad física, no solo las sombras que el lenguaje proyecta en las paredes de la caverna de Platón. Es una postura contraria en un Silicon Valley que él describe como "completamente hipnotizado" por los modelos de lenguaje extenso (LLM, por sus siglas en inglés), y que lo pone en curso de colisión con las narrativas más poderosas de la industria.
El defecto fundamental en los modelos de lenguaje
Xie no se anda con rodeos sobre los LLM. "No veo a los LLM como una historia de éxito de la 'Bitter Lesson'; de hecho, son una rebelión contra ella", afirma, refiriéndose al famoso ensayo de Rich Sutton que argumenta que la IA debería minimizar la estructura diseñada por humanos. Su razonamiento va al núcleo de lo que el lenguaje representa realmente. "El lenguaje no es un mapa del pensamiento, es una herramienta de comunicación", explica. Cuando los humanos escriben, comprimen vastas experiencias en símbolos optimizados para la transmisión entre mentes, no para capturar la textura completa de la realidad.
Esto es importante porque las leyes de escala (scaling laws) de los LLM, en opinión de Xie, contienen mucha "agua", lo que él llama inflación. "La ley de escala de los modelos de lenguaje se basa en una representación del conocimiento", argumenta. Los modelos deben memorizar curiosidades fácticas para parecer inteligentes, inflando el conteo de parámetros. Pero un verdadero modelo del mundo no necesitaría recordar cada entrada de Wikipedia. "No necesitas memorizar todo este conocimiento; necesitas una buena capacidad de comprensión para filtrar y procesar la información", dice. La decisión en sí misma importa más que la base de datos.
El argumento técnico es más profundo. Cuando modelas P(y) —prediciendo etiquetas o el siguiente token—, tu masa de probabilidad se concentra en un espacio semántico de baja dimensión. Pero cuando modelas P(x|y), como hacen los modelos de generación de video, "la probabilidad que asignas dice qué fenómenos existen realmente en el mundo, qué cosas son más probables", explica Xie. Esto obliga al modelo a aprender por qué los gatos de cuatro patas son más comunes que los de tres, por qué el movimiento debe ser fluido y por qué la física limita las posibilidades. "Lo que necesitas aprender ahora conlleva mucha más inteligencia que lo que obtienes al modelar P(y)".
Aún más fundamentalmente, el lenguaje opera en tokens discretos, mientras que el mundo físico opera en un espacio continuo, de alta dimensión y ruidoso. "Si procesas la visión de la forma en que lo hace un LLM, necesitaría tokenizar cada cuadro y unirlo en una secuencia muy larga", dice Xie. "Estás tomando esta representación del mundo que hay detrás —existe algún tipo de estado global— y la serializas en tokens muy redundantes". Los Transformers deben entonces prestar igual atención a cada token, lo cual "en sí mismo es irrazonable" para capturar la estructura espacial que los humanos procesan en paralelo a través de las regiones corticales.
El hilo de la representación
Para entender hacia dónde se dirige Xie, es necesario rastrear dónde ha estado. Su trayectoria investigadora se lee como una exploración sistemática del aprendizaje de representación a través de modalidades, objetivos y arquitecturas. En FAIR, de 2018 a 2023, trabajó con Kaiming He en la serie MoCo, impulsando el aprendizaje contrastivo autosupervisado para igualar o superar brevemente el preentrenamiento de ImageNet. Luego vino MAE (Masked Autoencoders), liderado por He, que adoptó un enfoque de eliminación de ruido más simple que también mostró un comportamiento de escala prometedor.
Ambos finalmente chocaron con muros. "Descubrimos que MAE era increíble, que debería al menos ganar un premio al mejor artículo", recuerda Xie. "Resulta que no fue así. Y escalar MAE resolvería todos los problemas; resultó que tampoco escalaba". La comunidad de visión no pudo descifrar lo que tenían los modelos de lenguaje: un camino claro desde más datos y cómputo hacia mejores resultados. "En este momento, la visión no tiene una ley de escala", admite Xie, aunque inmediatamente matiza: "Y cada vez pienso más que la visión no necesita una ley de escala".
La idea reveladora provino de su trabajo de 2024 sobre Representation Autoencoders (RAE). En lugar de eliminar el ruido en el espacio de píxeles o en latentes VAE comprimidos, RAE opera en el espacio de representación de alta dimensión aprendido por modelos autosupervisados como DINOv2. "Tu capa de representación ahora se volverá de muy alta dimensión", explica Xie, "y quieres realizar la eliminación de ruido y la generación de imágenes en esta representación de alta dimensión". Un estudiante cuestionó si tal alta dimensionalidad podría perjudicar el entrenamiento. El profesor Ma Yi, de la HKU, se levantó y dijo a todos: "No deben temer a las altas dimensiones. La alta dimensionalidad es una piedra angular extremadamente importante en todo el aprendizaje automático".
Este trabajo convenció a Xie de que la representación es el cimiento sobre el cual todo lo demás debería construirse. "Solo hay una cosa en este mundo que es importante: cómo aprender esta representación", dice. Los modelos de lenguaje "degradarán gradualmente a una simple interfaz de comunicación" en lugar de impulsar la inteligencia. La generación de video se construirá de manera similar sobre representaciones sólidas. "Cuando tengamos tal base, podremos decodificarla fácilmente en lenguaje, en píxeles para generar videos, y también en algún tipo de acción".
¿Qué es un modelo del mundo?
Xie se animó cuando se le presionó sobre las definiciones, reconociendo que "modelo del mundo" se ha convertido en una palabra de moda innecesariamente amplia. Técnicamente, es una función predictiva: dado el estado actual S_t y la acción a_t, predecir el siguiente estado S_{t+1}. Esta formulación data de 1943, cuando el psicólogo Kenneth Craik propuso por primera vez que los humanos mantienen modelos internos para pronosticar las consecuencias de sus acciones. La teoría de control la adoptó para los módulos lunares en la década de 1960. El aprendizaje por refuerzo la adoptó con la arquitectura Dyna de Sutton.
Pero el concepto se ha fracturado. Las empresas de generación de video se autodenominan empresas de modelos del mundo, enfocadas en renderizar secuencias visuales convincentes con cierta consistencia, lo que Xie llama "simuladores del mundo". World Labs, de Fei-Fei Li, persigue representaciones espaciales 3D explícitas como interfaz para la generación de activos, atrayendo $200 millones de Autodesk para aplicaciones industriales. Estos son valiosos, pero incompletos.
Lo que Xie y LeCun están construyendo es algo que él llama un "cerebro predictivo": la inteligencia misma en lugar de solo una simulación o un andamiaje espacial. "Estamos siguiendo un camino que no puede conducir a la verdadera inteligencia", dice sobre los enfoques actuales. "Alguien necesita definir nuevos problemas a esta escala mayor". Los requisitos básicos: comprender el mundo físico, una gran memoria asociativa, capacidades de razonamiento y planificación, inferencia contrafactual y, fundamentalmente, controlabilidad y seguridad que surjan de la predicción en lugar de la alineación posterior.
Este último punto es sumamente importante para Xie. "Los LLM no son controlables, ni seguros, porque no tienen un verdadero modelo del mundo", argumenta. La seguridad actual proviene totalmente del ajuste fino (fine-tuning) con ejemplos de lo que no se debe decir o hacer. Pero "en un verdadero modelo del mundo, en realidad no necesitas hacer esto porque puedes predecir a qué consecuencia conducirá tu acción". Un robot que sostiene un cuchillo puede prever el peligro de girar hacia una persona sin necesidad de miles de ejemplos de entrenamiento sobre accidentes con cuchillos. El modelo del mundo permite la seguridad a través de la comprensión, no de la memorización.
El problema de los datos
Si los modelos de lenguaje se alimentaron del texto de Internet, los modelos del mundo deben ingerir, de alguna manera, la realidad misma. "La era pasada se trató de descargar Internet", dice Xie. "Ahora la era se trata de descargar a la humanidad". Un bebé de cuatro meses ha visto más datos visuales que todos los tokens utilizados para entrenar a los mejores LLM; unos 30 billones de tokens equivalen aproximadamente a 30 minutos de subidas a YouTube. La escala es asombrosa.
YouTube se convierte en el primer objetivo obvio a pesar de las batallas por derechos de autor y términos de servicio. "Un lado está protegiéndose fuertemente contra la recopilación de datos, bloqueando el scraping. El otro lado está intentando por todos los medios obtener más datos", describe Xie sobre la dinámica del gato y el ratón. La enorme ventaja de ByteDance a través de TikTok y Douyin se vuelve evidente, aunque ellos también enfrentan desafíos legales.
Pero el video solo no será suficiente. Xie imagina dispositivos "wearables" siempre activos: gafas de IA que vean todo lo que ven sus usuarios, creando flujos infinitos de tokens de experiencia en primera persona. El análogo actual más cercano son los rastreadores de actividad física que monitorean la frecuencia cardíaca y el sueño, haciendo predicciones simples sobre el estrés y la recuperación. "Si imaginamos que hubiera algún tipo de dispositivo portátil que realmente pudiera estar siempre encendido y pudiera ver en tiempo real todo lo que nosotros podemos ver", reflexiona, "creo que esto tiene un potencial enorme". Monitoreo médico, entrenamiento atlético, cuidado de ancianos: todos se benefician de modelos que comprenden el contexto visual y los patrones temporales.
La robótica proporciona otra vía de datos y objetivo de despliegue. La industria sufre de lo que Jie Tan, de DeepMind, llama "desarrollo extremadamente desigual": las capacidades físicas ahora superan a las humanas, pero la cognición se queda muy atrás. "Nadie está construyendo el cerebro, nadie está construyendo un cerebro robótico", dice Xie. Todos, desde DeepMind hasta Physical Intelligence, dependen de VLA (modelos de visión-lenguaje-acción) que se enrutan a través de modelos de lenguaje como Gemini. "Esto necesita una segunda mitad de preentrenamiento", argumenta, invocando la formulación del ex investigador de OpenAI, Shunyu Yao. "¿Quién hará este preentrenamiento? No creo que pueda hacerse en ningún país, incluido el Área de la Bahía".
La historia detrás de DiT
El trabajo más conocido de Xie, Diffusion Transformers (DiT), surgió de lo que él llama la necesaria "no linealidad" de la investigación. En 2022, en FAIR, él y el pasante Bill Peebles (ahora jefe de Sora en OpenAI) comenzaron a explorar modelos de difusión para comprender la conexión entre el aprendizaje discriminativo y el generativo. La pregunta original provino de Kaiming He: "¿Es este un modelo discriminativo o un modelo generativo?". Es un rompecabezas profundo, ya que la eliminación de ruido realiza una predicción discriminativa en cada paso, pero genera a través de su composición.
Durante dos meses exploraron la calidad de la representación, descubriendo que los modelos de difusión aprendían características decentes pero "mucho, mucho peores que el aprendizaje autosupervisado; completamente no competitivos". Entonces vino el giro. "En el último mes descubrimos que, por cierto, nuestra nueva arquitectura es de hecho más eficiente y escalable que U-Net". Desde una perspectiva de código, DiT encarnaba lo que Xie llama la longitud de descripción mínima: elegancia a través de la simplicidad. "Si tu código es corto y puede lograr el mismo propósito, tu método generalmente será mejor que uno que requiera miles de líneas".
El artículo fue rechazado en CVPR. "No hay suficiente novedad", dijeron los revisores. "Se les ocurrió una estructura muy simple y, aunque obtuvieron buenos resultados, los revisores no estaban convencidos". Yann LeCun tuiteó al respecto. Lo enviaron a otro lugar sin cambios y ganaron un Oral Paper. "Este es un proceso completamente aleatorio", se encoge de hombros Xie.
Inicialmente, FAIR no les permitió incluir la afiliación de la empresa, ya que Xie ya se había ido. Pero después de que Sora citara explícitamente a DiT como su columna vertebral, la arquitectura se convirtió en la base de prácticamente todos los principales modelos de generación de video. La ironía es grande: "Varios investigadores se me acercaron diciendo: 'Trabajé en esto durante dos semanas, pero mi gerente dijo que ya no puedes hacer esto, tenemos ciclos de producto por delante'". La industria sabía que DiT era la dirección correcta, pero carecía de la libertad para seguirla.
La influencia de Kaiming
Nadie destaca más en la formación investigadora de Xie que Kaiming He, el creador de ResNet y legendario investigador de FAIR. Su colaboración comenzó casi accidentalmente cuando He se unió a FAIR a mitad de la pasantía de Xie en 2016. El gerente de Xie lo transfirió: "Kaiming, ven a guiarlo". Con un mes restante, decidieron competir en el ImageNet Challenge, produciendo ResNeXt, llamado parcialmente por "ResNet de Xie", el crédito compartido y juguetón de He.
Lo que Xie absorbió fue mucho más allá de los artículos. Describe el flujo de trabajo de He en términos casi espirituales. "La magia de Kaiming es que puede tomar todas las cosas muy ordinarias y convertirlas en ideas valiosas como el oro", dice. La disciplina era monástica: las charlas terminaban un mes antes de los plazos mientras otros pasaban noches en vela, cada línea en los artículos se revisaba para asegurar que no hubiera más del 40 por ciento de espacio en blanco, una construcción obsesiva de líneas base antes de intentar la innovación.
"El techo de tu investigación depende de qué tan buena sea tu línea base", aprendió Xie. "Si tu línea base es débil, puedes engañarte fácilmente a ti mismo". Este principio contraintuitivo —hacer la comparación más difícil, no más fácil— permitió que el trabajo de detección de He (Fast R-CNN, Mask R-CNN) dominara al comenzar desde una infraestructura que ya superaba a los mediocres artículos de CVPR. "Nuestra línea base ya era más fuerte que la tuya, así que si doy un paso más, por supuesto que iré aún más lejos".
Pero la lección más profunda se refería a la filosofía de la investigación. He le dio a Xie una copia del Sutra del Diamante, el texto budista que enseña que "todos los fenómenos son como sueños, ilusiones, burbujas y sombras". La resonancia con la filosofía occidental —la cosa en sí de Kant, la representación versus la voluntad de Schopenhauer— apunta a una idea central sobre el gusto por la investigación. "Cuando lees un artículo, lo que importa es romper la ilusión que presenta el artículo y cuestionar qué hay detrás, qué tipo de esencia sustantiva contiene", explica Xie.
Esto se filtra en cada decisión. La primera lección para los pasantes de FAIR era dominar las hojas de cálculo de Excel para realizar un seguimiento de los experimentos. "Realmente tienes que tomar algunas decisiones: en qué métricas debo enfocarme, qué columnas debería haber, cómo debo definir las variables de control, cómo hacer que cada experimento sea lo más informativo posible". Ejecuta muy pocos experimentos y la señal permanece confusa. Ejecuta todo a ciegas y te ahogas en el ruido. El oficio radica en diseñar la hoja de cálculo misma.
Rechazar a Ilya dos veces
El camino no tomado de Xie persigue la conversación. En 2018, recién salido del doctorado, entrevistó en OpenAI con John Schulman en una "pequeña habitación oscura durante cinco o seis horas trabajando en un problema". Las preguntas escritas a mano en papel marcado con lápiz lo conmovieron. Pero FAIR tenía a Kaiming, Piotr Dollar, Ross Girshick: "los tres pilares de la visión por computadora". Cuando llegó la oferta de OpenAI, "Ilya me llamó y no dije casi nada y la rechacé".
Ilya Sutskever estaba enojado. "¿Por qué ni siquiera lo discutiste antes de rechazarlo? ¿El dinero no es suficiente?". El tono de Xie fue de disculpa pero firme. En ese momento, en 2018, para los mejores estudiantes de doctorado, FAIR era la apuesta más segura: más abierta, más académica. "A menos que realmente quisieran hacer lo que OpenAI ya estaba haciendo, creo que la mayoría de la gente seguiría inclinándose por FAIR".
El segundo rechazo llegó en julio de 2024, justo después de que Sutskever fundara SSI. Le envió un correo electrónico pidiendo a Xie que se uniera. Esta vez discutieron cómo darle a la IA la capacidad de amar. "La conclusión es que esto es muy importante", recuerda Xie. "Porque sin ello nos enfrentamos a un futuro muy incierto y muy peligroso". Pero cuando Xie preguntó sobre la multimodalidad, la respuesta de Ilya fue decisiva: la visión ya estaba "resuelta lo suficientemente bien".
Ese desacuerdo fundamental lo selló todo. "SSI tiene su propio enfoque basado en el lenguaje, y ese enfoque no es el camino que quiero seguir", explica Xie. No ve esto como una rivalidad amarga. "Hermanos escalando una montaña, cada uno haciendo su propio esfuerzo", dice, citando un proverbio chino. "Y sin los desarrollos recientes en los LLM, podría no haber existido el estado actual de la visión por computadora". Pero los caminos divergen drásticamente sobre lo que requiere la inteligencia.
La asociación con Yann LeCun
La historia de la fundación de AMI Labs roza lo místico que caracteriza la toma de decisiones de Xie. Un gerente sugirió a finales de 2025 que Yann LeCun parecía infeliz en Meta. El primer instinto de Xie fue la incredulidad: ¿el padrino de la IA, renunciando? Dos semanas después, en una reunión uno a uno, LeCun comenzó: "No se lo digas a nadie todavía, pero he decidido esto. Lo que quiero hacer debe hacerse afuera. Quiero construir una empresa".
Xie preguntó sobre el modelo de negocio. "Entonces me di cuenta de que, guau, esto está completamente alineado con lo que había imaginado". ¿Qué era? "Creo que puedes llamarlo modelos del mundo, o la lógica detrás de esto es: lo que quiero hacer, en el entorno actual en cualquier país del mundo, no creo que pueda hacerse, incluido el Área de la Bahía".
La convicción era simple: el trabajo requiere profundidad de investigación pero no puede suceder en la academia tradicional (recursos insuficientes) o en laboratorios industriales cerrados (libertad insuficiente para definir problemas). "Necesitamos volver a lo que discutimos al principio", dice Xie. "En este tipo de juego finito, en este entorno altamente competitivo, cada empresa parece haber perdido su capacidad de definir problemas". OpenAI alguna vez definió problemas. Ahora, incluso OpenAI se ve arrastrada a carreras que ella misma definió.
Xie se angustió durante aproximadamente una semana. El discurso de LeCun fue directo: esta era una mejor opción para Xie personalmente y para la empresa, ofreciendo autonomía para construir equipos y hojas de ruta. "También estoy increíblemente, increíblemente agradecido de que Yann pudiera darme esa confianza", dice Xie. Se inscribieron seis cofundadores, incluidos un CEO, un COO, un VP de Modelos del Mundo (el director original del equipo JEPA) y un CRIO (Director de Investigación e Innovación, Pascale Fung de Hong Kong). Varios renunciaron a decenas de millones en acciones no devengadas de OpenAI, Google o Meta.
¿Por qué? "Creo que tal vez todos estamos un poco locos", se ríe Xie. Pero debajo de la autodesaprobación yace la convicción. "Este es el único lugar donde podemos hacer esto". La misión no es perseguir puntos en las tablas de clasificación o ciclos de productos. Es preentrenar la segunda mitad: construir el cerebro que le falta a la robótica, que necesitarán los wearables, que requiere la IA encarnada.
La crítica a Silicon Valley
Xie reserva su crítica más aguda para el momento cultural del Área de la Bahía. "Silicon Valley está muy 'drogado' con los LLM", dice rotundamente. "El Valle está profundamente en las trincheras de los modelos de lenguaje extenso; está completamente hipnotizado". Esto no es una simple crítica destructiva. Pasó años a tiempo parcial en el equipo de Gemini GenAI de Google y vio las limitaciones de primera mano.
"Toda la industria de la IA en este momento tiene esta enorme cadena de valor", explica. "En la parte superior está la 'Bitter Lesson', hay una narrativa de AGI y LLM. Esto ha definido una serie de puntos de referencia. Por lo tanto, compites en tablas de clasificación. La tabla de clasificación define la asignación de recursos". Si tu objetivo es encabezar LMSys Arena, solo puedes invertir recursos en esa carrera. "Bajo esta cadena de valor, la asignación de recursos significa que no pueden hacer esta parte de la investigación", incluso cuando los investigadores saben que es importante.
La comprensión de video es su ejemplo. "Ni la academia ni la industria están haciendo mucho al respecto, o la gente lo está haciendo pero no con un ángulo fundamental de Modelo del Mundo". ¿Por qué? "Sin excepción, independientemente de la empresa, a todos se les ha asignado un equipo de modelos de generación de video". Esa es la única posición dentro de la cadena de valor donde encaja la experiencia en video. "Aunque todos saben que no hemos resuelto este problema, necesitamos un mejor modelo de comprensión de video basado en el Modelo del Mundo, la gente no tendrá espacio para hacer tal exploración".
La resistencia a la academia agrava el problema. "La gente menosprecia el trabajo que está haciendo la academia. No creen que el trabajo de la academia pueda generar realmente ningún tipo de impacto". Incluso dentro de las empresas, los grupos de investigación no pueden compartir lo que están haciendo con los grupos de producto. Varios investigadores de Google le dijeron a Xie después de su artículo sobre RAE: "Trabajé en esto durante dos semanas, pero mi gerente dijo que ya no puedes hacer esto, tenemos ciclos de producto uno, dos, tres por delante".
Por lo tanto, AMI Labs se planta en Nueva York, no en Palo Alto. "El Área de la Bahía es realmente una burbuja tecnológica pura", dice Xie. "Todos pueden estar muy concentrados en hacer una cosa. Y Nueva York es un mundo más real". Esa realidad proporciona conexión a tierra. Caminar por Washington Square Park hacia su oficina en la NYU, ver artistas callejeros, madres con cochecitos, ancianos jugando ajedrez, estudiantes estudiando: "Encuentro que el mundo es mucho más grande de lo que imaginamos. No a todos les importa qué es la IA. Tienen sus propias vidas".
Esto fundamenta la pregunta: ¿qué debería estar haciendo realmente la IA? "¿Tenemos algún tipo de responsabilidad social?", se pregunta Xie. "Más contacto con la gente, más contacto con personas que viven en este mundo, me ayuda a entender qué es la IA y cómo construir la próxima generación de IA de nuevas maneras". Es la conversación que Ilya quería tener pero a la que Xie aún no había llegado.
La herejía de la ley de escala
Quizás la afirmación técnica más contraria de Xie es que la visión no necesita y no debería querer leyes de escala al estilo LLM. "El modelo no será tan grande", predice. "No necesitas recordar todo, todos los detalles sutiles del mundo que puedes ver". Un modelo del mundo no resuelve ecuaciones definidas en un espacio de alta dimensión para determinar si las manzanas caen. "No necesita el nivel más alto de inteligencia humana. Necesita una buena capacidad de comprensión para filtrar y procesar la información".
Esto contradice directamente el paradigma de escala de Chinchilla, donde el cómputo C equivale aproximadamente a 6 veces los tokens N por los parámetros D. "Creo que la ley de escala de los modelos de lenguaje se basa en una representación del conocimiento", argumenta Xie. "Puede tener una proporción relativamente equilibrada: tu número de tokens y tus parámetros deben ser aproximadamente 1:1". Pero los modelos del mundo que optimizan la toma de decisiones en lugar de la recuperación de hechos podrían tener distribuciones de cómputo radicalmente diferentes.
La analogía biológica es precisa. Los humanos reciben aproximadamente mil millones de bits por segundo a través de todos los sentidos combinados; la visión sola procesa un ancho de banda enorme. Pero la salida conductual es de apenas 10 a 100 bits por segundo. "¿Qué tipo de modelo es nuestro cerebro que, a veinte vatios de potencia, recibe mil millones de bits por segundo y los convierte en 10 bits por segundo de salida conductual?". El sistema de filtrado es primordial, no la base de datos.
Esto sugiere modelos más pequeños que procesan muchos más datos, con diferentes curvas de eficiencia. El modelo no escala linealmente con el volumen de datos porque está aprendiendo compresión y predicción, no memorización. "Podemos proceder en varias etapas", dice Xie. "Comenzar con datos de Internet, comenzar con YouTube". Pero la distribución del cómputo diferirá: "una mayor parte podría usarse en video" con métodos generativos y discriminativos combinados más lenguaje, no solo pérdida de predicción.
El problema de la arrogancia humana
Hacia el final de la conversación, Xie se apasionó por lo que él llama "arrogancia humana": la suposición de que la inteligencia humana define la inteligencia misma. Había estado leyendo "¿Somos lo suficientemente inteligentes para saber qué tan inteligentes son los animales?", del primatólogo Frans de Waal, descubriendo que muchos rasgos supuestamente exclusivos de los humanos existen en otras especies. Uso de herramientas, autorreconocimiento en el espejo, teoría de la mente, incluso maniobras políticas entre chimpancés descritas en "Política de chimpancés" de de Waal.
Los arrendajos azules entierran comida, pero si notan que un par los observa, esperan a que se vaya, luego desentierran y vuelven a enterrar el escondite en otro lugar. A los chimpancés que se les muestran dos cajas, una con un plátano y otra con una manzana, abrirán inmediatamente la caja de la manzana si ven a un experimentador comiendo un plátano, razonando sobre el estado oculto. "El lenguaje es de hecho único, solo los humanos lo tienen, pero eso no significa que otros animales no se comuniquen", señala Xie. Las ballenas tienen su propio lenguaje.
Esto replantea el desafío de la IA. El comentario de Rich Sutton en el podcast resonó profundamente: "Crees que estas cosas son geniales e impresionantes, ¿que son difíciles? No lo creo. Creo que construir la inteligencia de una ardilla es el problema difícil". Una vez que puedas construir la inteligencia de una ardilla —con sus propios objetivos, recompensas intrínsecas, emociones, comportamientos sociales—, "escribir código, ir a Marte, ir a la luna, esas cosas serían las fáciles".
Desde una perspectiva humana, esto parece absurdo. Desde la perspectiva del universo, es obvio. "Si dejas de lado la arrogancia humana, construir la inteligencia de una ardilla es en realidad un problema más difícil", insiste Xie. Y la robótica se convierte en la prueba. ¿Podemos construir algo lo suficientemente confiable para funcionar como un niño de 12 años que realiza tareas domésticas? Los robots actuales tienen extremidades sobrehumanas pero cerebros de nivel infantil. "Nadie está construyendo el cerebro".
La filosofía de la investigación
A través de todo esto se encuentra la visión de Xie de la investigación como algo intrínsecamente no lineal. "El peor trabajo es cuando tu idea inicial es la misma que tu idea final", dice. "No encontraste ningún obstáculo, ninguna dificultad. Esto demuestra que tu idea es aburrida". Un buen trabajo requiere dos meses de exploración errática donde "tienes esta melancolía subyacente porque no puedes ver ninguna luz", seguida de una convergencia repentina en el último mes antes de los plazos.
La exploración no puede ser sin rumbo. Kaiming He le enseñó a realizar un seguimiento de los experimentos en hojas de cálculo de Excel diseñadas para maximizar la ganancia de información, no demasiado dispersas (señal poco clara) o demasiado densas (ruido sin sentido). "Cada experimento necesita darte lo que acabo de llamar este gradiente", explica Xie. Los experimentos fallidos a menudo proporcionan gradientes más grandes que los exitosos. "Mientras no sepas en qué dirección ir, eso es lo que más se teme".
Las ideas surgen de este proceso, no de la especulación de sillón. "Si quieres tener una idea simplemente pensando, definitivamente no es una buena idea", dice Xie, canalizando a Kaiming. O eres más inteligente que todos (poco probable), o 10.000 personas en todo el mundo están pensando en lo mismo (perderás la carrera), o es una mala idea que otros ya probaron (perderás el tiempo). Las ideas reales provienen de hacer: reproducir líneas base, hacer extensiones, encontrar observaciones sorprendentes.
El objetivo no es el impacto, una palabra a la que Xie "tiene un poco de aversión" por ser demasiado agresiva y masculina. Prefiere el marco de Hannah Arendt: la investigación es para la comprensión misma, y difundir la comprensión crea resonancia, un "sentimiento de familia" con aquellos que comprenden lo que tú has comprendido. "Ser capaz de entender ciertas cosas, y que lo que entiendo pueda de alguna manera tener alguna influencia en el desarrollo del mundo o de la IA; creo que esto es algo que me importa mucho ahora".
Esto convierte a la investigación en un juego infinito, tomando prestado del libro del mismo nombre. No optimizas la calidad promedio del artículo, sino la máxima: tu trabajo característico. "En tu vida realmente solo necesitas tener éxito una vez", dice Xie. Unas pocas veces te llevan a la cima. Es por eso que puede decirles a los estudiantes que hizo cinco pasantías durante el doctorado y la mitad no produjo nada, o admitir que no ha tenido un mejor artículo desde el Holistically-Nested Edge Detection (HED) de 2015 a pesar de miles de citas.
La identidad de desvalido
A pesar de la ronda semilla récord, Xie insiste en que AMI Labs es "completamente una empresa desvalida". Yann LeCun es "alguien que se mantiene firme y siempre intenta hacer lo siguiente, pero eso aún no se ha probado". La empresa enfrenta la presión de la industria, requiere un despliegue frugal de recursos y apuesta todo a una visión contraria. "Puede que hayamos recaudado mucho, pero en comparación con los recursos que los LLM están movilizando ahora, esto es solo... no sé qué porcentaje, está tan lejos".
Pero ser el desvalido atrae a la identidad investigadora de Xie. "Cuanto más no creas en mí, más feliz soy", sonríe. "¿Puede la grandeza no ser planeada?", pregunta, haciendo referencia al libro "Por qué la grandeza no puede ser planeada". La respuesta es sí: necesitas exploración, formación gradual de ideas, voluntad de pivotar. "Creo que esto también se aplica a las startups".
El viaje ya muestra signos de la no linealidad que describe Xie. Tienen "cosas en las que trabajar" con "resultados bastante prometedores que llegarán pronto". Un próximo artículo llamado Solaris (nombrado así por la película de Tarkovsky sobre un océano que materializa los recuerdos humanos) demostrará la generación de video, pero más importante aún, avanzará en la base del aprendizaje de representación. Para marzo probablemente tendrán más que mostrar.
El equipo de 25 personas incluye a varios que renunciaron a paquetes de acciones de ocho cifras en OpenAI, Google y Meta. "¿Por qué? Creo que tal vez todos estamos un poco locos", dice Xie. "Todos se dan cuenta de que esto es realmente necesario. Por un lado, es una visión algo contraria al consenso, pero por otro lado, durante el último año se ha convertido gradualmente en un consenso". El consenso es simplemente: lo que existe ahora no es suficiente. Alguien debe construir el cerebro predictivo.
La metáfora del esquí
Xie comenzó a esquiar recientemente, encontrando en ello una metáfora del emprendimiento. "Primero, el esquí es un deporte de equilibrio. Segundo, tienes que ser valiente y apuntar con los hombros hacia abajo por la pendiente", explica. El instinto grita que te inclines hacia atrás lejos del peligro, pero eso garantiza una caída. "Solo cuando abandonas por completo el miedo, con suficiente coraje, y apuntas con los hombros hacia la pendiente, te vuelves más estable".
El himno de la humanidad es el himno del coraje, cita de JoJo's Bizarre Adventure. Y el coraje crece con la compañía. "Nunca caminarás solo", añade, tomando prestado de su querido Liverpool FC. La autodescripción de Klopp como "no el especial" sino "el normal" resuena: alguien que actúa como una batería para el equipo, cargando a otros en lugar de acaparar el protagonismo.
En las startups, al igual que en la investigación, cree Xie, necesitas ese papel de batería incluso cuando estás desanimado. "Me siento desanimado todos los días", admite. "Creo que se ha convertido en una especie de destino del investigador. Todos tenemos esta melancolía subyacente porque el proceso es como andar a tientas en un lugar oscuro y sin luz". La alegría llega solo en breves destellos cuando algo funciona: tal vez el 5 o 10 por ciento de las veces.
Pero la melancolía se levanta al caminar por Washington Square Park, viendo a la gente vivir vidas totalmente ajenas a la IA. "Encuentro que mis momentos más liberadores de estrés cada día son esta caminata de aproximadamente 5 a 10 minutos", dice. "El mundo es grande". Y quizás ese sea el argumento más profundo a favor de los modelos del mundo sobre los modelos de lenguaje: los primeros al menos aspiran a interactuar con esa grandeza, con esa desconcertante realidad física, en lugar de solo con la sombra lingüística comprimida que proyecta.
El viaje de JEPA
La evolución de Xie sobre JEPA (Joint-Embedding Predictive Architecture) de LeCun refleja su viaje de la academia a la startup. "Pasé por varias fases: dudar de JEPA, entender JEPA, convertirme en JEPA", se ríe. Al principio parecía "otro algoritmo de aprendizaje autosupervisado más". Luego, gradualmente, vio una lógica más profunda. Trabajos recientes como LeJEPA con pruebas rigurosas mostraron que las buenas representaciones deben ser gaussianas isotrópicas: una propiedad matemática específica.
Pero la verdadera revelación fue darse cuenta de que "JEPA no es un modelo, no es un algoritmo específico. JEPA es una arquitectura cognitiva completa". En el artículo de 2022 de LeCun "Un camino hacia la inteligencia artificial autónoma", JEPA abarca la comprensión del mundo, la predicción, la planificación: la pila completa. "Esto me dio nuevas ideas sobre JEPA y descubrí que JEPA en realidad no es un método específico como la gente de fuera tiende a decir. No es así".
En cambio, JEPA es "un océano muy vasto, y en este océano puede haber muchos barcos navegando". Los LLM son parte de él. La generación de video es parte de él. La visión no es reducirse a las limitaciones de los LLM, sino "pensar deliberadamente en grande, tener suficiente espacio para que exploremos, para escalar, hasta que logremos algún tipo de nuevo avance". ¿Cuándo exactamente? Nadie lo sabe. Pero es un camino en el que Xie está "dispuesto a invertir mi vida para caminar".
La pregunta 42
La conversación termina donde debe: con el universo y el destino. ¿Es este mundo un modelo del mundo gigante? "Por supuesto que el mundo es un modelo del mundo gigante", responde Xie. ¿Puedes predecir el destino entonces? "No lo creo". ¿Por qué no? "No tenemos suficientes recursos. Necesitarías una computadora tan grande como la Tierra, o del tamaño de todo el universo, para darte la respuesta sobre la vida, sobre el universo, sobre cualquier cosa".
Y esa respuesta, como prometió Douglas Adams, podría ser finalmente 42: simultáneamente precisa e inútil sin conocer la pregunta. Quizás ese sea el punto. Lo que Xie está construyendo no es un sistema que prediga todo, sino uno que filtre inteligentemente, procese jerárquicamente y actúe apropiadamente en un mundo irreductiblemente complejo. No la omnisciencia, sino la competencia. No la AGI como apoteosis, sino la inteligencia como participación.
Por ahora, camina por Washington Square Park cada día, viendo al mundo ser el mundo, almacenando eso en cualquier modelo del mundo que se ejecute en su propio cerebro, y traduciéndolo de alguna manera en la siguiente arquitectura, el siguiente artículo, el siguiente paso hacia la descarga de la humanidad en lugar de solo Internet. Queda por ver si el equipo de 25 personas en Nueva York puede lograr esto contra todo el peso de la industria. Pero la convicción de que alguien debe intentarlo, y de que los caminos actuales son insuficientes, arde en cada palabra.