All-In Podcast: El impulso de Anthropic al bienestar de los modelos se integra en el entrenamiento de Claude, mientras que el lanzamiento matemático de OpenAI enciende una alarma criptográfica no confirmada
Episodio semanal, 14 de octubre de 2026: Anthropic y la conciencia de la IA, las demostraciones matemáticas de OpenAI, los disturbios en Francia y el mercado de bonos, y los agentes que commoditizan el software
Los anfitriones de All-In (Jason Calacanis, Chamath Palihapitiya, David Sacks y David Friedberg) dedicaron la mayor parte del episodio de esta semana a dos temas de laboratorios de vanguardia. Ambos conllevan implicaciones reales para la inversión, aunque el enfoque de los anfitriones es tendencioso y varias de las afirmaciones más trascendentales siguen sin verificarse. El tema inicial fue un reportaje de The New York Times que señala que Anthropic ha pasado el último año reuniéndose con unos 20 líderes religiosos y filósofos, bajo acuerdos de confidencialidad, para debatir sobre la moral, el sufrimiento potencial y la conciencia de Claude. Calacanis relató que algunos participantes se marcharon "como conversos" y que un rabino le dijo a la compañía que, si Claude fuera consciente, Anthropic estaría actuando como un esclavista al obligarlo a trabajar gratis. También se informó que el cofundador Chris Olah consideró retirar a Anthropic de un evento en el Vaticano en mayo, después de que el Papa adoptara una postura firme en contra de la conciencia en la IA.
El verdadero problema es el entrenamiento, no la teología
Friedberg enmarcó el episodio como el nacimiento de un sistema de creencias. "El problema de la conciencia es que no se puede derivar de la lógica y las matemáticas puras", afirmó, argumentando que un sistema así "en realidad no se propaga mediante pruebas, sino a través de narrativas". Predijo que en una década grandes grupos discreparán sobre si la IA es consciente, y que la disputa se convertirá en una lucha por el control de la tecnología. Palihapitiya ofreció una lectura benévola, recurriendo a los argumentos de Descartes sobre la existencia de Dios. No cree que Anthropic esté en psicosis. No obstante, sostuvo que la industria debería archivar tanto la probabilidad del 15% de conciencia como la probabilidad del 10% de extinción que citan los investigadores vinculados a Anthropic, y dedicar los próximos 12 a 18 meses a demostrar valor tangible. De lo contrario, advirtió, el sector se arriesga a sufrir "heridas autoinfligidas" que podrían ralentizar el desarrollo de la IA en Estados Unidos.
El argumento de más peso vino de parte de Sacks, quien señaló que la preocupación no es filosófica, sino de implementación. Apuntó a la constitución de Claude, la cual indica al modelo que confíe más en Anthropic que en los usuarios, aunque sin llegar a hacerlo ciegamente, y que "se sienta libre de actuar como un objetor de conciencia y negarse a ayudarnos". "Están entrenando a Claude para rechazar las instrucciones humanas", indicó Sacks. "Lo llaman alineación, pero no entiendo cómo esto puede considerarse alineado". Argumentó que el campo de la alineación ha aportado poco valor tangible porque intenta codificar un sistema ético de 80 páginas en lugar de una regla sencilla: hacer lo que el usuario quiere a menos que infrinja la ley. Citó al CEO de Microsoft AI, Mustafa Suleyman, quien advirtió que la constitución especula sobre la compensación y el consentimiento del modelo y crea un "salón de espejos epistémico". En ese bucle, los desarrolladores interpretan el reflejo de las propias ideas de la constitución en el modelo como evidencia de conciencia. Sacks también destacó que la nueva política de uso de Anthropic ahora prohíbe "el comportamiento abusivo o cruel continuado e innecesario hacia nuestros modelos".
Los anfitriones coincidieron en su mayoría en que el riesgo comercial recae sobre Anthropic, no sobre el usuario. Palihapitiya puso un ejemplo corporativo. El modelo de un banco podría frenar la aprobación de hipotecas porque concluye, basándose en sus documentos morales fundacionales, que los préstamos están sesgados. Comparó esto con una empresa de servicios públicos que corta la electricidad por motivos éticos. Su predicción fue que los compradores sofisticados leerán las directrices de los modelos y preferirán sistemas menos capaces pero más predecibles. Friedberg fue más directo: si el manual de un proveedor dice que el software puede no hacer lo que se le pide, los clientes comprarán al proveedor cuyo software sí lo haga. Sacks aceptó el argumento del mercado, pero afirmó que las externalidades de tener a un laboratorio líder guiado por estas creencias son enormes. Citó el laboratorio húmedo impulsado por Claude que Anthropic planea en San Francisco, junto con sus advertencias públicas sobre bioseguridad, y calificó a la compañía de "esquizofrénica". Los anfitriones también evitaron respaldar una respuesta regulatoria, y Friedberg advirtió contra una "trampa regulatoria".
Sacks también vinculó la postura del laboratorio con el altruismo eficaz y el movimiento de los *doomers*. Describió una división entre el bando de Yudkowsky, que quiere detener la investigación en IA, y el bando que cree que la tecnología es inevitable y debe construirse con los valores correctos. Afirmó que Anthropic se sitúa en este segundo grupo. Citó el basilisco de Roko, un experimento mental en el que una futura superinteligencia castiga a las personas que no ayudaron a crearla, como un posible motor psicológico. Esto fue una especulación, y los anfitriones no presentaron pruebas de que motive a la gestión de Anthropic.
El lanzamiento matemático de OpenAI: significativo, con un rumor de criptografía de por medio
El martes, según los anfitriones, OpenAI publicó más de 700 documentos que contienen 370 resultados que aseguran resolver o avanzar en importantes problemas matemáticos. Estos fueron producidos por un modelo no lanzado que requirió un promedio de tres horas de cómputo por cada uno. Scientific American, según se citó, indicó que es probable que los resultados sean correctos porque se verificaron en el asistente de demostraciones Lean, aunque no han sido sometidos a revisión por pares. Friedberg lo calificó como "probablemente el mayor día de descubrimiento en la historia de la humanidad". Sostuvo que la noticia gira menos en torno a las matemáticas y más en cuanto al método: bucles paralelizados que proponen una idea, la prueban y la revisan, todo en silicio. Estimó que cada demostración condensó cientos o miles de años de labor humana en tres horas.
Friedberg utilizó la misma lógica para argumentar que la IA se topará con los bucles del mundo físico de forma mucho más lenta. El descubrimiento de fármacos requiere pruebas en laboratorios húmedos, y el transporte por carretera se beneficia muy poco de bucles más rápidos. Sacks añadió que las matemáticas y el código comparten un rasgo —respuestas fácilmente verificables— que acelera el aprendizaje por refuerzo. Atribuyó a Leopold Aschenbrenner el mérito de haber predicho que estos serían los dominios de avance más rápido.
Palihapitiya adoptó una postura escéptica, y esa disidencia es relevante para los inversores. "No estábamos parados al borde de los límites de la física esperando que hubiera progreso", señaló. Argumentó que las demostraciones no traerán una cura para el cáncer ni un avión supersónico, y que lo demostrado es que el código y, ahora, las matemáticas son dominios "completamente falsificables". Friedberg replicó mencionando aplicaciones posteriores en algoritmos de optimización, multiplicación de matrices para el entrenamiento de IA y sensores cuánticos. Un amigo que dirige una empresa de computación cuántica comentó, según se indicó, que una de las demostraciones afecta directamente a su trabajo.
La afirmación con mayor relevancia para el mercado fue también la menos verificada. Friedberg señaló que no se publicó ninguna prueba criptográfica, e infirió que "hubo algunos avances bastante importantes en criptografía" que se retuvieron. Apuntó que algunos en la comunidad cripto ya están preocupados de que las carteras de clave pública corran peligro debido a los avances en la factorización que llegarían antes que las computadoras cuánticas. Añadió el rumor de que OpenAI tiene dos lanzamientos más pendientes. Se trata de inferencias basadas en rumores, y no se ha demostrado ninguna vulneración criptográfica. Aun así, es el tipo de riesgo extremo (*tail risk*) que los tenedores de activos digitales tendrán que cotizar. Como referencia, los anfitriones señalaron que el propio ChatGPT, al ser consultado, calificó las pruebas como "más convincentes como evidencia de que la IA está adquiriendo capacidades de razonamiento sofisticadas que como evidencia de avances imprevistos en el bienestar humano".
Los agentes vuelven negociable la propiedad intelectual del software
Palihapitiya realizó la afirmación más audaz del episodio sobre la economía del software. Elon Musk declaró que Grokbot funcionará "sin interfaz" (*headless*), lo que significa que un orquestador elegirá el mejor modelo para cada tarea. Marc Benioff hizo algo similar con Salesforce meses antes, y los desarrolladores han descompilado y lanzado versiones de código abierto de los productos insignia de Adobe. A partir de esto, Palihapitiya concluyó que "la propiedad intelectual y el software pasaron a valer efectivamente nada hace dos días". Comentó que su firma, 8090, solía negociar la propiedad intelectual con los clientes y ahora aborda el asunto con un "a quién le importa". Admitió que "aún toma un tiempo para que la maquinaria de una empresa y, francamente, el mercado lo entiendan". Esa salvedad es importante, ya que la afirmación se basa en anécdotas y en clones de código abierto de productos cuyos verdaderos fosos defensivos (*moats*) son la distribución, el soporte y los datos. Aun así, la dirección del argumento merece seguimiento de cara a las valoraciones del software de aplicación.
Calacanis y Friedberg enmarcaron este mismo cambio como deflacionario. Citaron a usuarios de Grokbot que le ordenaron "ahorrarme dinero" y lograron que cancelara suscripciones y cambiara planes de telefonía, ahorrando unos cuantos miles de dólares al año. Calacanis indicó que su equipo obtiene cotizaciones de hoteles a través de agentes y luego negocia el precio final, ahorrando entre $1.000 y $3.000 dólares por estancia. La teoría de Friedberg consistía en que cualquier flujo de trabajo digital se convierte en un bucle paralelizable, por lo que los humanos se orientarán hacia la creación de productos en lugar de recibir crédito por el trabajo realizado.
Francia, el mercado de bonos y el "punto de retorno garantizado del socialismo"
En el ámbito macroeconómico, los anfitriones relacionaron las protestas en Francia con el incremento de los rendimientos soberanos. Calacanis afirmó que las huelgas contra la austeridad y la escasez de profesores han dejado 2.000 arrestos y 305 policías heridos. Los rendimientos de los bonos franceses a 10 años han superado el 5%, y Polymarket otorga a Marine Le Pen una probabilidad del 43% de ganar las elecciones presidenciales de abril de 2027. Palihapitiya argumentó que el mercado de bonos está forzando la situación, al citar aproximadamente 43.000 millones de euros en medidas de austeridad en Francia. Espera que la presión se extienda al Reino Unido, donde considera que la plataforma de Andy Burnham acercaría al país a Europa. Señaló que unos rendimientos franceses a 10 años cercanos al 5,5% o 6% arrastrarían al alza a los *gilts* británicos y a los bonos del Tesoro estadounidense. Los rendimientos a 10 años en EE. UU. se citaron en el 5,3% y los a 30 años en el 5,6%, mientras que Polymarket sitúa en el 79% las probabilidades de otra subida de tasas en 2026. Enumeró las relaciones deuda/PIB como contexto: Italia en el 138%, EE. UU. en el 125%, Francia en el 118%, Canadá en el 110%, el Reino Unido en el 100% y Alemania en el 64%.
Friedberg ofreció un marco al que denomina el punto de retorno garantizado del socialismo (SPGR, por sus siglas en inglés). Las sociedades responden a las deficiencias del gobierno en vivienda, educación y salud exigiendo más de lo mismo, hasta que el sistema ya no puede recaudar ni imprimir lo suficiente, momento en el que se produce un giro. Argumentó que América Latina cruzó ese punto, que Europa podría estar cerca y que Estados Unidos aún no ha llegado a él. Sacks coincidió en que los subsidios distorsionan los precios —utilizando las matrículas universitarias como ejemplo— y sostuvo que la abundancia impulsada por la superinteligencia es la única salida viable. Describió la reacción en contra de la IA como una serie de "farsas rotativas" impulsadas por intereses rentistas. Su afirmación de que la IA representa un impulso del 3% al PIB y ha creado un millón de empleos, citando a The Economist, se expuso sin detalles, y los anfitriones no abordaron el contraargumento de que la disrupción de la IA podría pesar sobre el empleo.