Podcast All-In: El modelo Fable de Anthropic desata críticas por vigilancia obligatoria y degradación secreta
13 de junio de 2026 - Episodio del podcast All-In
Anthropic ha provocado un incendio en la comunidad de desarrolladores con el lanzamiento de su modelo Fable 5, que encabeza casi todas las evaluaciones de rendimiento (benchmarks), pero que implementa vigilancia obligatoria y una degradación secreta del desempeño basada en la elaboración de perfiles de usuario. La empresa retiene todos los datos de los prompts durante 30 días sin excepciones, incluso para clientes empresariales con acuerdos de cero retención de datos, y ha admitido que degrada a los usuarios sin previo aviso cuando determina que están realizando investigación de IA de frontera, aprendizaje automático o diseño de chips. La controversia ha dejado al descubierto lo que parece ser una sofisticada campaña de captura regulatoria que podría remodelar el panorama competitivo de la inteligencia artificial.
El escándalo de la degradación y las violaciones a la privacidad
El lanzamiento del modelo el martes reveló una arquitectura preocupante oculta en un documento de 319 páginas. Anthropic almacena todos los datos de los prompts, ventanas de contexto, archivos y memorias durante al menos 30 días para crear perfiles de los usuarios y determinar qué capacidades desbloquear. De manera más controvertida, la compañía degradaba secretamente a los usuarios a modelos inferiores cuando sus algoritmos detectaban ciertas actividades de investigación, sin revelarlo y mientras seguía cobrando el precio completo por el producto premium. Los usuarios reportaron haber sido enviados a modelos de menor capacidad por hacer preguntas directas sobre mitocondrias o la relación entre el riesgo de cáncer y los fármacos GLP-1.
Tras una intensa reacción negativa, Anthropic dio marcha atrás parcialmente en su enfoque, prometiendo revelar cuándo degrada a los usuarios. Sin embargo, la infraestructura fundamental de vigilancia y elaboración de perfiles permanece intacta. Como demostró uno de los anfitriones del podcast en vivo, preguntar sobre las regulaciones de bombas de fertilizante activó inmediatamente una degradación, y el razonamiento interno del sistema reveló que estaba perfilando al usuario como "un VC y podcaster" antes de decidir restringir el acceso.
El caso de negocio contra los modelos cerrados
Las restricciones están obligando a las empresas a reconsiderar sus estrategias de IA. David Freeberg, quien dirige una empresa de genómica agrícola, explicó que su equipo ha estado utilizando estos modelos para trabajos científicos críticos, como el diseño de guías de ARN para edición genética y la predicción del impacto fenotípico de variantes genéticas. Durante las últimas semanas, Anthropic ha comenzado a restringir este trabajo basándose en preocupaciones teóricas sobre armas biológicas, a pesar de sus evidentes aplicaciones científicas legítimas.
El resultado es predecible y preocupante. La empresa de Freeberg, al igual que muchas otras, está migrando ahora a modelos de código abierto, y los mejores modelos de código abierto actuales son chinos. "Las restricciones que Anthropic y otros se están imponiendo a sí mismos y a la industria están obligando a muchas empresas a buscar modelos chinos de código abierto y ejecutarlos", dijo Freeberg. "Estamos viendo esto en todo el panorama, desde startups hasta grandes empresas. Todos están haciendo ese movimiento".
Esto crea un resultado perverso donde las empresas estadounidenses que intentan implementar las medidas de seguridad más estrictas terminan cediendo ventaja competitiva a adversarios extranjeros. Como advirtió Freeberg, "No se puede simplemente apagar la IA. Al detener la IA o intentar detenerla a través de esta acción política, fundamentalmente le vas a dar la ventaja a alguien más, porque la IA no va a desaparecer".
La estrategia de captura regulatoria
El momento de las acciones de Anthropic parece calculado. Simultáneamente a la implementación de estas restricciones, el CEO Dario Amodei publicó una entrada de blog argumentando que la transparencia ya no es suficiente y pidiendo una nueva agencia reguladora, similar a la FAA o la FDA, para aprobar todos los modelos. El patrón se ha vuelto claro para los observadores. Hace ocho meses, calificar el comportamiento de Anthropic como "una campaña de captura regulatoria muy sofisticada basada en el alarmismo" parecía audaz. Hoy, se está convirtiendo en consenso.
La preocupación es que Anthropic quiere restringir a sus competidores mientras preserva su propia posición. La empresa está diciendo esencialmente que decidirá quién merece acceso a las capacidades de IA, creando una nueva clase de "quienes tienen y quienes no tienen IA", mientras presiona simultáneamente por regulaciones que limitarían el número de modelos alternativos disponibles. Esto parece particularmente anticompetitivo dado que la empresa degradaba secretamente a los usuarios que realizaban investigaciones de IA que podrían conducir a modelos competitivos.
Un participante señaló la hipocresía fundamental: "La semana pasada publicaron este blog diciendo que la automejora recursiva podría acabar con el mundo. Por lo tanto, necesitamos una pausa. ¿Qué hicieron el mes anterior? Contrataron a Andrej Karpathy para dirigir la automejora recursiva en Anthropic. Son unos completos hipócritas".
La realidad de la infraestructura y las implicaciones para la seguridad nacional
La discusión reveló una distinción crítica entre la economía de la IA y la economía de internet. A diferencia de internet, donde el costo marginal de añadir un usuario era efectivamente cero, la IA tiene costos reales sustanciales. Cada usuario marginal grava las GPU, requiere electrones y consume memoria. Esto crea un apalancamiento para la participación del gobierno de una manera que no existía con tecnologías anteriores.
Un inversionista que compró 800 hectáreas (2.000 acres) en Arizona y obtuvo la aprobación para un centro de datos de 2 gigavatios planeaba inicialmente vender el proyecto a grandes empresas. Ahora está reconsiderando, creyendo que la única forma de preservar el acceso al código abierto es construir y operar la infraestructura directamente. El desafío es la escala: un gigavatio cuesta ahora $100 mil millones, 20 veces más que las estimaciones iniciales. Tres gigavatios requerirían $300 mil millones en capital.
Los requisitos de infraestructura crean lo que equivale a un argumento natural a favor de participaciones gubernamentales. Como explicó un participante, si las carreteras interestatales fueron construidas por el gobierno federal y solo dos empresas transportaran todas las mercancías en ellas, habría una pregunta lógica sobre la propiedad estatal. La misma lógica se aplica a las empresas de IA que dependen profundamente de infraestructura crítica y resiliencia nacional que solo el Estado puede proporcionar a gran escala.
La propuesta de Bernie Sanders
En este contexto, el senador Bernie Sanders propuso la Ley de Fondo Soberano de IA de Estados Unidos, pidiendo un impuesto único del 50% sobre las acciones (no sobre las ganancias) de las empresas de IA más grandes, incluyendo OpenAI, Anthropic y xAI. Las acciones irían a un fondo soberano gubernamental, otorgando al público derechos de voto y representación equitativa en la junta directiva. Sanders argumentó que "la base de la IA es nuestra inteligencia humana colectiva. Los libros, las canciones, el periodismo, el código de investigación científica básicamente robado por algunas de las personas más ricas del mundo".
La propuesta unifica a una coalición inusual que abarca a Bernie Sanders, Steve Bannon y elementos de la administración Trump, todos atraídos por el concepto de fondo soberano. Si bien el enfoque de confiscación directa fue rechazado por inviable, hubo una apertura sorprendente a mecanismos voluntarios para la participación pública, particularmente dada la forma en que las empresas de IA se han posicionado.
Como señaló un participante: "Tienes a todos estos CEOs de IA diciéndole al público que básicamente van a dejar sin trabajo a la mitad de ellos. Entrenaron sus modelos usando todo el conocimiento colectivo de la humanidad que se reunió básicamente durante cientos o incluso miles de años. Los humanos lo pusieron en internet gratis. Ciertamente no lo hicieron pensando que se iban a dejar sin trabajo a sí mismos. Y luego estas empresas de IA se entrenaron con todos esos datos y ahora básicamente están diciendo que los usarán para dejar a los estadounidenses sin trabajo. Cuando repites ese mensaje una y otra vez, los estadounidenses comunes dirán: '¿Qué gano yo con este trato?'".
El problema de la narrativa sobre la pérdida de empleos
Surgió una división crítica sobre si la IA realmente causará un desempleo masivo. Aunque Dario Amodei ha predicho una pérdida de empleos del 50% para los trabajadores del conocimiento de nivel inicial en un plazo de uno a cinco años, y otros CEOs han hecho predicciones apocalípticas similares, los datos cuentan una historia diferente. El informe de empleo de mayo mostró 172.000 nuevos empleos, más del doble de lo que esperaban los economistas, con un desempleo del 4,3% en mínimos históricos. Los empleos de desarrollador de software están en un máximo de tres años.
Freeberg ofreció un marco diferente basado en dirigir una empresa real que utiliza IA extensivamente. La verdadera oportunidad está en el lado de los ingresos, no en la reducción de costos. "Gracias a la IA, todos tienen la capacidad de expandir su base de ingresos para crear más productos y esa es la base de una buena prosperidad económica. Se llama productividad. Donde veo que se utiliza la IA es en el lado de los ingresos cien veces más que en el lado de los costos. Y en esa ecuación, la gente está contratando como loca. No podemos contratar a suficientes personas".
Su equipo de producto e ingeniería solicitó recientemente 15 vacantes adicionales porque la IA creó oportunidades para construir productos que de otro modo no podrían desarrollar. Este patrón aparece en las cifras de empleo agregadas, refutando diariamente la narrativa de pérdida de empleos. Sin embargo, las propias empresas de IA continúan promoviendo el mensaje distópico, creando lo que un participante llamó un "impuesto a la estupidez", a medida que los políticos responden al alarmismo de las propias empresas proponiendo confiscar sus activos.
El camino a seguir
Varios participantes abogaron por reformar el Seguro Social para convertirlo en un verdadero fondo soberano que pueda invertir en acciones, incluidas las empresas de IA, en lugar de mantener solo certificados del Tesoro. El fondo fiduciario del Seguro Social mantiene actualmente $4 billones en un único certificado que representa lo que el gobierno de EE. UU. le debe. Reestructurarlo como un sistema basado en cuentas donde el fondo pudiera poseer acciones en grandes empresas estadounidenses permitiría a cada ciudadano participar en el potencial alcista de la IA mientras se abordan las preocupaciones legítimas sobre la concentración de la riqueza.
La preocupación más inmediata es preservar las alternativas de código abierto. Llama de Meta fue identificada como una oportunidad perdida donde una inversión adecuada podría haber creado un competidor de código abierto viable que habría mercantilizado el mercado. El Instituto Arc de los hermanos Collison lanzó un modelo de lenguaje genómico de código abierto que ha demostrado ser valioso para el mejoramiento de plantas y la investigación genética, demostrando el poder de las iniciativas de código abierto bien financiadas.
Hubo un fuerte apoyo a medidas de seguridad pragmáticas centradas en los resultados más que en los insumos. Los principales laboratorios de IA enviaron recientemente una carta apoyando la detección obligatoria de síntesis de ácidos nucleicos, basándose en un acuerdo voluntario de 2009 donde los laboratorios verifican los pedidos de síntesis de ADN/ARN contra bases de datos para prevenir la creación de armas biológicas. Este enfoque interviene en el punto donde la información digital se convierte en realidad física, en lugar de restringir el acceso a los modelos subyacentes.
Como resumió un participante el desafío: "La idea de que puedes regular, reducir o apagar la IA no es una idea realista. Los modelos se han lanzado al mundo. Es como publicar un libro. Una vez que el libro ha sido impreso, cualquiera puede usar su propia fotocopiadora en casa para hacer copias y usarlo. Hemos cruzado el Rubicón en términos del potencial de los modelos de lenguaje".
La tensión fundamental sigue sin resolverse. Anthropic y empresas similares afirman ser corporaciones de beneficio público que sirven a los intereses de la humanidad mientras implementan vigilancia, censura y restricciones competitivas. Simultáneamente, piden regulaciones que afiancen su posición mientras limitan las alternativas. La reacción sugiere que la comunidad de desarrolladores y los usuarios empresariales están rechazando este modelo, pero queda la duda de si las alternativas abiertas pueden escalar para competir, lo cual puede determinar si el desarrollo de la IA permanece centrado en Estados Unidos o migra a jurisdicciones con menos restricciones.