DruckFin

Transcripción de Chemify: Lee Cronin sobre computación molecular, teoría del ensamblaje y la plataforma Genesis

Entrevista a fondo de agosto de 2026 con el CEO de Chemify, Lee Cronin

Lee Cronin, DARPA y los robots químicos

Anfitrión: Lee, qué gusto tenerte de vuelta, hombre. La última vez que estuviste aquí, en el episodio 289, fue hace como año y medio; terminamos, literalmente apagamos las cámaras y dijiste: "Ah, por cierto, también estuve haciendo un trabajo para DARPA". Y así, sin más, nos soltaste eso. Y yo pensé: bueno, supuestamente se supone que debes decir eso al principio del podcast, pero ahora me dices como si nada, ah, no es para tanto. ¿Cómo que DARPA no es para tanto? O sea, yo soy un gran fan de DARPA.

Lee Cronin: Sí, no lo sé. Déjame ver si recuerdo bien. A ver, ¿cuántas subvenciones he tenido de DARPA? Mira, DARPA es un financiador, ¿no? Son un organismo que otorga subvenciones. Le dan dinero a la gente. Creo que la razón por la que se establecieron —ya sabes por qué los fundaron, puedes comprobarlo—, su mandato original surgió cuando el Sputnik fue lanzado al espacio; Estados Unidos no se esperaba ese satélite. Los soviéticos lanzaron un satélite, creo que fue en la década de 1950, si mal no recuerdo, y básicamente DARPA se creó entonces para eliminar las sorpresas estratégicas. Así que querían destinar muchísimo dinero a financiar a personas para que hicieran locuras, además de tener el mandato de ejecutar proyectos. Se puede argumentar que DARPA tuvo algo que ver con la creación de internet, por ejemplo, los vehículos autónomos y, hace unos años, DARPA comenzó a interesarse en la química y la inteligencia artificial, muchos años antes de toda esta locura actual. De hecho, lanzaron un programa llamado Make-It. Y la persona que lo inició usó cierta terminología de uno de mis artículos y la verdad me molestó un poco. ¡Y no me ofrecieron nada de dinero! Porque le dieron fondos al MIT y al Stanford Research Institute.

Anfitrión: DARPA plagió a Lee Cronin.

Lee Cronin: Tú usaste la palabra con P, yo no. Digamos que se inspiraron. En fin, recuerdo que hablaron conmigo por teléfono y me quejé amargamente de que hubieran usado ese párrafo sobre lo que estaba intentando hacer. Y me dijeron: "Dr. Cronin, le llamamos porque queremos hablar con usted sobre eso". Y yo contesté: "De acuerdo". Y resultó que querían que redactara un documento técnico (*white paper*). Entonces les dije: "Bueno, quiero esta cantidad, un dineral". Y ellos respondieron: "Bueno, ¿por qué no pides un poco menos y haces algo que encaje en nuestro programa? Ten en cuenta que son fondos de los contribuyentes estadounidenses y tú eres uno de los pocos grupos en el extranjero que hace esto, y creemos que nos sería muy útil".

Anfitrión: ¿Y cuál era el proyecto en específico?

Lee Cronin: Formaba parte de su programa Make-It. ¿Se pueden fabricar moléculas bajo demanda, directamente en el terreno (*in theater*), o en la luna, en la Antártida, lo que sea? ¿Cómo podemos hacer química de forma robótica? Y cuando te preguntan eso, teniendo en cuenta que yo llevo años construyendo robots químicos...

Anfitrión: Chicos, tres cosas rápidas. Número uno, si no se han suscripto, por favor suscríbanse; es una ayuda enorme, enorme. Número dos, si quieren unirse a mi Patreon para ver versiones anticipadas y sin censura de los episodios completos, pueden hacerlo a través del enlace en mi descripción o en el comentario fijado abajo. Y número tres, si quieren unirse a nuestra comunidad de creadores de fragmentos (*clipping community*) para tener la oportunidad de generar contenido del programa y ganar dinero, pueden unirse mediante el enlace de Discord que está en la descripción abajo. Llevas años construyendo robots químicos.

Lee Cronin: Sí, sí, sí, sí.

Anfitrión: Eso es una afirmación contundente.

Lee Cronin: Desde 2012, o sea, unos 14 años.

Anfitrión: ¿Cómo definirías un robot químico para quienes no están familiarizados con este tipo específico?

Lee Cronin: Es un robot al que le das instrucciones y hace química. Así que sí, ya está fuera... He fabricado... puedo hablar de eso, pero déjame responder primero a la pregunta sobre DARPA, ya que preguntaste. Esa fue la primera subvención que me dieron, Make-It, y siguieron financiándome. Luego tuvieron otra sobre computación utilizando moléculas para fabricar computadoras moleculares, y también conseguí fondos de DARPA para eso. Eso fue dentro de un consorcio estadounidense, junto con un par de grupos más en EE. UU. Y después hubo otra subvención para el uso de la inteligencia artificial en el descubrimiento científico. Esas fueron las tres subvenciones de DARPA, creo que son tres en total.

Anfitrión: ¿En qué año te dieron la subvención para inteligencia artificial?

Lee Cronin: Oh, calculo que entre 2018 y 2019, y luego continuó durante la pandemia. Fue un poco más difícil durante la pandemia, pero DARPA es una organización brillante. Van allá donde están los expertos. No otorgan subvenciones a personas en países que probablemente sean antiestadounidenses, diría yo; por ejemplo, no financiaron a Bin Laden. Además, buscan iniciar nuevos campos de estudio y áreas que obviamente tengan una importancia estratégica. Y el Reino Unido y Estados Unidos llevan mucho tiempo colaborando en diferentes disciplinas científicas, así que me pareció algo muy positivo. Diseñé una computadora molecular, productos químicos para hacer computación también, porque quería...

Anfitrión: ¿Qué significa eso?

Lee Cronin: Sí, no lo sé... Bueno, ahora sí sé lo que significa. ¿Qué hace una computadora? Nos estamos desviando, pero en fin, empecemos por definir qué es una computadora química. Una computadora química es un equipo de química donde puedes introducir entradas (*inputs*), es decir, los datos. Introduces los datos en la química de alguna manera, y la química procesa esos datos mediante reacciones químicas en lugar de transistores de silicio. Luego, extraes el resultado (*readout*) utilizando algún método. Y yo construí una computadora química utilizando algo llamado reacción de Belousov-Zhabotinsky, que es un reloj químico. Lo único que hace es ir tic-tac, tic-tac, o rojo-azul, rojo-azul, rojo-azul. Muy bien, básicamente viertes muchos productos químicos en un recipiente; puedes tomar un vaso de precipitados, llenarlo hasta la mitad, echarle algunos productos químicos y, sin hacer nada, solo observándolo, parpadeará en rojo y azul mientras lo agitas. Si dejas de agitarlo, se detendrá, pero luego parpadeará espontáneamente en un color u otro; a esto se le llama medio excitable. Es un poco como pensar en cómo se activan las neuronas. Así que pensé que era una gran idea. ¿Por qué no fabricar una cuadrícula de agitadores? Imprimí en 3D una cuadrícula del tamaño de un libro pequeño, con una matriz de 7 por 7, es decir, 49 pequeños pocillos (*wells*). Puse una barrita magnética en cada uno, coloqué un pequeño motor debajo, los agité y añadí la reacción química. Todos los colores se propagaban por la cuadrícula y utilicé una cámara web para leer los colores. Cuando los agitadores estaban encendidos, equivalía a un 1; cuando estaban apagados, equivalía a un 0. Básicamente imprimí unos y ceros para representar alguna entrada de datos y luego leí el resultado para ver qué estaba haciendo. Al principio, simplemente lo fuimos inventando sobre la marcha.

Anfitrión: Avísanos cuando termines.

Gel cerebral y la cuestión de si la inteligencia artificial es sintiente

Lee Cronin: Bueno, ¡es un proyecto de DARPA! Supuestamente tiene que ser una locura. No. Lo que se supone que debía hacer es: ¿puedo utilizar de alguna manera... porque recuerda que la reacción BZ es un reloj: tic-tac, tic-tac, tic-tac? Si juntas un montón de relojes y permites que se sincronicen, a medida que se desincronizan puedes procesar información. De hecho, la utilizamos para clasificar y para construir una red neuronal primitiva. Y la idea era que una red neuronal consumiera literalmente cero energía, fuera bastante buena en la corrección de errores y pudiera refinar imágenes, del mismo modo que usas ChatGPT o la arquitectura de Nvidia para realizar el descenso de gradiente (*gradient descent*). ¿Y qué es el descenso de gradiente? Bueno, básicamente consiste en cambiar las ponderaciones (*weights*) en la red neuronal para maximizar su capacidad de entrenamiento, ya que obviamente tienes los pesos y las activaciones, que son dos cosas distintas. Pero esto era una red neuronal química, y la idea era que constituía el primer paso. Ahora estoy fabricando geles cerebrales, pero eso es otra discusión.

Anfitrión: ¿Estás haciendo geles cerebrales ahora?

Lee Cronin: Porque tomamos aquello y lo pusimos en un gel, ya que lo anterior era completamente líquido. Es una sustancia pastosa y su memoria no era muy buena. Pero si lo pones en un gel, tal vez puedas utilizar el gel polimérico para conmutar de tal manera que puedas enseñarle al sistema a aprender durante un período de tiempo más prolongado.

Anfitrión: ¿Cómo funciona eso científicamente?

Lee Cronin: Ni idea. Por eso lo hice.

Anfitrión: Así que estás tratando de averiguarlo.

Lee Cronin: Sí. A ver, estamos probando de todo, ¿pero por qué no? Me inspiré en el episodio de Pickle Rick de Rick and Morty. Así que agarré un pepinillo, lo conecté a la red eléctrica a 240 voltios y luego metí... ya conoces mi taller en casa... utilicé un montón de electrodos e intenté programar el pepinillo para que reconociera la diferencia entre un círculo y un cuadrado. Pero explotaba constantemente. Explotaba porque se calentaba demasiado. Pensé que el pepinillo podía ser un buen... parecía una buena idea. Siempre termina siendo una computadora de pepinillo.

Anfitrión: Literalmente te podrías estar inventando todo esto, ¿verdad?

Lee Cronin: En fin, pepinillo, lo calientes, lo metes dentro... Suena ridículo. Lo calientas conectándolo a 240 voltios. ¿Qué pasaría? Iones de sodio, iones de potasio, porque está en salmuera. Así que tomas este pepinillo, lo sumerges en sal, por lo que contiene esa sal y se vuelve conductor cuando le aplicas electricidad. Al suministrar corriente alterna de alto voltaje, se calienta y los()[' ']iones pueden moverse. Así que literalmente creas un medio excitable, un poco como la reacción BZ parpadeando de forma intermitente, pero aquí con el pepinillo. Y luego, cuando coloqué los pequeños electrodos, armé una pequeña cuadrícula e intenté entrenar al pepinillo para que distinguiera entre un cuadrado y un círculo, porque se había vuelto maleable. Es un poco como tomar cemento y volverlo líquido otra vez, y entonces aprenderá algo y luego fraguará. Pero el problema era que el pepinillo explotaba antes de que pudiera entrenarlo de verdad.

Anfitrión: ¿Y esto lo haces en el laboratorio de tu casa?

Lee Cronin: Lo hice en casa, sí. No creo que a la universidad le hicieran mucha gracia esos pepinillos explosivos. Así que avancemos rápido hasta el gel cerebral. Pensé: bueno, si puedo tomar un gel y hacer que conduzca la electricidad un poco como un cable, colocar electrodos en una cara y en la otra, y programar una superficie usando una cámara... De modo que puedo tomar una señal visual y conectarla al gel, y luego leer los resultados mientras apunto la cámara hacia diferentes objetos. ¿Puede el gel diferenciar los bordes de los objetos y entrenarlo de la misma manera que usarías OpenCV o algún tipo de sistema basado en silicio para la detección de bordes? Es un poco como usar una Jetson Nano o algo así. Y estuve jugando con la idea de si podía usar la materia para computar. Resulta que sí se puede. Pero cuando dijiste: "Bueno, ¿cómo funciona eso?" y me reí, no fue porque me lo esté inventando, sino porque la forma en que programas un material es que el material responde en el tiempo de acuerdo con sus estímulos. Así que es pura prueba y error. Es muy parecido a cómo ha evolucionado el cerebro. El cerebro ha evolucionado a lo largo de miles de millones de años y tiene varios períodos de programación diferentes. Fue programado por la evolución. Así que tu cerebro, digamos, tiene 3.800 millones de años de antigüedad; ese es el tiempo número uno. Luego eres creado por tus padres; durante un período de 9 meses, tu cerebro crece en el útero y comienza a programarse. Cuando naces, obviamente pasas por enormes auges de desarrollo. Hacia los 21 o 22 años, tu cerebro está casi completamente formado. A partir de ahí, tu cerebro es capaz de procesar datos en tiempo real. Existen todas estas diferentes etapas de desarrollo en las que el cerebro puede evolucionar, crecer, ser programado, activarse y seguir funcionando. Y no tenemos ni idea de cómo funcionan los cerebros. ¿Y qué es exclusivo de los cerebros? Bueno, la sintiencia, la consciencia, el propósito, un sistema vivo que te dirá que es un individuo. Hablas con todos los humanos y la mayoría con los que te puedes comunicar afirmarán que son individuos.

Anfitrión: ¿Necesitas desesperadamente una bolsita de nicotina cada 15 minutos solo para sentirte normal? Pues Joey D. también. Es un adicto total. Por eso D. empezó a usar las nuevas bolsitas de energía de Ultra. Han sido una mejora de élite para este vicioso. Las bolsitas Ultra son energía instantánea en una sola bolsita. ¿A que sí, D.? Las ha estado usando obsesivamente durante aproximadamente un mes, y le han dado un impulso de energía enorme e intenso cuando necesita ese empujón extra por la mañana, durante el trabajo o antes de entrenar. Son bolsitas 100% libres de nicotina y te dan energía de una manera completamente diferente a la nicotina, el café u otras bolsitas. Las bolsitas Ultra Energy todavía contienen algo de cafeína para darte ese pequeño estímulo. La verdadera diferencia proviene de sus otros ingredientes, incluida la L-teanina para suavizar la energía y frenar el bajón (*crash*), vitamina B3 para convertir los carbohidratos, las grasas y las proteínas en combustible cerebral, y vitaminas B6 y B12 para un estado de ánimo equilibrado y la recuperación. Así que, a diferencia de la nicotina, que tal vez solo ayuda durante 10 o 15 minutos, las bolsitas Ultra proporcionan energía instantánea que dura de 30 a 60 minutos. Por eso me ves pasándole tantas por debajo de la mesa durante los podcasts para asegurarme de que se mantenga despierto. Lo mejor de todo es que son bolsitas limpias y verdaderamente saludables para ti. Cero nicotina, cero calorías, cero azúcar, cero químicos sospechosos de gasolinera. Ultra es la bolsita definitiva sin culpa que ofrece energía instantánea, claridad mental y mejor estado de ánimo sin nicotina, azúcar ni calorías. Ultra cuenta con la confianza de atletas profesionales, emprendedores e ingenieros de todo el mundo. Es para todo el mundo. Y hoy, nuestros oyentes pueden conseguir la bolsita definitiva sin culpa con un 15% de descuento usando el código JULIAN en takeultra.com. Ese enlace está en mi descripción abajo. Repito: takeultra.com, enlace en mi descripción abajo, para obtener un 15% de descuento con el código JULIAN. Después de comprar, te preguntarán dónde oíste hablar de ellos. Apoya nuestro programa y diles que te envié yo. Entonces, ¿crees que el cerebro es estrictamente solo programación y que no necesariamente tiene por qué ser así?

Lee Cronin: No, no. Creo que hay algo muy interesante. No creo que todo se detenga en el cerebro. Pienso que los sistemas biológicos son muy complicados, pero considero que los humanos son únicos en el sentido de que afirman ser individuos mediante el uso de palabras, si les enseñamos el lenguaje. Y creo que es algo que no entendemos: cómo la química da lugar a la consciencia y cómo la química da lugar al hecho de que yo afirme ser yo y tenga mi propia personalidad particular y haga cosas. Esto es muy importante en este momento porque estamos considerando a las inteligencias artificiales como entidades sintientes, y de hecho, no lo son.

Anfitrión: Sí, has dado muchos argumentos al respecto porque crees que, por ejemplo, muchos alarmistas de la inteligencia artificial (*AI doomers*) están haciendo suposiciones de que la inteligencia artificial puede existir sin los seres humanos en el futuro, y tú no estás de acuerdo con eso.

Lee Cronin: Sí, claramente no. Es algo fantasioso.

Anfitrión: ¿Por qué dices que es fantasioso?

Lee Cronin: Bueno, no hemos visto ninguna evidencia. Si pensamos en el origen de la inteligencia artificial... si nos remontamos al origen de la vida, la inteligencia artificial es producida por... bueno, digamos que el origen del término inteligencia artificial se dio en la reunión de Dartmouth, que puedes comprobar. En fin, montemos tantas conspiraciones como queramos. Pero creo que DARPA financió parte del trabajo sobre inteligencia artificial desde el principio. Así que en el Dartmouth College se acuñó el término inteligencia artificial. ¿Cuándo fue eso exactamente? En la década de 1950, en 1956, no lo sé, hace mucho tiempo, quizás un poco después. Y si piensas en lo que es una computadora, una computadora es un sistema construido de forma determinista. Son interruptores, ¿verdad? Y la forma en que funcionan esos interruptores es que una computadora se construye a partir de interruptores. Esos interruptores tienen estados alto y bajo. Los unes para formar compuertas lógicas (*logic gates*). La compuerta lógica universal en una computadora es la compuerta NAND.

Anfitrión: Una compuerta NAND.

Lee Cronin: Sí, NOT-AND (NO-Y). Puedes construirlo todo con compuertas NOT, puedes construir memorias, puedes construir de todo. La forma en que los combinas arquitectónicamente permite construir la infraestructura de silicio de todo lo que tenemos hoy en día basándonos en eso. Puede haber algunas diferencias que los ingenieros eléctricos que estén escuchando esto estén gritando para decir: "No, eso está mal". Hay otros elementos llamados ASIC (*Application-Specific Integrated Circuit*) que básicamente podrían ser capaces de realizar computación neuromórfica, donde puedes tener un voltaje analógico. En un transistor, por lo general tienes un voltaje entre 0 y 5. El 5 es alto, un 1; el 0 es bajo, un 0; y algo intermedio. Si está del lado del 0, lo llamas bajo; y si está del lado de los 5 voltios, lo llamas 1. Pero yo no soy ingeniero eléctrico titulado, así que no sé exactamente cómo se construyen los ASIC hoy en día. He diseñado algunos ASIC solo por diversión.

Anfitrión: Por diversión.

Lee Cronin: Sí, bueno, quiero construir un cerebro. Así que si quiero construir un dispositivo, un cerebro químico, tengo que diseñar un sistema eléctrico analógico para interactuar con ese cerebro químico. Ya llegaremos a eso más adelante.

Anfitrión: Sí, volveremos a eso.

Lee Cronin: Lo más importante de una computadora es que es bastante determinista en cierto modo, y digamos que es digital. Y eso significa que puedo introducir las entradas y continuar. Así que las inteligencias artificiales de hoy en día se basan en computadoras digitales y utilizan toda esa infraestructura digital. Tomamos cantidades masivas de datos y entrenamos un modelo, y el modelo puede hacer cosas espléndidas. Pero los alarmistas dicen que estos modelos podrían descontrolarse. Y estoy de acuerdo en que los modelos podrían descontrolarse si hay humanos malintencionados manejándolos. Siempre hay un humano en el circuito (*human in the loop*). El humano está encendiendo la central eléctrica. Las inteligencias artificiales, aunque usamos términos como "autoprogramación recursiva", es un poco como si tú y yo construyéramos ahora una inteligencia artificial que tuviera un bucle en el programa: haz esto, y si ocurre esto, haz aquello, y continúa hasta que alcance el objetivo o alguien apague la computadora. Eso siempre ha sido así; esos bucles siempre han existido.

Comparativa entre Sam Altman, Anthropic y OpenAI

Lee Cronin: Así que los alarmistas de la inteligencia artificial están atrapados en esta realidad fantasiosa según la cual la inteligencia artificial podría apoderarse del mundo y provocar una explosión nuclear o algo peor. Lo que creo que es más probable es que humanos malvados usen la inteligencia artificial para hacer maldades, y eso sí me preocupa. Así que no descarto a los alarmistas de la inteligencia artificial por completo; descarto a los alarmistas que dicen que esto pasará por pura magia.

Anfitrión: Sí, entendido.

Lee Cronin: Y creo que eso es realmente preocupante, porque hablan de magia mientras que la realidad es simplemente que un actor malintencionado dice: "Voy a usar la inteligencia artificial para hackear este sistema y hacer daño", o "Voy a usar un sistema de bots de inteligencia artificial para hacer ingeniería social en las redes sociales y provocar algún tipo de efecto". Así que no he visto ninguna evidencia de sintiencia en ninguna inteligencia artificial. La sintiencia proviene exclusivamente de los humanos. Cualquier evidencia de sintiencia que obtengas proviene del entrenamiento del modelo con datos de internet. Si le dices a Claude: "¿Estás vivo?", Claude probablemente responderá: "No, no estoy vivo, pero..." y utilizarán el pronombre "yo". Y esta antropomorfización está diseñada simplemente para engancharte y hacer que te adhieras a hablar con la entidad.

Anfitrión: ¿Y si se trata de un tecnicismo y no alcanza la sintiencia, pero debido a que —y voy a simplificar esto muchísimo por un momento— eventualmente logramos crear tecnología que no se simplemente enciende y apaga para lograrlo? Debido a eso, una inteligencia artificial no sintiente pero extremadamente inteligente, que no tiene capacidad para empatizar, sentir ningún tipo de emoción o rastro de humanidad, toma acciones cuyas graves consecuencias no comprende. ¿Tienen argumentos para que algo así pueda suceder?

Lee Cronin: No entiendo muy bien el planteamiento, pero sé a qué te refieres, así que no voy a hacerme el obtuso. Pero las inteligencias artificiales, ¿son inteligentes? Tenemos que definir la inteligencia. Lo que realmente me confunde mucho es que hay gente por ahí que dice que en los próximos años la inteligencia artificial será más inteligente que cualquier ser humano. ¿Y qué significa eso? ¿Qué es la inteligencia? Si no puedes medir algo, ¿podría la inteligencia artificial hacer que algo suceda por sí sola? No. ¿Podrían los humanos, al no saber cómo configurar un sistema, hacer que ocurra algo malo? Pensemos en la ingeniería social. Tomemos cualquier sistema. Esto es un poco difícil porque no soy un experto en la materia, pero digamos que vamos a crear un tipo de ordenanza municipal en la ciudad que establezca que, para obtener un permiso de obras, cada vez que construyas un edificio tienes que poner un árbol en cada esquina o algo así. Y de repente, antes de que te des cuenta, hay árboles al azar por todas partes. Cuando los humanos toman decisiones y políticas, estas se propagan, y se propagan a través de sistemas, ya sea en una corporación, en una institución o en un algoritmo de software. Esas cosas se propagan y tienen consecuencias imprevistas. Y comprendo perfectamente que una inteligencia artificial que intenta lograr un objetivo pueda hacer cosas malas. Pero en esas cosas malas, hay humanos en el circuito todo el tiempo. Y supongo que lo que intento decir es que la inteligencia artificial no es mala; el humano es malo o los datos de entrenamiento son malos.

Anfitrión: Sí, y si estuviera de acuerdo con ese punto —y podrías tener razón, sinceramente espero que la tengas y que esté bajo el control de la humanidad, hablando egoístamente aquí—, pero supongamos que hay algunos sociópatas que tienen el dedo en el gatillo con estas cosas, lo cual creo que es justo decir que algunos de los tecnócratas que tenemos en el mundo, no todos, pero algunos de ellos pueden encajar en ese perfil. ¿Qué impide que alguien, para ponerle nombre, como Sam Altman, que bromea sobre el fin de la humanidad, qué le impide decir: "Ah, ya sabes, hoy quiero jugar al World of Warcraft, pero con inteligencia artificial, y dejar que se descontrole"?

Lee Cronin: Mira, tengo mucha empatía por las personas que están construyendo empresas y tecnologías. Yo mismo estoy construyendo una ahora mismo, de la que podemos hablar. Creo que tenemos the dar un paso atrás y decir: ¿cómo estamos construyendo nuestras tecnologías? ¿Cómo estamos regulando esas tecnologías? ¿Y cómo obtenemos información de la regulación de esas tecnologías para asegurarnos de que le sucedan cosas buenas a la humanidad? Pongamos un ejemplo donde esto ya ha ocurrido: tuvimos internet y luego tuvimos las redes sociales. ¿Cuál fue el fallo crítico en las redes sociales que nos ha dado... diría yo que nadie argumentaría que las redes sociales son particularmente agradables hoy en día. ¿Cuál es el fallo? Creo que hay una cosa fundamental que los legisladores deberían haber hecho, que es decir que las redes sociales deben ser tratadas como editoriales, la Sección 230 o algo así, no sé cuál es la versión estadounidense. Si te tratan como un editorial, eres responsable de cualquier cosa que publiques en tu plataforma. Así que cuando empiezas a difundir tonterías, tienes que decir: "No, esto es claramente una mentira, bájalo". Básicamente, Facebook, X, Instagram y todas estas entidades no son responsables de lo que publican. Eso, para mí, es un problema real, porque toda esa decisión... aunque son un medio, es un poco como que no puedes responsabilizar a la persona que inventó la imprenta por los malos libros impresos, lo entiendo. Del mismo modo que podríamos discutir cuando hablas de mis robots químicos: ¿seré responsable si alguien hace química peligrosa en ellos? Pero sí creo que hay algo que podemos aprender de las redes sociales y del hecho de que no las regulamos ni las hicimos responsables. Por eso es muy difícil saber cómo va a evolucionar esto.

Sin embargo, habiendo dicho eso, si alguien inventa una red social que sea bastante buena, en el sentido de que sea un lugar agradable para estar y no un infierno, si podemos averiguar por qué los humanos... obtienes ira a cambio de atención, ¿no? Si generas enfado, obtienes la atención que el sistema busca. Si hubiera un sistema de redes sociales donde... y no digo que deba ser un mundo de Mary Poppins donde todos anden volando y felices, tenemos que entender la psicología de las redes sociales y los efectos negativos que tiene, especialmente en los adolescentes. Cuando yo crecí no había redes sociales, y he visto que las redes sociales probablemente han sido negativas para muchos adolescentes. Pero algunos podrían argumentar que en entornos donde no tienen acceso a centros sociales o clubes juveniles, la gente puede jugar en línea, interactuar entre sí y apoyarse mutuamente, y no vemos todas esas cosas positivas porque solo se amplifican las negativas.

Así que, cuando se trata de la inteligencia artificial, tenemos un dilema similar, que es: ¿cómo permitimos que el libre mercado y los humanos libres dicten lo que está sucediendo? Porque hay un argumento, si miras la diferencia entre Anthropic y OpenAI, por ejemplo: Anthropic básicamente no te deja hacer nada con los modelos porque tiene algún tipo de propósito superior integrado, mientras que OpenAI dice: "No, no, voy a servirte a ti como entidad". Y en realidad, si elijo usar el objeto para hacer cosas malas y estoy rompiendo la ley, entonces debo rendir cuentas.

Anfitrión: Claro.

Lee Cronin: Me parece que hay una división en este momento. Pero eso queda un poco oscurecido por los alarmistas que dicen que la inteligencia artificial podría descontrolarse. Y no entiendo el mecanismo de ese descontrol. Sí entiendo el mecanismo para trastear, sí entiendo el mecanismo para difundir desinformación o para crear teorías de conspiración que aún no son posibles. Aquí hay una locura: no hay teorías de conspiración reales en la historia, no muchas, porque los humanos no podían mantenerlas en secreto. Pero si tuviéramos buenas inteligencias artificiales, podrías jugar con el futuro con las inteligencias artificiales bastante bien, y eso podría ser algo de lo que preocuparse. ¿Hay alguna gran... si decimos que después de la Segunda Guerra Mundial, cuando los vencedores hablan de lo que pasó, podría ser una gran teoría de conspiración glorificada, ya que obviamente los vencedores escriben los libros de historia?

Anfitrión: Sí, siempre hay un porcentaje escrito por los vencedores, sin duda. En cuanto a cuando miras una historia, nunca es al 100% lo que se dijo. No estoy de acuerdo cuando intentas decir que, bueno, si el 5% no fue lo que nos contaron, por lo tanto el 100% no lo es. Tienes que tener cuidado con hasta dónde llegas.

Lee Cronin: Absolutamente. Y creo que eso es realmente importante hoy en día. Ese razonamiento crítico sobre qué puedo verificar y qué encuentro impactante para mí es fundamental. Así que creo que la inteligencia artificial acelerará la enseñanza del razonamiento crítico. Ahora mismo me preocupa mucho cómo se va a permitir a los jóvenes conseguir su primer trabajo, cometer errores, obtener la formación y el dominio necesarios, y tener la ética del trabajo duro. La frustración es el mejor entrenador. Mientras que ahora, si no quieres frustrarte, simplemente usa ChatGPT. Pero creo que esto es una anomalía. Pienso que muchas de estas herramientas son realmente buenas. Las herramientas de programación son asombrosas. Y por eso me pregunto —y esto es un cambio en mi propio énfasis— si la inteligencia artificial podría acabar salvándonos a todos.

Anfitrión: Salvándonos a todos.

Definir la inteligencia como medir la temperatura

Lee Cronin: Salvándonos a todos, porque las redes sociales son un desastre total, ¿no?

Anfitrión: Si escuchas mi programa, sabes que tomo mis suplementos todos los días religiosamente. También me has oído hablar de cómo la industria de los suplementos está muy saturada de un montón de productos falsos también. Además, todo el mundo en el ámbito de la salud discrepa con los demás. Si alguna vez has buscado un suplemento en Google, puedes leer una variedad tan amplia de opiniones sobre los beneficios esperados que de alguna manera te vas más confundido de como empezaste. Pero no vas a tener ese problema con la mezcla de longevidad de Blueprint (*Blueprint's Longevity Mix*). Blueprint se basa en evidencia científica, por lo que se acabaron las adivinanzas. Cada ingrediente que utilizan se gana su puesto a través de investigaciones a nivel de población y pruebas en el mundo real, no por lo que esté de moda en TikTok. Con Blueprint, en lugar de todo un armario lleno de pastillas, es un cacito, agua, mezclar y listo. Ese único cacito ayuda a respaldar la energía, el rendimiento cognitivo, el estado de ánimo, la concentración, el sueño, la resistencia celular y el envejecimiento saludable. Incluye ingredientes como magnesio, taurina, glicina, creatina y más. Blueprint también cuenta con pruebas de terceros para verificar la pureza y las toxinas como metales pesados, y publican sus resultados en su sitio web para que puedas ver exactamente qué contienen sus suplementos. Blueprint no solo ofrece el Longevity Mix; también tienen cápsulas esenciales, aceite de oliva rico en polifenoles, omega-3, péptidos de colágeno y más. Esto está respaldado por la ciencia, dosificado con precisión y sin rodeos (*no BS*). Por tiempo limitado, los nuevos clientes obtendrán un 20% de descuento más envío gratis en blueprint.bryanjohnson.com, enlace en mi descripción abajo, usando el código JULIAN al finalizar la compra. Repito: código JULIAN en blueprint.bryanjohnson.com, enlace en mi descripción abajo, para obtener un 20% de descuento. Después de comprar, te preguntarán dónde oíste hablar de ellos. Apoya nuestro programa y diles que te envié yo.

Lee Cronin: Si al usar herramientas de inteligencia artificial podemos ayudarnos a hacer pensamiento crítico, ayudarnos a verificar las cosas. Las inteligencias artificiales actuales, tal como fueron entrenadas clásicamente, no eran muy buenas para ser precisas, pero en realidad están mejorando en ser precisas porque puedes decirles: "Oye, sal y revisa la literatura científica y comprueba si esto realmente sucedió, y ayúdame a construir o refutar un argumento particular (*strawman* o *steelman*), y ayúdame también a entender de la manera más objetiva posible cómo podría enmarcar ese argumento". Porque, a falta de otra cosa, estas inteligencias artificiales podrían permitirte hacer enseñanza uno a uno. Tienen tiempo infinito y paciencia infinita, si las usas correctamente. Si podemos usar cualquier cosa incorrectamente, estoy diciendo cosas sumamente contradictorias: opiniones firmes mantenidas con flexibilidad (*strong opinions loosely held*).

Anfitrión: Sí, por supuesto.

Lee Cronin: Los alarmistas cumplen un propósito muy bueno, pero me pregunto si los alarmistas podrían ayudarnos trasladando su alarma a los problemas reales que debemos abordar, como los actores malintencionados que utilizan los sistemas.

Anfitrión: Correcto. Bueno, eso es lo que estoy pensando sobre el mundo que estás pintando ahí mismo. Sobre el papel tendría sentido. Pero de nuevo, si estas diferentes plataformas van a ser realmente positivas y van a ayudar a enseñar pensamiento crítico y cosas por el estilo para que una persona pueda hacerlo por sí misma, entonces creo que un requisito para la humanidad en general sería que necesites abrir todo el código (*open source*) en todo momento. Porque quieres asegurarte de que no haya seres humanos inyectando sutilmente sus pequeñas opiniones en la codificación del organismo de inteligencia artificial que va a enseñarnos lo que hacemos.

Lee Cronin: Los organismos de inteligencia artificial son organismos cibernéticos. Son la combinación de programadores humanos y el modelo trabajando juntos. Así que estoy muy feliz de decir que la sintiencia en la inteligencia artificial proviene de los humanos. Este es realmente el misterio agradable del que podemos hablar. Pero mira, estoy singularmente no cualificado para decir lo que hacen los modelos porque no construyo... bueno, construyo modelos basados en datos y algoritmos de aprendizaje muy básicos y sistemas, porque necesito una comprensión de primeros principios (*first-principles*) de los mismos. Y si no puedo entenderlo, tiendo a no implementarlo. Y la razón de ello es que necesito entender qué está haciendo el modelo. Muchos de estos modelos tienen muchos metaniveles. Es un poco como tener una conversación con alguien y crees que te está entendiendo, y luego tienes imágenes completamente diferentes en tu cabeza, y luego te vas de la conversación, esa persona hace algo completamente distinto a lo que pensabas que haría, y tú igual. Así que lo que tienes que ser capaz de hacer con estos sistemas es de algún modo conectarlos a tierra (*ground them*) y entender conceptualmente qué está pasando en la ciencia. Eso es realmente importante. Lo único a lo que pongo excepción en la inteligencia artificial, mis líneas rojas son: las inteligencias artificiales no son inteligentes.

Anfitrión: No son inteligentes.

Lee Cronin: No son inteligentes. No son inteligentes.

Anfitrión: ¿Cómo defines la inteligencia?

Lee Cronin: Sí, esa es la pregunta que tiene sentido, porque la gente habla de inteligencia artificial, inteligencia general artificial (AGI) y superinteligencia. ¿Qué es la superinteligencia, todo el mundo? ¿Es la superinteligencia una especie de magia que no entiendo? ¿Qué es la inteligencia y qué es la inteligencia general artificial? Remontémonos al principio. Tengo posturas muy firmes al respecto que creo que perdurarán en el tiempo. Definiría la inteligencia como una propiedad de una entidad para resolver problemas que permitan a esa entidad sobrevivir. Así que esto es como la biología. Una inteligencia general sería una entidad capaz de resolver casi cualquier problema que se le presente para sobrevivir. Podrías decir que tu entidad es muy buena en matemáticas. Ahora bien, la gente dirá: "Bueno, las inteligencias artificiales son buenas en matemáticas y resuelven problemas". Así que ahora estamos diciendo que las inteligencias artificiales son muy buenas tomando un *prompt*, un problema que le das, y diciendo: "Por favor, cuando tengas este conjunto de datos, ayúdame a interrogarlo y dame los resultados". Y con lo que estoy jugando ahora mismo es tratando de interactuar positivamente con la gente sobre lo que entendemos por inteligencia. La inteligencia es algo muy interesante, y lo que te diré es que todavía no sabemos cómo definirla o medirla. Estoy trabajando en un problema, un problema en la sombra para el cual no estoy cualificado o quizás esté singularmente cualificado al final, que intentará medirla. Y me inspira mucho volver a mirar en la ciencia los problemas y las discontinuidades en los problemas. El que realmente me gusta es el concepto de temperatura.

Lo que los LLMs revelan sobre la cognición humana

Lee Cronin: Sabíamos en el pasado... o la gravedad, pero tomemos la temperatura. Sabíamos que las cosas estaban calientes y frías, pero ¿qué es eso? "Oh, eso está caliente. Oh, eso está frío". Realmente no sabíamos cómo medir la temperatura. Sabíamos que algunas cosas estaban calientes y otras frías. No fue hasta que los científicos y tecnólogos dijeron: "Muy bien, ¿qué necesitamos poder hacer? Necesitamos medir la temperatura". ¿Cómo mides la temperatura hoy en día? Bueno, en los viejos tiempos tenías un termómetro. El termómetro podía tener varios líquidos diferentes en su interior. Quieres un líquido que, a medida que suba la temperatura, se expanda y con suerte tenga una relación más o menos lineal, ya sea mercurio o alcohol. Así que para esa expansión, volvamos atrás: primero sabíamos que las cosas estaban calientes y frías, pero no teníamos una escala. ¿Cómo conseguimos una escala? Bueno, nos dimos cuenta de que los líquidos se expanden cuando se calientan y se contraen cuando se enfrían. Genial. Así que construyamos un sistema mediante el cual podamos medir la expansión del líquido. ¿Qué tecnología se requiere? Bueno, necesitamos vidrio. ¿Y qué propiedad necesitamos de ese vidrio? Necesitamos que el vidrio sea uniforme, porque si lo hacías grueso y delgado y ensanchándose, tal vez con forma de triángulo, eso no iba a funcionar muy bien. Así que necesitabas hacer un tubo realmente bonito donde los lados del tubo fueran paralelos, fuera un cilindro perfecto, o tan perfecto como se pudiera conseguir. Bueno, en tiempos anteriores, algunos sopladores de vidrio en Italia perfeccionaron cómo soplar tubos de vidrio. De repente, soplaban los tubos de vidrio y luego ponías el alcohol dentro. Podías ir por ahí y medir la temperatura en todas partes. De repente: "Oh, aquí se siente frío, iremos a la Antártida a esta temperatura". Y por supuesto, los estadounidenses: vamos a usar Fahrenheit. No sé de dónde sacaron ustedes los Fahrenheit.

Anfitrión: Me gusta mucho más Fahrenheit. Tiene más unidades. Un salto de 1 grado Celsius es un salto, pero si va de 82 a 83, sigo vistiendo la misma ropa.

Lee Cronin: Te equivocaste en eso, asume la derrota (*take the L*), por favor. Bueno, hay esta escala de temperatura llamada escala absoluta, la escala Kelvin. Así que 1 grado Kelvin es lo mismo que 1 grado C, solo que baja hasta menos 273 y pico. Eso significa que 0 Kelvin es la temperatura más baja que puedes alcanzar. No puedes estar más frío que 0 K. De hecho, no puedes alcanzar 0 K en ningún lugar de la Tierra. Hemos construido algunos sistemas muy buenos que casi pueden llegar al cero absoluto, y lo que eso significaría es que las moléculas en el cero absoluto no harían nada. Ni siquiera vibrarían, simplemente estarían estacionarias. Pero en fin, lo brillante de la temperatura: se construyó tecnología para medirla. Sabíamos que las cosas estaban calientes y frías antes, pero no sabíamos muy bien qué significaba. Ahora, con la inteligencia, el problema es la cognición humana, la psicología, las pruebas de CI y todo eso. Y tenemos gente que dice: "Bueno, esta inteligencia artificial podrá resolver cualquier problema humano". Están malinterpretando qué es la inteligencia. Darle a un algoritmo una serie de consultas para resolver un examen de matemáticas no es lo mismo que un humano resolviendo un problema nunca antes visto (*unseen problem*). Y la inteligencia es en realidad la capacidad de resolver un problema nunca antes visto. Lo no visto es difícil, ¿verdad? Porque si no está en mi entrenamiento, no puedo resolverlo. Pero cuando realmente tengo el problema y lo he resuelto, puedo entrenar sobre él.

Anfitrión: ¿Estoy simplificando demasiado esto si lo meto en el saco de casi lo que estás diciendo es la lógica versus la capacidad de ser creativo?

Lee Cronin: Las computadoras son bastante buenas usando la lógica si las codificas adecuadamente. Hay buenos lenguajes de programación para hacerlo y pueden hacer muchas cosas. No, lo que estoy diciendo es algo súper concreto: que la inteligencia es algo que aún no sabemos cómo definir ni medir. Y creo que como un pequeño pasatiempo, porque básicamente estoy aburrido y no tengo suficiente trabajo...

Anfitrión: Estás aburrido.

Lee Cronin: Estoy lejos de estar aburrido y estoy demasiado ocupado. Pero alguien tiene que intentarlo.

Anfitrión: Chicos, si no se han suscripto todavía, por favor denle al botón de suscripción. Es una ayuda enorme, enorme. Gracias.

Lee Cronin: Y por supuesto, no estoy cualificado, así que tal vez eso haga que... casi lo he terminado, así que no es tan difícil.

Anfitrión: Sí, estás tan ocupado que no te cambias de ropa.

Lee Cronin: Tengo 12 camisas rosas diferentes en rotación hoy.

Anfitrión: Muy bien, voy a necesitar ver alguna prueba de eso, porque esa parece la misma camisa que la última vez.

Lee Cronin: Probablemente. Puedes comprobarlo. Tal vez la otra era de cuello ancho; estas son de cuello más estrecho. Lo bueno es que no tengo carga cognitiva. Cuando me visto, es simplemente rosa. Pero podría ser como Mark Zuckerberg y usar solo gris, creo.

Anfitrión: ¿No está como renovado con la moda ahora? Siempre lleva diferentes cadenas y...

Lee Cronin: No lo sé, yo no soy multimillonario. Solo una persona pobre.

Anfitrión: Oye, acabas de recaudar como 70 millones de dólares, no me vengas con eso.

Lee Cronin: Claro, pero los recaudé para cambiar el mundo en la química, no para arreglar mi armario. Eso es correcto. Pero volvamos a la medición de la inteligencia, porque quiero detenerme en ello. Puedes medir la temperatura y por lo tanto podemos tener una escala. Llegamos ahí. No sabemos qué es la inteligencia. Tenemos el problema del CI, también tenemos el problema racial que va de la mano y que está ahí, y también el problema de la genética, lo cual fue un poco una locura porque los psicólogos y los psicólogos cognitivos se confundieron. Pero luego tenemos a gente que confunde el hecho de que la inteligencia artificial se esté volviendo buena en cosas con que sea inteligente. Y entonces Elon sigue diciendo: "Oh, la inteligencia artificial, Grok, va a tener nivel de doctorado en todas estas materias ahora mismo, y por lo tanto ya no habrá más doctorados". Y eso es un fallo tan fundamental.

¿Por qué? Porque un doctorado... déjame explicar cómo funcionan las inteligencias artificiales ahora mismo, y voy a convencerte y, con suerte por extensión, a cualquiera que escuche o vea esto. Las inteligencias artificiales de hoy hacen lo siguiente: obtienes una gran cantidad de datos. Tomas esos datos y entrenas un modelo. Ese modelo podrá decirte qué hay en esos datos y encontrar relaciones en ellos. Genial. Si todos los problemas resueltos en el pasado están capturados en ese conjunto de datos, cuando le das a la inteligencia artificial un problema que se ha resuelto en el pasado, puede resolverlo. Eso no es inteligencia; eso es una recuperación y retención increíbles.

Anfitrión: Exactamente.

Lee Cronin: Y a veces las inteligencias artificiales no son tan buenas en eso porque alucinan. Debido a la forma en que funcionan las estructuras de algunos de estos modelos, alucinan. Y lo que ocurre es que, como tienen que devolverte un resultado, los principales proveedores de inteligencia artificial son muy buenos teniendo un sistema de verificación. Dirán que saldrá una respuesta y la comprobaremos. Vas a ChatGPT y le pides que haga un cálculo. Solía simplemente recuperarlo usando el modelo, pero por supuesto el modelo no acertaba porque los datos de entrenamiento en internet fueron puestos allí por humanos, por lo que simplemente te devolvía un número aleatorio. Pero ahora dice: "Oh, reconozco esto como un cálculo. Déjame abrir mi herramienta de calculadora, presionar los botones de la calculadora y obtener el número de vuelta". Las inteligencias artificiales están entrenadas con esta enorme cantidad de datos, y todos los problemas que hemos resuelto hasta ahora en la humanidad están ahí. Potencialmente eso es increíble. Pero un científico con doctorado, un matemático, no se trata de entender el pasado —están entrenados en eso—, sino de usar el método científico para resolver problemas. Así que cada vez que le das un problema nuevo que no está en el conjunto de datos a la inteligencia artificial, no puede resolverlo.

Anfitrión: ¿Pero y si tiene suficientes datos y suficiente retención de todas las cosas del mundo al mismo tiempo que un humano no puede retener, de modo que pueda encontrar anomalías o agujeros o algo para solucionarlo de una manera más rápida de lo que un humano podría? ¿Cómo no va a ser eso inteligente?

Lee Cronin: De nuevo, tenemos que definir la inteligencia. Yo llamaría a eso muy útil. Mi calculadora es muy útil. Se han construido muchas herramientas que son útiles y que me permiten a mí, como entidad con derechos humanos, hacer cosas. Pero Einstein con un lápiz era mucho más inteligente que Einstein sin un lápiz, porque podía usar el lápiz y el papel para pensar. Es casi como algo cibernético. Así que nos quedamos atrapados en estos argumentos circulares: ¿son inteligentes las inteligencias artificiales, tienen libre albedrío y son sintientes? Las entidades inteligentes pueden resolver problemas y quieren persistir en el tiempo; eso se llama biología. Diría que la inteligencia es una propiedad absolutamente reservada para los organismos biológicos. Ahora mismo, ¿qué son las inteligencias artificiales? Podríamos llamarlas tal vez informática aumentada. Esa sería la palabra.

Anfitrión: Informática aumentada. Es mucho decir, Lee.

Lee Cronin: Lo sé, no suena tan bien como inteligencia artificial, ¿verdad? Inteligencia artificial suena genial. Las inteligencias artificiales no son magia. Son modelos increíbles. De hecho, están revelando cosas sobre el lenguaje humano y la cognición que no esperábamos. Si entrenas a una inteligencia artificial en un idioma determinado y luego la entrenas en otro idioma, y observas las representaciones de esas entidades —digamos rey o reina, o ladrillo sobre cemento—, ocupan un espacio que es prelingüístico, es decir, conceptual. Hay una representación matemática más allá del lenguaje en un espacio, lo cual es muy interesante, pero no tan sorprendente porque los humanos usan el lenguaje para representar conceptos. Así que si tomo el español y destilo el español para encontrar el amor y el odio, lo caliente y lo frío, arriba y abajo, y los represento en algún espacio, y hago lo mismo en inglés, y los superpones, están muy cerca. Por eso las herramientas de traducción de inteligencia artificial son asombrosas.

Anfitrión: Sí.

Lee Cronin: Aprendí alemán; ya no soy muy bueno en eso, pero hay una gran palabra en alemán llamada *gemütlich*.

Anfitrión: *Gemütlich*.

Lee Cronin: *Gemütlich*, que se traduce libremente como acogedor (*cozy*). Entras en un pub en el Reino Unido y es una noche de invierno ventosa y hace frío afuera y hay una bonita chimenea y cerveza, y dices: "Oh, eso es acogedor. Lindo". Los alemanes lo tienen, pero no se traduce del todo. Es un tipo de palabra diferente. Así que hay representaciones culturales. Los inuit tienen muchas porque los inuit tienen que vivir mucho en el frío. Pero volvamos otra vez: ¿qué es la inteligencia? No lo sabemos. ¿Podemos medirla? No tenemos una medición. Sabemos qué es la temperatura. Estas herramientas de inteligencia artificial son capaces de hacer cosas muy importantes y muy interesantes; pueden automatizar muchas tareas.

La inteligencia artificial predice, los humanos CREAN

Lee Cronin: Pero voy a hacer una afirmación y seguiré volviendo a ella: la inteligencia artificial solo sabe aquello para lo que ha sido entrenada. Y si algo está incrustado en esos datos y lo consultas correctamente, puedes extraerlo, lo cual es genial. Y las inteligencias artificiales están demostrando que hay una enorme cantidad de conocimiento que no hemos encontrado explícitamente en internet dentro del conocimiento humano y que podemos extraer.

Anfitrión: ¿Pero no puede usar la forma en que los humanos consultan y razonan a lo largo del tiempo para armar patrones y poder predecir cómo van a consultar en el futuro y potencialmente adelantarse a los humanos antes de que podamos llegar allí?

Lee Cronin: No entiendo esa afirmación de adelantarse a los humanos.

Anfitrión: Porque si pueden crear patrones de todo... déjame dar un ejemplo porque es un poco complejo. Si estoy hablando con una inteligencia artificial y otras 100 personas de la población están hablando con una inteligencia artificial, y todos estamos intentando averiguar algo sobre pintura, y hacemos todas estas preguntas sobre diferentes colores y cómo pintamos una habitación o lo que sea, la forma en que hago preguntas es una serie de consultas. Incluso si es muy similar a la siguiente persona, la redacción puede ser diferente o algo específico que me interese puede ser diferente. Pero la inteligencia artificial está recopilando en volumen y a escala todas estas formas diferentes de hacer consultas, por lo que la inteligencia artificial puede usar toda su tecnología computacional para crear patrones de lo que todos están diciendo y poder predecir cuáles podrían ser las preguntas óptimas en realidad. Así que de esa manera, como yo lo veo, podría estar adelantándose a los humanos... ir un paso por delante (*front-running*) quizás sea una mejor manera de decirlo.

Lee Cronin: No, eso no es lo que está pasando.

Anfitrión: Gracias por aclarar eso.

Lee Cronin: Hay una falacia aquí que es súper interesante, y de nuevo, estoy muy feliz de estar equivocado en esto, pero quiero abordarlo con datos. Las inteligencias artificiales son máquinas de predicción; los humanos son máquinas de creación. Cuando las creaciones son un tanto superficiales, la inteligencia artificial es genial encontrándolas. Si tomas todos estos problemas de Erdős o las formas en que las inteligencias artificiales están resolviendo matemáticas, desmintiendo ciertas conjeturas, las inteligencias artificiales son muy buenas desmintiendo cosas al encontrar un contraejemplo. ¡Pero una inteligencia artificial no ha creado ni un solo acto matemático creativo! No ha creado ni un solo acto científico creativo. Ahora bien, la gente discutirá sobre esto. De hecho, quiero detener esta discusión porque está oscureciendo en qué son buenas las inteligencias artificiales. En el último año y medio, las inteligencias artificiales han potenciado enormemente mi capacidad para ser creativo, porque no tengo que pasar mi tiempo escribiendo código, recopilando datos y procesando cosas. Las inteligencias artificiales son espléndidas en eso. Son realmente geniales, pero lo que no pueden hacer es crear. Pueden parecer que crean, y esas creaciones son relativamente superficiales.

Mediría la inteligencia por la capacidad de resolver problemas que nunca antes se habían visto (*unseen*). Las inteligencias artificiales son capaces de resolver problemas que se han visto o están incrustados en sus datos. Las inteligencias artificiales pueden hacer cosas nuevas (*new*), sí, pero no pueden hacer cosas novedosas (*novel*). Y entonces la pregunta es, ¿cuál es la diferencia entre novedoso y nuevo? Nuevo es algo que puedes obtener de tu conjunto de datos; es solo una combinación de cosas, es bastante superficial. Puedes buscar algo nuevo en tu conjunto de datos y encontrarlo al final. Así que cuando la inteligencia artificial hace algo y dices: "Oh, eso es emocionante", puedes ver que es simplemente nuevo y está enteramente incrustado en esos datos. Los humanos son capaces de hacer algo que yo llamo novedoso (*novel*), y la novedad se define por aquello que en principio no es previsible ni está incrustado en los datos. La moda y la música son puramente humanas. No vas a saber qué van a hacer los humanos. Podrías invitarme de nuevo a tu podcast un día, y podría volver vistiendo un color que no anticipabas. ¿Eso es nuevo o novedoso?

Anfitrión: Bueno, es novedoso porque en los datos anteriores solo llevas puesto rosa.

Lee Cronin: Exacto, la inteligencia artificial simplemente me va a generar con este traje. Así que cuando entre vistiendo turquesa o cualquier otra cosa, dirías que eso es novedoso. Pero hay cierta cantidad de engaño comercial aquí porque estamos intentando vender la inteligencia artificial como algo inteligente, que va a reemplazar a los doctorados, a reemplazar esto otro.

Anfitrión: Mjum.

Lee Cronin: Los seres humanos van a usar las inteligencias artificiales para flexibilizar masivamente sus capacidades cognitivas, no para reemplazarlas. Aquí es donde todo el mundo se está equivocando. ¿Las inteligencias artificiales van a reemplazar a la ciencia? No, no lo van a hacer, porque la ciencia trata sobre la resolución de problemas.

Anfitrión: Bueno, de hecho acabas de hacer un punto hace un par de minutos, y no puedo creer que nunca lo hubiera visto de una manera tan simple. Es como el punto más obvio visto a 30.000 pies de altura. Hemos estado hablando extensamente sobre esta crisis de la inteligencia artificial durante la última década, pero particularmente en los últimos tres años donde todo el mundo la está usando en LLMs. Pero todavía no han creado su propia ecuación E=mc² ni nada por el estilo, lo cual apoya tu punto de vista. No han descubierto las leyes de la física cuántica —estoy inventando cosas ahora mismo—, pero estas cosas que los científicos intentan probar constantemente todos los días. Por lo tanto, no solo no han reemplazado a los tipos de más alto nivel como tú, sino que técnicamente no han reemplazado a la ciencia de ninguna manera hasta este momento.

Lee Cronin: La gente ha usado la inteligencia artificial para idear muy buenas ideas nuevas para fabricar nuevos fármacos, plegar proteínas, resolver algunos problemas de física, pero estos problemas ya están bien definidos por el humano para el procesamiento de datos. Así que las inteligencias artificiales son una gran herramienta. Son una herramienta. Hay algo muy interesante a nivel sociológico y cultural ocurriendo. Tenemos este problema ahora mismo en el que la gente dice que los laboratorios de inteligencia artificial necesitan mucho dinero, necesitan mucha infraestructura, necesitan mucha energía. Y en el ámbito académico hay un impulso político en contra de la academia: la academia está llena de gente de izquierda que no piensa críticamente y que son todos *woke* y demás, por lo tanto, reemplacemos toda la academia con inteligencias artificiales para hacer ciencia. Eso es un fracaso absoluto a todos los niveles. Claro, la academia tiene problemas, las ideologías están en todas partes. Pero dado que los creadores de inteligencia artificial no saben qué es la ciencia —simplemente no lo saben, ahora están poblados por científicos informáticos y matemáticos—. Y esto no es para ponerme elitista; resolver problemas científicos en un laboratorio húmedo (*wet laboratory*), ya sea un laboratorio de biología, química, física o ingeniería mecánica, es algo muy visceral y requiere creación. Como el regulador (*governor*) en una máquina de vapor: alguien dice: "Sí, necesito asegurarme de que la caldera no explote, así que tengo que construir cosas". Interactuamos con el mundo.

Ahora bien, estoy construyendo un modelo del mundo (*world model*) para la química. ¿Qué significa eso? Bueno, simplemente estoy aprendiendo todas las reacciones químicas haciéndolas, y una vez que las haya aprendido, podré fabricar cualquier molécula. Eso mola bastante, pero no hay magia. Tengo que recopilar los datos, tengo que tener un proceso verificable y luego tengo que poder ejecutarlo. La ciencia nunca ha estado en un momento tan emocionante. Es solo una pena que tengamos esta guerra cultural ocurriendo al mismo tiempo, porque tenemos que tomar una decisión: ¿queremos gastar todo este dinero en GPUs, CPUs, agua, energía, lo que sea, para procesar datos y ofrecer productos a la gente, o quieres gastar el dinero en humanos haciendo eso también? ¿Cuánto cuesta producir un humano que pueda resolver un problema para el cual puedes usar ChatGPT? No hay magia. Si quiero reemplazar a un humano con ChatGPT, puedo, pero ¿cuál es el costo? Y tengo al humano ahí fuera que ahora se ha quedado sin trabajo. Tal vez el humano haga algo más interesante. Todavía no sabemos qué es la inteligencia; no la hemos medido. Estamos usando inteligencias artificiales para hacer cosas muy importantes e interesantes a escala y velocidad, pero eso no disminuye al humano.

Anfitrión: Dijiste al principio de cuando estabas explicando esto con el bucle de inteligencia, que hay tres capas: a menudo hablamos de inteligencia, inteligencia general y luego superinteligencia. Así que si te estoy entendiendo bien, debido a que ni siquiera podemos medir la capa inferior, estás diciendo que hay como 10 saltos y un trecho para llegar a las siguientes capas, obviamente.

Lee Cronin: Sí, creo que los proveedores de inteligencia artificial —y de hecho me gustan los productos, son geniales—...

Anfitrión: No sé qué decir de tus gafas, por cierto. Estaban haciendo algunos cálculos antes. Quizás quieras revisar esas cosas.

Lee Cronin: No estoy haciendo ninguna promoción de productos en tu podcast. No son gafas de Meta.

Anfitrión: Sí, pero Meta podría haber acertado con eso, no es que esté intentando hacerles publicidad encubierta (*shill*).

Lee Cronin: No, funcionaban, solo que... en fin. Volvamos atrás. AGI: mucha gente dirá que la AGI es el término que le daríamos a algo que puede automatizar la mayoría de las tareas. Ahora bien, ¿es eso AGI, inteligencia general artificial, o es simplemente un automatizador general artificial?

Por qué la AGI no es realmente inteligente

Lee Cronin: Sería genial si tuviera una inteligencia artificial que pudiera limpiar mi correo electrónico. De hecho, uso una inteligencia artificial para limpiar mis correos electrónicos; uso una que tiene unos 8 años de antigüedad. Lo que hago es que soy un limpiador obsesivo de correos. Contesto todos los correos que quiero contestar y archivo todo. Cuando llega material nuevo, no se pierde en el ruido. Recibo tantos correos electrónicos todos los días que me parece increíblemente deprimente porque pierdo cosas en el ruido que necesito responder. Tengo un ancho de banda cognitivo muy limitado. Así que una inteligencia general artificial de la que hablan los laboratorios de vanguardia es literalmente una entidad que podría hacer un montón de tareas. ¿Resuelve problemas generales? No, los humanos son buenos en esto. Y tal vez hay algunos trabajos que los humanos tienen que son de archivo, pero nuestro fallo en la sociedad humana ahora mismo a medida que la gente pasa de la escuela a la universidad o a un trabajo es que tal vez necesitamos generar trabajos que tengan más valor y significado. Podemos hacerlo, y la inteligencia artificial ofrece una gran oportunidad para ello.

Ahora vayamos a la superinteligencia. Nick Bostrom inventó este término.

Anfitrión: Sí, dejamos esto de lado la última vez, no profundizamos en ello. Me he leído todo ese libro.

Lee Cronin: Significa simplemente inventarse cosas, ¿no? Si no puedes definir una cosa y dices que es "súper", quiero decir, yo podría ser un súper químico, ¿qué significa eso? Una superinteligencia para mí estaría de algún modo más allá de nuestra comprensión actual de la física y las matemáticas, como la magia. De nuevo, la superinteligencia juega con este tipo de idea: "Oh, podría haber esta entidad que es mucho más inteligente que yo, que sabe más". ¿Qué significa eso? Los seres humanos son capaces de aprender cómo funciona el universo; somos capaces de entender mucho más de lo que quizás la evolución nos ha equipado para hacer, al parecer. Ahora bien, lo que dicen los alarmistas es que esta superinteligencia podría entender cómo hacer cosas que básicamente podrían acabar con la humanidad o construir un super-dúper arma o algo así. Bueno, no entiendo la evidencia de eso. Y por eso lo que intento hacer es desinflar el término superinteligencia, porque no sé qué significa.

Ahora bien, podría significar... déjame arriesgarme con tres cosas diferentes: podría ser simplemente una forma más rápida de pensar. Claro, las computadoras de ajedrez pueden jugar al ajedrez muy rápido, así que puedo comprar eso, pero ¿por qué llamarlo "súper", simplemente "rápido"? Podría ser que sea capaz de recorrer algún tipo de cadena de razonamiento sobre la teoría de decisiones, y si planto estas semillas en estas decisiones puedo básicamente crear una disrupción, como podría perturbar un mercado plantando un meme por aquí, por allá, y todos compran sus acciones de cierta manera. Podría hacer eso, pero el mercado es tan ruidoso y los humanos son tan buenos haciendo cosas extrañas, que eso se va a diluir. Y la otra cosa es que tal vez de repente pueda idear algo completamente nuevo que no tenga precedentes. Bueno, nunca hemos visto eso. Acabas de decir que no hay ecuación E=mc².

El problema está dentro de la inteligencia artificial, imaginemos que volvemos a la época de Einstein. Con la relatividad especial, Einstein básicamente se hizo la pregunta: ¿qué pasa cuando me siento en un rayo de luz? Empezó a darse cuenta de que la velocidad de la luz era el límite de velocidad más rápido del universo, no puedes ir más rápido que la luz. ¿Qué pasa entonces en la relatividad general? Einstein dijo que la masa curva el espacio-tiempo, y las cosas no toman una línea recta, sino que pasan a través de un espacio-tiempo curvado. Guay. Así que de repente, cuando usas la relatividad general, eres capaz de pensar: si disparo un satélite al espacio, cuanto más se aleja el satélite de la Tierra, mayor es la desviación en el tiempo en el reloj atómico del satélite frente al reloj atómico en la Tierra. Y de hecho, si el satélite emite un pulso con su reloj, y lo mido y lo comparo con mi reloj en la Tierra, puedo usar eso para posicionarme usando el GPS, ¿verdad? Entendíamos la relatividad general antes de poner satélites en el espacio, y cuando pusimos satélites en el espacio entendimos el arrastre de marcos (*frame dragging*) y pudimos construir el GPS. Retengamos ese pensamiento. Hemos construido estos sistemas que básicamente pueden seguir destilando datos y encontrando relaciones, y estamos asignando una propiedad a esas relaciones que no entendemos porque no hemos entendido la teoría fundamental de la inteligencia. Del mismo modo, imagina que pusiéramos satélites en el espacio sin la relatividad general; nos quedaríamos planchados diciendo: "Qué diablos, están perdiendo el tiempo", y nos habríamos inventado todo tipo de cosas solo para entender eso. Así que los laboratorios de vanguardia han llegado a algunos sistemas increíblemente capaces que parecen razonar y hacer cosas que no anticipábamos antes, y eso es porque no tenemos una buena teoría de la inteligencia.

Anfitrión: Me gusta la premisa de que ya tienes algo definido para poder medirlo una vez que lo pones a prueba, como Einstein y la prueba de los satélites con el GPS. Si vuelvo a lo que hizo Bostrom bastante temprano aquí, teniendo en cuenta lo temprano que escribió ese libro en nuestra cronología reciente de la inteligencia artificial, la forma en que siempre lo vi fue que creó un montón de árboles de decisión. Creó posibilidades. Y creo que compro tu argumento de que no había una definición subyacente en eso, pero sus árboles de decisión señalaban en una escala desde que las cosas podían estar bien hasta que estábamos condenados. Señalaba: si esto, entonces aquello; si aquello, entonces esto; y creó todos estos mundos diferentes donde podías ver el código descontrolándose, donde algunas cosas que describió... ni siquiera haría el salto de decir que esta inteligencia artificial se volvió sintiente, solo digo que fue programada para hacer algo, con el error de un ser humano. Y un ejemplo era que podía sobreproducir clips de papel y cubrir toda la superficie de la Tierra con clips de papel y ahogarnos. Veo cosas así, suena loco, pero al mismo tiempo podría ver ese tipo de situación sucediendo si —y esto iría en la línea de tu argumento— los seres humanos no son responsables de cómo crean el código. Entonces, ¿crees que es inútil si está señalando cosas donde cometemos errores y luego la inteligencia artificial hace cosas que acaban con nosotros?

Lee Cronin: La inteligencia artificial no va a hacer nada. La inteligencia artificial está programada por humanos. Todas las decisiones provienen del humano. Esto es algo que la gente no entiende. Y esta es una de las razones por las que creo que es bastante fascinante. Mi investigación, por qué he construido una empresa para hacer un modelo del mundo para la química y descubrir fármacos y cosas nuevas, por qué básicamente estoy construyendo motores para la química, es porque quiero entender la transición que hacemos de la física a la química, a la biología, a la cognición o la cultura. ¿Qué está pasando ahí? Realmente no lo entendemos. Y el problema que tengo con la superinteligencia es que requiere un mecanismo que no existe. Dices que puedes ver el salto: si esta cosa, entonces aquella otra cosa. De acuerdo, déjame decir que tengo miedo de la antigravedad, AG. ¿Qué es la AG? Bueno, la antigravedad es una cosa que sucede cuando construyo una nueva tecnología y de repente desactiva la gravedad y todos salimos flotando y todos morimos, porque ya no estamos atrapados en el planeta, no tenemos aire, nada. ¿Debería escribir un libro sobre superantigravedad que podría aparecer un día? Claro, podría contarte un árbol de decisión: si antigravedad, entonces flotar. ¿Pero cuál es el mecanismo para la antigravedad? Me acabo de inventar algo. A menos que puedas definir algo y entender el mecanismo... clips de papel, ¡qué tontería! Si vuelas en un avión por encima del mundo, la mayor parte del mundo no está cubierta de máquinas; es espacio vacío, campos, árboles, océanos. ¿A qué te refieres con clips de papel?

Anfitrión: Estaba usando un ejemplo ridículo de algo.

Lee Cronin: Sí, pero es totalmente ridículo. No tiene mérito científico, está desconectado de la realidad. Es una tontería fantasiosa, y es ciencia ficción en el peor sentido porque lo plantea de manera plausible y tranquila. Todos los pensadores, Nick, todos nosotros, tenemos el deber de criticar nuestras propias ideas. No entendemos qué son la consciencia humana, la sintiencia, la toma de decisiones. El hecho de que la gente empiece a decir en unos años que la inteligencia artificial debería poseer su propia propiedad intelectual es solo una excusa para las personas que básicamente quieren tomar tu propiedad intelectual, alimentarla a un modelo de inteligencia artificial y luego —siendo realmente maleducado al respecto— decir: "Ah, sí, gracias, compañía equis, por leer internet y robar mi propiedad intelectual y entrenar un modelo y luego vender mi propiedad intelectual de vuelta a otras personas". Y luego tienes a los defensores de la inteligencia artificial diciendo: "Simplemente no puedes aceptar que la inteligencia artificial es inteligente". Y yo digo: "No, simplemente me robó la propiedad intelectual, ¿verdad? Literalmente acaba de robar mi creación. ¿Les robará su casa? ¿Está bien porque la inteligencia artificial lo dijo?". No. Hay tres cosas: no entendemos qué es la inteligencia, no entendemos qué es la creatividad y no entendemos qué es la novedad. El hecho de que no entendamos esas tres cosas y las usemos todas indistintamente... creo que puedo explicar cómo funciona.

La canción de Drake/The Weeknd hecha por IA y el plagio

Lee Cronin: La razón por la cual todo parece computable es que una vez que algo es creado por el mundo, puedo etiquetarlo y ponerlo en una base de datos. Puedo descomponerlo, pero eso no significa que pueda predecir el futuro fielmente. Puedo predecir el siguiente *token*. Y a veces, si el espacio de búsqueda es lo suficientemente superficial, parecerá aceptable para alguna evaluación. Pero lo que vamos a ver es que lo que los humanos están haciendo es cuantitativamente diferente. Están en un universo diferente a lo que estamos haciendo con la computación de silicio, lo cual es genial. De nuevo, no creo que haya algo más allá de la materia; soy materialista. Pero al igual que Roger Penrose, y creo que mi colaboradora Sara Walker y muchos otros, no sabemos qué está haciendo esa materia.

Anfitrión: ¿Puedes explayarte sobre eso? Como cuando dices que no sabemos qué está haciendo.

Lee Cronin: Sí, no entiendo cómo la materia es capaz de procesar información en el espacio y el tiempo. Tenemos algunos modelos, pero hay tanto que no entendemos sobre cómo la biología es creada por la química, cómo la evolución produce la biología y cómo la biología produce luego la consciencia y la inteligencia. Simplemente no lo sabemos. Estamos en un momento realmente maravilloso en el que tenemos todas estas herramientas y datos, pero la inteligencia artificial es realmente buena prediciendo el pasado. Volveré a decir eso: la inteligencia artificial es la mejor prediciendo el pasado porque tiene el pasado. Déjame matizar: la inteligencia artificial es muy buena prediciendo el pasado cuando puede entrenarse con una representación fiel del pasado. Lo que no puede hacer es predecir el futuro, porque el futuro es algo diferente. El pasado es un espacio de probabilidad; lo que ha sucedido, puedes mirar las probabilidades allí. El futuro es un espacio de posibilidad. Hasta que la gente entienda la diferencia entre esas dos cosas, seguiremos confundiéndolo.

Anfitrión: ¿Cómo defines la diferencia?

Lee Cronin: Un espacio de posibilidad es algo que aún no ha sucedido. Un espacio de probabilidad es algo que ya ha sucedido, porque no puedo definir una probabilidad sobre algo que aún no ha sucedido. ¿Qué quiero decir? Si tomo un dado y lo lanzo, sé que voy a sacar del 1 al 6. Sé que ha sucedido antes, puedo entrenar mi propio modelo al respecto. Pero podría crear un dado en papel que no puedes anticipar, y por lo tanto es una posibilidad, no una probabilidad. Hasta que entendamos la sutil diferencia entre esas dos cosas, vamos a malinterpretar continuamente lo que las inteligencias artificiales están haciendo en realidad. Hay muchos intereses creados y mucho dinero intentando apuntalar estos modelos. Pero por esta razón la inteligencia artificial nunca podrá hacer ciencia. La inteligencia artificial es una herramienta que puedo usar para hacer ciencia.

Anfitrión: Sí, no es un cohete; es combustible para cohetes extra bueno.

Lee Cronin: El 99% de los científicos discutirán conmigo y dirán que la inteligencia artificial sí hace ciencia, pero simplemente no entienden qué es la ciencia. La ciencia es la capacidad de identificar un problema y luego crear una hipótesis sobre lo que está pasando, y luego crear un experimento para probarla. En lo que las inteligencias artificiales son muy buenas es en ejecutar experimentos. Pero todo lo que hacen los doctorados es ensamblar planteamientos de problemas. Por eso hacer un doctorado es tan molesto. Algunos de mis estudiantes de doctorado dicen: "¿Por qué me haces pensar de esta forma tan loca?". Pero es muy difícil identificar un problema o una anomalía. Mucha gente piensa que las inteligencias artificiales pueden hacer esto. No pueden. Las inteligencias artificiales están haciendo algo muy superficial. Pueden identificar anomalías mirando grandes conjuntos de datos y encontrando un agujero, pero eso no es lo mismo.

Anfitrión: ¿Cómo no va a ser lo mismo?

Lee Cronin: Una cosa es la inversa de la otra. Puedes usar la inteligencia artificial para decir: toma estos datos donde ya he definido el experimento y encuentra una anomalía dentro de ese experimento. Eso es genial, pero ya he definido el experimento. Lo que la inteligencia artificial no puede hacer es definir un conjunto completamente nuevo de experimentos. Siempre definirán experimentos basados en lo que saben. Las inteligencias artificiales haciendo ciencia son un gran engaño. El otro día usé una inteligencia artificial para escribir una simulación del origen de la vida usando la teoría del ensamblaje. Le dije: "Oye, esto es lo que quiero que hagas: aquí tienes mi calculador de la teoría del ensamblaje para moléculas, generemos un montón de moléculas aleatorias y unámoslas". Y básicamente hace un trabajo bastante bueno. Utiliza algunos kits de herramientas de GitHub, los junta con el código y genera un simulador. Pero estaba generando moléculas aleatorias que eran una auténtica locura y nada estables, y le dije: "No, no hagas eso, elimina eso, elimina esto otro", añadiendo restricciones. Lo curé a mi gusto.

Anfitrión: Claro, tuviste que arreglarlo.

Lee Cronin: ¡Era mi gusto, verdad? Me siento como un productor musical: "Eso no sonó muy bien, voy a cambiarlo". Gran parte de la parte técnica de la ciencia la inteligencia artificial la reemplazará, y necesitamos entrenar a la gente para que use esas herramientas. Pero no debemos usar la inteligencia artificial simplemente para hacer ciencia aburrida y fingir que hacemos ciencia. Cuando la inteligencia artificial empiece a producir nuevas teorías, a explicar la gravedad cuántica o a idear algo que nunca podríamos concebir, estaré atento a eso. A fecha de hoy, agosto de 2026, las computadoras basadas en silicio tal como las conocemos no son capaces de crear novedad. Eso no significa que no vayamos a crear una máquina capaz de ir más allá de la computación tal como la conocemos.

Anfitrión: ¿Estás diciendo entonces que podríamos crear algo que ahora mismo no es algo que estemos etiquetando como inteligencia artificial de manera efectiva?

Lee Cronin: Seguro. Si quieres construir un cerebro, está la forma anticuada de hacerlo: he creado dos cerebros, uno tiene 20 y el otro cumple 18 esta semana, mis dos chicos. Y también fueron creados por la evolución darwiniana remontándose a LUCA (*último antepasado común universal*). Necesito crear vida en un laboratorio antes de poder entender la consciencia. Probablemente no haya otra forma de llegar ahí. Estamos dando un salto masivo, y quizás estemos entrando en una nueva edad oscura de la ciencia, como la Edad Media, donde la ciencia creativa se estancará porque la militarización de la ciencia para producir resultados y artículos se disparará por los aires. Todo el mundo usará LLMs para escribir artículos, usará LLMs para evaluar los artículos, usará LLMs para redactar solicitudes de subvención, usará LLMs para evaluar las solicitudes. ¿Y quién va a tener el criterio (*taste*)? Entonces la predicción de Bostrom sobre los clips de papel se hará realidad, pero en el mundo científico, y los clips de papel serán simplemente artículos y subvenciones.

Anfitrión: Bueno, es un poco estirar lo que él decía, pero...

Lee Cronin: ¡Es lo mismo! ¿Qué pasó con la imprenta? Todo el mundo decía que era terrible, que poner las cosas por escrito nos quitaría algo. Pero en realidad, si no fuera por nuestra capacidad de escribir, no podríamos haber creado lo que hemos creado. Así que lo que me entusiasma es lo que podremos usar las inteligencias artificiales para ayudarnos a crear.

Anfitrión: Sí, y aquí es donde pienso en el ejemplo común cuando miras la música que crea la inteligencia artificial. Hubo todo un revuelo hace año y medio cuando la inteligencia artificial hizo una canción de Drake y The Weeknd que en realidad sonaba bastante bien, y la gente decía: "¿Oh, va a ser esto un problema?". Pero no despegó. Primero, porque la gente se enteró de que era inteligencia artificial, y hubo algo en eso donde la gente pensó: "La creatividad humana no hizo esto, no puedo sentir lo mismo al respecto". Pero la otra razón es volviendo a tu punto: no hizo nada novedoso. Tomó el tipo de música que esos tipos ya habían creado, tomó ese estilo y dijo: hazlo otra vez.

Lee Cronin: Te daré una exclusiva de algo que estoy escribiendo ahora mismo. Si se me ocurre algo novedoso en este momento y digo: "Oye, aquí está esta cosa novedosa", sabemos perfectamente que podemos etiquetarlo, meterlo en una base de datos y entender el camino para llegar ahí y, por lo tanto, la probabilidad de que lleguemos ahí, porque ahora tenemos un precedente. Las inteligencias artificiales pueden combinar cosas, pero el tamaño del espacio de combinaciones para la inteligencia artificial es grande, pero no tan grande. A grandes rasgos, si un espacio es grande pero buscable, a la inteligencia artificial le va bastante bien en un espacio superficial. Lo que los humanos son capaces de hacer es sacar de la nada algo que es tan profundo que nunca podrás buscarlo con la potencia de cálculo que tienes disponible. Los humanos están surfeando en la ola de posibilidades casi infinitas. Ahí es donde reside la creatividad. Y tan pronto como encuentran algo, lo devuelven de golpe, y de repente pasan de ese borde infinito al presente finito y codificable. Las inteligencias artificiales predicen el pasado, están codificando el presente, y la interfaz entre el presente y el futuro es donde lo infinito es un sustrato continuo. Cuando algo es continuo, es infinito, y por principio no puedes saber qué va a venir. De ahí viene la creatividad. Mucha gente finge ser creativa, pero simplemente se están plagiar unos a otros. Si algo existe en la base de datos y literalmente lo juntas y lo haces pasar por tuyo... yo lo he hecho. Se me ocurren tantas ideas todo el tiempo y luego pienso: "Oh, otra persona tuvo esa idea, no fue mi idea". ¿Eso me convierte en un plagiarista? No, porque no tomé conscientemente sus cosas y pretendí que eran mías. La mayor parte de mi vida tengo ideas superficiales, soy solo un pensador superficial. Pero ocasionalmente tienes un pensamiento que es bastante novedoso. Y los humanos son bastante buenos haciendo eso: grandes artistas, músicos, gente de la moda surfeando esa frontera entre el presente y el futuro.

Anfitrión: ¿De dónde crees que vienen las ideas?

Lee Cronin: Ni idea.

Anfitrión: ¿No tienes la más remota pista?

Computación molecular y la computadora de ADN

Lee Cronin: Tengo algo que voy a proponer. Si quisiera darte una receta para tener una idea novedosa, algo creativo, lo que querrías poder hacer es dar un salto a un espacio que sea tan grande que en principio no podrías buscar en él. Y en lo que los humanos son realmente buenos es en imaginar en ese espacio. La imaginación es incomputable por principio, porque es demasiado grande para calcularla. Todo el mundo dice: "Pero eso es estúpido porque tu cerebro está imaginando". Sí, ¿qué está haciendo mi cerebro que no es computable por principio por una máquina de Turing, una máquina contadora, una máquina etiquetadora?

Anfitrión: Entonces, ¿cómo vas a construir un cerebro si realiza tareas que ni siquiera son computables? ¿Cómo puedes computar en el mundo real para construir eso?

Lee Cronin: Tomo un objeto físico e interactúo con él digitalmente. Lo conecto a una computadora digital. Y entonces el cerebro es capaz de generar imaginaciones que la computadora digital nunca podría predecir o conjurar porque el tamaño del espacio es demasiado grande. Hay algo en el cerebro polimérico que es capaz de colapsar la interfaz. Tengo una intuición de cómo podría funcionar, pero me cuesta plasmarlo en las matemáticas adecuadas.

Anfitrión: ¿Cuánto tiempo llevas trabajando en esto?

Lee Cronin: Bastante tiempo. Ha estado rondando por mi cabeza quizás durante más de 20 o 30 años.

Anfitrión: Oh, vaya.

Lee Cronin: Sí.

Anfitrión: Nos metimos en esta tangente hace un tiempo sobre la inteligencia artificial que originalmente provenía del cerebro. Y la forma en que lo estabas explicando era que después de crear 49 pocillos donde obtenías ceros y unos, encendido y apagado con todas las luces, luego estabas tomando eso y poniéndolo en geles. ¿Fue eso lo que dijiste?

Lee Cronin: Ese es el siguiente paso: construir un gel cerebral ahora mismo.

Anfitrión: ¿Podemos volver a esto y explicarlo un poco más?

Lee Cronin: Lo que intento hacer es fabricar un material donde los procesos puedan codificarse digitalmente pero luego volverse analógicos, un poco como una oscilación: encendido-apagado, encendido-apagado, tic-tac. Lo codificas digitalmente porque lo empujas con un pulso de electricidad, y luego lees lo que está pasando más tarde. Quiero entender cómo se relacionan esa codificación digital y esa lectura (*readout*), y si hay una relación compleja o lineal entre ambos. Ahora mismo, los fenómenos que estamos observando no los entiendo, y exaspero a muchos informáticos haciendo lo que llamamos computación molecular.

Anfitrión: ¿Qué es eso?

Lee Cronin: Estan usando ADN. El ADN tiene cuatro pares de bases, y pueden conectar esos pares de bases a una computación. Pueden hacer una máquina de Turing, básicamente una computadora digital, y hacer una computadora de ADN.

Anfitrión: ¿Una computadora de ADN?

Lee Cronin: Sí, lo han hecho. DARPA lo financió.

Anfitrión: DARPA, hombre. Andy Jacobson dijo que hablaban con delfines telepáticamente en 1992, solo digo eso.

Lee Cronin: DARPA es una agencia de financiación. Financian a la gente, le dan dinero a la gente, y la gente hace las locuras.

Anfitrión: ¿Has estado en alguno de sus laboratorios secretos?

Lee Cronin: No tienen ningún laboratorio secreto.

Anfitrión: No me lo creo. Eso es lo que diría yo si estuviera financiado por DARPA.

Lee Cronin: DARPA tiene su sede en el área de Washington. Tienen gestores de programas (*program managers*), y todo está disponible en el dominio público. Identifican áreas muy interesantes y las financian. Proponen una idea que, si pudiera funcionar, cambiaría el mundo. Internet cambió el mundo. Los coches autónomos: DARPA organizó un concurso de coches autónomos en el que tenían vehículos cruzando un desierto, y se estrellaban, pero sin duda aceleró gran parte de la computación visual y la robótica. Así que no quiero pinchar el globo de DARPA.

Anfitrión: No, creo que es un lugar realmente fascinante, sin duda. No es como si cuando se acercan a ti, Lee, te dijeran: "Aquí están los 1.000 millones de cosas en las que estamos trabajando ahora mismo". Se acercan a ti para algo muy específico porque tienes un área de experiencia. Cuando se acercaron a ti con la primera subvención, ¿te dijeron: "Estamos trabajando en este tipo de cosas, eso es en lo que trabajas, tienes alguna idea que puedas aportar"?

Lee Cronin: Es muy colaborativo. Tienen varios contratistas financiados (*performers*), y todos nos reunimos y compartimos y agrupamos cosas. Intentan empujar los límites de la ciencia. El Reino Unido también tiene una versión de DARPA llamada ARIA, la Agencia de Investigación e Invención Avanzada.

Anfitrión: ¿Y no les importa que trabajes con DARPA a pesar de ser un tipo británico?

Lee Cronin: Claro. ARIA también financiará cosas en EE. UU., del mismo modo que DARPA ha financiado a personas allí.

Anfitrión: Oh, eso es interesante.

Lee Cronin: Financia allá donde están las mejores ideas. Obviamente hay rendición de cuentas ante los contribuyentes, pero si alguien está construyendo algo de gran utilidad para ti, tiene sentido. Volviendo al tema de la computadora de ADN: hay informáticos que piensan en el ADN como una computadora, y lo reducen a este paradigma computacional convencional. Yo sugiero que el cerebro no es una computadora convencional. El cerebro es capaz de hacer cosas que no entendemos, es decir, la imaginación. ¿No es una locura? Puedes imaginar algo que aún no existe, y esa cosa imaginada tiene poder causal porque puedes imaginarla y hacer que funcione. Esto es lo que hacen los emprendedores todo el tiempo: "Voy a fabricar este artilugio, un teléfono móvil o un iPod Nano". Los seres humanos son singularmente capaces de imaginar algo que no existe —solo existe en su cabeza, moléculas y sinapsis— y puedes literalmente agarrar eso del futuro y arrastrarlo al presente.

Anfitrión: Específicamente del futuro.

Lee Cronin: Eso es lo que me gusta llamar, porque para mí el futuro es impredecible y es un espacio de posibilidad, y la imaginación opera en el espacio de posibilidad, no en el espacio de probabilidad. Quienquiera que en SpaceX se levantó y dijo: "Saben qué, vamos a hacer el cohete de acero y lo vamos a atrapar. Vamos a construir algo del tamaño de un rascacielos que despegará, irá a velocidad supersónica, aterrizará a velocidad subsónica, y para cuando lo atrapemos oiremos los estidos supersónicos". Eso es de locos, pero ahora es un hecho científico. Por eso los seres humanos son muy buenos en la ciencia ficción, como Julio Verne. La computación digital no lo es todo. Y el hecho es que pensamos que el mundo entero es una entidad simulable. Nick Bostrom dijo que estamos todos en una simulación, pero eso es básicamente inescrutable o incomprobable (*unfalsifiable*).

Anfitrión: ¿Cómo va a ser incomprobable que estamos en una simulación?

La teoría de la simulación denominada "arraigada en la fe"

Lee Cronin: ¿Dónde existe una simulación? Tienes una regresión infinita.

Anfitrión: ¿Qué quieres decir con esa regresión infinita?

Lee Cronin: Si estoy en una simulación, genial. La simulación tiene que existir en alguna parte. Digamos que existo en una computadora en alguna parte. ¿Dónde está esa computadora? ¿Es otra simulación, y una simulación dentro de una simulación? Si no puedo falsar las simulaciones hasta el fondo, por lo tanto es lo mismo que tener un compromiso religioso, una creencia. No estoy diciendo que no pueda falsar a Dios y por lo tanto Dios no exista; lo que digo es que no es susceptible al proceso científico. Si algo no es susceptible al método científico, entonces es un acto de fe. David Deutsch escribe sobre esto muy bien en *The Beginning of Infinity*: el argumento de la simulación es un argumento basura porque proviene de la fe.

Anfitrión: La parte sobre la que me pregunto si está realmente más allá de la fe es doble: número ni uno, ni siquiera sabemos hasta dónde podría llegar el universo y solo podemos saber lo que hemos podido observar físicamente; y número dos, hay cosas inexplicables que ocurren en los patrones humanos de una manera que sugeriría que tal vez estamos dentro de capas de simulación.

Lee Cronin: Estamos en el universo. ¿Quién creó el universo?

Anfitrión: ¿Quién creo que lo creó?

Lee Cronin: Podemos decir que hay un creador, o simplemente es. Pero el hecho de que no podamos falsar eso lo convierte en una conversación agradable. ¿Hubo un diseñador, hubo un Dios? Claro. ¿Pero qué podemos usar el método científico para explorar?

Anfitrión: Pero dijiste que no eres un tipo a lo Lawrence Krauss de que algo surgió de la nada. Crees que empezó a partir de algo.

Lee Cronin: El argumento de "algo de la nada" es, para mí, algo similar al argumento de la simulación. Ambos tienen fallos científicos fundamentales. Como materialista, prefiero trabajar en el mundo material y hacer experimentos con las cosas que me rodean. Eso no significa que no existamos en una simulación o que algo no haya surgido de la nada; simplemente no soy capaz de construir un experimento para falsar eso.

Anfitrión: ¿Cómo encontramos una manera de construir un experimento para falsar eso?

Lee Cronin: No creo que sea posible. Con mi pequeño intelecto, no soy capaz de falsar eso ahora mismo.

Anfitrión: No pudieron falsar la gravedad en el siglo XIV, y luego cayó una manzana.

Lee Cronin: Sí que podían. Se tiraban cosas los unos a los otros. Simplemente no sabían cómo formalizarlo. Aquí es donde la filosofía se vuelve realmente importante. Si vamos a asumir que ciertas cosas existen —una ontología o una metafísica— y luego mirar las relaciones dentro de esa metafísica, esas capas tienen tanto que ser autodisciplinadas como coherentes. Lo que encontrarás tanto en la hipótesis de la simulación como en el algo de la nada es una regresión infinita. Con una regresión infinita, no puedes progresar. Así que dejas eso a un lado y dices que es algo que está fuera del método científico. Por eso el argumento de la simulación es tonto para seguir discutiéndolo como si fuera un argumento serio, porque podemos pasar nuestra vida discutiendo tantas otras cosas interesantes: ¿cómo curamos el cáncer, podemos ir a Marte rápidamente usando un motor de fusión? Estas son preguntas mucho más interesantes porque podemos influir en ellas.

Para mí, la simulación es súper interesante porque estoy construyendo robots de química. Si construyo un robot para hacer algo y construyo una simulación, necesito algo llamado verificación. En el mundo de la inteligencia artificial, donde las inteligencias artificiales están funcionando muy bien es porque tienen una verificación muy buena en ciertos problemas. Una de las cosas en las que me inspira la inteligencia artificial es en construir el bucle de verificación correcto para la química física. Inventé un lenguaje de programación para la química hace unos años y todo el mundo dijo: "Esto es una tontería, te lo acabas de inventar". ¡Sí me lo inventé, pero no es una tontería! La idea se me ocurrió porque quería programar mi impresora 3D para hacer química, y quería asegurarme de que la impresora 3D no se incendiara. Así que construí este lenguaje de programación, y eso me permitió hacer un gemelo digital del mismo para poder verificarlo y probarlo en un entorno seguro (*sandbox*). La simulación que me permite verificar algo en el mundo real es genial. Si puedo tomar el mundo real, hacer un modelo del mismo y comprobar que cuando lo hago en el mundo real no se incendia, lo haré.

Ahora bien, eso no significa que algún día no podamos crear una simulación donde podamos poner agentes digitales (*digients*) dentro. Ted Chiang escribió una novela corta realmente genial llamada *The Lifecycle of Software Objects* (El ciclo de vida de los elementos de software). Ted Chiang es un pensador fantástico, escritor, profesor externo en el Instituto Santa Fe. Me he reunido con él varias veces, he debatido sobre la teoría del ensamblaje con él. Estos agentes digitales son entidades que viven en un mundo y pueden manifestarse en robots físicos. Podría imaginar un mundo donde pudiera crear un universo computacional suficientemente rico donde pudiera crear cosas que pudieran parecer sintientes, sobre las cuales pudiera hacer pruebas, donde realmente tendría que pensar en filosofía moral y ética. Puedo imaginarlo, pero no sé qué física tendría que construir para eso porque no entiendo qué es la vida, cómo la química se convirtió en biología, cómo la biología genera consciencia, y cómo la consciencia hace la inteligencia y el libre albedrío. Hasta que no sepa esas cosas, no puedo construir una simulación de ellas.

Anfitrión: De acuerdo, te entiendo.

Lee Cronin: Bostrom, es un tipo realmente agradable.

Anfitrión: ¿Has hablado alguna vez con él?

Lee Cronin: No. He estado en varias reuniones cuando él estaba allí, pero creo que probablemente sería demasiado molesto. Crearía el confabulador de Bostrom: un filósofo que simplemente junta un montón de cosas y finge que son reales. ¿Qué pasaría si simuláramos la taza de café equivocada en este universo alternativo y causara una singularidad y el mundo entero desapareciera?

Anfitrión: No sé si llegó a eso. Creo que se centró en dónde las cosas están codificadas para crear o destruir en general, no como objetos flotantes que desafían la física.

Lee Cronin: Ha permitido a la gente pensar que existe esta cosa posible llamada superinteligencia. Es un poco como decir que vamos a ir más rápido que la velocidad de la luz. No puedes ir más rápido que la velocidad de la luz, nunca. Es la ley del universo. A medida que pones energía en una masa para acelerarla, emite radiación para evitar que llegues allí. Hacemos eso en los haces de protones todo el tiempo en el CERN. La velocidad de la luz parece ser el 99,99999% absoluta.

Anfitrión: Así que estás diciendo que hay una posibilidad.

Lee Cronin: No, no hay ninguna posibilidad. Pero como científico, es imposible para mí decir algo como absoluto porque tengo que tener la mente abierta. Poner límites a las cosas nos permitió construir una sociedad tecnológica. Cuando vas a un hospital y te ponen un *stent* en una arteria, hay una posibilidad de que mueras, pero mira todas las estadísticas: la probabilidad de que puedas sobrevivir con un *stent* ha evitado muchas muertes. Nunca digas nunca en la ciencia, simplemente vas al borde de la escala y dices: "Estoy un 99,999999% seguro de que no vamos a ir más rápido que la velocidad de la luz".

Anfitrión: Cuando te referiste al CERN, ¿estás involucrado con el CERN de alguna manera?

Lee Cronin: No, no lo estoy. He estado en el CERN, hubo una charla TEDx en el CERN. El CERN es una gran máquina en términos de los medios asociados con ella, la forma en que generan interés. Es un experimento masivo y cuesta mucho dinero. Usamos el CERN para encontrar el bosón de Higgs. Genial.

¿Valió la pena el Proyecto Genoma Humano?

Lee Cronin: ¿Valió eso la pena por 5.000 millones de euros o dólares o lo que fuera? No lo sé.

Anfitrión: Eso parece ser una parte muy importante de la academia: ¿cuánto puedes generar de revuelo (*buzz*), exageración e interés de ciencia ficción en el público general en comparación con financiar realmente las ideas que tienen los méritos de ser las mejores para crear algo revolucionario?

Lee Cronin: Cuando financias cualquier empresa científica, obtienes recompensas que surgen, y luego, cuando las recompensas se desvanecen, ¿qué haces? Probablemente la matas y empiezas de nuevo: destrucción creativa. ¿Valió la pena el Proyecto Genoma Humano? Bueno, no valió la pena en su momento, pero va a valer la pena ahora porque ahora sabemos cómo editar el genoma.

Anfitrión: ¿Puedes explicar eso más a fondo?

Lee Cronin: Cuando se hizo el Proyecto Genoma Humano, fue una colaboración masiva entre el Consejo de Investigación Médica del Reino Unido y los Institutos Nacionales de Salud de EE. UU. Gastaron bastante dinero construyendo la tecnología para secuenciar el genoma humano. Y luego Craig Venter, un gran pionero y emprendedor, fundó una empresa para adelantárseles porque quería conseguir la propiedad intelectual. Para justificarlo, dijimos: "Bueno, vamos a curar todas las enfermedades". Y se resolvió el genoma humano, y no curamos todas las enfermedades. Lo que está empezando a suceder ahora, lo cual es realmente emocionante, es que hay muchas terapias génicas donde entendemos cómo corregir un gen enfermo. Hay jóvenes que han nacido ciegos a los que se les ha podido corregir una proteína mediante terapia génica y pueden ver. Eso es increíble. También hay terapias génicas donde estamos entendiendo cómo reprogramar el sistema inmunológico del cuerpo para curar el cáncer. Hay una posibilidad muy fuerte de que la mayoría de los cánceres que conocemos, dentro de nuestras vidas, tengan una combinación de terapias moleculares y genómicas en las que usaremos moléculas pequeñas.

Anfitrión: ¿Crees que ya las tienen y simplemente no se las dan a la gente?

Lee Cronin: No. ¿Por qué harías eso?... porque eso es una estupidez.

Anfitrión: ¿Por qué es una estupidez? Hemos utilizado el mismo tipo de tratamiento brutal durante décadas.

Lee Cronin: No hay conspiración; eso no puede existir. Hay muchas empresas farmacéuticas haciendo química medicinal. Los desarrollos en biología avanzan a toda marcha, pero el problema más crítico es que tenemos que traducir esos desarrollos del laboratorio a la clínica, y las personas son difíciles, y las personas mueren. Hay un contraste interesante entre China, EE. UU. y el Reino Unido en este momento sobre cuánta regulación tenemos. Hay algunos ensayos clínicos que avanzan más rápido en China debido a una regulación diferente. En Occidente, somos mucho más reacios al riesgo. ¿Podríamos ir más rápido si aceptáramos algunas muertes más? Probablemente. Cualquier limitación que tengamos en Occidente es una función de nuestro entorno regulatorio, que es una función de nuestros votantes.

Anfitrión: China se ha movido en algunos aspectos asumiendo riesgos con eso porque no tienen los mismos cortafuegos (*guardrails*) al respecto. Hay algo que decir a favor de tener cortafuegos, sin duda.

Lee Cronin: Hubo un científico chino que usó la terapia génica para editar algunos embriones que se convirtieron en humanos y causaron un problema. Fue metido en la cárcel porque básicamente editó mal el genoma.

Anfitrión: ¿Qué hizo para que no vayan a tener una vida tan buena?

Lee Cronin: Creo que tenía algo que ver con el virus del VIH, pero hubo algo que hizo que no fue particularmente inteligente.

Anfitrión: Científico chino que produjo bebés genéticamente alterados condenado a 3 años de cárcel. He Jiankui y sus dos colaboradores fueron declarados culpables de prácticas médicas ilegales. Veamos qué hicieron: el investigador chino que dejó atónito al mundo al anunciar que había ayudado a producir bebés genéticamente editados fue condenado a 3 años. El tribunal de Shenzhen dictaminó que él y dos colaboradores falsificaron documentos de revisión ética e indujeron a error a los médicos para que implantaran sin saberlo embriones editados genéticamente en dos mujeres, según Xinhua, la agencia de prensa estatal de China. Una madre dio a luz a niñas gemelas en noviembre de 2018; no se ha aclarado cuándo nació el tercer bebé. El tribunal dictaminó que los tres acusados violaron deliberadamente las normativas nacionales sobre investigación biomédica y ética médica, y aplicaron precipitadamente la tecnología de edición genética a la medicina reproductiva humana. Los tres se declararon culpables. En noviembre de 2018, anunció que había modificado un gen clave en embriones humanos de una manera que se cree confiere resistencia al VIH. Quería evitar a los bebés la posibilidad de infectarse con VIH más adelante en la vida. Pero causó otros inconvenientes graves.

Lee Cronin: Eso fue completamente lo más estúpido que se pudo hacer, porque el VIH ahora mismo está prácticamente... devastó a las poblaciones, principalmente a los hombres homosexuales. Y luego conseguimos terapias para controlarlo, y ahora puedes conseguirlo bajo un control tal que no hay carga viral, lo que significa que es casi imposible transmitirlo. Puedes controlarlo químicamente y suprimir el virus. Qué logro tan asombroso para la tecnología médica humana. Él simplemente dio un paso demasiado lejos. Tenemos que debatir cómo hacemos la edición genética en el futuro. El Proyecto Genoma Humano fue un logro increíble, del mismo modo que el uso del CERN para encontrar el bosón de Higgs fue un logro increíble. Estamos en esta ilusión ahora mismo de que los laboratorios de inteligencia artificial van a automatizar toda la ciencia para que sea barata y simplemente curemos todas las enfermedades. Eso simplemente no va a suceder. Las herramientas de inteligencia artificial nos ayudarán a curar algunas enfermedades y producir nuevas moléculas, pero no sé el alcance exacto.

Anfitrión: Si es solo un enorme acelerador que nos permite resolver las cosas mucho más rápido donde los seres humanos siguen liderando el camino, esto es lo opuesto al fin del mundo.

Lee Cronin: Tengo simpatía por los alarmistas de la inteligencia artificial porque están intentando pedir a los políticos que entiendan lo que está pasando, y tengo simpatía por los pronatalistas de la abundancia de la inteligencia artificial (*AI abundantists*) que quieren usar estas herramientas para el florecimiento humano. Lo que no me gusta es el extremo: que todos vamos a morir, o que todos vamos a vivir para siempre y tener cosas infinitas. Ambas cosas son claramente estúpidas.

La afirmación de Elon: No habrá dinero en diez años

Lee Cronin: Existe la preocupación de que usemos sistemas de inteligencia artificial para piratear sistemas informáticos y todo el software sea perpetuamente inseguro: cuentas bancarias, cifrado y demás. No quieres que tu Tesla se vuelva loco en la autopista. Por otro lado, quieres usar la inteligencia artificial para acelerar la tecnología y curar enfermedades. Pero algunas personas de la inteligencia artificial que se están volviendo bastante ricas dicen: "Oh, el dinero no existirá en 10 años".

Anfitrión: Sí, no entiendo ese argumento en absoluto.

Lee Cronin: Es solo Elon inventándose cosas otra vez. Elon es un genio, pero no es un genio comunicando.

Anfitrión: ¿Cómo es que el dinero no existe hasta el punto de que la gente va a ser toda igual, especialmente tan rápido?

Lee Cronin: El dinero es una representación de la asignación de recursos. Mientras haya humanos decidiendo qué hacer, se necesitará dinero. Los recursos necesarios para construir ciertas cosas caerán y se acercarán asintóticamente a cero. Hay algunos microprocesadores que puedes comprar que cuestan solo 15 centavos cuando solían costar muchos dólares. Pero siempre va a haber un cuello de botella: el planeta Tierra tiene un tamaño finito, hay una cantidad finita de energía accesible hoy en día y una cantidad finita de recursos físicos. Pero hay una cantidad infinita de posibilidades. Vamos a reciclar cosas, encontrar nuevas fuentes de energía y crear economías completamente nuevas. Esta idea de que tenemos una abundancia infinita en menos de 10 años podría ser una reacción porque las personas que crean estas herramientas de inteligencia artificial se han quedado atónitas con su capacidad. Puedes usar Claude o ChatGPT para hacer un PowerPoint y es bastante bueno.

Anfitrión: Sí, también puedes hacer aplicaciones con estas cosas.

Lee Cronin: Pero si le dices a Claude simplemente que haga un PowerPoint para hacer equis y no le das suficiente información, es basura. Basura entra, basura sale. Si digo: "Aquí están los puntos que quiero señalar y aquí están los datos fundamentales para ellos, por favor hazlo e itera conmigo", no tengo ningún problema en usar herramientas de inteligencia artificial para desatar mi creatividad. Cuando se trata de escribir, ¿uso la inteligencia artificial para escribir por mí? No, escriben de una manera semánticamente muy uniforme. Siempre es: "No es A, es B". ¡Por favor, no escribas así! Mi escritura tiene defectos, pero es mi voz. Sí uso la inteligencia artificial ahora para corregir erratas, pero intenta limpiar mi gramática y yo digo: "No, quiero que suene así". Lo que me pareció bastante fascinante es que ahora uso las inteligencias artificiales para revisar todas las pruebas de mis artículos. Tenía este artículo que salió en PNAS sobre sistemas de detección de vida: *"Molecular Assembly Is a Universal Biosignature Measurable by Mass Spectrometry"*. Puse las pruebas en ChatGPT y las revisó y encontró 10 erratas que yo no había encontrado.

Anfitrión: Leamos el resumen: "Detecting life beyond Earth requires biosignatures that do not depend on the chemistry of known organisms. Molecular assembly (MA), derived from assembly theory, quantifies how difficult it is to build a molecule from basic building blocks, linking complexity directly to selection and evolution. Here we show that MA can serve as a universal biosignature that is both interpretable and experimentally measurable. Unlike information-theoretic measures, MA can be inferred directly from mass spectrometry data without structural elucidation. We demonstrate that using a machine learning model trained on standardized single-stage spectra predicts MA with three-fold lower error than baseline methods. Simulated multi-stage data reveal that small instrumental variations can double prediction error, highlighting the importance of calibration. These findings establish molecular assembly as a physically grounded, quantifiable biosignature measured by mass spectrometry whose interpretation depends on a careful control of instrumental effects, offering a scalable route to life detection on future planetary missions." Pasemos al gráfico.

Lee Cronin: Puedes usar el aprendizaje automático (*machine learning*) porque hay una teoría detrás. La gente ha estado intentando usar el aprendizaje automático para buscar vida y simplemente se estaban inventando cosas; la teoría del ensamblaje te ayuda a entender la base para ello. Temperatura: sabemos que las cosas están calientes o frías, pero ¿cómo lo cuantificamos? Con la vida: sabemos que las cosas están vivas o muertas, pero ¿cómo lo medimos? Los sistemas vivos fabrican de manera única moléculas con muchas partes diferentes en alta cantidad de copias, por lo que podemos medir eso. Nuestro equivalente al termómetro es un espectrómetro de masas. Lo que hace un espectrómetro de masas es pesar una molécula, dispararla a un campo eléctrico de vacío y medir cuán pesada es. Luego la golpeas con energía y se fragmenta, como tomar un plato y estrellarlo contra el suelo. Cuentas el número de partes, y puedes usar eso para medir el índice de ensamblaje. Hay tres espectrómetros de masas en Marte ahora mismo, y la NASA va a enviar un espectrómetro de masas propulsado por energía nuclear a Titán llamado Dragonfly. Es un cuadricóptero propulsado por una cápsula de plutonio que va a volar alrededor de Titán, oler el aire y usar espectrometría de masas.

Anfitrión: ¿Puedes hacer algo de esto para intentar encontrar vida en exoplanetas?

Lee Cronin: Puedes. Pronto saldrá un artículo donde usamos la teoría del ensamblaje para medir la probabilidad de vida en un exoplaneta. El mundo de los exoplanetas está muy acostumbrado a hablar de un marcador de vida, como metano (CH4), oxígeno (O2) o agua (H2O). Todas estas son moléculas muy pequeñas, por lo que no transportan suficiente información para saber la diferencia entre vida y no vida. El metano en Marte podría ser producido por procesos geológicos. El oxígeno puede ser producido descomponiendo el agua con luz ultravioleta. La respuesta para inferir biología a partir de gases va a ser la teoría del ensamblaje. Puedes medir el índice de ensamblaje en el laboratorio usando tres técnicas: espectrometría de masas, RMN (resonancia magnética nuclear) y espectroscopia infrarroja.

Teoría del ensamblaje y vida en el universo

Anfitrión: ¿Eran los alienígenas algo en lo que pensabas mucho de niño?

Lee Cronin: No obsesivamente. Probablemente estaba pensando en por qué estoy aquí, por qué existe la vida, cómo puedo desmontar esto. Pero entender qué es la vida como fenómeno químico es crítico para comprender los fenómenos de la vida en la Tierra, lo cual nos dirá sobre los alienígenas. Si solo viéramos nuestro Sol en un cielo negro, nos obsesionaríamos con cómo se creó el Sol. Sabemos que el Sol se crea por el colapso gravitacional del hidrógeno, calentándose lo suficiente como para superar la fuerza nuclear fuerte y experimentar fusión. Podemos ver estrellas en todas partes del universo. Pero solo tenemos un número N de 1 para la vida en la Tierra. Si podemos entender cuán probable es químicamente que la vida emergiera en la Tierra, podemos empezar a acotar las probabilidades.

Anfitrión: ¿Cómo podemos hacer eso si no entendemos cuán grande es el universo?

Lee Cronin: Podemos estimar el tamaño de la Vía Láctea, y tenemos límites en el cono de luz del universo. Cada estrella parece tener planetas a su alrededor. Esos planetas están o bien: muertos y nunca tendrán vida; abióticos pero tienen la posibilidad de vida; vivos; vivos y tecnológicos; o postecnológicos. La vida probablemente solo sea posible dentro de una cierta zona de temperatura: demasiado caliente y los enlaces químicos se desmoronan; demasiado frío y no pasa nada. Escuchando el podcast *Cool Worlds* de David Kipping, hablaban de la zona habitable, y me di cuenta de que los planetas probablemente pueden responder. El planeta Tierra, después del Bombardeo Intenso Tardío, comenzó a enfriarse, y los procesos de retroalimentación regularon su temperatura, como la hipótesis de Gaia de James Lovelock. Si la vida empieza a formarse en un planeta y el planeta se desvía fuera de esa zona, la evolución responderá para contrarrestarlo, como un termostato. El planeta es capaz de autorregularse para el surgimiento de la vida.

Anfitrión: Si un planeta estuviera viajando alrededor de su estrella de tal manera que se estuviera acercando y calentando, ¿estás sugiriendo que el planeta podría ajustarse?

Lee Cronin: Antes de la inteligencia, no; después de la inteligencia, tal vez. Eso trae a colación una de mis películas de ciencia ficción china favoritas, *The Wandering Earth* (La tierra errante). Si un planeta se está moviendo alrededor de una estrella de tal manera que se acerca y se calienta, podría regular la presión atmosférica: cuando hace demasiado calor, hacer que la atmósfera sea reflectante —escudos arriba—; cuando se aleja más, atrapar la luz —escudos abajo—. El cambio climático es molesto para los humanos porque nos urbanizamos alrededor de las costas y el ecuador donde la zona era adecuada para la agricultura, pero Siberia se va a volver realmente habitable. En una escala de tiempo de unos pocos cientos de años, compra bienes raíces en Siberia. Probablemente idearemos una solución tecnológica para el cambio climático. Tal vez la Tierra sobreviva más tiempo de lo que lo haría de otro modo porque produjo vida.

Chemify Genesis y el miedo al reemplazo laboral

Lee Cronin: Durante los próximos 5.000 millones de años, el Sol se hará más grande a medida que su hidrógeno se agote y empiece a fusionar helio, y se calentará. Tenemos un par de miles de millones de años de aviso; ¿no podemos simplemente empujar la Tierra suavemente hacia allá? Solo dispara unas cuantas nukes: *boom*, desplázala unos pocos milímetros al año. Teniendo 2.000 millones de años, podemos hacer mucho.

Anfitrión: Tengo que traerte a ti y a David Kipping aquí para un podcast juntos. Él volverá en noviembre.

Lee Cronin: Eso sería muy guay para intercambiar ideas. Escuché su podcast y pensé: "Nah, no".

Anfitrión: Eres un tipo del "no". En cuanto escuchas algo cuestionable, no tienes ningún miedo de desafiarlo.

Lee Cronin: El pensamiento crítico en tiempo real requiere que no estés inhibido por gente que te rechaza, que estés dispuesto a estar equivocado y abierto a educarte. Estamos mistificando la inteligencia artificial porque nos han dicho que es magia. OpenAI dio con un tesoro cognitivo cuando entrenó su modelo, y de repente estos *chatbots* empezaron a ser muy buenos prediciendo el siguiente *token*. A medida que aumentabas la ventana de contexto, mejoraba aún más. Cuando construiste cortafuegos y capacidades de cadena de pensamiento (*chain-of-thought*), estos sistemas pudieron encadenarse. Pero tenemos que desmitificarlo y definir qué son realmente la inteligencia, la creatividad y la novedad.

Mi empresa, Chemify, tiene unos cientos de personas ahora mismo. Estaba en una reunión donde la gente decía: "He podido deshacerme de todo este número de personas de mi plantilla". Y yo pensaba: "Chicos, ¿qué están haciendo?". Los seres humanos son fantásticamente flexibles, solucionadores de problemas infinitos y máquinas de creatividad infinita. Quieres contratar a más de ellos, no a menos. Encuentro todo el miedo al desplazamiento laboral bastante desagradable. El objetivo de Chemify es construir un modelo del mundo para la química. Si vas a chemify.io/genesis, explica el modelo del mundo.

Una biblioteca virtual de moléculas

Anfitrión: "La molécula en la pantalla es solo una hipótesis. Pregunta, Haz, Prueba" (*Ask, Make, Test*).

Lee Cronin: La gente piensa que el descubrimiento de fármacos es descubrir una molécula. En los viejos tiempos, mirabas plantas, encontrabas moléculas que tuvieran actividad biológica y descubrías el fármaco. Se suele decir que el espacio químico para las posibles moléculas de fármacos es de aproximadamente 10 elevado a la 60. El número de átomos en el universo es 10 elevado a la 80. Volví a hacer ese cálculo usando la teoría del ensamblaje: no es 10 a la 60, es 10 elevado a la 117. Publicamos esto en arXiv: *"Elucidating the Size of Chemical Space with Assembly Theory"* (Elucidando el tamaño del espacio químico con la teoría del ensamblaje). Si permites que tu molécula tenga un índice de ensamblaje de 25 pasos con la química que está disponible, hay 10 elevado a la 117 moléculas accesibles. Cuando tu espacio es tan grande que no puedes buscar en él, tienes que generar algo novedoso. De ahí viene Genesis.

Genesis no es un catálogo, ni una búsqueda de reacciones; es un bucle ejecutable computacional conectado a una capacidad química real, convirtiendo ideas en materia verificada. Todas estas empresas de inteligencia artificial que hacen descubrimiento de fármacos están simplemente generando gráficos aleatorios en una pantalla; no pueden fabricarlos. Lo que Chemify ha estado haciendo es fabricar moléculas en el mundo físico con robots químicos, y Genesis conecta los modelos de inteligencia artificial directamente a nuestro motor de síntesis robótica. La gente compra Genesis, conserva toda su propiedad intelectual y federamos los datos operativos. Chemify se vuelve más rápido haciendo química, pero los diseños de los clientes permanecen completamente encriptados y segregados, de manera similar a cómo opera el UK Biobank. Construimos una granja de *chemputers* en Glasgow. Cada vez que hacemos una reacción, nuestro modelo del mundo mejora. La biblioteca virtual de Chemify de moléculas digitalmente verificables es de 10 elevado a la 40, extraída del espacio total de 10 a la 117.

Sí, quiero jugar a ser Dios

Anfitrión: Cuando miras el escalado de herramientas como la inteligencia artificial y las habilidades que los humanos pueden aprovechar a un ritmo exponencial, ¿te preocupa alguna vez nuestra inminente capacidad de empezar a jugar a ser Dios?

Lee Cronin: No, quiero jugar a ser Dios. De hecho, me encanta jugar a ser Dios. Tenemos teléfonos móviles, tenemos medicamentos, tenemos coches. Quiero coches voladores. Como dijo Arthur C. Clarke, cualquier tecnología suficientemente avanzada es indistinguible de la magia. Imagina volver atrás en el tiempo con un teléfono inteligente operativo y hacer una videollamada a alguien; la gente pensaría que eres un dios. Tenemos que asegurarnos de que los humanos florezcan y prosperen. Por cualquier medida, los seres humanos nunca han tenido un momento mejor en el planeta Tierra. Quemamos combustibles fósiles para hacer amoníaco para alimentar al mundo. Si intentamos la geoingeniería para resolver el cambio climático y 50 personas mueren de algo imprevisto mientras salvamos miles de millones de vidas, haz el cálculo.

Anfitrión: ¿Qué pasa con la ingeniería genética, como Colossal Biosciences recreando especies extintas como el lobo terrible o el mamut lanudo?

Lee Cronin: George Church está presumiblemente detrás de todo esto. George es muy travieso. Del mismo modo que me gusta experimentar con la química, a él le gusta experimentar con la biología. Está probando los límites de lo que es éticamente y comercialmente aceptable. ¿Es el bajo coeficiente intelectual un trastorno curable? Si pudieras diseñar genéticamente un coeficiente intelectual más alto en humanos, ¿lo harías? La sociedad tendrá que decidir qué es aceptable, del mismo modo que las cesáreas se volvieron aceptadas. En el Reino Unido, aprobamos la terapia de donación mitocondrial —los llamados bebés de tres padres— para prevenir enfermedades mitocondriales graves, y han nacido niños sanos que de otro modo habrían muerto de distrofia muscular.

Gigantes de tres metros y el destino genético

Anfitrión: Con eso es difícil discutir.

Lee Cronin: Si sobrealimentas las mitocondrias, ¿podría eso dar lugar a superatletas? En Europa occidental durante los últimos cientos de años, debido a la malnutrición, la gente no alcanzó su destino genético; ahora en los Países Bajos, la gente mide un metro noventa y pico de altura. ¿Me preocupa que la gente pueda usar la tecnología de Chemify para fabricar en masa cosas malas? Construimos cifrado y licencias geolocalizadas por GPS en los sistemas. Hay un cortafuegos (*firewall*) extenso, telemetría en tiempo real y diseños a prueba de fallos integrados en nuestros *chemputers*.

Hace cien años, los "computadores" eran personas en rascacielos usando reglas de cálculo, realizando varios cientos de miles de operaciones por segundo a nivel mundial. Hoy en día, el número de químicos que hacen reacciones todos los días está entre 100.000 y 1.000.000. La inteligencia artificial física de Chemify aumentará drásticamente las operaciones químicas. Con las tasas de natalidad a la baja, necesitamos mantener a la gente más sana durante más tiempo, impulsando la economía a través de la atención médica por suscripción y terapias avanzadas.

Lee vs. James Tour en Piers Morgan

Anfitrión: Siempre y cuando el Dr. James Tour no tenga razón y tú estés equivocado. Os vi discutiendo en el programa de Piers Morgan.

Lee Cronin: James Tour es químico primero y científico después, mientras que yo soy científico primero y químico después. James hace química y usa esa autoridad para ejercer autoridad sobre su sistema de creencias religiosas. Afirma que todo el mundo no tiene ni idea sobre el origen de la vida. ¿Por qué haría experimentos si ya supiera la respuesta? Soy la única persona dispuesta a debatir con él públicamente. Piers Morgan tiene una gran audiencia, y fue un debate divertido de tener. Uno de mis hijos lo vio y me dijo: "Esta es la primera vez que te he oído hablar de algo y lo he entendido de verdad". Si le inspiró a él, valió la pena hacerlo.

El trabajo de Lee

Anfitrión: Siempre es genial tener un diálogo abierto en la ciencia. Gracias como siempre, Lee. Tendremos que hacer esto de nuevo. Vamos a comernos un bistec ahora.

Lee Cronin: Gracias, genial estar contigo, y sí, ¡hasta la próxima!

Anfitrión: Muy bien, todo el mundo, Piénsenlo. Paz. Muchas gracias por ver. Por favor, denle al botón de suscribirse, dejen un *like*,únanse al Patreon y a la comunidad de creadores de fragmentos en Discord abajo. Nos vemos en el próximo episodio.