DruckFin

Transcripción de SemiAnalysis: Por qué el co-diseño de hardware y software es el verdadero motor de eficiencia 100x de la IA

5 de julio de 2026 - Entrevista en el podcast de Sequoia Capital con Dylan Patel

Introducción y el crecimiento de SemiAnalysis

Shaun Maguire: Creo que es muy divertido trabajar en SemiAnalysis porque hay 90 personas, y una gran parte son tecnólogos e ingenieros de toda la cadena de suministro, mientras que otra parte importante proviene de fondos de cobertura (hedge funds). Se ven discusiones donde algunos dicen: "Oh, bueno, eso no importa", y luego alguien más responde: "Bueno, pero el costo", y el ingeniero interviene: "No, no, no, pero esta tecnología es la más genial". Ves cómo se resuelven las cosas de forma orgánica. Somos bastante informales y, dado que fuiste moderador de foros, puedes imaginar cómo es el ambiente.

Dylan Patel: No luchas contra un cerdo porque al cerdo le gusta, ¿verdad? Exactamente.

Shaun Maguire: Estamos aquí en la oficina de SemiAnalysis con Dylan Patel. Soy Shaun, de Sequoia, y mi socia Sonya Huang también está aquí. Es increíble lo que han logrado. Hace cinco años, los semiconductores no eran un tema muy atractivo en Occidente. Eran populares en Oriente, pero aquí, en Occidente, la gente los había olvidado. Sin embargo, tú no. Apostaste fuerte. Creaste probablemente la principal empresa de investigación en el sector, que ha educado al mundo sobre el estado del arte, desde detalles técnicos muy específicos hasta la cadena de suministro y la visión global. Hay rumores de que SemiAnalysis superó recientemente los $100 millones en ingresos. No sé qué tan precisos sean. Sean cuales sean las cifras, les está yendo de maravilla.

Dylan Patel: Es tan preciso como la información disponible. Sí, genial. Nunca se sabe.

Shaun Maguire: También hay rumores de que podrías lanzar un fondo de capital de riesgo. Escucho constantemente en el ecosistema a personas que quieren afiliarse a SemiAnalysis. Has construido esta marca de confianza, así que, hagas lo que hagas, está funcionando. Esto es claramente solo el comienzo de tu viaje. Felicidades por todo ello. Pero, ¿cómo sucedió esto? Mi primera pregunta es: ¿cuál es tu formación? ¿Cómo llegaste a donde estás ahora?

Orígenes en un motel

Dylan Patel: Bueno, cuando era un niño saliendo del vientre materno... No. Bien, crecí en un negocio familiar. Mis padres tenían un motel y vivíamos allí. Más tarde tuvimos una gasolinera. Así que, yo vendía. Suelo bromear diciendo que la primera red neuronal que entrené fue para perfilar racial y visualmente a las personas según el momento en que entraban a la gasolinera, para elegir qué cigarrillos tomar. Básicamente, los cigarrillos estaban exhibidos en la parte superior y yo era demasiado bajo para alcanzarlos. Técnicamente, no era legal vender cigarrillos a esa edad, pero bueno, tenía que mover el taburete hacia el área correcta.

Shaun Maguire: Yo también empecé a trabajar antes de que fuera legal. Es una buena experiencia.

Dylan Patel: Bueno, a mí no me pagaban, ¿sabes? Era un negocio familiar.

Shaun Maguire: Yo igual.

Dylan Patel: Pero sí, teníamos nuestro motel y al cruzar la calle estaba nuestra gasolinera. A veces entraba alguien, y si entraba una señora blanca mayor con cabello rizado, yo movía la escalera o el taburete hacia donde estaban los Camel. Dependiendo de la edad, el grupo demográfico, la profesión, la raza, etc., movía el taburete. Bromeo diciendo que esta fue la primera red neuronal que entrené, porque si esperaba a que me dijeran qué querían, tendría que moverlo y luego subirme, en lugar de estar listo de antemano. Mentolados contra los "100 slims" y todas esas cosas. Bromeo diciendo que esa fue la primera red neuronal que entrené. Pero crecí en negocios familiares, viví en un motel, y todo se remonta realmente a mi octavo cumpleaños.

Reparación de Xbox y la chispa de la pasión por el hardware

Dylan Patel: Mi cumpleaños es en mayo, y fue en abril cuando se anunció la Xbox 360. Para mi cumpleaños, no pedí la Xbox, ni pedí un regalo. Mis padres preguntaron qué quería, y lo pedí para Navidad. Celebrábamos la Navidad, pero no había forma, al menos en ese momento, de que pensara que me darían la Xbox 360 por Navidad, así que pedí tenerla para mi cumpleaños de Navidad. En fin, llega la Navidad y la consigo. Unos meses después, mi primo que vive en Alabama —ellos también vivían en un motel— iba a venir durante las vacaciones de primavera. Íbamos a pasar el rato en mi casa. Él tiene una edad intermedia entre mi hermano mayor y yo. Mi hermano es un poco más deportista, así que no le importaba mucho la Xbox. Jugaba a veces, pero no le interesaba realmente. Pero mi primo, quería que pensara que yo era genial, ¿sabes? Así que presumí muchas veces por teléfono. Le decía: "Sí, tengo una Xbox". Y entonces la Xbox se rompió. Había un defecto de hardware llamado el "Red Ring of Death" (Anillo Rojo de la Muerte).

Dylan Patel: Resumiendo, tuve que abrirla y hacer un puente en el sensor de temperatura, y eso lo arregló. Probé muchos otros trucos primero, y ninguno funcionó. Así que, así es como me metí en el hardware. Abrió la caja de Pandora. A los 12 años, ya estaba mucho en estos foros, leyendo y publicando.

De los foros de internet a los semiconductores

Dylan Patel: Esto fue alrededor de la época en que Reddit absorbió a todos los demás foros, así que me convertí en moderador de Android, Apple y Google, además de hardware, y observaba a Intel, Nvidia y AMD en todos estos otros foros. Estaba en Build a PC. Observaba todos estos foros, leyendo y publicando mucho, pero en algunos moderaba activamente. Ver cómo los teléfonos inteligentes pasaban de ser muy simples a ser máquinas de velocidad y tecnológicamente más avanzados que las PC en muchos aspectos arquitectónicos, y lo mismo con las GPU, solo rastreando y observando eso, leyendo cada comentario, siempre con el tinte económico porque crecí en un pequeño negocio. Así que siempre miraba la economía. Hubo un tiempo en que todos los "nerds" de internet amaban las GPU de AMD, y yo personalmente también había comprado una GPU de AMD por la relación precio-rendimiento. Pero cuando se trataba de qué era técnicamente mejor, siempre decía: "No, Nvidia es mejor porque usan un chip más pequeño para obtener un mejor rendimiento con mayor eficiencia energética, y su margen es mejor". Así que siempre hablaba de cómo los márgenes de Nvidia eran mejores que los de AMD en el panorama de las GPU, y era muy divertido.

Shaun Maguire: Y tenías 12 años en ese entonces.

Dylan Patel: Empecé a moderar cuando tenía 12 años, pero todo esto fue durante mi adolescencia y mis años de preparatoria.

Shaun Maguire: ¿Tenías otros pasatiempos raros, o eran solo semiconductores?

Dylan Patel: Jugaba muchísimo Starcraft. En un momento, fui Gran Maestro en la clasificación norteamericana de Starcraft 2. Muy serio.

Shaun Maguire: Entonces, te has vuelto obsesivamente bueno en varias cosas.

Dylan Patel: Sí, la obsesión es buena.

Shaun Maguire: ¿Cómo eran tus calificaciones?

Dylan Patel: Eran decentes. Diría que tenía mayormente A's, pero había clases que me parecían realmente aburridas o que simplemente no disfrutaba. Como español, no obtuve las mejores notas, pero hablo español fluido, por cierto, así que es realmente estúpido.

Shaun Maguire: Tal vez por eso no obtuviste una buena calificación.

Dylan Patel: No aprendí español hasta más tarde, para ser justos. Pero sí, mis calificaciones estaban bien. Estaban lo suficientemente bien para unos padres asiáticos. Era mejor que la mayoría de la escuela, pero no era como esforzarme al máximo por obtener solo A's.

Shaun Maguire: Bien, así que eres un estudiante de internet, entonces. Así es como desarrollaste esta experiencia. ¿En qué momento decides iniciar SemiAnalysis, y cuál ha sido la mayor sorpresa desde que fundaste la empresa?

De "quant" a fundador

Dylan Patel: Sí, fui a la universidad y obtuve algunos títulos en áreas no relacionadas con los semiconductores. Fui analista cuantitativo (quant) durante dos años en una pequeña firma de riesgo. Luego, básicamente, hubo una culminación de eventos. Uno fue que me estafaron con un bono. Había generado a mi empresa muchos millones en ingresos —ingresos libres de riesgo— porque exploté una oportunidad en el mercado, bastante más de $10 millones, y luego alguien más se llevó el crédito por mi trabajo. Eventualmente, me despidieron, pero perdí el contrato social con la empresa en la que trabajaba. Mis abuelos crecieron en mi casa con nosotros, o en el motel con nosotros, vivían con nosotros, así que era muy cercano a ellos. Mi abuela tuvo demencia, olvidó quién era yo, se cayó por unas escaleras, tuvo un accidente trágico y falleció. Todo eso sucedió a principios de 2020. Además, hubo algunos problemas sentimentales, así que ocurrieron varias cosas que me pusieron muy triste. Luego llegó el COVID, y mi hermano me dijo: "Amigo, ven a quedarte conmigo". Él vivía en Nashville, así que fui y me quedé con él. Pensamos: "Oh, los confinamientos durarán unas semanas. Puedes quedarte conmigo mientras suceden y luego puedes volver a casa". Famosas últimas palabras. Los confinamientos duraron mucho más.

Dylan Patel: Viviendo con mi hermano durante unos meses, no sabía qué estaba haciendo. Estaba en la casa de mi hermano, todo eran sus reglas. Él y su prometida en ese entonces, ahora su esposa, estaban allí, así que básicamente tenía que caminar de puntillas. Pero no me importaba mi trabajo, así que publicaba aún más de lo normal. Siempre había publicado mucho en internet. Siempre había operado mucho en bolsa. Gané mucho dinero apostando en corto contra el COVID y yendo en largo con el COVID y todas esas cosas. La escasez de semiconductores ocurrió también por esa época. En fin, estaba muy obsesionado con publicar y cosas así.

Dylan Patel: Eventualmente, alrededor de esa época, alguien con quien tuve una discusión en internet me reveló (doxeó). Revelaron públicamente mi identidad desde mi cuenta anónima. En ese momento, tuve miedo y dejé de publicar durante tres semanas. Pensé: "¿Qué estoy haciendo? ¿Por qué me importa?". Así que, simplemente empecé a publicar. Tenía blogs y cosas así también, pero creé un blog real, SemiAnalysis, y en mi cumpleaños número 24, publiqué dos artículos. A partir de ahí, obtuvo mucha tracción porque ahora, en lugar de publicar bajo un nombre anónimo, era un nombre real, y puse mucho más esfuerzo en esas dos publicaciones de lo habitual. En lugar de solo publicar en internet, puse un esfuerzo real en el blog. Puedes volver atrás y leerlos si quieres. No son tan buenos, pero eran buenos para la época. Eran lo mejor que podías encontrar en internet sobre semiconductores, y simplemente seguí publicando, publicando, publicando. Empecé a recibir muchos negocios de consultoría.

Viaje de investigación "sin hogar"

Dylan Patel: En 2020, estaba nuevamente en crisis y no sabía qué quería hacer, así que empaqué todo. Tomé mi camioneta, compré una tienda de campaña que cabe en la parte trasera, compré un colchón inflable y conduje por todos estos parques nacionales alrededor de Estados Unidos. Dos, tres o cuatro días a la semana, me quedaba en un motel al azar donde negociaba el precio a unos $30 por noche, y trabajaba en algunas de estas cosas. Los fines de semana, leía libros, a menudo libros de texto mientras estaba en algún parque nacional al azar o haciendo senderismo, y escuchaba audiolibros sobre semiconductores, sobre IA, sobre todas las cosas que me importaban mucho. Me eduqué mucho más durante esos seis meses en los que simplemente iba a cada parque nacional. Todo el tiempo estuve solo, y todo el tiempo estuve publicando blogs. Todos decían: "Dylan, ¿qué estás haciendo?".

Shaun Maguire: ¿Esto fue antes de Starlink o en los primeros días de Starlink?

Dylan Patel: Antes de Starlink. Sí, así que era muy tipo: "¿Qué estás haciendo?". Viajé por América Latina de nuevo durante un año, inicialmente con mi amigo y luego con mi ex, y luego en 2022, 2023 y 2024, seguí completamente sin hogar desde mediados de 2020. Pero viajaba a todas las conferencias del mundo. Iba a más de 40 conferencias al año, sin importar en qué parte de la cadena de suministro estuviera. Pensaba: "Oh, eso parece interesante, supongo que iré a eso". Fui a una conferencia y dije: "Wow, esto es increíble". Puedes hablar con los expertos, y ellos van a hablar contigo porque, en el caso de los semiconductores, todos son de la generación del "baby boom", así que es genial. No ven a gente joven que esté emocionada por esto, así que están muy felices de contarte cosas. Solo tienes que preguntar.

Shaun Maguire: Sobre esto, ¿hubo alguna parte de la cadena de suministro o alguna de estas conferencias que cambiara particularmente tu visión del mundo de los semiconductores o que sintieras entonces, o sientas ahora, que está particularmente subestimada?

Dylan Patel: Creo que las ferias comerciales y las conferencias varían mucho. Obviamente, algunas de las que más disfruto incluyen NeurIPS.

Shaun Maguire: ¿Por qué?

Dylan Patel: Porque son 20.000 investigadores de IA, y generalmente están en mi rango de edad, así que es muy divertido, y son investigadores líderes en IA. Aprendes mucho. También hay muchas fiestas. Luego va desde eso hasta una conferencia química al azar en Japón donde hay 300 tipos japoneses. Hay 20 tipos de ASML, 20 de TSMC, 20 de Intel, y esas son las únicas personas que hablan inglés. Todos los demás solo hablan japonés, y dices: "Uh, supongo que siguen siendo bastante interesantes y divertidos".

Dylan Patel: Creo que una habilidad que tengo es que puedo conectar con cualquiera, independientemente de su origen y de quiénes sean. Puedo hablar con ellos, encontrar algo interesante de qué hablar, a menudo es sobre tecnología. Creo que las conferencias más interesantes son a menudo las realmente grandes porque ahí es donde ocurre lo más importante. Pero los nichos que son realmente emocionantes son como SPIE. Está el IEEE, que es ingeniería eléctrica internacional, y está SPIE, que es otro ecosistema. Las conferencias SPIE son súper profundas en detalles. Cada una a la que fui, especialmente SPIE Advanced Lithography o SPIE Photomask, la primera vez que fui, ni siquiera entendía el 90% de lo que escuchaba. Luego leí y leí y leí, y la siguiente vez que fui, entendí como la mitad de lo que escuchaba. La tercera vez que fui, entendí como el 75%. Incluso ahora, voy y todavía no entiendo todo lo que está pasando.

Dylan Patel: Mientras que vas a NeurIPS, y después de un par de veces, puedes entender: vale, ¿qué es el razonamiento neurosimbólico? ¿Qué es esto? ¿Qué es aquello? Puedes obtener un mapa de lo que es todo bastante rápido. Pero algunas partes de la cadena de suministro son tan arcanas, profundas y técnicas, que toma mucho tiempo incluso entender lo que está sucediendo. Por cada artículo de investigación, vas a una conferencia por algunas razones. Entiendes la investigación, pero lo que realmente te importa es entender cómo esa investigación intersecta con la tecnología y cómo esa investigación difiere de lo que existe hoy. Ninguno de estos artículos de investigación te dice lo que está sucediendo hoy, pero luego solo preguntas a la gente, construyes contactos, aprendes sobre la cadena de suministro y descubres que esta empresa suministra a esta otra empresa aunque no se indique públicamente en ninguna parte. O aprendes que este químico cuesta aproximadamente tanto, y una herramienta usa aproximadamente tanto. Escuchas las historias de terror de cómo este químico tuvo una escasez y arruinó totalmente esta parte de la cadena de suministro, y luego resulta que solo hay tres empresas en el mundo que fabrican ese químico.

Dylan Patel: Mi favorita es la que aprendí de un japonés en esa conferencia específica donde casi nadie hablaba inglés. En un inglés muy roto, me contó cómo su padre trabajaba en esta industria en la década de 1980, y la única fábrica en el mundo que construía este químico específico se incendió, y eso hizo que los precios de la memoria se duplicaran o triplicaran. Pensé: "Wow, no es muy diferente a hoy". No es una locura en absoluto.

InferenceX y evaluación comparativa de rendimiento

Sonya Huang: La inferencia va a ser el mercado más grande de la Tierra, el mercado más grande más allá de la Tierra. ¿Estás de acuerdo o en desacuerdo?

Dylan Patel: Quiero decir, obviamente, el uso de tokens va a ser el mercado más grande, y el valor que se crea a partir de los tokens va a ser el mercado más grande. Pero creo que la tokenómica, el uso de tokens, la adopción de la IA, es lo más importante que está sucediendo. Y la inferencia, ya sean modelos abiertos o modelos cerrados, será uno de los mercados más grandes del mundo, mucho más grande que el petróleo, mucho más grande que muchas otras partes. La inferencia de la IA será muchos puntos porcentuales del PIB, sí.

Sonya Huang: Lo que has hecho con InferenceX, creo que es el estándar de la industria. Tal vez di unas palabras sobre por qué lo empezaste, qué hace, y qué malinterpreta la gente sobre la evaluación comparativa (benchmarking) de rendimiento en la inferencia.

Dylan Patel: Sí, para retroceder, SemiAnalysis hace muchas cosas que son como investigación para clientes institucionales y nuestros productos de suscripción, pero gran parte también es como: "Oye, sería genial descubrir esto. Vamos a ver cómo resolverlo y simplemente publicarlo públicamente". Y eso obtiene cada vez más escala. Hemos hecho esto con muchas evaluaciones comparativas de GPU, pruebas, rendimiento de entrenamiento y rendimiento de inferencia. Pero, en última instancia, vimos que la evaluación comparativa de inferencia era puntual. La pruebas, te toma algo de tiempo, la lanzas, y es lenta, arcana y obsoleta porque los modelos cambian todo el tiempo. Cada semana hay un modelo nuevo, ya sea un modelo chino o hoy, Mythos 5, Fable salió, y nuevos modelos salen todo el tiempo.

Dylan Patel: En la capa de software, PyTorch, vLLM, S