SemiAnalysis-Transkript: Warum Hardware-Software-Co-Design der wahre Effizienztreiber für KI ist
5. Juli 2026 – Sequoia Capital Podcast-Interview mit Dylan Patel
Einführung und das Wachstum von SemiAnalysis
Shaun Maguire: Ich finde es wirklich spannend bei SemiAnalysis, weil ihr 90 Leute seid, von denen ein Großteil Technologen und Ingenieure aus der gesamten Lieferkette sind, während ein anderer großer Teil aus Leuten besteht, die früher bei Hedgefonds gearbeitet haben. Man erlebt diese Diskussionen, in denen Leute sagen: „Ach, das spielt keine Rolle“, und dann kommt jemand anderes mit: „Ja, aber die Kosten“, und dann sagt der Ingenieur: „Nein, nein, nein, aber diese Technologie ist die coolste.“ Man sieht, wie das organisch ausgefochten wird. Wir sind ziemlich informell, und wenn man bedenkt, dass du Foren-Moderator warst, kann man sich vorstellen, wie das Umfeld dort ist.
Dylan Patel: Man ringt nicht mit einem Schwein, weil das Schwein es genießt, oder? Genau.
Shaun Maguire: Wir sind hier im Büro von SemiAnalysis mit Dylan Patel. Ich bin Shaun von Sequoia, und meine Partnerin Sonya Huang ist auch hier. Es ist ziemlich verrückt, was du aufgebaut hast. Halbleiter waren vor fünf Jahren im Westen nicht besonders sexy. Im Osten waren sie es, aber die Leute hier im Westen hatten sie irgendwie vergessen. Du hast sie jedoch nicht vergessen. Du hast voll auf sie gesetzt. Du hast wahrscheinlich das führende Forschungsunternehmen in diesem Bereich geschaffen, das die Welt über den Stand der Technik aufklärt – von sehr technischen Details über die Lieferkette bis hin zum großen Ganzen. Es gibt Gerüchte, dass SemiAnalysis kürzlich die Marke von 100 Millionen Dollar Umsatz überschritten hat. Ich weiß nicht, wie genau diese Zahlen sind. Was auch immer die Zahlen sind, ihr leistet großartige Arbeit.
Dylan Patel: Sie sind so genau wie die Informationen, die vorliegen. Ja, cool. Man weiß es nie so genau.
Shaun Maguire: Es gibt auch Gerüchte, dass du einen Venture-Fonds gründen könntest. Ich höre ständig im Ökosystem, dass Leute eine Verbindung zu SemiAnalysis suchen. Du hast diese vertrauenswürdige Marke aufgebaut, und was auch immer du tust, es funktioniert. Das ist eindeutig erst der Anfang deiner Reise. Herzlichen Glückwunsch dazu. Aber wie ist es dazu gekommen? Meine erste Frage ist: Was ist dein Hintergrund? Wie bist du dort gelandet, wo du jetzt bist?
Ursprünge im Motel
Dylan Patel: Nun, als ich als kleiner Junge aus dem Mutterleib kam... Nein. Also, ich bin in einem kleinen Familienbetrieb aufgewachsen. Meine Eltern hatten ein Motel, und wir lebten in diesem Motel. Später hatten wir eine Tankstelle. Ich habe also schon früh verkauft. Ich scherze oft, dass das erste neuronale Netz, das ich trainiert habe, darin bestand, Leute visuell und nach Herkunft zu profilieren, wenn sie in die Tankstelle kamen, um zu entscheiden, welche Zigarettenmarke ich greifen sollte. Die Zigaretten waren oben in einem Regal ausgestellt, und ich war zu klein, um sie zu erreichen. Technisch gesehen war es in diesem Alter nicht legal, Zigaretten zu verkaufen, aber egal, ich musste den Trittschemel an die richtige Stelle schieben.
Shaun Maguire: Ich habe auch meinen ersten Job angefangen, bevor es legal war. Das ist gute Erfahrung.
Dylan Patel: Nun, ich wurde nicht bezahlt, oder? Es war ein Familienbetrieb.
Shaun Maguire: Bei mir genauso.
Dylan Patel: Aber ja, wir hatten unser Motel, und gegenüber war unsere Tankstelle. Manchmal kam jemand rein, und wenn eine ältere weiße Frau mit lockigem Haar hereinkam, schob ich die Leiter oder den Trittschemel dorthin, wo die Camels standen. Je nach Alter, Demografie, Beruf, Herkunft usw. schob ich den Trittschemel hin und her. Ich scherze, dass dies das erste neuronale Netz war, das ich trainiert habe, denn wenn ich gewartet hätte, bis sie mir sagen, was sie wollen, hätte ich den Trittschemel erst bewegen und dann draufsteigen müssen, anstatt einfach bereit zu sein. Menthols gegen 100er Slims und all diese Dinge. Ich scherze, dass das mein erstes neuronales Netz war. Aber ich bin in Familienbetrieben aufgewachsen, habe in einem Motel gelebt, und alles geht eigentlich auf meinen 8. Geburtstag zurück.
Xbox-Reparatur und der Funke für Hardware-Leidenschaft
Dylan Patel: Mein Geburtstag ist im Mai, und es war April, als die Xbox 360 angekündigt wurde. Zu meinem Geburtstag habe ich mir nicht die Xbox gewünscht, oder ich habe mir kein Geburtstagsgeschenk gewünscht. Meine Eltern fragten, was ich wolle, und ich bat darum, sie zu Weihnachten zu bekommen. Wir feierten Weihnachten, aber ich dachte, es gäbe keine Chance, dass sie mir die Xbox 360 zu Weihnachten schenken würden, also bat ich zu meinem Geburtstag darum, sie zu Weihnachten zu bekommen. Wie dem auch sei, Weihnachten kam, und ich bekam sie. Ein paar Monate später sollte mein Cousin, der in Alabama lebt – sie lebten auch in einem Motel –, über die Frühlingsferien zu Besuch kommen. Wir wollten einfach bei mir zu Hause abhängen. Er liegt vom Alter her zwischen mir und meinem älteren Bruder. Mein Bruder war eher der sportliche Typ, also interessierte er sich nicht so sehr für die Xbox. Er spielte manchmal, aber es war ihm nicht wirklich wichtig. Aber mein Cousin – ich wollte, dass er mich cool findet, oder? Also habe ich am Telefon mehrmals damit geprahlt. Ich sagte: „Ja, ich habe eine Xbox.“ Und dann ging die Xbox kaputt. Es gab einen Hardware-Defekt namens „Red Ring of Death“.
Dylan Patel: Lange Rede, kurzer Sinn: Ich musste sie öffnen und den Temperatursensor kurzschließen, und das hat das Problem behoben. Es gab viele andere Tricks, die ich zuerst versucht hatte, und keiner davon funktionierte. So bin ich also zur Hardware gekommen. Es hat die Büchse der Pandora geöffnet. Mit 12 Jahren war ich bereits viel in diesen Foren unterwegs, habe gelesen und Beiträge geschrieben.
Von Internetforen zu Halbleitern
Dylan Patel: Das war ungefähr die Zeit, als Reddit alle anderen Foren verdrängte, also wurde ich Moderator für Android, Apple und Google sowie für Hardware und beobachtete Intel, Nvidia und AMD in all diesen anderen Foren. Ich war auf „Build a PC“. Ich habe all diese Foren beobachtet, gelesen und viel gepostet, einige davon habe ich auch moderiert. Ich habe die Entwicklung von Smartphones von sehr einfach bis hin zu Hochleistungsgeräten verfolgt – sie waren architektonisch in vielerlei Hinsicht fortschrittlicher als PCs. Dasselbe galt für GPUs. Ich habe das alles beobachtet, jeden Kommentar gelesen und immer den wirtschaftlichen Aspekt im Blick gehabt, weil ich in einem kleinen Unternehmen aufgewachsen bin. Ich habe also immer auf die Wirtschaftlichkeit geschaut. Es gab eine Zeit, in der alle Internet-Nerds AMD-GPUs liebten, und ich selbst hatte mir wegen des Preis-Leistungs-Verhältnisses auch eine AMD-GPU gekauft. Aber wenn es darum ging, was technisch besser ist, sagte ich immer: „Nein, Nvidia ist besser, weil sie einen kleineren Chip verwenden, um eine bessere Leistung bei besserer Energieeffizienz zu erzielen, und ihre Marge ist besser.“ Ich habe also immer darüber gesprochen, dass die Margen von Nvidia in der GPU-Landschaft besser sind als die von AMD, und das hat viel Spaß gemacht.
Shaun Maguire: Und du warst damals 12.
Dylan Patel: Ich habe mit 12 angefangen zu moderieren, aber das zieht sich durch meine gesamte Teenagerzeit und meine Highschool-Jahre.
Shaun Maguire: Hattest du noch andere seltsame Hobbys, oder waren es nur Halbleiter?
Dylan Patel: Ich habe eine Menge Starcraft gespielt. Irgendwann war ich Grandmaster auf der nordamerikanischen Rangliste in Starcraft 2. Sehr ernsthaft.
Shaun Maguire: Du bist also obsessiv gut in mehreren Dingen geworden.
Dylan Patel: Ja, Besessenheit ist gut.
Shaun Maguire: Wie waren deine Noten?
Dylan Patel: Sie waren ordentlich. Ich würde sagen, ich hatte meistens Einsen, aber es gab Fächer, die ich wirklich langweilig fand oder die mir einfach keinen Spaß machten. In Spanisch zum Beispiel hatte ich nicht die besten Noten, obwohl ich übrigens fließend Spanisch spreche, was wirklich dumm ist.
Shaun Maguire: Vielleicht hast du deshalb keine gute Note bekommen.
Dylan Patel: Ich habe Spanisch erst später gelernt, um fair zu sein. Aber ja, meine Noten waren in Ordnung. Sie waren gut genug für asiatische Eltern. Ich war besser als die meisten in der Schule, aber es war kein „Über-Anstrengen“ für nur Einsen.
Shaun Maguire: Okay, du bist also sehr stark ein Schüler des Internets. So hast du diese Expertise entwickelt. An welchem Punkt hast du dich entschieden, SemiAnalysis zu gründen, und was war die größte Überraschung seit der Gründung des Unternehmens?
Vom Quant zum Gründer
Dylan Patel: Ja, also ich bin zur Uni gegangen und habe ein paar Abschlüsse in Fächern gemacht, die nichts mit Halbleitern zu tun hatten. Ich war zwei Jahre lang Quant bei einer kleinen Risikofirma. Dann kam es im Grunde zu einer Häufung von Ereignissen. Erstens wurde ich um einen Bonus betrogen. Ich hatte meinem Unternehmen viele Millionen an Umsatz eingebracht – risikofreien Umsatz –, weil ich eine Marktlücke ausgenutzt hatte, weit über 10 Millionen Dollar, und dann hat jemand anderes die Anerkennung für meine Arbeit geerntet. Schließlich wurde ich „right-sized“, aber ich hatte das Vertrauensverhältnis zu dem Unternehmen, für das ich arbeitete, verloren. Meine Großeltern wuchsen bei uns im Haus oder im Motel auf, sie lebten bei uns, also stand ich ihnen sehr nahe. Meine Großmutter bekam Demenz, sie vergaß, wer ich war, und sie stürzte eine Treppe hinunter, hatte einen tragischen Unfall und verstarb. All das passierte Anfang 2020. Zusätzlich gab es einige Beziehungsprobleme, also gab es ein paar Dinge, die mich sehr traurig machten. Dann kam COVID, und mein Bruder sagte: „Kumpel, komm einfach zu mir.“ Er lebte in Nashville, also kam ich zu ihm nach Nashville. Wir dachten: „Oh, die Lockdowns dauern ein paar Wochen. Du kannst bei mir bleiben, während sie andauern, und dann kannst du wieder nach Hause gehen.“ Berühmte letzte Worte. Die Lockdowns dauerten viel länger.
Dylan Patel: Da ich einige Monate bei meinem Bruder wohnte, wusste ich nicht, was ich tun sollte. Ich war jetzt bei meinem Bruder zu Hause, alles folgte seinen Regeln. Er und seine damalige Verlobte, jetzt Ehefrau, waren da, also musste ich im Grunde auf Zehenspitzen herumlaufen. Aber mein Job war mir egal, also habe ich noch mehr gepostet als sonst. Ich hatte schon immer viel im Internet gepostet. Ich hatte schon immer viel mit Aktien gehandelt. Ich habe eine Menge Geld damit verdient, auf COVID zu wetten und gegen COVID zu wetten und all diese Dinge. Halbleiterengpässe traten damals auch auf. Wie dem auch sei, ich war sehr besessen vom Posten und solchen Dingen.
Dylan Patel: Irgendwann in dieser Zeit hat mich jemand, mit dem ich im Internet in einen Streit geraten war, gedoxt. Er hat meine Identität von meinem anonymen Account aus öffentlich enthüllt. Zu der Zeit hatte ich Angst und hörte drei Wochen lang auf zu posten. Ich fragte mich: „Was mache ich da? Warum kümmert mich das?“ Also fing ich einfach an zu posten. Ich hatte auch Blogs und so weiter, aber ich habe einen richtigen Blog gemacht, SemiAnalysis, und an meinem 24. Geburtstag habe ich zwei Blogbeiträge veröffentlicht. Von da an bekam es so viel Zugkraft, weil es jetzt nicht mehr unter einem anonymen Namen war, sondern unter einem echten Namen, und ich habe viel mehr Mühe in diese zwei Beiträge gesteckt als üblich. Anstatt nur im Internet zu posten, war es echte Arbeit für den Blog. Man kann sie tatsächlich zurückverfolgen und lesen, wenn man möchte. Sie sind nicht so toll, aber sie waren gut für die damalige Zeit. Es war das Beste, was man im Internet über Halbleiter finden konnte, und ich habe einfach weiter gepostet, gepostet, gepostet. Ich fing an, eine Menge Beratungsaufträge zu bekommen.
Obdachlose Forschungs-Roadtrip
Dylan Patel: Im Jahr 2020 war ich wieder am Ende und wusste nicht, was ich tun wollte, also packte ich alles zusammen. Ich nahm meinen Truck, kaufte ein Zelt, das auf die Ladefläche passt, kaufte eine Luftmatratze und fuhr durch all diese Nationalparks in ganz Amerika. Zwei, drei oder vier Tage die Woche übernachtete ich in einem zufälligen Motel, wo ich den Preis auf etwa 30 Dollar pro Nacht aushandelte, und arbeitete an einigen dieser Dinge. An den Wochenenden las ich Bücher, oft Lehrbücher, während ich in irgendeinem Nationalpark war oder wanderte, und hörte Hörbücher über Halbleiter, über KI, über all die Dinge, die mir sehr am Herzen lagen. Ich habe mich in diesen sechs Monaten, in denen ich jeden Nationalpark besuchte, viel weitergebildet. Die ganze Zeit war ich allein, und die ganze Zeit habe ich Blogbeiträge gepostet. Alle fragten: „Dylan, was machst du da?“
Shaun Maguire: War das vor Starlink oder in der sehr frühen Phase von Starlink?
Dylan Patel: Vor Starlink. Ja, es war also sehr stark ein „Was machst du da?“. Ich bin wieder ein Jahr lang durch Lateinamerika gereist, zuerst mit meinem Freund und dann mit meiner Ex, und dann, in den Jahren 2022, 2023 und 2024, war ich seit Mitte 2020 immer noch komplett obdachlos. Aber ich bin zu jeder Konferenz auf der Welt gereist. Ich war bei über 40 Konferenzen pro Jahr, egal wo in der Lieferkette sie angesiedelt waren. Ich dachte mir: „Oh, das sieht interessant aus, ich denke, da gehe ich hin.“ Ich ging zu einer Konferenz und dachte: „Wow, das ist fantastisch.“ Man kann mit den Experten sprechen, und sie sprechen mit einem, weil bei Halbleitern jeder ein Boomer ist, also ist es großartig. Sie sehen keine jungen Leute, die sich dafür begeistern, also sind sie wirklich froh, einem Dinge zu erzählen. Man muss nur fragen.
Shaun Maguire: Gab es in Bezug darauf einen Teil der Lieferkette oder eine dieser Konferenzen, die deine Sicht auf die Halbleiterwelt besonders verändert hat oder von der du damals oder heute denkst, dass sie besonders unterschätzt wird?
Dylan Patel: Ich denke, die Messen und Konferenzen sind sehr unterschiedlich. Natürlich gehören zu denen, bei denen ich am meisten Spaß habe, die NeurIPS.
Shaun Maguire: Warum ist das so?
Dylan Patel: Weil es 20.000 KI-Forscher sind, und sie sind im Allgemeinen in meinem Alter, also macht es viel Spaß, und sie sind führende KI-Forscher. Man lernt viel. Es gibt auch viele Partys. Dann reicht es bis hin zu einer zufälligen Chemikonferenz in Japan, wo 300 japanische Männer sind. Es gibt 20 Leute von ASML, 20 Leute von TSMC, 20 Leute von Intel, und das sind die einzigen Leute, die Englisch sprechen. Alle anderen sprechen nur Japanisch, und man denkt sich: „Äh, ich schätze, sie sind immer noch ziemlich interessant und unterhaltsam.“
Dylan Patel: Ich denke, eine Fähigkeit, die ich habe, ist, dass ich eine Bindung zu jedem aufbauen kann, unabhängig von seinem Hintergrund und wer er ist. Ich kann mit ihnen sprechen, etwas Interessantes finden, über das wir reden können, oft ist es die Technik. Ich denke, die interessantesten Konferenzen sind oft die wirklich großen, weil dort die größten Dinge passieren. Aber die Nischen, die wirklich spannend sind, sind Dinge wie SPIE. Es gibt IEEE, das ist internationale Elektrotechnik, und es gibt SPIE, das ist ein weiteres Ökosystem. SPIE-Konferenzen gehen extrem tief in die Details. Jedes Mal, wenn ich hinging, besonders zur SPIE Advanced Lithography oder SPIE Photomask, habe ich beim ersten Mal nicht einmal 90 % von dem verstanden, was ich gehört habe. Dann habe ich gelesen und gelesen und gelesen, und beim nächsten Mal habe ich etwa die Hälfte von dem verstanden, was ich gehört habe. Beim dritten Mal habe ich etwa 75 % verstanden. Selbst jetzt gehe ich hin und verstehe immer noch nicht alles, was vor sich geht.
Dylan Patel: Wenn man hingegen zur NeurIPS geht, kann man nach ein paar Malen verstehen: Okay, was ist neurosymbolisches Denken? Was ist dies? Was ist das? Man kann sich ziemlich schnell einen Überblick verschaffen, was alles ist. Aber einige Teile der Lieferkette sind so geheimnisvoll, tiefgründig und technisch, dass es viel Zeit braucht, bis man überhaupt versteht, was passiert. Für jedes Forschungspapier geht man aus ein paar Gründen zu einer Konferenz. Man versteht die Forschung, aber was einen wirklich interessiert, ist zu verstehen, wie diese Forschung mit der Technologie interagiert und wie sich diese Forschung von dem unterscheidet, was heute existiert. Keines dieser Forschungspapiere sagt einem, was heute passiert, aber dann fragt man Leute, baut Kontakte auf, lernt die Lieferkette kennen und findet heraus, dass dieses Unternehmen dieses Unternehmen beliefert, obwohl es nirgendwo öffentlich angegeben ist. Oder man erfährt, dass diese Chemikalie ungefähr so viel kostet und ein Werkzeug ungefähr so viel verbraucht. Man hört die Horrorgeschichten darüber, wie diese Chemikalie einen Engpass hatte und diesen Teil der Lieferkette völlig durcheinandergebracht hat, und dann stellt sich heraus, dass es nur drei Unternehmen auf der Welt gibt, die diese Chemikalie herstellen.
Dylan Patel: Mein Favorit ist, dass ich von einem Japaner auf dieser speziellen japanischen Konferenz, auf der fast niemand Englisch sprach, gelernt habe. In sehr gebrochenem Englisch erzählte er mir, wie sein Vater in den 1980er Jahren in dieser Branche arbeitete und die einzige Fabrik der Welt, die diese spezielle Chemikalie herstellte, niederbrannte, was dazu führte, dass sich die Speicherpreise verdoppelten oder verdreifachten. Ich dachte: „Wow, gar nicht so anders als heute.“ Überhaupt nicht verrückt.
InferenceX und Performance-Benchmarking
Sonya Huang: Inferenz wird der größte Markt der Welt sein, der größte Markt jenseits der Erde. Stimmst du zu oder nicht?
Dylan Patel: Ich meine, natürlich wird die Nutzung von Tokens der größte Markt sein, und der Wert, der durch Tokens geschaffen wird, wird der größte Markt sein. Aber ich denke, Tokenomics, die Nutzung von Tokens, die Einführung von KI, ist das Wichtigste, was passiert. Und Inferenz, ob es sich um offene oder geschlossene Modelle handelt, wird einer der größten Märkte der Welt sein, viel größer als Öl, viel größer als viele andere Bereiche. Die Inferenz von KI wird viele Prozentpunkte des BIP ausmachen, ja.
Sonya Huang: Was du mit InferenceX gemacht hast, ist meiner Meinung nach der Industriestandard. Sag vielleicht ein Wort dazu, warum du es gestartet hast, was es macht und was die Leute beim Performance-Benchmarking von Inferenz missverstehen?
Dylan Patel: Ja, um einen Schritt zurückzutreten: SemiAnalysis macht viele Dinge, wie Forschung für institutionelle Kunden und unsere Abonnementprodukte, aber vieles davon ist auch so: „Hey, das wäre einfach cool herauszufinden. Lass uns herausfinden, wie man das herausfindet, und es einfach öffentlich posten.“ Und das bekommt immer mehr Skalierung. Wir haben das mit vielen GPU-Benchmarks, Tests, Trainingsleistung und Inferenzleistung gemacht. Aber letztendlich haben wir gesehen, dass Inferenz-Benchmarking eine Momentaufnahme war. Man testet es, man braucht einige Zeit, man veröffentlicht es, und es ist langsam, geheimnisvoll und veraltet, weil sich Modelle ständig ändern. Jede Woche gibt es ein neues Modell, ob es ein chinesisches Modell ist oder heute, Mythos 5, Fable wurde veröffentlicht, und ständig kommen neue Modelle heraus.
Dylan Patel: Auf der Softwareebene, PyTorch, vLLM, S