ChipAgents-Transkript: Wie Agentic AI EDA und Chipdesign-Workflows revolutioniert
11. Juni 2025 – Interview von Semiconductor Engineering mit ChipAgents
Der Übergang von LLMs zu Agentic AI verstehen
Ann Mutschler: Ich bin Ann Mutschler, Senior Executive Editor bei Semiconductor Engineering. Ich bin hier bei ChipAgents mit Mahir Arora, um über Agentic AI zu sprechen. Mahir, danke, dass du heute bei mir bist. Kannst du erklären, was Agentic AI ist und was sie für Chipdesigner bedeutet?
Mahir Arora: Large Language Models, kurz LLMs, sind eine extrem neue Technologie, und KI-Agenten sind sogar noch neuer. Bisher hat sich weder das eine noch das andere wirklich flächendeckend in der EDA-Landschaft durchgesetzt. Um den Unterschied zwischen KI-Agenten und LLMs zu verstehen, muss man zunächst klären, was LLMs eigentlich sind und wo ihre Defizite im Hardware-Bereich liegen. Erst dann können wir darüber sprechen, wie KI-Agenten die Arbeit für Hardware-Design-Ingenieure und Verifikationsteams verbessern. Ich denke, die meisten kennen LLMs aus der praktischen Anwendung. Jeder hat schon einmal ChatGPT genutzt, um beispielsweise E-Mails zu verfassen.
[Visuelle Beschreibung: Mahir steht vor einem Whiteboard, auf dem er Diagramme skizziert hat, die die Mechanik von Large Language Models und die iterativen Feedback-Schleifen von Agentic AI erklären.]
Mahir Arora: Ich habe hier einiges auf das Whiteboard geschrieben, um die Kernkonzepte von LLMs und KI-Agenten zu erläutern. Bitte verzeih meine Handschrift, aber die Grundidee bei LLMs ist das sogenannte autoregressive Token-Prediction-Verfahren oder die autoregressive Sequenzmodellierung. Die Details dazu sind recht simpel. Wenn man ein leistungsstarkes LLM wie GPT-4o hat, kann man ihm eine Frage stellen. Die Eingabe lautet zum Beispiel: „Was ist 2 plus 2?“ Dies wird dann in Tokens zerlegt. Die genaue Methode der Tokenisierung ist zweitrangig, aber die Eingabe wird in Teile zerlegt, die das LLM verarbeiten kann. Sobald man diese Eingabe macht, kann man eine Art Einleitung voranstellen, etwa: „Die Antwort auf 2 plus 2 ist“. LLMs sind grundlegend darauf trainiert, genau diese Lücke am Ende zu füllen. Es gibt eine Art Maske am Ende, und das Modell ist darauf trainiert, dieses Token vorherzusagen.
Mahir Arora: Mathematisch gesehen berechnen LLMs eine Wahrscheinlichkeitsverteilung. Basierend auf allen vorherigen Eingabe-Tokens versuchen wir, den Wert des Unbekannten vorherzusagen. Da am Ende eine Wahrscheinlichkeitsverteilung steht und wir ein starkes LLM haben, das gut in dieser Vorhersageaufgabe ist, wird es für „2 plus 2“ mit hoher Wahrscheinlichkeit die „4“ vorschlagen. In meinem Beispiel auf dem Whiteboard zeige ich etwa 99 % Wahrscheinlichkeit für 4, 1 % für 5 und eine Wahrscheinlichkeit von eins zu einer Milliarde für etwas wie „Madagaskar“ – einfach ein zufälliges Wort. Das ist großartig, um eine spezifische Frage in dieser künstlichen Form zu beantworten, bei der wir nur eine Lücke füllen wollen. Aber was, wenn wir mehr als nur Lückentexte wollen?
Mahir Arora: Um das zu erreichen, kommen wir zur autoregressiven Sequenzmodellierung. „Auto“ bedeutet selbst, und „regressiv“ bezieht sich auf den Rückgriff auf sich selbst. Wenn ich möchte, dass mein LLM eine ganze Funktion schreibt, eine Seite Text, einen Aufsatz oder potenziellen Programmcode ausgibt, muss es denselben Prozess der Modellierung der Ausgabeverteilung für ein Token viele Male durchlaufen. Auf dem Whiteboard habe ich mein Modell mit den Eingabe-Tokens für eine Funktion namens „add“ mit öffnender Klammer gefüttert. Nun habe ich dasselbe Problem wie zuvor: Ich muss das fehlende Token maskieren. Es gibt verschiedene Möglichkeiten für die Ausgabe, zum Beispiel „num1“ oder „a“. Jeder dieser Ausgaben ist eine Wahrscheinlichkeit zugewiesen. Die Magie liegt im Sampling. Basierend auf dieser Verteilung wählen wir ein potenzielles Token aus, sagen wir „a“. Nun nehmen wir dieses „a“, schieben es zurück in die Eingabe und wiederholen den Prozess. Im zweiten Schritt haben wir „function add (a“ und das Problem beginnt von vorn. So können wir die nächste Sequenz autoregressiv modellieren.
Die Kraft der Selbstreflexion und Feedback-Schleifen
Ann Mutschler: Ich wollte dich auch nach dem Thema Selbstreflexion fragen. Welche Rolle spielt sie dabei?
Mahir Arora: Das ist eine exzellente Frage. Um über Selbstreflexion zu sprechen, müssen wir betrachten, was nach n Wiederholungen dieses Prozesses passiert. Nach n Durchläufen erhalten wir die vollständige Ausgabe, etwa „function add (a, b) { return a + b; }“, gefolgt von einem Stopp-Token. Was man hier bemerkt: Wenn ich eine Entscheidung treffe – also den Sampling-Prozess, bei dem ich „a“ als Ausgabe wähle –, muss ich mit dieser Entscheidung leben. Wenn ich später in der Sequenz etwas zurückgebe, kann ich meine Meinung nicht plötzlich ändern. Ich muss „return a + b“ sagen; ich kann nicht plötzlich „return num1 + num2“ schreiben. Frühere Entscheidungen beeinflussen zukünftige, aber nicht umgekehrt. Was, wenn ich beim Sampling einen Fehler gemacht habe? Was, wenn ich statt „a“ eine schließende Klammer ausgegeben habe? Dann stecke ich fest. Ich werde zwangsläufig etwas Falsches ausgeben. Informationen können nicht in die andere Richtung fließen. Wie beeinflussen zukünftige Entscheidungen die vergangenen? Genau hier setzen Selbstreflexion, Verfeinerung und Selbstkorrektur an. Das ist der Punkt, an dem wir über Agentic AI sprechen.
Mahir Arora: Das Erste, was man über Agenten verstehen muss: Sie bauen auf LLMs auf. Sie sind eine Technologie, die aus LLMs abgeleitet wurde, aber Agentic AI beschreibt einen gesamten Prozess, nicht nur die einmalige Nutzung eines LLMs.
Ann Mutschler: Kannst du genauer erklären, was Agenten sind?
Mahir Arora: Absolut. Um zu verstehen, was Agenten sind, muss man begreifen, dass Agentic AI ein Prozess ist. Es ist nicht nur ein einmaliger Aufruf eines LLMs. Was man bei Agenten sieht, ist die Kopplung von LLMs mit einem Suchprozess und – am wichtigsten – Feedback. Sie nutzen Feedback, um sich selbst zu korrigieren, zu stabilisieren und erfolgreich zu sein, wo LLMs normalerweise scheitern würden. Gehen wir ein Beispiel durch. Bei einem agentenbasierten Prozess könnte die Eingabe eine komplette Aufgabe sein, zum Beispiel: „Schreibe ein Verilog-Modul, etwa ein asynchrones FIFO.“ Die Details des Moduls sind zweitrangig, aber wir durchlaufen mehrere Runden.
[Visuelle Beschreibung: Mahir zeigt auf das Whiteboard, das einen mehrstufigen Agentenprozess mit Feedback von Compilern, Lintern, Testbenches und Wellenformen illustriert.]
Mahir Arora: In der ersten Runde ruft der Agent ein LLM auf, um eine potenzielle Ausgabe zu erzeugen. Es erstellt eine Datei, „fifo.sv“ in SystemVerilog. Aber wir haben immer noch die Probleme der autoregressiven Modellierung. Der Agent definiert vielleicht Eingangs-Pins, stellt aber später fest, dass er einen Wire nicht definiert hat, ihn aber verwenden möchte. Was soll er tun? Wäre es nur ein LLM, würde es den Code ausgeben, man versucht ihn zu kompilieren, es schlägt fehl – Ende der Geschichte. Das wollen wir nicht. Wir wollen Reflexion und Feedback. Nach Runde eins folgt Feedback. Das kann von Compilern, Lintern oder Testbenches kommen. Assertions können fehlschlagen, Tests können negativ ausfallen, oder Logs und Wellenformen deuten auf Fehler hin. All das prüft der Agentenprozess. Er analysiert dieses Feedback im Kontext seiner vorherigen Ausgabe, erkennt den Fehler, debuggt ihn und wiederholt den Prozess. In Runde zwei werden die Probleme behoben, und wir erhalten erneut Feedback. Das Ziel ist kein einmaliger Versuch, sondern ein System, das sich durch Feedback selbst korrigiert und stabilisiert, bis eine funktionierende Implementierung vorliegt.
KI-Agenten in der EDA und der Verilog-Eval-Benchmark
Ann Mutschler: Wie werden Agenten in EDA-Tools Einzug halten?
Mahir Arora: Das ist eine wichtige Frage. Bei ChipAgents entwickeln wir ein Produkt, das speziell für EDA konzipiert ist und Agenten in den täglichen EDA-Workflow integriert. Die Anwendungsfälle sind vielfältig. Ein wichtiger Punkt: Die Performance von LLMs in der Hardware-Entwicklung im Vergleich zu Agenten ist dramatisch unterschiedlich. Es gibt einen bekannten Benchmark namens „Verilog-Eval“, der von Nvidia entwickelt wurde. Wenn man ein Standard-LLM nutzt, um eine natürlichsprachliche Beschreibung in ein funktionales Verilog-Modul zu übersetzen, ist die Performance miserabel. Selbst ein starkes Modell wie GPT-4o, das bei Python-Softwareaufgaben exzellent abschneidet, erreicht bei Verilog-Aufgaben nur etwa 50 % Genauigkeit. Das ist eine ungenügende Leistung. Sobald man LLMs jedoch in einen Agentenprozess einbettet, schießt die Performance enorm in die Höhe, in den Bereich von 80 % bis 90 %. Mit weiteren Optimierungen können wir sogar 99 % bis 99,7 % erreichen. Durch Agenten sättigen wir diese Benchmarks. Während LLMs allein dazu nicht fähig sind, können Agenten es.
Mahir Arora: Das erklärt, warum LLMs bisher nicht im Alltag von Hardware-Ingenieuren angekommen sind: Sie sind nicht zuverlässig genug. KI-Agenten hingegen schon. Unsere Kunden nutzen KI-Agenten heute vor allem für Rapid Prototyping. Ein Design-Ingenieur möchte verschiedene mikroarchitektonische Entscheidungen explorieren und Power, Performance und Area (PPA) bewerten. Man möchte die Pareto-Front finden. Der Aufwand für den Aufbau solcher Experimente ist jedoch hoch – Build-Skripte, Test-Harnesses, Simulationen. Hier leisten Agenten fantastische Arbeit. Man gibt die Mikroarchitektur-Beschreibung vor, und der Agent sammelt autonom Informationen aus Repositories, Dokumentationen und Spezifikationen. Er erstellt einen Langzeitplan, implementiert das Modul unter Nutzung der Selbstkorrektur und kümmert sich um die Integration in die bestehende Infrastruktur, führt Tests durch und berichtet die Ergebnisse.
Optimierung von Verifikation und Systemanalyse
Ann Mutschler: Du hast die Verifikation erwähnt, die für jedes Team eine große Herausforderung darstellt. Welche Rolle spielen KI-Agenten hier?
Mahir Arora: Die Verifikation ist deshalb so schwierig, weil die Komplexität der Chips exponentiell wächst. Wir sprechen von Billionen von Transistoren, Milliarden auf einem einzelnen System-on-Chip (SoC). Wie soll man diese Komplexität beherrschen? Das Hauptproblem der Verifikationsingenieure ist, dass sie ein mentales Modell des gesamten Subsystems aufbauen müssen. Sie verifizieren nicht nur ein Modul, sondern ein ganzes Subsystem. Wie extrahiert man diese Informationen? Für einen Menschen ist es extrem schwierig, Zehntausende Zeilen Code zu lesen. KI-Agenten können das. Man kann einen Agenten auf eine offene Aufgabe ansetzen, etwa den Datenfluss durch ein komplexes System zu verstehen. Der Agent erstellt einen hierarchischen Plan, sucht an verschiedenen Stellen, korrigiert seinen Plan bei Bedarf selbst und fasst die Informationen zusammen. So weiß man genau, wie Daten fließen, welche Edge-Cases zu berücksichtigen sind und welcher Stimulus nötig ist.
Der tägliche Einfluss auf Design- und Verifikationsteams
Ann Mutschler: Wie sieht das konkret im Arbeitsalltag eines Ingenieurs aus?
Mahir Arora: KI-Agenten sind ein enormer Hebel für Einzelpersonen, die zu viele Aufgaben haben. Ob Design oder Verifikation – man hat neben der Hauptaufgabe so viele Zusatzaufgaben: Testbenches aufbauen, UVM-Sequenzen schreiben usw. Mit KI-Agenten kann man diese Aufgaben asynchron im Hintergrund erledigen lassen. Ein Verifikationsingenieur nimmt seinen Plan und eine bestehende Testbench, etwa von einem Prozessor der vorherigen Generation, und lässt den Agenten die Bench um neue Sequenzen erweitern. Das lässt kleine Teams wie viel größere wirken. Wir sind selbst ein Startup und arbeiten mit vielen anderen Startups sowie großen Konzernen zusammen. Der Multiplikatoreffekt durch KI-Agenten ist gewaltig. Ein paar Senior-Ingenieure fühlen sich plötzlich wie ein Team, das von einer Armee von Junior-Ingenieuren unterstützt wird.
Beschleunigtes Onboarding für Junior-Ingenieure
Ann Mutschler: Wie hilft das Junior-Ingenieuren, schneller produktiv zu werden?
Mahir Arora: Das ist eine exzellente Frage. Das Problem beim Onboarding ist die schiere Menge an Code. Man muss ein mentales Modell aufbauen, um den Code zu verstehen. Das ist für Menschen mit begrenzter Lesegeschwindigkeit extrem schwierig. LLMs und KI-Agenten können aufgrund ihrer parallelen Verarbeitungsfähigkeit viel schneller lesen. Man kann einen Agenten fragen, wie das System funktioniert, und er erstellt ein Blockdiagramm eines Datenpfads. Er findet alle notwendigen Informationen und dokumentiert sie. Das hilft neuen Ingenieuren enorm, ein solides Verständnis für die Architektur komplexer Systeme zu entwickeln.
IP-Sicherheit und Rechenkapazitäten
Ann Mutschler: Sicherheit ist ein kritisches Thema bei KI. Wie geht man damit bei ChipAgents um?
Mahir Arora: Sicherheit ist immer ein zentraler Punkt. IP ist das höchste Gut. Wie bewahrt man diese Sicherheit und nutzt dennoch die Produktivitätsvorteile? Das hängt vom Unternehmen ab. Die besten Agenten basieren auf großen Basismodellen, die auf agentenspezifischen Daten feinabgestimmt sind – das erfordert enorme Rechenleistung. Manche Unternehmen haben diese Serverkapazitäten, andere müssen in die Cloud ausweichen. Bei ChipAgents gehen wir auf verschiedene Bedürfnisse ein. Manche Kunden nutzen unsere Cloud-Deployments, bei denen wir GPU-Zeit mieten. Wir garantieren, dass alle Daten bei der Übertragung und im Speicher verschlüsselt sind oder nur flüchtig im Arbeitsspeicher verarbeitet werden. Sehr große Unternehmen mit spezifischen Anforderungen bitten uns oft, in ihrer eigenen Cloud zu deployen. Wir richten das dann kurzzeitig in deren AWS-Account ein, damit sie es intern nutzen können.
Ann Mutschler: Mahir, danke für diese Erklärungen.
Mahir Arora: Vielen Dank für deine Zeit.