ChipAgents 인터뷰: 에이전트형 AI가 EDA와 칩 설계 워크플로를 혁신하는 방법
2025년 6월 11일 - Semiconductor Engineering, ChipAgents 인터뷰
LLM에서 에이전트형 AI로의 전환 이해하기
Ann Mutschler: Semiconductor Engineering의 수석 편집장 Ann Mutschler입니다. 오늘 ChipAgents의 Mahir Arora와 함께 에이전트형 AI(Agentic AI)에 대해 논의하고자 합니다. Mahir, 오늘 시간 내주셔서 감사합니다. 에이전트형 AI란 무엇이며, 칩 설계자에게 어떤 의미가 있는지 설명해주시겠습니까?
Mahir Arora: 거대언어모델(LLM)은 매우 최근에 등장한 기술이며, AI 에이전트는 그보다 더 최근의 기술입니다. 아직 이 기술들이 EDA(전자설계자동화) 분야 전반에 완전히 확산되지는 않았습니다. AI 에이전트와 LLM의 차이를 제대로 이해하려면, 먼저 LLM이 무엇인지, 하드웨어 분야에서 어떤 한계가 있는지 살펴본 뒤, AI 에이전트가 하드웨어 설계 엔지니어와 검증 팀에게 어떤 이점을 제공하는지 논의하는 것이 순서일 것입니다. 대부분의 실무자는 ChatGPT와 같은 도구를 통해 이메일 초안을 작성하는 등 LLM을 경험해 보셨을 겁니다.
[시각 자료: Mahir가 화이트보드 앞에 서서 거대언어모델의 메커니즘과 에이전트형 AI의 반복적 피드백 루프를 설명하는 도표를 그리고 있다.]
Mahir Arora: 여기 화이트보드에 LLM과 AI 에이전트의 핵심 개념을 적어두었습니다. 악필이라 양해 부탁드립니다. LLM의 핵심 아이디어는 '자기회귀 토큰 예측(autoregressive token prediction)' 또는 '자기회귀 시퀀스 모델링'이라는 과정을 거친다는 점입니다. 구체적인 의미는 간단합니다. GPT-4o 같은 강력한 LLM에 "2 더하기 2는?"이라는 질문을 던진다고 가정해 봅시다. 이 질문은 토큰화 과정을 거칩니다. 토큰화 방식은 중요하지 않지만, 입력값이 LLM이 이해할 수 있는 단위로 분해된다는 점이 핵심입니다. 질문과 함께 "2 더하기 2는"이라는 서문을 제공하면, LLM은 기본적으로 문장 끝의 빈칸을 채우도록 훈련됩니다. 일종의 '마스크'가 씌워진 마지막 부분을 예측하는 것이죠.
Mahir Arora: 수학적으로 LLM은 확률 분포를 예측합니다. 이전 입력 토큰들을 바탕으로 알 수 없는 값의 확률을 계산하는 것입니다. 강력한 LLM은 이 예측 작업에 능숙하므로, '2 더하기 2'에 대해 4가 나올 확률을 99%로, 5가 나올 확률을 1%로, 그리고 무작위 단어인 '마다가스카르'가 나올 확률을 10억 분의 1 정도로 제시할 것입니다. 이는 단순히 질문에 답하거나 빈칸을 채우는 데는 훌륭합니다. 하지만 단순히 빈칸 채우기 이상의 작업이 필요하다면 어떨까요?
Mahir Arora: 이를 위해 자기회귀 시퀀스 모델링이 필요합니다. 'Auto(자기)'와 'Regressive(회귀)'의 합성어인 이 기술은, 모델이 전체 함수나 에세이, 코드베이스 전체를 작성해야 할 때 한 번의 토큰 예측을 수없이 반복하는 과정을 의미합니다. 여기 화이트보드 예시를 보면, 'add'라는 함수에 괄호를 연 상태로 모델에 입력했습니다. 이제 '마스크'라고 표시한 빈칸을 채워야 합니다. 'num1'이나 'a' 같은 토큰이 올 수 있고, 각각 확률이 할당됩니다. 마법은 샘플링에서 일어납니다. 확률 분포에 따라 잠재적인 출력 토큰을 샘플링하는 것이죠. 예를 들어 'a'가 선택되었다면, 이 'a'를 다시 입력값으로 넣어 과정을 반복합니다. 2단계에서는 '함수 add, 괄호, a'가 입력되고, 다음 시퀀스를 모델링하는 과정이 계속됩니다.
자기 성찰과 피드백 루프의 힘
Ann Mutschler: '자기 성찰(self-reflection)'에 대해서도 묻고 싶습니다. 이 과정에서 어떤 역할을 하나요?
Mahir Arora: 좋은 질문입니다. 자기 성찰을 이해하려면 n번의 반복 과정 이후에 무슨 일이 일어나는지 알아야 합니다. 반복이 끝나면 '함수 add, a, b, return a plus b'와 같은 전체 출력이 나오고, 종료 토큰이 생성됩니다. 여기서 중요한 점은 샘플링 과정에서 내린 결정, 즉 'a'를 선택했다면 그 결정을 안고 가야 한다는 것입니다. 나중에 'return a plus b'라고 출력해야 할 때 갑자기 마음을 바꿔 'return num1 plus num2'라고 할 수 없습니다. 과거의 결정이 미래의 결정에 영향을 주지만, 반대는 불가능합니다. 만약 샘플링 과정에서 실수로 괄호를 닫아버렸다면 어떻게 될까요? 그 시점에서 모델은 잘못된 길로 빠지게 됩니다. 정보가 역방향으로 흐를 수 없기 때문입니다. 잘못된 과거 결정은 잘못된 미래 결정을 초래하고, 결국 전체 결과가 틀리게 됩니다. 여기서 바로 자기 성찰, 정교화, 자기 교정이 필요하며, 이것이 바로 에이전트형 AI의 영역입니다.
Mahir Arora: 에이전트는 LLM 위에 구축됩니다. LLM에서 파생된 기술이지만, 에이전트형 AI는 단순한 LLM 활용이 아닌 하나의 '프로세스' 그 자체입니다. 에이전트가 어떻게 자기 교정을 통해 문제를 해결하는지 설명해 드리겠습니다.
Ann Mutschler: 에이전트가 무엇인지 좀 더 자세히 설명해주시겠습니까?
Mahir Arora: 물론입니다. 에이전트형 AI는 단일 LLM 호출이 아닌 하나의 프로세스입니다. 에이전트는 LLM에 검색 프로세스, 그리고 가장 중요한 '피드백'이 결합된 형태입니다. 피드백을 통해 스스로를 교정하고 안정화하며, LLM이 실패할 만한 작업에서 성공을 이끌어냅니다. 예를 들어, 비동기 FIFO와 같은 Verilog 모듈을 작성하는 작업을 에이전트에 맡긴다고 해봅시다.
[시각 자료: Mahir가 컴파일러, 린터, 테스트벤치, 파형으로부터 피드백을 받는 다단계 에이전트 프로세스를 설명하는 화이트보드를 가리키고 있다.]
Mahir Arora: 첫 번째 단계에서 에이전트는 LLM을 호출하여 'fifo.sv' 파일을 생성합니다. 하지만 앞서 언급한 자기회귀 모델링의 문제점이 발생할 수 있습니다. 예를 들어, 특정 입력 핀을 정의해놓고 정작 사용은 하지 않거나, 정의되지 않은 와이어를 사용하려 할 수 있습니다. 순수 LLM이라면 여기서 끝이겠지만, 에이전트형 프로세스는 다릅니다. 컴파일러, 린터, 테스트벤치, 파형 출력 등 다양한 경로로부터 피드백을 받습니다. 에이전트는 이 피드백을 이전 출력값과 대조하여 오류를 파악하고, 디버깅을 거쳐 수정합니다. 이 과정을 반복하여 최종적으로는 스스로 교정하고 안정화된 올바른 구현물을 만들어냅니다.
EDA의 AI 에이전트와 Verilog-Eval 벤치마크
Ann Mutschler: 에이전트가 EDA 툴에 어떻게 적용될까요?
Mahir Arora: 좋은 질문입니다. ChipAgents는 일상적인 EDA 워크플로의 일부로 에이전트를 활용하는 제품을 만듭니다. 하드웨어 분야에서 LLM의 성능과 에이전트의 성능은 확연히 다릅니다. Nvidia가 개발한 'Verilog-Eval' 벤치마크를 보면, 자연어 설명을 기능적인 Verilog 모듈로 변환하는 작업에서 표준 LLM의 성능은 매우 저조합니다. 파이썬 소프트웨어 작업에는 탁월한 GPT-4o조차 Verilog 작업에서는 약 50%의 정확도에 그칩니다. 이는 낙제점입니다. 하지만 LLM을 에이전트 프로세스로 감싸면 정확도가 80~90%대로 급상승합니다. 최적화 과정을 거치면 99% 이상까지 도달할 수 있습니다. LLM 단독으로는 불가능한 일을 에이전트가 해내는 것입니다.
Mahir Arora: LLM이 그동안 하드웨어 엔지니어의 일상적인 업무에 도입되지 못한 이유는 신뢰성이 부족했기 때문입니다. 하지만 AI 에이전트는 충분히 신뢰할 수 있습니다. 현재 고객들이 가장 많이 활용하는 방식은 '신속한 프로토타이핑'입니다. 설계 엔지니어는 다양한 마이크로아키텍처를 탐색하고 전력, 성능, 면적(PPA)을 평가하여 파레토 최적점(Pareto frontier)을 찾고 싶어 합니다. 에이전트는 마이크로아키텍처 설명을 입력받으면 리포지토리, 문서, 사양에서 정보를 수집하고, 장기적인 실행 계획을 세우며, 자기 교정을 통해 모듈을 구현하고, 기존 인프라와 통합하여 테스트까지 수행합니다.
검증 및 시스템 분석의 간소화
Ann Mutschler: 검증은 모든 설계 팀의 큰 도전 과제입니다. AI 에이전트가 여기서 어떤 역할을 할까요?
Mahir Arora: 검증이 어려운 이유는 칩의 복잡성이 기하급수적으로 증가하고 있기 때문입니다. 수조 개의 트랜지스터를 다루는 상황에서 인간이 모든 것을 파악하기란 불가능합니다. 하지만 AI 에이전트는 다릅니다. 에이전트는 복잡한 시스템 내에서 데이터가 어떻게 흐르는지 파악하는 것과 같은 개방형 작업에 탁월합니다. 계층적이고 장기적인 계획을 세워 정보를 찾고, 실패하면 스스로 계획을 수정하며 정보를 수집합니다. 이를 통해 엔지니어는 어떤 에지 케이스를 고려해야 하고 어떤 자극(stimulus)을 제공해야 할지 훨씬 명확하게 판단할 수 있습니다.
설계 및 검증 팀의 일상에 미치는 영향
Ann Mutschler: 오늘날 설계 및 검증 엔지니어의 일상은 어떻게 바뀔까요?
Mahir Arora: 에이전트는 업무 과부하가 걸린 엔지니어에게 큰 힘이 됩니다. 설계 측면에서는 마이크로아키텍처 구성, 검증 측면에서는 검증 계획 수립과 UVM 시퀀스 작성 등 반복적인 작업을 에이전트에 비동기적으로 맡길 수 있습니다. 특히 스타트업이나 소규모 팀의 경우, 숙련된 엔지니어 몇 명이 주니어 엔지니어 여러 명의 지원을 받는 것과 같은 강력한 생산성 증대 효과를 누릴 수 있습니다.
주니어 엔지니어의 온보딩 가속화
Ann Mutschler: 주니어 엔지니어의 적응에도 도움이 될까요?
Mahir Arora: 물론입니다. 신입 사원에게 가장 어려운 점은 방대한 코드베이스를 이해하고 정신적 모델을 구축하는 것입니다. 인간은 읽는 속도에 한계가 있지만, AI 에이전트는 방대한 코드를 병렬로 빠르게 처리할 수 있습니다. 에이전트에게 시스템의 작동 원리를 묻고 데이터 경로에 대한 블록 다이어그램을 그려달라고 요청하면, 필요한 정보를 찾아 즉시 문서를 생성해줍니다. 이는 주니어 엔지니어들이 대규모 시스템을 빠르게 파악하는 데 큰 도움이 됩니다.
IP 보안 및 컴퓨팅 제약 해결
Ann Mutschler: AI와 관련해 보안은 중요한 이슈입니다. ChipAgents는 이 문제를 어떻게 해결하고 있습니까?
Mahir Arora: 보안은 무엇보다 중요합니다. 에이전트형 AI를 활용하려면 대규모 컴퓨팅 자원이 필요하며, 이는 클라우드 GPU 서버를 이용하는 경우가 많습니다. ChipAgents는 데이터가 전송 중이거나 저장될 때 모두 암호화되도록 보장합니다. 또한, 메모리 내에서 일시적으로 처리된 후 즉시 반환하는 방식을 택합니다. 보안 규정이 엄격한 대기업의 경우, 고객사의 AWS 계정 내에 직접 배포하여 내부적으로 사용할 수 있도록 지원하기도 합니다.
Ann Mutschler: Mahir, 상세한 설명 감사합니다.
Mahir Arora: 시간 내주셔서 감사합니다.