NVIDIA 대담: 젠슨 황이 말하는 기업용 슈퍼 에이전트와 비즈니스 프로세스에서 AI 하니스로의 전환
2026년 7월 10일 - NVIDIA와 LangChain의 기업용 AI 에이전트 관련 대담
서론
해리슨: 젠슨과 함께하게 되어 기쁩니다. 지난 1년간 AI와 에이전트 분야에서 엄청난 발전이 있었지만, 특히 최근 몇 달간의 변화는 실로 놀라웠습니다. 성능 향상이라는 측면에서 많은 진전이 있었을 뿐만 아니라, 모델과 그 주변 시스템에 대한 개방성, 통제력, 신뢰성이 그 어느 때보다 중요해졌다는 점을 체감하고 있습니다.
NVIDIA가 개방형 에이전트 생태계에 투자하는 이유
젠슨: 답변에 앞서, 당신이 해온 모든 노력에 축하를 전하고 싶습니다. 사실 우리가 15년 동안 AI 분야에서 일해왔지만, 지난 6개월은 모든 것을 바꿔놓았습니다. 대규모 언어 모델(LLM)의 발전, 스케일링, 옴니 모델, 멀티모달 등 모든 기술적 돌파구가 지난 6개월 동안 하나로 합쳐지며 비로소 AI가 실질적인 유용성을 갖게 되었습니다. 이제 AI가 유용해지자 전 세계 모든 기업이 이를 도입하고자 합니다. 문제는 '어떻게'입니다. 바로 여기서 LangChain이 필요합니다. 당신은 항상 LLM이 핵심적인 기반 기술이지만, 이를 유용한 제품으로 바꾸려면 지금 '하니스(harness)'라고 불리는 시스템으로 감싸야 한다는 비전을 가지고 있었습니다. 그 이상이 필요하죠.
해리슨: 정말 그렇습니다.
젠슨: 과거에는 LLM을 프롬프트 가능한 API로 전환하기 위해 LangChain을 사용했습니다. RAG(검색 증강 생성)를 구축하고, 단계별로 발전시켜 오늘날의 에이전트에 이르렀죠. 지난 6개월간의 가장 큰 돌파구는 정보와 지식에 기반을 두고, 도구를 활용해 검색하며, 메모리를 관리하고, 안전 장치를 갖추고, 작업이 완료될 때까지 반복 수행할 수 있는 에이전트 시스템의 등장입니다. Claude Code가 에이전트 시스템에 대한 상상력을 현실로 가져왔고, OpenClaw와 당신이 수행한 Deep Agents 관련 작업들도 큰 역할을 했습니다. 우리도 이를 직접 활용하고 있으며, 이 모든 것이 결합되어 지금의 에이전트 시스템이 탄생했습니다.
젠슨 (계속): 우리가 개방형 시스템 구축에 매진하는 이유는 AI가 근본적인 기술이기 때문입니다. 수많은 활용 사례에 적용될 때만 진정한 가치를 발휘할 수 있죠. 물론 첫 번째는 언어와 인지 지능이지만, 우리는 과학자, 디지털 생물학자, 디자이너, 로봇 공학자, 학생, 연구원, 기업 IT 담당자 등 우리 모두가 도메인 특화 문제를 해결하기 위해 에이전트 시스템을 사용하는 세상을 상상합니다. 전문적인 도메인 지식을 AI에 주입하거나, AI를 플라이휠(flywheel) 구조에 넣어 사용할수록 더 똑똑해지고 유용해지는 '슈퍼 에이전트'로 진화시키기 위해서입니다. 인간이 학습하듯 말이죠.
해리슨: 시간이 지나면서 학습한다는 것이죠.
젠슨: 그렇습니다. 우리는 AI가 기반을 갖춘 미래를 상상합니다. Anthropic, OpenAI, Google의 작업은 모두 훌륭합니다. 하지만 사람들이 구축하고자 하는 특화된 AI, 도메인별 AI, 독점적 AI가 존재하며, 우리는 그 세상을 가능하게 만들고자 합니다.
에이전트 시스템을 특화하는 방법
해리슨: 특화라는 주제에 대해 조금 더 깊이 들어가 보죠. 이런 시스템을 특화하는 가장 좋은 방법은 무엇일까요? 모델 자체인가요, 아니면 하니스나 외부 컨텍스트인가요?
젠슨: 특화는 충분히 뛰어난 지능을 갖추는 것에서 시작합니다. 우리가 Nemotron에 공을 들인 이유이자, 당신이 Nemotron Coalition의 창립 멤버라는 점을 기쁘게 생각하는 이유입니다. Nemotron Ultra는 훌륭한 모델이지만, LangChain 프레임워크와 하니스로 감싸서 도메인 특화 정보에 기반을 둘 때 비로소 놀라운 모델이 됩니다. 똑똑한 사람도 중요한 정보에 접근할 수 있을 때 슈퍼 유저가 되는 것과 같습니다. LangChain 하니스 내부에서 모델을 추가 학습(post-training)시켜 모델이 하니스를 더 잘 활용하게 만드는 것도 중요합니다.
해리슨: 해당 작업에 최적화되도록 만드는 것이군요.
젠슨: 맞습니다. 이제 그런 시기가 도래했습니다. 우리 스스로 구축하고, 적용하고, 시간이 지나며 개선할 수 있는 개방형 하니스 시스템이 필요합니다.
해리슨: 모델이 '충분히 좋아졌다'는 말씀에 공감합니다. 프론티어 모델은 1년 전, 오픈 웨이트 모델은 6개월 전쯤 그 임계점을 넘었다고 봅니다.
젠슨: 동의합니다.
Deep Agents에서 프론티어 성능을 구현하는 Nemotron 3 Ultra
해리슨: Nemotron 3 Ultra에 대해 말씀하셨는데, 저희는 Deep Agents에서 이를 최적화하기 위해 많은 노력을 기울였습니다. 모델마다 필요한 프롬프트와 도구가 다르기에 하니스를 조정했고, 내부 벤치마크에서 86%의 성능을 달성했습니다.
젠슨: 오, 놀랍군요.
해리슨: 비교하자면 Claude Opus가 87%이고, DeepSeek나 Minimax 모델이 82~83% 수준입니다. 최근 오픈 웨이트 모델들이 프론티어 성능에 도달하고 있습니다.
젠슨: 정말 자랑스럽고 놀라운 성과입니다. 감사합니다.
해리슨: 정말 대단하죠. 더 중요한 점은 비용이 Opus의 10분의 1 수준이라는 것입니다. 오픈 웨이트 모델이 성능과 비용 사이에서 훌륭한 균형을 찾고 있는데, 이런 비용 구조의 변화가 빌더들에게 어떤 영향을 줄지 궁금합니다.
비용이 빌더들에게 미치는 영향
젠슨: 비용 효율적인 지능을 갖추면 사람들은 이를 더 많이 사용하게 됩니다. 비용 효율적인 에이전트가 있다면 더 넓은 탐색 공간(search space)에서 반복 작업을 수행할 수 있고, 결과적으로 더 나은 답을 얻게 됩니다. Nemotron은 매우 빠르고 계산적으로 효율적입니다. 빠르게 생각하고 더 많은 것을 시도할 수 있을 때 더 나은 답을 찾을 수 있는 것과 같은 이치입니다.
젠슨 (계속): 이것이 LangChain 프레임워크와 하니스 내부에서 Nemotron 3 Ultra가 가진 놀라운 이점입니다. 너무나 빠르고 효율적으로 반복하기 때문에 더 나은 답을 찾아냅니다. 환경을 조정하는 것은 모델을 조정하는 것만큼이나 중요합니다. LangChain이 바로 그 역할을 합니다.
해리슨: 비용이 저렴해지면 지능을 더 많이 사용하게 된다는 점에 전적으로 동의합니다. 최근 AI 수요와 토큰 소비량이 얼마나 거대한 시장인지 실감하고 있습니다. 프론티어 모델과 오픈 소스 모델을 어떻게 활용해야 할까요?
프론티어 모델 vs 오픈 모델: 활용 전략
젠슨: 프론티어 모델은 계속해서 발전할 것이며, 여전히 개선의 여지가 많습니다. 스케일링 법칙은 지속될 것이고, 하니스 기술과 메모리 관리, RAG, 지식 그래프 등 모든 것이 빠르게 발전하고 있습니다. 저는 기본적으로 모든 작업을 프론티어 모델에서 시작합니다.
해리슨: 알겠습니다.
젠슨: 비용이 조금 더 들더라도 작업 완료 시간을 단축해주기 때문에 매우 유용하기 때문입니다.
특화된 슈퍼 서브 에이전트 구축
젠슨: 하지만 시간이 지나면서 특정 기술에 특화된 '슈퍼 서브 에이전트'를 추가하고 싶어집니다. 공급망 최적화나 칩 설계 최적화 같은 난제들은 범용 AI에만 맡길 수 없습니다. 우리는 Deep Agents와 Nemotron 3를 결합하고 특화된 도구를 연결하여 특정 작업만을 위한 슈퍼 에이전트를 만듭니다. 이 에이전트는 여행 예약을 하는 것이 아니라 오직 공급망 최적화만 수행합니다. LangChain과 Nemotron 3 Ultra가 필수적인 이유죠. 기업이란 결국 이런 독점적이고 중요한 워크플로우들의 집합입니다. 이것이 미래입니다.
기업을 위한 조언: 언제 특화할 것인가
해리슨: 프론티어 모델로 시작해 특화로 넘어가는 과정에서, 기업들이 언제 특화를 고려해야 할까요?
젠슨: '충분히 좋아졌을 때'입니다. Claude Code 등을 사용하다가, 더 이상 대체할 필요가 없을 정도로 발전했다면 그대로 두면 됩니다. 하지만 기업의 도메인 특화 지식이나 독점적인 워크플로우가 있다면, 그것은 기업의 '왕관 보석(crown jewels)'과 같습니다. 프론티어 모델을 계속 사용하되, LangChain과 Nemotron 3 Ultra로 구축한 특화 슈퍼 에이전트를 병행하는 것이 미래의 모습이 될 것입니다.
해리슨: 기업들이 AI를 도입할 때 신뢰성과 안전성, 거버넌스를 확보하기 위해 시스템을 구축해야 합니다. 오늘날 대부분의 기업이 비즈니스 프로세스 위에 구축되어 있다면, 미래는 어떨까요?
비즈니스 프로세스가 아닌 하니스 위에 구축되는 기업
젠슨: 미래의 기업들은 '하니스' 위에 구축될 것입니다. LangChain은 기업의 운영체제(OS)를 만드는 도구가 될 것이며, 모든 사람이 LangChain을 사용해 과거의 워크플로우를 전문화된 하니스로 만들 것입니다. 이 하니스 내부의 워크플로우는 훨씬 더 자율적이고 효율적으로 변할 것입니다.
해리슨: Nemotron 3를 활용해 하니스를 최적화한 것은 좋은 사례였습니다. 앞으로 Nemotron을 추가 학습(post-training)시켜 시스템의 한계를 높이는 실험을 기대하고 있습니다.
젠슨: 그것이 바로 큰 돌파구입니다. 하니스를 구축하고 비즈니스 프로세스에 성공적으로 안착시킨 후, 그 내부의 LLM인 Nemotron 3 Ultra까지 튜닝하는 것은 전례 없는 일입니다. 기업별 비즈니스 프로세스의 플라이휠을 극대화할 것입니다.
개방형 스택이 기업에 힘을 실어주는 이유
해리슨: 많은 기업이 개방형 생태계 위에서 구축하기를 원합니다. 지식과 프로세스에 대한 완전한 통제권을 갖는 것이 중요하기 때문입니다. 개방형 스택이 기업의 AI 도입을 어떻게 가속화할까요?
젠슨: 모든 기업은 도메인 특화 지적 재산(IP)을 기반으로 합니다. 기업의 지능은 곧 그 기업의 정체성입니다. 이를 외부 업체에 아웃소싱하는 것은 말이 안 됩니다. 코딩이나 글쓰기 같은 일반적인 기술은 범용 모델을 사용하되, 그 위에 우리만의 특화된 지능을 쌓아야 합니다. LangChain과 Nemotron이 필요한 이유입니다. 미래에는 클라우드에서 제공되는 범용 기반 모델 위에 기업 스스로 특화된 능력을 구축해야 하며, 이를 위해서는 개방형 도구가 필수적입니다.
Deep Agents + OpenShell 블루프린트 발표
해리슨: 오늘 저희는 Deep Agents와 OpenShell을 포함한 NemoClaw 블루프린트를 발표합니다. 기업들이 안전하고 개방된 런타임인 OpenShell 안에서 Nemotron 3 Ultra를 탑재한 Deep Agents를 실행할 수 있게 됩니다.
젠슨: 정말 대단한 일입니다. 도메인 특화 슈퍼 에이전트를 구축하는 데 필요한 모든 구성 요소와 도구, 하니스, 블루프린트가 하나로 모였습니다.
해리슨: 왜 그렇게 블루프린트에 막대한 투자를 하시나요?
젠슨: AI 에이전트 시스템 구축은 복잡하기 때문입니다. LLM, 도구, 지식 그래프, 메모리 시스템, 가드레일, 파인튜닝, 그리고 하니스까지 고려할 요소가 너무 많습니다.
런타임, 보안, 접근 제어
젠슨: 런타임도 중요합니다. 보안과 프라이버시를 위해 샌드박스에서 구동되어야 하며, IT 조직이 관리할 수 있는 접근 제어가 필요합니다.
해리슨: 기업 환경에서 보안이 가장 어려운 부분인가요?
젠슨: 보안과 접근 제어를 해결하지 못하면 배포 자체가 불가능합니다. 신규 직원을 채용할 때 온보딩하고 권한을 부여하는 것과 같습니다. 우리는 AI를 위한 HR 시스템을 구축하고 있는 셈입니다. 기업 내 IT 조직과 각 사업부가 에이전트를 구축, 개선, 배포할 수 있도록 말이죠.
에이전트를 얼마나 의인화해야 할까?
해리슨: 철학적인 질문입니다. 사람들은 에이전트를 의인화하곤 하는데, 어느 정도가 적절할까요?
젠슨: 에이전트는 전자가 흐르는 소프트웨어일 뿐, 생명체가 아닙니다. 청소기나 식기세척기처럼 도구일 뿐이죠. 우리는 에이전트가 어떻게 작동하는지 정확히 알고 있습니다. 우리가 하니스를 만들었고, 계속 개선하고 있으니까요. 도구로서의 성격에 집중하는 것이 맞습니다.
AI가 늘어나면 일자리도 늘어난다
젠슨: AI를 많이 사용할수록 오히려 더 많은 사람이 필요해집니다. 에이전트 시스템은 새로운 기술이며, 소프트웨어 엔지니어들은 이제 코드를 짜는 대신 에이전트를 구축하고 있습니다. 엔지니어들은 파이썬 코드를 작성하는 것보다 에이전트를 구축하는 것을 훨씬 좋아합니다. 그들은 이제 시스템 엔지니어가 되어 평가, 벤치마크, 가드레일을 만들고 있습니다. AI를 세상에 도입하기 위해 해야 할 일이 정말 많고, 이는 수많은 일자리를 창출하고 있습니다.
해리슨: 동의합니다. 전문가들이 지루한 업무를 자동화하고 더 창의적인 일에 집중할 수 있게 하는 것이 핵심입니다. 과거의 방식을 자동화하는 것을 넘어, 이전에는 불가능했던 일을 가능하게 하는 것이 진정한 가치겠죠.
젠슨: 야망이 중요합니다.
해리슨: 100% 동의합니다. 야망과 에이전트의 결합이죠.
에이전트 스택의 남은 과제
해리슨: 마지막으로, 이 미래를 향해 나아가는 데 있어 에이전트 스택에서 부족한 부분은 무엇일까요?
젠슨: 오늘 우리는 슈퍼 에이전트 구축을 위한 모든 핵심 구성 요소를 제공했습니다. 세계 최고 수준의 언어 모델, Nemotron 3 Ultra에 최적화된 LangChain Deep Agents 프레임워크, 블루프린트, 보안 런타임인 OpenShell까지 모든 것이 갖춰졌습니다. 이제 전 세계 모든 개발자가 클라우드나 온프레미스 어디서든 슈퍼 에이전트를 구축할 수 있습니다. 더 이상 망설일 이유가 없습니다.
해리슨: 완벽한 마무리입니다. 정말 가슴 벅찬 대화였습니다. 저도 당장 에이전트를 만들러 가야겠네요. 젠슨, 오늘 시간 내주셔서 감사합니다. 축하합니다.
젠슨: 감사합니다. 훌륭합니다. 여러분이 자랑스럽습니다.