NVIDIA 訪談:黃仁勳暢談企業級超級代理人,以及從商業流程邁向 AI 框架的典範轉移
2026 年 7 月 10 日 - NVIDIA 與 LangChain 企業級 AI 代理人爐邊對談
前言
Harrison:很高興能與黃仁勳(Jensen)對談。過去一年 AI 與代理人(Agents)領域進展神速,特別是近幾個月更是如此。我們見證了效能上的顯著提升,同時也感受到在這些模型及其周邊系統中,開放性、可控性與信任感變得越來越重要。
為何 NVIDIA 致力於投資開放式代理人生態系統
黃仁勳:在回答之前,我想先恭喜你所做的卓越貢獻。事實上,如果回顧過去 6 個月,我們都會同意,儘管我們深耕 AI 領域已 15 年,但這半年徹底改變了一切。所有的技術、大型語言模型的進展、規模化、突破性進展,以及全能模型(omni models)與多模態技術,這一切都非常精彩。但歸根結底,是過去 6 個月讓所有拼圖拼湊在一起,AI 終於變得「實用」了。當 AI 變得實用,全球每一家企業都渴望運用它。現在的問題是:該如何運用?這正是 LangChain 的價值所在。你一直以來都有個願景,認為大型語言模型是核心要素,是關鍵的賦能技術,但若要將其轉化為實用產品,必須圍繞著它建構所謂的「框架」(harness)。這遠不止於此。
Harrison:確實遠不止於此。
黃仁勳:在過去,我們利用 LangChain 將大型語言模型轉化為可提示(promptable)的 API。我們用 LangChain 建構 RAG(檢索增強生成),並透過 LangChain 一步步演進,最終促成了今日的代理人。過去 6 個月真正的巨大突破,在於這些代理系統(agentic systems)能夠基於資訊與知識,利用工具進行搜尋,具備可管理的記憶與安全防護,並能不斷迭代直到完成任務。最終,這需要模型達到一定能力水準,讓所有元素在「閃點」(flashpoint)匯聚,而 Claude Code 真正引發了人們對代理系統的想像。OpenClaw 當然是一大重點,還有你透過 Deep Agents 所做的一切工作,我們自己也在使用。這一切匯聚在一起,砰的一聲,我們就進入了代理系統的時代。
黃仁勳(續):我們之所以致力於此,是因為多年來我們一直專注於建構開放式系統。原因在於,AI 是一項基礎技術,唯有應用在各種不同的使用場景中,它才具有價值。當然,第一個場景是語言與認知智慧,這至關重要。我們想像一個世界,科學家、數位生物學家、設計師、機器人專家、學生、研究人員以及企業 IT 人員,都能利用代理系統與 AI 來解決特定領域的問題。許多我們想解決的問題,不是擁有無法對外公開的專業領域知識,必須將其內化並注入 AI 中;就是因為我們相信,當 AI 進入一個「飛輪效應」——我們使用它,它變得更聰明、更有用;我們使用更多,它變得更智慧——它最終會成為超級代理人。這就像人類一樣,是透過時間不斷學習的。
Harrison:透過時間學習。
黃仁勳:因此,我們想像未來 AI 將擁有一個基礎,Anthropic、OpenAI 與 Google 所做的工作都非常出色。但人們也希望建構專用型 AI、領域特定 AI 與專有 AI,我們希望能實現這個願景。
如何實現代理系統的專業化
Harrison:關於專業化這個話題,您認為實現這些系統專業化的最佳途徑是什麼?是完全取決於模型本身,還是包含框架與外部情境?專業化包含哪些要素?
黃仁勳:專業化始於擁有足夠水準的智慧,這也是為什麼我們致力於 Nemotron,且很高興你是 Nemotron Coalition 的創始成員。我們將 Nemotron Ultra 打磨得非常出色。Nemotron Ultra 作為起點固然強大,但當你圍繞它建構 LangChain 框架與 LangChain 框架時,它會變得不可思議,因為你將其植根於特定領域的資訊。一個聰明的人,在獲得關鍵資訊後會變得極具價值。因此,獲取資訊至關重要。將其納入飛輪中,甚至在 LangChain 框架內對模型進行後訓練(post-training),讓模型擅長運用圍繞它的框架。
Harrison:針對該任務,讓模型發揮預期作用。
黃仁勳:沒錯。我認為現在時機已到,但我們需要一個開放的框架系統,我們可以自行建構、應用,並隨著時間推移不斷改進。
Harrison:我很認同您關於模型「足夠好」的觀點。我感覺 frontier models(前沿模型)大約在一年前跨越了這個門檻,而一些開源權重模型則是在 6 個月前達到的。
黃仁勳:是的。
Nemotron 3 Ultra 在 Deep Agents 中達到前沿效能
Harrison:您提到了 Nemotron 3 Ultra。我們做了大量工作,使其在 Deep Agents 中表現優異。我們調整了框架,使其最適合該模型,因為我們發現不同模型需要不同的提示詞與工具。透過這些調整,我們在內部基準測試中,讓 Nemotron 3 Ultra 在 Deep Agents 上的表現達到了 86%。
黃仁勳:喔!
Harrison:作為對比,Claude Opus 是 87%。DeepSeek 和其中一個 Minimax 模型大約在 82% 到 83%。我們開始看到,一些較新的開源權重模型確實達到了前沿效能。
黃仁勳:我知道,我深感驕傲。這太不可思議了,謝謝你。
Harrison:這真的很驚人。同樣重要的是,它的成本僅為 Opus 的十分之一。我認為開源權重模型在效能與成本之間取得了很好的平衡。我很想知道您如何看待這種成本變化對開發者產生的影響。
成本如何改變開發者的算式
黃仁勳:成本效益的好處體現在幾個方面。我認為,當你擁有具成本效益的智慧時,人們自然會使用更多。當你擁有具成本效益的代理人時,你就能在更大的搜尋空間中進行迭代。結果,答案可能會更好。以 Nemotron 為例,它具備成本效益是因為它速度極快,運算效率極高。當運算效率高時,它可以探索更大的空間。這與一個人思考速度快時能探索更多領域沒什麼兩樣。當你能更快嘗試事物,就能找到更好的答案。
黃仁勳(續):這就是 Nemotron 3 Ultra 在 LangChain 框架與 Deep Agents 中展現的巨大優勢。它思考速度極快,探索與迭代效率極高,因此能找到更優解。我很高興我們創造了一個接近前沿的模型。而透過調整 Nemotron 周圍的環境,你們讓它發揮了前沿能力。對人類而言也是如此。我們當然喜歡聘請世界上最聰明的人,但除此之外,我們還提供他們工具、資訊,並創造良好的環境,讓他們能發揮全部潛力。所以,你調整的是環境,而不僅僅是模型。這就是 LangChain 的切入點。
Harrison:關於成本降低與速度提升會促進智慧使用量的觀點,我們深有同感。我自認是 AI 的擁護者,但我曾低估了對智慧與 token 的需求,以及這個市場的龐大規模,這一點在最近尤為明顯。隨著這些模型變得強大、快速且便宜,我們該如何看待前沿模型的使用?我們應該一直使用這些開源模型嗎?兩者是否有各自的適用時機?
前沿模型 vs. 開源模型:何時使用何者
黃仁勳:前沿模型一直在進步,我完全預期它們會變得好得不可思議。它們在模型改進方面仍有很長的發展空間。規模定律(scaling laws)當然會持續發揮作用。它們的框架也在不斷改進。無論是工作記憶還是長期記憶,處理記憶的技術都在飛速進步。壓縮技術、檢索增強生成(RAG)與知識圖譜的所有進展,這些前沿模型的 API 中仍在實施許多驚人的創新。坦白說,我的工作始終從前沿模型開始。
Harrison:了解。
黃仁勳:原因在於它很實用。我知道它的潛力。雖然成本稍微高一點,但它極大地縮短了我完成工作的時間。
建構專業化的超級子代理人
黃仁勳:然而,隨著時間推移,我發現我想要為它們添加子代理人(sub-agents)。我想連接那些在特定技能上表現卓越的超級代理人。公司內部存在與供應鏈相關的優化問題,或許與晶片設計優化、平面規劃優化有關。這些優化問題極其困難。因此,你不能指望一個通用 AI 去硬算就能找到絕佳答案。所以我們建構了超級子代理人,利用 LangChain Deep Agents 結合 Nemotron 3,甚至連接到專業工具。那個代理人專為一項工作而生。這個超級代理人不會試圖幫我預訂行程,它只負責優化我們的供應鏈。在這種情況下,我確實需要 LangChain,確實需要 Nemotron 3 Ultra,並將其連接到大量的專有知識與技能。我有一個團隊專門負責完善它。
黃仁勳(續):我認為這定義了一家公司。公司本質上是一系列這些高度專有、至關重要的工作流程的集合。現在,我們有了結合 Deep Agent 與 Nemotron 3 Ultra 的 LangChain,它為企業提供了所需的控制力,以及對強大工具的高效存取。這就是未來。
給企業的建議:何時進行專業化
Harrison:如果企業遵循您「從前沿模型開始,再逐步專業化」的做法,您有什麼建議嗎?他們應該在何時考慮專業化?您會觀察哪些觸發點?
Harrison:一旦模型表現「足夠好」時。我會從 Claude Code 或 Codex 開始,盡可能長時間地使用它們。坦白說,很多事情你永遠不需要替換,因為它們一直在進步,且發展軌跡將帶來極快的效能提升。我認為未來就像現在的公司一樣,我們聘請員工是因為他們的領域專業,以及他們在公司內部的經驗累積與工作流程優化,這些價值無可替代。但我們也會聘請顧問、授權外部工具、外包工作等等。我認為這就是 AI 的未來。我們會繼續使用前沿模型嗎?絕對會,而且會大量使用。但我們也會利用 LangChain 與 Nemotron 3 Ultra 創造專業化的超級代理人,這些甚至可能成為你們的「皇冠上的明珠」。答案是肯定的。
Harrison:即使是對於聘請的顧問來說,就像你需要讓顧問快速熟悉組織、了解組織背景、運作方式,並提供他們僅在組織內部才能存取的數據。我們觀察到,當企業開始採用 AI 時,他們必須圍繞 AI 建構各種系統,以確保代理系統整體的可信度、安全性與治理。我很好奇,再加上一點,今天大多數公司是建立在商業流程之上的。
黃仁勳:是的。
建立在框架而非商業流程之上的公司
黃仁勳:未來,大多數公司將建立在「框架」之上。LangChain 將成為創造公司作業系統的工具,每個人都會使用 LangChain 來建立自己的專業框架,這代表了過去的工作流程。現在,該工作流程中的框架將變得自主、具備代理能力,且效率更高。
Harrison:我認為我們看到這些東西——有框架、有模型,還有圍繞它們的所有情境,這些都可以在不同時間點進行優化。
黃仁勳:沒錯。
Harrison:我們在 Nemotron 3 上所做的工作,就是圍繞框架進行高投資報酬率(ROI)優化的絕佳範例,例如調整提示詞、更換工具。我們期待的下一步是實驗 Nemotron 的後訓練。這需要多一點時間,但我認為它確實提高了整個系統能力的上限。
黃仁勳:這太驚人了。這就是重大突破。你所描述的是一個未來:一旦你建構好框架並開始運作,它成為業務流程的一部分且非常成功,現在的問題是:如何讓它變得更好?當然,你可以不斷改進提供的資訊、調整框架,但現在你也可以改進框架內部的 AI 模型——Nemotron 3 Ultra。我認為這是一個徹底的突破。這是一種前所未有的能力,我對此感到非常興奮。這將真正帶動所有企業特定的業務流程,並開始調整這個飛輪。
為何開放式堆疊能賦能企業
Harrison:我們在與企業交流時聽到的一個需求,是需要建立在開放生態系統上。企業將自身的知識與流程投入其中,擁有完全的控制權對他們來說似乎至關重要。我很好奇您如何看待開放式堆疊(open stacks)如何進一步賦能企業應用 AI。
黃仁勳:每家公司本質上都建立在特定領域或專業的智慧財產上。我們之所以稱之為「智慧財產」(intellectual property)——intellectual 指的是智慧。每一家公司都建立在智慧之上,某種專業化的智慧基礎。我們公司專精於某件事。我們不是什麼都擅長,但我們在某件事上非常精通,每一家公司都是這樣建立的。那種專業化,即你們公司的智慧,就是你們的本質。你不可能不持續控制它、改進它、讓它變得更好,對吧?不知何故,將這種智慧外包出去——無論你是個人、公司還是國家——對我來說都說不通。當然,存在通用智慧,我們都會做一些通用事務,這佔了經濟很大一部分。例如,軟體編碼實際上就是一種通用技能。我們都用 Python、C++ 編程,對吧?所以你將其應用於不同事物,但編碼技能大體相同,這是一種通用技能。寫作也是一種通用技能。但這些是我們應用於專業領域智慧的基礎技能,這就是 LangChain 與 Nemotron 的切入點。
黃仁勳(續):我認為社會的基礎將擁有這些基礎模型,它們將是通用的,並在雲端上提供,這將是非常驚人的。但在該平台之上,我們必須建構自己的專業能力,你需要開放工具來實現這一點。你不能外包它。我無法想像當我需要增強我的智慧時,會去打電話給第三方。我需要在公司內部增強它。因此,我認為未來不是二選一,而是一個完全互補的願景。我們所做的只是確保自動化智慧整合到我們所做的一切事物中。結果,我們都會變得更好。
Harrison:完全同意。但我認為要實現這種整合仍然很困難。
宣布 Deep Agents + OpenShell 藍圖
Harrison:我們今天宣布一項藍圖,將 Deep Agents 與 OpenShell 納入 NemoClaw 藍圖中。這將讓企業能夠在 OpenShell(一個安全且開放的執行環境)中運行結合 Nemotron 3 Ultra 的 Deep Agents,並從中受益。
黃仁勳:沒錯。
Harrison:希望這能讓企業更容易上手。
黃仁勳:這是一個巨大的里程碑。沒錯,建構你個人領域特定、專有超級代理人所需的所有關鍵要素,包括技術、組件、工具、框架以及藍圖,這是一個很好的例子,全部為你準備好了。
Harrison:你們如何看待這些藍圖?你們有很多藍圖。這顯然是最好的一個。我就不強迫你說這句話了。
黃仁勳:是的。
Harrison:但我會說。這是目前最好的一個。但你們有大量的藍圖。為什麼要投入這麼多資源?
黃仁勳:因為這些工具仍然很深奧,而且涉及很多環節。建構代理系統、建構 AI 並不簡單。涉及許多不同的技術組件,我們已經討論過其中一些。有大型語言模型、它使用的工具、它必須處理的知識圖譜、記憶系統、防護系統、微調系統,現在還有你即將創造的技術——針對框架進行後訓練。
執行環境、安全性與存取控制
黃仁勳:當然,還有框架本身。但執行環境(runtime)呢?當你完成後,你仍然需要執行環境。你必須將其保持在沙盒中,以確保安全、私密,這就是存取控制。這是 IT 部門可以掌控的部分。
Harrison:您認為執行環境中最困難的部分是什麼?是伴隨而來的安全性問題嗎?
黃仁勳:如果不解決安全性與存取控制,就不可能部署。這就像如果你不進行入職培訓、不給予存取控制權,就不可能聘請新員工一樣。我們不會給每個員工存取所有檔案與網路的權限,對吧?所以,根據每位員工的工作職責與所需存取權限,我們給予他們使用工具(筆電、設計工具、編程工具等)的權限。我們給予他們存取網路特定部分的權限,給予他們資訊存取權。我們將他們與其他代理人連接,與他們協作的同事連接,並提供他們一份技能檔案。我們本質上給了他們一份文件:這是你的任務,這是過去的做法,現在,幫忙做得比以前更好。在許多方面,我們正在為 AI 建立一套人力資源系統,使企業內部的 IT 部門與各個業務單位能夠建構、改進並部署這些代理人。
我們應該在多大程度上將代理人擬人化?
Harrison:這是一個哲學問題。很多人在談論這些代理人時,會將其高度擬人化,並將其帶入人類系統中。但代理人不是人類,它們在某些方面優於人類,在其他方面則與人類大相徑庭,或許不如人類擅長。將這些代理人擬人化的正確程度是什麼?
黃仁勳:這是電子。是電子,不是原子,也不是生物,沒有意識。它沒有醒著。所以它根本不是那樣的。它只是一個工具,就像在我家裡四處走動的吸塵器。它當然是在家裡走動,打掃房子,做著我以前做的事情。現在還有自動割草機。你可以想像一百年前第一台洗碗機出現時,它自己洗碗,看著它一定很神奇,我們稱之為「洗碗機」(dishwasher),這聽起來有點像人類。
Harrison:是的。
黃仁勳:我們有了洗碗機。我的第一份工作就是洗碗工。在許多方面,我們會習慣這一點。我認為現在我們傾向於賦予它太多人類屬性。它完全不是那樣。它是軟體,是電腦。我們確切知道它是如何運作的,因為顯然我們圍繞它建構了框架。我們顯然知道它是如何運作的,因為它一直在進步。如果我們不知道某樣東西是如何運作的,我們怎麼能每次都讓它變得更好?如果我們不知道它是如何運作的,我們怎麼改進它?怎麼修復它?所以顯然,我們了解這些東西是如何運作的,我認為我們應該保持這種認知。
為何更多 AI 意味著更多工作機會
黃仁勳:同時,我們知道的一件事是,我們使用的 AI 越多,不知何故我們就必須聘請更多的人。原因在於這些代理系統代表了新的技能。現在我們有很多軟體工程師在建構代理人。他們過去編寫軟體,但現在他們在建構代理人。如果你問我,我所有的軟體工程師都更喜歡建構代理人,而不是編寫 Python 代碼。編碼就像打字,所以他們會減少打字。他們會更多地成為系統工程師,更多地建構與創造這些超級酷的自主系統。他們正在建立評估(evals)、基準測試、防護欄。不是嗎?所以我們為了將 AI 帶入世界所做的工作量確實非常驚人。因此,它創造了大量的工作機會。我的軟體工程師熱愛這一點。
Harrison:您剛才簡短提到了「評估」。我認為這是釋放企業內部代理人使用潛力的關鍵。你需要了解它的表現如何,而量化它是否優秀,往往最好由已經身處企業內部的領域專家來完成,他們可以輕鬆提供回饋,並與這些系統合作,自動化工作中繁瑣的部分,然後將時間花在真正激發智力與創造力的部分。
黃仁勳:沒錯。在許多方面,無論你是醫生、設計師還是軟體工程師,你都在創造一個代理人。你正在接手所有瑣碎的工作,並試圖讓這個代理人來完成。與此同時,我們都在努力提升我們的代理人,讓它們與我們一起做我們以前做不到的事情。這需要想像力、創造力,以及大量的技術。
Harrison:這點非常精準。我認為目前我們看到的代理人最好的用途,是為我們自己提供更多槓桿來做更多事情。但我認為很多方法還停留在思考「我們以前做了什麼,能不能自動化它?」。但我認為很多突破將來自於未來——我們以前做不到、但現在能做到的事情。
黃仁勳:野心(Ambition)會有幫助。
Harrison:百分之百同意。對吧?野心、代理能力。
黃仁勳:野心會有幫助。是的,沒錯。
代理堆疊中缺失的拼圖
Harrison:在結束之前,當您思考如何推動這個未來時,您認為這個代理堆疊中還有哪些缺失的拼圖?
黃仁勳:我們今天宣布了一件大事。這是一件非常重要的事情。我們正在提供基礎構建塊、基礎架構以及建構超級代理人的所有關鍵要素。當我說超級代理人時,它們是領域特定的。它們屬於你。你建構它們、改進它們、隨時間推移完善它們。你給予它們存取專有資訊、知識的權限,也許對你來說是極其私密的。因此,這個超級代理人將能夠做到你無法想像的事情,而且會表現得極其出色。
黃仁勳(續):我們創造了所有關鍵部分:世界級的語言模型、名為 LangChain Deep Agents 的框架(現在也經過微調,以發揮 Nemotron 3 Ultra 的全部潛力)、幫助每個人實現這一目標的藍圖,當然還有執行環境——OpenShell 執行環境,它保持安全性,以及整合其中的加速堆疊。因此,全球每一家公司、每一位開發者現在都應該能夠創造這些超級代理人,並將其部署在雲端或地端(on-prem)的任何地方。我的一位好朋友剛剛為 DGX Spark 建構了一個。現在,這些代理人可以在你筆電旁邊的 DGX Spark 上運行。你可以在公司內部建構自己的超級電腦,或者在雲端進行。我們現在擁有了可以隨處為自己建構的代理能力。所有拼圖都已到位。沒有理由不投入其中。
Harrison:我認為這是一個完美的結尾。您說話時讓我感到非常振奮。那是一場精彩的激勵演講。所以我現在要去建構一些代理人了。謝謝黃仁勳撥冗參加。恭喜你們。
黃仁勳:謝謝。做得好。為你們感到驕傲。