Web3天空之城公众号文章

全文:黄仁勋GTC2026柏林主题演讲| 附视频

Web3天空之城

公众号 · 5 篇文章

WebSkyCity

全文:黄仁勋GTC2026 柏林主题演讲

在柏林的灯光下,英伟达(NVIDIA)创始人兼首席执行官黄仁勋站在了GTC欧洲站的舞台中心。从1993年与欧洲企业的初次邂逅,到如今在欧洲投入百亿美元构建AI生态,英伟达的角色已经从一家芯片设计商,演变成了全球人工智能经济的建筑师。黄仁勋在演讲中明确指出,我们正处于一场新工业革命的开端,而这一次,工厂里生产的不再是实体货物,而是“数字智能”。

图片

目录


全局摘要和核心观点

序幕:自由与崛起

NVIDIA 与欧洲:33 年的合作伙伴关系

新工业革命:AI 工厂与五层架构

全栈 AI 工厂:Vera Rubin 平台

独特地位:通用架构与软件生态

自主智能体与 OpenShell 安全框架

模型与知识库:构建企业专有 AI

智能体工具与行业应用

物理 AI 与机器人技术

RTX Spark:重塑个人电脑

现场演示:MicroDuck 的诞生

结语:构建欧洲 AI 经济

全局摘要

在本次 NVIDIA GTC 欧洲站主题演讲中,首席执行官黄仁勋(Jensen Huang)回顾了 NVIDIA 与欧洲长达 33 年的深厚渊源,并宣布全球正处于从软件向“人工智能生产”转型的工业革命开端。会议重点介绍了全新的 Vera Rubin 架构 AI 工厂平台、旨在保障自主智能体安全的开源框架 OpenShel,以及物理 AI 在机器人、自动驾驶和电信领域的突破性应用。

核心观点

  • AI 经济五层架构
    :由能源、AI 工厂、Token(数字智能)、AI 模型及应用组成,强调企业应从 AI 使用者转变为 AI 生产者。
  • 全栈 AI 工厂
    :推出的 Vera Rubin 平台实现 100% 液冷和极高集成度,大幅提升了从部署到生成 Token 的效率。
  • 安全自主智能体
    :通过 OpenShel 框架在沙箱中运行智能体,配合硬件级监控(Sentry),解决了自主系统的安全权限管理问题。
  • 物理 AI 的崛起
    :人形机器人(Agile 1)、自动驾驶(Hyperion 标准)以及 AI 驱动的电信基站,标志着 AI 正全面进入并理解物理世界。

01

软件向“生产”的跨越:AI 工厂的五层架构

黄仁勋将当下的 AI 经济形象地比喻为一个“五层架构的蛋糕”。他认为,理解 AI 的关键在于意识到它本质上是一种“制造业”。在这个模型中,能源驱动着 AI 工厂(基础设施),工厂生成 Token(数字智能),Token 激活模型,而模型最终被整合进各种应用。

黄仁勋强调,“每一家公司、每一个行业都将经历转型,新的产业也将随之诞生。AI 就像电力一样,是新工业革命的基石”。这种转型要求企业从被动接入工具,转变为主动建设自己的“智能生产线”。他特别提到了像 Mistral 这样的欧洲企业,正在通过这种全栈式的生产模式,将欧洲的资源和能源转化为本地化的数字资产。

02

Vera Rubin 平台:全栈协同对摩尔定律的重塑

面对日益庞大的计算需求,传统的芯片迭代速度已显得捉襟见肘。黄仁勋在现场展示了全新的 Vera Rubin 平台,这是英伟达在计算架构上的又一次跨越。Vera Rubin 实现了 100% 的液冷集成,能够将整个机架变成一台巨大的超级计算机。

“摩尔定律在很大程度上已经终结了,我们需要极具协同设计的方案,从芯片到系统、再到算法,覆盖整个 AI 工厂”。黄仁勋指出,通过所谓的“极致协同设计”,英伟达在过去十年将性能提升了百万倍,远超摩尔定律的预期。新发布的 DSX Pod 更是将原本需要数月的工厂组装时间缩短至几天,确保了“从投入资本到生成第一个 Token 的速度达到光速”。

03

自主智能体的安全防线:OpenShell 框架的诞生

随着 AI 从简单的聊天机器人进化为能够自主决策、调用工具的“智能体”(Agents),安全问题变得空前紧迫。黄仁勋深刻指出,目前行业内仅靠“请勿操作”等礼貌请求来限制 AI 行为是远远不够的。

为此,英伟达推出了 OpenShell 开源框架。黄仁勋将其定义为 AI 时代的“安全沙箱”。“安全性不是一种愿景,它是技术与工程的结晶”。通过 OpenShell 和硬件级的 Sentry 监控,企业可以为智能体设定动态的权限边界。“由于 Agent 会通过 Sentry,如果它计划执行非预期操作,系统会在毫秒级时间内将其隔离”。这一举措标志着 AI 智能体从此拥有了安全、可控的“数字外骨骼”。

04

专有知识与工具:打造企业的超级助手

在黄仁勋看来,通用大模型只是起点,真正的竞争力来自于企业如何将自己的“专有知识”喂给智能体。他详细阐述了构建企业级 AI 的三个核心:模型、知识基础和工具。

“未来每一家公司都将同时使用闭源模型和开源模型,但最核心的是将你的专有数据转化为自主智能”。他以西门子(Siemens)和达索系统(Dassault Systèmes)为例,展示了智能体如何调用复杂的 KudaX 库和仿真工具进行工程设计。“人工智能的到来并不会终结软件行业,反而会让这些工具拥有比以往更多的用户。每一家工具公司都将转型为智能体公司”。

05

物理 AI:当智能走出数字世界

演讲的高潮部分集中在“物理 AI”——即 AI 进入物理世界的突破。黄仁勋展示了 AI 如何重塑电信基站、放射治疗机器人以及自动驾驶领域。他特别提到了英伟达的 Hyperion 标准,旨在为全球汽车行业提供一个统一的“自动驾驶外壳”。

在人形机器人领域,黄仁勋宣布与 Agile Robotics 合作推出参考机器人 Agile 1。他认为:“没有任何国家或地区像欧洲一样,拥有制造高精度机电一体化系统的卓越工艺。这将是欧洲的绝佳机遇”。物理 AI 的核心在于“三台计算机模型”:一台用于训练,一台用于数字孪生模拟(Omniverse),一台用于实机部署。

06

结语:每个人都将拥有 AI 伙伴

在演讲的尾声,黄仁勋通过 MicroDuck 的趣味演示,向观众展示了即便在本地 PC(RTX Spark)上,也可以完成从机器人建模、仿真训练到实机部署的全过程。

“欧洲的每一家公司都将成为 AI 公司,这毫无疑问”。

完整全文整理

全文:黄仁勋GTC2026柏林主题演讲

序幕:自由与崛起

画外音

这就是智能的诞生方式。

这是一种新型工厂,一个 Token 生成器,也是 AI 的基石。Token 开启了新的疆界,将数据转化为知识,再将知识转化为行动。

它们解读自然的密码以揭示隐藏的疗法,映射我们的城市,并孜孜不倦地探索我们的世界。

为了让我们不断前行。Tokens 从我们的行动方式中学习。提供我们所需的关怀。我们步入危险。

为了保护我们所爱之人,它们看见了我们无法触及之处。

因此,最稳健的双手从不孤军奋战。每一个由 Tokens 激发的创意,每一份它们共享的成功,都让重要的事物触手可及。Tokens 正以前所未有的规模帮助我们开辟新领域。

使我们能够触及天空乃至更遥远的彼方。

我们共同迈向光明的未来,实现下一次伟大的飞跃。

为全人类而造。而这一切都将从这里开始。


NVIDIA 与欧洲:33 年的合作伙伴关系

主持人

欢迎 NVIDIA 创始人兼首席执行官 Jensen Huang 登台。

黄仁勋

欢迎来到 GTC。很高兴能来到这里。在开始之前,让我们为我们的赛前秀主持人鼓掌,既聪明又可爱。

他们谈论了 AI 基础设施、主权 AI、AI 安全以及物理 AI。今天上午他们涵盖了极其广泛的内容,而我们将在此基础上更进一步。这真的很有意思。L'Oreal、Revolut、Spotify、Merck、Vodafone、Zara、Porsche、Nestle 和 HSBC 有什么共同点?

这些全都是欧洲公司,而且它们都在与 Nvidia 进行 AI 领域的合作。这里的每个人都已经激活了 AI 生态系统,并正朝着 AI 经济的方向迈进。

我们在欧洲开展业务已经 33 年了。你们可能没有意识到,Nvidia 的第一款芯片 NV1、NV2 以及后来演变为 RIVA 128 的 NV3(这款芯片确实拯救了我们的公司,并推动了我们的起步),全都是在欧洲制造的。我们的第一个合作伙伴是 SGS Thomson。我们在法国克罗尔(Crolles)生产芯片,在马耳他进行组装,并销往世界各地。

在 GeForce 时代的初期,我们最大的客户是一家名叫 MediaMarkt 的公司。如你所记得的那样,MediaMarkt 在组装 PC 方面有着卓越的构想,他们曾是我们最大的客户。正是德国公司 Elsa 在 2000 年将 Nvidia 带入了工作站行业。

现在,Nvidia 的身影遍布欧洲的每一台工作站,用于汽车设计。从造型、设计、工程、仿真,一直到车内系统,都是如此。而将我们引入车内系统领域的,正是欧洲公司 Audi,那是在 2005 年。随后在 2020 年,我们开始与 Mercedes 合作开发自动驾驶汽车。正如你们所见,Nvidia 的人生旅程,这 33 年来的每一刻,我都花了很多时间在德国。很高兴能回来。谢谢。

我很高兴能在这里举办 GTC。就在过去这一年里,我们在欧洲开启了打造新产业的征程,即 AI 经济的开端。仅在过去一年中,我们就已经在欧洲投资了近 100 亿美元,涵盖初创企业、大型合作伙伴关系以及小型合作伙伴关系,遍布整个欧洲。仅在上周,当我从法国、英国一路来到瑞典,现在又来到柏林时,我们宣布了对 14 家初创公司的投资。

总而言之,自起步以来,我们在欧洲目前已拥有 12000 多项合作伙伴关系。现在,我们正朝着同一个目标共同努力。


新工业革命:AI 工厂与五层架构

经过数十年的计算机行业进步,我们现在正处于一场新工业革命的开端。这张图片是由计算机生成的。它是由我输入的提示词生成的。通过一段关于 AI 驱动新工业革命的简洁提示词,生成了这张图。

我列举了几个我想重点介绍的合作伙伴,即那些正在与我们合作的公司。这是一件非同寻常的事情。在 AI 的构想中,这就是它的意义所在。构建一个新的产业,即生成 Token,生产智能,并将其整合到每一个行业中,从而推动一场新的工业革命。

当新技术影响到我们制造事物的方式以及我们能够制造的事物时,一场新的工业革命便会发生。

我们如何制造事物,以及我们能够制造什么。我认为在方方面面,人工智能都将影响我们所构建的一切,事实上,它将使我们能够创造出全新的事物。以此方式,由于每个人都将使用它,每家公司都将由其驱动,因为它作为数字智能,是万事万物的基石。

每一个人都将使用它,每一家公司都将由其驱动,每一个行业都将经历转型,新的产业也将随之诞生。

以此方式,它就像电力一样,是一场新的工业革命,而我们正处于这场革命的最初阶段。问题在于,什么是 AI?这至关重要。如果你想参与创造未来,理解什么是 AI 就显得尤为重要。

这其实是一个简单的框架。我们很早就观察到,事实上,AI 是一个制造业。AI 不仅仅是软件技术。它是软件技术,但不仅限于此。当然,AI 是在计算机上运行的。但计算机运作的方式已发生根本性改变。它不再只是我们使用的工具,而是成为了一种机器和基础设施的一部分,即能够生产智能并集成到每一个行业和应用程序中的工厂。

一个简单的模型是将 AI 视为一个五层蛋糕。能源驱动着构成 AI 工厂的先进计算机,这些工厂生成 Token,即从运行于其上的模型中产生的数字智能,并将其集成到每一个应用程序中,构成了所谓的五层架构蛋糕。想要参与到这一 AI 经济中,你不应仅仅是 AI 的使用者,更应成为 AI 的生产者。我们完全可以在欧洲实现这一切。事实上,我们已经开始了。

欧洲正在构建自己的 AI 经济,如图所示的五层架构蛋糕即为其代表。

我们拥有出色的合作伙伴关系;纵观这五层架构,你会发现这确实是一个新兴产业,因为每一层都在实现增长。我们正在以惊人的速度创造就业机会,并推动增长。

欧洲的企业,如 Schneider、Siemens Electric、Siemens Energy,在世界各地表现得极其出色。

我们处于计算层。我们集成到如今在欧洲各地蓬勃发展的 AI 工厂中。像 Nebius 这样的初创公司表现优异,还有一家名为 Firebird 的新公司正在中亚地区建立新的云基础设施,甚至在非洲也有 Cassava 的身影。未来,每一家电信运营商——我在此预言——每一家拥有 10 万个站点、代表约 100 吉瓦分布式电信基站和数据中心的电信运营商,未来都将演变成分布式 AI 网络。

因此,AI 基础设施层正在构建之中,而在其之上则是 AI 模型。

必须认识到,在 AI 模型出现之前,基础设施必须先行存在,这一点至关重要。正如在拥有互联网之前,必须先有网络连接一样。正如在真正享受电力带来的功能之前,必须先有通电的房屋和发电厂一样。

因此,模型是下一层级。同样有趣的是,模型层不仅涵盖语言模型。

它代表了语言、生物学、化学、物理学、机器人动作、动画,并且涵盖了各种规模的模型。

这些不同的行业将由不同模态的 AI 模型驱动,进而整合到 AI 原生企业及初创公司中。在你们欧洲,这样的企业非常多。所以,欧洲的 AI 经济正在起步,并且确实在加速发展。这真是令人高兴。


全栈 AI 工厂:Vera Rubin 平台

在我们的贡献基础之上,大多数人认为核心是 GPU。这确实没错。

我们始于 1993 年,最初是构建图形芯片,随后演变为 GPU,即具备可编程着色功能的 GPU。随着时间推移,我们在此基础上加入了 CUDA 加速,彻底重塑了我们所认知的计算方式。这进而催生了人工智能。

但今天的 Nvidia 实际上是一个全栈、端到端、完整的 AI 工厂平台。

多年来,我们公司的技术广度确实得到了极大的扩展。

从 GPU 计算(Vera Rubin 是我们最新的架构),到将它们连接成一个巨型 GPU 的 NVLink 交换机。还有我们近期推出的 Vera BlueField-4 计算,以及我们的以太网解决方案 Spectrum-X——这使得 Nvidia 成为当今全球最大的网络公司;此外还有用于生成式文本标记生成的解码加速器 GROK 3,以及 Vera BlueField-4 存储加速,最后是 Vera RTX 计算。这些现在代表了构建 AI 工厂所必需的技术广度。

但如果缺乏能够激活所有这些环节的软件,一切都无法运转。第一部分是运行 AI 工厂的系统软件。这些系统规模极其庞大。一座一吉瓦的数据中心,即一座一吉瓦的 AI 工厂,成本约为 500 亿美元。土地、电力、厂房架构,以及所有计算、网络、存储和电力冷却设施连接在一起,构成了占地数英亩的 AI 工厂。仅仅是启动并运营它本身就是一项奇迹。

为了激活这座工厂,使其投入使用并产生 Token,所需的庞大软件规模是一项非凡的壮举。Nvidia 提供了完整的全栈软件。在此之上是我们称之为 CUDA-X 的库,即我们公司的算法。Nvidia 本质上是一家算法公司,通过设计芯片来加速这些算法。当然,其中之一就是 cuDNN,许多研究人员公认正是这一库带来了现代 AI 的大爆炸。cuDNN 之于 AI,正如 SQL 之于全球数据库行业。这是一种领域特定语言,也是一个领域特定库。正如 OpenGL 和 DirectX 推动了实时计算机图形学的发展,cuDNN 也正在推动 AI 计算行业的发展。

还有 350 个其他库,这些库实际上是我们公司的瑰宝。

从计算光刻到信号处理、图像处理、数据处理、粒子、流体、稀疏求解器,涵盖了极其广泛的库,你们在座的许多人已经将这些库接入到你们的公司中。这就是我们开拓新市场的方式。这就是我们将 Nvidia 融入算法的方式,使你们能够以惊人的速度进行计算。最后,在右侧,是模型。

这是新的软件,是新应用程序的引擎。

它构建在 CUDA-X 库之上,并与之协同工作。这些模型是 NVIDIA 在多个领域持续研发的成果。有了这些模型,新的机遇便随之开启。关于这一点,我稍后会有很多话要说。

实际上,在每一个代际,NVIDIA 都是从 Pascal 开始的。AI 时代始于 Pascal 这一代,也就是所谓的 DGX-1 系统。DGX-1 为世界带来了全球首台 AI 超级计算机。我在 10 年前发布了它,并将第一台交付给了 OpenAI,由此开启了他们的计算征程。从 Pascal 到 Volta,再到 Ampere,接着是许多人第一次听说的 Hopper,以及当前一代的 Blackwell,现在还有全面投入生产的 Vera Rubin。请注意,这涵盖了六代架构。

每一代产品,我们都在推动技术的进步。

在过去的 10 年里,我们将 AI 性能提升了 100 万倍。如果你退后一步思考摩尔定律在 10 年时间里会实现什么:前 5 年会提升 10 倍,后 5 年再提升 10 倍,即在同样的时间跨度内实现 100 倍的提升。正是因为 NVIDIA 极端协同设计在每一台计算机、每一个软件栈中不断创新,优化新算法,创造新算法,同时构建能够加速这些算法的架构。通过跨领域的工作,即我们所称的极端协同设计,我们能够将人工智能的性能提升 100 万倍。我们将继续保持这一势头。

这就是 NVIDIA 今天所构建的成果。这也是我们能够助力欧洲融入人工智能生态系统和人工智能经济的基础。每一代产品初期,从 Pascal 到 Volta,从 Ampere 到 Hopper,都以 GPU 为核心。我们发明了全新的 DGX 外形规格。随后,Blackwell 向世界引入了首个机架级计算。机架级计算将整个系统变成了一台巨大的计算机,即一个单一的 GPU。

现在,随着 Vera Rubin 的推出,我们正将其处理能力从单纯的模型和大语言模型,扩展至处理整个智能体。我们稍后会回到这张幻灯片,请先记住这一点。智能体必须进行思考,而这正是模型发挥作用的地方:感知、推理、规划以及使用工具。

所有这些都在大型语言模型上运行,模型的设计初衷即在于此;但智能体还拥有所谓的控制架构,基本相当于数字智能体的外骨骼。正如我们拥有大脑,身体的其他部分代表了我们的外骨骼;智能体就是那种能够编排工作的外骨骼,它使智能体能够真正调用内存、活动内存、工作内存以及长期记忆,并激活各类工具。

第三部分是一台处理知识的计算机,专为数据处理而设计。最后,是一台专门用于 CUDA-X 库的计算机。它的工作是运行工具。这些计算机现在构成了整个智能体系统。因此,Vera Rubin 已全面投入生产,这是一种很好的架构。

这是我们创造的世界上第一台此类计算机。没有线缆,没有导线,完全 100% 液冷,确实非常令人愉悦。

等一下。

能把它取出来真是太棒了。这就是一台 Vera Rubin 计算机。它配备了两个 GPU。在 Grace Blackwell 的案例中,组装一个节点曾经需要两个小时,当你看到它时,你就会明白我的意思,到处都是线缆和电线,现在 80% 是液冷的,而 Vera Rubin 是 100% 液冷的,组装它只需要不到五分钟,这是一个非常了不起的成就,当然,这转化为制造业中更高的周期时间,更好、更可靠的性能,还有更好的表现。

这是 NVLink Switch Tray,它的作用是将 72 个这样的 GPU 连接起来,这里面现在有四个,它将 72 个 GPU 连接成一个巨大的 GPU,每个 GPU 有 20 petaflops 的算力,将 72 个连接成一个巨大的系统。谢谢你。谢谢。

这是我们新的 Vera 计算机。

没关系。慢一点。让她来,给她一个机会。每个人都有机会发言。

不,拿走,我稍后再和你们谈。

我稍后再和你们谈。谢谢。所有重要的问题,所有重要的问题。但还是让我讲完我的主题演讲吧。

我们有,这个礼堂里座无虚席。

我们在世界各地还有一百场观看派对。一百场观看派对。此刻有 15,000 人正在观看我们的直播。所以,我将完成接下来的主题演讲。在最后,我有一些非常、非常有趣的内容要展示给你们。

你们得先忍受我进行一些科普教育。

之后才是娱乐环节。这是我们全新的 Vera 计算机。Vera CPU 是一款非凡的 CPU 怪兽。每时钟周期执行八条指令。它拥有全球首款 LPDDR 内存系统,使我们能够实现高性能、极高的带宽,以及极其出色的能效。片上互连结构是全球所有芯片中最快的。因此,数据处理性能极其出众。代理会话的启动与处理性能同样极其出众。而这正是它的设计初衷。这就是我们的 Vera 计算机。

而这一台计算机,是 Spectrum-X。

这是全球首款共封装光学器件,你们可以在这里看到。我会向大家展示其中一部分,有些区域是地面,有些区域可以走上去。我不确定具体是哪块区域,如果我不小心消失了,你们知道这不是特技表演,而是意外。你们看,这里就是激光器。这些激光通过光学器件传输,并直接连接到我们的芯片上。它使用了我们与 TSMC 共同发明的名为 CPO 的制程技术进行连接。硅光子技术被直接安装在我们的芯片上。否则,你们现在看到的这些区域都将是印刷电路板。且 PC 电路板的传输能力远逊于光缆。

因此,我们现在拥有极高数据速率、极高质量的数据,并能直接传输到芯片上。这些数据直接进入收发器,无需经过 PCB,收发器直接接入光学器件。这就是全球首款 CPO。我们目前处于全面量产阶段。以及 512 端口、单端口 200 Gbps 的全球最先进以太网交换机,我们对此深感自豪。谢谢。

这为我们提供了处理思想、大语言模型、运行智能体框架、执行知识数据处理,以及为所有工具运行加速计算的能力。这基本上代表了智能体的工作负载。

虽然 Vera Rubin 已全面量产,且性能极其卓越,但正如我之前提到的,通过极致的协同设计,每一代产品我们都能实现远超预期、远超摩尔定律预示的性能表现。众所周知,摩尔定律确实在很大程度上已经终结了。因此,我们需要这些极具协同设计理念的方案,从芯片到系统、从系统到系统软件、再到算法,覆盖整个 AI 工厂。Vera Rubin 是继 Blackwell 之后又一个巨大的飞跃。在处理代理任务和大语言模型时,Blackwell 的速度大约是 Hopper 的 30 倍。而现在,仅在两年时间内,Vera Rubin 的性能又比 Blackwell 提升了 30 倍。

让我们来看看 Vera Rubin 是如何转化为 DGX 全栈 AI 工厂的。AI 正在推动历史上规模最大的基础设施建设。这些工厂规模庞大。其投资额非常可观。我们必须将其建设好。但仅有优秀的芯片并不能打造出色的 AI 工厂。NVIDIA DGX 是一套全栈 AI 工厂参考架构,由 NVIDIA 与全球领先的基础设施公司共同创新而成。计算、网络、存储、软件、电力和冷却系统,作为一个整体进行联合设计。从设计到运营均实现优化。

DGX 始于数字孪生。在施工开始前,对性能、电力、水耗和规模进行虚拟验证。PTC 将设备设计转化为可进行模拟的资产。Dassault Systèmes 连接机架与设施设计。通过基于模型的系统工程实现。Schneider Electric 模拟配电和液冷系统。

Jacobs 在 Omniverse Digital Twin 中将这一切整合在一起。Siemens 评估热学、声学和电网影响。

并且 ProCore 支持施工阶段的规划。电力限制了 AI 工厂的产能。DGX Max LPS 是一种端到端的控制回路,能够动态调节电力以匹配工作负载需求。在实现相同产出的前提下,它能减少 30% 的功耗。DGX 重新定义了冷却方式。NVIDIA Vera Rubin 系统专为闭环液冷设计,冷却液温度最高可达 45 摄氏度。在适宜的气候条件下,室外干冷器可将热量释放到空气中,而无需蒸发水分。在 2 吉瓦的功率下,DGX 每天可节省 5400 万个 1000 升的水。这相当于 18 万个家庭的每日用水量。

但 AI 工厂的建设可能需要几个月的时间。在正式投入运行之前,它无法产生任何 Token。今天,我们发布了 NVIDIA DGX pod,将这一全栈平台引入到工厂预制的集成系统中。它以 Vera Rubin NVL-72 为基础。7 个液冷计算架构通过 17 公里长的 Spectrum-X 线缆相连,构成了一个 Vera Rubin DGX pod。Vera Rubin DGX pod 经过集成、全线缆连接及出厂测试,随后以可运输的集装箱形式交付。干冷器替代了传统的蒸发式冷却系统。800 伏直流电接入机架,以实现高效的电力输送。一旦现场公用设施就绪,预计现场部署时间将从几个月缩短至几天。

NVIDIA DGX AI 工厂在设计上注重责任感。而现在有了 DGX pod,AI 工厂的建设速度将如光速般迅捷。单位功耗下的智能水平更高。首个 Token 的生成时间更短。因此,在 2016 年,我们推出了全球首款 AI 超级计算机。

它当时仅是一个节点,一个 GPU 节点。

随后在三年前,我们推出了 Grace Blackwell,即 NVLink 72 机架级计算机。这两次,我们不仅需要重塑计算机、软件及其运作方式,还要重塑整个供应链。以 NVLink 72 为例,我们直接在供应链内部完成了原本需要在现场组装的整个机架的组装工作。我们从本质上实现了超级计算机的规模化制造。这就是我们能够如此迅速行动,并同时为全球数百个数据中心建设项目提供支持的原因。

全球每一家计算机制造商现在都在生产 NVLink 72。我们目前生产计算设备的规模是前所未有的,甚至是不可想象的。

即便如此,当这些系统被运抵现场时,仍然需要耗费数月的时间进行组装。

你们刚刚听到了,有 17 公里的线路需要连接。仅就用于横向扩展计算的 Spectrum-X 而言。17 公里,这些数字简直不可思议。现在,假设我们把这一切都放在供应链内完成。将所有设备组装好、构建好,确保其完全运行,完成合格的老化测试,这样当我们交付时,它就是完全可用的。布线和现场组装的工作量将大大减少。

但这还远不止于此。事实上,通过将这一环节前移至供应链中,数据中心内闲置计算资源的数量将会大幅降低。记住这一点。每一吉瓦,每一个吉瓦级别的数据中心,造价都是 500 亿美元。

你所预期的创收能力是每年数百亿美元。

因此,如果我们假设该基础设施每年能产生 400 亿美元的营收。

400 亿美元的营收,如果延误仅仅三个月,那损失就是 100 亿美元。

黄仁勋

价值 100 亿美元的营收会让任何人感到焦虑。因此,通过将这一点引入供应链,我们从安装、计算设备到货到最终生成 Token 的速度将缩短,从过去所需的数个月,我们认为可以缩短到大约四到五个月,甚至是缩短到一个月的水平。所以,这是一场全球供应链的彻底变革,这也将改变人们安装和构建数据中心的方式。希望结果是,速度能得到提升。闲置算力的浪费和闲置资本开支(CAPEX)的浪费将会减少,每个人都将变得更具盈利能力。

所以,这就是现在集成到大型机柜系统中的 NVLink 72。我们称之为 DSX pod。好的,这就是 NVIDIA 计算的下一次迭代。


独特地位:通用架构与软件生态


现在,你的制造内容以及制造方式成就了你的独特。

黄仁勋

就像在欧洲这里,你们所从事的工作成就了你们的独特。你们设计机器、运营工厂、探索医药、拥有非凡的技艺,正是那种技艺、那种专业性成就了你们的独特。

黄仁勋

那么,成就 NVIDIA 独特地位的确实是两件事。第一件事是,我们的架构是唯一一种通用型的加速计算架构。我们并不只专注于单一算法,例如 transformers。我们专注于任何可以并行处理的领域。这可以是流体和粒子模拟,可以是量子计算,可以是量子化学,可以是图像处理,可以是数据处理、结构化向量数据处理,以及各种类型的处理。正是因为我们长期深耕于此,且 NVIDIA 的架构在过去二十五年里始终保持一致,我们所服务和加速的算法数量、领域数量以及行业数量都得到了巨大的增长。我们的装机基数、通用架构、对该架构的专注投入,以及我们与全球各行各业的协作,使得 NVIDIA 的架构真正无处不在。

黄仁勋

第二点在于我们如何实现这一点。当然,我们拥有自己开发的架构,但现在我们将其构建成了一个全栈式的完整 AI 工厂。世界上有很多公司想要设计自己的芯片,但全球大多数公司只是想部署 AI 基础设施,以便在其之上运行各自的业务。对于全球大多数公司而言,设计芯片、构建超级计算机并编写所有配套软件的能力,完全超出了它们的设想。

黄仁勋

因此,我们现在结合了 CUDA 和全栈 AI 工厂这两个概念,这使我们能够进入原本无法触达的市场。正是因为这个原因,我们才能够在这里与如此多的公司建立合作伙伴关系。

如果以此展开,首先从 CSP 谈起,这是大多数人认为目前 AI 应用最广泛的地方。但正如你们在我们主题演讲开头所看到的,我提到了许多并非此类公司的企业。因此,CSP 对全球计算领域来说仍然是非常庞大的业务。但目前世界各地涌现出许多 AI 原生公司,它们是全新的初创企业。现场就有非常多这样的公司。新云服务商,因为每个地区都希望参与到 AI 经济中。每个地区都希望确保他们拥有的宝贵资源和能源,能够专门用于该地区的各家公司。例如,欧洲的 Mistral、法国的 Mistral,以及总部位于欧洲的 Nibia,欧洲各地有许多公司正在构建算力集群。

为全球企业制造计算机的 OEM 和 ODM,当然还有我们所熟知的 AI 实验室。去年我们谈论的全部是 OpenAI,今天我们讨论 OpenAI 和 Anthropic,但我们也在谈论令人惊叹的 Meta、Mistral、Grok、xAI 以及 Gemini。现在有这么多不同的 AI 实验室参与到前沿技术的竞争中,这一点非常重要。归根结底,为了让 AI 取得成功,让欧洲从 AI 中受益,并真正建立起 AI 生态系统和 AI 经济,需要所有终端市场和终端行业都采用 AI 并取得成功。

无论是在汽车行业(因为我们正在制造自动驾驶汽车),还是通过机器人进行制造的生产方式,亦或是医疗保健领域发现新药的方式,以及金融服务行业,所有这些不同的行业都必须转型为 AI 公司,每一个行业都是如此。

得益于我刚才提到的 CUDA 以及我们构建计算机的方式,我们拥有独特的能力。我们拥有独特优势,能够服务于 AI 的每一个细分领域。因此,我们采用单一架构覆盖多个市场,考虑到这些基础设施意义重大且成本高昂,我们必须确保它们能够尽早实现最大化生产力,确保其具备通用性,使您从 AI 之旅的起点就能将其应用于各种工作负载。


从数据处理到训练,再到训练后处理、推理和代理处理,覆盖 AI 之旅的每一个环节;应用于各类 AI,从化学与物理领域到语言模型,再到每一个行业及其所使用的算法。

黄仁勋

因此,NVIDIA 的架构是通用的,这也意味着您同样可以实现这一点。持续创新,持续进行软件更新。由于装机量非常庞大,我们拥有极其丰富的软件生态系统,因此这些架构既持久耐用,又具备通用性和高效生产力。嗯,这奠定了基础。

黄仁勋

这就是基础设施。那么,我们该如何利用它呢?过去一年,我们见证了 AI 的转型,AI 现已具备生产力。其中最重要的时刻之一是在年初,当时我们谈到了 OpenClaw,它引入了开源代理的概念。它确实开启了我们今天在世界各地所见的一切。

智能体能够思考、推理、迭代、使用工具,因此会消耗海量的 Token。但正因如此,它们变得更加实用。所以,越来越多的智能体正在被开发出来。它们变得更有用,因此被更多人使用;而由于它们需要消耗大量的 Token 来进行思考,Token 的消耗量已经呈爆炸式增长,GPU 的需求确实已经飙升到了极点。


自主智能体与 OpenShell 安全框架

黄仁勋

那么,负责处理这些工作的就是这个。这就是一个智能体。这就是智能体的五个要素:第一部分是语言模型。这些是在 GPU 上运行的 token,它们生成的 token 会被智能体所消耗,也就是我所说的外骨骼。那个开放式架构的挂载装置位于一个沙箱内,沙箱将其与系统的其余部分隔隔离开来。这是一个非常重要的概念,我们后续会再回到这里。

总共有五件事物,首先是模型。其次是挂载装置、挂载装置所在的沙箱,以及另外两项:知识和工具。模型、沙箱、挂载装置、知识和工具。这五个要素构成了智能体。现在,在探讨如何使智能体发挥作用之前,最重要的一点是必须确保智能体的安全性。

黄仁勋

该智能体是自主的,这是一个能够访问文件、资源、网络以及工具的自主系统。我们需要确保提供给该自主系统的权限是最小化的,并且要对其进行持续监控。我们推出了一款出色的新产品,一个名为 OpenShell 的新平台。OpenShell 的推出正当其时。


这是一个安全运行时环境,它不仅提供了我刚才提到的各项功能,还额外配备了一个基于硬件的监控器。

黄仁勋

在向各位解释之前,让我们先观看一段视频。各方正准备部署数十亿个 AI 智能体。为了发挥作用,它们需要进行推理、规划、使用工具、访问数据并协同工作。目前,唯一能阻止智能体滥用这些权限的方法,仅仅是礼貌地请求它们:“请不要删除任何东西。”“请不要向我推送任何内容。”“请不要触碰我的 SSH keys。”那只是“请勿靠近”的请求而已。但希望并非安全,安全性不是一种愿景,它是技术与工程的结晶。

NVIDIA OpenShell 和 Sentry 将这一理念付诸实践。你为每个 agent 可以触碰的内容编写策略,而 OpenShell 在系统调用、文件访问和网络连接的粒度上实施该策略。形式化验证会根据你的权限上限检查每一次策略变更,确保 agent 永远不会获得超出预期的访问权限。这就像早期的互联网,在浏览器对网页操作权限实施严格限制之前,病毒无处不在。OpenShell 针对智能体实现了同样的功能。

执行过程在智能体外部进行,而不仅仅依赖 LLM 的护栏机制,从而将智能体原生的安全性引入到您的基础设施中。每个智能体都在其独立的沙箱中运行,且没有直接连接网络的路径。所有出站网络请求均通过沙箱外部的 supervisor 进行。它会根据您的策略对操作进行核查。如果操作不被允许,则会被拒绝。密钥保留在外部的 supervisor 处,仅在发往经批准的端点时才会添加。受到入侵的智能体无法泄露它从未获取过的密钥。

网关即是控制平面。由 supervisor 负责做出决策,沙箱用于托管 Agent,策略验证器则根据你的权限上限对拟定的策略进行检查。OpenShell 结合了 Linux 内核隔离与运行时策略强制执行功能。NVIDIA Sentry 在宿主机之外、远离 Agent 的地方增加了一层可选的保护层。Sentry 运行于 NVIDIA BlueField-4 之上,负责监控 Agent 的活动并在硬件隔离的可信域中强制执行安全策略。

由于 Agent 的推理流量会通过 Sentry,如果 Agent 计划执行非预期的操作,它会立即更新策略并切断与模型的连接,在毫秒级时间内将其隔离。同时,它还会保留防篡改记录,供运维人员进行验证,以实现检测、调查和响应。OpenShell 基于 Apache 2.0 协议开源。它可以在你所有 Agent 运行的地方(从边缘端到云端)运行,且仅需两条指令即可完成部署:安装 CLI,创建沙箱,然后运行你常用的 Agent 即可。Agent 的实用性取决于你赋予它的访问权限,OpenShell 和 Sentry 将这种访问权限置于您的控制之下。

这就是我们推动其进步的方式。AI 能力与安全性并重。Agent 是自主系统。我们必须创造极其安全的技术,以确保我们能够开发并安全地部署这些 Agent。现在,这令人难以置信。


自从我们宣布 OpenShell 以来,全球几乎每一家大型公司,从 Frontier Labs 到操作系统公司、网络安全公司、平台公司,都已开始采用。

黄仁勋

OpenShell。看到这一点真是太棒了。其原因在于,这项技术出现的时机恰到好处。在我们需要将智能体部署到世界各地之际。请记住,这不仅仅是关于服务商在部署智能体时使用 OpenShell 的问题,这实际上是关于全世界所有的公司也都采用 OpenShell,这样你们就可以接收这些智能体,并让它们在你们公司内部自主运行。

每一个能力层级,你赋予智能体的每一项任务,对于每一个使用该智能体的人来说,所有这些组合中的每一个都需要你提供给智能体不同级别的权限。而且每次启动智能体时,其权限都是不同的。因此,权限管理、策略执行以及监控都必须动态完成。所以 OpenShell 真的是革命性的。

我很高兴地宣布,Anthropic 与 NVIDIA 正在合作创建 Claude OpenShell 智能体。你们可以访问该网站,上面有一篇非常棒的相关介绍文章。

那么第一部分,第一部分是如何使用这些调用框架,如 OpenClaw、Hermes、OpenHand?你可以使用 LangChain、Deep Agents 来创建你自己的调用框架,或者直接用 Python 编写。创建的方式多种多样。代理调用框架现在位于一个 OpenShell 安全框架内。好的,这就是它所处的沙盒,一个安全的沙盒。


模型与知识库:构建企业专有 AI

黄仁勋

接下来,我们来谈谈模型。你应该使用各种类型的模型。未来,我们不会只用一个模型来运行所有任务。我们将使用最优秀的模型,无论是闭源模型、开源模型还是定制模型。我们将调用所有模型来完成你的工作。有时你所做的工作相当通用,

人工智能通用模型将能够出色地完成这些任务。

黄仁勋

然而,有时你想要开展的工作涉及过多的专有知识和专业领域,你需要不断提升这方面的智能水平。


未来每一家公司都将同时使用闭源模型和开源模型。

黄仁勋

你进行定制。在本次会议结束时,你将会发现,实际上构建属于你自己的 AI 并不困难。当然,这一切始于模型。我们一直致力于推动开源模型的发展,以开辟新的机遇,并让人们能够构建自己的定制化 AI。Nemotron 用于处理语言;Cosmos 是我们的世界基础模型,我们处于最前沿;GR00T 用于人类与机器人领域,我们处于最前沿;Alpamayo 用于自主导航,我们处于最前沿;我为量子经典计算而歌唱,我们处于最前沿;当然,还有 Earth-2、物理学、AI,我们处于最前沿。因此,在所有这些不同领域,

我们为您提供所有的模型,并且我们正在持续进行研发。

黄仁勋

我们已经为此工作了十年,并且我们将永远持续下去。我们为您提供完全开放的模型,以及随附的数据,以便您了解我们所创建模型的来源,同时提供您复现模型所需的脚本。因此,您不仅拥有我们提供的开放权重,还拥有完整的方案和数据来重建这些开放模型,这样您就可以了解它们的来源并对其建立完全的信任。当然,这些模型未必是前沿中的最前沿,特别是在语言模型方面。

然而,通过定制化以及与我们合作的生态系统合作伙伴,您可以将这些模型转化为前沿模型,并由此将您的专有数据转化为自主智能。这是 AI21 的一个例子,他们帮助 Alice 将 Nemotron 转变为一个超越前沿能力模型的产品;这是 Base10,他们帮助 CodeRabbit 将一个 Nemotron 模型在你的数据上进行微调后,使其具备了前沿能力,Base10 和 CodeRabbit 都是如此;这是 Harvey 中的 Trajectory,同样是使用 Nemotron,经过训练后,他们创建了属于自己的前沿级能力;这是 Scale 与 Skydance 的合作,同样在做这件事。

这样的例子不胜枚举。重点在于,你可以从一个开源模型开始,比如 Nemotron 这样极其出色的模型,通过你自己的数据,针对你的使用场景进行后期训练,当然可以实现超级智能。这是一件非常明智的做法,而且所有相关的技术在今天都已存在。这是 Palantir 与 Tampa General Hospital 合作的一个例子。这样的名单还有很多。我们拥有一个丰富的合作伙伴生态系统,可以为你提供帮助,而且它们是非常了不起的公司。它们可以与世界各地的你进行协作。我们刚才……总之,如果我只提到其中一家,就会得罪其他人。我得坐在这里把它们全部列举出来。我喜欢它们,我喜欢它们中的每一个。

首先是运行在安全沙盒 OpenShell 中的 Agent harness;其次是 Nemotron,即大型语言模型,这是你所需的前两个组件。但归根结底,让这些智能体成为超级智能体的关键在于,你要让它们能够获取你公司的知识。

黄仁勋

这就是我们整合的所谓的 Agent Knowledge Foundation。完全属于世界级的程序库和模型,它能够让你处理公司的数据。这些数据或资产可能以非结构化格式和文档形式存在,因此你需要一个 AI 来理解如何阅读这些 PDF 文档及所有非结构化文件;它们也可能存在于数据库中的结构化数据里。我们拥有必要的程序库和工具,可以帮助你从公司数据中提取含义与洞察。

逐个来看,Nemotron Parse,完全属于世界级,位居排行榜首位;Nemotron Embed,接收查询请求并将其与向量数据库内的知识相关联,位居排行榜首位;Nemotron Re-Rank,它可以找到许多与查询相关的不同数据片段来源,它将这些信息汇总,并根据与你需求的相关性进行排序。

Kumo,

能够根据你的结构化数据库预测未来可能发生的事件。

因此,举例来说,如果你收到一份关于某供应商供应不足或延迟发货的通知,这类信息很可能是以文档形式存在的非结构化数据。而你公司内部的订单信息很可能存储在结构化数据库中,例如你的 SQL 数据库。为了预测所有订单将会发生什么,谁会面临缺货,以及延迟的具体时长,你可以使用 Kumo 来进行预测。随后,为了找出替代方案,你可能会利用向量数据库搜索来查找替代组件的工程文档。好的,所有这些不同的库和数据处理能力现在共同构成了你的知识基础。你现在已经为你的 AI 配备了专有数据和专有知识。


智能体工具与行业应用

黄仁勋

NVIDIA 一直致力于 CUDA-X 的研发。对于你们中的大多数人来说,在 AI 出现之前的过去,我们所有的对话都围绕着如何加速模拟器、求解器、数据处理引擎以及各种特定领域的库。它们被用于科学发现,应用于科学的所有不同领域;它们被用于工程领域;它们被用于研究工作;它们被用于设计、制造以及创意艺术领域。其核心在于,我们的 CUDA-X 库和这些 CUDA-X 库都是算法。而算法,正如你们所知,是美妙的。

让我们来看一看它。数学是美妙的。CUDA-X 库,这些是我们公司的掌上明珠。而原因就在于此。当你构建一个 AI 助手时,它可以是实验室助手、研究助手、协同设计师,或是与你共同创作、并肩工作的伙伴。归根结底,让这些智能体变得有用、让它们能够处理实际工作的核心在于工具。因此,我们现在拥有了一些模型,使这些智能体能够推理、理解信息,能够进行规划,并迭代式地采取行动和使用工具,直到完成任务。但最终还是取决于工具。

这些工具是我们多年来一直致力于开发的,我之前向你们展示的右侧那台计算机运行着其中每一个工具。无论是流体力学还是粒子物理学,它可以是量子化学,可以是数据处理,可以是光线追踪。所有这些工具都运行在那台计算机上。那台计算机相对于仅在 CPU 上原生运行,其处理速度提升了 10 倍、50 倍甚至 100 倍。而 CUDA-X 工具正是为智能体提供专业工具的组件。

看到其他人如何使用它,真是太酷了。让我们来看一看,这就是神奇之处,智能体背后的原理。归根结底,智能体必须使用工具。当然,目前智能体应用的首批领域之一是软件编程,因此一个编译器或 Python 环境确实是它所需要的全部。但未来,随着这些工具完成的工作日益增多且愈发实用,我们将需要为它们提供更多的工具。

以下是一些示例。这是 LIDA Sciences,他们正在开发一名实验室助手,并使用 NVIDIA 的 BioNEMO 模型,该模型旨在用于蛋白质与细胞的理解,以及药物研发中蛋白质与化学物质的生成。他们正在使用 BioNEMO 和 CUDA-X 工具。这是 Siemens 工厂,他们正在构建一个使用 NVIDIA Cosmos 的工厂智能体,这是我们能够理解物理世界的世界基础模型,同时也使用了 CUDA-X 工具。这是一个 Dassault Systèmes 的示例,他们正在创建一个使用 NVIDIA Nemotron(我们的语言模型)和 CUDA-X 工具的虚拟伴侣。

让我们看看它们的应用。最聪明的科学家依然需要一个实验室。最优秀的工程师依然需要模拟器和求解器。

黄仁勋

AI 智能体也不例外。一个智能体由五个构建模块组合而成:模型负责感知、推理和规划;该协作框架用于协调各项工作;Knowledge Foundation 为智能体提供来自企业结构化和非结构化数据的上下文信息;工具集使智能体能够进行模拟、实验和执行操作;NVIDIA OpenShell 控制智能体可访问和执行的权限。

可选择从前沿闭源模型开始,或自定义开源模型。借助 NVIDIA 的智能体工具包,任何公司都能将其知识和专长转化为定制的超级智能体。让我们来看三个案例。

对于 LIDA Sciences 而言,其目标是设计一种针对 B 细胞淋巴瘤的疗法。基于 NVIDIA Nemotron 构建的 LIDA Iris 智能体,可将该目标转化为实验方案。在计算干实验室中,LIDA 智能体使用 NVIDIA BioNEMO Agent Toolkit 调用模型进行蛋白质设计和 RNA 优化,从而运行数百万次虚拟实验。最具前景的候选方案会进入 LIDA 的 AI 科学工厂,由通过 NVIDIA Omniverse 和 Cosmos 开发的自主机器人及仪器进行制造与测试。测试结果反馈给 Iris,进而塑造下一轮的设计与实验。循环持续进行。

在 Siemens Electronic Factory Erlangen,其目标是将新产品投入生产。Process Preparation X 智能体使用 NVIDIA Cosmos 生成虚拟原型和合成数据,并在生产开始前训练及验证检测模型。

Intelligence Center X 智能体基于 NVIDIA 的工厂运营蓝图构建,利用订单、供应和生产线配置来推荐生产计划。

黄仁勋

Digital Twin Composer 使用 NVIDIA Omniverse 库,通过物理仿真和实时工厂数据在变更应用到生产车间前对这些计划进行验证。借助 Dassault Systèmes 平台,工程师需要将 Volkswagen Golf 的车门设计适配到 Tiguan 上。Aura 和 Leo 使用 NVIDIA Nemotron 对工程需求进行推理。该协同架构负责协调各专业子智能体,并在规划、设计和仿真过程中保持上下文连贯。

Aura 使用 ENOVIA 根据车辆尺寸、重量限制和其他工程需求来规划作业。Leo 设计智能体选择了一款兼容的高尔夫球车门设计,并使用 CATIA 对其进行重塑以适配 Tiguan。Leo 仿真智能体使用由 NVIDIA CUDA-X 库加速的 SIMULIA 进行变体测试,揭示了一个振动问题。测试结果返回给设计智能体进行优化。工程师审核优化后的设计并选择最终方案。

不同的目标,不同的专业知识,相同的构建模块:开放模型、CUDA-X 加速工具以及开放式安全运行时。通过 NVIDIA Agent Toolkit 将这一切整合在一起,这难道不棒吗?有些人说人工智能的到来将终结软件行业和工具公司,但事实恰恰相反。人工智能的到来将使得这些我们长期打造的工具拥有比以往任何时候都多的用户。每一家工具公司现在都将转型为人工智能公司,成为智能体公司。他们不仅提供工具,还将为你提供极其擅长使用这些工具的专用优化智能体。Cadence 和 CrowdStrike 以及几乎所有的企业都在构建智能体,我们非常高兴能与他们合作。

构建智能体并不难,它包含四个或五个组件:它包含模型、工具链(harness),两者都有闭源和开源版本,还有开源的 Shell 安全运行时,最重要的是知识和工具,而这些知识和工具归属于你。那正是你的专业知识所在。因此,现在这一切都有可能实现,我稍后会向你展示更多细节。


物理 AI 与机器人技术

黄仁勋

但在那之前,让我们谈谈物理 AI。这确实是 AI 的下一波浪潮。能够理解物理世界并据此进行推理的 AI,因为物理世界是多元的,它很复杂,它拥有极长的长尾分布。我们需要对其进行推理,并使用合适的工具与物理世界进行交互。

每当人们想到物理世界时,他们就会想到机器人技术。事实上,我最喜欢的物理世界应用之一就是移动通信基站。原因就在于此:它不依赖摄像头、扬声器或麦克风,而是利用无线电波来感知世界。它对信息进行推理和处理,并利用波束赋形技术与物理世界进行交互。因此,这确实是一个非常适合 AI 的技术应用。AI 将彻底改变我们处理电信业务的方式,它将极大地提高我们的频谱效率。

正如我们在光线追踪技术中所做的那样——你所见到的所有图形都是百分之百由光线追踪渲染的——我们在过去认为必要的计算量,与现在应用 AI 后的计算量相比,有着百万倍的差距。因此,我们将为电信网络带来频谱效率上的巨大飞跃。不仅如此,我们还将彻底革新所有这些移动通信基站。在西方世界,目前有 10 万个站点,大约 100 吉瓦分布式数据中心,未来它们都将转型为分布式节点,分布式 AI 基础设施。

我们很高兴能与欧洲的多家公司合作。就在上周,经过近八年的努力,NVIDIA 在 Nokia 的协助下,通过 T-Mobile 网络拨通了首个商用电话。所以现在 CUDA 可以用传统方式拨打电话了。一旦实现了这一点,我们就可以在其基础上叠加 AI 技术。变革即将开始,这对我们来说是一个非常令人兴奋的机遇。

另一个让我倍感兴奋的物理 AI 应用本质上是机器人放射治疗。肿瘤的形状正在发生变化,在接受治疗的过程中,人体本身也在不断变化。机器人,即这套自适应放射治疗系统,必须感知不断变化的环境,理解肿瘤的位置,对其进行完美地分割,并据此直接、精确地引导放射治疗。本质上,机器人,没错,请继续,这是一种机器人手术。

当然,目前规模最大、最接近现实的机器人应用或物理 AI 应用,是每个人都认可的、我们已经投入了十多年研发的技术。现在我们意识到,每一家汽车公司都希望将他们的汽车纳入网约车车队。如今我们拥有 Uber 以及欧洲的 Bolt、Grab、Lyft 等各种网约车服务。在未来,也将会有连接到这些网约车服务的自动驾驶出租车,但这不会仅来自单一品牌。因此我们认识到,构建这些系统——尤其是运行在顶层的软件——成本极其高昂。

我们决定创建一个统一的标准架构,包含 14 个摄像头、9 个雷达系统、3 个 LiDAR、无数个超声波传感器,以及由双 NVIDIA GPU 系统驱动的自动驾驶计算系统,形成一个传感器外壳包围圈。我们将此转化为行业标准,现在它正被一个又一个汽车车队采用设计。在此之上还有 AV 软件公司,事实上我们也是其中之一,旨在构建自动驾驶机器人出租车能力,并将其接入网约车服务中。这个生态系统正在逐步建立。全球每年出行里程约为 1 万亿英里,未来其中许多里程将由自动驾驶出租车完成,这是一个巨大的机遇,但目前极其分散。

因此,通过创建行业标准 Hyperion,并与整个生态系统合作,我们可以构建一个每个人都能接入的巨大虚拟车队。今天,我非常自豪地宣布,将有 4 个新品牌、4 个新车系加入。VW 的面包车,我实在想不出还有什么比这更具标志性的了

。

黄仁勋

JLR 的全新车型,Volvo 车队以及 Mercedes 的下一代车型也将兼容 Hyperion,并成为这个网络——即网约车网络和 Robotaxi 车队的一部分。欢迎加入 Hyperion。

下一个主要行业,下一个伟大的行业,而且极有可能规模极其庞大,那就是人形机器人。机器人技术难以实现是有原因的,因为所有不同的工作内容差异巨大。因此,为每一种多样化的任务构建特殊配置,会将机器人行业分割成各种不同的配置,这阻碍了技术飞轮效应产生。手机发展如此迅速,个人电脑发展如此迅速,NVIDIA NVLink-72 发展如此迅速,其原因在于这些标准化配置能够满足众多客户的需求,从而衍生出巨大的产量;而这种产量推动了技术飞轮的转动,使其变得更快、更好,实现了惊人的提速。

因此,我们需要一种尽可能标准化的机器人配置。目前,人类与机器人显然具备这种能力。它可能并非万能,但很可能适用于许多场景。因此,这很可能成为产量最大的机器人配置。如果我们要能创造出一种能够让机器人快速学习的 AI,那么对于那些没有专门的机器人团队来教导和编程的中小企业来说,现在就可以直接演示给机器人看需要完成的任务。得益于其通用能力和通用智能,机器人将能够快速学习并适应。因此,这很可能成为下一个主要的平台,即技术平台。

我们正在与许多不同的公司合作。你们会在这里的欧洲认出其中许多公司。这是你们的绝佳机遇。没有任何国家或地区像欧洲地区那样,致力于以如此高的精度和工艺水平制造机电一体化、电子产品和机械系统。这里有许多公司在制造领域表现得极为出色。这将会是下一个高产量的产业。你可以看到,现在有如此多的公司参与其中,我们很高兴能与各位建立合作伙伴关系。

现在,为了创建一个物理 AI 系统,

你需要三台计算机。

黄仁勋

第一台计算机就是我们一直在讨论且大家非常熟悉的,即用于训练 AI 模型的计算机。第二台计算机是用于让 AI 学习如何掌握其技能的平台。你不能仅仅拥有 AI、编写程序,然后就让 AI 直接进入物理世界并尝试执行其想要执行的任何任务,你必须在数字孪生环境中进行这项工作。我们创建了一个名为 Omniverse 的数字孪生平台,你们已经多次看到我们提到它。事实上,刚才你们所看到的那些 CUDA-X 库,全都是在一个数字孪生世界中完成的。那个数字孪生世界被称为 Omniverse。

Omniverse 是一个连接了各类平台和工具的库,比如 Siemens、Dassault Systèmes、Cadence 等等。所以,你们可以看到这些数字孪生系统是如何被创建出来的。这是第二台计算机。

第三台计算机是机器人计算机。

黄仁勋

这台计算机在自动驾驶汽车(即 Robotaxi)的场景中进行集成,我们称之为 Hyperion。Hyperion 由计算机本身、功能安全系统、主动安全系统以及一套专为物理 AI 安全设计的操作系统组成。我们需要为机器人系统做完全一样的事情。这样每当你开始研发并投入到自己的机器人系统工作时,就不必从零开始,费力去拼凑所有的软件、计算系统、传感器以及各种机械系统,仅此一项就需要几年时间。

因此我们决定打造一款参考机器人。这就是我们与 Agile Robots 合作推出的 NVIDIA Agile 1。这款参考机器人将于明年第一季度上市,它将预装好计算机并集成软件,开箱即用,性能表现相当出色。这是一个极佳的起点,它将成为我们加速机器人技术发展的飞轮。


RTX Spark:重塑个人电脑

黄仁勋

那么,让我开始吧。就让我们从最初的地方来结束今天的演讲。NVIDIA 起步于 PC 革命时期。那是 1993 年,PC 革命正要拉开序幕。记住,Windows 95 的发布让它进入了加速发展阶段。自那时起,我们不断进取,发明了 GPU、可编程着色器、实时光线追踪,我们将 CUDA 引入计算模型,并推动了现代 AI 革命的兴起。

因此,四年前我们开始思考:在这个新时代,我们能做些什么来重构个人电脑?让个人电脑不仅仅是你的工具,而是成为你的个人代理或个人助理。你与这台电脑的交互方式,本质上应该像是一位伙伴,一个协助你完成工作的人。因此,这台电脑必须具备我今天提到的那五项要素:它需要具备模型。

它可以是在本地运行,也可以在云端运行。

黄仁勋

它需要一个控制框架,它需要一个安全的运行时环境和开放的 Shell,并且它需要访问权限,因为它在你的 PC 上可用,所以它需要能够获取知识和使用工具。好消息是,由于 NVIDIA 长期以来一直致力于加速工具的研发,如果我们能制造出一台能够加速 OpenGL、DirectX 以及所有 CUDA 支持内容的计算机,那么 NVIDIA 曾经开发的所有成果都能在这台计算机上运行。

就是这样。经过与 Microsoft 四年的合作,我们打造了 RTX Spark,这是一条全新的计算机产品线。从字面上看,这凝聚了数千年的工程投入。我们对此进行了四年的秘密研发,打造了一款名为 N1X 的芯片,并于近期宣布了这一成果,整个 PC 行业也随之加入其中。我们推出了台式机、笔记本电脑和工作站。这具备一千万亿次浮点运算能力。

一千万亿次浮点运算。为了让大家有个概念,2016 年时,我交付了一台具备一千万亿次浮点运算能力和 128 GB 内存的设备,那是交付给一家名为 OpenAI 的小型公司的一千万亿次浮点运算能力和 128 GB 内存。这是一台拥有 1 petaflops 算力和 128 gigabytes 内存的设备

。

黄仁勋

当然,唯一的区别在于我可以这样拿着它,而 DGX-1 需要两个人才能抬上楼。这就是全新的 RTX Spark PC。如果您想要一台能运行 CATIA、西门子(Siemens)全套软件、Autodesk 全套软件、Adobe 全套软件、Cadence 以及 Synopsys 的配套工作站,您随时可以选择这一台搭载 Windows 系统的 DGX Station。它具备 20 petaflops 的算力和 754 gigabytes 的内存,真是不可思议。当然,它还有桌面版。所有这些现在都已经发布了,我认为搭载 RTX Spark 的 DGX Station,即搭载 DGX Spark、运行 Windows 的 DGX Station,将于今年年底上市。

现在的问题是,到目前为止我只谈到了智能体的五个组成部分,那么问题在于你该如何构建它?如何构建一个运行在上述电脑之一、云端或本地部署环境中的智能体?答案其实很简单,方法就是:你通过让一个智能体为你构建它。

所以,这就是即将运行下一个应用程序的提示词(prompt)。接下来你即将看到的是这个,你即将看到的是一个机器人应用程序。

在观看演示时,请记住,

这台个人电脑上正运行着一个智能体。

此演示程序在三台计算机上运行:第一台计算机用于训练,第二台是数字孪生体,第三台用于部署该 AI,即计算机本身。好的,有两个核心概念:第一个是智能体(Agents),涉及如何构建、运行以及应用它;第二个是物理 AI 计算模型,由三台计算机组成,让我们来看看。


现场演示:MicroDuck 的诞生

黄仁勋

MicroDuck,Hugging Face 的机器人。让我们通过 NVIDIA RTX Spark 教它观察和行走。我使用 Hermes 作为我的智能体驱动框架,使用 Nemotron 和 OpenAI 的 GPT-4o 作为我的模型,以及 CUDA-X 加速工具、FreeCAD、Blender、Isaac Sim、Newton Physics Engine 和 Isaac Lab。除了需要将大规模工作负载爆发式传输到云端时,我会在我的 RTX Spark 上运行所有内容。

首先,我描述课程内容以及我的 MicroDuck 需要学习的内容。在 RTX Spark 上,Hermes 和 Nemotron 会规划课程,并列出所需的每一个对象。Astra 接手后续工作,使用 FreeCAD 对 3D 物体进行建模,使用 Blender 应用材质,并利用 Omniverse SIM-ready 库来添加物理属性。

解说

在 Isaac Sim 中,Astra 完成场景构建。

Astra 为 MicroDuck 的关节、执行器和连杆进行装配,并使用 Newton Physics Engine 模拟 MicroDuck 的运动。现在,训练开始了。

在云端,

成千上万的 MicroDuck 在 Isaac Lab 中并行训练。每一次跌倒,都是一次经验教训。

策略在每一次迭代中不断改进

。Omniverse 库模拟了 MicroDuck 的摄像头,教会它如何观察。通过感知与物理模拟的协同工作,我的 MicroDuck 能够避开障碍物、在狭窄空间内穿行,并适应周边环境。我将训练好的策略下载到 RTX Spark,并利用 Nemotron 和 Isaac Sim,通过多机器人协同编排来评估我的 MicroDuck。

黄仁勋

NVIDIA RTX Spark,直接在您的笔记本电脑上构建并运行 AI 智能体及其加速工具。

结语:构建欧洲 AI 经济

黄仁勋

你猜怎么着?好的,那么今天,我们要谈些什么?我们讨论了欧洲如何构建其 AI 经济,而这一切始于基础设施。我们发布了一款全新的系统,名为 DGX Pod。它能让你轻松构建 AI 工厂。而且这些 AI 工厂不仅仅是运行模型那么简单。

解说

这些智能体由五个要素组成。其中包括负责感知、推理、规划和行动的大语言模型。

它与一套装备协同运行,这套装备本质上使其成为外骨骼。这套装备运行在内部,运行在一个我们称之为 Open Shell 的安全运行时中,它得到了众多人员的支持。你赋予它访问权限。访问知识和工具。这个智能体运行在这些计算机之上,但我们也在向下一代拓展,而这正是你们发挥作用的地方,即物理 AI。这就是我们要讲的。这就是我们讨论的内容。

每个人都可以构建智能体。欧洲的每一家公司都将成为 AI 公司。毫无疑问,每个人都将成为 AI 公司。我们将在欧洲拥有一个蓬勃发展的 AI 经济。所以,在 33 年之后,这是一段多么不可思议的旅程,我们制作了一个非常酷的视频。你们想一起看吗?好,过来吧。到这边来。就过来这边,再近一点。我们让开点。过来这里。最高时速,最高时速。

我们到底该怎么跟上那种速度?

还有一件事能让这群观众更加疯狂。

是什么?

你绝对不敢相信!

GTC 简直变成了 Eurovision!主题演讲在 Berlin 举行。

AI 的下一个篇章开始了。智能体将与你并肩工作。属于 Europe 的时刻已经到来。如果你错过了我们在 GTC 上发表的内容,我们将为你详细拆解。

这是一个关于世界如何构建新事物的故事:起初是发电厂,让能源实现规模化,接着是数据中心;现在我们有了人工智能,我们早已不再仅仅是将煤炭转化为能源。AI 工厂将沙子转化为思想。石油靠边站,S&P 指数有比它更具投资价值的东西:GPU。它像资产一样运作,产出绿色价值;外形像芯片,表现得却像是一台现金机器。它们在你休息时为你创造收益,现金流比这更为顺畅。

智能体编写代码并做出决策,给予它们自由但要管控它们的使命。在持有者检查列表时打开 shell,没有凭据的访问将被拒绝。BlueField 上的哨兵从不打卡下班,像 Hasselhoff 一样保护着沙盒。推动 AI 进步但限制风险,我们保持负责任的乐观。RTX Spark 让老化过程既安全又明亮,我们的 Spark 费率保持了恰当的成本。我们进行量子损毁,这是集于一身的游戏体验,因为在“可替代”(fungible)中你无法拼写出“敌人”(foe)。

现在它们正在学习引力和摩擦力的规则,并使用真实的工具。通过 Isaac Lab 和 Cosmos,它们能够自主训练,就像不需要学生贷款的机器人大学。DGX 模块实现 AI 同步,以更低的功耗提供更强的算力,就像会思考的 Lego。QVS、Trot 和 Kumo 在这里抛洒知识的速度比收银员还要快。你们的 Herb 全栈就在清单上,AI 的五层架构蛋糕被当作早餐吃掉。欧洲生态系统正在领跑,得益于开源的魅力,去问问 Hugging Face 吧,这片大陆正在崛起,最好的时刻尚未到来。来吧,全欧洲,让我们共同见证


黄仁勋

GTC 欢迎来到GTC,我要感谢你们所有人,我要感谢所有的赞助商。你们可以看到这里所有参会公司的名称,以及我们 33 年来合作过的所有伙伴。MicroDuck,我的新朋友们,让我们携手共建欧洲的 AI 经济,让 AI 真正发挥作用。好了,把机会给每一个人。祝大家 GTC 愉快。


前往微信阅读全文

内容来自公众号,可前往微信查看原文。

查看作者的更多文章 →订阅更新、RSS 与阅读指南 →