迪士尼彩乐园

出品｜虎嗅科技组迪士尼彩乐园3总代

作家｜余杨

剪辑｜苗正卿

头图｜视觉中国

北京时刻3 月 19 日凌晨 ，NVIDIA CEO GTC（GPU本事大会）上发表了主题演讲，数千名 AI 时尚、开发者和政策率领者线上相聚，共享 AI 与加速计算等领域的最新龙套，以及对于机器东说念主、代理式 AI、物理 AI 等热点话题的专题磋议。

演讲全球同步直播，登场时，黄仁勋依旧身着标志性皮衣，向不雅众展示了5090，追究着的故事，并先容了英伟达在东说念主工智能领域的最新龙套和将来发展标的。

黄仁勋指出， AI 从生成式迈向代理式（Agentic AI）和物理（Physical AI）期间，强调 AI 是终极分娩力器具。英伟达凭借全栈本事（芯片、汇集、软件）构建强劲生态壁垒，将数据中心变为“Token 工场”，通过液冷机柜和硅光子本事擢升算力与能效，重塑计算本色，鼓励 AI 从数字宇宙向物理宇宙浸透，开启智能新期间。

演讲纲要如下：

1. AI本事的演进与中枢龙套

生成式AI与推理模子：AI从感知（计算机视觉、）发展为生成式AI，能够跨模态调动（文本到图像、视频、卵白质结构等），并通过“推理模子”逐步解析问题，生成更智能的响应。其中枢是通过链式推理（Chain of Thought）生成多半令牌（tokens），擢升隔断准确性，但需更高算力赈济（如生成8000个令牌惩办复杂问题）。

数据与教化挑战：AI依赖海量数据，强化学习（Reinforcement Learning）通过可考据隔断（如数学公式、物理定律）生成合成数据，惩办了东说念主类标注的局限性，鼓励模子教化效率。

2. NVIDIA中枢本事与居品

Blackwell架构：新一代GPU架构，性能较前代擢升30%，体积缩小30%，赈济更高能效与计算密度，适用于推理任务。通过NVLink 72本事完结多GPU高速互联，构建超大领域AI工场（每秒处理百万级令牌）。

Dynamo操作系统：专为AI工场遐想的操作系统，协调计算资源，优化预填充（Prefill）与解码（Decode）阶段，赈济动态负载分派（如大众并行、活水线并行），擢升推理效率40倍。

Omniverse与物理AI：通过数字孪生本事模拟物理宇宙，加速机器东说念主教化与测试。结合生成式AI（如Project GR00T），开发通用东说念主形机器东说念主模子，完结复杂环境下的自主决策与相助。

3. 行业应用与合作伙伴

自动驾驶与汽车安全：NVIDIA与通用汽车（GM）合作开发自动驾驶系统，涵盖教化、模拟与车载AI。安全本事（HALOS）通过第三方评估确保代码安全性，已应用于700万行代码。

通讯与角落计算：与念念科、T-Mobile合作构建5G智能汇集，利用AI优化信号顺应动态环境，擢升通讯效率。

企业AI转型：推出DGX系列AI干事器（如DGX Station），和谐戴尔、惠普等企业，提供从数据中心到角落的完整AI基础设施，赈济金融、医疗、制造等行业的智能化升级。

4. 将来本事道路图

计算架构升级：2024年推出Blackwell Ultra（性能擢升1.5倍），2025年发布Vera Rubin架构（CPU性能翻倍，赈济NVLink 144），2027年狡计Rubin Ultra（算力擢升15倍）。

硅光子学与量子计算：领受微环谐振器（MRM）本事谴责光模块能耗，赈济超大领域数据中心（百万GPU互联）；布局量子计算，鼓励化学、材料科学等领域的模拟加速。

AI工场与能源效率：数据中心向“生成式计算”转型，通过液体冷却、同构架构优化能效，方针将AI工场的算力密度擢升至每机架600千瓦，撑持万亿好意思元级基础设施建设。

5. 社会影响与愿景

劳能源变革：AI代理（Agents）将重塑企业IT，将来10年或出现百亿数字使命者，协助东说念主类完成遐想、优化等任务。

机器东说念主普及：惩办全球劳能源穷乏（预计缺5000万工东说念主），鼓励仓储、制造等领域的自动化，东说念主形机器东说念主（如Isaac Lab）通过合成数据与强化学习完结快速技巧迭代。

以下是演讲全文实录：

让咱们开动吧。

起先，我要感谢通盘赞助商，感谢通盘参与这次会议的了不得的东说念主，险些每一个行业齐有代表。医疗保健行业也在场，交通输送业，零卖业。天哪，计算机行业。计算机行业的每个东说念主齐来了。看到诸君确切太好了，感谢你们的赞助。

GTC始于GeForce。一切齐始于GeForce。今天，我这里有一块GeForce 5090。令东说念主难以置信的是，25年后，在咱们开动研发GeForce的25年后，GeForce 5090在全活着界各地齐卖光了。

这是5090，Blackwell架构。与4090比较，你看，其体积缩小了30%，它在消耗能量和令东说念主难以置信的性能方面提高了30%，致使很难与之比较。

原因在于东说念主工智能。GeForce将CUDA本事带给了宇宙。CUDA本事促进了东说念主工智能的发展，而东说念主工智能如今又反过来绝对调动了计算机图形学。您所看到的这是及时的计算机图形渲染，100%基于旅途跟踪。对于每个渲染的像素，东说念主工智能齐会预测另外15个像素。想一想，对于咱们通过数学方法渲染的每一个像素，东说念主工智能齐会推断出其他15个像素，而且它必须以极高的精度进行推断，才气使图像看起来正确，它是暂时准确的，这意味着从一帧到另一帧上前或向后意味着它是计算机图形。它必须暂时保持踏实，确凿。东说念主工智能取得了超卓的跳动，这只是用了十年时刻。

天然，咱们磋议东说念主工智能的时刻比这更长一些，但东说念主工智能确切进入全球公众视线约莫是在十年前。早先是从感知东说念主工智能、计算机视觉、语音识别开动，然后是生成式东说念主工智能。

在往时的五年里，咱们主要关心生成式东说念主工智能，评释东说念主工智能怎么从一种模态调动到另一种模态，例如文本到图像、图像到文本、文本到视频、氨基酸到卵白质、特色到化学物资。咱们不错利用的千般不同方法。

生成式东说念主工智能从压根上改变了计算的方式，咱们从检索式计算模子转变为生成式计算模子。往时，咱们险些所作念的一切齐是事前创建内容、存储多个版块，并在使用时索求咱们认为适合的版块。

现在，东说念主工智能集结高下文，集结咱们的请求，集结咱们请求的含义，并生成它已知的内容。淌若需要，它会检索信息，增强其集结，并为咱们生成谜底。它不再检索数据，而是生成谜底，从压根上改变了计算的方式，计算的每一层齐发生了转变。

在往时的几年里，绝顶是最近两三年，发生了要紧的龙套，东说念主工智能领域的基础性龙套。咱们称之为自主智能AI。自主智能AI，从压根上说，是指具备自主性的AI，它能够感知和集结环境的高下文，能够进行推理，能够推理怎么回答问题或怎么惩办问题，而况能够议论行动。它能够议论并选用行动，能够使用器具。因为它现在能够集结多模态信息，它不错访谒网站，稽查网站的格式、笔墨和视频，致使不错播放视频。从网站获取的信息中学习，集结这些信息，然后复返并使用这些信息，利用这些新取得的知识来完成它的任务，具有自主代贤达商的东说念主工智能。

自主代理东说念主工智能的基础是某种相配新颖的东西——推贤达商。

下一波海潮依然到来，今天咱们要好好谈谈这个问题，即物理东说念主工智能赋能的机器东说念主本事，能够集结物理宇宙的东说念主工智能。它集结摩擦、惯性、因果关系和物体恒存性等看法。有些猜忌并不虞味着它依然从这个六合中隐没了。它还在那里，只是看不见。因此，这种集结物理宇宙（三维宇宙）的智商将开启一个咱们称之为物理东说念主工智能的新期间，并将鼓励机器东说念主本事的发展。

每一个阶段，每一波海潮，齐为咱们通盘东说念主开启了新的商场机遇，它为GTC蛊惑了更多的新合作伙伴。因此，GTC现在相配拥堵。为了容纳更多GTC的参与者，咱们必须扩大圣何塞的领域，咱们正在奋勉进行中。咱们有好多地盘不错利用，咱们必须发展圣何塞。这么咱们才气让GTC看到这一丝。

我站在这里，但愿你们齐能看到我看到的表象。咱们身处一个通顺场馆的中央。前年是这项行动还原线下举办的第一年，那嗅觉就像一场摇滚音乐会。GTC被形貌为东说念主工智能的伍德斯托克音乐节。而本年，它被形貌为东说念主工智能的超等碗。唯一的区别是，在这个超等碗中，东说念主东说念主齐是赢家。因此，每年齐有越来越多的东说念主参与其中，因为东说念主工智能能够为更多行业和公司惩办更热爱的问题。

本年，咱们将驳倒更多对于自主型东说念主工智能和物理东说念主工智能。

其中枢在于，每一波、每一阶段的东说念主工智能发展，齐波及三个基本要素。起先是怎么惩办数据问题？这之是以要紧，是因为东说念主工智能是一种数据驱动的计算机科学方法。它需要数据来学习，需要数字体验来学习，学习知识并取得数字体验。

第二个问题是，在莫得东说念主参与的情况下，怎么惩办教化问题？东说念主工侵略之是以从压根上具有挑战性，是因为咱们的时刻有限，而咱们但愿东说念主工智能能够以超东说念主的速率学习，以超及时速率学习，并能够以东说念主类无法企及的领域进行学习。

第三点是怎么完结领域化？怎么找到一种算法，使得不管提供何种资源，插足的资源越多，AI 就越智能？领域化定律。前年，险些全宇宙齐错了。AI 的计算需求，其领域化定律具有更强的韧性，事实上是超加速的。由于自主智能（Agentic AI）和推贤达商的起因，咱们咫尺所需的计算量，比前年这个时候咱们预期的要多至少100倍。

让咱们来分析一下为什么这是真的。起先，让咱们从AI的智商滥觞，让我倒过来解释。如我在所述，自主智能（Agentic AI）就是推理。咱们现在领有能够进行推理的AI。这从压根上来说是对于将问题一步一步解析的过程。它可能会尝试几种不同的方法来惩办问题，并采用最好谜底。也许它会用多种方法惩办团结个问题，并确保得到相似的谜底，即进行一致性查抄。或者，在得出谜底之后，它可能会将谜底代回方程（例如二次方程）中，以阐述谜底的正确性。而不是只是径直给出谜底。

还铭刻两年前，当咱们开动使用ChatGPT时，尽管它是一个遗迹，但许多复杂的问题和许多浅显的问题，它齐无法正确解答。这是不错集结的。它领受了一种“一击即中”的方式，利用其从预教化数据中学习到的知识，以及从其他造就中取得的信息（预教化数据），然后径直给出谜底，就像一条鲑鱼一样（无庸婉言）。

现在咱们领有能够逐步推理的东说念主工智能。使用称为“念念维链”（chain of thought）、“最好N”（best of N）、“一致性查抄”（consistency checking）、多种不同旅途狡计以及千般不同本事，咱们现在领有能够进行推理的东说念主工智能，将问题解析，然后进行推理，逐步进行。

那么，您不错想象，隔断就是咱们生成的标记数目加多了，而东说念主工智能的基本本事仍然相似，生成下一个标记，预测下一个标记。只不外下一个标记现在组成了要津1。然后，在生成要津1之后，下一个标记会将要津1再次输入东说念主工智能，从而生成要津2、要津3和要津4。因此，它不是只是生成一个接一个的标记或单词，而是生成代表推理要津的单词序列。隔断生成的标记数目大幅加多，我稍后会向您展示，减弱地达到之前的百倍。

那么，百倍意味着什么？嗯，它不错生成百倍数目的标记，正如我之前解释的那样，您不错看到这种情况正在发生。或者，模子愈加复杂。它生成的标记数目是之前的十倍，为了保持模子的响应速率和交互性，幸免咱们因恭候其念念考而失去耐烦，咱们现在需要计算速率提高十倍。因此，标记数目十倍，速率十倍，咱们必须进行的计算量减弱地就达到了百倍。因此，您将在演示的其余部分看到，咱们进行推理所需的计算量比以往大幅加多。

那么，问题就变成了，咱们怎么教会东说念主工智能实施我刚才形貌的操作？怎么实施这种念念维链？嗯，一种方法是，你必须教会东说念主工智能怎么推理。正如我之前提到的，在教化过程中，咱们必须惩办两个根人道问题。数据从何而来？数据从何而来？以及怎么幸免其受到东说念主工侵略的甘休？咱们所能提供的数据和东说念主工演示是有限的。

因此，往时几年取得的要紧龙套是强化学习过头可考据的隔断。从压根上说，强化学习是指东说念主工智能在逐步尝试惩办问题或进行袭击的过程中进行学习。

东说念主类历史上依然惩办了许多问题，咱们知说念这些问题的谜底。咱们知说念求解二次方程的公式。咱们知说念怎么哄骗勾股定理，也就是直角三角形的法规。咱们掌持着多半数学、几何、逻辑和科学章程。咱们不错提供千般益智游戏手脚教化素材。例如数独之类的受限型问题。这类问题擢发可数，咱们领稀有百种问题空间，能够生成数百万个不同的示例。并给东说念主工智能成百上千次契机来一步一风光惩办它，因为咱们使用强化学习来奖励它作念得越来越好。

因此，咱们使用了数百个不同的主题、数百万个不同的示例和数百次的尝试。每次尝试齐会生成数万个标记。将通盘这些加起来，咱们驳倒的是数万亿个标记，用于教化该模子。现在，借助强化学习，咱们能够生成海量标记。这基本上是利用一种机器东说念主式的方法来教化AI，即合成数据生成。这两者的结合给业界带来了巨大的计算挑战。

而且您不错看到，业界正在作念出复兴。我接下来将向您展示的是四大云干事提供商的Hopper干事器出货量。四大云干事提供商，领有公有云的那些提供商：亚马逊、Azure、GCP 和 OCI。四大云干事提供商，不包括东说念主工智能公司，不包括通盘初创企业，不包括企业里面部署。许多其他方面均未包含在内，唯独那四个。

只是为了让您了解一下霍珀的巅峰年份和布莱克威尔的肇始年份的对比。霍珀的巅峰年份和布莱克威尔的肇始年份，这么您就能看出，事实上，东说念主工智能正在阅历一个拐点。它变得更灵验，因为它更贤达了，它能够进行推理，它被更多地使用了。

你不错看出它被更多地使用了，因为现在不管何时你使用ChatGPT，似乎齐需要恭候越来越久。这是一件善事，这标明好多东说念主齐在使用它，而况效果权贵。教化这些模子和进行模子推理所需的计算量已大幅增长。

因此，只是一年时刻，而Blackwell才刚刚开动发货，就能看到东说念主工智能基础设施的惊东说念主增长。

这反应了通盘行业的计算智商擢升。咱们现在看到的是——紫色部分是分析师对将来全球数据中心成本开销的预测，包括云干事提供商（CSP）、企业等等。全球数据中心在将来十年内的发展，也就是到2030年。

我之前说过，我预计数据中心建设投资将达到一万亿好意思元，而且我荒谬详情咱们很快就会达到这个数字。两种动态同期发生。

第一种动态是，绝大部分增长可能会加速。这意味着咱们依然知说念一段时刻了，通用计算依然走到荒谬，咱们需要一种新的计算方法。全宇宙正在阅历一场平台转变，从运行在通用计算机上的手工编码软件转向运行在加速器和GPU上的机器学习软件。这种计算方式咫尺依然过了临界点。

咱们现在正看到拐点正在出现，全球数据中心建设中正在发生拐点。

因此，起先是计算方式的转变。其次是东说念主们越来越刚烈到，软件的将来需要成本插足。这是一个相配要紧的看法。在往时，咱们编写软件并在计算机上运行它，而在将来，计算机将为软件生成Token。因此，计算机已成为Token的生成器，而非文献的检索器具。从基于检索的计算转变为基于生成的计算，从老式数据中心构建方式转变为构建新式基础设施的新方式，我称之为“AI工场”。

因为它唯唯一个任务，那就是生成这些令东说念主难以置信的Token，然后咱们将这些Token重构为音乐、笔墨、视频、磋议隔断、化学物资或卵白质。咱们将其重构为千般类型的信息。因此，宇宙正在阅历一场转型，这不仅体现在将要建设的数据中心数目上，也体现在其建设方式上。

数据中心中的通盘内容齐将被加速，但并非通盘内容齐与东说念主工智能关联。

这张幻灯片是我最心爱的。多年来参加GTC的诸君，一直在听我驳倒这些库。这张幻灯片恰是GTC的中枢所在。事实上，很久以前，20年前，这就是咱们唯一领有的幻灯片。

一个又一个的库，重重叠叠。咱们不成只是加速软件，正如咱们需要一个AI框架来创建AI，并加速AI框架一样。你需要物理学、生物学、多物理场以及千般量子物理学的框架。

你需要千般库和框架。咱们称它们为CUDAx库，针对这些科学领域的加速框架。

第一个就令东说念主难以置信。这就是cuPy数值计算库。NumPy是全球下载量和使用量最大的Python库。前年下载量达4亿次。

cuLitho和cuPy数值计算库是对NumPy的零更正加速替代决议。因此，淌若您正在使用NumPy，请尝试使用cuPy数值计算库，您一定会心爱它。

cuLitho是一个计算光刻库。在四年时刻里，咱们依然完成了通盘计算光刻处理进程，这荒谬于晶圆厂中的第二个工场。

一个工场制造晶圆，另一个工场制造制造晶圆所需的信息。

将来，每个行业、每家领有工场的公司齐将领有两个工场，一个工场用于制造居品，另一个工场用于处理数学计算，另一个工场用于东说念主工智能。

汽车工场，以及用于汽车的东说念主工智能工场。智能音箱的制造工场，以及用于智能音箱的AI工场。

咱们的计算光刻本事cuLitho，台积电(TSMC)、三星(Samsung)、ASML，以及咱们的合作伙伴Synopsys、Mentor，齐给以了令东说念主难以置信的赈济。我认为这依然达到了临界点。

再过五年，每一张掩模版，每一项光刻工艺齐将在NVIDIA CUDA上进行处理。

Arial是咱们的5G库，它将GPU转变为5G无线电。为什么不呢？信号处理是咱们相配擅长的事情。

一朝咱们作念到这一丝，咱们就不错在其上重叠AI。用于无线接中计的AI，或者咱们称之为AI-RAN。下一代无线汇集将深度镶嵌AI。

为什么咱们会受到信息论甘休的料理？因为咱们所能获取的信息频谱是有限的，即使加入东说念主工智能也无法改变这一事实。

CuOpt，数值或数学优化，险些每个行业在狡计座位和航班时齐会用到它，库存和客户，工东说念主和工场，司机和乘客，等等。

咱们面对多个料理条目，以及多半的变量。而况你正在针对时刻、利润、干事质地、资源利用率等等进行优化。英伟达将其用于供应链管理。

CuOpt是一个令东说念主难以置信的库。它将正本需要数小时才气完成的任务裁汰至几秒钟，这之是以意旨要紧，是因为咱们现在不错探索更大的空间。

咱们晓示将开源CuOpt，险些每个东说念主齐在使用Gurobi、IBM CPLEX或FICO。咱们正在与这三家公司合作。行业对此相配抖擞。咱们行将极地面加速该行业的发展。

Parabricks用于基因测序和基因分析。MONI是宇宙起先的医学影像库。Earth2，用于预测超高分辨率局部天气的多物理场模拟软件。

量子计算（Q-Quantum）和量子到量子（Q2Q）本事。咱们将在GTC举办首届量子计算日。咱们正与生态系统中的险些通盘参与者合作。

咱们协助他们进行量子架构、量子算法的磋议，或构建经典加速的量子异构架构。因此，那里的使命令东说念主抖擞。

量子等变性（Q-equivariance）和量子张量（Q-tensor）用于张量收缩和量子化学计算。

天然，这个软件栈享誉全球。东说念主们认为唯唯一种名为CUDA的软件，但事实上，在CUDA之上还有许多库，这些库集成到生态系统、软件和基础设施的通盘不同部分，以完结东说念主工智能。

我今天要晓示一个新的隔断， CUDSS，咱们的稀疏求解器，对于计算机辅助工程（CAE）至关要紧。

这是往时一年中最要紧的龙套之一。通过与Cadence、Synopsys、Ansys和达索系统等通盘系统公司合作，咱们现在依然完结了险些通盘要紧的EDA和CAE库的加速。

令东说念主瞻仰的是，直到最近，英伟达仍在使用通用计算机运行软件，速率相配慢，来为其他东说念主遐想加速计算机。原因是直到最近，咱们才领有针对CUDA优化的软件，即那套软件。因此，跟着咱们转向加速计算，通盘行业齐将得到极大的擢升。

CUDF，一个用于结构化数据的DataFrame，咱们现在领有对Spark和Pandas的即插即用式加速功能。

咱们还有Warp，一个在Python中运行的用于物理学的CUDA库。咱们对此有一个要紧晓示，我稍后再翔实说明。这只是能够完结加速计算的库的示例。

这不单是是CUDA，咱们为CUDA感到自重，但淌若莫得CUDA以及咱们纷乱的装置基础，这些库对任何使用它们的开发者来说齐将绝不消处。

对于通盘使用这些库的开发者而言，你们之是以使用它们，起先是因为它能够极地面提高速率，它能够极地面提高领域。

其次，因为CUDA的装置基础现在已遍布全球。它存在于每一个云平台、每一个数据中心，全球每一家计算机公司齐提供它，它险些无处不在。因此，通过使用这些库中的一个，你们的软件，你们令东说念主齰舌的软件，能够触及每个东说念主。

是以咱们现在依然达到了加速计算的临界点。CUDA 使这一切成为可能。诸君，这就是GTC的意旨所在，生态系统，是你们通盘东说念主成就了这一切。因此，咱们为您制作了一段粗陋的视频。

谢谢，致将来的创造者、前驱者和建设者，CUDA 是为你们而生的。自2006年以来，超过200个国度的600万开发者使用了CUDA，并绝对改变了计算方式。

借助900多个CUDAx库和东说念主工智能模子，您正在加速科学发展，重塑产业模式，并赋予机器感知、学习和推理的智商。现在，NVIDIA Blackwell的速率比第一代CUDA GPU快50，000倍。

这些数目级的速率和领域擢升正在缩小仿真与及时数字孪生之间的差距。对您而言，这只是是一个开动。咱们迫不足待地想看到你们的下一个成就。

我醉心咱们所作念的一切。我更观赏你们对它的哄骗。在我从事这项使命33年里，最令我感动的一件事是一位科学家对我说：“詹森，因为你的使命，我不错在豆蔻年华完成我终身的使命。”淌若这齐不成颤动你，那你一定是个莫得情怀的东说念主。是以这一切齐是为了你们。谢谢。

好吧，接下来咱们谈谈东说念主工智能。

但是，你们知说念，东说念主工智能发源于云霄。它发源于云霄是有原因的，因为事实证明东说念主工智能需要基础设施。它是机器学习。淌若科学证明是机器学习，那么就需要一台机器来进行科学磋议。

因此，机器学习需要基础设施，而云数据中心领有这种基础设施。它们还领有超卓的计算机科学实力和特殊的磋议智商，组成了东说念主工智能在云霄和云干事提供商（CSP）中茂盛发展的盼愿环境。

但东说念主工智能并非仅限于此。东说念主工智能将无处不在。咱们将从许多不同的角度探讨东说念主工智能。天然，云干事提供商青睐咱们的起先本事。

他们观赏咱们领有完整的本事栈，因为正如我之前解释的那样，加速计算不单是关乎芯片自身，致使不单是是芯片和库，以及编程模子。它包括芯片、编程模子以及在其之上运行的宽广软件。通盘本事栈齐极其复杂，每一层，每一个库，本色上齐访佛于SQL。

SQL，正如您所知，被称为存储内计算，是IBM引颈的计算领域的一次要紧调动。SQL只是一个库，试想一下。我刚刚向您展示了多半的库，而且在东说念主工智能领域，还有更多库。是以，这个本事栈相配复杂。

他们也心爱这么一个事实：云干事提供商（CSP）心爱英伟达CUDA开发者亦然他们的客户。因为最终，他们正在构建供全宇宙使用的基础设施。因此，丰富的开发者生态系统受到了高度小心，并得到了深深的唱和。

既然咱们要将东说念主工智能推行到宇宙其他地区，那么宇宙其他地区就会存在不同的系统成就、运行环境相反、特定领域的库相反以及使用相反。

因此，东说念主工智能在应用于企业 IT、制造业、机器东说念主本事或自动驾驶汽车，致使是在构建 GPU 云的公司中，齐会有所不同。

约莫有20家公司是在英伟达时期确立的，他们只作念一件事：他们托管 GPU。他们称我方为 GPU 云。咱们的一位要紧合作伙伴 CoreWeave 正在上市过程中，咱们为此感到相配自重。因此，GPU 云有其自身的要求。

但令我相配抖擞的一个领域是角落计算。

今天，咱们晓示念念科、英伟达、T-Mobile（全球最大的电信公司）和 Cerberus ODC 将在好意思国建立一个用于无线汇集的完整本事栈，这就是第二个本事栈。

因此，咱们今天晓示的这个现时本事栈将把东说念主工智能部署到角落。请记取，全球每年有1000亿好意思元的成本投资用于无线汇集，以及通盘为通讯提供干事的数据中心。

将来，在我看来，毫无疑问，这将是和会了东说念主工智能的加速计算。

东说念主工智能将在顺应无线电信号、大领域MIMO（多输入多输出）系统变化的环境和交通气象方面作念得更好得多。天然不错。天然咱们会使用强化学习来作念到这一丝。天然，MIMO 本色上就是一个巨大的无线电机器东说念主。天然是的。因此，咱们天然会提供这些功能。

天然，东说念主工智能不错绝对改变通讯方式。你知说念，当我打电话回家时，不需要说好多话，因为我浑家知说念我在那里使命，使命环境怎么。话语不错从昨天连续进行。她若干铭刻我心爱什么，不心爱什么。好多时候，只需要几句话，就能调换好多信息。原因在于高下文和东说念主类先验知识。结合这些功能，不错绝对改变通讯方式。看一下它对视频处理的影响。看一下我之前形貌的3D图形本事。

因此，咱们天然也会对Edge选用同样的作念法。是以我对咱们今天晓示的音信感到相配抖擞。T-Mobile、念念科、英伟达、Cerberus和ODC将构建一个完整的本事栈。嗯，东说念主工智能将浸透到各个行业。

这只是一个例子，东说念主工智能进入最早的行业之一是自动驾驶汽车领域。当咱们看到AlexNet的那一刻，咱们持久以来一直在从事计算机视觉的磋议，看到AlexNet的那一刻是如斯令东说念主饱读励、如斯令东说念主抖擞，这促使咱们决定全力插足自动驾驶汽车的研发。

是以咱们现在依然在自动驾驶汽车领域使命了十多年。咱们开发的本事险些被每一家自动驾驶汽车公司齐在使用。它不错位于数据中心，例如，特斯拉在其数据中心多半使用英伟达GPU，这可能位于数据中心或车辆中，Waymo和Wave也将其数据中心和车辆中使用英伟达的计算机。它可能只在车辆中，这种情况相配漠视，但有时它只在车辆中。或者他们还会使用咱们通盘的软件。咱们与汽车行业合作，合作方式取决于汽车行业的需求。

咱们制造通盘三种计算机：教化计算机、仿真计算机和机器东说念主计算机（自动驾驶汽车计算机）。以及位于其之上的通盘软件栈，包括模子和算法，这与咱们为其他通盘已展示的行业提供的干事相似。

因此，今天，我相配怡悦地晓示，通用汽车公司已采用英伟达手脚其将来自动驾驶汽车车队的合作伙伴，自动驾驶汽车的期间依然到来。

咱们期待在通盘三个领域与通用汽车东说念主工智能公司合作。用于制造业的东说念主工智能，以便绝对改变他们的制造方式。用于企业的东说念主工智能，以便绝对改变他们的使命方式。遐想汽车和模拟汽车。以及车载东说念主工智能。

因此，为通用汽车打造东说念主工智能基础设施，与通用汽车合作，并与他们一说念构建其东说念主工智能。我对此感到相配抖擞。我深感自重的领域之一，而且很少受到关心，那就是安全。汽车安全。它被称为HALOS。

在咱们公司，它被称为HALOS。安全需要从硅到系统、系统软件、算法、方法论等各个方面的本事，从确保千般性到千般性监控和透明性、可解释性，通盘这些齐包括在内，通盘这些不同的理念齐必须深深融入到您开发系统和软件的每一个要津中。

我信托，咱们是宇宙上第一家对每一转代码齐进行安全评估的公司。七百万行代码齐经过了安全评估。咱们的芯片、系统、系统软件和算法齐经过了第三方的安全评估，他们会仔细查抄每一转代码，以确保其遐想能够保险千般性、透明度和可解释性。咱们还提交了超过一千项专利肯求。

在这次GTC期间，我浓烈建议您抽出时刻参加HALOS斟酌会，以便了解确保将来汽车安全和自主驾驶所需的通盘不同方面。我对此感到相配自重，但它很少受到关心，是以我认为这次应该花更多时刻来驳倒它。英伟达HALOS。

你们齐见过自动驾驶汽车。Waymo自动驾驶出租车令东说念主难以置信。咱们制作了一个视频，与全球共享咱们用于惩办数据、教化和千般性问题的部分本事，以便利用东说念主工智能的魅力来创造东说念主工智能。

让咱们来看一看。英伟达正在通过Omniverse和Cosmos加速自动驾驶汽车的东说念主工智能开发。Cosmos的预测和推贤达商赈济基于东说念主工智能的自动驾驶系统，这些系统治受端到端教化方法，包括新的开发方法、模子蒸馏、闭环教化和合成数据生成。

起先，模子蒸馏。Cosmos的驾驶知识，手脚策略模子，从较慢、更智能的教师模子迁徙到车载更小、更快的学生模子中。

教师策略模子展示了学生模子通过迭代学习所遵从的最好轨迹，直至其性能险些达到与教师相似的水平。蒸馏过程能够指点策略模子的建立，但复杂场景需要进一步微调。

闭环教化能够对策略模子进行精采调整。利用Omniverse神经重建本事，将日记数据调动为用于物理基础模拟闭环的3D场景。创建这些场景的变体，以测试模子的轨迹生成智商。

Cosmos行动评估器随后不错对生成的驾驶行动进行评分，以量度模子性能。更生成的场景过头评估创建了一个用于闭环教化的大型数据集，匡助自动驾驶汽车更肃穆地搪塞复杂场景。

终末，3D合成数据生成增强了自动驾驶汽车对不同环境的顺应性。Omniverse从日记数据中，通过和会舆图和图像构建翔实的4D驾驶环境，并生成真实宇宙的数字孪生体，包括语义分割，以通过对每个像素进行分类来指导Cosmos。然后，Cosmos通过生成准确且千般化的场景来推广教化数据，缩小模拟与现实之间的差距。

Omniverse和Cosmos使自动驾驶汽车能够学习、顺应并智能驾驶，从而擢升出行安全。英伟达是完成这项使命的盼愿公司。

这就是咱们的运说念：利用东说念主工智能来重塑东说念主工智能。咱们向您展示的本事与您正在享用的本事相配相似，带您进入数字孪生宇宙，咱们称之为英伟达。

让咱们谈谈数据中心。布莱克韦尔神情已全面投产，这就是它的式样。

这令东说念主难以置信，对东说念主们而言，这是一种好意思的表象。这意旨要紧，因为咱们在计算机架构方面完结了根人道的转变。

约莫三年前，我曾向你们展示过这个版块的系统，它被称为Grace·Hooper，系统被称为Ranger。

Ranger系统大致唯独屏幕宽度的一半，它是全球首个NVLink 32系统。三年前，咱们展示了Ranger的运行情况，那时它过于纷乱，但其理念全齐正确。

咱们那时试图惩办领域推广问题。分散式计算是利用许多不同的计算机协同使命来惩办一个相配大的问题。

但在横向推广之前，纵向推广是不可替代的。两者齐很要紧，但应该优先进行纵向推广，然后再进行横向推广。关联词，纵向推广极其繁难，并莫得浅显的谜底。你不会像Hadoop那样进行纵向推广或横向推广。Hadoop的作念法是，领受多半商用计算机，将其勾搭到大型汇荟萃，并使用其进行存储计算。

Hadoop 的理念具有调动性意旨，这一丝咱们齐很明晰。它使得超大领域数据中心能够利用现成的计算机惩办海量数据问题。关联词，咱们试图惩办的问题极其复杂，以这种方式进行推广的成本将高得令东说念主难以承受，不管是电力成本照旧能源成本。深度学习压根不可能出现。

因此，咱们必须起先进行垂直推广。这就是咱们进行垂直推广的方式。这是上一代系统架构，被称为 HGX。这绝对改变了咱们所知的计算本事，也绝对改变了东说念主工智能。

这是八个GPU，每一个齐访佛于这个。这是两个GPU，一个Blackwell封装中包含两个Blackwell GPU。在这底下还有八个这么的单元。然后这勾搭到咱们称之为NVLink 8 的部件。

然后这勾搭到访佛这么的CPU机架。这里有两个CPU，位于顶部。咱们通过PCI Express将其勾搭起来，然后许多这么的斥地通过InfiniBand勾搭，最终酿成一台东说念主工智能超等计算机。往时就是这么作念的，咱们就是这么开动的。

这就是咱们在推广领域之前所能达到的极限。但咱们但愿进一步推广领域。Ranger神情将这个系统又推广了四倍。

因此，咱们有了NVLink 32，但系统治域过于纷乱。为此，咱们不得不进行一些要紧的从头遐想，包括NVLink的使命方式以及ScaleUp的使命方式。

起先，咱们需要将镶嵌在主板上的NVLink交换机从系统中解耦并移除。这是一个NVLink交换机，是宇宙上性能最高的交换机，它使得每个GPU齐能以满带宽在全齐相似的时刻与其他每个GPU进行通讯。

咱们将NVLink交换机解耦并移除，并将其摈弃在机箱的中心。在九个不同的机架中，共有18个交换机托盘（咱们称之为）容纳这些交换机。交换机解耦后，计算单元现在位于别处。这荒谬于计算方面的两个部分。

令东说念主称说念的是，它是全齐液冷的。通过液冷本事，咱们不错将通盘这些计算节点压缩到一个机架中，这对于通盘行业而言是一项要紧变革。

感谢诸君，你们促成了从集成NVLink到解耦NVLink，从风冷到液冷，从每台计算机约莫60，000个组件到每个机架600，000个组件的根人道转变，以及120千玉碎液冷，从而使咱们能够在一个机架中领有一个百亿亿次计合计算机。

这是计算节点，现在它不错装置到其中一个机架里。咱们领有3000磅的分量，5000根电缆，总长度约3.2公里，难以置信的电子元件，60万个零件，我想这荒谬于20辆汽车的零件数目，通盘这些聚积成到一台超等计算机中。咱们的方针是大领域推广，这就是它现在的式样。

咱们本色上是想制造这个芯片，但莫得任何激进的甘休能够作念到这一丝，莫得工艺本事能够作念到这一丝。它领有130万亿个晶体管，其中20万亿个用于计算。因此，短期内无法合理地制造它。

惩办这个问题的方法，如我所形貌的，是将它解析成Grace Blackwell NVLink 72机架。最终，咱们完结了终极领域的擢升，这是宇宙有史以来最极点的领域擢升。

这台机器可能的计算量和内存带宽达到了每秒570太字节。这台机器中的通盘方针齐达到了万亿级别。它领有每秒一千万亿次浮点运算智商（即艾克斯浮点运算）。

咱们之是以想要作念到这一丝，是为了惩办一个极点的问题。许多东说念主误以为这个问题很容易惩办，但现实上，这是一个终极的极点计算问题，那就是推理。

推理是工场进行的Token生成过程，而工场自身决定着收益和利润的产生或亏蚀。因此，必须以极高的效率和性能来构建这个工场，因为工场的方方面面齐径直影响着干事质地、收入和盈利智商。

现在，我来向您展示怎么解读这张图表，因为我稍后还会屡次回到这张图表上来。基本上，它有两个坐标轴。X 轴浮现每秒Token数。每当您聊天，或者将领导输入到 ChatGPT 时，输出的隔断齐是Token。这些Token会被从头组合成笔墨。

需要翔实的是，这不单是是一个Token对应一个单词。它们会将诸如“THG”之类的词元化，它不错指代“the”、“them”、“theory”、“theatrics”，以过头他千般词语。“THG”就是一个Token的例子。它们从头构建这些标记，使其迁徙为单词。

淌若但愿 AI 更贤达，就需要生成多半的标记。这些标记是推理标记、一致性查抄标记，它们会想出好多主意，以便从中采用最好的主意和标记。这些标记可能会仔细琢磨，可能会念念考：“这是你能作念的最好的使命吗？”是以它就像咱们自言自语一样，与自身对话。因此，你生成的标记越多，你的 AI 就越贤达。

但是，淌若回答问题消耗的时刻太长，客户就不会再转头了。这与网页搜索莫得什么不同。在它给出贤达谜底之前，所需时刻如实存在甘休。因此，你需要搪塞这两个维度的挑战。你试图生成多半的标记，但又试图尽可能快地完成。因此，您的Token速率至关要紧。是以您但愿针对单个用户的每秒Token数尽可能快。

关联词，在计算机科学和工场分娩中，延长响适时刻和蒙眬量之间存在根人道矛盾。淌若你从事大型、高蒙眬量的业务，你会进行批量处理。你将多半的客户需求进行批量处理，并分娩特定版块的居品供通盘东说念主稍后使用。

关联词，从他们进行批量处理和分娩居品的那一刻起，到您使用它为止，可能需要很万古刻。计算机科学领域亦是如斯，生成Token的 AI 工场也同样如斯。

是以，你面对着这两种根人道的矛盾。一方面，您但愿客户的干事质地尽可能好：快速且智能的 AI。另一方面，您正试图让您的数据中心为尽可能多的东说念主生成Token，以便最大化您的收入。

盼愿的谜底位于右上方。盼愿情况下，该弧线的格式是一个正方形，您不错快速地为每个东说念主生成Token，直到工场的极限，但莫得哪个工场能够作念到这一丝。

因此，它可能是一条弧线，而您的方针是最大化弧线下的面积，即X和Y的乘积，而况您推得越远，就越有可能意味着您正在建造一个更好的工场。

事实证明，在每秒Token数（通盘工场的每秒Token数）与响适时刻之间，一个需要多半的计算智商（浮点运算），而另一个维度则需要多半的带宽和浮点运算。是以这是一个相配难以惩办的问题。

好的谜底是，您应该领有多半的浮点运算智商、多半的带宽、多半的内存以过头他一切资源。这是开动的最好谜底，这亦然为什么这是一台如斯出色的计算机的原因。

你起先要领有尽可能多的浮点运算智商、尽可能大的内存、尽可能高的带宽，天然还要有最好的架构和最高的能效，而况你必须领有一个编程模子，使你能够在通盘这些极其复杂的硬件上运行软件才气作念到这一丝。

现在让咱们来看一个演示，让你对我说的是什么有一个切实的感受。请播放它。

传统的LLM捕捉基础知识，而推理模子则利用念念维标记来匡助惩办复杂问题。在这里，一个领导要求在婚典餐桌旁安排座位，同期效用一些甘休条目，例如传统习俗、像片角度以及家眷成员之间的矛盾。传统的LLM能够快速地给出谜底，使用的标记少于500个。

它在安排客东说念长官位时犯了伪善，而推理模子则使用了超过8000个标记进行念念考，最终得出了正确的谜底。这需要一位牧师来保管和平。

好吧，正如你们所知，淌若你有一个300东说念主的婚典派对，而况你试图找到齐备的，或者说最好的座位安排，这是一个唯独东说念主工智能才气惩办或者唯独岳母才气惩办的问题。

是以，这是协同计算无法惩办的问题之一。

好，您在这里看到的是，咱们给它提供了一个需要推理的问题，您看到R1会就此进行推理，尝试通盘不同的场景，然后复返来试验我方的谜底。它会自问是否作念对了。

同期，上一代语言模子则领受一次性惩办方法。因此，一次性惩办方法使用了439个标记。它速率很快，效率很高，但隔断是伪善的。是以，这是439个被奢华的标记。

另一方面，为了对这个问题进行推理（现实上这是一个相配浅显的问题，只需加多几个更难的变量，它就会变得相配难以推理），它使用了8000个，险些9000个标记。而且它需要更多的计算，因为模子愈加复杂。

好，这是一个维度。在我向您展示一些隔断之前，请允许我解释其他一些内容。

因此，谜底是，淌若你不雅察Blackwell系统，现在它依然推广到NVLink 72。咱们起先要作念的是处理这个模子，迪士尼彩乐园而这个模子并不小。

以R1为例，东说念主们认为R1很小，但它有6800亿个参数。

下一代模子可能领稀有万亿个参数。惩办这一问题的方法是将这些数万亿个参数和模子，将使命负载分散到通盘GPU系统中。

不错使用张量并行，将模子的一层运行在多个GPU上；也不错取活水线的一部分，称之为活水线并行，并将其放在多个GPU上；还不错将不同的大众模子放在不同的GPU上，咱们称之为大众并行。

活水线并行、张量并行和大众并行的组合方式数目纷乱，令东说念主难以置信。而况凭证模子、使命负载和环境的不同，计算机的成就方式必须改变，以便取得最大的蒙眬量。有时需要优化极低的延长，有时则需优化蒙眬量，因此必须进行一些运行时批处理。批处理和团职使命有好多不同的本事。因此，这些AI工场的操作系统和软件极其复杂。

其中一个不雅察隔断，亦然领有像NVLink 72这么同构架构的确切上风在于，每个GPU齐能实施我刚才形貌的通盘操作。咱们不雅察到这些推理模子正在进行几个计算阶段。

其中一个计算阶段是念念考。当你在念念考时，不会产生好多标记。你产生的标记可能你我方在使用，你在念念考。也许你正在阅读，正在消化信息。这信息可能是PDF文档，也可能是网站，致使不错不雅看视频，以超线性速率给与通盘这些信息，然后将通盘这些信息整合起来，酿成谜底，制定一个议论性的谜底。

因此，信息消化和高下文处理相配依赖于浮点运算。

另一方面，不才一阶段，称为解码阶段，其第一部分咱们称为预填充，解码的下一阶段需要浮点运算，但需要巨大的带宽。而且计算起来荒谬容易。淌若你有一个模子，它稀有万亿个参数，那么每秒需要几TB的数据，翔实我之前提到过每秒576TB，只是是从HBM内存中索求模子就需要每秒TB级的数据。而且只是是为了生成一个标记。

它之是以只生成一个标记，是因为记取这些大型语言模子是在预测下一个标记，这就是它们预测下一个标记的原因。它不是预测每一个标记，而只是预测下一个标记。现在咱们有了千般新的本事，例如测度性解码等等，用于更快地完成这项使命，但最终，你是在预测下一个标记。

因此，你给与、调入通盘模子和高下文（咱们称之为KV缓存），然青年景一个标记。然后咱们将这个标记放回咱们的“大脑”，生成下一个标记。每次实施此操作，咱们齐输入数万亿个参数，输出一个标记。

数万亿个参数输入，输出另一个标记。数万亿个参数输入，输出另一个标记。请翔实，在演示中，咱们输出了8600个标记。

因此，数万亿字节的信息已被输入到咱们的GPU中，并一次输出一个标记。这从压根上解释了为什么需要NVLink。NVLink使咱们能够将通盘这些GPU组合成一个巨大的GPU，完结最终的领域推广。现在通盘内容齐在NVLink上，我不错将预填充与解码分离，并不错决定：我想为预填充使用更多GPU，为解码使用更少GPU。

因为我正在进行多半的念念考，进行一项自主性的使命，阅读多半信息。我正在进行长远的磋议。之前我一直在听迈克尔讲话，迈克尔也谈到了他正在进行的磋议，而我作念的亦然同样的事情。咱们会开展并撰写这些相配冗长的AI磋议神情，我相配心爱作念这件事。

我依然为此付出了代价，我相配享受让咱们的GPU运转起来。莫得什么能给我带来更大的原意。是以我在撰写完毕后，它就开动运行，进行通盘这些磋议，它访谒了约莫94个不同的网站，阅读了通盘这些信息，而我也在阅读通盘这些信息，然后它会酿成一个谜底并撰写阐发。这确切令东说念主难以置信。

在那段时刻里，预填充一直相配繁忙。它并莫得确切生成好多标记。另一方面，当您与聊天机器东说念主进行对话，而况数百万东说念主在作念同样的事情时，它就需要相配多半的标记生成。解码使命量相配大。因此，凭证使命负载，咱们可能会决定将更多GPU分派到解码，或者凭证使命负载，将更多GPU分派到预填充。这种动态操作相配复杂。

我刚刚形貌了活水线并行、张量并行、大众并行、航行中批处理、解耦推理、使命负载管理，然后我还要处理一个叫作念KV缓存的东西，我必须将其路由到正确的GPU，我必须通过通盘内存眉目结构来管理它。这段软件极其复杂。

因此，今天咱们晓示推出英伟达Dynamo。英伟达Dynamo能够作念到这一切。它本色上是AI工场的操作系统。

在往时，在咱们运行数据中心的方式中，咱们的操作系统访佛于VMware。咱们会（而且现在仍然会），协调多半不同的企业应用步调在咱们企业IT之上运行，咱们亦然大型用户。

但将来，应用步调并非企业IT，而是智能体。操作系统也不再是VMware之类的软件，而是Dynamo之类的软件。而且这个操作系统运行的并非数据中心之上，而是AI工场之上。咱们将其定名为Dynamo是有充分根由的。如您所知，Dynamo是启动前次工业调动的首个能源机械。

这是能源的工业调动。水流入，电力流出，这真实神奇。水流入，将其烽火，变成蒸汽，随后产生的等于这种无形却极其珍爱的东西。历经八十年发展，才有了交流电，但发电机是这一切的启程点，是开始。

因此，咱们将这个操作系统，这套软件——极其复杂的软件——定名为英伟达发电机（NVIDIA Dynamo）。它是开源的，咱们很怡悦有诸多合作伙伴与咱们共同开发。

我最心爱的合作伙伴之一，我相配心爱他，不仅因为他所作念的调动性使命，还因为阿拉文德是一个相配好的东说念主。Perplexity是咱们合作攻克这一难题的要紧伙伴。总之，相配好，相配好。

现在咱们必须恭候通盘这些基础设施推广完毕，但与此同期，咱们依然进行了一系列相配长远的模拟。咱们用超等计算机模拟咱们的超等计算机，这很有兴味。

现在我将向全球展示我刚才所说的一切的平允。记取工场暗意图。Y轴浮现工场的每秒Token蒙眬量，X轴浮现用户体验的每秒Token蒙眬量。你需要超等智能的AI，而况需要分娩多半的AI。

这是Hopper。它不错为每个用户每秒产生约莫100个Token。

这使用了八个GPU，通过InfiniBand互联，我将其范例化为每兆瓦每秒的token数目。是以这是一个兆瓦级的数据中心，并非一个相配大型的AI工场，但不管怎么，它是一兆瓦的。它不错为每个用户每秒产生100个token，而况在这个级别上，不管现实情况怎么，它不错为该兆瓦级数据中心每秒产生10万个token。或者，淌若进行超等批量处理，而况客户闲暇恭候很万古刻，那么该AI工场每秒不错产生约莫250万个token，明白了吗？

记取，两百五十万，ChatGPT 的成本约莫是每百万个词元10好意思元，对吧？每百万个词元10好意思元。

让咱们假定一下，我认为每百万个词元10好意思元的成本可能比较低，但我可能会说它比较低，但让我假定它比较高，因为两百五十万乘以10，那就是每秒2500万好意思元。这么集结有兴味吗？这就是你念念考问题的方式。

或者，淌若成本低得多，那么问题在于，假定是10万好意思元，将其除以10。每个工场每秒25000好意思元。然后是3100万，一年约莫有3000万秒，这就能迁徙为百万级，兆瓦级数据中心的营收。是以这就是您的方针。

一方面，您但愿您的Token速率尽可能快，以便您不错创造确切智能的AI，淌若领有智能AI，东说念主们就会为此支付更多用度。另一方面，AI越智能，您所能分娩的数目就越少。这是一个相配合理的权衡。这就是咱们试图改变的弧线。

现在，我向您展示的是宇宙上最快的计算机——Hopper。它绝对改变了一切。那么，咱们该怎么改进它呢？因此，咱们起先提倡使用NVLink 8的Blackwell架构。同样的Blackwell架构，相似的计算单元，以及使用FP8的NVLink 8计算节点。

因此，Blackwell更快了。更快、更大、更多晶体管，一切齐要更多。

但咱们想作念的不啻这些，因此咱们引入了新的精度。这并不全齐像4位浮点数那样浅显，但使用4位浮点数，咱们不错量化模子，用更少的能量作念同样的事情。因此，当您使用更少的能量作念同样的事情时，您不错作念得更多。

因为请记取，一个要紧的不雅点是，将来每一个数据中心齐将受到电力甘休。您的收入将受到电力甘休。您不错凭证可用的电力来计算您的收入。这与许多其他行业莫得什么不同。是以咱们现在是一个受电力甘休的行业。咱们的收入将与此关联联。基于此，您需要确保领有尽可能高效节能的计算架构。接下来，咱们将使用 NVLink 72 进行推广。

请看 NVLink 72 FP4 的相反，由于咱们的架构高度集成，现在咱们又添加了 Dynamo，Dynamo 不错进一步推广其性能。是以 Dynamo 也能匡助 Hopper，但对 Blackwell 的匡助更大。

现在请翔实我标出的这两个闪光点，这大致就是您的最大 Q 值所在。这很可能就是您运行工场运营的地点。您正在尝试在东说念主工智能的最大蒙眬量和最大质地之间找到均衡点。最智能的东说念主工智能，以及最大数目的东说念主工智能。这两者的交点，恰是您优化的方针。

这就是在稽查这两个方块下方时呈现的式样。Blackwell 的性能远优于 Hopper。请记取，这并非指 ISO 芯片。而是指 ISO 功率。

这是最终的摩尔定律，持久是往时摩尔定律的中枢所在。现在咱们完结了这一方针，在单代居品中完结了 25 倍的 ISO 功率擢升。这不是ISO芯片，也不是ISO晶体管，更不是任何ISO关联的组件。ISO功耗，是最终的甘休身分。数据中心所能取得的能量是有限的。因此，在ISO功耗甘休下，Blackwell决议的效率擢升了25倍。

现在咱们看到了这张彩虹图，令东说念主难以置信。这才是热爱的部分。看，在帕累托前沿之下，有千般不同的成就决议，咱们称之为帕累托前沿。在帕累托前沿之下，存在数百万种咱们本不错用来成就数据中心的方法。

咱们本不错以许多不同的方式将使命并行化、分割和分片。而咱们找到了最优解，也就是帕累托前沿。好的，帕累托范围。而且，由于心思不同，每一个点齐代表着不同的成就。这张图像相配知道地说明了为什么咱们需要一个可编程架构，使其尽可能地具有同质可替代性。因为使命负载在通盘范围上变化相配剧烈。

看，在顶部，咱们有大众并行8，批次大小为3000，去麇集关闭，Dynamo关闭。在中间，大众并行64，其中26%用于高下文，因此Dynamo开启，高下文占用26%，其余74%未使用。批次大小为64，一个使用大众并行64，另一个使用大众并行4。然后在底部，咱们有张量并行16与大众并行4，批次大小为2，高下文占用1%。计算机的成就在通盘范围内齐在发生变化。

然后，就会发生这种情况。这是一个输入序列长度的例子，它是一种比较通用的测试用例。这是一种您不错相对减弱地进行基准测试的测试用例。输入为1000个标记，输出为2000个。

请翔实，咱们之前向您展示了一个演示，其中输出相配浅显，为9000，对吧，8000。是以很彰着，这并不成仅代表那一次对话。而这一次更具有代表性。这就是方针所在，即构建面向下一代使命负载的下一代计算机。

这是一个推理模子的示例。在这个推理模子中，Blackwell的性能是Hopper的40倍。径直说吧。相配惊东说念主。

你知说念，我之前说过，有东说念主如实问过，你知说念，我为什么要那样说？但我之前说过，一朝Blackwell公司开动批量发货，你就会发现Hopper居品供过于求，险些无东说念主问津。我说的就是这个热爱。这是合理的。淌若还有东说念主想购买Hopper居品，不消顾虑，不要紧。

但是…… 我是首席收入封闭者。我的销售东说念主员会说，哦，不，别那样说。霍珀在某些情况下发达精雅。这是我所能对霍珀作念的最好评价了。

你在某些情况下也发达精雅，但情况未几。淌若我必须选用行动，这就是我的不雅点。

当本事发展如斯赶快，使命量如斯巨大，而况你们正在建造这些访佛工场的东西时，咱们真的但愿你们投资于正确的版块。

为了便于集结，这就是一座100兆瓦工场的式样。基于Hoppers公司的决议，您领有45，000个冲压模具、1400个机架，每秒可分娩3亿个代币。

以下是Blackwell公司的决议。您领有86个……咱们并非试图减少您的购买量。咱们的销售东说念主员说，Jensen，你正在减少他们的购买量，但这是更好的决议。

总之，您购买越多，勤俭越多。事实上，情况比这还要好。现在，你购买得越多，赚取的就越多。

“不参加比赛可能会很痛苦，因为我只想比赛，但我的经验仍然能为车队做出很大贡献。安东内利需要一些帮助，我得继续忙碌起来，继续贡献我所有的知识。”

11月11日，天眼查App显示，近日，杭州娃哈哈精密机械有限公司、杭州娃哈哈乐维食品有限公司、杭州娃哈哈宏振生物科技有限公司发生工商变更，卸任上述公司法定代表人、董事长，均由宗馥莉任董事，由祝丽丹任法定代表人并担任经理，同时多位主要人员也发生变更。

总之，请记取，一切齐在东说念主工智能工场的配景下进行，一切现在齐处于东说念主工智能工场的语境之中。

固然咱们驳倒芯片，但你老是要从领域化开动。全面领域化。你能将什么最大规则地领域化？

我现在想向你展示东说念主工智能工场是什么样的，但东说念主工智能工场相配复杂。我刚才只给你举了一个机架的例子，它领有60万个部件，重达3000磅。现在，你必须把它与许多其他部件勾搭起来。因此，咱们开动构建咱们所说的每个数据中心的数字孪生。在构建数据中心之前，你必须构建一个数字孪生。

让咱们来看一看这个。这简直令东说念主难以置信地妍丽。

宇宙列国齐在竞相建设最先进的大领域东说念主工智能工场。建设一座东说念主工智能千兆工场是一项超卓的工程豪举，需要来自供应商、建筑师、承包商和工程师的数万名工东说念主来建造、输送和拼装近50亿个组件和超过20万英里的光纤，险些荒谬于地球到月球的距离。

英伟达Omniverse东说念主工智能工场数字孪生蓝图使咱们能够在物理建设开动之前遐想和优化这些东说念主工智能工场。

在此，英伟达工程师利用蓝图狡计一座千兆瓦东说念主工智能工场，整合了最新英伟达DGX超等计算集群的三维和布局数据，以及来自Vertip和施耐德电气的先进电力和冷却系统，并通过英伟达AIR（一个用于模拟汇集逻辑、布局和左券的框架）进行了拓扑优化。

这项使命传统上是在各个孑然的部门进行的。Omniverse蓝图使咱们的工程团队能够并行协同使命，让咱们能够探索千般成就以最大规则地谴责总领有成本（TCO）并提高电力使用效率。

英伟达利用由CUDA和Omniverse库加速的Cadence Reality数字孪生本事模拟空气和液体冷却系统，并使用施耐德电气的eTap应用步调模拟电力模块的效率和可靠性。及时模拟使咱们能够在几秒钟内完成迭代并运行大型假定场景，而无需奢华数小时。

咱们使用数字孪生本事向宽广团队和供应商传达指示，从而减少实施伪善并加速部署时刻。在狡计改良或升级时，咱们不错减弱地测试和模拟成本和停机时刻，确保东说念主工智能工场具有将来发展后劲。

这是第一次有东说念主在构建数据中心时会认为：“哇，这太漂亮了！”

咫尺咱们正全面分娩Blackwell系列居品。全球各地的电脑公司齐在大领域地分娩这些令东说念主难以置信的机器。我相配怡悦也很戴德全球为过渡到这个新的架构而付出的奋勉。

在本年下半年，咱们将减弱过渡到升级版。因此，咱们将推出Blackwell Ultra MB-Link 72。

如您所知，它的处贤达商擢升了1.5倍。它具有新的翔实力指示。其内存擢升至原来的1.5倍。

通盘这些内存可用于诸如KB缓存之类的用途。汇集带宽也擢升至原来的两倍。因此，现在咱们领有相似的架构，将能够平滑过渡。这被称为Blackwell Ultra，将于本年下半年推出。

通盘公司齐浮现“下一个”是有原因的。事实上，这恰是我但愿得到的复兴。原因是咱们正在建设东说念主工智能工场和东说念主工智能基础设施，这需要多年的狡计。这不像购买一台条记本电脑那样浅显，也不是可随性驾御的开销。

这是咱们必须狡计的开销，包括地盘和电力供应，以及成本开销，并组建工程团队。咱们必须提前一两年，致使两三年进行狡计。这就是为什么咱们会提前两三年向您展示咱们的道路图的原因，这么咱们就不错幸免在五月份给您带来有时。

经过多年的狡计，下一个阶段，也就是一年之后，是以一位天体裁家的名字定名的。她的孙辈们也在场。她的名字是维拉·鲁宾。她发现了暗物资。维拉·鲁宾令东说念主难以置信，因为其CPU是全新的，性能是Grace的两倍，内存更大，带宽更高。

关联词，它只是一个唯独50瓦的袖珍CPU，这如实令东说念主难以置信。而且，鲁宾系统使用了全新的GPU，CX9，全新的汇集智能网卡（NIC），NVLink 6，全新的NVLink互联本事，以及新式的内存HBM4。总体而言，除了底盘除外，其他一切齐是全新的。

通过这种方式，咱们不错在一个方朝上承担很大的风险，而不会危及与基础设施关联的许多其他方面。因此，Vera Rubin，NVLink 144，将于来岁下半年推出。

现在，我犯了一个伪善，是以，我只需要你们作念出这个调整：Blackwell现实上是一个Blackwell芯片中的两个GPU。咱们称单个芯片为GPU是伪善的，原因是这会打乱通盘NVLink的定名法等等。

因此，预测将来，无需复返Blackwell进行建筑，当我说NVLink 144时，它只是意味着它勾搭到144个GPU，而况每一个GPU齐是一个GPU芯片，而况它不错拼装在某个封装中，其拼装方式可能会随时变化。是以，每个GPU芯片就是一个GPU。每个NVLink齐勾搭到GPU。

因此，Vera Rubin，NVLink 144，这就为下半年，以及次年咱们称之为Rubin Ultra的居品奠定了基础。是以，Vera Rubin Ultra。这是Vera Rubin，Rubin Ultra，27的後半部分。它领受NVLink 576，完结了极大领域的推广。每个机架的功率为600千瓦，由250万个部件组成。

而且，炫耀，还有多半的GPU，而况通盘的一切齐乘以X因子进行了擢升。是以，浮点运算次数加多了14倍，达到15亿亿次浮点运算（15 exaflops）。正如我之前提到的，现在是15亿亿次浮点运算，而非1亿亿次浮点运算，完结了领域的扩大。

而况其内存达到了300，大致是4.6PB（拍字节）。是以，带宽领域擢升到了每秒4600TB（太字节）。我指的不是团员带宽，我指的是领域擢升的带宽。天然，还有全新的NVLink交换机和CX9。

请翔实，共有16个站点，每个封装包含4个GPU，领受极高速的NVLink互联。现在，让咱们来了解一下它的领域。这就是它的式样。

现在，这将会很热爱。是以，您现在正在全力擢升Grace Blackwell的性能。我并非想把它比作条记本电脑，但这就是它的式样。这就是Grace Blackwell的形态。鲁本的形态亦然如斯。ISO维度。

因此，换句话说，在进行横向推广之前，必须先进行纵向推广。在进行横向推广之前，需要先进行纵向推广。然后，在那之后，咱们将利用令东说念主齰舌的本事进行横向推广。是以，起先进行纵向推广。这让您了解咱们前进的速率，这是纵向推广的浮点运算次数。这是纵向推广的浮点运算次数。Hopper的性能是基准的1倍，Blackwell是68倍，Rubin是900倍。领域化推广Flop。

然后，淌若我将其调动为，本色上是您的总领有成本（TCO），即功率在上，每单元功率不才，底下是弧线下方的面积，也就是弧线下的正方形，它基本上是浮点运算次数乘以带宽。是以，量度您的AI工场是否取得进展的一个相配浅显的直观试验方法是，用瓦特数除以那些数字。您不错看到，Rubin将大幅谴责成本。这就是英伟达的道路图，相配粗陋。一年一次，像钟表一样精准。一年一次。

咱们怎么进行领域化推广？咱们引入了，咱们正在准备进行横向推广。那是领域推广，使用了NVLink本事。咱们的领域推广汇集是InfiniBand和Spectrum X。

大多数东说念主齐很骇怪咱们进入了以太网领域。咱们决定使用以太网的原因是，淌若咱们能够匡助以太网达到InfiniBand的性能，领有InfiniBand的特色，那么汇集自身将更容易被通盘东说念主使用和管理。因此，咱们决定投资Spectrum，咱们称之为Spectrum X，并将拥塞规则、极低延长和手脚咱们计算结构一部分的小数软件的特色融入其中。隔断，咱们使Spectrum X的性能极其出色。

咱们使用Spectrum X构建了有史以来最大的单一GPU集群，手脚一个巨大的集群。这就是Colossus（巨型计算机系统）。还有许多其他的例子。Spectrum X无疑对咱们来说是一个巨大的得手。我相配期待的一个领域是，最大的企业汇集公司将领受Spectrum X并将其集成到其居品线中，以便匡助全球企业成为东说念主工智能公司。

咱们在CX7上领有10万个用户。现在CX8行将推出，CX9也行将推出。在Rubin任职期间，咱们但愿将GPU数目推广到数十万个。现在，将GPU推广到数十万个面对的挑战在于推广勾搭。推广勾搭使用的是铜缆。咱们应该尽可能地使用铜缆。这约莫是一到两米傍边的距离。这提供了令东说念主难以置信的精雅勾搭性、相配高的可靠性、相配好的能源效率以及相配低的成本。

因此，咱们在推广中尽可能多地使用铜缆。关联词，在横向推广场景下，数据中心如今已如同通顺场般巨大，咱们需要一种更长距离运行的惩办决议。这就是硅光子学阐扬作用的地点。硅光子学的挑战在于其收发器功耗巨大。从电信号到光信号的调动需要经过串行-并行调动器（SerDes）、收发器以及多个串行-并行调动器。

好，让咱们把它投影到屏幕上，这么我不错向全球展示我正在磋议的内容。好的，起先，咱们晓示英伟达首个领受共封装光子系统的决议。它是全球首个1.6太比特每秒的共封装光学器件（CPO）。它基于一种名为微环谐振器调制器（MRM）的本事。而况它全齐领受咱们与台积电（TSMC）合作已久，令东说念主难以置信的工艺本事构建而成。咱们与纷乱的本事提供商生态系统合作，共同发明了行将向您展示的本事。这真的是一项令东说念主难以置信的本事，极其令东说念主难以置信的本事。

咱们之是以决定投资微环谐振器调制器（MRM），是为了利用MRM令东说念主难以置信的密度和功耗上风，其密度和功耗比用于电信的马赫曾德尔干与仪（Moxander）更好，后者用于电信中数据中心之间的通讯。致使在咱们使用的收发器中，咱们也使用马赫曾德尔干与仪（Moxander），因为到咫尺为止，密度要求并不高。

是以，淌若您望望这些收发器，这是一个收发器的例子。这是一个插头，功率是30瓦，多半购买价钱是1000好意思元。此侧为电源接口，此侧为光纤接口。光信号通过黄色接口输入。您将此插头插入交换机。其中包含收发器、激光器，并领受名为Moxander的本事。

咱们使用它将数据从GPU传输到交换机，再到下一个交换机。然后是下一个交换机，再下一个交换机，例如勾搭到GPU。因此，淌若咱们有10万个GPU，咱们这边就会有10万个这么的组件，然后是另外10万个组件，用于勾搭交换机与交换机。然后在另一侧，我将其归因于另一个网卡(NIC)。

淌若咱们有25万个GPU，咱们将加多一层交换机。因此，每个GPU，通盘25万个GPU，每个GPU将有六个收发器，每个GPU将有六个这么的插头。这六个插头每个GPU将加多180瓦的功耗，每个GPU 180瓦，每个GPU 6000好意思元的成本。是以问题是，咱们怎么将领域扩大到数百万个GPU？因为淌若咱们有100万个GPU乘以6，那就是600万个收发器乘以30瓦，也就是1.8亿瓦的收发器功耗。它们莫得进行任何计算，只是转移信号。

问题在于，咱们怎么，咱们能够怎么包袱得起，正如我之前提到的，能源是咱们最要紧的商品。最终一切事物齐与能源关联，因此这将通过减少180兆瓦的电力来甘休咱们的收入和客户的收入。这是咱们所作念的令东说念主瞻仰的事情。咱们发明了宇宙上第一台微镜MRM，这就是它的式样。

那里有一个小的波导，您不错在波导上看到，它通向一个环，该环产生共振，并规则波导在绕行时的反射率，从而甘休和调制能量，即通过的光量。它通过给与光来关闭它，或者让它通过。它将这种径直的连气儿激光束调动为1和0。这就是遗迹。

然后，这项本事——光子集成电路——与电子集成电路堆叠在一说念，然后与一堆微透镜堆叠在一说念，再与称为光纤阵列的东西堆叠在一说念。这些部件齐是使用台积电的这项本事（他们称之为COOP）制造的，并使用3D COAS本事进行封装，并与通盘这些本事提供商（我之前刚刚展示过它们的名字）合作，最终将其转变为这台令东说念主难以置信的机器。那么让咱们来看一下这段视频。

这简直是一项本事遗迹。它们变成了这些交换机，咱们的 InfiniBand 交换机，硅芯片运奇迹况极佳。本年下半年咱们将请托硅光交换机，来岁下半年咱们将请托 Spectrum X。

获利于 MRM 的采用，获利于咱们在往时五年中承担的令东说念主难以置信的本事风险，咱们肯求了数百项专利，并将本事授权给咱们的合作伙伴，以便咱们齐能制造它们，现在咱们能够将硅光子本事与共封装选项相结合，无需收发器，光纤径直勾搭到咱们的交换机，基数为 512。这就是 512 个端口。任何其他方法齐压根无法作念到这一丝。

因此，这使咱们能够推广到这些领稀有十万致使数百万个 GPU 的系统。其益处，您不错想象一下，令东说念主难以置信。在数据中心，咱们不错勤俭数千万瓦的电力。假定是十兆瓦，或者说六十兆瓦。六兆瓦荒谬于十个Rubin Ultra机架。六十兆瓦的电力荒谬可不雅。咱们现在不错将一百个Rubin Ultra机架的电力部署到Rubin系统中。

咱们的道路图是：每年进行一次架构更新，每两年进行一次合座架构升级，每年推出一条新的居品线，完结X身分的擢升。咱们尝试逐步承担硅片、汇集或系统机箱的风险，以便在追求这些令东说念主难以置信的本事时，能够鼓励行业上前发展。薇拉·鲁宾，我相配感谢她的孙辈们来到这里。这是咱们招供她并为她所作念出的隆起使命致意的契机。咱们下一代居品将以费曼定名。

接下来是英伟达的道路图。让我来和您谈谈企业计算，这相配要紧。

为了将东说念主工智能带入全球企业，咱们起先需要转向英伟达的不同部门。高斯散点图的神秘之处。

为了将东说念主工智能带入企业，让咱们退一步，提醒我方这一丝。请记取，东说念主工智能和机器学习依然绝对重塑了通盘计算堆栈。

处理器不同了，操作系统不同了，顶层的应用步调也不同了。应用步调的运行方式不同，编排方式不同，实施方式也均不同。

举一个例子，您访谒数据的方式将与往时 fundamentally 不同。将来，咱们不会再精准地检索所需数据，然后阅读并尝试集结它，而是会像使用Perplexity那样进行操作。咱们不再那样检索信息，而是径直向Perplexity提倡我的问题，发问，然后它会给出谜底。

将来，企业IT也将领受这种方式运作。

咱们将领有手脚数字劳能源一部分的AI代理。全球稀有十亿知识型职工，将来可能会有100亿数字职工与咱们并肩使命。将来，全球3000万软件工程师中的100%齐将借助AI辅助器具。

我对此信服不疑。到本年年底，英伟达100%的软件工程师齐将借助AI辅助器具。因此，东说念主工智能代理将无处不在。它们的运行方式、企业的运行方式以及咱们的运行方式齐将发生根人道的改变。

是以咱们需要新一代的计算机。这才是个东说念主电脑应有的式样：20 petaflops（千万亿次浮点运算），令东说念主难以置信。72个CPU中枢，芯片转折口，高带宽内存（HBM），此外，还有一些PCI Express插槽用于您的GeForce显卡。这叫作念DGX Station。

DGX Spark和DGX Station将由通盘原始斥地制造商（OEM）提供，包括惠普、戴尔、逸想、华硕。它将面向全球的数据科学家和磋议东说念主员分娩。这是东说念主工智能期间的计算机，这就是计算机应该的式样，这亦然将来计算机的运行方式。

咱们现在为企业提供了一整套居品线。咱们提供从袖珍机到使命站、干事器，再到超等计算机的各种居品。这些居品将由咱们通盘的合作伙伴提供。咱们还将绝对调动其余的计算架构。

请记取，计算具有三大扶植，其一是计算自身，而你们正在见证它的发展。其二是汇集，正如我之前提到的，Spectrum X 将面向全球企业，构建一个东说念主工智能汇集。第三是存储。存储必须绝对从头遐想，它将不再是基于检索的存储系统，而是一个基于语义的存储系统。因此，该存储系统必须延续不断地将信息镶嵌到后台。它经受原始数据，将其镶嵌到知识中，然后当您访谒它时，您无需检索它，而只需与它进行交互。你不错向它发问，也不错给它提倡问题。

其中一个例子是Box公司的Aaron，他致使将其上传到云霄，并与咱们合作将其上传到云霄。它基本上是一个超等智能的存储系统。将来，每个企业齐将领有这么的系统。这就是将来的企业存储。

咱们正在与通盘存储行业合作，他们齐长短常棒的合作伙伴，包括DDN、戴尔、惠普企业、日立、IBM、NetApp、Nutanix、Pure Storage、Vast和Weka。基本上，全球通盘存储行业齐将提供这一本事栈。初次，您的存储系统将完结GPU加速。戴尔将提供全系列的英伟达企业级IT东说念主工智能基础设施系统以及在其上运行的通盘软件。因此，您不错看到咱们正在绝对变革全球企业。

咱们今天还晓示了这款令东说念主难以置信的模子，每个东说念主齐不错运行。此前我向您展示了R1，一个推理模子。我将它与Llama 3（一个非推理模子）进行了比较。很彰着，R1要贤达得多。但咱们还不错作念得更好，咱们不错使其成为任何公司齐可用的企业级居品。现在它全齐开源，是咱们称之为NIMS的系统的一部分。

您不错下载它，不错在职何地点运行它。您不错在DGX Spark上运行它。您不错在DGX Station上运行它。您不错在原始斥地制造商（OEM）分娩的任何干事器上运行它。您不错在云霄运行它。您可将其集成到您的任何自主智能（Agentic AI）框架中。咱们正与宇宙各地的公司合作。

我将快速浏览这些内容，请仔细不雅看。我想感谢一些在座的优秀合作伙伴。

埃森哲，朱莉·斯威特和她的团队正在构建他们的AI工场和AI框架。Amdocs，全球最大的电信软件公司。AT&T公司，John Stanky过头团队正在构建一个AT&T东说念主工智能系统，一个具有自主代贤达商的系统。Larry Fink和贝莱德团队正在构建他们的系统。将来，Anyrood公司不仅会招聘ASIC遐想东说念主员，还会招聘多半来自Anyrood Cadence的数字ASIC遐想东说念主员来匡助咱们遐想芯片。因此，Cadence公司正在构建其东说念主工智能框架。

正如您所看到的，在每一个系统中，聚积成了NVIDIA模子、NVIDIA NIMS和NVIDIA库。因此，您不错将其在土产货、云霄或任何云平台上运行。Capital One，一家在本事应用方面最为先进的金融干事公司，平常使用了NVIDIA的本事。德勤公司，Jason过头团队。ENY公司，Janet过头团队。纳斯达克公司，Dina过头团队。将英伟达本事集成到他们的AI框架中。然后是克里斯蒂安和他在SAP的团队。比尔·麦克德莫特和他在ServiceNow的团队。

起先，这是一个主题演讲，其第一张幻灯片就花了30分钟。然后通盘其他幻灯片也齐花了30分钟。接下来，咱们换个地点吧。咱们来谈谈机器东说念主本事。

机器东说念主期间依然到来。机器东说念主能够与物理宇宙互动并实施数字信息无法完成的任务，这是它们的上风所在。咱们相配明晰地知说念，宇宙正面对着严重的劳能源穷乏。到本十年末，全宇宙至少将穷乏5000万名工东说念主。

咱们相配乐意支付每位工东说念主5万好意思元的年薪以蛊惑他们来使命。咱们可能不得不每年支付机器东说念主5万好意思元的“薪水”以使其插足使命。因此，这将是一个相配纷乱的产业。各种机器东说念主系统层见叠出。您的基础设施将完结机器东说念主化。仓库和工场中将部署数十亿个录像头。全球约有1000万到2000万家工场。正如我之前提到的，每辆汽车现实上齐是一台机器东说念主。现在，咱们正在建造通用机器东说念主。让我向您展示咱们是怎么作念到的。

通盘转移的物体齐将完结自主化。物理东说念主工智能将赋能各种机器东说念主，应用于百行万企。三台英伟达制造的计算机赈济机器东说念主东说念主工智能的延续轮回模拟、教化、测试和真实宇宙造就反馈。机器东说念主教化需要海量数据。互联网领域的数据提供了学问和推贤达商，但机器东说念主还需要行动和规则数据，而这些数据的获取成本很高。

利用基于英伟达Omniverse和Cosmos构建的蓝图，开发者不错生成海量千般化的合成数据，用于教化机器东说念主的策略。

起先，在Omniverse中，开发者凭证不同的领域、机器东说念主和任务，整合真实宇宙的传感器数据或演示数据。然后利用Omniverse对Cosmos进行条目处理，将原始汇聚数据扩增为海量传神且千般化的数据。开发者使用Isaac Lab利用增强的数据集对机器东说念主策略进行后期教化。并通过师法学习克隆行动，或通过试错法以及强化学习AI反馈，让机器东说念主学习新技巧。实验室锻练与真实宇宙有所不同。新策略需要进行现场测试。开发者使用Omniverse进行软件和硬件在环测试，在具有真实宇宙环境动态、领域当场化、物理反馈和高保真传感器模拟的数字孪生体中模拟策略。

真实宇宙的操作需要多个机器东说念主协同使命。Mega，一个Omniverse蓝图，允许开发者大领域测试经事后期教化的机器东说念主策略集群。在此，富士康在一个虚构的英伟达Blackwell分娩工场中测试异构机器东说念主。当机器东说念主大脑实施其任务时，它们通过传感器模拟感知其行动的隔断，然后狡计下一个行动。Mega 允许开发者测试许多机器东说念主策略，使机器东说念主能够手脚一个系统使命，不管是空间推理、导航、转移性照旧智谋性方面。

令东说念主瞻仰的事物出生于模拟之中。今天，咱们推出 NVIDIA Isaac Groot N1。Groot N1 是一个用于东说念主形机器东说念主的通才基础模子。它建立在合成数据生成和模拟学习的基础之上。Groot N1 领受了一种双系统架构，用于快速和慢速念念考，其灵感来自于东说念主类默契处理的旨趣。慢速念念考系统允许机器东说念主感知和推理其环境和指示，并狡计正确的行动。快速念念考系统将议论迁徙为精准且连气儿的机器东说念主动作。Groot N1 的泛化智商使机器东说念主能够减弱地驾御常见物体并协同实施多要津序列。通过完整的合成数据生成和机器东说念主学习进程，东说念主形机器东说念主开发者不错对Groot N1进行跨多种形态、任务和环境的后期教化。

全宇宙各个行业的开发者齐在使用英伟达的三款计算机来构建下一代具身东说念主工智能。物理东说念主工智能和机器东说念主本事发展赶快。每个东说念主齐应该关心这一领域。这很可能成为通盘行业中领域最大的一个。其中枢在于，咱们面对着同样的挑战。正如我之前提到的，咱们关心三个方面。这些问题具有系统性。

起先，怎么惩办数据问题？如缘何及在那里创建教化东说念主工智能所需的数据？其次，模子架构是什么？第三，缩放损失是什么？咱们怎么推广数据、计算智商或两者兼顾，从而使东说念主工智能越来越智能？咱们该怎么进行推广？这两个基本问题同样存在于机器东说念主领域。在机器东说念主领域，咱们创建了一个名为Omniverse的系统，它是咱们用于物理东说念主工智能的操作系统。持久以来，你们齐听我驳倒过Omniverse。

咱们向其中添加了两项本事。今天，我将向你们展示两件事。其一，是为了让咱们能够推广具有生成智商和能够集结物理宇宙的生成模子的AI。咱们称之为Cosmos。利用Omniverse来调理Cosmos，并利用Cosmos生成无尽数目的环境，使咱们能够创建塌实可靠的数据。这些数据塌实可靠，受咱们规则，同期又具有系统性的无尽性。正如您所见，在Omniverse中，咱们使用糖果色来例如说明咱们怎么齐备地规则场景中的机器东说念主，而Cosmos不错创建通盘这些虚构环境。

第二点，正如咱们之前所磋议的，现在语言模子令东说念主难以置信的推广智商之一是强化学习，以及可考据的奖励。问题是，机器东说念主本事的可考据奖励是什么？正如咱们相配明晰的那样，那就是物理定律。可考据的物理奖励。因此，咱们需要一个令东说念主难以置信的物理引擎。

嗯，大多数物理引擎的开发齐有千般各样的原因，可能是为了大型机械斥地而遐想，也可能是为了虚构宇宙、电子游戏等等而遐想。但咱们需要一个专为精采、刚性和软体遐想的物理引擎。该引擎的遐想方针是能够教化触觉反馈、精采动作技巧和实施器规则。咱们需要它能够进行GPU加速，以便这些虚构宇宙能够以超线性时刻、超及时的方式运行，并以极快的速率教化这些AI模子。咱们还需要它与全球机器东说念主大众齐在使用的框架——MuJoCo——和谐地集成。

是以今天咱们要晓示一些确切绝顶的东西。这是三家公司的合作隔断，划分是DeepMind、迪士尼磋议和英伟达，咱们将其定名为Newton。让咱们来望望Newton，谢谢。

你以为新的物理引擎何如样？你心爱它，是吗？是的，我敢打赌。我知说念。触觉反馈、刚体、柔体、仿真、超及时。你能想象刚才你所看到的一切齐是及时仿真吗？将来咱们将以此方式教化机器东说念主。

趁机说一下，蓝色机器东说念主里面有两台计算机，两台英伟达显卡。看你多贤达。是的，你很贤达。

嘿，蓝色机器东说念主，听着。咱们把它带回家何如样？咱们隔断这场主题演讲吧。该吃午饭了。你准备好了吗？咱们把它隔断掉吧。咱们还有一个公告。你发达得很好。

就站在这里。好的，很好。

咱们还有另一个令东说念主粗豪的音信。我告诉过你们，咱们的机器东说念主本事取得了巨猛进展。今天，咱们晓示Groot N1将开源。我想感谢诸君的光临。

让咱们总结一下。感谢诸君参加GTC大会。咱们磋议了几个方面。

第一，Blackwell已全面投产，而且发展势头令东说念主难以置信。客户需求相配腾达。这是有充分根由的。因为东说念主工智能正处于一个拐点，由于推理型东说念主工智能和代理型东说念主工智能系统的教化，咱们需要进行的东说念主工智能计算量大幅加多。

第二，配备Dynamo的Blackwell NVLink 72的AI工场性能是Hopper的40倍。跟着东说念主工智能的推广，推理将在将来十年景为最要紧的使命负载之一。

第三，咱们已为您制定了年度道路图，以便您狡计您的AI基础设施。然后，咱们正在建设两到三个AI基础设施，划分面向云霄的AI基础设施、面向企业的AI基础设施以及面向机器东说念主的AI基础设施。

咱们还有一个惊喜为您准备。

感谢全球。感谢通盘使这段视频成为可能的合作伙伴。感谢通盘使这段视频成为可能的诸君。祝GTC大会圆满得手。谢谢。

本内容为作家沉着不雅点，不代表虎嗅态度。未经允许不得转载，授权事宜请掂量 [email protected]

本文来自虎嗅，原文相接：https://www.huxiu.com/article/4062550.html

• 迪士尼彩乐园3总代
• 黄仁勋
• 出现
• 拐点