英伟达 CEO 黄仁勋：AI 数据中心可扩展至百万芯片，摩尔定律放缓

本周，英伟达CEO黄仁勋接受了《No 》节目主持人的采访，就英伟达的十年赌注、x.AI超级集群的快速发展、技术创新等AI相关话题进行了一场深度对话。

黄仁勋表示，没有任何物理定律可以阻止将AI数据中心扩展到一百万个芯片，尽管这是一个难题，多家大公司包括、、谷歌、Meta和微软等，都在争夺AI领域的领导地位，竞相攀登技术的高峰，但重新创造智能的潜在回报是如此之大，以至于不能不去尝试。

摩尔定律曾是半导体行业发展的核心法则，预测芯片的晶体管数目每两年会翻倍，从而带来性能的持续提升。然而，随着物理极限的接近，摩尔定律的速度开始放缓，芯片性能提升的瓶颈逐渐显现。

为了解决这一问题，英伟达将不同类型的处理器（如GPU、TPU等）结合起来，通过并行处理来突破传统摩尔定律的限制。黄仁勋表示，未来10年，计算性能每年将翻一番或三倍，而能源需求每年将减少2-3倍，我称之为“超摩尔定律曲线”。

黄仁勋还提到，我们现在可以将AI软件扩展到多个数据中心：“我们已经做好准备，能够将计算扩展到前所未有的水平，而我们正处于这一领域的起步阶段。”

以下是黄仁勋讲话的亮点：

1.我们在未来10年进行了重大的投资。我们正在投资基础设施，打造下一代AI计算平台。我们在软件、架构、GPU以及所有实现AI开发所需的组件上都进行了投资。

2.摩尔定律，即晶体管数目每两年翻倍的预言，曾经是半导体行业的增长指南。然而，随着物理极限的接近，摩尔定律已不再能够单独推动芯片性能的提升。为了解决这一问题，英伟达采用了类似于“异构计算”的方式，即将不同类型的处理器（如GPU、TPU等）结合起来，通过并行处理来突破传统摩尔定律的限制。英伟达的技术创新，如CUDA架构和深度学习优化，使得AI应用得以在超越摩尔定律的环境中高速运行。

3.我们推出了作为互连技术，它使得多个GPU能够协同工作，每个GPU处理工作负载的不同部分。通过，GPU之间的带宽和通信能力大幅提升，使得数据中心能够扩展并支持AI工作负载。

4.未来的AI应用需要动态和弹性强的基础设施，能够适应各种规模和类型的AI任务。因此，英伟达致力于构建可以灵活配置和高效运营的基础设施，满足从中小型AI项目到超大规模超级计算集群的需求。

5.构建AI数据中心的关键是要同时优化性能和效率。在AI工作负载中，你需要巨大的电力，而散热成为一个巨大的问题。所以我们花了大量时间优化数据中心的设计和运营，包括冷却系统和电力效率。

6.在硬件快速发展的背景下，保持软件与硬件架构的兼容性显得尤为重要。黄仁勋提到，我们必须确保我们的软件平台，如CUDA，可以跨代硬件使用。开发者不应当每次我们推出新芯片时都被迫重写代码。因此，我们确保保持向后兼容，并让软件能够在我们开发的任何新硬件上高效运行。

7.我们正在建设一个超级集群，叫做X.AI，它将成为世界上最大的AI超级计算平台之一。这个超级集群将提供支持一些最雄心勃勃的AI项目所需的计算能力。这是我们推动AI前进的一大步。

8.扩展AI数据中心的一个大挑战是管理它们消耗的巨大能源。问题不仅仅是构建更大、更快的系统。我们还必须处理运行这些超大规模系统时面临的热量和电力挑战。为了应对这一切，需要创新的工程技术来确保基础设施能够应对。

9.AI在芯片设计中的作用日益重要，黄仁勋指出，AI已经在芯片设计中发挥着重要作用。我们使用机器学习来帮助设计更高效的芯片，速度更快。这是我们设计下一代英伟达芯片的一个关键部分，并帮助我们构建专为AI工作负载优化的芯片。

10.英伟达市值的激增是因为我们能够将公司转型为AI公司。我们从一开始是GPU公司，但我们已经转型成了AI计算公司，这一转型是我们市值增长的关键部分。AI技术的需求正在迅速增长，我们处在一个能够满足这一需求的有利位置。

11.具象化AI是指将AI与物理世界进行结合。通过这种方式，AI不仅可以在虚拟环境中进行任务处理，还能在现实世界中进行决策并执行任务。具象化AI将推动智能硬件、自动驾驶等技术的快速发展。

12.AI不仅仅是工具，它也可以成为‘虚拟员工’，帮助提升工作效率。AI能够在数据处理、编程、决策等领域替代或辅助人类工作，进而改变整个劳动市场和工作方式。

13.AI将在科学与工程领域产生巨大影响，特别是在药物研发、气候研究、物理实验等领域。AI将帮助科学家处理大量数据，揭示新的科学规律，并加速创新。它还将在工程领域优化设计，提高效率，推动更具创新性的技术发展。

14.我自己也在日常工作中使用AI工具，来提高效率和创造力。我认为，AI不仅能够帮助我们处理复杂的数据和决策任务，还能提升我们的创意思维和工作效率，成为每个人工作中不可或缺的一部分。

以下是采访文字实录全文，由AI翻译：

主持人： back, , 30 years in to and 10 years out, what are the big bets you think are still to make? Is it all about scale up from here? Are we into in terms of how we can more out of the we have? What are you on? Well.

嗨，，欢迎回来！你在英伟达工作了30年，展望未来10年，你认为还有哪些重要的投资机会？是不是说我们只需要继续扩大规模？我们在现有架构中是否会遇到限制，无法再挤出更多的计算内存？你目前关注的重点是什么？

黄仁勋：If we take a step back and think about what we've done, we went from to , from tools to AIs and all of that on CPUs that was for human to now on GPUs for AI , 。 And so the world has the way we do the whole stack has 。 And as a , the scale of the we could has a lot we could, if you could your on one GPU, you've set the to a whole or maybe or data 。

And so I think we've set up to be able to scale at a level and at a level that 's ever 。 And so we're at the that over the next 10 years, our hope is that we could or every year at scale, not at chip, at scale。 And to be able to drive the cost down by a of 2 or 3, drive the down by a of 2,3 every year。 When you do that every year, when you or every year in just a few years, it adds up。

So it 。 And so I 't be if, you know, the way think about Moore's Law, which is 2 x every of years, you know, we're gonna be on some kind of a hyper Moore's Law curve。 And I fully hope that we to do that。 Well, what。

以前我们编程都是靠自己写代码，现在我们开始让机器自己学习，自己写代码。以前我们用的那种电脑芯片（CPU）是给人写代码用的，现在我们用的电脑芯片（GPU）是给机器学习用的。因为这些变化，我们现在处理问题的方式和以前完全不一样了。打个比方，如果你能让一个机器学习程序在一个GPU上运行，那你就可以让它在整个电脑群里，甚至在很多电脑群或者数据中心里运行。这意味着我们现在能处理的问题比以前大多了。所以，我们相信自己已经建立了能够大规模扩展计算能力和开发软件的基础，这个规模是以前没人想象过的。

我们希望在未来10年里，每年都能让计算能力翻两倍或者三倍，不是单个芯片的能力，而是整体的能力。这样的话，我们就能每年把计算成本降低两倍或三倍，把能耗也降低两倍或三倍。这种增长如果每年都能实现，那么几年下来，这个增长会非常惊人。因此，我认为未来的计算将会超越传统的“摩尔定律”（即每两年计算能力翻倍），可能会走上一条更快的增长曲线，我也非常希望能够继续沿着这个方向前进。

主持人：Do you think is the of that even than Morse law? Cuz I know was sort of self , right? It was that he said and then kind of it to me to .

你认为是什么因素推动了计算能力增长速度超过摩尔定律的？因为我知道，摩尔定律本身就是一种“自我实现”的规律，对吧？也就是说，摩尔定律本身是摩尔提出的，然后大家就按照这个规律去做，结果它就实现了。

黄仁勋：Yep, too. . One of them was and the other one was Mead's VLSI . And both of those were , but those have run out of steam. And, and so now we need a new way of doing . You know, the new way of doing are all kinds of with co . you can or the to the of the or and then the to the of the new and go back and forth. you can both sides of it, you have no hope. But if you can both sides of it, you can do like

move from FP64 to FP32 to BF16 to FPA to, you know, FP4 to who knows what, right? And so, and so I think that code is a very big part of that. The part of it, we call it full stack. The part of it is data scale. You know, you could treat the as a and push a lot of the work into the , push a lot of the work into the . And as a , you're , you know, doing at very large . And so that's the why we and and MV Link in such an way.

过去推动技术进步的两个关键技术柱子是缩放（ ）和 Mead的VLSI缩放。但是这两种方法现在都不太管用了，我们需要新的方法来变得更快。

新方式就是“协同设计”（co-），也就是软件和硬件必须同时考虑和优化。具体来说，如果你不能修改或调整算法，使其与系统的架构匹配，或者不能改变系统架构，以适应新软件的需求，那么就没有希望。但如果你能同时控制软件和硬件，你就能做很多新的事情，比如：从高精度的FP64转到低精度的FP32，再到BF16、FPA、甚至FP4等更低精度的计算。

这就是为什么“协同设计”这么重要的原因。另外，另一个重要的部分是全栈设计。这意味着，你不仅要考虑硬件，还要考虑数据中心级别的规模。比如，必须把网络当作一个计算平台来使用，把大量的计算任务推到网络里，利用网络和硬件进行大规模压缩运算。

因此，我们收购了，并开始非常积极地推动和这类高速连接技术，来支持这种全新的大规模计算架构。

And now look where MV Link is gonna go。 You know, the is going to, I scale out what to be one a GPU。 Now we get of GPUs that are gonna be 。And now look where MV Link is gonna go。 You know, the is going to, I scale out what to be one a GPU。 Now we get of GPUs that are gonna be 。You know, most of these that we're with now, one of the most ones, of , is time , has to do with at low you're self , as you just 。

I mean, you're gonna be doing tree surge, you're gonna be doing chain of , you're gonna be doing some of in your head。 You're gonna be on your own 。 Well, you're gonna be and text to your in, you know, and still in a 。 Well, the only way to do that is if your is low。, the data is still about high you know, you still wanna keep cost down, you wanna keep the high, you wanna, right, you know, and a 。

And so these two about a , low and high , they're at odds with each other。 And so in order for us to that is great in both, we have to go new, and Envy Link is our way of doing that。We now you have a GPU that has of flops you need it for 。 You need a huge of , , and still have for token all of the same time。

现在看（英伟达的高速连接技术）将走向哪里，未来的计算架构将变得非常强大。你可以把它想象成一个超级强大的处理器，就是GPU（图形处理单元）。而现在，英伟达的目标是把数百个GPU集成到一起，协同工作，形成一个庞大的计算平台。

现在我们面临的计算挑战中，有一个非常令人兴奋的问题就是推理时间的缩短。特别是在生成文本时，需要非常低的延迟。因为就像你刚才提到的，我们的思维其实是一种自我反思的过程：你可能在脑海中进行“树形搜索”（tree ）、思考链条（chain of ），甚至可能会进行某种模拟，回顾自己的答案。你会自己给自己提问，并生成答案，在大脑里“默默地”思考，然后希望能在几秒钟内回应出来。

为了做到这一点，计算的延迟必须非常低，因为你不可能等太久才能得到结果。

但与此同时，数据中心的任务是产生大量的高吞吐量的“token”（符号）。你需要控制成本，保持高吞吐量，并且确保能够获得回报。所以，低延迟和高吞吐量是两个相互矛盾的目标：低延迟要求快速响应，而高吞吐量则需要处理更多的数据。这两者之间存在冲突。

为了同时做到这两点，必须创造一些全新的技术，而就是我们解决这个问题的方法之一。通过，英伟达希望能够在确保高吞吐量的同时，也能提供低延迟，从而解决这一计算上的矛盾，提升整体性能。

现在我们有了虚拟GPU，它的计算能力非常强大，因为我们需要这么强的计算能力来处理上下文。也就是说，当我们在处理一些任务时，需要非常大的内存（特别是工作内存），同时还要有极高的带宽来生成token（即文本或数据符号）。

主持人： the , also like David and my team pull data where over the last 18 or so, the cost of 1 going into a GPT four model is 240 x. Yeah, and so there's just and on that side as.

构建模型的过程其实也包括了很多优化工作，比如David和他的团队，通过过去18个月的努力，成功地将每百万个token的成本（用于GPT-4类模型的成本）降低了240倍。

黄仁勋：Well. Just in our layer, just on the layer that we work on. You know, one of the that we care a lot about, of , is the of our stack and the of our . You know, that you have Kuda and that's a solid . above it can . If , if the 's you, it's hard to build a on top. It's hard to and on top. And so could have made it for us to so just in the last year. And then we just went back and when Lama first came out, we've the of by a of five the , the layer on top ever . Now, well, a of five in one year is using . But it's and using this way of code , we're able to all kinds of new .

在我们的工作领域里，有一件非常重要的事情，就是技术栈的生态系统和软件的生产力。我们特别重视的是Kuda 这个基础平台，它是非常稳定和坚实的。因为如果基础平台不断变化，想要在上面构建出一个系统或者应用就非常困难，根本无法在不稳定的基础上创造出有趣的东西。所以，Kuda 的稳定性让我们能够非常快速地进行迭代和创新，尤其是在过去一年里。

然后，我们还做了一个对比测试：当Lama首次推出时，我们通过优化（一种计算平台或架构），在不改变算法和不改变上层架构的情况下，提升了性能5倍。而且这种5倍的提升，在传统的计算方法下是几乎不可能实现的。但通过协同设计这种新的方法，我们能够在现有的基础上不断创新和解释更多新的技术可能性。

主持人：How much are, you know, your about the of their large scale and ?

你的那些最大客户有多关心他们在大规模训练和推理之间基础设施的互换性？

黄仁勋：Well, you know, is these days。 Sam was just me that he had Volta just 。 They have , they have , all of 。 Some of it is for air cool, some of it's cool。 Your are gonna have to take of all of this。 The that has, of , is that the that you built today for will just be for 。

And most of Chat GBT, I , are on the same type of that we're on just 。 And so you can train on, you can on it。 And so you're a trail of that you know is going to be good at , and you have that you can then take that on it, on the that you've had and put it into a new to go scale with, you know you're gonna leave of use and you know that and the rest of the are gonna be on the so that the rest of your by a of five, you know, in just a year。 And so that will never 。

现在的基础设施不像以前那样是一成不变的了。比如Sam刚告诉我，他们最近淘汰了Volta型号的设备。他们有型号的，有型号的，还有很多不同配置的型号即将到来。有些设备是优化了空气冷却的，有些则是优化了液体冷却的。你们的服务需要能够利用所有这些不同的设备。

英伟达的优势在于，你今天为训练搭建的基础设施，将来会非常适合用于推理。我相信大多数的Chat GBT（可能是指大型语言模型）都是在最近训练过的相同类型的系统上进行推理的。所以你可以在这个系统上训练，也可以在这个系统上进行推理。这样，你就留下了一条基础设施的轨迹，你知道这些基础设施将来会非常适合进行推理，你完全有信心可以把之前投资的回报，投入到新的基础设施中去，扩大规模。你知道你会留下一些有用的东西，而且你知道英伟达和整个生态系统都在努力改进算法，这样你的其他基础设施在仅仅一年内就能提高五倍的效率。所以这种趋势是不会变的。

And so the way that will think about the , yeah, even I built it for today, it's gotta be great for 。 We know it's gonna be great for 。 is gonna be multi scale。 说话人 2 08:53 I mean, you're gonna take, first of all, in order to, the still could have a model that's still from and so you're still gonna these a 。 They're gonna be used for, of , the work。

You're gonna use it for data 。 You're gonna use the , the big that teach and down to 。 And so there's a whole bunch of you can do, but in the end, you're gonna have giant all the way down to tiny 。 The tiny are gonna be quite , you know, not as , but quite 。 And so, you know, they're gonna very well that one task。

And we're gonna see task in one tiny from a tiny model。 Maybe you know, it's not a small model, but you know, tiny model, TLMs are, you know, 。 Yeah, so I think we're gonna see all kinds of sizes and we hope isn't right, just kind of like today。

人们看待基础设施的方式在变，就像我现在建的这个设施虽然是为了训练用的，但它也必须很适合训练。我们知道它将来也会非常适合做推理。推理会有很多不同的规模。

我是说，你会有各种不同大小的模型。小模型可以从大模型那里学习，所以你还是会创造一些前沿的大模型。这些大模型会用来做开创性的工作，用来生成合成数据，用来教小模型，然后把知识蒸馏给小模型。所以你可以做的事情有很多，但最后你会有从巨大的模型到非常小的模型。这些小模型将会非常有效，虽然它们不能通用，但在特定任务上会非常有效。它们会在某个特定任务上表现得非常好，我们将会看到在某个小小的领域里，小模型能完成超乎人类的任务。也许它不是一个小型的语言模型，但你知道，就是微型语言模型，TLMs，反正就是类似的东西。所以我觉得我们会看到各种大小的模型，就像现在的软件一样。

Yeah, I think in a lot of ways, us to break new in how easy it is to new . But about has the same. For , the cost of is . And once you build it, you would like it to run on a large of an base as . You would like not to write the same twice. I mean, you know, a lot of still feel the same way. You like to take your and move them . And so to the that, to the that the you, on one hand, today that runs even with new that's great or that you , AI that you runs on a large base. You think that's great. That way of about is not gonna.

我觉得在很多方面，人工智能让我们能够更容易地创造新的应用程序。但是在计算方面，大部分事情还是老样子。比如说，维护软件的成本非常高。一旦你建好了软件，你希望它能在尽可能多的设备上运行。你不想重复写同样的软件。我的意思是，很多人还是这么想的。你喜欢把你的工程推向前进。所以，如果架构允许你，一方面，今天创建的软件明天在新硬件上能运行得更好，那就太好了；或者你明天创建的软件，后天创建的人工智能能在很多设备上运行。你认为那很棒。这种考虑软件的方式是不会变的。

主持人：. And video has moved into and , let's say, like a unit of for . I think about it going from chip to, you know, to rack and real 72. How do you think about that ? Like what's next? Like do you full data ? But

随着技术的发展，英伟达的产品已经不仅仅是单个的芯片了，而是扩展到了支持整个数据中心的规模。你怎么看待这种发展？接下来会是什么？比如，英伟达是不是应该做整个数据中心？

黄仁勋：In fact, we build full data the way that we build 。 you're , if you're , you need the in its full 。 We don't build and ship the chips and we build a whole data 。 And until we get the whole data built up, how do you know the works until you get the whole data built up, how do you know your, you know, your works and all the that you the to be, how do you know it's gonna work at scale? And that's the why it's not to see 's be lower than their peak , as shown in , and it is, is just not used to, is not what it used to be。

You know, I say that the new unit of is the data 。 That's to us。 So that's what you have to 。 That's what we build。Now we build a whole thing like that。 And then we, for every thing that every , air cold, x 86, cold, Grace, , band, MV link, no NV link, you know what I'm ? We build every 。 We have five in our today。 Next year, we're gonna build five more。 So if you're about , you build your own if you're about , then you're gonna build your whole 。 And we build it all at scale。

实际上，我们建造完整的数据中心就像我们建造其他所有东西一样。如果你在开发软件，你需要电脑的完整形态来测试。我们不只是做PPT幻灯片然后发货芯片，我们建造整个数据中心。只有当我们把整个数据中心搭建起来后，你才能知道软件是否正常工作，你的网络布线是否有效，所有你期望的效率是否都能达到，你才知道它是否真的能在大规模上运行。这就是为什么人们的实际性能通常远低于PPT幻灯片上展示的峰值性能，计算已经不再是过去的样子了。我说现在的计算单元是数据中心，对我们来说就是这样。这就是你必须交付的东西，也是我们建造的东西。

我们现在就这样建造整个系统。然后我们为每一种可能的组合建造：空气冷却、x86架构、液体冷却、Grace芯片、以太网、无限带宽、，没有，你懂我的意思吗？我们建造每一种配置。我们公司现在有五台超级计算机，明年我们轻易就能再建造五台。所以，如果你对软件是认真的，你就会自己建造计算机，如果你对软件是认真的，你就会建造整个计算机。我们都是大规模地建造。

This is the part that is 。 We build it at scale and we build it very 。 We it full stack, and then we and we sell lemon parts。 That's the part that is , about what we do。 The of that is just 。 And the for that is we want to be able to graft our into GCP, AWS, Azure, OCI。 All of their , are all and all of the way they think about their all 。

And, but yet we make it for them to all 's 。 So that could, it could be 。 That's in the end the , you know, that we would like to have a that could use that's , , you know, 10% here and there 's are and 10% here and there, but they build will run 。 This is kind of the one of the of that never be given up。

And it, and we quite 。 Yeah, it makes it for our to build ones run 。 And that's we that the of is the most , and it's easy to test。

这部分真的很有趣。我们不仅大规模建造，而且是垂直整合建造。我们从底层到顶层全程优化，然后我们把各个部分分开，单独卖。我们做的事情复杂得让人难以置信。为什么这么做呢？因为我们想把我们的基础设施融入到GCP、AWS、Azure、OCI这些不同的云服务提供商中。我们的控制平台、安全平台都不一样，我们考虑集群大小的方式也各不相同。但是，我们还是想办法让他们都能适应英伟达的架构。这样，我们的架构就能无处不在。

最终，我们希望有一个计算平台，开发者可以用它来构建软件，这个平台在大部分情况下是一致的，可以模块化地调整，可能这里那里有10%的不同，因为每个人的基础设施都略有优化差异，但是无论在哪里， 我们构建的东西都能运行。这是软件的一个原则，我们非常珍视这一点。这使得我们的软件工程师可以构建出到处都能运行的软件。这是因为我们认识到，软件的投资是最昂贵的投资，而且它很容易测试。

Look at the size of the whole and then look at the size of the world's 。 It's $100 on top of this one 。 And that tells you 。The that you build, you have to, you know, you for as long as you shall live。 We've never given up on piece of 。 The why Kuda is used is , you know, I 。 We will this for as long as we shall live。 And we're now。

We still 。 I just saw a the other day, , our TV。 It's the best TV in the world。 We seven years ago。 It is still the one TV that , you know, who TV。 And we just the just this last week and wrote a new story about it。 G Force, we have 300 the world。 We've never a one of them。 And so the fact that our is all of these areas makes it for us to do it。

, we would be sub, we would be, we would have, you know, we would have teams that are times the size of our is today if not for this 。 So we're very about that, and that to the 。

看看整个硬件行业的规模，再比比全世界所有行业的规模。硬件行业只有一万亿美元，而全世界的行业加起来有一百万亿亿美元。这个对比告诉你，软件行业要比硬件行业大得多。

你们做的软件，基本上要一直维护下去。我们从没有放弃过任何一款软件。Kuda之所以被大家用，是因为我向所有人承诺，我们会一直维护它，只要我们还在。我们现在还是很认真的，我们还在维护它。我前几天还看到一篇评论，说我们的英伟达，我们的安卓电视，是世界上最好的安卓电视。我们在七年前推出的，它仍然是排名第一的安卓电视，任何喜欢看电视的人都爱它。我们上周才更新了软件，然后人们就写了新的文章来评论它。我们的G Force，全世界有3亿玩家。我们从没有抛弃过他们中的任何一个。我们的架构在所有这些不同领域都是兼容的，这使得我们能做到这一点。如果不是因为我们的架构兼容性，否则我们今天的软件团队的规模会比现在公司大一百倍。所以我们非常重视这一点，这也给开发者带来了好处。

主持人：One of that was how up a for X dot AI. Yeah, and if you want to check about that, cuz that was in terms of both the scale and the speed with what you did. That

最近有一个让人印象深刻的例子是我们为X dot AI迅速搭建了一个集群。如果你想了解这件事，因为它在规模和速度上都让人惊讶。我们很快就完成了这个任务。

黄仁勋：You know, a lot of that you gotta give to Elon。 I think the, first of all, to to do , the site。 I bring to it。 I power hum and then to build this GPU super , which is, you know, the of its kind in one unit。 And then , you know, we the date that he was gonna stand up。 And the date that he was gonna stand up was , you know, quite, you know, a few ago。

And so all of the , all the Oems, all the , all the we did with their team, all the we all the , we, we pre, I mean like we as a twin。 We, we pres, we all of his chain。 We all of the of the 。 We even set up a small of it。 Kind of a, you know, just a first of it。 You know, truth, if you 0, you know, 0 else up。 So by the time that up, was , all the was done, all the were done。

这里得给埃隆·马斯克很多功劳。首先，他决定要做这件事，选了地方，解决了冷却和供电问题，然后决定建造这个十万GPU的超级计算机群，这是迄今为止这种类型中最大的一个。然后，我们开始倒推，就是说，我们几个月前就一起计划了他要让一切运行起来的日期。所以，所有的组件、所有的原始设备制造商、所有的系统、所有的软件集成，我们都是和他们的团队一起做的，所有的网络配置我们都模拟了一遍，我们预先准备，就像数字孪生一样，我们预先准备了所有的供应链，所有的网络布线。我们甚至搭建了一个小版本，就像是第一个实例，你懂的，就是所有东西到位之前的基准，你参考的0号系统。所以，当所有东西都到位的时候，一切都已经安排好了，所有的练习都做完了，所有的模拟也都完成了。

And then, you know, the , even then the was a of, you know, teams of over each other, up 247. And a few weeks, the were out. I mean, it's, it's , yeah, it's a to his and how he's able to think , and what is , you know, . I mean, what was done there is the first time that a of that large scale has ever been done at that speed. our two teams are from a team to team to team to team to, you know, and the team, the that the today, you know, to the all . Yeah, it's quite a fit to watch. Was.

然后，你知道，大规模的集成工作，即使这个集成工作本身也是个巨大的工程，需要大量的团队成员像蚂蚁一样辛勤工作，几乎是全天候不停地接线和设置。几周之内，这些计算机群就建成了。这真的是对他意志力的证明，也显示了他如何在机械、电气方面思考，并克服了显然是非常巨大的障碍。我的意思是，这可是第一次在这么短的时间内建成如此大规模的计算机系统。这需要我们的网络团队、计算团队、软件团队、训练团队，以及基础设施团队，也就是那些电气工程师、软件工程师，所有人一起合作。这真的挺壮观的。这就像是一场大型的团队协作，每个人都在努力确保一切顺利运行。

主持人：There a that felt most to be from an , , just.

从工程角度来看，有没有哪个挑战最可能成为绊脚石，就是说，有没有哪个技术难题最可能让整个项目卡住，动弹不得？

黄仁勋：A of that had to come 。 I mean, it worth just to it。 I mean, it's a, you know, it tons and tons of 。 It's just 。 You know, a like that, you plan it for a of years from the that the first come on, come to the time that you've for some work。 Don't be if it's a year, you know, I mean, I think that all the time。

It's not 。 Now we 't to do that。 So we , you know, a few years ago, there was an in our that's Data as a 。 We don't sell it as a , but we have to treat it like it's a 。 about for it and then it up, it, it, keep it , right? The goal is that it be, you know, kind of like up your new and you open it up and just kind of works。

我们需要把大量的电子设备整合在一起。我的意思是，这些设备的量多到值得去称一称。有数吨又数吨的设备，这太不正常了。通常像这样的超级计算机系统，从第一个系统开始交付，到你把所有东西都准备好进行一些严肃的工作，你通常需要规划几年时间。如果这个过程需要一年，你要知道，这是常有的事，并不奇怪。

但现在我们没有时间去这么做。所以几年前，我们公司里有一个叫做“数据中心即产品”的计划。我们不把它当作产品来卖，但我们必须像对待产品一样对待它。从规划到建立，再到优化、调整、保持运行，所有的一切都是为了确保它能够像打开一部崭新的一样，一打开，一切都能正常工作。我们的目标就是这样。

Now, of , it's a of it that, like that, but we now have the to do that. And so if you're in a data and just have to give me a space and some power, some , you know, and we'll help you set it up , call it, 30 days. I mean, it's .

当然了，能这么快就把数据中心建好，这简直就是科技的奇迹。但现在我们已经有了这样的技术能力。所以如果你想要建一个数据中心，只需要给我一个地方，提供一些电力和制冷设备，我们就能在差不多30天内帮你把一切都搭建好。我的意思是，这真的非常了不起。

主持人：That's wild. If you think, if you look ahead to 200,000,500,000, a in a super , you call it. At that point, what do you think is the ? in one area?

那真是厉害。如果你想想，要是将来有个超级大的计算机集群，里面有个二十万、五十万、甚至一百万的计算机，不管你叫它什么。到那个时候，你觉得最大的难题会是什么呢？是资金问题、能源供应问题，还是别的什么？

黄仁勋：. about what you, just the that you about, , is .

你说的那些事情，不管是哪个方面，只要涉及到你提到的那些巨大规模，那就没有一件事情是正常的。

主持人：But is . .

但是，也没什么事是完全不可能的。啥事都有可能。

黄仁勋：Is, yeah, no laws of , but is gonna be hard。 And of , you know, I, is it worth it? Like you can't , you know, to get to that we would as a that so and so able to do what we ask it to do, what, you know, of some kind and even, you know, even if we could argue about is it , just close to it is going to be a 。 We know that。 And so I think the, there are five or six to try to get there。

Right? I think, of , and and X and, you know, of , and meta and and you know, there, this , the next of that are just so vital。 Who doesn't wanna be the first on that 。 I think that the prize for 。 Right。 It's just, it's too not to it。 And so I think there are no laws of 。 is gonna be hard。

确实，没有物理定律说我们做不到，但每件事情都会非常难。你也知道，这值得吗？你可能觉得难以置信，我们要达到的那种电脑，能够轻松地做我们让它做的事情，也就是某种通用智能，哪怕我们能争论它是否真的是通用智能，接近它都将会是一个奇迹。我们知道这很难。所以我认为，有五六个团队正在尝试达到这个目标。对吧？比如说，、、X，还有谷歌、Meta和微软等等，他们都在努力攀登这个前沿科技的山峰。谁不想成为第一个登顶的人呢？我认为，重新发明智能的奖励是如此之大，它的影响太大了，我们不能不去尝试。所以，虽然物理定律上没有限制，但每件事都会很难。

主持人：A year ago when we spoke , you about, we asked like what you got most about that would serve next in AI and , and you about how you led to, your most sort of lead you there. Yeah, and about some of the . So I think that's like much more of you over the last year. Is it still like and AI's of that most you?

一年前我们聊天时，我问你，你对英伟达接下来在AI和其他领域能服务的哪些应用最兴奋，你谈到了你的一些最极端的客户某种程度上引导了你。是的，还有关于一些科学应用的讨论。所以我觉得过去一年里，这些科学和AI的应用变得更主流了。现在，是不是仍然是科学以及AI在科学领域的应用让你最兴奋？

黄仁勋：I love the fact that we have , we have AI chip here in video. Yeah, I love that. We have AI . How.

我就直说了，咱们现在有数字版的，也就是用人工智能来设计芯片的设计师，就在视频里。是的，我喜欢这个。我们还有AI软件工程师。

主持人： our AI chip today? Super.

我们今天用人工智能来设计芯片的效果怎么样？非常好。

黄仁勋：Good。 We can't, we 't build it。 And the for that is they could a much space than we can and they have time。 They're on a 。 We have so time using human that we don't as much of the space as we , and we also can 。 I can't my space while your and your 。 And so, you know, our chips are so large, it's not like it's as one chip。

It's like 1,000 ships and we have to ex, we have to each one of them。 Kind of an 。 You wanna a lot of them and, you know, cross code and much space。 But we're gonna be able to find fine, you know, local that are local 。 And so we can find 。 You can't do that AI。 just can't do it。 We just don't have time。

我们的AI芯片设计师真的很厉害。如果没有它们，我们根本造不出这款芯片。因为它们能探索的范围比我们人类广得多，而且它们好像有无穷无尽的时间。它们在超级计算机上运行，而我们人类工程师的时间有限，探索不了那么大的范围。而且，我们也不能同时探索所有的可能，我探索我的领域的时候，就不能同时探索你的领域。

我们的芯片非常大，不像是设计一个单独的芯片，更像是设计1000个芯片，每个都需要优化。就像是一个个独立的小岛。但我们其实很想把它们放在一起优化，跨模块协同设计，在整个更大的空间里优化。显然，我们能找到更好的解决方案，那些隐藏在某个角落里的最好的选择。没有AI我们做不到这一点。工程师们就是时间不够，做不到。

主持人：One other thing has since we last spoke , and I it up at the time in , cap was about 500 . It's now over 3 . So the last 18 , you've added two and a half plus of cap, which is $100 plus a month or two and a half or, you know, a plus a bit, or you wanna think about.A or two. , a lot of are in terms of focus on what you're and etc. And you know, here today, I felt the buzz like when I was at 15 years ago was kind of you felt the of the and the vibe of . What has that , if ? Or how, what is in terms of how or how you think about the world or the size of bets you can take or.

自我们上次一起聊天以来，有一件事变了，我查了下，当时英伟达的市值大概是5000亿美元。现在超过了3万亿美元。所以在过去18个月里，你们增加了两万五千亿美元以上的市值，这相当于每个月增加了1000亿美元，或者说增加了两个半的公司或者一个公司多一点的市值，无论你怎么想。

这相当于增加了一两个国家的市值。显然，尽管市值增长了这么多，你们在建造的东西和专注的领域上还是保持了一致性。你知道，今天我在这里走了一圈，我感受到了一种活力，就像15年前我在谷歌时感受到的那样，你能感觉到公司的能量和兴奋的氛围。在这段时间里，有什么变化了吗？或者，英伟达的运作方式、你对世界的看法、你能承担的风险大小等方面有什么不同了吗？

黄仁勋：Well, our can't as fast as a stock price。 Let's just be clear about。 So in a lot of ways, we haven't that much。 I think the thing to do is to take a step back and ask , what are we doing? I think that's the big, you know, the big , , for and is what's 。 I think what we're about , I'm from our , we 。 Now it hasn't been for 60 years。

That's how big of a deal it is that we've down the cost of , down by a x in the last 10 years to the point that we just, hey, let's just let the go write the 。 That's the big 。 说话人 2 24:00 And that in a lot of ways, I was kind of, we were kind of the same thing about chip 。 We would love for the to go about our chips that we could have done , our chips and it in a way that we 't do , right, in the way that we would love for or, you know, any other field of 。

我们公司的变化速度可没有股价变化那么快。所以这么说吧，我们在很多方面并没有太大变化。我认为重要的是要退一步来问问我们自己，我们到底在做什么。这真的是对公司和国家来说一个很大的观察、认识和觉醒，那就是真正发生的事情。

就像我们之前讨论的，从我们行业的角度来看，我们重新发明了计算。这可是60年来都没有发生过的事情。我们把计算的边际成本降低了，可能在过去10年里降低了一百万分之一，以至于我们现在可以让计算机去详尽地编写软件。这是一个重大的领悟。

在很多方面，我们对芯片设计也是这么说的。我们希望计算机能自己去发现我们芯片的一些东西，这些东西我们本来可以自己做，但计算机可以探索我们的芯片并以我们自己做不到的方式进行优化，就像我们希望在数字生物学或其他科学领域那样。

And so I think are to when we , but what does that mean even, and as we, all of a , we this thing and what to ? Well, we went from data are multi of files。 These new data we're are not data 。 They don't, they're not multi 。 They tend to be 。 They're not any of our files。 They're just, they're 。

They're 。 And these are into what to be 。 Isn't that right? And of all kinds。 You know, it could be of 。 It could be of amino acids。 It could be, you know, 。 It could be all kinds of , right? So what are we doing? We've a new , a new that in a lot of ways is that the noun of the AI。

You know, of AI, you know, it's, it's an AI 。 It's a that AI。 And we're doing that at large scale。 And what are to is, you know, maybe this is a new 。 It , it , but these in a way that is and what would from it。

所以我觉得人们开始意识到，当我们重新发明计算时，这到底意味着什么。突然间，我们创造了这个叫做智能的东西，计算发生了什么变化？嗯，我们以前把数据中心看作是多租户存储文件的地方。我们现在创建的这些新数据中心，其实已经不是传统意义上的数据中心了。它们往往是单一租户的，它们不存储我们的文件，它们只是在生产一些东西。它们在生产数据令牌。然后这些数据令牌重新组合成看起来像智能的东西。对吧？而且智能有各种各样的形式。可能是机器人动作的表达，可能是氨基酸序列，可能是化学物质链，可能是各种有趣的事情，对吧？所以我们到底在做什么？我们创造了一种新的工具，一种新的机械，从很多方面来说，它就是生成性人工智能的名词形式。你知道，不是生成性人工智能，而是人工智能工厂。它是一个生产人工智能的工厂。我们正在非常大规模地做这件事。人们开始意识到，这可能是一个新行业。它生成数据令牌，它生成数字，但这些数字以一种相当有价值的方式构成，哪些行业会从中受益。

Then you take a step back and you ask again, you know, what's going on? on the one hand, we a as we know it。 And so there's $1 of that needs to be 。 That's just one layer of it。 The big layer of it is that there's, this that we're is not just for data , which we were , but you're using it for some new 。 And how big can this new be? Hard to say, but it's worth 。

说话人 2 26:18 And so that I think is kind of the to take a step back。 You know, we don't build 。 We build 。 And every is gonna need it, every 's gonna need it, you know, give me an of a who or as us, you know what, we don't need to 。 We got of it。 And so that's the big idea。 I think, you know, and that's kind of an view。 And, you know, that in a lot of ways, the wasn't about chips, it was , it was about the for 。 And then all of a , there we go。 I get it。 You know, this is a big deal。 Isn't not just about chips。

然后你退一步，再次问自己，到底发生了什么？一方面，我们重新发明了我们所知道的计算。所以有一万亿美元的基础设施需要现代化。这只是其中一层。更大的一层是，我们正在建造的这个工具不仅仅是为了数据中心，我们正在现代化数据中心，而是你用它来生产一些新的商品。这个新商品行业能有多大？很难说，但可能价值数万亿美元。

所以我认为这是观众需要退一步的地方。你知道，我们不再制造电脑了。我们制造工厂。每个国家都会需要它，每个公司都会需要它，给我一个不需要生产智能的公司或行业的例子，你知道，我们有很多智能。所以这就是这个大主意。我认为，你知道，这是一种抽象的工业观点。然后，有一天人们意识到，在很多方面，半导体行业不是关于制造芯片，它是关于为社会建立基础结构。然后突然间，我们明白了。这不仅仅是关于芯片的大事。

主持人：How do you think about now?

你现在怎么看待“体现”或者“具体化”这个概念？就是说，你怎么考虑把智能或者人工智能真正应用到实际的物理世界中，比如机器人或者其他实体设备上？

黄仁勋：Well, the thing I'm super about is in a lot of ways, we've, we're close to , but we're also close to . are . I mean, the is, can you it? You know, of , , is not easy, as you guys know. But if you're able to , align it with large and other , if I can a video that has out to pick up the cup, why can't I a robot to the token, still pick up the rule, you know? And so , you would think that the is for . And, and so I think that we're that close. That's .

我现在非常兴奋的一点是，我们在很多方面都快要实现通用人工智能了，而且我们也快实现通用机器人技术了。数据令牌就是数据令牌。我的意思是，问题是，你能把它变成数据令牌吗？当然，把东西变成数据令牌并不容易，你们知道这一点。但如果你能做到这一点，把它和大型语言模型和其他方式对齐，如果我能生成一个视频，视频里有伸手去拿咖啡杯，为什么我不能提示一个机器人去生成数据令牌，实际上去拿起那个规则，你知道吗？所以直观上，你会认为这个问题对计算机来说相当相似。所以我认为我们已经很接近了。这非常令人兴奋。

Now the, the two brown field 。 Brown field means that you don't have to the for is self cars。 And with and body right the cars and the human robot, we could bring to the world the world we built a world for those two 。 not a that Elon spoke is then those two forms。 So it is to have the scale。 And and so I think that's 。

But the of it, I is 。 You know, we're about or AI 。 There's no we're gonna have AI of all kinds, and our will be some and some , and we will them in the same way。 Isn't that right? I my , right? You know, them , ask him to a 。 They go and other team , they come back and work going back and forth。

How's that gonna be any with and AI of all kinds? So we're gonna have AI , AI chip , AI chain , AIs, you know, and I'm that is , but also from an , much 。 That's our 。 If。

现在有两种“棕色地带”机器人系统。“棕色地带”意味着你不需要改变环境，比如自动驾驶汽车。有了数字司机和机器人助手在汽车和人类机器人之间，我们可以在不改变世界的情况下把机器人技术带到世界上，因为我们为这两样东西建造了世界。埃隆·马斯克可能不是偶然提到这两种形式的。所以机器人技术因为可能有更大的潜在规模而令人兴奋。而数字版的机器人也同样令人兴奋。你知道，我们谈论的是数字或AI员工。毫无疑问，我们将拥有各种AI员工，我们的前景将是一些生物和一些人工智能，我们将以相同的方式提示他们。不是吗？大多数情况下，我提示我的员工，对吧？给他们提供上下文，让他们执行任务。他们去招募其他团队成员，他们回来工作，来回工作。这和各种数字和AI员工有什么不同呢？所以我们将有AI营销人员，AI芯片设计师，AI供应链人员，AI，等等，我希望英伟达有一天在生物学上更大，同时从人工智能的角度来看，也更大。这是我们未来公司的样子。

主持人：We came back and to you year from now, what part of the do you think would be most ？

如果我们一年后回来再和你聊聊，你觉得公司里哪个部分会是最智能化的？

黄仁勋：I'm it sign.

我希望公司里最重要的、最核心的部分能实现智能化。

主持人：Okay. And most.

好的，然后继续询问。

黄仁勋： part. And the read. That's right. it I start where it moves the most also where we can make the most. You know, it's such an hard . I work with at and rude at . I them chip that I can rent. And they know about a , their tool, and they train an AI to be good at it. And we'll just hire a whole bunch of them we need, we're in that phase of that chip . You know, I might rent a to come and help me out and then go rent a to help me out. And that, what an for them that they have all these that sit on top of their tools , that use the tools and other, and with other . And you'll do that for, you know, will do that at SAP and Bill will do that as .

我认为最重要的部分应该是公司里最能产生影响的地方。他说，这个问题非常难，但他希望从最能推动公司发展的地方开始智能化。他和的和的Rude一起工作，他想象着可以租用的芯片设计师AI。这些AI对某个特定模块、工具非常了解，并且已经被训练得非常擅长这方面的工作。当他们需要进行芯片设计的某个阶段时，他们会租用一大批这样的AI设计师。比如，他可能会租用一百万个工程师AI来帮忙，然后再租用一百万个工程师AI来帮忙。我认为，对于我们来说，有一个激动人心的未来，因为我们有所有这些AI代理，它们位于我们工具平台的顶部，使用这些工具平台，并且与其他平台协作。SAP的会这样做，Bill会作为服务来做这件事。

Now, you know, say that these Saas are gonna be . I think the , that they're on a gold mine, that they're gonna be this of that are gonna be in , in, you know, well, , I think they call and SAP is about, and 's got their own . Is that right? And we got Kuda and we've got open USD for . And who's gonna an AI agent? That's . At open USD, we're, you know, cares about it more than we do, right? And so I think in a lot of ways, these are gonna be with and we're gonna them to each other and they're gonna and solve .

现在，有些人说这些基于网络的软件服务平台（SaaS）将会被颠覆。但我实际上认为恰恰相反，他们就像坐在金矿上一样，将会有一个专业化的智能代理（AI）的繁荣时期。这些智能代理将会专门针对、SAP等平台进行优化。比如有个叫做的平台，每个平台都有自己的语言和特点。我们有Kuda，还有为准备的开放USD。谁会来创造这些AI代理呢？那将会是非常酷的事情。在开放USD方面，我们会来做，因为没有人比我们更关心它，对吧？所以我认为在很多方面，这些平台将会因为这些智能代理而繁荣起来，我们会把它们相互介绍，它们将会协作并解决问题。

主持人：You see a of in every in AI. What do you think is under or that that you want more or or could work on?

你觉得在人工智能领域，有没有什么被忽视的地方，或者你希望更多的创业者、工程师或商业人士能关注和投入工作的领域？

黄仁勋：Well, first of all, I think what is , and I , maybe it may be , is the, the under the water , under the of , to and that is being by AI and . I think you just can't walk into a , math , where AI and and the type of work that we're ta