Z Recommendation：
- 英伟达如何通过其创新产品和解决方案？又如何在前辈的基础上进一步推动计算技术的极限？这是一个关于科技巨头如何塑造人工智能未来的故事。
- 当今科技行业的竞争版图中，英伟达以其在GPU和生成式AI领域的深厚技术积累确立了其人工智能计算市场领导者的地位。在2023财年，英伟达展现了其在多个关键业务领域的稳健增长。尽管面临宏观经济的挑战，英伟达的总收入仍达到了269.7亿美元，与上一财年持平，显示出其业务模式的韧性和对市场变化的适应能力。特别是在数据中心业务方面，英伟达的收入增长了41%，达到了150.1亿美元的历史新高，这一跃升凸显了其强大的市场需求。
- 承继自Seymour Cray等先驱者，文章详细讨论了英伟达利用其在并行处理和张量核心架构方面的专长推动从Cray-1到DGX H100的技术演进的路径，这些革命性产品无不昭示着对历史的致敬。
Nvidia的超人
上周关于谷歌TPU的帖子之后，Jon Metzler建议看一看受TPU启发的“千个芯片”，这是个好主意！接下来会有更多关于TPU和芯片的分析和评论。
首先，来点轻松的。我们先看看三位伟大的科技偶像是如何展示自己的，首先是英伟达（Nvidia）的黄仁勋。
为什么没有人举手提问呢？紧张的时刻过后，一个程序员回答道：“你怎么跟上帝交流？”
谈论《超人》中的Seymour Cray。
和大部分科技界人士一样，我刚刚看完黄仁勋在英伟达GPU技术大会（GTC）上的主题演讲。
如果你还没看过，我建议你抽出几个小时看看，你会觉得这是值得投资时间的。
我非常享受这次主题演讲，但它让我思考了黄仁勋和英伟达如何向世界展示自己，这就是本文的主题。想要了解更多GTC上的技术进展，请看本文末尾的“进一步阅读”部分。
当然，虽然主题演讲主要是关于英伟达的新产品和未来愿景，但黄仁勋显然也非常清楚他公司的历史。他早早地展示了一张关于英伟达和整个行业的关键里程碑的幻灯片，从1964年的IBM S/360开始。对黄仁勋和我们其他人来说，走到今天这一步已经是一个漫长的旅程了。
这肯定是一个历史性时刻。一些评论员已经采取行动为这次GTC寻找先例。有人将其与Woodstock比较。《经济学人》将黄仁勋与Jimi Hendrix相提并论。
此前，华尔街上的英伟达粉丝将其称为“AI Woodstock”，但这次活动并非如此。参与者大多不是戴着珠子和领带的，而是戴着挂绳和便鞋的中年男性。然而，作为头条新闻，黄仁勋有点像Jimi Hendrix。
他显然是他所在行业的“摇滚巨星”，但他所在的行业是什么？英伟达可能会制造“图形处理单元（GPU）”，但它不仅仅关乎图形。我认为你可以说英伟达现在的主要业务是创建“超级计算机”，即世界上最强大的计算机，像Eos这样。
Eos在2023年11月在超级计算展上首次亮相，以每天打开黎明之门的希腊女神命名，反映了英伟达对于推动人工智能技术进步的承诺。
每个DGX H100系统都配备了八个英伟达 H100张量核心GPU。Eos总共配备了4608个H100 GPU。
（请注意，幻灯片中的H100数量已经翻了一番）
巧合的是，我刚刚读完了Charles·R·Murray的书《超人：Seymour Cray和超级计算机背后的技术奇才的故事》。
这本书追溯了从二战后期到20世纪90年代世界上最强大的计算机的发展历程。从工程研究协会到控制数据公司再到Cray Research和Cray Computer Corporation。标题中的“超人”是这些计算机的设计者，尤其是Seymour Cray。
从我们2024年拥有的技术角度来看，Murray在书中描述的计算机可能看起来有点过时了。1975年的标志性Cray-1是由集成电路构建的，按现代标准来看，门电路数量很小。
Cray-1只使用了四种不同的集成电路类型，即ECL双5-4 NOR门（一个5输入和一个4输入，每个带有差分输出），另一个较慢的MECL 10K 5-4 NOR门用于地址分布。
Cray-1只有8兆字节的随机访问存储器，并以80 MHz的频率运行，达到每秒1.6亿个浮点运算（FLOPS）。英伟达在GTC上宣布的Grace Blackwell“超级芯片”提供了1.4个ExaFLOPS，比Cray2增加了80亿倍，而这些个体芯片只是数据中心规模系统的组成部分。
Cray-1是一台非常“人性化”的机器，宽8.5英尺，高6.5英尺。它甚至在中央塔周围布置了人性化的（可计算加热的）座椅。
今天，功能强大的计算机既变得更小又变得更大。有些老生常谈了，树莓派可以胜过Cray-1。另一方面，现代数据中心当然比Cray和它的后继产品的设施要大得多。
另一种意义上的“超级计算机”变得更大了。我认为用2024年的“家庭工业”来描述Cray-1时代的超级计算机是合理的，只有大约一百台Cray-1被制造出来。相比之下，去年英伟达出货超过了50万个最新的GPU。
这一百多台Cray只用于尝试解决少数几个物理、密码分析和天气预报等问题。今天，诸如天气预报之类的挑战仍然是英伟达超级计算机的焦点，正如我们在主题演讲中看到的那样。
包括石油公司、汽车制造商、广告和化妆品等等，即使黄仁勋本人看到这份清单也感到有点震惊。这些公司相信人工智能和延伸的英伟达及其产品将会无处不在。
我们在Moore on Moore中看到Gordon·Moore推断了半导体行业的产出，并预计其将超过全球商品和服务的产出。
值得回顾的是摩尔对这一预测的评论。
我不知道我们能占世界产值的多少，但远超过1%的部分肯定会让我吃惊。我认为在这段时间里信息产业显然会成为世界上最大的产业，但是汽车这样过去的大型产业在全球生产总值中的占比还不到1%，我们的产业增长必须适度。我们有一个固有的冲突，成本呈指数级增长，而收入不可能长期以相同的速度增长。
考虑到黄仁勋幻灯片中列出的公司名单和行业范围，也许Moore对他产业的持续增长也不会感到太惊讶了。
如果现代的超级计算机的制造商黄仁勋是今天的“超人”，他与Seymour Cray相比又如何呢？
Cray肯定令人肃然起敬。《超人》中讲述了一个关于Cray的故事。
1976年，在科罗拉多州博尔德的美国国家大气研究中心（National Centre for Atmospheric Research）进行了一次罕见的演讲，听众中的程序员们在Cray提出要回答问题时都陷入了沉默。他站在那里等了几分钟，等着他们提问，但没有人提问。当他离开时，NCAR计算机部门的负责人责备程序员们：“为什么没有人举手提问呢？”在紧张的片刻过后，一个程序员回答：“你怎么跟上帝交流？”
Cray也因其隐居而闻名，他住在威斯康星州的奇佩瓦瀑布（Chippewa Falls），远离公众和企业的视线。试着看一看Cray少数在公开场合发表的演讲，即使只有几分钟，你也会真正感受到Cray的幽默风趣和坚定专注。
Cray在选择技术方面相对保守，相比之下，英伟达使用了接近台积电（TSMC）“前沿”的工艺节点。Cray是一位工程师，他回避商业，并“亲自动手”与小团队一起设计他的计算机。黄仁勋则是一家拥有约3万名员工的公司的首席执行官。
与Cray相比，黄仁勋似乎能够很兴奋地向大量拥有高鉴赏力的观众做长达两个小时的主题演讲。我怀疑Seymour Cray会在一次演讲之后像黄仁勋对自己那样喊道：“天啊，我爱Cray。”
如果说黄仁勋的演讲风格不像Cray，那就更像史蒂夫·乔布斯，下面是他在2007年苹果开发者大会WWDC上介绍iPhone，这也是一个历史性事件。
乔布斯和英伟达的CEO是两个非常不同的人。但两人及其公司之间的相似之处比人们想象的要多。两人都将自己创办的公司发展出了巨大的财务成功，也都察觉到了技术的变革，并使自己的公司利用这一变革。两人都见证了自己的公司经历“濒死”体验，并且像黄仁勋最近回忆的那样，“有很多机会让我们遭受挫折和痛苦”。两人都有自己的标志性着装喜好，黄仁勋喜欢皮夹克，乔布斯则喜欢New Balance运动鞋。
乔布斯非常清楚硅在他产品中的重要性。他让苹果走上了自己设计“系统级芯片（SoC）”的道路，并使其成为最大的半导体代工厂的最大客户，英伟达现在是第二大的。
两家公司的商业模式发展也可能存在一些相似之处。在GTC的主题演讲展示的技术创新之中，有一些向英伟达宣称了更大的控制权和“锁定”，因为它提供了更多建立在其GPU上的产品和服务。这是否听起来有点像苹果？
因此，我对这家公司的印象在精神上更接近苹果，他们希望在ML协议栈上获得全面的垂直整合，并故意减弱自身的产品，比如为了让你购买更多的GPU而禁用4090的NVLink支持。
GPU本来应该是下一个PC，但我们得到了下一个iPad。
Mark Saroufim
我喜欢我的iPad，但我对苹果和英伟达试图施加的控制不太感兴趣。这并不是什么新鲜事，黄仁勋和英伟达长期以来就知道控制堆栈的重要性。他们在CUDA上的投资与苹果在其生态系统的许多领域所做的投资相似：Safari浏览器、Swift编程语言、Xcode开发环境等等，这一因素在苹果的成功中起到了重要作用。
但黄仁勋和英伟达今天与乔布斯和苹果有一个显著的区别。这种差异在体弱多病的乔布斯在他倒数第二次的“Stevenote”上发表的一段简短讲话中得到了体现。
我以前说过这句话，这值得重复。苹果的基因中包含的不仅仅是科技。它的技术与自由艺术和人文学相结合，才能产生让我们心潮澎湃的结果。
《史蒂夫·乔布斯传》2011年3月
技术是不够的。
这种观点贯穿了乔布斯的主题演讲，他对技术的喜悦不仅仅在于技术本身，还在于技术对人们的作用。
而乔布斯经常与其他人共同出现在舞台上，包括与苹果合作的公司的首席执行官。下面是乔布斯在2006年与英特尔的Paul·Otellini同台的情景，当时苹果在Mac上使用英特尔处理器。
据我所知，乔布斯从未与黄仁勋共同出现在舞台上，但他肯定乐意与英伟达的产品同台。
那英伟达呢？随着英伟达生产了许多似乎至少会从根本上改变人类与技术关系的硬件，这次的主题演讲会反映这种变化吗？
演讲中是否有关于英伟达技术应用的复杂和深远影响的讨论？如果有的话，我可能错过了。
值得注意的是，除了黄仁勋之外，还没有人类出现在GTC的舞台上。
Blackwell的新闻发布会上，Alphabet、亚马逊、Meta、微软、OpenAI，特斯拉等公司的首席执行官都向英伟达的新“超级芯片”致以敬意，但没有一个人在主题演讲的舞台上获得一席之地。英伟达很乐意与这些公司合作，他们都需要英伟达，但英伟达不需要他们，至少不需要个人。
那么谁和黄仁勋一起出现在舞台上呢？我们的最新机器人霸主GR00T。
黄仁勋是当今的Seymour Cray还是史蒂夫·乔布斯？他有自己的想法，当然，我感觉他喜欢做一个更讨人喜欢、更平易近人、更热情洋溢、更外向的Cray，设计和运用着拥有数十亿台Cray超级计算机的系统。
但在2024年，他的角色发生了变化。英伟达正处于我们这个时代最重要技术的中心。黄仁勋正处于聚光灯下，他的影响力已经触及数十亿人的生活，就像乔布斯和苹果的iPhone一样。实际上，他的影响力甚至可能比iPhone更大。英伟达的产品可能会深刻地改变人类与技术的关系，随着影响力的增加，角色的性质也许会发生变化。这已经不仅仅是技术的问题了。
原文：Nvidia's Superman
https://thechipletter.substack.com/p/nvidias-superman
编译：Caterpillar
（如有版权问题，请联系删除）
