原标题:记者:你担心美国制裁会刺激中国推出有竞争力的人工智能芯片吗?黄仁勋:华为是很棒的公司,他们可以通过将芯片聚一起构建非常强大的系统
本文为美国科技杂志《连线》记者劳伦·古德(Lauren Goode)与英伟达联合创始人兼首席执行官黄仁勋的最新对话,黄仁勋对人工智能有着坚定信念和独到见解。黄仁勋称,战略设定就是讲故事,企业文化建设也是讲故事。黄仁勋还点赞华为,称华为是非常好的公司,中国有很多竞争力很强的东西。
英伟达(Nvidia)首次将中国科技巨头华为(Huawei)列为竞争对手,这表明将驱动新AI技术的先进制程芯片的全球格局正在发生变化。
英伟达此前唯一一次在公开财报中提到华为是在2017年的一份财季报告中,当时它表示华为将使用英伟达的Volta HGX架构为数据中心构建AI系统。在那份报告中,英伟达还将华为列为其AI智慧城市平台的合作伙伴。
英伟达首席执行官最近在接受路透(Reuters)采访时表示,为了与华为竞争,英伟达正在向客户提供两款专门针对中国市场的新AI芯片样品。
在本次与《连线》记者劳伦·古德的对话中,黄仁勋表达了自己对于未来科技的看法和期待。黄仁勋坚信,神经网络将成为未来的主宰,而机器人、医疗和自动驾驶汽车等领域将迎来巨大的发展机遇。他甚至预见到,有记忆的聊天机器人将成为现实。
黄仁勋的成功并非偶然。他具有前瞻性的眼光和战略思维,总是能够准确地把握每一个重大科技趋势的先机。
以下是黄仁勋专访全文:
黄仁勋:我们都是斯坦福大学的毕业生。
劳伦·古德:是的。我学的是新闻专业,你没有去新闻专业。
黄仁勋:我真希望自己去学新闻。
劳伦·古德:为什么这么说?
黄仁勋:无论是作为领导者还是个人,我非常钦佩的一个人是山塔努·纳拉延(Shantanu Narayen),他是Adobe的首席执行官。他说自己一直想成为一名记者,因为他喜欢讲故事。
劳伦·古德:能够有效地讲述自己的故事,似乎是创业的重要组成部分。
黄仁勋:是的。战略设定就是讲故事,企业文化建设也是讲故事。
劳伦·古德:你已经说过很多次了,你并不是通过Pitch Deck(一种用于向投资者、合作伙伴或客户展示商业计划的工具)来推销英伟达的想法。
黄仁勋:的确如此,我真的很想讲好故事。
劳伦·古德:所以我想以另一位科技高管告诉我的故事开始。他曾指出,英伟达比亚马逊早成立一年,但在许多方面,英伟达比亚马逊有更强的“创业第一天”心态。你是如何做到的?
黄仁勋:坦白说,这是一个非常贴切的表述。我每一天清晨醒来,都仿佛是在创业的第一天,因为我们始终在探索未知的领域,尝试以前从未做过的事情。然而,这也意味着我们会面临风险,有失败的可能性。就在刚才,我参加了一场会议,我们正在讨论一个对我们公司来说全新的项目,我们对此一无所知,不知道该如何成功实施。
劳伦·古德:有什么新东西吗?
黄仁勋:我们正在打造一个前沿的人工智能工厂,这是一种全新形态的数据中心。不同于传统的数据中心,那里众多用户共享一个计算机集群并存储文件,而人工智能工厂更像是一台独立的发电机。经过数年的精心研发和构建,我们已经完成了人工智能工厂的雏形。现在,我们面临着将其转化为实际产品的挑战。
劳伦·古德:你打算叫它什么?
黄仁勋:这个尚未命名的创新项目,注定将成为无处不在的存在。无论是云服务提供商还是我们自身,都将致力于构建它。生物技术公司、零售公司、物流公司,乃至未来的汽车公司,都将拥有它。它将不仅是制造汽车的工厂,更是为汽车制造人工智能的工厂。实际上,就在我们谈论之际,埃隆·马斯克(Elon Musk)已经走在了这一趋势的前沿。他对工业未来的深刻洞察和前瞻性思考,让大多数人都望尘莫及。
劳伦·古德:之前你曾提及,你管理着一个结构扁平的组织,其中有30到40位主管直接向你汇报工作,这使你能够深入参与信息流动中。那么,近期有什么特别的事物或观点激发了你的热情,让你产生了“我或许应该全力以赴,将英伟达的未来押注在这上面”的想法呢?
黄仁勋:在穴居人时代,信息的传递并不需要像现今这样依赖电子邮件、短信等现代通讯手段,它更多的是在社群中自由流动。如今,随着科技的飞速发展,信息的流动速度已远非昔日可比,这意味着传统的、层层传递的信息结构已经不再适应当前的需求。扁平化的组织结构,以其高效的信息传递和决策速度,更能让我们迅速适应这个日新月异的世界。
以英伟达的技术发展历程为例,摩尔定律的迭代速度让我们见证了技术的指数级增长。仅仅在过去的十年里,人工智能的能力就已经提升了大约一百万倍,这远远超出了摩尔定律的预测。因此,当我们身处于这样一个快速发展的时代,信息的流动也必须同样高效和迅速,确保每一层级的员工都能及时获取并响应新的信息。
劳伦·古德:然而,我渴望深入了解,你所构想的罗马帝国究竟是怎样一幅宏伟蓝图?现今的转换器论文(Transformer,即ChatGPT中的T,一种底层人工智能学习的算法架构)中,又描绘了哪些激动人心的愿景?你是否认为,当下正在发生的历史性变革将有可能颠覆我们所熟悉的一切认知与设想?
黄仁勋:有数项事务值得探讨。其中有一项尚未正式命名,却是我们在基础机器人技术领域取得的突破性进展。若机器能够生成文字、绘制图像,那么它们是否也能生成动作?答案似乎肯定的。一旦机器掌握了动作的生成方式,它们或许能洞悉背后的意图,并创造出通用的表达形式。如此,类人机器人的到来或许已指日可待。
我深信,关于状态空间模型(SSM)的研究,将使我们有能力学习极其复杂的模式和序列,而无需在计算过程中承受二次增长的负担。这或许将成为下一代转换器的雏形。
劳伦·古德:这能带来什么呢?你能举个真实的例子吗?
黄仁勋:你可以和一台电脑进行一场持续很长时间的对话,但语境永远不会被遗忘。你甚至可以暂时改变主题,然后再回到先前的主题,并且可以保留该上下文的背景。你可能能够理解一个非常长的链的序列,比如人类基因组。只要看一下遗传密码,你就能理解它的含义。
劳伦·古德:我们离这样的未来还有多远?
黄仁勋:从AlexNet的诞生到其卓越版本超人AlexNet的崛起,仅仅跨越了五年。如今,机器人基础模型正悄然崭露头角,预示着即将掀起一场技术革命。我预计或许在明年某个时刻,我们将会推出它。而五年之后,你将目睹一系列令人瞠目结舌的奇迹诞生。
劳伦·古德:哪个行业会从广泛训练的机器人行为模型中获益最多?
黄仁勋:重工业无疑占据着全球工业领域的核心地位。尽管在现代科技中,移动电子已变得相对容易,但与之相比,移动原子则显得极具挑战性。运输与物流,作为全球经济的重要支柱,涉及将重物从一个地方高效、安全地运送到另一个地方,这背后需要对原子、分子和蛋白质等微观元素有深入的理解。这些都是人工智能尚未影响到的大型行业。
劳伦·古德:你提到了摩尔定律,它现在变得无关紧要了吗?
黄仁勋:摩尔定律现今已演变为一个涵盖广泛领域的系统问题,而不仅仅是局限于芯片领域。它更多地关注于多个芯片之间的互联性和协作能力。大约在10到15年前,我们踏上了计算机分解的征程,使得多个芯片能够无缝连接,共同发挥作用。
劳伦·古德:这就是你们在2019年收购以色列公司Mellanox的原因。英伟达当时表示,现代计算对数据中心提出了巨大的需求,而Mellanox的网络技术将使加速计算更加高效。
黄仁勋:没错。我们收购Mellanox是为了扩展我们的芯片,把整个数据中心变成一个超级芯片,这使得现代人工智能超级计算机成为可能。近年来,人们开始认识到摩尔定律的局限性,并意识到如果想要进一步扩展计算能力,就必须在更大的数据中心规模上进行。我们深入研究了摩尔定律的形成机制,发现它其实并没有真正限制计算机的发展。因此,我们必须摆脱摩尔定律的束缚,以全新的视角思考如何实现计算能力的持续扩展。
劳伦·古德:Mellanox现在被认为是英伟达非常明智的收购举措。最近,你们曾试图收购全球最重要的芯片知识产权公司Arm,但遭到监管机构的阻挠。现在考虑收购时,你会考虑哪些具体方面?
黄仁勋:确实,大型系统的操作系统设计面临着前所未有的复杂性,尤其是在需要协调数千万、数亿甚至数十亿个微小处理器的情况下。我们非常愿意与任何在此领域有研究的团队进行合作,共同推动操作系统技术的进步。同时,我们也会持续加大研发投入,探索更多可能的解决方案。
劳伦·古德:你曾说过,对英伟达来说,拥有一个操作系统并把它打造成一个平台至关重要。
黄仁勋:我们是一家平台公司。
劳伦·古德:成为一个综合性平台确实意味着需要承担更多的责任,尤其是在涉及自动驾驶汽车、医疗设备和人工智能系统等关键领域。自动驾驶汽车的表现如何,医疗设备的误差范围是多少,人工智能系统是否存在偏见。你如何解决这个问题?
黄仁勋:我们并非一家纯粹的应用程序公司,而是致力于深度服务某一特定行业。在医疗保健领域,尽管药物研发非我们所长,但我们在计算机技术方面却拥有卓越的专业能力。同样,尽管我们不直接制造汽车,但我们在为汽车行业提供先进的计算机解决方案,使车辆在人工智能方面表现出色方面,具备显著的优势。诚然,一家公司在所有领域都表现出色几乎是不可能的,但我们坚信,我们可以在人工智能计算领域做到最好。
劳伦·古德:去年有报道称,一些客户等了好几个月才拿到你们的人工智能GPU。现在情况如何?
黄仁勋:我认为,我们今年的供应会继续受到限制。今年乃至明年也无法满足需求。
劳伦·古德:现在的等待时间是多久?
黄仁勋:我不知道目前的交货时间是多久。但是,你们知道,今年也是我们供应新一代处理器的开始。
劳伦·古德:你是说Blackwell,传闻中的新图形处理器吗?
黄仁勋:是的,新一代的GPU问世了,Blackwell的性能打破了记录。这将是令人难以置信的。
劳伦·古德:这是否意味着客户需要更少的GPU?
黄仁勋:这就是我们的目标。我们希望极大地降低训练大模型的成本,然后人们可以按比例放大他们想要训练的模型。
劳伦·古德:英伟达投资了很多人工智能初创公司。去年有报道称,你们投资了30多家公司,那些初创公司是否在排队等待你们的硬件时被挤出了队伍?
黄仁勋:他们正面临着与众多企业相同的供应挑战,由于大多数公司均依赖于公共云服务,他们不得不直接与公共云服务提供商展开谈判。然而,他们可以借助我们的人工智能技术,这意味着他们可以使用我们的工程能力和特殊技术来优化他们的人工智能模型。我们致力于帮助他们提升效率,若他们的吞吐量提升了五倍,实质上相当于他们额外获得了五个GPU的运算能力。这正是他们选择我们所能获得的实际益处。
劳伦·古德:在这方面,你认为自己是一个造王者吗?
黄仁勋:不。我们之所以选择投资这些公司,是因为他们所从事的事业令人瞩目。对我们来说,能够为他们提供资金支持是一种荣幸,而非他们依赖我们。这些公司汇聚了全球最顶尖的人才,他们无需借助我们的名义来增强自己的信誉。
劳伦·古德:当机器学习更多地转向推理而不是训练时,会发生什么?如果人工智能工作变得不那么计算密集,这是否会降低对GPU的需求?
黄仁勋:我们热衷于扩大推理业务。如果必须做出一个粗略的估计,我坚信英伟达目前的业务重心已然是70%的推理,而剩余的30%则聚焦于训练。这一转变无疑值得欣喜,因为它象征着人工智能技术的巨大飞跃。假若英伟达的业务比例仍是90%的训练占据主导,而推理仅占10%,那么我们可以断言,人工智能依旧深处于研究阶段。这,正是七八年前人工智能领域所处的境况。然而,时至今日,当我们在云端输入一个指令,它便能够迅速生成各式各样的内容——无论是视频、图像,还是2D、3D图形,亦或是文本,这背后往往都隐藏着英伟达GPU的强大支持。
劳伦·古德:你认为在某个时候,市场对你们AI GPU的需求会减少吗?
黄仁勋:我坚信,我们正站在生成式人工智能革命的开端。环顾今日的世界,大多数计算任务依旧依赖于传统的检索方式。检索,意味着当你轻触手机屏幕时,它会向云端发送信号,寻求一条信息的检索。云端可能会运用各种技术,如Java,将这些碎片化的信息整合成一条响应,最终呈现在你的手机屏幕上。然而,未来的计算将越来越依赖于RAG——检索增强生成。这是一种革命性的框架,它赋予了大语言模型从其常规参数之外提取数据的能力。在这个新的计算范式中,检索的部分将逐渐减少,而个性化和生成的部分将占据主导地位。这些生成任务,无疑将由遍布全球的高效GPU完成。所以,我认为我们正处于检索增强、生成式计算革命的开端,生成式人工智能将成为几乎所有事物不可或缺的一部分。
劳伦·古德:最新消息是,你们一直在与美国政府合作,开发符合出口禁令的芯片,并将其运往中国。我的理解是,这些不是最先进的芯片。为了确保你们能继续在中国做生意,你们与政府的合作有多密切?
黄仁勋:美国已经确定,英伟达的技术和这种人工智能计算基础设施对国家具有战略意义,并将对其实施出口管制。我们最初(2022年8月)就遵守了出口管制。美国在2023年增加了更多的出口管制条款,这导致我们不得不重新设计我们的产品。我们正在开发一套符合当今出口管制规定的新产品。我们与政府密切合作,以确保我们提出的建议与他们的想法一致。
劳伦·古德:你有是否担心这些限制会刺激中国推出更有竞争力的人工智能芯片?
黄仁勋:中国有很多竞争力很强的东西。
劳伦·古德:的确。华为去年推出的Mate 60智能手机因其自主研发的7纳米芯片而受到广泛关注。
黄仁勋:华为是非常好的公司。尽管他们受到现有半导体处理技术的限制,但他们仍然可以通过将许多芯片聚集在一起来构建非常强大的系统。
劳伦·古德:总的来说,你是否担心中国能够在生成人工智能领域与美国竞争?
黄仁勋:这项规定的实施,无疑会对中国获取最先进技术的能力施加限制。这意味着,在技术的赛道上,那些不受出口管制约束的西方国家将可能获得更多的优势,从而加速他们在科技领域的进步。对于中国而言,这无疑加大了其技术获取的成本和难度。从技术上讲,中国或许能够通过聚合更多的芯片制造系统来弥补这一缺陷,但这样的解决方案无疑会增加单位成本,提高生产复杂度。
劳伦·古德:你们正在生产符合标准的芯片,以便继续在中国销售,这是否影响了你们与台积电的关系?
黄仁勋:不。规定是具体的,这和公路限速没什么区别。
劳伦·古德:你说过很多次,在你的超级计算机的35000个部件中,有8个来自台积电。当我听到这个的时候,我想那一定是很小的一部分。你们是否在淡化对台积电的依赖?
黄仁勋:不,绝非如此!我想强调的是,构建一台人工智能超级计算机是一个综合性的工程,它涉及到众多组件和技术的融合。事实上,在我们致力于打造的人工智能超级计算机项目中,几乎整个半导体行业都与我们携手合作。我们与三星、SK海力士、英特尔、AMD、博通、Marvell等业内领军企业建立了稳固的合作关系。这种合作模式不仅促进了资源的共享和技术的交流,更为我们共同迈向成功铺设了坚实的基石。当我们的人工智能超级计算机取得突破和成功时,这也意味着与我们紧密合作的这一大堆公司也将一同获得巨大的成功。我们对此感到很高兴。
劳伦·古德:你多久和台积电的张忠谋(创始人)或刘德音(首席执行官)通话一次?
黄仁勋:我们始终保持联系,从未中断过。
劳伦·古德:你们的对话是关于什么的?
黄仁勋:这些天我们深入探讨了先进的封装技术,并展望了未来几年内的存储容量和计算能力的发展趋势。其中,CoWoS技术——台积电独有的将芯片和存储模块集成于单一封装中的创新方法,成为了我们关注的焦点。然而,实现这一技术的规模化生产,我们需要新的工厂、生产线以及相应的先进设备。因此,得到合作伙伴的支持显得尤为关键。
劳伦·古德:我最近与一位专注于研发生成式人工智能技术的公司的CEO进行了交谈。我问英伟达未来的竞争对手会是谁,这个人说的是谷歌的TPU。其他人也提到AMD。我想这对你来说不是那么简单,但你认为谁是你最大的竞争对手?谁让你夜不能寐?
黄仁勋:如今整个科技行业都在争相开发和优化自己的芯片技术,无论是TPU团队、AWS Trainium和Interentia团队,还是微软的Maia项目,以及中国各大云服务提供商和初创公司,都在这一领域投入了大量的精力。这种竞争态势确实非常激烈,但对我而言,这并不会让我夜不能寐。
我深知,只要我们团队在工作中全力以赴,始终保持高效和创新,那么无论外界的竞争如何激烈,我们都有能力应对。这是我能控制的,也是我始终坚信的。然而,让我每天早上充满动力醒来的是,我们必须继续履行我们的承诺。那就是,我们要成为世界上唯一一家能够吸引所有人合作,共同打造数据中心规模和全栈人工智能超级计算机的公司。
劳伦·古德:我有几个私人问题想问你。我曾向ChatGPT问了一个关于你的问题。我想知道你有没有纹身,因为我打算在我们下次见面时给你纹个纹身。
黄仁勋:如果你纹了纹身,我也纹。
劳伦·古德:我已经有一个了,但我一直想纹更多。
黄仁勋:我也有一个。
劳伦·古德:我已经从ChatGPT那里了解了。据它说,在英伟达股价涨到100美元时,黄仁勋纹了公司的标志。然后它又写道:“然而,黄仁勋表示他不太可能再纹身了,并指出纹身的痛苦比他想象的要剧烈。”它说当时你哭了。你真哭了吗?
黄仁勋:有一点疼。我的建议是你在纹身之前应该喝一杯威士忌,或者服用止痛药。我还认为女性可以承受更多的痛苦,因为我女儿有一个相当大的纹身。
劳伦·古德:如果你想去纹身的话,我觉得三角形可能不错。谁不喜欢三角形呢?它们是完美的几何形状。
黄仁勋:或者纹英伟达大楼的剪影!它也由三角形组成。
下一篇:AI芯片的一百种死法