团队文章技术与工具

理解英伟达:为什么只有芯片还不够?

从整理照片这件小事,看硬件、软件和数据怎样配合,再想一想:今天选的平台,会给明天留下多少选择?

目录

几个人沿着白色工作台,把蓝色芯片、层叠的工具模块和成品连接起来。

从计算能力,到能用起来的工具。AI 生成的概念示意图。

假设你想让电脑从几千张照片里找出相似的场景。买一块性能很强的芯片,只完成了其中一步。照片要先整理好,还要有合适的模型、能指挥硬件运算的软件,以及把结果呈现给你的程序。英伟达的重要性,在于它提供了这条工作链中的多个环节。

芯片有能力,还需要软件把它用起来

GPU,也就是图形处理器,擅长同时完成大量适合并行处理的计算。这种能力既能用于画图,也能用于许多 AI 模型的数值运算。但芯片并不知道照片里是什么,具体要做什么、怎样得出结果,由模型和程序决定。

英伟达的 CUDA 平台把程序与其 GPU 连接起来。CUDA 官方文档介绍了编写、运行和检查这些程序的工具。软件库提供可以重复使用的运算,编译器则把代码转换成机器能执行的指令。开发者因此不必每次都从最底层做起。

平台的价值,是让整套工作接得上

可以把它想成一间工坊:机器好用,还要有配套工具、操作说明和熟练的工作方法。计算平台也是如此。AI 框架帮助开发者组织模型,数学软件库完成常用运算,驱动程序让软件能够使用硬件。各个环节接起来,更多人才能用上原本很专业的计算能力。

便利也会带来依赖。程序可能使用某个软件库,或者包含专门为一种设备编写的代码。因此,更换芯片时,有时还得修改软件、重新验证结果,不能只看硬件能否替换。

例如,PyTorch 的安装指南提供 CPU、CUDA、ROCm 等不同计算选项。这说明有其他路径可选,却不等于每个模型、扩展和自定义运算都能原样搬过去。

看一项工作怎么完成,而不只看芯片多快

回到整理照片的例子。如果大部分时间花在读取和搬运照片上,单纯加快计算,未必能让等待明显缩短。英伟达自己的性能优化指南也要求开发者检查整个应用,并减少 CPU 与 GPU 之间不必要的数据传输。

对使用者真正有用的问题是:整件事多久能做完?结果是否够好?运行和维护需要多少投入?这些都要放到具体工作里验证。芯片参数上的一个速度数字,回答不了所有问题。

用好眼前的工具,也给未来留下选择

一套配合成熟的平台,今天可以省下很多工作。软件、数据和团队经验逐渐围绕它积累之后,明天想换个平台,也可能需要付出更多。趁投入还没有越积越多,先弄清哪些可以迁移、哪些需要重写、如何验证替代方案,选择才不会只停留在纸面上。这不是否定好用的技术,而是理解自己正在建立什么样的依赖。

黄仁勋这篇伴读文章解释了 GPU 为什么能从图形处理走向 AI。卢恒则在互联网基础设施中追问更深一层的问题:未来的改变由谁决定?他在第65篇札记中,主张互联网协调应建立在参与者能够自行验证的规则与自愿采用之上。这是另一套明确的制度设计,并非对英伟达的描述。它提供了一条继续思考的线索:先看系统怎样运作,再看选择权留在谁手里。