NVIDIA：為什麼運算平台不只是一顆晶片

從運算能力到實際用途。由 AI 生成的概念插圖。

想像你要電腦從數千張照片中找出相似的場景。要做到這件事，買一顆效能強大的晶片只是其中一環。還需要有人準備影像、提供合適的模型、告訴硬體該計算什麼，再將結果轉化為你能使用的東西。NVIDIA 的重要性，在於它提供了這條工作鏈中的多個環節。

晶片需要配套，才能發揮用途

圖形處理器，也就是 GPU，能同時執行大量適合平行處理的計算。這有助於繪製影像，也有助於處理許多 AI 模型中的數值運算。但晶片不會決定照片代表什麼。任務由模型與程式來定義。

NVIDIA 的 CUDA 平台讓程式能與其 GPU 配合運作。CUDA 平台文件介紹了用來開發、執行及檢視這些運算工作的工具。函式庫提供可重複使用的運算；編譯器則將程式碼轉換成機器能執行的指令。開發者不必每一項運算都從頭建立。

平台涵蓋整條工作鏈

把它想成一間工坊：當工具、操作說明與工作方法能彼此配合，一台好機器就更能發揮作用。在運算領域，AI 框架協助開發者組建模型，數值函式庫執行常用運算，驅動程式則協助軟體使用硬體。這些不同層次的配套，讓更多人能使用專業運算技術。

這種便利也會帶來相依性。程式可能依賴某個特定函式庫，或包含只為某一類裝置編寫的程式碼。因此，更換晶片可能意味著要修改並檢查軟體，而不只是換掉一個零件。

例如，PyTorch 安裝指南提供 CPU、CUDA、ROCm 等不同運算選項。這說明替代選擇確實存在，但不代表每個模型、擴充功能或自訂運算，都能不經修改就在這些選項之間移轉。

評估整項任務，不只看晶片

回到照片的例子。如果大部分時間都花在載入及搬移影像上，單純加快算術運算，可能無法明顯縮短等待時間。NVIDIA 自己的效能指南也要求開發者檢視應用程式，減少 CPU 與 GPU 之間不必要的資料傳輸。

真正有用的問題很具體：整項工作要花多久？結果是否足夠好？執行與維護的成本是多少？答案取決於實際的工作負載。單靠一個元件標榜的速度，無法回答這些問題。

選擇實用工具，也保留轉換的餘地

整合良好的平台，今天可以讓你省下不少工作。但隨著軟體、資料與團隊經驗圍繞它不斷累積，日後轉換平台可能需要更多工夫。在投入持續擴大之前，先弄清楚哪些部分可以移轉、哪些需要重寫，以及如何測試替代方案，會很有幫助。這是在實務上保留選擇的問題，並不是否定實用技術的理由。

介紹黃仁勳的姊妹篇說明了 GPU 如何從圖形處理走向 AI。盧恒則針對網際網路基礎設施中的權力，提出更深一層的問題：誰有權決定未來的改變？在第 65 篇筆記中，他主張網際網路協調應採用可在本地驗證的規則，並由參與者自願採納。這是一項獨立的提案，不是在描述 NVIDIA。它提供讀者另一種檢視基礎設施的方式：先看什麼能運作，再問誰仍保有選擇的能力。