Дженсен Хуанг: как NVIDIA вывела GPU за пределы графики

Параллельная работа с объединением результатов. Концептуальная иллюстрация, созданная ИИ.

Компьютерная игра должна много раз в секунду рисовать новое изображение. Модель ИИ — выполнять огромное количество вычислений. Задачи разные, но у них есть общее свойство: часть работы можно разделить на небольшие операции и выполнять одновременно. Эта связь объясняет путь NVIDIA от компьютерной графики к ИИ.

Кто такой Дженсен Хуанг?

В 1993 году Хуанг основал NVIDIA вместе с Крисом Малачовски и Кёртисом Примом. Он изучал электротехнику в Университете штата Орегон, а в 1992 году получил степень магистра в Стэнфорде, совмещая учёбу с работой. Об этом рассказывает его биография на сайте Стэнфорда. В начале пути стоял инженерный вопрос: какую работу должны выполнять компьютеры и какие чипы для этого нужны?

Почему графический процессор умеет не только рисовать?

Представьте, что нужно немного увеличить яркость каждого пикселя фотографии. Можно обрабатывать много пикселей сразу: одному не требуется ждать результата другого. Это параллельная обработка. GPU, или графический процессор, рассчитан на множество одновременных операций. CPU, центральный процессор, лучше подходит для разнообразных задач и последовательностей, где следующий шаг зависит от предыдущего. Они работают вместе.

Во многих вычислениях ИИ похожие операции повторяются над большими массивами чисел. GPU может ускорить подходящие части этой работы. Но его установка не ускоряет любую программу автоматически: работу нужно разделить, данные — передать процессору, а программное обеспечение — приспособить к его возможностям.

Программное обеспечение стало связующим звеном

В 2006 году NVIDIA представила CUDA, чтобы разработчики могли использовать её GPU для вычислений за пределами графики. Одной хорошо оснащённой мастерской недостаточно: нужны удобные инструменты и способ организовать работу. Эту роль выполняют программные библиотеки и средства разработки. Во введении в CUDA объясняется, как взаимодействуют CPU и GPU.

Так развитие NVIDIA становится понятнее, чем в рассказе о руководителе, который всё предвидел. Чипы, программы и люди, создающие приложения, должны работать вместе. Техническая возможность приобретает ценность, когда решает конкретную задачу.

Следующий вопрос: кто сохраняет право выбора?

Полезная платформа тоже требует практических вопросов. Можно ли перенести программу на другую? Сколько будет стоить смена инструментов? Какие изменения можно принять или отклонить? Репутация поставщика сама по себе ответов не даёт.

Применительно к координации Интернета Лу Хэн развивает этот вопрос в Заметке 65 о приоритете работающего кода. Он предлагает правила, которые участники могут проверять локально, и добровольное принятие изменений. Обе темы связывает вопрос: расширяет ли инфраструктура возможности пользователей, сохраняя за ними право выбирать?