NVIDIA: почему одного чипа недостаточно
Как оборудование, программы и данные работают вместе и почему при выборе вычислительной платформы важно сохранять альтернативы.
От вычислительной мощности к полезной работе. Концептуальная иллюстрация, созданная ИИ.
Представьте, что вы хотите найти похожие пейзажи среди тысяч фотографий. Купить мощный чип недостаточно. Нужно подготовить изображения, подобрать модель, передать вычисления оборудованию и представить результат в удобном виде. Значение NVIDIA легче понять, если посмотреть на несколько звеньев этой цепочки.
Чипу нужны программные инструменты
Графический процессор, или GPU, умеет выполнять множество подходящих вычислений параллельно. Это полезно и при создании изображений, и для численных операций во многих моделях ИИ. Но сам чип не понимает, что изображено на фотографии. Задачу определяют модель и программа.
Платформа CUDA связывает программы с GPU NVIDIA. В документации CUDA описаны средства разработки, выполнения и анализа такой работы. Библиотеки предоставляют готовые операции, а компилятор переводит код в инструкции для машины. Разработчикам не приходится каждый раз создавать все вычисления с нуля.
Платформа соединяет отдельные этапы работы
В мастерской хороший станок приносит больше пользы, когда к нему есть подходящие инструменты, инструкции и освоенные приёмы работы. В вычислениях действует похожий принцип: фреймворк помогает собрать модель ИИ, библиотеки выполняют распространённые операции, драйверы дают программам возможность использовать оборудование. Вместе эти уровни делают специализированные вычисления доступнее.
При этом возникают зависимости. Программа может требовать определённую библиотеку или содержать код для конкретного типа устройств. Тогда замена чипа потребует изменений в программе и повторной проверки результатов.
Например, руководство по установке PyTorch предлагает варианты для CPU, CUDA и ROCm. Другие пути существуют. Но это не означает, что любая модель, расширение или собственная вычислительная операция переносится между ними без изменений.
Оценивайте время выполнения всей задачи
Вернёмся к фотографиям. Если основное время уходит на чтение и передачу изображений, ускорение одних вычислений может почти не сократить ожидание. Сама NVIDIA в руководстве по производительности рекомендует изучать приложение и сокращать лишние передачи данных между CPU и GPU.
Важны конкретные вопросы: сколько занимает вся работа, подходят ли результаты, во что обходятся эксплуатация и обслуживание? Ответы зависят от реальной задачи. Одна заявленная характеристика чипа их не заменяет.
Пользоваться удобством и сохранять возможность выбора
Хорошо собранная платформа может сэкономить труд сегодня. Но по мере накопления программ, данных и опыта команды переход на другую систему способен требовать всё больше работы. До того как эти вложения вырастут, полезно выяснить, что можно перенести, что придётся переписать и как проверить альтернативу. Речь не об отказе от полезной технологии, а о сохранении реальных вариантов.
В статье о Дженсене Хуанге объясняется путь GPU от графики к ИИ. Лу Хэн ставит другой вопрос, уже о полномочиях в инфраструктуре Интернета: кто определяет будущие изменения? В Заметке 65 он предлагает строить координацию Интернета на локально проверяемых правилах и добровольном принятии изменений. Это отдельный проект устройства системы, а не описание NVIDIA. Он позволяет продолжить размышление: сначала понять, как система работает, затем выяснить, у кого остаётся выбор.