NVIDIA: perché una piattaforma di calcolo è più di un chip

Dalla potenza di calcolo al lavoro utile. Illustrazione concettuale generata con l’IA.

Immagina di chiedere a un computer di trovare scene simili in migliaia di fotografie. Acquistare un chip potente è solo una parte di ciò che serve. Qualcuno deve preparare le immagini, fornire un modello adatto, indicare all’hardware quali calcoli eseguire e trasformare il risultato in qualcosa di utilizzabile. NVIDIA è importante perché fornisce diversi elementi di questa catena operativa.

Un chip ha bisogno degli strumenti per rendersi utile

Un’unità di elaborazione grafica, o GPU, può eseguire contemporaneamente molti calcoli che si prestano a questo tipo di elaborazione. È utile sia per generare immagini sia per svolgere le operazioni numeriche alla base di molti modelli di IA. Ma il chip non decide che cosa significano le tue fotografie. Sono il modello e il programma a definire il compito.

La piattaforma CUDA di NVIDIA mette in comunicazione i programmi con le sue GPU. La documentazione della piattaforma CUDA descrive gli strumenti per sviluppare, eseguire e analizzare queste elaborazioni. Le librerie forniscono operazioni riutilizzabili; un compilatore traduce il codice in istruzioni eseguibili dalla macchina. Gli sviluppatori non devono costruire ogni operazione da zero.

La piattaforma comprende l’intera catena operativa

Pensa a un’officina: una macchina capace diventa più utile quando strumenti, istruzioni e metodi di lavoro si combinano bene. Nel calcolo, un framework di IA aiuta gli sviluppatori a costruire un modello, le librerie numeriche eseguono operazioni comuni e i driver permettono al software di utilizzare l’hardware. Questi livelli rendono il calcolo specialistico accessibile a più persone.

Questa comodità crea anche dipendenze. Un programma può basarsi su una determinata libreria o contenere codice scritto per un solo tipo di dispositivo. Cambiare il chip può quindi richiedere modifiche e verifiche del software, oltre alla semplice sostituzione di un componente.

La guida all’installazione di PyTorch, per esempio, offre diverse opzioni di calcolo, tra cui CPU, CUDA e ROCm. Questo dimostra che esistono alternative. Non significa che ogni modello, estensione o operazione personalizzata possa passare dall’una all’altra senza modifiche.

Valutare il compito svolto, non soltanto il chip

Torniamo alle fotografie. Se il caricamento e il trasferimento delle immagini occupano gran parte del tempo, rendere più veloci i soli calcoli può incidere poco sull’attesa. La stessa guida alle prestazioni di NVIDIA invita gli sviluppatori a esaminare l’applicazione e a ridurre i trasferimenti superflui tra CPU e GPU.

Le domande utili sono concrete: quanto tempo richiede l’intero lavoro, i risultati sono sufficientemente buoni e quanto costa eseguirlo e mantenerlo? Le risposte dipendono dal carico di lavoro effettivo. La velocità dichiarata di un componente, da sola, non basta a fornirle.

Scegliere strumenti utili e mantenere la possibilità di cambiare

Una piattaforma ben integrata può far risparmiare lavoro oggi. Man mano che intorno a essa si accumulano software, dati ed esperienza del gruppo, passare a un’altra piattaforma può richiedere più lavoro domani. Prima che quell’investimento cresca, è utile sapere quali parti si possono trasferire, quali vanno riscritte e come si verificherebbe un’alternativa. È una questione pratica di mantenimento delle possibilità di scelta, non un motivo per scartare una tecnologia utile.

L’articolo complementare su Jensen Huang racconta il percorso delle GPU dalla grafica all’IA. Lu Heng pone una domanda più profonda sull’autorità nelle infrastrutture di Internet: chi può decidere i cambiamenti futuri? Nella Nota 65, sostiene la necessità di regole verificabili localmente e dell’adozione volontaria nel coordinamento di Internet. Si tratta di una proposta distinta, non di una descrizione di NVIDIA. Offre ai lettori un altro modo di esaminare le infrastrutture: osservare ciò che funziona e poi chiedersi chi conserva la possibilità di scegliere.