L’IA generativa non è solo uno strumento creativo: chi controlla i risultati?

L’intelligenza artificiale generativa viene solitamente presentata con una dimostrazione: scrivi una frase e ottieni un’immagine; descrivi una scena e ottieni un video; indica uno stato d’animo e ottieni della musica. La dimostrazione è utile, ma nasconde una domanda più importante. Quando produrre contenuti costa poco, chi decide che cosa viene creato, che cosa viene mostrato, di chi si utilizza il lavoro e che cosa le persone possono verificare?

Questo articolo è una guida per chi si avvicina all’argomento. Spiega che cosa fa l’IA generativa, quale ruolo hanno i prompt e perché la questione importante va oltre un elenco di strumenti. Questa tecnologia è un’interfaccia tra l’intenzione di una persona e il risultato di un sistema. In quell’interfaccia ci sono anche impostazioni predefinite, dipendenze e potere.

Partire dalla domanda che la dimostrazione nasconde

Un modello generativo non ragiona su una richiesta come farebbe una persona. Apprende schemi da grandi raccolte di esempi e produce un nuovo risultato coerente con la richiesta così come la interpreta. Può essere utile, sorprendente e veloce. Può anche sbagliare pur esprimendosi con sicurezza, riprodurre uno stile familiare senza mostrarne le fonti oppure compiere una scelta di cui l’utente non si accorge.

Ecco perché «è in grado di crearlo?» è soltanto la prima domanda. Chi legge dovrebbe chiedersi anche: quali materiali hanno contribuito al risultato? Quali presupposti sono incorporati nel sistema? Posso verificare il risultato? Chi può correggerlo quando provoca un danno?

Che cosa fa davvero l’IA generativa?

L’IA generativa produce un nuovo testo, un’immagine, un suono, un video o del codice a partire da un prompt e dagli schemi appresi dal modello. Non apre un cassetto riservato che contiene l’unica risposta corretta. Stima che cosa dovrebbe venire dopo, o quali elementi dovrebbero comparire insieme, e trasforma quella stima in un risultato.

Questa distinzione ne spiega sia la forza sia i limiti. Un modello può combinare schemi in modi che aiutano un progettista a esplorare diverse possibilità o chi scrive a preparare una prima bozza. Non sa automaticamente se un’affermazione è vera, se una persona ha acconsentito all’uso della propria immagine, se una fonte è autorevole o se il risultato è adatto a una determinata situazione.

Quattro forme visibili, un cambiamento comune

Dal testo all’immagine

I sistemi che generano immagini da un testo trasformano una descrizione in una proposta visiva. Possono aiutare a sperimentare composizione, atmosfera e direzione prima di investire in una produzione completa. Il risultato rimane un’interpretazione, influenzata dall’addestramento del sistema, dalla sua interfaccia e dalle parole scelte dall’utente.

Dal testo al video

I sistemi che generano video da un testo estendono questo processo nel tempo. Possono abbozzare una scena, un movimento o una breve sequenza senza una troupe. Questa stessa comodità rende ancora più importanti la continuità, la riproduzione delle sembianze di una persona, la titolarità dei diritti e la trasparenza sulla natura del contenuto. Un’immagine in movimento convincente può comunque rappresentare un evento inventato.

Dal testo alla musica e alla voce

Gli strumenti per la musica e la voce possono trasformare una descrizione in una colonna sonora o in un’esecuzione parlata. Possono aiutare a realizzare bozze, migliorare l’accessibilità e sperimentare. La clonazione vocale mostra anche perché il consenso e la provenienza non possano essere relegati a una nota in caratteri minuscoli quando il contenuto si è già diffuso.

Testo, codice e altro ancora

I modelli linguistici possono scrivere bozze, riassumere materiali e suggerire codice. Sono utili quando una persona può controllarne il lavoro. Diventano rischiosi quando la fluidità viene scambiata per una prova, oppure quando un’organizzazione elimina la revisione umana che dà al risultato il suo contesto.

Un prompt è un’istruzione, non una comprensione

Un prompt è l’istruzione che l’utente dà a un modello. Può descrivere un soggetto, un formato, un tono o un vincolo. Un prompt più chiaro spesso produce un risultato più utile, ma una formulazione migliore non conferisce al modello una coscienza, un elenco delle fonti o la responsabilità dell’esito.

Per questo la progettazione dei prompt non dovrebbe essere trattata come una professione magica o un sostituto della conoscenza. La competenza che dura consiste nel sapere che cosa chiedere, quali prove fornire, come verificare il risultato e quando non usarlo. La conoscenza del settore resta ciò che permette di riconoscere un errore plausibile.

Il problema più difficile è il controllo

La parte dell’IA generativa che incide di più è lo strato tra intenzione e conseguenza. L’utente può pensare di scegliere un’immagine o una risposta, mentre il sistema sceglie anche quali schemi sono disponibili, quali fonti sono visibili, quali formati sono supportati e quali correzioni sono possibili.

Chi stabilisce le impostazioni predefinite?

Le impostazioni predefinite non determinano soltanto la comodità d’uso. Influenzano quali lingue vengono riconosciute, quali esempi appaiono normali, che cosa viene filtrato e quali tipi di lavoro diventano facili da produrre. Un’impostazione predefinita può trasformarsi silenziosamente in un confine.

Chi può verificarne l’origine?

Le persone devono poter sapere se un risultato è un resoconto, una ricostruzione, una scena sintetica o una combinazione di fonti. La provenienza non decide tutto al posto nostro, ma senza di essa chi legge non può farsi un’idea ragionevole di ciò che sta guardando.

Chi paga quando il sistema sbaglia?

La persona che clicca su «genera» non è sempre quella che ha progettato il modello, fornito i materiali di addestramento o distribuisce il risultato. Un sistema utile deve lasciare spazio all’attribuzione, alla correzione e alla possibilità di ricorso. Altrimenti la velocità si limita a trasferire il costo su qualcuno con meno potere.

Un modo migliore di usare questa tecnologia

La soluzione pratica non è rifiutare la generazione né fingere che un modello possa governarsi da solo. Manteniamo il controllo umano nei livelli che determinano significato e conseguenze:

• registrare le fonti, le autorizzazioni e le trasformazioni importanti che stanno dietro a un risultato;
• distinguere una bozza esplorativa da un’affermazione verificata o da un’opera pubblicata;
• consentire alle persone di esaminare, esportare e spostare il proprio lavoro, anziché intrappolarlo in un unico servizio;
• rendere visibile l’incertezza e offrire alle persone coinvolte un modo per ottenere una correzione;
• usare il modello per ampliare le possibilità di una persona, lasciando il giudizio a chi è responsabile della decisione.

È anche una questione di progettazione di Internet. I sistemi che circondano un modello determinano se le persone restano partecipanti o diventano dipendenti da un unico intermediario invisibile che controlla l’accesso. La Nota di Lu Heng sul primato del codice funzionante sviluppa l’argomento collegato secondo cui i sistemi funzionanti devono continuare a rispondere alle persone che vi fanno affidamento. La sua Carta dei diritti del coordinamento dell’unicità si interroga su che cosa significhi preservare il controllo di una persona su un’identità o una risorsa unica mentre i sistemi ne coordinano la gestione.

Perché non si può aspettare

La domanda urgente non è più se l’IA generativa diventerà abbastanza capace da contare. È già presente negli strumenti creativi, nelle interfacce di ricerca, nei luoghi di lavoro e nella comunicazione pubblica. La domanda urgente è se attribuzione, provenienza, accesso e possibilità di ricorso si svilupperanno alla stessa velocità della generazione.

Non occorre diventare specialisti di apprendimento automatico per prendere una decisione sensata. Si può partire da quattro domande: che cosa sostiene di essere questo risultato, quali prove lo supportano, chi trae vantaggio dall’impostazione predefinita e che cosa succede se è sbagliato? Queste domande trasformano una dimostrazione spettacolare in una tecnologia che si può esaminare.

Un primo passo concreto

Usiamo l’IA generativa dove offre alle persone più spazio per pensare, confrontare e creare. Manteniamo visibili la fonte, la decisione e la responsabilità. Lo scopo non è indurre le persone a venerare un nuovo strumento. È fare in modo che lo strumento continui a rispondere alle persone nella cui vita entra.