Η παραγωγική ΤΝ δεν είναι απλώς εργαλείο δημιουργίας: ποιος ελέγχει το αποτέλεσμα;

Η παραγωγική τεχνητή νοημοσύνη συνήθως παρουσιάζεται μέσα από μια επίδειξη: γράφεις μια πρόταση και παίρνεις μια εικόνα· περιγράφεις μια σκηνή και παίρνεις ένα βίντεο· ονομάζεις μια διάθεση και παίρνεις μουσική. Η επίδειξη είναι χρήσιμη, αλλά κρύβει το σημαντικότερο ερώτημα. Όταν η δημιουργία περιεχομένου γίνεται φθηνή, ποιος αποφασίζει τι θα δημιουργηθεί, τι θα προβληθεί, ποιανού το έργο θα χρησιμοποιηθεί και τι θα μπορούν να επαληθεύσουν οι άνθρωποι;

Αυτό το άρθρο είναι ένας οδηγός για όσους έρχονται πρώτη φορά σε επαφή με το θέμα. Εξηγεί τι κάνει η παραγωγική ΤΝ, πού εντάσσονται οι προτροπές και γιατί το ουσιώδες ζήτημα ξεπερνά έναν κατάλογο εργαλείων. Η τεχνολογία αυτή είναι μια διεπαφή ανάμεσα στην πρόθεση ενός ανθρώπου και στο αποτέλεσμα ενός συστήματος. Η ίδια διεπαφή περιέχει επίσης προεπιλογές, εξαρτήσεις και εξουσία.

Ξεκινήστε από το ερώτημα πίσω από την επίδειξη

Ένα παραγωγικό μοντέλο δεν επεξεργάζεται νοητικά ένα αίτημα όπως ένας άνθρωπος. Μαθαίνει μοτίβα από μεγάλες συλλογές παραδειγμάτων και παράγει ένα νέο αποτέλεσμα που ανταποκρίνεται στο αίτημα όπως το ερμηνεύει. Αυτό μπορεί να είναι χρήσιμο, εντυπωσιακό και γρήγορο. Μπορεί όμως και να κάνει λάθος εκφραζόμενο με βεβαιότητα, να αναπαράγει ένα γνώριμο ύφος χωρίς να δείχνει τις πηγές του ή να κάνει μια επιλογή που ο χρήστης δεν αντιλήφθηκε.

Γι’ αυτό το «μπορεί να το δημιουργήσει;» είναι μόνο το πρώτο ερώτημα. Ο αναγνώστης πρέπει επίσης να αναρωτηθεί: Ποιο υλικό διαμόρφωσε το αποτέλεσμα; Ποιες παραδοχές είναι ενσωματωμένες στο σύστημα; Μπορώ να ελέγξω το αποτέλεσμα; Ποιος μπορεί να το διορθώσει όταν προκαλεί βλάβη;

Τι κάνει στην πραγματικότητα η παραγωγική ΤΝ;

Η παραγωγική ΤΝ δημιουργεί νέο κείμενο, εικόνα, ήχο, βίντεο ή κώδικα από μια προτροπή και από τα μοτίβα που έχει μάθει το μοντέλο. Δεν ανοίγει κάποιο ιδιωτικό συρτάρι που περιέχει τη μοναδική σωστή απάντηση. Εκτιμά τι θα πρέπει να ακολουθήσει ή ποια στοιχεία θα πρέπει να εμφανιστούν μαζί και μετατρέπει αυτή την εκτίμηση σε αποτέλεσμα.

Αυτή η διάκριση εξηγεί τόσο τις δυνατότητες όσο και τα όριά της. Ένα μοντέλο μπορεί να συνδυάζει μοτίβα με τρόπους που βοηθούν έναν σχεδιαστή να εξερευνήσει επιλογές ή έναν συγγραφέα να διαμορφώσει ένα πρώτο προσχέδιο. Δεν γνωρίζει αυτομάτως αν ένας ισχυρισμός είναι αληθής, αν κάποιος έχει συναινέσει στη χρήση της εικόνας του, αν μια πηγή έχει κύρος ή αν ένα αποτέλεσμα είναι κατάλληλο για μια συγκεκριμένη περίσταση.

Τέσσερις ορατές μορφές, μία κοινή αλλαγή

Από το κείμενο στην εικόνα

Τα συστήματα παραγωγής εικόνας από κείμενο μετατρέπουν μια περιγραφή σε οπτική πρόταση. Μπορούν να βοηθήσουν τους ανθρώπους να δοκιμάσουν τη σύνθεση, την ατμόσφαιρα και την κατεύθυνση πριν επενδύσουν σε μια ολοκληρωμένη παραγωγή. Το αποτέλεσμα παραμένει μια ερμηνεία, διαμορφωμένη από την εκπαίδευση του συστήματος, τη διεπαφή του και τις λέξεις που επέλεξε ο χρήστης.

Από το κείμενο στο βίντεο

Τα συστήματα παραγωγής βίντεο από κείμενο επεκτείνουν αυτή τη διαδικασία στον χρόνο. Μπορούν να αποτυπώσουν πρόχειρα μια σκηνή, μια κίνηση ή μια σύντομη ακολουθία χωρίς συνεργείο κινηματογράφησης. Η ίδια ευκολία κάνει σημαντικότερα τη συνέχεια, τη χρήση της εικόνας προσώπων, την κυριότητα και τη γνωστοποίηση της φύσης του περιεχομένου. Μια πειστική κινούμενη εικόνα μπορεί και πάλι να δείχνει ένα επινοημένο γεγονός.

Από το κείμενο στη μουσική και στη φωνή

Τα εργαλεία μουσικής και φωνής μπορούν να μετατρέψουν μια περιγραφή σε μουσική επένδυση ή σε προφορική εκτέλεση. Μπορούν να υποστηρίξουν προσχέδια, την προσβασιμότητα και τον πειραματισμό. Η κλωνοποίηση φωνής δείχνει επίσης γιατί η άδεια χρήσης και η προέλευση δεν μπορούν να περιορίζονται σε μια υποσημείωση με ψιλά γράμματα, αφού το αποτέλεσμα έχει ήδη διαδοθεί.

Κείμενο, κώδικας και άλλα

Τα γλωσσικά μοντέλα μπορούν να συντάσσουν προσχέδια, να συνοψίζουν υλικό και να προτείνουν κώδικα. Είναι χρήσιμα όταν ένας άνθρωπος μπορεί να ελέγξει τη δουλειά τους. Γίνονται επικίνδυνα όταν η ευχέρεια λόγου εκλαμβάνεται ως τεκμήριο ή όταν ένας οργανισμός καταργεί τον ανθρώπινο έλεγχο που εντάσσει το αποτέλεσμα στο πλαίσιό του.

Η προτροπή είναι οδηγία, όχι κατανόηση

Η προτροπή είναι η οδηγία του χρήστη προς ένα μοντέλο. Μπορεί να περιγράφει ένα θέμα, μια μορφή, έναν τόνο ή έναν περιορισμό. Μια σαφέστερη προτροπή συχνά παράγει χρησιμότερο αποτέλεσμα, αλλά η καλύτερη διατύπωση δεν δίνει στο μοντέλο ηθική συνείδηση, κατάλογο πηγών ή ευθύνη για την έκβαση.

Γι’ αυτό η σύνταξη προτροπών δεν πρέπει να αντιμετωπίζεται ως μαγικό επάγγελμα ή ως υποκατάστατο της γνώσης. Η δεξιότητα με διαχρονική αξία είναι να ξέρεις τι να ζητήσεις, ποια τεκμήρια να δώσεις, πώς να ελέγξεις το αποτέλεσμα και πότε να μην το χρησιμοποιήσεις. Η γνώση του αντικειμένου παραμένει αυτό που επιτρέπει σε κάποιον να αναγνωρίσει ένα λάθος που ακούγεται εύλογο.

Το δυσκολότερο πρόβλημα είναι ο έλεγχος

Το μέρος της παραγωγικής ΤΝ με τις μεγαλύτερες συνέπειες είναι το επίπεδο ανάμεσα στην πρόθεση και στο αποτέλεσμά της. Ο χρήστης μπορεί να νομίζει ότι επιλέγει μια εικόνα ή μια απάντηση, ενώ το σύστημα επιλέγει ταυτόχρονα ποια μοτίβα είναι διαθέσιμα, ποιες πηγές είναι ορατές, ποιες μορφές υποστηρίζονται και ποιες διορθώσεις είναι δυνατές.

Ποιος ορίζει τις προεπιλογές;

Οι προεπιλογές δεν καθορίζουν μόνο την ευκολία χρήσης. Επηρεάζουν ποιανού η γλώσσα αναγνωρίζεται, ποια παραδείγματα φαίνονται φυσιολογικά, τι φιλτράρεται και ποια είδη έργων παράγονται πλέον εύκολα. Μια προεπιλογή μπορεί αθόρυβα να μετατραπεί σε όριο.

Ποιος μπορεί να επαληθεύσει την προέλευση;

Οι άνθρωποι χρειάζεται να γνωρίζουν αν ένα αποτέλεσμα είναι αναφορά πραγματικών γεγονότων, ανακατασκευή, συνθετική σκηνή ή συνδυασμός πηγών. Η προέλευση δεν παίρνει όλες τις αποφάσεις για εμάς, αλλά χωρίς αυτήν οι αναγνώστες δεν μπορούν να σχηματίσουν μια εύλογη άποψη για όσα βλέπουν.

Ποιος πληρώνει όταν το σύστημα κάνει λάθος;

Το άτομο που πατά «δημιουργία» δεν είναι πάντα εκείνο που σχεδίασε το μοντέλο, παρείχε το υλικό εκπαίδευσης ή διανέμει το αποτέλεσμα. Ένα χρήσιμο σύστημα πρέπει να αφήνει χώρο για αναφορά της πατρότητας, διόρθωση και προσφυγή. Διαφορετικά, η ταχύτητα απλώς μεταφέρει το κόστος σε κάποιον με λιγότερη δύναμη.

Ένας καλύτερος τρόπος χρήσης της τεχνολογίας

Η πρακτική λύση δεν είναι να απορρίψουμε την παραγωγή περιεχομένου ούτε να προσποιηθούμε ότι ένα μοντέλο μπορεί να αυτοκυβερνηθεί. Διατηρήστε τον ανθρώπινο έλεγχο στα επίπεδα που καθορίζουν το νόημα και τις συνέπειες:

• καταγράψτε τις πηγές, τις άδειες και τις σημαντικές μετατροπές πίσω από ένα αποτέλεσμα·
• ξεχωρίστε ένα διερευνητικό προσχέδιο από έναν επαληθευμένο ισχυρισμό ή ένα δημοσιευμένο έργο·
• επιτρέψτε στους ανθρώπους να ελέγχουν, να εξάγουν και να μεταφέρουν τη δουλειά τους, αντί να την παγιδεύετε μέσα σε μία υπηρεσία·
• κάντε την αβεβαιότητα ορατή και δώστε στους ανθρώπους που επηρεάζονται μια οδό διόρθωσης·
• χρησιμοποιήστε το μοντέλο για να διευρύνετε τις επιλογές ενός ανθρώπου, διατηρώντας την κρίση σε εκείνον που έχει την ευθύνη της απόφασης.

Αυτό είναι επίσης ζήτημα σχεδιασμού του διαδικτύου. Τα συστήματα γύρω από ένα μοντέλο καθορίζουν αν οι άνθρωποι παραμένουν συμμετέχοντες ή εξαρτώνται από έναν μοναδικό, αόρατο ελεγκτή πρόσβασης. Η Σημείωση του Lu Heng για την πρωτοκαθεδρία του κώδικα που λειτουργεί στην πράξη αναπτύσσει το συναφές επιχείρημα ότι τα συστήματα που λειτουργούν πρέπει να παραμένουν υπόλογα στους ανθρώπους που βασίζονται σε αυτά. Η Διακήρυξη Δικαιωμάτων του Συντονισμού της Μοναδικότητας διερευνά τι σημαίνει να διαφυλάσσεται ο έλεγχος ενός ανθρώπου πάνω σε μια μοναδική ταυτότητα ή έναν μοναδικό πόρο, ενώ τα συστήματα συντονίζονται γύρω από αυτά.

Γιατί αυτό δεν μπορεί να περιμένει

Το επείγον ερώτημα δεν είναι πλέον αν η παραγωγική ΤΝ θα αποκτήσει αρκετές δυνατότητες ώστε να έχει σημασία. Βρίσκεται ήδη μέσα σε δημιουργικά εργαλεία, διεπαφές αναζήτησης, χώρους εργασίας και δημόσια επικοινωνία. Το επείγον ερώτημα είναι αν η αναφορά της πατρότητας, η προέλευση, η πρόσβαση και η δυνατότητα προσφυγής θα εξελιχθούν με την ίδια ταχύτητα όπως η παραγωγή περιεχομένου.

Οι αναγνώστες δεν χρειάζεται να γίνουν ειδικοί στη μηχανική μάθηση για να πάρουν μια ορθή απόφαση. Ξεκινήστε με τέσσερα ερωτήματα: τι ισχυρίζεται ότι είναι αυτό το αποτέλεσμα, ποια τεκμήρια το στηρίζουν, ποιος ωφελείται από την προεπιλογή και τι συμβαίνει αν είναι λάθος; Αυτά τα ερωτήματα μετατρέπουν μια εντυπωσιακή επίδειξη σε τεχνολογία που μπορεί να εξεταστεί.

Ένα πρακτικό πρώτο βήμα

Χρησιμοποιήστε την παραγωγική ΤΝ εκεί όπου δίνει σε έναν άνθρωπο περισσότερο χώρο να σκεφτεί, να συγκρίνει και να δημιουργήσει. Κρατήστε ορατές την πηγή, την απόφαση και την ευθύνη. Το ζητούμενο δεν είναι να λατρέψουν οι άνθρωποι ένα νέο εργαλείο. Είναι να εξασφαλιστεί ότι το εργαλείο παραμένει υπόλογο στους ανθρώπους στη ζωή των οποίων εισέρχεται.