Το Ernie Bot και το ερώτημα πίσω από κάθε βοηθό τεχνητής νοημοσύνης: ποιος ελέγχει την απάντηση;

Είναι εύκολο να περιγράψει κανείς το Ernie Bot της Baidu ως ιστορία προϊόντος: ένα κινεζικό γλωσσικό μοντέλο, μια μεγάλη εταιρεία και ένας μακρύς κατάλογος πιθανών χρήσεων. Αυτή η περιγραφή παραλείπει το ερώτημα στο οποίο πρέπει να απαντήσει ο αναγνώστης πριν εμπιστευτεί οποιονδήποτε βοηθό: τι βρίσκεται ανάμεσα στην ερώτησή μου και στον κόσμο που προσπαθώ να κατανοήσω;

Ένας βοηθός τεχνητής νοημοσύνης δεν ανακτά απλώς μια ουδέτερη απάντηση. Ερμηνεύει τις λέξεις που του δίνετε, επιλέγει μοτίβα από την εκπαίδευσή του και τις συνδεδεμένες πηγές, ακολουθεί τους κανόνες της υπηρεσίας και παρουσιάζει το αποτέλεσμα μέσα από μια διεπαφή. Το Ernie Bot είναι χρήσιμη περίπτωση επειδή η γλώσσα, το τοπικό πλαίσιο, η ισχύς της πλατφόρμας και η πρόσβαση στην πληροφορία συναντώνται σε ένα σύστημα.

Αυτός ο οδηγός εξηγεί πώς να εξετάζετε το σύστημα χωρίς να μετατρέπετε ένα προϊόν που αλλάζει σε μόνιμη κατάταξη. Ο στόχος δεν είναι να ανακηρύξει νικητή. Είναι να σας βοηθήσει να κρατήσετε στα χέρια σας το ερώτημα, τα τεκμήρια και την απόφαση.

Τι είναι το Ernie Bot;

Το Ernie Bot, γνωστό και ως 文心一言, είναι η υπηρεσία συνομιλιακής τεχνητής νοημοσύνης της Baidu, χτισμένη γύρω από την οικογένεια γλωσσικών μοντέλων Ernie. Κάποιος μπορεί να ζητήσει μια εξήγηση, μια περίληψη, μια μετάφραση, ένα προσχέδιο ή μια ακολουθία ιδεών, και το σύστημα θα δημιουργήσει απάντηση που μοιάζει με συνομιλία.

Η σημαντική διάκριση είναι ανάμεσα στην παραγωγή μιας ομαλής απάντησης και στη γνώση ότι η απάντηση είναι αληθινή. Το μοντέλο μπορεί να συνεχίσει ένα γλωσσικό μοτίβο χωρίς να έχει δει το γεγονός, να έχει ελέγξει την πηγή ή να έχει κατανοήσει τις συνέπειες της συμβουλής. Μια ομαλή πρόταση είναι μορφή εξόδου· δεν είναι απόδειξη.

Τι παρεμβάλλει το σύστημα ανάμεσα σε εσάς και μια απάντηση;

Κάθε φορά που χρησιμοποιείτε έναν βοηθό, έχουν σημασία τέσσερα επίπεδα:

Γλώσσα

Η διατύπωσή σας διαμορφώνει το ερώτημα που νομίζει το σύστημα ότι έλαβε. Ένα ασαφές αίτημα μπορεί να παράγει μια βέβαιη απάντηση σε διαφορετικό ερώτημα. Ζητήστε από το σύστημα να επαναδιατυπώσει την εργασία και να ξεχωρίσει τα γνωστά γεγονότα από τις υποθέσεις πριν αξιολογήσετε το αποτέλεσμα.

Πηγές και εκπαίδευση

Η απάντηση του μοντέλου αντανακλά το υλικό και τις σχέσεις που είναι διαθέσιμα σε αυτό, όμως μια απάντηση δεν αποκαλύπτει αυτόματα ποια πηγή παρήγαγε ποια πρόταση. Αν η απάντηση έχει σημασία, ζητήστε πηγές που μπορείτε να ανοίξετε και ελέγξτε μόνοι σας τον σχετικό ισχυρισμό.

Κανόνες και προεπιλογές

Η υπηρεσία αποφασίζει σε τι μπορεί να έχει πρόσβαση, τι θα αρνηθεί, πώς θα χειριστεί ευαίσθητα θέματα και ποιες μορφές λόγου θεωρεί αποδεκτές. Αυτά τα όρια μπορεί να είναι απαραίτητα για τη λειτουργία μιας υπηρεσίας, αλλά επίσης διαμορφώνουν την απάντηση. Ο χρήστης πρέπει να μπορεί να αναγνωρίζει αυτή τη διαμόρφωση.

Διεπαφή και κίνητρα

Ένα παράθυρο συνομιλίας κάνει ένα σύνθετο σύστημα να μοιάζει με έναν μόνο πρόθυμο ομιλητή. Η εταιρεία που το λειτουργεί ελέγχει τις ενημερώσεις του μοντέλου, τη σχέση του λογαριασμού, τις ρυθμίσεις δεδομένων και τις διαθέσιμες ενσωματώσεις. Η διεπαφή μπορεί να κρύβει αυτές τις εξαρτήσεις, αν ο χρήστης δεν τις αναζητήσει σκόπιμα.

Γιατί η ρέουσα γλώσσα μπορεί να εκληφθεί ως κατανόηση

Η συνομιλία είναι ισχυρό κοινωνικό σήμα. Όταν μια απάντηση είναι άμεση, γραμματικά σωστή και προσαρμοσμένη στη διατύπωσή σας, νιώθετε ότι ένα άλλο μυαλό σας κατάλαβε. Ωστόσο το σύστημα μπορεί ακόμη να μαντεύει, να συμπυκνώνει αρκετές πηγές σε μία παράγραφο ή να συμπληρώνει ένα κενό βήμα με μια πειστική επινόηση.

Χρησιμοποιήστε έναν βοηθό ως εργαλείο εξερεύνησης, σύνταξης προσχεδίων και σύγκρισης. Όταν το αποτέλεσμα επηρεάζει την υγεία, τα χρήματα, την εκπαίδευση, την εργασία, τα δικαιώματα ή τη φήμη κάποιου άλλου, επαναφέρετε τον ισχυρισμό σε ανθρώπινη διαδικασία: εντοπίστε την πηγή, ελέγξτε την ημερομηνία, εξετάστε το πλαίσιο που λείπει και αποφασίστε ποιος λογοδοτεί.

Σε τι μπορεί να σας βοηθήσει το εργαλείο;

Το Ernie Bot και παρόμοια συστήματα μπορεί να είναι χρήσιμα όταν η εργασία είναι οριοθετημένη και ο άνθρωπος παραμένει υπεύθυνος. Μπορούν να βοηθήσουν να μετατρέψετε μια ακατέργαστη ερώτηση σε ερευνητικό περίγραμμα, να συγκρίνετε δύο εξηγήσεις, να μεταφράσετε ένα απόσπασμα για μια πρώτη ανάγνωση, να δημιουργήσετε εναλλακτική διατύπωση ή να αναδείξετε ερωτήματα που δεν είχατε ακόμη θέσει.

Αυτές είναι μορφές βοήθειας, όχι μεταβίβαση κρίσης. Όσο πιο ανοιχτό είναι το αίτημα, τόσο περισσότερο ο χρήστης χρειάζεται να ορίσει την εργασία, να διατηρήσει τα εισαγόμενα και να επαληθεύσει το αποτέλεσμα. Το «πες μου τι είναι αληθινό» δεν είναι μηχανισμός ελέγχου.

Ένας πρακτικός έλεγχος πριν βασιστείτε σε μια απάντηση

1. Μπορείτε να ονομάσετε τον ισχυρισμό;

Ξαναγράψτε την απάντηση ως μία ή περισσότερες ελέγξιμες προτάσεις. Αν δεν μπορείτε να πείτε τι ισχυρίζεται το σύστημα, δεν μπορείτε να το επαληθεύσετε ουσιαστικά.

2. Μπορείτε να ιχνηλατήσετε τα τεκμήρια;

Ζητήστε την πηγή, την ημερομηνία της και το ακριβές απόσπασμα που στηρίζει τον ισχυρισμό. Αντιμετωπίστε μια παραπομπή ως αφετηρία μέχρι να την ανοίξετε και να επιβεβαιώσετε ότι λέει αυτό που λέει η απάντηση.

3. Μπορείτε να δείτε το όριο;

Ρωτήστε τι δεν γνωρίζει το σύστημα, σε τι δεν μπορεί να έχει πρόσβαση ή τι μπορεί να υπέθεσε. Συγκρίνετε την απάντηση με ένα διαφορετικά διατυπωμένο αίτημα και σημειώστε τι αλλάζει.

4. Μπορείτε να πάρετε τη δουλειά σας αλλού;

Κρατήστε την αρχική ερώτηση, την απάντηση, τις πηγές, τις επεξεργασίες και την τελική απόφαση. Αν η υπηρεσία αλλάξει μοντέλο ή κανόνες λογαριασμού, η συλλογιστική σας πρέπει να παραμένει μεταφέρσιμη.

5. Ποιος παίρνει την τελική απόφαση;

Ορίστε ένα άτομο που θα εγκρίνει τον ισχυρισμό πριν από τη δημοσίευση ή την ενέργεια. Ο βοηθός μπορεί να προτείνει διατύπωση· δεν μπορεί να αναλάβει την ευθύνη για λογαριασμό σας.

Η λύση είναι ορατή διαμεσολάβηση, όχι τυφλή ανάθεση

Η τεχνητή νοημοσύνη γίνεται πιο χρήσιμη όταν η διαμεσολάβησή της είναι ορατή. Κρατήστε χωριστά την ερώτηση από την απάντηση, την απάντηση από τα τεκμήρια και τα τεκμήρια από την απόφαση. Καταγράψτε τους ουσιαστικούς μετασχηματισμούς, αποκαλύψτε τις προεπιλογές που επηρεάζουν το αποτέλεσμα και δώστε στους ανθρώπους τρόπο να διορθώνουν το δημόσιο αρχείο όταν μια παραγόμενη απάντηση τους παραπλανά.

Αυτή είναι η ίδια πειθαρχία που διατρέχει το έργο του Lu Heng. Ο οδηγός του για την παραγωγική τεχνητή νοημοσύνη εξηγεί γιατί μια οδηγία δεν είναι κατανόηση. Η Σημείωσή του για τα επίπεδα της πραγματικότητας και τη συμβολική ισχύ ζητά από τους αναγνώστες να ξεχωρίζουν ό,τι υπάρχει από τις ετικέτες και τις αφηγήσεις που τοποθετούνται πάνω του. Ένας βοηθός πρέπει να βοηθά τον άνθρωπο να κάνει αυτόν τον διαχωρισμό, όχι να γίνεται νέα αυθεντία που τον καθιστά αδύνατο.

Γιατί αυτό το ερώτημα δεν μπορεί να περιμένει

Οι απαντήσεις τεχνητής νοημοσύνης μπαίνουν ήδη σε αίθουσες διδασκαλίας, στην εξυπηρέτηση πελατών, στους χώρους εργασίας, στα αποτελέσματα αναζήτησης και σε ιδιωτικές αποφάσεις. Η υιοθέτηση μπορεί να προχωρήσει ταχύτερα από τις συνήθειες που χρειάζονται για τον έλεγχο μιας απάντησης. Αν οι χρήστες αποδέχονται τη ρέουσα έξοδο ως αυθεντία, ο διαχειριστής του συστήματος αποκτά αθόρυβα τον έλεγχο των ερωτημάτων που είναι ορατά, των πηγών που μετρούν και των συμπερασμάτων που φαίνονται λογικά.

Η επείγουσα επιλογή, λοιπόν, είναι μεγαλύτερη από το αν το Ernie Bot διαθέτει μια συγκεκριμένη λειτουργία. Είναι αν οι άνθρωποι μπορούν να χρησιμοποιούν ισχυρά συστήματα διατηρώντας το δικαίωμα να εξετάζουν, να συγκρίνουν, να διορθώνουν και να αποχωρούν. Αυτό μετατρέπει έναν βοηθό από πειστική διεπαφή σε εργαλείο που παραμένει υπόλογο στον χρήστη του.

Ξεκινήστε με ένα ερώτημα που μπορείτε να επαληθεύσετε

Δώστε στο σύστημα μια περιορισμένη εργασία, την απάντηση της οποίας ξέρετε ήδη πώς να ελέγξετε. Αποθηκεύστε την προτροπή, την απάντηση και τις πηγές. Σημειώστε τι είναι γεγονός, τι είναι ερμηνεία και τι παραμένει άγνωστο. Έπειτα αποφασίστε αν το εργαλείο αύξησε την κατανόησή σας ή απλώς την ταχύτητα με την οποία έφτασε σε εσάς ένας ισχυρισμός.