Η Kimi και το ερώτημα ποιος ελέγχει τη συνομιλία

Η Kimi παρουσιάστηκε ως κινεζικό εργαλείο συνομιλιακής τεχνητής νοημοσύνης. Αυτή η περιγραφή είναι ένα χρήσιμο σημείο εκκίνησης, όμως μια σελίδα προϊόντος μπορεί εύκολα να μετατραπεί σε κατάλογο δυνατοτήτων και να χάσει το ερώτημα που χρειάζεται πραγματικά να απαντήσει ο αναγνώστης: όταν ένας βοηθός μιλά με άνεση, τι ακριβώς βρίσκεται ανάμεσα στην ερώτησή μου και τον κόσμο;

Αυτό το άρθρο αντιμετωπίζει την Kimi ως συγκεκριμένο παράδειγμα μιας ευρύτερης αλλαγής. Οι βοηθοί τεχνητής νοημοσύνης μπορούν να βοηθήσουν τους ανθρώπους να διαβάσουν, να συγκρίνουν, να συντάξουν και να εξερευνήσουν. Μπορούν επίσης να διαμορφώσουν όσα βλέπει, θυμάται και αποδέχεται ένα άτομο ως απάντηση. Η κατανόηση αυτού του ορίου έχει μεγαλύτερη σημασία από την επανάληψη ενός ισχυρισμού κατά την κυκλοφορία ή από τη σύγκριση ενός chatbot με ένα άλλο.

Το ερώτημα είναι μεγαλύτερο από την Kimi

Η Kimi ανήκει σε μια νέα κατηγορία λογισμικού που διαμεσολαβεί στη συνομιλία μέσω ενός μοντέλου. Ο χρήστης υποβάλλει μια ερώτηση. Το σύστημα την ερμηνεύει, αντλεί από το διαθέσιμο πλαίσιο και επιστρέφει μια απάντηση που ακούγεται συνεκτική. Το αποτέλεσμα μπορεί να είναι χρήσιμο, αλλά η ευχέρεια δεν είναι το ίδιο με τα τεκμήρια και ο βοηθητικός τόνος δεν είναι το ίδιο με την αυθεντία.

Επομένως, το πρώτο ερώτημα δεν είναι «Είναι η Kimi έξυπνη;» Ρωτήστε αντί γι’ αυτό: Τι μπορεί να δει, τι θυμάται, ποιες πηγές μπορώ να ελέγξω και τι συμβαίνει όταν κάνει λάθος;

Τι διαμεσολαβεί πραγματικά ένας βοηθός τεχνητής νοημοσύνης

Γλώσσα

Ένας βοηθός μετατρέπει μια πρόθεση που εκφράζεται σε καθημερινή γλώσσα σε αίτημα που μπορεί να επεξεργαστεί το μοντέλο. Αυτό μειώνει το εμπόδιο στη χρήση λογισμικού, ιδιαίτερα για ανθρώπους που δεν μιλούν την τεχνική γλώσσα του συστήματος. Σημαίνει επίσης ότι η διατύπωση, η μετάφραση και το πολιτισμικό πλαίσιο μπορούν να αλλάξουν τη διαδρομή προς μια απάντηση.

Πλαίσιο

Τα μεγάλα έγγραφα και οι μακρές συνομιλίες μπορεί να κάνουν έναν βοηθό να φαίνεται προσεκτικός. Το πλαίσιο παραμένει περιορισμένη είσοδος και δεν εγγυάται ότι το σύστημα κατανοεί την κατάσταση ενός ανθρώπου. Ένα μοντέλο μπορεί να παραβλέψει μια πρόταση, να ακολουθήσει λανθασμένη υπόθεση ή να μεταφέρει ένα παλαιότερο λάθος σε μεταγενέστερη απάντηση.

Πηγές

Ορισμένες απαντήσεις προέρχονται από υλικό που δόθηκε στη συνομιλία· άλλες μπορεί να εξαρτώνται από ανάκτηση, εκπαίδευση ή τα δεδομένα της ίδιας της εφαρμογής. Αν η διεπαφή δεν κάνει ορατή αυτή τη διαφορά, ο αναγνώστης πρέπει να μαντέψει τι στηρίζει την απάντηση. Μια παραπομπή που δεν μπορεί να ελεγχθεί είναι διακόσμηση, όχι επαλήθευση.

Προεπιλογές

Το προϊόν αποφασίζει ποιο μοντέλο απαντά, πώς λειτουργούν οι ρυθμίσεις ασφάλειας και ύφους, τι αποθηκεύεται, ποια εργαλεία είναι διαθέσιμα και προς τα πού μπορεί να κινηθεί η συνομιλία. Αυτές οι επιλογές αποτελούν μέρος της εμπειρίας ακόμη κι όταν κρύβονται πίσω από ένα φιλικό πλαίσιο συνομιλίας.

Ένα μεγάλο παράθυρο πλαισίου δεν είναι μεγάλη μνήμη της αλήθειας

Οι μεγάλες είσοδοι είναι χρήσιμες για τη σύγκριση μιας σύμβασης, την οργάνωση έρευνας ή τις ερωτήσεις σχετικά με μια συλλογή εγγράφων. Δεν κάνουν κάθε πρόταση ακριβή. Όσο περισσότερο υλικό μπορεί να δεχτεί ένα σύστημα, τόσο πιο σημαντικό γίνεται να ξεχωρίζετε το ίδιο το έγγραφο από την περίληψή του από το μοντέλο.

Ένας προσεκτικός αναγνώστης κρατά κοντά του την αρχική πηγή. Ζητήστε από τον βοηθό να δείξει το απόσπασμα που χρησιμοποίησε, ελέγξτε το μόνοι σας και αντιμετωπίστε ένα συμπέρασμα χωρίς τεκμηρίωση ως αφορμή για έρευνα και όχι ως γεγονός προς επανάληψη.

Γιατί έχει σημασία η γλώσσα και ο τόπος

Ένας βοηθός στην κινεζική γλώσσα δεν είναι απλώς ένα αγγλικό σύστημα με κινεζικές ετικέτες. Τα παραδείγματα από τα οποία έμαθε, οι εκφράσεις που αναγνωρίζει, οι παραδοχές στα φίλτρα του και οι πηγές που έχει στη διάθεσή του επηρεάζουν όλα τη συνομιλία. Η πρόσβαση στη γλώσσα είναι πολύτιμη, αλλά δεν πρέπει να απαιτεί από τον χρήστη να παραδώσει την ικανότητα να εξετάζει τα όρια του συστήματος.

Η ίδια αρχή ισχύει για κάθε περιφερειακή ή εθνική υπηρεσία τεχνητής νοημοσύνης. Το τοπικό πλαίσιο μπορεί να κάνει έναν βοηθό πιο χρήσιμο. Μπορεί επίσης να κάνει τις προεπιλογές λιγότερο ορατές σε ανθρώπους που θεωρούν ότι μια ομαλή απάντηση είναι ουδέτερο παράθυρο προς την πραγματικότητα.

Τι να ελέγξετε πριν βασιστείτε σε έναν βοηθό

Πριν χρησιμοποιήσετε οποιοδήποτε συνομιλιακό μοντέλο για μια εργασία με σημαντικές συνέπειες, θέστε πέντε απλές ερωτήσεις:

• Ποια πηγή ή ποιο απόσπασμα στηρίζει αυτή την απάντηση;
• Ποιες πληροφορίες διατηρούνται και ποιος μπορεί να έχει πρόσβαση σε αυτές;
• Ποιες προεπιλογές αποφασίζουν τι θα εμφανίσει ή θα αρνηθεί ο βοηθός;
• Μπορώ να εξαγάγω τη συνομιλία και το έργο που με βοήθησε να παραγάγω;
• Ποια είναι η οδός διόρθωσης ή προσφυγής όταν η απάντηση βλάπτει κάποιον;

Αυτές οι ερωτήσεις δεν απαιτούν τεχνικό υπόβαθρο. Κρατούν τον χρήστη στη θέση του εξεταστή, αντί να μετατρέπουν τον βοηθό σε αόρατο λήπτη αποφάσεων.

Η λύση: αντιμετωπίστε τον βοηθό ως εργαλείο, όχι ως αυθεντία

Ένας χρήσιμος βοηθός πρέπει να διευρύνει την ικανότητα ενός ανθρώπου να συγκρίνει και να δρα, κρατώντας ορατά τα σημαντικά επίπεδα. Διατηρήστε την αρχική πηγή. Σημειώστε το παραγόμενο κείμενο ως παραγόμενο. Κρατήστε ανθρώπινη επανεξέταση όταν μια απόφαση επηρεάζει άλλο άτομο. Αφήστε τους χρήστες να φύγουν με τη δουλειά τους, τα τεκμήριά τους και το ιστορικό τους. Δώστε τους τρόπο να διορθώσουν το αρχείο.

Αυτό είναι ζήτημα σχεδιασμού συστήματος και όχι μόνο σχεδιασμού διεπαφής. Η Σημείωση για τα επίπεδα της πραγματικότητας και τη συμβολική ισχύ προσφέρει έναν σχετικό τρόπο να ξεχωρίζουμε όσα υπάρχουν από τις ετικέτες και τις ιστορίες που τοποθετούνται πάνω τους. Η Σημείωση για την πρωτοκαθεδρία του εκτελούμενου κώδικα ρωτά αν ένα σύστημα παραμένει υπόλογο στους ανθρώπους που βασίζονται στην πραγματική του συμπεριφορά.

Γιατί έχει σημασία τώρα

Η συνομιλιακή τεχνητή νοημοσύνη εισέρχεται στην αναζήτηση, την εκπαίδευση, τους χώρους εργασίας, την υποστήριξη πελατών και τη δημόσια επικοινωνία. Η σημαντική απόφαση δεν είναι πλέον αν ένα chatbot μπορεί να παράγει μια πειστική πρόταση. Είναι αν το περιβάλλον σύστημα επιτρέπει στους ανθρώπους να βλέπουν τα τεκμήρια, να κρατούν τον έλεγχο της δουλειάς τους και να αμφισβητούν μια απάντηση που απέκτησε συνέπειες.

Η Kimi αξίζει να γίνει κατανοητή ως προϊόν και ως σημάδι αυτής της μεγαλύτερης μετάβασης. Χρησιμοποιήστε την για εξερεύνηση, σύγκριση και σύνταξη. Μην της παραδώσετε την τελική αυθεντία για το τι είναι αληθινό, τι εννοούσε κάποιος ή τι πρέπει να κάνει ένας άλλος άνθρωπος.

Ένας πρακτικός τρόπος για να ξεκινήσετε

Δώστε στον βοηθό ένα περιορισμένο ερώτημα, προσφέρετε την πηγή που θέλετε να χρησιμοποιήσει, ζητήστε αβεβαιότητα και παραπομπές και στη συνέχεια ελέγξτε την απάντηση απέναντι στην πηγή. Αυτή η μικρή συνήθεια αλλάζει τη σχέση: το μοντέλο γίνεται εργαλείο σκέψης, ενώ ο άνθρωπος παραμένει υπεύθυνος για την απόφαση.