Kimi i pitanje ko kontroliše razgovor

Kimi je predstavljen kao kineski konverzacijski AI alat. To je korisna polazna tačka, ali stranica proizvoda lako može postati spisak funkcija i izgubiti pitanje na koje čitalac zaista treba da odgovori: kada pomoćnik govori tečno, šta se tačno nalazi između mog pitanja i sveta?

Ovaj tekst posmatra Kimi kao konkretan primer šire promene. AI pomoćnici mogu ljudima pomoći da čitaju, porede, sastavljaju nacrte i istražuju. Mogu i da oblikuju ono što osoba vidi, pamti i prihvata kao odgovor. Razumevanje te granice važnije je od ponavljanja tvrdnje iz predstavljanja ili poređenja jednog četbota sa drugim.

Pitanje je veće od Kimija

Kimi pripada novoj klasi softvera koji posreduje u razgovoru kroz model. Korisnik postavlja pitanje. Sistem ga tumači, oslanja se na raspoloživi kontekst i vraća odgovor koji zvuči povezano. Rezultat može biti koristan, ali tečnost nije isto što i dokaz, a uslužan ton nije isto što i autoritet.

Zato prvo pitanje nije „Da li je Kimi inteligentan?” Umesto toga pitajte: Šta može da vidi, šta pamti, koje izvore mogu da proverim i šta se dešava kada pogreši?

Čime AI pomoćnik zaista posreduje

Jezik

Pomoćnik pretvara nameru izraženu običnim jezikom u zahtev koji model može da obradi. Tako se snižava prepreka za korišćenje softvera, naročito ljudima koji ne govore tehničkim rečnikom sistema. To takođe znači da formulacija, prevod i kulturni kontekst mogu promeniti put do odgovora.

Kontekst

Dugački dokumenti i razgovori mogu učiniti da pomoćnik deluje pažljivo. Kontekst je i dalje ograničen unos, a ne garancija da sistem razume nečiju situaciju. Model može prevideti rečenicu, pratiti pogrešnu pretpostavku ili preneti raniju grešku u kasniji odgovor.

Izvori

Neki odgovori potiču iz materijala dostavljenog u razgovoru; drugi mogu zavisiti od pretraživanja, obuke ili sopstvenih podataka aplikacije. Ako interfejs ne čini tu razliku vidljivom, čitalac mora da nagađa šta podržava odgovor. Citiranje koje ne može da se proveri jeste ukras, a ne provera.

Podrazumevane postavke

Proizvod odlučuje koji model odgovara, kako rade bezbednosne postavke i postavke stila, šta se čuva, koji su alati dostupni i kuda razgovor može dalje da ide. Te odluke su deo iskustva čak i kada su skrivene iza prijatnog polja za čet.

Dug prozor konteksta nije dugo pamćenje istine

Veliki unosi su korisni za poređenje ugovora, organizovanje istraživanja ili postavljanje pitanja o zbirci dokumenata. Oni ne čine svaku rečenicu tačnom. Što više materijala sistem može da primi, važnije je razlikovati sam dokument od sažetka koji je napravio model.

Pažljiv čitalac drži originalni izvor pri ruci. Tražite od pomoćnika da pokaže odlomak koji je koristio, proverite ga sami i zaključak bez oslonca tretirajte kao predlog za proveru, a ne kao činjenicu za ponavljanje.

Zašto su jezik i mesto važni

Pomoćnik na kineskom jeziku nije samo engleski sistem sa kineskim oznakama. Primeri iz kojih je učio, izrazi koje prepoznaje, pretpostavke ugrađene u njegove filtere i izvori koji su mu dostupni svi utiču na razgovor. Pristup na sopstvenom jeziku je vredan, ali ne treba da zahteva od korisnika da se odrekne mogućnosti da ispita granice sistema.

Isti princip važi za svaku regionalnu ili nacionalnu AI uslugu. Lokalni kontekst može učiniti pomoćnika korisnijim. Može i učiniti podrazumevane postavke manje vidljivim ljudima koji pretpostavljaju da je tečan odgovor neutralan prozor u stvarnost.

Šta proveriti pre oslanjanja na pomoćnika

Pre nego što bilo koji konverzacijski model upotrebite za zadatak sa ozbiljnim posledicama, postavite pet jednostavnih pitanja:

• Koji izvor ili odlomak podržava ovaj odgovor?
• Koje informacije se zadržavaju i ko im može pristupiti?
• Koje podrazumevane postavke odlučuju šta će pomoćnik prikazati ili odbiti?
• Mogu li da izvezem razgovor i rad koji mi je pomogao da napravim?
• Koji je put za ispravku ili prigovor kada odgovor nekome nanese štetu?

Ova pitanja ne zahtevaju tehničko predznanje. Ona korisnika zadržavaju u ulozi ispitivača umesto da pomoćnika pretvore u nevidljivog donosioca odluka.

Rešenje: tretirajte pomoćnika kao instrument, ne kao autoritet

Korisni pomoćnik treba da proširi sposobnost osobe da poredi i deluje, a da važne slojeve drži vidljivim. Sačuvajte izvorni izvor. Označite generisani tekst kao generisan. Zadržite ljudsku proveru kada odluka utiče na drugu osobu. Omogućite korisnicima da odu sa svojim radom, dokazima i istorijom. Dajte im način da isprave zapis.

Ovo je pitanje dizajna sistema, a ne samo dizajna interfejsa. Beleška Lu Henga o Beleška o slojevima stvarnosti i simboličkoj moći nudi srodan način da se razdvoje ono što postoji od oznaka i priča postavljenih preko toga. Njegova Beleška o prvenstvu izvršnog koda pita da li sistem ostaje odgovoran ljudima koji se oslanjaju na njegovo stvarno ponašanje.

Zašto je ovo važno sada

Konverzacijski AI ulazi u pretragu, obrazovanje, radna mesta, korisničku podršku i javnu komunikaciju. Važna odluka više nije da li četbot može da proizvede ubedljivu rečenicu. Važno je da li okolni sistem omogućava ljudima da vide dokaze, zadrže kontrolu nad svojim radom i ospore odgovor koji je postao važan.

Kimi vredi razumeti kao proizvod i kao znak ove šire tranzicije. Koristite ga za istraživanje, poređenje i pisanje nacrta. Nemojte mu dati konačni autoritet nad tim šta je istina, šta je neko mislio ili šta druga osoba treba da uradi.

Praktičan početak

Dajte pomoćniku ograničeno pitanje, navedite izvor koji treba da koristi, zatražite neizvesnost i citate, a zatim proverite odgovor prema izvoru. Ta mala navika menja odnos: model postaje alat za razmišljanje, a osoba ostaje odgovorna za odlučivanje.