團隊文章

Ernie Bot，以及每個 AI 助理背後的問題：誰在控制答案？

Ernie Bot 是一個適合用來追問的案例：AI 助理在一個人與世界之間放入了什麼？語言、來源、預設值、介面，以及責任。了解在把流暢的回答當成權威之前，應該檢查哪些事情。

Ann · 2024年6月7日 · 約 5 分鐘讀完

把百度的 Ernie Bot 描述成一個產品故事很容易：一個中文語言模型、一家大型公司，以及一長串可能的用途。這樣的描述漏掉了讀者在信任任何助理之前需要回答的問題：我的問題與我試圖理解的世界之間，究竟隔著什麼？

AI 助理不只是取回一個中立的答案。它會解讀你提供的文字，從訓練內容與連接的來源中選擇模式，遵循服務的規則，再透過介面呈現結果。Ernie Bot 是一個有用的案例，因為語言、在地脈絡、平台權力，以及資訊存取在同一個系統裡相遇。

本指南說明如何觀察這個系統，而不把一個持續變動的產品變成永久排名。目標不是宣布誰是贏家，而是協助你把問題、證據與決定留在自己手上。

什麼是 Ernie Bot？

Ernie Bot 也稱為文心一言，是百度以 Ernie 語言模型家族為核心建立的對話式 AI 服務。人們可以要求它解釋、摘要、翻譯、撰寫草稿或整理一連串想法，而系統會生成一個看起來像對話的回答。

重要的區別在於：產生流暢的回答，與知道回答是真的，是兩件不同的事。模型可以在沒有親眼見到事件、查核來源，或理解建議後果的情況下，延續語言中的模式。一句順暢的話只是輸出格式，不是證明。

每次使用助理時，都有四個層次值得注意：

你的措辭會形塑系統以為自己收到的問題。模糊的要求可能讓它對另一個問題給出自信的答案。在評估結果之前，請系統重新說明任務，並把已知事實與假設分開。

模型的回答反映了它能取得的材料與其中的關係，但回答不會自動揭示哪個來源產生了哪一句話。如果答案很重要，請要求提供你能打開的來源，並親自檢查相關主張。

服務會決定它能存取什麼、會拒絕什麼、如何處理敏感主題，以及哪些說法被視為可以接受。這些界線可能是服務運作所需，但也會形塑答案。使用者應該能辨認出這種形塑。

聊天視窗會讓複雜的系統看起來像一位樂於助人的說話者。營運系統的公司控制模型更新、帳戶關係、資料設定與可用的整合功能。如果使用者沒有刻意查看，介面可能把這些依賴關係藏起來。

對話是一種強烈的社會訊號。當回答來得很快、文法自然，而且貼合你的措辭時，你會覺得另一個心智理解了你。但系統可能仍在猜測，把多個來源壓縮成一段話，或用一個看似合理的虛構填補缺失的步驟。

把助理當成探索、起草與比較的工具。當輸出會影響健康、金錢、教育、工作、權利，或另一個人的名譽時，請把主張帶回人的流程：找出來源、核對日期、檢查缺少的脈絡，並決定誰要負責。

當任務有清楚邊界，而且人仍然掌握主導權時，Ernie Bot 與類似系統可能很有用。它們可以協助把粗略的問題整理成研究大綱、比較兩種解釋、翻譯一段文字供初步閱讀、產生不同的措辭，或提出你尚未問過的問題。

這些是協助的形式，不是把判斷轉交出去。要求越開放，使用者就越需要定義任務、保存輸入並驗證結果。「告訴我什麼是真的」不是控制機制。

把回答改寫成一個或多個可以查核的陳述。如果你無法說明系統主張了什麼，就無法有意義地驗證它。

要求來源、來源日期，以及支持主張的確切段落。在你打開引文並確認它確實說了回答所說的內容之前，都把引文當成線索。

詢問系統不知道什麼、無法存取什麼，或可能假設了什麼。把回答與另一種措辭的要求互相比較，記下哪些地方改變了。

保存原始問題、回答、來源、修改內容與最後決定。如果服務更換模型或帳戶規則，你的推理仍應該能夠移植。

在發布或採取行動之前，指定一個人核准這項主張。助理可以提出文字，但不能替你承擔責任。

當 AI 的中介過程可見時，它才更有用。把問題與回答分開，把回答與證據分開，也把證據與決定分開。記錄重要的轉換，揭示會影響結果的預設值，並讓人們在生成的回答誤導他們時，有辦法修正公開紀錄。

這也是貫穿 Lu Heng 工作的同一種紀律。他的生成式 AI 指南解釋了為什麼指令不是理解。他關於現實層次與象徵權力的 Note，要求讀者把存在的事物，與覆蓋其上的標籤和敘事分開。助理應該幫助人完成這種分離，而不是成為讓分離變得不可能的新權威。

AI 的回答已經進入教室、客服、工作場所、搜尋結果與私人決定。採用速度可能比查核答案所需的習慣更快。如果使用者把流暢的輸出當成權威，系統營運者就會悄悄取得控制權：哪些問題可見、哪些來源算數，以及哪些結論感覺合理。

因此，迫切的選擇不只是 Ernie Bot 是否具備某個功能，而是人們能否使用強大的系統，同時保有檢查、比較、修正與離開的權利。這才會讓助理從一個有說服力的介面，變成一個仍對使用者負責的工具。

給系統一個範圍很窄的任務，而且你已經知道如何查核它的答案。保存提示詞、回答與來源。標記哪些是事實、哪些是詮釋，以及哪些仍然未知。接著決定這個工具是否增加了你的理解，還是只增加了主張抵達你面前的速度。