AI 伴侶應該記住什麼?選擇保留哪些內容的實用指南
如果你正在決定 AI 伴侶在對話之間應該記住什麼,請從你刻意提供且預期再次發揮作用的精簡細節清單開始:穩定的回覆偏好、進行中的專案背景資訊,以及與該專案相關的少數實用事實。將一次性的情境細節保留在其所屬的專案或對話中。不要將系統推斷模式的能力視為儲存它的許可。有用的記憶有助於完成具體的未來任務、保持在其預期的範圍內,並且可以被檢視或移除。
從記憶應該改善的任務開始
在儲存某個細節之前,先完成這句話:「記住這個將有助於 ___。」如果答案很模糊,該細節可能就不屬於持久記憶。「在協助我規劃週末活動時使用簡潔的列點」有明確的目的。「在昨天的聊天中我似乎很不耐煩」則無法確立持久的偏好或有用的事實。
這是資料最小化(data minimization)的實際應用:NIST 將最小化定義為將個人資訊的建立、使用和保留限制在與特定目的直接相關且必要的範圍內,並且僅在該目的所需的時間內保留。對於記憶功能而言,相應的設計問題是系統以後是否需要這個細節來執行使用者選擇的任務。NIST 的最小化定義
良好的候選項:明確的偏好和有用的專案事實
最強大的候選項是使用者明確說明且可能塑造重複回覆的普通細節。範例包括偏好的回答格式、選定的專案名稱、手工藝專案已選取的材料,或者使用者在規劃陽台花園時說明的對低維護植物的偏好。儲存仍有幫助的最少細節版本:「偏好簡短、逐步的指示」比儲存有關使用者每次要求簡潔的敘述更有用,侵入性也更低。
某些個人事實僅在特定專案內相關。如果使用者在規劃房間佈局時提到房間為 3 乘 4 公尺,該尺寸可能在房間設計專案內有所幫助;它不需要成為無關對話的一般背景資訊。具專案範圍的記憶回答了一個簡單的問題:允許哪些未來的對話引用此細節?
產品說明文件展示了為什麼將持久記憶與專案背景資訊視為不同選擇會有所幫助。OpenAI 將儲存的記憶描述為與聊天記錄分開,並記錄了一個「僅限專案(Project-only)」的記憶選項,以限制哪些專案對話可以互相引用。這些是特定於產品的控制項,並不保證每個 AI 系統都提供相同的範圍。OpenAI 的記憶說明文件
讓暫時的情境細節保持暫時性
一個細節現在有用,不代表以後也有用。你所坐的咖啡館、今天的天氣、暫時的購物清單或未完成的決定可能對回答當前的請求有幫助,但很快就會過時。除非你明確要求將它們延續下去,否則請將它們保留在當前的對話或專案中。如果它們被儲存,請附加範圍和檢視點:例如,「針對這次旅行計畫」或「直到我選好筆記型電腦為止」。
這避免了將一時的情境變成假定的特質。一次對安靜咖啡館的要求並不能證明對安靜場所的永久偏好;選擇一次鮮豔的顏色並不能確立持久的美學風格。安全的設計推斷是在需要時將使用者的話保留為具特定範圍的事實,而不是默認將其概括為性格描述。
Google 的 Gemini 隱私權說明文件區分了儲存的指示與過去聊天的個人化設定,並指出使用者可以管理或刪除儲存的資訊。它還指出,過去聊天的個人化設定可能會使用來自聊天的資訊。這種區分支援了一條實用的產品設計規則:刻意設定、可編輯的偏好應該能夠與從對話記錄中獲取的背景資訊分開識別。Gemini 應用程式隱私權中心
預設不推斷敏感特質或儲存第三方細節
記憶系統不應將對話線索轉化為敏感的結論。使用者的措辭、日程安排、購買行為或一次性選擇,並不能成為猜測個人特質、境遇或動機的理由。即使推論聽起來合理,它也可能是錯誤的,如果將其視為確認的事實,未來的回答可能會變得尷尬或具誤導性。僅在使用者提供的事實具有明確的任務相關用途時才將其儲存;不要將其轉化為關於使用者是誰的廣泛主張。
對其他人的資訊也採取類似的克制態度。專案可能需要使用者明確提供的姓名或角色,但例行對話不應演變成關於朋友、親戚或同事的持久檔案資料。如果某個第三方細節對特定任務是必要的,請將其保留在該任務的範圍內,並避免不必要的個人細節。這是源自最小化原則的產品設計建議,而非聲稱每項服務都以相同方式處理此類資料。
為每條記憶設定範圍、來源和檢視路徑
當介面清楚說明記憶的內容、來源以及可以在哪裡使用時,記憶就更容易被信任。實用的記憶記錄可能包括:使用者提供的確切陳述;其目的;它是廣泛適用還是僅適用於一個專案;以及可選的檢視日期或移除條件。例如:「對於陽台花園專案,偏好需要較少澆水的植物;在選定植物清單時進行檢視。」這是一種說明性格式,並非任何指名產品的現成功能。
使用者應該能夠檢查、更正和移除記住的資訊。他們還應該能夠區分刪除記憶與刪除聊天記錄或更改更廣泛的個人化設定之間的差異。OpenAI 的說明文件解釋說,儲存的記憶可以與聊天記錄分開,因此僅刪除來源聊天記錄可能不會刪除分開儲存的記憶。Gemini 的隱私權中心同樣描述了分開的活動控制項和已儲存資訊控制項。這些產品範例說明了為什麼明確的刪除路徑應該解釋控制項影響的是哪個層級。OpenAI 記憶控制項,Gemini 應用程式資料控制項
記憶選擇與公開披露及設定範圍是分開的
選擇哪些內容屬於記憶只回答了一個問題:哪些細節應該保留以供未來的個人化使用?它本身並不能解釋服務收集了哪些資訊、如何處理聊天記錄、誰可以檢視資料,或者適用哪些帳戶和設定控制項。那些是分開的公開披露和設定範圍問題。產品應當分開且準確地描述它們,而不是暗示精簡的記憶清單就意味著沒有處理其他資料。
這種區別在實踐中很重要。Google 的隱私權聲明描述了幾類資訊和設定,包括儲存的指示、活動控制項、已連結的應用程式,以及使用資料來提供和改善服務。確切的行為因產品和設定而異。因此,記憶選擇介面應該說明其管理的內容,並引導使用者前往適用的隱私和設定資訊,而不是暗示它取代了那些說明。Gemini 應用程式隱私權中心
針對每項建議記憶的簡短決策測試
在儲存細節之前,請思考四個問題:
它是明確提供或批准的嗎?如果它只是一種詮釋,請勿將其作為事實儲存。
它會改善某個特定且可能的未來任務嗎?指名該任務;如果想不到,就將其排除在外。
它的適當範圍是什麼?對於不屬於一般個人化設定的細節,請使用專案邊界。
使用者可以檢視並移除它嗎?如果不能,介面就不應將其呈現為簡單、受使用者控制的記憶。
例如,在房間規劃專案中,「使用者為書房選擇了一張緊湊型書桌」在佈局完成之前可能很有用。在規劃期間光顧的咖啡館可能只是暫時的。除非使用者明確說明該偏好並希望將其更廣泛地使用,否則不應儲存使用者「總是偏好極簡主義」的猜測。這些範例應用了決策測試;它們不是研究結果或對特定產品的主張。
克制的記憶系統不需要建立完整的個人資料。它應該延續少數明確的偏好和實用事實來服務選定的活動,將局部細節保留在局部,並使更正和刪除變得容易理解。其目標是基於使用者實際所說內容的連續性——而不是宣稱 AI 了解對話背後的那個人。
