使用無關緊要的細節測試 AI 對話工具的記憶力
如果您希望 AI 對話工具在不同對話間記住某個無傷大雅的偏好,可以在虛構專案中測試一個小細節,然後檢查是否可以檢視並移除該細節。有效的測試能區分工具是從當前對話延續內容,還是儲存或衍生內容供日後使用。測試結果僅代表該工具當時在您帳戶中的表現;並不代表它在每次對話中都能準確回想。
AI 對話工具中的「記憶」代表什麼?
對話工具可能會將您當前對話中的訊息作為上下文。這有助於它回應同一對話串中先前提到的細節。某些工具還可以利用來自先前對話、已儲存的記憶條目、自訂指令、檔案或已連結服務的資訊。可以使用哪些來源取決於產品和帳戶設定。
OpenAI 的記憶功能常見問題(Memory FAQ)將「已儲存的記憶」與「從對話記錄中引用的資訊」進行了區分。儲存的記憶與原始對話分開存放,因此僅刪除對話並不一定會刪除相關聯的已儲存記憶。對話記錄引用功能(在可用且啟用的情況下)可以借鑒以往對話中的相關資訊。OpenAI 還指出,記憶功能和控制項可能會因方案、地區、平台和工作區設定而異。
這些區別在連貫性測試中至關重要。工具顯得「記得」某些內容,可能是因為原始對話仍處於開啟狀態、因為它可以引用先前的對話,或是因為它儲存了記憶。這些運作方式各有不同,僅僅一次成功的回答無法告訴您究竟是哪個來源提供了該細節。
進行無關緊要的偏好測試
使用一個虛構的專案和無關痛癢的偏好,例如:「在我名為 Paper Kite 的虛構專案中,我希望草稿章節名稱保持簡短。」請勿使用個人、敏感或機密資訊。此測試的目的在於檢驗一個簡單的偏好,而非測試工具是否能重構複雜的歷史記錄。
客觀解讀結果,避免過度推論
簡單的記錄能讓測試保持實用價值:
如果工具遺漏了該偏好,這本身並不代表記憶功能損壞:記憶可能已被關閉、不可用、僅限於特定區域,或者無法在新對話中使用該來源。如果它正確記住了偏好,也不代表它能始終如一地回想其他細節。請保持謹慎狹義的結論:「在此設定下,它確實(或未能)將此偏好帶入新對話中。」
若想獲得更精確的測試,可以在另一個虛構專案中使用第二個無關緊要的偏好重複進行,且每次只改變一個變因。例如,僅在產品說明常規新對話與專案專用對話的運作方式不同時,才將兩者進行比較。每次都要記錄設定;否則,不同的設定可能會使結果看起來互相矛盾。
檢查您可以檢視、編輯和刪除的內容
在依賴記憶功能之前,請找到工具的實際控制項並檢查三項獨立操作:
請仔細閱讀文字說明。例如,OpenAI 的常見問題指出,要求 ChatGPT 不要提及某些內容只會改變個人化設定,並不會刪除原始來源。它還說明,若要移除已記住的資訊,可能需要同時刪除儲存的記憶以及最初分享該記憶的對話;檔案或已連結的應用程式等其他來源可能需要單獨處理。關閉記憶功能並不一定等同於刪除先前的對話或儲存的細節。請遵循產品記憶常見問題(Memory FAQ)中的最新指示,因為可用的控制項可能因帳戶而異。
不同對話工具之間的控制項也有所不同。Tolan 的官方常見問題指出,其應用程式中的對話都會被記錄並用於產生記憶,並介紹了如何透過應用程式的個人檔案設定刪除帳戶。這是特定產品的描述,並非所有 AI 對話工具的通用規則。請檢查您實際使用的服務,不要直接預設其他產品的記憶與刪除控制項同樣適用。
連貫性與控制力的實用標準
當您可以進行小型測試、查看可能使用的資訊、在出錯時進行更正,並找到明確的路徑將其移除時,記憶功能評估起來就會容易得多。請將結果視為單一設定下針對單一偏好的驗證,而非穩定可靠記憶的保證。如果控制項沒有明確說明儲存了什麼或如何移除,在您完全了解產品目前的指引之前,請避免將資訊存入記憶。
真正值得探討的問題不只是「這個對話工具記得嗎?」而是:「它能否將一個無關緊要的偏好帶入新的對話中?我能否看到它使用了什麼?以及我能否透過可用的控制項來修改或移除該資訊?」
資料來源與範圍
引用的來源支援相關定義和具體指導。範例均為原創編輯說明;若產品細節有所變更,請以最新官方頁面為準。本篇內容不保證任何特定結果。
