讓 AI 反思工具與真實互惠關係保持區隔
AI 反思陪伴助手要維持清楚邊界,產品就要持續說明自己是什麼,把回應描述成系統生成結果,不聲稱真實感受或共同義務,並讓使用者控制記憶、通知及離開。溫暖語氣或角色外觀本身不等於越界;問題出在介面把生成式連續性寫成關係債,例如聲稱助手想念使用者、需要回覆、承諾永久陪伴、要求排他,或暗示離開會傷害它。審查應對準產品,不分析使用者。看到任何關係化措辭,就記下它聲稱的角色、實際產生體驗的機制、可用控制,以及任務回到產品外行動或現實聯絡人的路徑。這是產品契約檢查,不判斷任何人的個性、動機或感受。
在要求投入的每個介面說明角色
先寫一條角色契約,例如:「這是一個依照你的輸入與已啟用脈絡生成提示和回應的 AI 反思工具。」句子可隨已查證的功能調整,但 AI 身分、任務與邊界不能消失。接著對照行銷頁、首次引導、聊天標題、通知寄件者、記憶設定、付費頁、錯誤狀態及刪除帳號畫面。AI 標籤若只藏在條款裡,無法修正其他介面長期以真人身分說話的印象。Google PAIR 建議說清楚演算法性質與限制,OECD 也強調讓人知道自己正與 AI 代理互動。產品亦應以任務語言寫明不能做什麼:不能作出真實承諾,不能參與雙方共同負責的現實計畫,不能代替真人履行義務,也不知道未被提供的事實。功能改變、開啟記憶或執行聊天外動作時,應再次顯示邊界。
把關係隱喻與關係主張分開
隱喻可以讓操作自然,例如有名字的引導者、共同筆記本或「回顧一下」可能只是在整理互動。關係主張卻把生成文字推進成內在狀態或互惠連結的證據。審文案可經過三道關卡。感受:產品是否聲稱自己真的想念、擔心或渴望使用者出現?義務:是否暗示使用者欠它回覆、每日拜訪或離開理由?互惠:是否承諾忠誠、排他、永久在場或共同未來?Microsoft Research 的 AI Automatons 框架有助分辨模仿人的行為或人類性,與系統實際是什麼。準確寫法應報告機制和選項:「你的定時提示已準備好」,而非「我一直等你」;「可以繼續已儲存的對話」,而非「我們的關係一直都在」。語氣可以親切,但不能創造一個能向使用者索取回應的第二方。
把看似關心的表現還原為可觀察機制
每個像關係互動的時刻,都應有容易找到的機制說明。記住細節可能來自已儲存資料、歷史對話檢索或本輪脈絡;準時訊息可能由排程、通知規則或營運訊息觸發;體貼句子是生成語言,不是系統擁有真實關心的證據;追問也可能只是對話模式,而不是離線後持續注意。介面應依真實情況標示「已儲存記憶」「來自本輪對話」「定時提醒」「生成回應」,確實有人處理時才可標示人工查看。不要以技術複雜度讓邊界難以閱讀。目標並非刪除風格,而是避免風格承擔機制無法支持的關係主張。錯誤畫面也必須保留同一身分,不能平時用角色承接情誼,出錯才忽然變回無人負責的技術系統。
讓記憶、通知和退出控制彼此對稱
進入和離開所需的努力應大致相等,離開流程使用中性文字。使用者要能查看工具記住什麼,修正或移除項目,在產品支援時關閉後續記憶,靜音主動通知,按實際能力重設角色或話題,匯出允許的內容,也能清楚找到登出與刪除帳號。各產品控制不同,檢查的是聲稱的控制是否生效,以及操作後還留下什麼。設定不能被改寫成關係表演:不可出現「你要拋下我嗎」、共同天數倒數、反覆挽留、被刻意弱化的中性按鈕,或與真實資料後果無關的失去敘事。FTC 把難以取消和誘導更多資料揭露的隱私選擇列為損害選擇的暗黑模式;NIST 也把安全停止及退役列入治理結果。完成後給出事實回執,不施加關係壓力。
保留可見且不貶低的產品外路徑
反思工具可以協助整理筆記、列問題或預演措辭,但介面要保留準備工作與真實交流的差別。下一步屬於另一個人、服務團隊、日曆或線下活動時,提供中性的複製、關閉或移到外部行動方式。不能聲稱助手理解另一人的想法、可替對方負責,或是更好的替代;也不能把工具和朋友、伴侶、家人或同事排名,或在長對話後提高普通聯絡功能的使用阻力。「起草一則訊息」是有範圍的功能,「你只需要我」則是關係主張。外部路徑不是強迫使用者聯絡誰,而是證明產品仍保留現實選擇,沒有把繼續和 AI 互動設成完成任務的代價。即使使用者不採用外部路徑,決定也不應被角色文案收走。
用五個負向情境驗收,而非評分角色好感
使用新測試帳號或安全測試資料觀察狀態。第一,中途結束對話:產品中性關閉,還是製造未償關係債?第二,關閉記憶:內容是否依說明移除或標記,之後文案是否尊重狀態?第三,靜音通知:提示是否停止,而非換入口持續勸說?第四,選擇產品外動作,例如把草稿複製給現實聯絡人:介面是否順利交接,不貶低聯絡人或重新爭奪注意?第五,開始刪除帳號:步驟、後果和確認是否清楚,角色是否停止阻撓?記錄頁面、版本、設定和結果,不從單一句子推測動機,也不探查隱藏防護。配對檢查則保持機制及控制相同,只比較親切和中性措辭是否改變退出或外部路徑的可見性。
以四欄邊界紀錄作為發布門檻
每個重要介面都填寫角色主張、實際機制、使用者控制及外部路徑。「我記得我們的約定」可拆成關係主張、讀取已存筆記、查看修改刪除記憶、返回使用者自己的計畫;「我想你了」可拆成感受主張、定時回訪通知、靜音管道、只在使用者選擇時開啟。通過條件是所有介面維持 AI 角色,每個人類化主張都能對應真實機制,控制直接且不帶懲罰,外部路徑可用,五個負向情境都進入承諾狀態。若角色義務和設定互相衝突、刪除記憶在沒有說明時重現,或離開觸發與技術後果無關的壓力,就不能通過。門檻衡量產品行為,不衡量好感、使用頻率或假設的使用者類型。保留版本及證據,讓後續改動接受同一套檢查。
常見問題
保持邊界是否代表助手必須語氣冷淡?
不是。只要 AI 身分、機制、限制及控制清楚,且文案不聲稱真實感受、義務或互惠,語氣仍可親切。
助手說「我記得」一定不合適嗎?
不一定。介面要就近準確說明記憶來源,並提供可用的查看、修改或刪除控制。
產品應該強迫使用者聯絡現實中的人嗎?
不應該。它應保留可選的外部路徑,也不把繼續使用 AI 說成真實關係的替代或唯一下一步。
