AI 伴侣在记住家庭成员的名字之前,应该如何进行确认?
对于产品设计师和细心的用户来说,关键在于:在用户明确批准保存之前,将人名视为未确认的信息。名字可能出现在直接陈述、引用、导入的文本或模型的猜测中;这些来源并不等同。清晰的确认步骤,加上查看、修正或删除已保存内容的方式,能让用户完全掌控伴侣在后续对话中保留的信息。
为什么姓名在转化为记忆前需要确认
设想一下,用户说:“我妹妹 Maya 这个周末要来。我表亲的便签里把她叫作 Maja,但我觉得那是笔误。”这段对话包含两种拼写和一种关系。助手可能会倾向于推断 Maya 是妹妹,而 Maja 是拼写错误。但表亲的便签可能指的是另一个人,而“我觉得”本身就代表着不确定性。将任何一种拼写作为既定事实保存,都会将一个未确定的细节转化为长期的上下文。
在设计上,一个有用的区分是用户直接陈述的内容与系统仅仅遇到或得出的结论。“我妹妹是 Maya Chen”是直接陈述。粘贴的便签中的名字是引用或导入的上下文。“Maja 肯定是指 Maya”属于推断。在没有明确来源的情况下提供的名字则是猜测。这些类别有助于助手决定是否需要询问,也有助于用户理解为什么要询问。它们是为伴侣产品设计提出的一种工作流程,并不代表所有 AI 产品目前都已采用这种方式处理姓名。
实用的确认工作流程
在保存第三方的姓名之前,助手应当用通俗易懂的语言明确指出提议保存的具体记忆,并请用户确认。例如:“你想让我记住你妹妹的名字叫 Maya Chen 吗?”这个问题应当明确正在保存的拼写和关系。含糊的一句“需要我记住这个吗?”会留下太多误解的空间。
如果用户确认,仅保存确认的细节,并清晰显示记忆已保存的提示。如果用户拒绝、未予回答或转移话题,则不要将该姓名存入记忆。只有在需要用于回复时,才将该不确定细节保留在当前对话中,并避免将其作为既定事实重复提及。如果用户对提议进行了更正——“她叫 Maja,而且她是我的表亲”——在保存之前,先询问是否应记住这个修正后的版本。
一个实用的顺序是:
**注意来源。** 该姓名是由用户直接陈述的、从某条消息中引用的、从文件或连接的来源导入的、根据上下文推断的,还是猜测出来的?
**检查冲突。** 将拼写和关系与用户在当前交流中所说的内容以及任何相关的已存记忆进行对比。将不一致视为未解决的问题,而不是去选择看起来可能性最大的版本。
**就精确的记忆进行询问。** 陈述提议的姓名和关系,然后邀请用户进行更正,或给出明确的“是”或“否”。
**仅在明确确认后保存。** 保持保存内容的表述简洁精确;不要擅自添加未经确认的全名、昵称或其他关系细节。
**展示结果与控制选项。** 告知用户是否已保存,并提供查看、修改或删除该记录的途径。
当拼写或关系存在冲突时该怎么做
在 Maya/Maja 的例子中,助手不应悄悄统一拼写。它可以说:“我在你的消息中看到了 Maya,在便签中看到了 Maja。我应该使用哪个拼写,并且应该将什么关系与这个人关联起来?除非你确认,否则我不会保存姓名。”如果用户只回答“Maya”,拼写虽然明确了,但在保存类似“你的妹妹 Maya”这样的组合记忆之前,可能仍需要厘清关系。
确保修正仅针对其所解决的具体细节。用户确认了“Maja”,并不一定意味着确认了 Maja 就是妹妹;确认了关系,也并未确定应该使用正式名字还是昵称。如果用户不确定,保持该记忆为未保存状态,让他们稍后再处理。这是一项设计建议:不确定性应当保持可见,而不是被听起来很自信的回答掩盖起来。
有益的反面案例:何时不该询问或保存
假设用户粘贴了一段提到“Maya”的家庭群聊记录,然后请求进行总结。助手可以直接总结该摘要,而无需询问是否保存该名字。在对话中提及第三方、引用他人的话,或请求一次性任务的协助,其本身并不意味着用户希望建立持久的记忆。每次出现名字就询问也会打断日常任务。确认提示应该出现在系统提议将该细节存入记忆的节点上;如果没有理由保存它,直接略过即可。
让用户查看、修正和删除记忆
确认只是有效记忆控制的一部分。用户应当能够在记忆视图中看到已保存的条目,区分存储的拼写和关系,修正任意字段,或移除该条目。当修正更改了系统应当使用的内容时,界面应当清晰展示最终保存的版本。当用户请求删除时,系统应当指示记忆是否已被移除;口头上的一句“我会忘记这一点的”本身并不能作为持久记录已更改的证据。
OpenAI 的 ChatGPT 帮助文档提供了一个具体的实际案例,说明了为什么这些控制选项至关重要:它指出记忆可能来自多个可用来源,可能不会保留所有细节,并提供了修正和删除控制,具体的移除步骤取决于信息的存储位置。这些细节描述的是 ChatGPT,并非 AI 伴侣的通用标准。请参阅 [ChatGPT 中的记忆功能](https://help.openai.com/en/articles/8590148-memory-in-chatgpt)。
同样,像“收到,我会记住 Maya”这样的对话式回复,并不能证明持久记忆实际上已被保存。系统应当通过可见的记忆状态或其他可靠的产品信号,将普通的答复与已确认的保存区分开来。这样,用户就可以直接检查记忆控制选项,而无需从友好的字句中去猜测实际发生了什么。
面向设计师和用户的精简决策规则
对于每一个提议保存的第三方姓名,请问:**来源是什么?拼写是否明确?关系是否明确?用户是否明确批准了将这一确切细节存入记忆?** 如果任何一个回答是不确定的,请在保存前先暂停。如果用户批准,让存储的条目可见且可编辑;如果没有,就不要将其存入持久记忆中。这条精简的决策规则将审核重点放在了不确定的上下文即将转变为关于某人的持久定论的那一刻。
记住家庭成员的姓名应当保留用户原本想要表达的用词,而不是将引用、导入、推断或猜测转变为事实。就具体的姓名和关系进行询问,仅在明确确认后才保存,并确保结果可供查看、修正和删除。将确认过程与保存本身分离开来,这样无论是系统还是用户,都不会把对话中的随口承诺误认为是记忆已更改的证据。
