AIコンパニオンは家族の名前を記憶する前にどのように確認すべきか？

なぜ記憶として定着する前に名前の確認が必要なのか

ユーザーが「今週末、妹のMayaが遊びに来ます。いとこからのメモにはMajaと書いてありましたが、誤字だと思います」と言ったと想像してみてください。この会話には2つのスペルと1つの関係性が含まれています。アシスタントは、Mayaが妹でありMajaは誤りであると推測したくなるかもしれません。しかし、いとこのメモは別の人を指している可能性があり、「〜だと思います」は不確実性を示しています。どちらかのスペルを確定した事実として保存してしまうと、未解決の詳細が長期的なコンテキストになってしまいます。

有用な設計上の区別は、ユーザーが直接明言したことと、システムが単に遭遇しただけ、あるいは結論付けただけのこととの間を分けることです。「私の妹はMaya Chenです」は直接の言及です。貼り付けられたメモの中の名前は引用またはインポートされたコンテキストです。「MajaはMayaに違いない」は推論です。明確な情報源なしに提供された名前は推測です。これらの分類は、アシスタントが確認を求めるべきかを判断するのに役立ち、ユーザーにとってもなぜ確認されているのかを理解する手助けになります。これらはコンパニオン設計のために提案するワークフローであり、すべてのAI製品がすでにこのように名前を処理していると主張するものではありません。

実用的な確認ワークフロー

第三者の名前を保存する前に、アシスタントは保存対象として提案する内容を平易な言葉で正確に特定し、ユーザーに確認を求めるべきです。例えば、「妹さんのお名前がMaya Chenであることを記憶してもよろしいですか？」といった形です。この質問では、保存されるスペルと関係性の両方を明確にする必要があります。「それを記憶しましょうか？」といった曖昧な聞き方では、誤解の余地が大きすぎます。

ユーザーが確認した場合は、確認された詳細のみを保存し、記憶が保存されたことを明確に示します。ユーザーが「いいえ」と答えた場合、回答を拒否した場合、または話題を変えた場合は、その名前を記憶に格上げしないでください。不確実な詳細は、応答にどうしても必要な場合に限り現在の会話内に留め、確定した事実として繰り返すことは避けます。ユーザーが提案を訂正した場合（「彼女の名前はMajaで、私のいとこです」など）、保存する前にその訂正されたバージョンを記憶すべきかどうかを尋ねます。

有用な手順の流れは以下のとおりです：

**情報源に注意する。** その名前はユーザーから直接述べられたものか、メッセージからの引用か、ファイルや接続されたソースから取り込まれたものか、文脈から推論されたものか、あるいは推測されたものか？

**矛盾がないか確認する。** スペルと関係性を、現在のやり取りでユーザーが述べた内容や関連する保存済みの記憶と比較します。不一致は未解決として扱い、最も可能性が高そうに見えるバージョンを勝手に選ぶ合図にしてはなりません。

**具体的な記憶内容について尋ねる。** 提案する名前と関係性を述べ、訂正または明確な「はい」「いいえ」を求めます。

**明示的な確認を得てからのみ保存する。** 保存する文言は限定的なものに留め、確認されていないフルネーム、ニックネーム、その他の関係性の詳細を付け加えないようにします。

**結果とコントロールを表示する。** 保存されたかどうかをユーザーに伝え、確認して変更または削除できる手段を提供します。

スペルや関係性が矛盾する場合の対処法

Maya/Majaの例では、アシスタントはスペルを黙って標準化すべきではありません。次のように言うことができます。「メッセージにはMayaとあり、メモにはMajaとあります。どちらのスペルを使用すべきですか？また、その方とはどのような関係性として紐付けますか？ご確認いただくまで、名前は保存しません」。ユーザーが「Maya」とだけ答えた場合、スペルは明確になりますが、「妹のMaya」といった結合された記憶を保存する前に、関係性についてのさらなる明確化が依然として必要な場合があります。

修正は、それが解決する詳細部分のみに留めてください。ユーザーが「Maja」と確認したからといって、Majaが妹であると確認したことには必ずしもなりません。関係性を確認したからといって、正式名とニックネームのどちらを使うかが解決するわけではありません。ユーザーが確信を持てない場合は、記憶を保存しないままにしておき、後で戻ってこられるようにします。これは設計上の推奨事項です。自信ありげな回答によって隠蔽するのではなく、不確実性は目に見える状態にしておくべきです。

有用な否定例：尋ねるべきでない、保存すべきでない場合

ユーザーが「Maya」について言及されている家族のグループチャットの抜粋を貼り付け、その要約を求めたとします。アシスタントは、名前の保存を求めることなく、その抜粋を要約できます。会話の中で第三者に言及したり、他人の言葉を引用したり、一回限りのタスクで支援を求めたりすることは、それ自体がユーザーが長期的な記憶を望んでいることを意味するわけではありません。名前が現れるたびに尋ねていては、日常的なタスクの妨げにもなります。確認のプロンプトは、システムがその詳細を記憶へと格上げすることを提案する時点で行うべきです。保存する理由がなければ、単に保存しないでおくだけで十分です。

ユーザーが記憶を点検、修正、削除できるようにする

確認は、有用なメモリ管理の一部にすぎません。ユーザーはメモリビューで保存されたエントリを確認し、保存されているスペルと関係性を識別し、いずれかのフィールドを修正したり、項目を削除したりできる必要があります。修正によってシステムが使用すべき内容が変更された場合、インターフェースはその結果として保存されたバージョンを明確に示すべきです。削除が要求された場合、システムは記憶が削除されたかどうかを示す必要があります。会話の中での「それは忘れますね」という返答自体は、恒久的な記録が変更された証拠にはなりません。

OpenAIのChatGPTヘルプドキュメントは、これらのコントロールがなぜ重要であるかを示す具体的な製品の一例を提供しています。それによると、メモリは利用可能な複数のソースから引き出される場合があり、すべての詳細が保持されるとは限らず、修正および削除のコントロールが提供され、削除手順は情報がどこに保存されているかによって異なるとされています。これらの詳細はChatGPTについて説明しているものであり、AIコンパニオン全般の普遍的な標準ではありません。[ChatGPTのメモリ機能](https://help.openai.com/en/articles/8590148-memory-in-chatgpt) を参照してください。

同様に、「わかりました、Mayaのことを覚えておきます」といった会話上の返答は、恒久的な記憶が実際に保存されたことを証明するものではありません。システムは、目に見えるメモリの状態やその他の信頼できる製品上のシグナルを用いて、単なる相槌と確定した保存を区別すべきです。そうすることで、ユーザーは親しみやすい言葉遣いから何が起きたかを推測することなく、メモリコントロールで直接確認できるようになります。

デザイナーとユーザーのためのシンプルな判断ルール

提案された第三者の名前それぞれについて、次のように問いかけてください。**情報源は何か？スペルは明確か？関係性は明確か？ユーザーはこの正確な詳細を記憶することを明示的に承認したか？** いずれかの答えが不確実である場合は、保存する前に立ち止まってください。ユーザーが承認した場合は、保存された項目を表示および編集可能にします。そうでない場合は、恒久的な記憶から除外しておきます。この小さな判断ルールにより、不確実なコンテキストが誰かに関する恒久的な主張になってしまうまさにその瞬間にチェックを集中させることができます。

家族の名前を記憶する際は、引用、インポート、推論、推測を事実へと変換してしまうのではなく、ユーザーが意図した言葉遣いを保持すべきです。具体的な名前と関係性について尋ね、明示的な確認を得た後にのみ保存し、その結果を確認、修正、削除できるようにしてください。システムもユーザーも会話上の約束を記憶が変更された証拠と勘違いすることがないよう、確認と保存そのものは明確に分けておく必要があります。

このテーマをさらに見る