AIコンパニオンは何を記憶すべきか？残す情報を選ぶための実践ガイド
AIコンパニオンに会話をまたいで何を記憶させるべきか悩んでいるなら、まずは意図的に提供し、今後も重要になると見込まれる限定された詳細情報から始めましょう。例えば、安定した応答の好み、進行中のプロジェクトの文脈、そしてそのプロジェクトに関連するいくつかの実用的な事実などです。その場限りの場面の詳細は、それが属するプロジェクトや会話の中だけにとどめておきましょう。システムがパターンを推論できるからといって、それを保存してよい許可と見なしてはなりません。有用な記憶とは、将来の具体的なタスクに役立ち、想定された範囲内にとどまり、確認や削除ができるものです。
記憶が向上させるべきタスクから始める
詳細を保存する前に、次の文を完成させてみてください。「これを覚えておくことは、___の役に立つ。」答えが曖昧な場合、その詳細は永続的な記憶に含めるべきではない可能性が高いです。「週末のアクティビティ計画を手伝ってもらうときは、簡潔な箇条書きを使う」には明確な目的があります。「昨日のチャットで私は短気に見えた」は、永続的な好みや有用な事実を確立するものではありません。
これはデータ最小化の実践的な応用です。NIST（アメリカ国立標準技術研究所）は最小化を、個人情報の作成、利用、保持を、目的のために直接関連し必要なものだけに限定し、その目的のために必要な期間だけ保持することと定義しています。記憶機能において、対応する設計上の問いは、「システムが後でユーザーが選んだタスクを実行するために、この詳細を必要とするか？」ということです。NIST’s definition of minimization
良い候補：明示的な好みと有用なプロジェクトの事実
最も有力な候補は、ユーザーが明確に述べており、繰り返される応答を形作る可能性が高い日常的な詳細です。例としては、好みの回答形式、決めたプロジェクト名、工作プロジェクトのためにすでに選択した材料、あるいはベランダガーデニングを計画する際にユーザーが伝えた手入れが簡単な植物への好みなどが挙げられます。役に立ちつつ最も詳細度を抑えた形で保存してください。「短く、順を追った手順を好む」と保存する方が、ユーザーが簡潔さを求めたすべての場面の経緯を保存するよりも有用で、プライバシー侵害も少なくなります。
一部の個人情報は、定義されたプロジェクト内でのみ関連性を持ちます。部屋のレイアウトを計画しているときにユーザーが部屋の広さは3メートル×4メートルだと述べた場合、その寸法は部屋のデザインプロジェクト内では役立ちますが、無関係な会話の一般的な背景情報にする必要はありません。プロジェクトにスコープ（適用範囲）を絞った記憶は、「将来のどの会話がこの詳細を利用することを許可されるか？」という単純な問いに答えます。
製品ドキュメントを見ても、永続的な記憶とプロジェクトの文脈を別個の選択肢として扱うことがなぜ役立つかがわかります。OpenAIは、保存された記憶をチャット履歴とは別個のものとして説明しており、どのプロジェクトの会話同士が互いを参照できるかを制限する「プロジェクト専用記憶」オプションを記載しています。これらは製品固有の機能制御であり、すべてのAIシステムが同じスコープを提供することを保証するものではありません。OpenAI’s memory documentation
一時的な場面の詳細は一時的なままにする
詳細は、今役に立っても後で役立つとは限りません。今座っているカフェ、今日の天気、一時的な買い物リスト、未決定の事項などは、現在の要望に答える役には立っても、すぐに意味を失います。明示的に持ち越しを求めない限り、これらは現在の会話またはプロジェクト内にとどめておいてください。もし保存する場合は、「この旅行計画のため」や「ノートパソコンを選ぶまで」のように、スコープと確認のタイミングを設定しましょう。
これにより、一過性の瞬間を勝手な「特徴」へと仕立て上げることを防ぎます。静かなカフェを一度リクエストしたからといって、静かな場所を永久に好むことの証明にはなりません。明るい色を一度選んだからといって、持続的な美的嗜好を確立したことにはなりません。安全な設計上の推論とは、必要に応じてユーザーの言葉をスコープ付きの事実として保持することであり、暗黙のうちに人格の描写へと一般化しないことです。
GoogleのGeminiプライバシー関連ドキュメントでは、保存された指示事項と過去のチャットに基づくパーソナライズを区別しており、保存された情報はユーザー自身で管理または削除できるとしています。また、過去のチャットに基づくパーソナライズはチャットからの情報を利用する場合があることにも言及しています。この区別は、実践的な製品設計のルールを後押しします。それは、意図的で編集可能な好みは、会話履歴から導き出された文脈とは明確に区別して特定できるようにすべきであるということです。Gemini Apps Privacy Hub
機微な特徴を推論したり、第三者の詳細をデフォルトで保存したりしない
記憶システムは、会話の手がかりを機微な結論へと変換すべきではありません。ユーザーの言葉遣い、スケジュール、購入履歴、あるいは一回限りの選択は、個人的な特徴、境遇、動機を推測することを正当化しません。推論がもっともらしく聞こえる場合でも、間違っている可能性があり、確定事項として扱われると将来の回答が不自然になったり誤解を招いたりする恐れがあります。ユーザーから提供された事実は、タスクに関連した明確な用途がある場合にのみ保存し、ユーザーがどのような人物であるかという包括的な主張へと飛躍させないでください。
他者に関する情報に対しても同様の自制を適用します。プロジェクトには、ユーザーが明示的に提供した名前や役割が必要になるかもしれませんが、日常の会話が友人、親族、同僚に関する永続的な身上書（ドシエ）になってはなりません。特定のタスクのために第三者の詳細が必要な場合は、そのタスクのスコープ内にとどめ、不要な個人の詳細情報は避けてください。これは最小化から導き出された製品設計上の推奨事項であり、すべてのサービスがそのようなデータを同じように扱うという主張ではありません。
すべての記憶にスコープ、情報源、確認手段を提供する
記憶は、インターフェース上でそれが何と記されているか、どこから来たか、どこで使用できるかが明確であるほど、信頼しやすくなります。実用的な記憶の記録には、ユーザーが提供した正確な発言、その目的、広く適用されるか特定プロジェクトのみか、および任意の確認日や削除条件が含まれる場合があります。例えば、「ベランダガーデンプロジェクト用：水やりが少なくて済む植物を好む。植物リストが決まったら確認。」これは例示的な形式であり、特定の製品のドキュメントに記載された機能ではありません。
ユーザーは、記憶された情報を確認、修正、削除できる必要があります。また、記憶の削除と、チャットの削除やより広範なパーソナライズ設定の変更とを区別できなければなりません。OpenAIのヘルプドキュメントでは、保存された記憶はチャット履歴とは独立している場合があり、発生源となったチャットを削除しただけでは別個の記憶が削除されないことがあると説明されています。Geminiのプライバシーハブでも同様に、別個のアクティビティ管理と保存された情報の管理について説明されています。これらの製品例は、明確な削除手順において、ある操作がどのレイヤーに影響を与えるかを説明すべき理由を示しています。OpenAI memory controls, Gemini Apps data controls
記憶の選択は、情報開示や設定の適用範囲とは別物である
記憶に何を含めるかを選ぶことは、「今後のパーソナライズのためにどの詳細を永続化すべきか？」という1つの問いに答えるものです。それ自体は、サービスがどのような情報を収集し、チャットをどのように扱い、誰がデータを閲覧でき、どのようなアカウントや設定の管理が適用されるかを説明するものではありません。それらは別個の情報開示および設定スコープの問いです。製品は、記憶のリストが少ないからといって他のデータが処理されていないかのように示唆するのではなく、それらを正確に分けて説明すべきです。
この区別は実際上重要です。Googleのプライバシー通知には、保存された指示事項、アクティビティ管理、接続されたアプリ、サービスの提供および改善のためのデータ使用など、情報と設定の複数のカテゴリが記載されています。正確な挙動は製品や設定によって異なります。したがって、記憶の選択インターフェースは、それが何を管理しているかを明記し、該当するプライバシーおよび設定情報へとユーザーを案内すべきであり、それらの説明に取って代わるものであるかのようにほのめかすべきではありません。Gemini Apps Privacy Hub
記憶候補ごとの簡単な判断テスト
詳細を保存する前に、次の4つの質問を投げかけてみてください。
それは明示的に提供または承認されたものか？ 単なる解釈にすぎない場合は、事実として保存してはなりません。
それは将来起こりうる具体的なタスクを改善するか？ そのタスクを挙げてください。思い浮かばない場合は除外します。
適切なスコープは何か？ 全般的なパーソナライズに属さない詳細には、プロジェクトの境界線を設定します。
ユーザーはそれを確認し、削除できるか？ できない場合、インターフェースはそれをユーザーが管理できる単純な記憶として提示すべきではありません。
例えば、部屋の計画プロジェクトにおいて、「ユーザーは書斎用にコンパクトなデスクを選んだ」はレイアウトが完了するまで役立つかもしれません。計画セッション中に訪れたカフェは、おそらく一時的なものです。ユーザーが「常にミニマリズムを好む」という推測は、ユーザーがその好みを明示的に述べてより広範に使うことを望まない限り、保存すべきではありません。これらの例は判断テストを適用したものであり、研究成果や特定の製品に関する主張ではありません。
抑制の効いた記憶システムは、完全なプロフィールを構築する必要はありません。選択された活動に役立ついくつかの明示的な好みと実用的な事実を引き継ぎ、ローカルな詳細はローカルにとどめ、修正と削除を分かりやすくするべきです。目指すべきは、ユーザーが実際に話したことに基づく継続性であり、AIが会話の背後にいる人物を知り尽くしているという主張ではありません。