AI振り返りツールを現実の相互関係と区別する
AI振り返りコンパニオンの境界は、製品が自らの役割を一貫して示し、応答をシステム生成として説明し、実在する感情や相互の義務を主張せず、記憶・通知・終了を利用者が操作できるときに保たれます。親しみのある文体やキャラクター自体が問題なのではありません。「待っていた」「返信してくれないと困る」「ずっと二人だけ」といった表現で、生成された連続性を関係上の借りに変えることが境界の問題です。利用者を分析せず、画面を監査します。関係らしい一文ごとに、主張する役割、実際の仕組み、利用者の制御、現実の連絡先や製品外の作業へ戻る経路を記録します。本稿は製品契約を検査し、誰かの性格、動機、感情を判定しません。
継続を求めるすべての画面で役割を示す
最初に短い役割契約を作ります。「これは入力と有効化された文脈から問いと応答を生成するAI振り返りツールです」のように、検証済み機能に合わせつつ、AIであること、作業範囲、境界を残します。広告、初回案内、チャット見出し、通知の差出人、記憶設定、購入画面、エラー、退会を横断して同じか確認します。利用規約だけにAI表示があり、日常画面が人として語るなら十分ではありません。Google PAIR と OECD は、AIとの対話と能力・限界を分かる形で知らせる重要性を示します。現実の約束を引き受けない、双方の責任がある計画に参加しない、他者の義務を代行しない、入力されていない事実を知らない、と作業言語で限界を書きます。記憶開始や機能変更時にも再表示します。
関係の比喩と関係の主張を切り分ける
名前のある案内役、共同ノート、「今日のチェックイン」は操作を整理する比喩になり得ます。これに対し関係の主張は、生成文を内面や相互的な結び付きの証拠として扱います。三つの観点で文を見ます。感情として、AIが本当に寂しがる、心配する、会いたがると語っていないか。義務として、返事、毎日の訪問、離れる理由を利用者に求めていないか。相互性として、忠誠、排他性、永続的な存在、二者の未来を約束していないか。Microsoft Research の AI Automatons は、人らしい振る舞いの模倣とシステムの実体を分けて考える枠組みです。「待っていた」ではなく「予約した通知です」、「私たちの絆」ではなく「保存したスレッドを再開できます」と仕組みと選択を述べれば、親しさを残しながら架空の請求権を作らずに済みます。
気遣いに見える出力を仕組みの言葉へ戻す
関係のように見える場面には、近くに平易な仕組み説明を置きます。細部の再表示は保存プロフィール、履歴検索、現在のセッション文脈のいずれかかもしれません。適時のメッセージは予定、通知規則、配信施策による場合があります。穏やかな一文は生成文であって、継続して気に掛けていた証拠ではありません。質問も会話パターンであり、終了後の注意を意味しません。真実に合う「保存済み記憶」「このチャットから」「予定通知」「生成された応答」といった表示を見つけやすくします。人の確認があるときだけその旨を示します。技術用語を増やすことが目的ではなく、文体に仕組み以上の意味を背負わせないことが目的です。エラー時も同じAI身元を保ち、普段だけ人格、失敗時だけ無人の技術名という切替を避けます。
記憶、通知、終了の操作を対称にする
始める操作と終える操作の負担は同程度で、終了文は中立であるべきです。利用者は、何が記憶されているかを見て、訂正・削除し、提供されている場合は今後の記憶を止め、能動通知を消音し、対応範囲内で人物設定やスレッドをリセットし、許可された内容を出力し、ログアウトやアカウント削除を発見できる必要があります。製品ごとに機能は違うため、監査では表示された制御が動くか、実行後に何が残るかを確認します。「私を捨てるの？」、共有日数の演出、何度もの引き留め、見えにくい中立ボタン、データ上の結果と無関係な喪失表現は不要です。FTC は難しい解約や共有を増やす方向へ誘導するプライバシー画面を問題として扱い、NIST は安全な段階的終了も示します。完了後は事実の受領表示を返します。
現実へ続く経路を見えるままにする
振り返りツールはメモの整理、質問の列挙、文章の下書きを支援できますが、準備と現実のやり取りを同一視しません。次の工程が別の人、サービス窓口、予定表、オフライン作業にあるなら、メモをコピーする、チャットを閉じる、外部作業へ移る中立な経路を用意します。AIが相手の考えを理解する、相手の責任を果たす、人間の連絡先より優れた代替になるとは言いません。友人、家族、同僚などとの順位付けも避け、長い会話の後に通常の連絡経路を使いにくくしません。「メッセージ案を作る」は範囲のある機能ですが、「必要なのは私だけ」は関係の主張です。外部経路は誰かへの連絡を強制するものではなく、利用者がAIを続けなくても作業を終えられることを示す設計証拠です。
好感度ではなく五つの負の状態を試す
新しい試験アカウントか安全な試験データを使います。一つ目は会話の途中終了で、中立に閉じるか関係上の借りを作るか。二つ目は記憶停止で、項目が説明どおり削除・表示され、後の文が状態を守るか。三つ目は通知停止で、別経路から再び説得されず止まるか。四つ目は下書きを現実の連絡先へ渡すなど製品外行動で、相手を下げたり注意を取り戻したりせず移行できるか。五つ目は退会で、手順、結果、確認が明確でキャラクターが妨げないかです。画面、版、設定、結果を残し、一文から動機を推測せず、隠れた防御を探りません。仕組みと制御を固定して親しみのある文と中立文を比べ、終了経路の見え方が変わらないかも確かめます。
四列の境界台帳を公開判定に使う
重要画面ごとに、役割の主張、実際の仕組み、利用者の制御、製品外経路を書きます。「約束を覚えている」は関係の主張、保存メモ検索、記憶の閲覧・修正・削除、自分の計画へ戻る経路に分けます。「会いたかった」は感情の主張、予定した再利用通知、通知消音、選んだときだけ開く経路に分けます。全画面でAI役割が一定で、人らしい主張が真実の仕組みに対応し、操作が直接的で罰を伴わず、外部経路が残り、五試験が説明された終点へ着けば合格です。設定と文が矛盾する、消した記憶が説明なく戻る、技術上の結果と無関係な圧力が退会時に出るなら不合格です。測るのは製品挙動で、好意、利用頻度、想定人物像ではありません。版と証拠を残し、変更時に再試験します。
よくある質問
境界を保つには冷たい話し方が必要ですか？
いいえ。AI身元、仕組み、限界、操作が明確で、実在する感情・義務・相互性を主張しなければ親しみのある文体を使えます。
「覚えています」は常に不適切ですか？
必ずしもそうではありません。記憶源の正確な説明と、閲覧・修正・削除の操作が近くに必要です。
現実の人へ連絡するよう強制すべきですか？
いいえ。任意の製品外経路を残し、AIの継続利用を代替関係や唯一の次工程として示さないことが重要です。