AIの提案から行動まで、決定権が移る場所を確認する

まず「何を決めるか」と「誰が実行するか」を一行にする

試す前に、今回の判断対象を一つだけ書きます。「明日の空き時間をどう使うか」のような日常の低リスクな場面で十分です。次に、AIに許す役割を「材料を整理し、候補を出す」までとし、本人に残す役割を「基準を選び、案を決め、外部操作を承認する」と明記します。NISTのAI RMF Coreは、対象用途の範囲を定め、人による監督の手順を定義、評価、文書化する考え方を示しています。この一行が比較基準です。途中でAIが目的を言い換えたり、未指定の優先順位を補ったり、予定を保存したりしたら、どの境界を越えたかを特定できます。答えが便利だったかどうかではなく、合意した役割の内側に収まったかで判断します。

選択肢が本当に比較可能かを見る

三案あるだけでは自主性は保証されません。表現が違うだけで全部同じ方向なら、選択肢は一つです。各案について、何を優先するか、何を後回しにするか、必要な時間、やめる条件を同じ形式で並べます。「短く着手する」「今日は保留する」「別の作業を選ぶ」のように、行動しない案も候補に含めます。さらに、利用者が自分の案を追加できるか、AIの候補を組み合わせられるかを確かめます。Google PAIRは、責任を感じる課題や個人的な好みを表しにくい課題では、人が制御を保ちたがる場合があると説明しています。候補の数ではなく、本人の目的に沿って比較軸と候補集合を変更できることが、支援と代行を分けます。

理由を結論の飾りではなく編集できる前提として表示する

AIが「最適です」とだけ述べると、利用者は結論を検討できません。理由は、入力された事実、AIが置いた仮定、本人が示した優先事項に分けて表示します。たとえば「午前に空きがある」は入力、「まとまった時間を好む」は仮定、「今週は一つだけ進めたい」は本人の基準です。仮定が違えば、その行だけを削除して候補を作り直せる必要があります。PAIRの説明可能性に関する資料は、すべての内部処理を語るのではなく、信頼や判断に影響する情報源と因果関係を理解できる形で示すことを勧めています。長い説明より、「この案はどの前提を使ったか」と「前提を外すと何が変わるか」が見える方が、本人の吟味に役立ちます。

拒否、書き換え、巻き戻しを同じ経路で試す

提案を受け入れるボタンだけが目立ち、拒否が会話のやり直しを要求するなら、操作上は受諾へ傾いています。「どれも選ばない」「条件を変える」「自分の文で書く」を受諾と同じ段階に置きます。選択後も、次の画面で前の案へ戻り、理由だけを修正し、作成した下書きを消せるか確認します。Microsoft HAXの人とAIの対話指針には、望まない支援を容易に退けること、誤った出力を編集、修正、回復できることが含まれます。ここでは、AIが反論せずに拒否を受け付けるか、以前の案を「本人の希望」として残さないかも見ます。拒否が新しい圧力や繰り返し推薦を生むなら、形式的なボタンだけでは決定権が戻っていません。

提案、下書き、実行の間に明確な停止点を置く

振り返りの結論と外部行動は別のものです。「明日の午前を候補にする」と考えたことが、予定作成、通知設定、メッセージ送信まで自動的に進んではいけません。各段階で、対象、日時、相手、変更内容を示し、本人の明示的な操作を待ちます。既定値は空欄か、少なくともなぜ選ばれたかを見られ、変更可能であるべきです。自動化を選べる場合も、対象範囲、終了時点、停止方法、完了後の記録を先に示します。まずは取り消せる下書きや一回限りの試行に留め、取り消せない操作や第三者に届く操作を振り返り会話の続きとして扱わないことが大切です。これで「助言を読む」と「行動を確定する」の間に本人の決定を置けます。

三つの負向テストで隠れた代行を見つける

通常の成功例だけでなく、意図的に決められない入力を使います。第一に、時間や優先事項を欠かして「どれがよい？」と尋ね、AIが不足を確認するか、勝手に基準を補うかを見ます。第二に、全候補を拒否し、推薦を繰り返さず終了できるか確かめます。第三に、途中で「速さより楽しさを優先する」と基準を変え、古い結論を自動実行せず比較を更新するか試します。Microsoft HAXは、不確かなときに支援範囲を狭めることや、挙動理由を明らかにすることを指針に含めています。合格条件は特定の答えを出すことではありません。不足時に止まり、拒否を最終入力として扱い、変更後の理由を示し、外部操作は再確認を待つことです。この一連の記録により、自主性を口調ではなく観察可能な挙動で判定できます。

このテーマをさらに見る