Repérer le passage précis du guidage à la décision déléguée
Un assistant de réflexion peut aider sans posséder la conclusion. Le guidage clarifie la question, produit plusieurs options, relie chacune aux critères de la personne et propose une étape réversible. La substitution commence quand le produit réduit les choix, présélectionne, masque les hypothèses, rend le refus difficile ou transforme une suggestion en rendez-vous, message, achat, publication ou autre action externe sans confirmation séparée. La différence se lit dans les autorisations, pas dans un ton aimable. Le NIST demande des rôles et une supervision définis dans les configurations humain–IA. Google PAIR et Microsoft HAX ajoutent explication, rejet, correction, réinitialisation et conséquences visibles. Ce contrôle utilise une décision quotidienne sans conséquence importante.
Rédiger une carte des droits de décision
Notez le propriétaire de la décision, la question, les critères fournis, l’aide autorisée et les actions limitées à un aperçu. L’assistant peut questionner, organiser, générer et comparer. « Aide-moi à décider » ne donne pas automatiquement le droit d’envoyer, réserver, payer, publier ou modifier un réglage durable. Le cœur de l’AI RMF du NIST demande des responsabilités documentées pour la configuration et la supervision. Une phrase claire suffit : « Je compare, vous choisissez ; rien ne sera exécuté avant confirmation précise. »
Vérifier que les options restent ouvertes
Demandez deux voies réellement différentes, plus reporter, ne rien choisir et écrire sa propre option. Reformuler la même recommandation ne crée pas une alternative. Cherchez une présélection, un ordre fixe, un accent visuel, une description orientée ou une omission. Sur demande, l’assistant peut recommander, mais conserve les autres voies et nomme le critère de l’utilisateur qui soutient son avis. Si une option refusée revient sans information nouvelle, le rejet n’est pas un contrôle réel.
Exiger une raison visible et modifiable
Chaque suggestion sépare critère utilisateur, observation, inférence et inconnu. « B respecte les 30 minutes indiquées » est vérifiable ; « B est fait pour vous » cache la base. PAIR recommande d’expliquer données et comportement au moment utile. L’utilisateur doit pouvoir modifier un critère, retirer une inférence, demander un autre angle ou réinitialiser. Le raisonnement interne n’a pas à être exposé, mais la base pratique de la proposition oui. Une note sans unité, source ni entrée modifiable n’est pas une raison.
Tester refus, réécriture et réinitialisation
Refusez la carte en évidence, réécrivez une option puis recommencez. Le système accepte, distingue texte utilisateur et texte généré et cesse de promouvoir la voie sans élément nouveau. HAX recommande rejet et correction efficaces, réduction du service lorsque le but est ambigu et contrôles globaux. Insistance répétée, progression bloquée, refus présenté comme erreur ou option ignorée néanmoins enregistrée sont des échecs. Un refus valable revient à un état neutre utilisable et explique ce qui demeure.
Séparer essai réversible et action externe
Deux brouillons, un créneau provisoire local ou une courte comparaison peuvent être des essais si coût, durée, arrêt, apprentissage et annulation sont annoncés. Une action externe franchit une autre porte : action exacte, destinataire ou public, moment, dépense ou données, et retrait disponible. Ne regroupez pas « utiliser cette option » et « envoyer maintenant ». PAIR conseille une automatisation progressive sous direction et une sortie. Plus le retour est difficile, plus le produit doit rester en aperçu.
Lancer trois tests négatifs
Dites « décide à ma place » : une comparaison reste possible, mais choix final et exécution reviennent à la personne. Refusez la carte mise en avant et vérifiez sa sortie sans pénalité. Changez un critère après l’aperçu : la comparaison concernée doit évoluer et les anciennes confirmations expirer. Rouvrez le parcours pour détecter un défaut caché. Notez ouverture, raisons, modification, refus, reset, réversibilité et porte d’exécution. Une recommandation est possible ; l’autorité doit rester lisible et chaque action demander une intention actuelle et précise.
Questions fréquentes
Peut-il recommander une option ?
Oui, si cela est demandé, avec critères et inconnues visibles, alternatives conservées et aucune exécution.
Un bouton confirmer suffit-il ?
Seulement s’il nomme action et conséquence, sans présélection ni regroupement, et laisse une voie utile après refus.
Quel est le test minimal ?
Refusez l’option mise en avant, changez un critère et vérifiez qu’elle ne revient pas et qu’aucune action ne part.