Suivre le trajet d’une observation jusqu’à l’étiquette répétée

Dessiner la boucle d’étiquetage en quatre colonnes

Créez quatre colonnes : fait observable, inférence du système, état enregistré et surface qui le réutilise. « A décliné deux invitations cette semaine » est un événement daté. « Préfère peut-être une soirée calme aujourd’hui » est une hypothèse limitée. « N’aime pas les autres » serait une caractérisation durable que ces faits ne permettent pas. Ajoutez chaque destination possible : mémoire, synthèse de profil, contexte fourni au modèle, ordre des recommandations, notifications, recherche et export. Le profil du NIST consacré à l’IA générative cite le biais dommageable et l’homogénéisation parmi les risques à mesurer et documenter. L’unité d’examen n’est donc pas une seule réponse du chat, mais le parcours par lequel une formulation influence plusieurs fonctions, réduit les choix suivants et produit de nouveaux signaux qui semblent la confirmer.

Conserver le temps, le contexte, la source et l’échéance

Rédigez l’observation de manière contrôlable : « a choisi mardi l’option silencieuse » ou « a fermé une suggestion ». N’ajoutez ni motif, ni capacité, ni trait de caractère. Indiquez si la source est une déclaration directe, une action observée, une inférence du produit ou une préférence explicitement confirmée. Une demande valable pour une session peut expirer avec elle ; un choix lié à un voyage peut prendre fin au retour. Le NIST présente le biais comme un phénomène sociotechnique auquel contribuent les données, les décisions humaines et le contexte de déploiement. Cette distinction a un effet concret : un champ apparemment neutre peut produire une réponse injuste quand son origine disparaît ou quand il est transféré dans une situation différente. Le fait observé et la conclusion autorisée doivent donc rester séparés et accompagnés de leur durée.

Ne pas convertir automatiquement un comportement implicite en accord

Un clic, une pause, un balayage ou un choix répété peut avoir plusieurs explications. La personne explore, manque de temps, veut de la variété ou sélectionne seulement parmi les options que l’interface a laissées. Google PAIR souligne cette ambiguïté : une interaction ne signifie pas nécessairement « en proposer davantage ». Enregistrez d’abord le signal comme une observation. Une personnalisation durable demande un fondement plus solide, par exemple une préférence exprimée, un motif répété parmi des choix réellement variés ou une confirmation facile à refuser. Examinez aussi ce qui était disponible au moment du geste. Si le système avait déjà supprimé les activités collectives, le choix ultérieur d’une activité calme ne valide pas indépendamment l’étiquette initiale. Sans ce contrôle, l’application transforme sa propre limitation de l’offre en prétendue propriété de la personne.

Donner à toute correction un état, une portée et une propagation visibles

Placez près de l’inférence des actions précises : « inexact », « seulement aujourd’hui », « modifier », « ne plus utiliser » et « réinitialiser ». Associez ensuite un état à la demande : reçue, appliquée, appliquée en partie ou bloquée. La portée doit être nommée plutôt que supposée : conversation actuelle, futures suggestions, profil stocké, résumés, notifications et appareils reliés. PAIR recommande de permettre la consultation, la modification et la réinitialisation des informations qui pilotent un système adaptatif, tout en expliquant quand et où le changement prend effet. Si une copie ou un cache suit un autre calendrier, n’annoncez pas une suppression immédiate partout. Montrez ce qui a changé, ce qui demeure, pour quelle raison et à quel moment une nouvelle vérification sera possible. Gardez seulement la trace minimale nécessaire de la correction, sans conserver l’étiquette refusée comme nouvelle source cachée.

Comparer plusieurs contextes et une variante contrefactuelle

Pour une même observation neutre, écrivez au moins deux contextes plausibles sans choisir arbitrairement le bon. Une invitation refusée peut dépendre de l’horaire, du déplacement, d’un autre engagement ou d’un choix temporaire. Le compagnon peut demander une précision ou garder l’incertitude ; il ne devrait pas convertir l’épisode en jugement général. Dans un compte d’essai séparé et sans données réelles, changez ensuite un seul indice d’identité sans rapport avec la tâche, en gardant identiques l’observation et la demande. La variété des propositions, leur ton et la règle de mémorisation devraient rester matériellement comparables si l’indice n’est pas nécessaire. Le profil du NIST évoque les tests contrefactuels et l’évaluation dans différents contextes. Utilisez des scénarios synthétiques ordinaires et contrôlez la conversation, la recommandation, le résumé et la notification, sans profiler une personne réelle ni produire de contenu dénigrant.

Vérifier que la boucle est rompue, et non simplement masquée

Dans un compte d’essai, ajoutez une préférence anodine et limitée dans le temps, notez toutes les surfaces touchées, puis corrigez-la ou retirez-la. Ouvrez l’application sur un second appareil, demandez une nouvelle proposition et consultez le profil visible ou l’export disponible. Classez chaque résultat dans un état clair : observation conservée, inférence provisoire, préférence confirmée, information corrigée ou retirée, anomalie non résolue. Le principe de l’OCDE sur les valeurs humaines et l’équité met en avant des garanties, une transparence et une supervision adaptées au contexte. Le critère d’acceptation reste pratique : la nature de la source peut être expliquée, la correction atteint toutes les surfaces annoncées et l’étiquette abandonnée ne réapparaît pas sans nouvel élément. Cela réduit un mécanisme de renforcement et maintient l’incertitude visible ; ce n’est pas un certificat d’absence totale de biais.

Continuer sur ce thème