Que doit retenir un compagnon IA ? Un guide pratique pour choisir ce qui reste

Commencez par la tâche qu'un souvenir doit améliorer

Avant d'enregistrer un détail, terminez cette phrase : « Se souvenir de cela aidera à ___ ». Si la réponse est vague, le détail n'a probablement pas sa place dans la mémoire persistante. « Utiliser des puces concises pour m'aider à planifier les activités du week-end » a un objectif clair. « J'ai semblé impatient dans la discussion d'hier » n'établit pas une préférence durable ni un fait utile.

Il s'agit d'une application pratique de la minimisation des données : le NIST définit la minimisation comme la limitation de la création, de l'utilisation et de la conservation des informations personnelles à ce qui est directement pertinent et nécessaire pour un objectif précis, et leur conservation uniquement pendant la durée nécessaire à cet objectif. Pour une fonctionnalité de mémoire, la question de conception correspondante est de savoir si le système a besoin de ce détail pour effectuer ultérieurement une tâche choisie par l'utilisateur. Définition de la minimisation par le NIST

Bons candidats : préférences explicites et faits utiles sur le projet

Les candidats les plus solides sont des détails ordinaires énoncés clairement par l'utilisateur et susceptibles d'orienter des réponses répétées. Parmi les exemples figurent un format de réponse préféré, un nom de projet choisi, les matériaux déjà sélectionnés pour un projet d'artisanat ou la préférence déclarée de l'utilisateur pour des plantes nécessitant peu d'entretien lors de l'aménagement d'un jardin de balcon. Enregistrez la version la moins détaillée qui reste utile : « préfère des instructions courtes, étape par étape » est plus utile et moins intrusif que de stocker un récit sur chaque occasion où l'utilisateur a demandé de la concision.

Certains faits personnels ne sont pertinents qu'au sein d'un projet défini. Si un utilisateur indique qu'une pièce mesure 3 mètres sur 4 lors de la planification de son aménagement, cette dimension peut être utile dans le cadre du projet d'aménagement de la pièce ; elle n'a pas besoin de devenir un contexte général pour des conversations sans rapport. Une mémoire limitée à un projet répond à une question simple : quelles conversations futures sont autorisées à s'appuyer sur ce détail ?

La documentation du produit montre pourquoi il est utile de traiter les souvenirs persistants et le contexte du projet comme des choix distincts. OpenAI décrit les souvenirs enregistrés comme étant séparés de l'historique des discussions et documente une option de mémoire réservée aux projets (Project-only) qui restreint les conversations de projet pouvant se référer les unes aux autres. Il s'agit de commandes spécifiques à un produit, et non d'une garantie que chaque système d'IA offre la même portée. Documentation sur la mémoire d'OpenAI

Garder temporaires les détails de scène temporaires

Un détail peut être utile maintenant sans l'être plus tard. Le café dans lequel vous êtes assis, la météo d'aujourd'hui, une liste de courses provisoire ou une décision inachevée peuvent aider à répondre à la demande actuelle, mais devenir rapidement obsolètes. Conservez-les dans la conversation ou le projet en cours, à moins que vous ne demandiez explicitement de les conserver pour la suite. S'ils sont enregistrés, associez-leur un périmètre et un point de révision : par exemple, « pour ce plan de voyage » ou « jusqu'à ce que je choisisse un ordinateur portable ».

Cela évite de transformer un instant en un supposé trait de caractère. Demander une fois un café calme ne prouve pas une préférence permanente pour les endroits calmes ; choisir une couleur vive une fois n'établit pas une esthétique durable. L'inférence de conception sûre consiste à préserver les mots de l'utilisateur sous la forme d'un fait circonscrit lorsque c'est nécessaire, et non à les généraliser discrètement en une description de sa personnalité.

La documentation sur la confidentialité de Gemini de Google distingue les instructions enregistrées de la personnalisation basée sur les discussions passées, et précise que les informations enregistrées peuvent être gérées ou supprimées par l'utilisateur. Elle note également que la personnalisation basée sur les discussions passées peut utiliser des informations issues des conversations. Cette distinction soutient une règle pratique de conception de produits : les préférences délibérées et modifiables doivent pouvoir être identifiées séparément du contexte tiré de l'historique des conversations. Centre de confidentialité des applications Gemini

Ne pas déduire de traits sensibles ni enregistrer les détails de tiers par défaut

Un système de mémoire ne doit pas convertir des indices conversationnels en conclusions sensibles. La formulation, l'emploi du temps, les achats ou les choix ponctuels d'un utilisateur ne justifient pas de faire des suppositions sur ses traits de caractère, sa situation personnelle ou ses motivations. Même lorsqu'une déduction semble plausible, elle peut être fausse, et une réponse future peut devenir gênante ou trompeuse si elle est traitée comme un fait avéré. N'enregistrez un fait fourni par l'utilisateur que lorsqu'il a une utilité claire liée à une tâche ; ne le transformez pas en une affirmation plus large sur l'identité de l'utilisateur.

Appliquez la même retenue aux informations concernant d'autres personnes. Un projet peut nécessiter un nom ou un rôle explicitement fourni par l'utilisateur, mais une conversation de routine ne doit pas se transformer en un dossier permanent sur des amis, des proches ou des collègues. Si un détail concernant un tiers est nécessaire pour une tâche spécifique, conservez-le dans le périmètre de cette tâche et évitez les détails personnels superflus. Il s'agit d'une recommandation de conception de produits issue du principe de minimisation, et non d'une affirmation selon laquelle chaque service traite ces données de la même manière.

Donner à chaque souvenir un périmètre, une source et une voie de révision

Il est plus facile de faire confiance à un souvenir lorsque l'interface indique clairement ce qu'il contient, d'où il vient et où il peut être utilisé. Un enregistrement de mémoire pratique pourrait inclure : la déclaration exacte fournie par l'utilisateur ; son objectif ; le fait qu'elle s'applique de manière générale ou uniquement à un projet ; et une date de révision facultative ou une condition de suppression. Par exemple : « Pour le projet de jardin de balcon, préfère les plantes nécessitant peu d'arrosage ; à réviser une fois la liste des plantes choisie ». Il s'agit d'un format illustratif, et non d'une fonctionnalité documentée d'un produit précis.

Les utilisateurs doivent pouvoir inspecter, corriger et supprimer les informations mémorisées. Ils doivent également être en mesure de distinguer la suppression d'un souvenir de la suppression d'une discussion ou de la modification de paramètres de personnalisation plus larges. La documentation d'aide d'OpenAI explique que les souvenirs enregistrés peuvent être distincts de l'historique des discussions, de sorte que la simple suppression de la discussion d'origine peut ne pas supprimer le souvenir distinct. Le centre de confidentialité de Gemini décrit de même des commandes distinctes pour les activités et pour les informations enregistrées. Ces exemples de produits montrent pourquoi une procédure de suppression claire doit expliquer quel niveau est concerné par une commande. Commandes de mémoire d'OpenAI, Commandes des données des applications Gemini

La sélection de la mémoire est distincte de la transparence et du périmètre des paramètres

Choisir ce qui a sa place dans la mémoire répond à une seule question : quels détails doivent persister pour une personnalisation future ? Cela n'explique pas, en soi, quelles informations un service recueille, comment il traite les discussions, qui peut examiner les données ou quelles commandes de compte et de paramètres s'appliquent. Il s'agit de questions distinctes relatives à la transparence et au périmètre des paramètres. Un produit doit les décrire séparément et de manière précise plutôt que de laisser entendre qu'une courte liste de souvenirs signifie qu'aucune autre donnée n'est traitée.

La distinction a son importance dans la pratique. L'avis de confidentialité de Google décrit plusieurs catégories d'informations et de paramètres, notamment les instructions enregistrées, les commandes d'activité, les applications connectées et l'utilisation des données pour fournir et améliorer les services. Le comportement exact varie selon le produit et la configuration. Une interface de sélection de mémoire doit donc préciser ce qu'elle régit et orienter les utilisateurs vers les informations applicables relatives à la confidentialité et aux paramètres, sans sous-entendre qu'elle remplace ces explications. Centre de confidentialité des applications Gemini

Un court test de décision pour chaque proposition de souvenir

Avant d'enregistrer un détail, posez-vous quatre questions :

A-t-il été explicitement fourni ou approuvé ? S'il ne s'agit que d'une interprétation, ne le stockez pas comme un fait.

Améliorera-t-il une tâche future précise et probable ? Nommez cette tâche ; si aucune ne vous vient à l'esprit, laissez-le de côté.

Quel est son périmètre approprié ? Définissez une limite liée au projet pour les détails qui n'ont pas leur place dans la personnalisation générale.

L'utilisateur peut-il le consulter et le supprimer ? Si ce n'est pas le cas, l'interface ne doit pas le présenter comme un souvenir simple et contrôlé par l'utilisateur.

Par exemple, dans le cadre d'un projet d'aménagement de pièce, « L'utilisateur a choisi un bureau compact pour le bureau » peut être utile jusqu'à ce que l'agencement soit terminé. Le café visité pendant la séance de planification est probablement temporaire. Une déduction selon laquelle l'utilisateur « préfère toujours le minimalisme » ne doit pas être enregistrée, sauf si l'utilisateur exprime explicitement cette préférence et souhaite qu'elle soit appliquée plus largement. Ces exemples appliquent le test de décision ; il ne s'agit pas de résultats de recherche ni d'affirmations concernant un produit particulier.

Un système de mémoire mesuré n'a pas besoin de bâtir un profil complet. Il doit transmettre quelques préférences explicites et des faits pratiques qui servent les activités choisies, garder locales les informations locales, et rendre la correction ainsi que la suppression compréhensibles. L'objectif est une continuité fondée sur ce que l'utilisateur a réellement dit, et non la prétention qu'une IA connaît la personne derrière la conversation.

Continuer sur ce thème