La mémoire des compagnons IA devrait-elle être modifiable ? Un flux de correction pratique pour les détails de projet

Pourquoi les souvenirs de projets ordinaires nécessitent des commandes de correction

La mémoire peut rendre une conversation continue plus utile en conservant les préférences ou le contexte d'un projet, évitant ainsi aux utilisateurs d'avoir à les répéter. La documentation actuelle des produits décrit la mémoire comme une source de personnalisation, tout en reconnaissant qu'elle peut ne pas retenir chaque détail ou se tromper sur certains points. Le guide de la mémoire d'OpenAI explique que les informations mémorisées peuvent provenir de différentes sources et que les commandes disponibles varient. Le guide de la mémoire de Gemini par Google indique également que la mémoire peut orienter les suggestions de projets et invite les utilisateurs à corriger Gemini directement dans le chat.

Une petite erreur peut devenir une nuisance récurrente lorsqu'un système traite une simple possibilité passée comme un plan définitif. Imaginez quelqu'un discutant d'un projet de menuiserie pour le week-end : la personne a envisagé d'utiliser du cèdre, puis a opté pour le bouleau. Si le compagnon suggère plus tard des finitions pour le cèdre comme si ce choix était arrêté, le problème n'est pas que le système se soit souvenu de la conversation. Le problème est que l'utilisateur a besoin d'un moyen d'examiner l'affirmation mémorisée, de la réviser et de vérifier si la révision est prise en compte.

Il s'agit d'une recommandation de conception, et non de l'affirmation que chaque produit conversationnel propose déjà ces mêmes contrôles. Les directives d'interaction humain-IA de Microsoft mentionnent la correction efficace, les explications du comportement du système et la communication des conséquences des actions de l'utilisateur comme des considérations de conception distinctes. Appliqués à la mémoire, ces principes suggèrent qu'une correction devrait être simple à effectuer et son effet pratique facile à vérifier. Directives d'interaction humain-IA de Microsoft Research

Ce qu'une personne devrait pouvoir inspecter

Une vue utile de la mémoire devrait présenter les affirmations individuelles dans un langage courant : « Pour l'organiseur de bureau, vous avez choisi le bouleau », ou « Vous envisagez une série de photos sur les enseignes de quartier ». Elle devrait éviter de transformer des formulations prudentes en certitudes. Lorsque la conversation sous-jacente peut être affichée, un lien source ou un court aperçu du contexte peut aider la personne à déterminer si un résumé est exact. La vue de la mémoire devrait également préciser qu'il peut s'agir d'un résumé sélectif plutôt que d'un enregistrement exhaustif ; la documentation d'OpenAI décrit explicitement son résumé de mémoire comme étant de haut niveau et indique qu'il peut ne pas afficher chaque détail ou source.

Pour chaque élément, affichez son statut d'une manière compréhensible pour l'utilisateur : enregistré et disponible pour une personnalisation future, en attente de confirmation, corrigé, ou retiré de l'utilisation active. Ces libellés représentent un modèle d'interface proposé. Le principe sous-jacent est soutenu par les recommandations de Microsoft visant à expliquer pourquoi un système a agi et à communiquer la manière dont les actions de l'utilisateur affecteront les comportements futurs. Cela ne nécessite pas d'exposer les mécanismes internes du modèle. Cela exige suffisamment d'informations pour qu'une personne puisse répondre à : « De quoi vous êtes-vous souvenu, et qu'est-ce qui changera si je le modifie ? »

Un flux de correction en cinq étapes

Un flux de correction pratique peut débuter là où l'erreur apparaît. Si l'assistant dit : « Puisque la soumission à la galerie a lieu le mois prochain… », la personne devrait pouvoir ouvrir la mémoire concernée ou choisir une action de correction à côté de la réponse. Une explication de la mémoire devrait identifier l'affirmation en cause sans insinuer que l'assistant a une visibilité parfaite sur chaque raison sous-jacente à sa réponse. Les commandes actuelles de mémoire d'OpenAI peuvent faire remonter les sources ayant contribué à la personnalisation, tout en notant que les sources peuvent ne pas refléter l'ensemble des facteurs. Guide d'OpenAI sur les sources de mémoire et les corrections

La personne sélectionne ensuite l'action utile minimale : modifier l'affirmation, la supprimer ou la marquer comme incertaine. Modifier pourrait transformer « Soumission de la série à une galerie » en « Envisage de soumettre la série ». La suppression est appropriée lorsque le détail n'est plus du tout souhaité. L'incertitude permet de préserver un contexte utile sans promouvoir une réflexion préliminaire en engagement ferme. Cette option d'incertitude est une suggestion de conception ; elle ne doit pas être présentée comme une fonctionnalité existante d'un produit spécifique sans vérification préalable.

Avant d'enregistrer, affichez la formulation exacte révisée et demandez une confirmation lorsque la modification change le sens ou pourrait considérablement modifier les suggestions futures. La correction d'une simple faute de frappe peut ne pas nécessiter d'étape de confirmation distincte ; remplacer un plan ferme par une éventualité ouverte peut en revanche l'exiger. Cette distinction découle des recommandations en matière de correction et de désambiguïsation : Microsoft préconise de faciliter la correction et d'interagir avec l'utilisateur lorsque le système a un doute sur son objectif. La confirmation doit protéger le sens voulu par l'utilisateur, et non ajouter des frictions à chaque modification courante.

Après confirmation, affichez un résultat simple tel que : « Mis à jour. Je considérerai la soumission à la galerie comme indécise lors de nos prochaines conversations sur le projet. » Si l'utilisateur supprime l'élément, indiquez qu'il a été retiré de la mémoire active et explicitez clairement la portée réelle du produit. N'affirmez pas que toute trace a disparu à moins que cela ne soit garanti. Les systèmes actuels illustrent pourquoi la précision est importante : OpenAI explique qu'un souvenir enregistré et son chat d'origine peuvent être stockés séparément, tandis que le guide de Gemini précise que la correction d'un détail mémorisé peut se faire dans le chat et que la suppression des chats pertinents peut prendre un court délai avant d'affecter la personnalisation. Ces comportements propres à chaque produit ne doivent pas être généralisés en une promesse universelle de suppression. Guide de la mémoire d'OpenAI et guide de la mémoire de Gemini

Enfin, laissez la personne tester la modification dans une suite naturelle de la conversation. Elle pourrait demander des idées de finitions pour l'organiseur. Si l'assistant utilise le bouleau, la personne reçoit un signal concret indiquant que la correction a influencé la réutilisation des données. S'il répète le cèdre, prévoyez un moyen de revenir à l'élément de mémoire ou de signaler l'incohérence. Le choix de conception clé est de rendre la réutilisation observable, tout en évitant de garantir qu'une réponse réussie signifie que le système ne refera plus jamais la même erreur.

Quand modifier, supprimer ou confirmer

Utilisez la modification lorsque l'idée mémorisée reste utile mais que sa formulation ou ses détails sont erronés : « L'étagère mesure 80 cm de large », corrigé en « L'étagère mesure 90 cm de large ». Utilisez la suppression lorsque l'élément ne doit plus orienter les réponses futures, par exemple une préférence de projet abandonnée. Utilisez la confirmation lorsqu'une mémoire proposée est ambiguë ou qu'un changement pourrait transformer une remarque exploratoire en décision. Une interface claire devrait distinguer ces actions plutôt que de traiter « ne dis pas ça » comme l'équivalent strict de « supprime le souvenir ». La documentation d'OpenAI établit une distinction similaire : demander au système de ne pas mentionner quelque chose modifie le comportement de personnalisation mais ne supprime pas en soi la source sous-jacente.

L'interface peut également proposer « pas sûr » ou « me demander la prochaine fois » pour les détails dont la valeur dépend du contexte immédiat. Par exemple, une personne peut généralement préférer des légendes courtes, mais souhaiter une description plus longue pour une page de portfolio spécifique. Il s'agit d'une proposition visant à préserver la flexibilité, et non d'une affirmation sur une fonctionnalité avérée. La question directrice est de savoir si la mémoire exprime une préférence stable, un choix temporaire ou une possibilité qui doit rester ouverte.

Concevoir pour une interaction sereine et fonctionnelle

Placez la commande de correction à proximité immédiate de la mémoire ou de la réponse concernée. Utilisez des termes familiers tels que « Modifier », « Supprimer » et « Confirmer », et évitez d'obliger les utilisateurs à rédiger une invite spécifique pour corriger une simple erreur factuelle. Les directives de Microsoft préconisent explicitement une correction efficace et un retour d'information granulaire. Les recommandations actuelles d'Apple sur la conception d'IA générative préconisent également de faciliter l'ajustement ou l'annulation, et d'indiquer clairement quand la modification d'un utilisateur a pris effet. Directives de conception de l'interface humaine d'Apple pour l'IA générative

Pour les modifications conséquentes, proposez un aperçu concis de type avant/après. Ne fusionnez pas silencieusement des versions contradictoires et ne remplacez pas la correction d'une personne par une préférence déduite. Si l'utilisateur précise : « J'ai choisi le bouleau pour cet organiseur, mais j'aime toujours le cèdre pour les projets d'extérieur », préservez le champ d'application de chaque affirmation au lieu de les réduire à une préférence générale pour le bois. Il s'agit d'une déduction de conception : Microsoft recommande de délimiter le périmètre des services en cas d'incertitude, et ses recommandations sur les mises à jour prudentes soutiennent l'idée d'éviter les changements perturbateurs au fil du temps.

Un historique léger des modifications peut aider les utilisateurs à récupérer après une modification accidentelle, en particulier pour les données de projet qu'ils pourraient souhaiter restaurer. Mais cet historique doit être compréhensible et rester sous le contrôle de la personne. Si une interface propose d'annuler, indiquez ce qu'elle restaure et si l'affirmation restaurée redevient active. Les directives d'Apple soulignent expressément que l'annulation et des retours explicites sont des modèles utiles pour affiner les résultats générés ; appliquer ce modèle à l'édition de la mémoire est un prolongement logique, et non l'affirmation que les directives prescrivent une fonctionnalité spécifique d'historique de mémoire.

Comment savoir si le flux fonctionne

Évaluez le flux à travers des scénarios de projets ordinaires et des tâches observables. Une personne parvient-elle à repérer le détail erroné après son apparition dans une réponse ? Peut-elle remplacer « décidé » par « envisage », confirmer la formulation mise à jour et découvrir ce que le système utilisera par la suite ? Peut-elle supprimer un choix obsolète sans confondre cette action avec la consigne donnée à l'assistant de ne pas le mentionner ponctuellement ? Ce sont des questions de test destinées à une proposition de conception, et non des résultats d'évaluation rapportés.

Une évaluation utile peut vérifier si les utilisateurs accomplissent ces tâches, s'ils comprennent la différence entre modifier et supprimer, et si les détails corrigés se reflètent dans une réponse ultérieure pertinente. Elle devrait également examiner les scénarios d'échec : le détail reste introuvable, deux souvenirs entrent en conflit, la correction ne s'est pas encore répercutée, ou l'utilisateur annule avant d'enregistrer. Dans ces cas, l'interface doit reconnaître la situation et proposer une étape suivante claire au lieu d'afficher « corrigé » alors qu'elle ne peut pas vérifier le changement. Cela s'inscrit dans les recommandations visant à rendre la correction efficace et à communiquer les conséquences des actions ; les indicateurs eux-mêmes sont des recommandations.

Rendre la mémoire corrigeable, puis rendre la correction visible

La mémoire des compagnons IA devrait être modifiable parce que les détails ordinaires d'un projet évoluent et qu'un résumé mémorisé peut être incomplet ou erroné. Un flux de correction performant permet à l'utilisateur d'inspecter une affirmation spécifique, de la modifier ou de la supprimer, de confirmer le sens si nécessaire, et de voir de quelle manière ce changement devrait influencer la personnalisation future. L'expérience suscite la confiance grâce à un retour visible et précis sur chaque action, et non en laissant entendre que la mémoire est infaillible ou qu'une seule correction garantit l'exactitude de toutes les réponses futures.

Continuer sur ce thème