Cosa dovrebbe ricordare un assistente IA? Una guida pratica per scegliere cosa conservare
Se stai decidendo cosa dovrebbe ricordare un assistente IA da una conversazione all'altra, inizia con un breve elenco di dettagli forniti intenzionalmente e che ritieni torneranno utili: preferenze di risposta stabili, contesto di progetti in corso e alcuni dati pratici rilevanti per quel progetto. Mantieni i dettagli contestuali temporanei all'interno del progetto o della conversazione a cui appartengono. Non considerare la capacità di un sistema di dedurre uno schema ricorrente come un'autorizzazione a memorizzarlo. Un ricordo utile serve a un compito futuro concreto, rimane all'interno del suo ambito previsto e può essere esaminato o rimosso.
Parti dall'attività che il ricordo dovrebbe migliorare
Prima di salvare un dettaglio, completa questa frase: “Ricordare questo aiuterà a ___”. Se la risposta è vaga, il dettaglio probabilmente non appartiene alla memoria persistente. “Usa elenchi puntati concisi quando mi aiuti a pianificare le attività del fine settimana” ha uno scopo chiaro. “Ieri in chat sembravo impaziente” non stabilisce una preferenza duratura né un dato utile.
Questa è un'applicazione pratica della minimizzazione dei dati: il NIST definisce la minimizzazione come la limitazione della creazione, dell'uso e della conservazione dei dati personali a quanto direttamente rilevante e necessario per uno scopo, mantenendoli solo per il tempo necessario a tale scopo. Per una funzione di memoria, la domanda di progettazione corrispondente è se il sistema abbia effettivamente bisogno di questo dettaglio per eseguire in seguito un'attività scelta dall'utente. NIST’s definition of minimization
Candidati ideali: preferenze esplicite e dettagli utili sui progetti
I candidati più idonei sono dettagli ordinari che l'utente ha dichiarato chiaramente e che con probabilità influenzeranno risposte future e ripetute. Gli esempi includono un formato di risposta preferito, il nome scelto per un progetto, i materiali già selezionati per un lavoro manuale o la preferenza indicata dall'utente per piante a bassa manutenzione durante la pianificazione di un giardino sul balcone. Salva la versione meno dettagliata che risulti comunque utile: “preferisce istruzioni brevi e dettagliate passo-passo” è più utile e meno invadente rispetto a memorizzare una narrazione di ogni occasione in cui l'utente ha richiesto brevità.
Alcune informazioni personali sono rilevanti solo all'interno di un progetto definito. Se un utente dice che una stanza misura 3 metri per 4 mentre ne progetta la disposizione, quella dimensione può essere utile all'interno del progetto di arredamento; non deve diventare un contesto generale per conversazioni non correlate. Una memoria limitata a un progetto risponde a una semplice domanda: a quali conversazioni future è consentito attingere a questo dettaglio?
La documentazione di prodotto dimostra perché sia utile trattare i ricordi persistenti e il contesto di progetto come scelte distinte. OpenAI descrive i ricordi salvati come separati dalla cronologia delle chat e documenta un'opzione di memoria solo per il progetto che limita le conversazioni del progetto che possono fare riferimento le une alle altre. Questi sono controlli specifici del prodotto, non una garanzia che ogni sistema di IA offra lo stesso perimetro. OpenAI’s memory documentation
Mantieni temporanei i dettagli contestuali temporanei
Un dettaglio può essere utile adesso senza esserlo in futuro. Il bar in cui ti trovi, il meteo di oggi, una lista della spesa temporanea o una decisione non ancora finalizzata possono aiutare a rispondere alla richiesta del momento, ma diventano obsoleti rapidamente. Mantieni queste informazioni nella conversazione o nel progetto corrente, a meno che tu non chieda esplicitamente di riportarle in seguito. Se vengono salvate, assegna loro un ambito e un punto di revisione: ad esempio, “per questo itinerario di viaggio” o “finché non scelgo un portatile”.
Ciò evita di trasformare un momento contingente in un presunto tratto personale. La richiesta estemporanea di un bar silenzioso non dimostra una preferenza permanente per i luoghi tranquilli; scegliere un colore vivace una volta non stabilisce un gusto estetico duraturo. La scelta di design più prudente è preservare le parole dell'utente come un dato contestualizzato quando necessario, senza generalizzarle implicitamente in una descrizione della sua personalità.
La documentazione sulla privacy di Google Gemini distingue le istruzioni salvate dalla personalizzazione basata sulle chat passate e specifica che le informazioni salvate possono essere gestite o eliminate dall'utente. Segnala inoltre che la personalizzazione basata sulle chat precedenti può utilizzare informazioni tratte da esse. Tale distinzione supporta una regola pratica nella progettazione del prodotto: le preferenze deliberate e modificabili dovrebbero essere identificabili separatamente dal contesto ricavato dalla cronologia delle conversazioni. Gemini Apps Privacy Hub
Non dedurre tratti sensibili né salvare dettagli di terzi come impostazione predefinita
Un sistema di memoria non dovrebbe trasformare gli indizi conversazionali in deduzioni delicate o sensibili. Il modo di esprimersi di un utente, i suoi orari, gli acquisti o le scelte isolate non giustificano supposizioni su tratti personali, circostanze o motivazioni. Anche quando una deduzione sembra plausibile, potrebbe essere errata, e una risposta futura può diventare imbarazzante o fuorviante se trattata come un dato confermato. Memorizza un'informazione fornita dall'utente solo quando ha un'utilità evidente legata a un compito; non trasformarla in un'affermazione più ampia su chi sia l'utente.
Applica un analogo riserbo alle informazioni su altre persone. Un progetto può richiedere un nome o un ruolo fornito esplicitamente dall'utente, ma una conversazione di routine non deve trasformarsi in un dossier permanente su amici, parenti o colleghi. Se un dettaglio su terzi è necessario per un compito specifico, mantienilo all'interno dell'ambito di quel compito ed evita dettagli personali non necessari. Questa è una raccomandazione di progettazione del prodotto derivata dal principio di minimizzazione, non l'affermazione che ogni servizio gestisca tali dati nello stesso modo.
Assegna a ogni ricordo un ambito, una fonte e un percorso di revisione
È più facile fidarsi di un ricordo quando l'interfaccia chiarisce cosa dice, da dove proviene e dove può essere utilizzato. Una voce di memoria pratica potrebbe includere: l'affermazione esatta fornita dall'utente; il suo scopo; se si applica a livello generale o solo a un progetto; e una data di revisione facoltativa o una condizione per la rimozione. Per esempio: “Per il progetto del giardino sul balcone, preferisce piante che richiedono poca acqua; rivedere quando la lista delle piante sarà scelta”. Questo è un formato illustrativo, non una funzionalità documentata di un prodotto specifico.
Gli utenti dovrebbero poter esaminare, correggere e rimuovere le informazioni memorizzate. Dovrebbero anche poter distinguere l'eliminazione di un ricordo dalla cancellazione di una chat o dalla modifica di impostazioni di personalizzazione più generali. La documentazione di supporto di OpenAI spiega che i ricordi salvati possono essere separati dalla cronologia delle chat, quindi eliminare solo la chat originaria potrebbe non cancellare il ricordo indipendente. L'hub per la privacy di Gemini descrive allo stesso modo controlli separati per le attività e per le informazioni salvate. Questi esempi di prodotto mostrano perché un percorso di cancellazione chiaro debba spiegare su quale livello agisce ciascun controllo. OpenAI memory controls, Gemini Apps data controls
La selezione della memoria è distinta dall'informativa e dall'ambito delle impostazioni
Scegliere cosa appartiene alla memoria risponde a una sola domanda: quali dettagli devono persistere per la personalizzazione futura? Ciò non spiega, di per sé, quali informazioni un servizio raccolga, come gestisca le chat, chi possa esaminare i dati o quali controlli dell'account e delle impostazioni si applichino. Queste sono questioni distinte relative all'informativa e all'ambito delle impostazioni. Un prodotto dovrebbe descriverle separatamente e con precisione, anziché suggerire che un elenco ridotto di ricordi significhi che nessun altro dato viene elaborato.
La distinzione è importante nella pratica. L'informativa sulla privacy di Google descrive diverse categorie di informazioni e impostazioni, tra cui istruzioni salvate, controlli delle attività, app collegate e l'uso dei dati per fornire e migliorare i servizi. Il comportamento esatto varia in base al prodotto e alla configurazione. Un'interfaccia per la selezione della memoria dovrebbe pertanto dichiarare cosa disciplina e indirizzare gli utenti verso le informazioni pertinenti su privacy e impostazioni, senza lasciare intendere che sostituisca tali spiegazioni. Gemini Apps Privacy Hub
Un breve test decisionale per ogni ricordo proposto
Prima di salvare un dettaglio, poniti quattro domande:
È stato fornito o approvato esplicitamente? Se è solo un'interpretazione, non salvarlo come un dato di fatto.
Migliorerà una specifica attività futura probabile? Dai un nome a tale attività; se non te ne viene in mente nessuna, tralascialo.
Qual è il suo ambito corretto? Usa i confini del progetto per i dettagli che non appartengono alla personalizzazione generale.
L'utente può esaminarlo e rimuoverlo? In caso contrario, l'interfaccia non dovrebbe presentarlo come un semplice ricordo controllato dall'utente.
Ad esempio, in un progetto di pianificazione di una stanza, “L'utente ha scelto una scrivania compatta per lo studio” può essere utile fino al completamento della disposizione. Il bar visitato durante la sessione di pianificazione è probabilmente temporaneo. L'ipotesi che l'utente “preferisca sempre il minimalismo” non dovrebbe essere salvata a meno che l'utente non dichiari esplicitamente tale preferenza e desideri che venga applicata più ampiamente. Questi esempi applicano il test decisionale; non sono risultati di ricerca né affermazioni su un prodotto particolare.
Un sistema di memoria equilibrato non ha bisogno di costruire un profilo completo. Dovrebbe tramandare poche preferenze esplicite e dati pratici al servizio delle attività scelte, mantenere locali i dettagli locali e rendere comprensibili la correzione e l'eliminazione. L'obiettivo è una continuità fondata su ciò che l'utente ha effettivamente detto, non la pretesa che un'IA conosca la persona dietro la conversazione.