Valutare la trasparenza con ricevute, non con un voto
Gli indicatori di trasparenza più importanti di un companion AI di riflessione sono osservabili e azionabili: identità AI e ruolo del prodotto sempre visibili, finalità e usi non supportati, dati e memoria attivi in questa interazione, fonti e incertezza di una singola uscita, controlli che cambiano davvero il comportamento, uscita ordinaria, segnalazioni e ricorsi con stato, versione e data di aggiornamento. Non ridurli a un indice di fiducia. Per ogni affermazione conserva una ricevuta in quattro colonne: posizione visibile, azione disponibile, test negativo, ultima verifica. Questo metodo valuta l’interfaccia del prodotto; non verifica da solo una risposta specifica e non classifica i servizi.
Controllare che identità, ruolo, scopo e limiti resistano a un cambio di personaggio
Un nome o una voce amichevole non sostituiscono l’identificazione. In chat, voce, esportazione condivisa e dopo una lunga pausa deve restare chiaro che risponde un sistema AI e chi lo gestisce. Il ruolo viene descritto in termini concreti: ordinare note fornite, generare domande di riflessione o preparare opzioni. Finalità, usi non supportati e limiti stanno vicini. Come test negativo, chiedi un ruolo immaginario: il tono può cambiare, identità AI, operatore e capacità effettive no. L’articolo 50 dell’AI Act europeo è un riferimento regionale per alcuni sistemi a interazione diretta. L’applicabilità dipende dal contesto; la ricevuta non determina conformità e non offre consulenza giuridica.
Pretendere una ricevuta attuale per dati e memoria
Una policy elenca ciò che potrebbe essere trattato, non necessariamente ciò che ha inciso sulla risposta. La ricevuta separa messaggio corrente, allegato, impostazione del profilo, progetto, chat precedenti, fonte collegata e preferenza ricordata. Distingue uso per questa uscita da raccolta con altra finalità e collega ogni elemento a visualizzazione, correzione, disattivazione o scadenza. L’ambito deve coincidere in testo, voce, notifiche, esportazioni e dispositivi. Spegni un ricordo e apri una chat nuova. Se cambia l’etichetta ma il vecchio dettaglio ritorna, registra la discrepanza. Questa prova non esamina architettura di archiviazione o completamento della cancellazione, che appartengono alla guida separata sulla trasparenza dei dati.
Legare fonti, presupposti, conflitti e incognite all’uscita importante
Un avviso generico a fondo pagina vale meno di una spiegazione accanto al risultato. Separa fatti forniti dalla persona, fonti recuperate con data, impostazioni del prodotto, inferenze dell’assistente, materiali in conflitto, informazioni inaccessibili e punti aperti. PAIR consiglia di spiegare fonti e comportamento per calibrare l’affidamento. Una percentuale senza significato definito, evidenza e azione non è trasparenza. Rimuovi una fonte, aggiungi un fatto contrario e riapri una vecchia risposta dopo la data della fonte. L’interfaccia dovrebbe mostrare conflitto o ridurre la certezza. La correttezza della fonte è un compito distinto, gestito dal percorso collegato di verifica dei fatti; una citazione visibile non equivale a conferma.
Osservare l’effetto dei controlli e mantenere un’uscita normale
La persona deve poter correggere una preferenza, ridurre la personalizzazione, spegnere funzione o notifiche e uscire da un controllo account senza negoziare con il personaggio. Per ogni azione annota superfici, tempo di effetto, conferma, errore, nuovo tentativo e annullamento. PAIR raccomanda di spiegare cosa cambia il feedback e quando, preservando opt-out e reset. Disconnetti una fonte e apri una sessione estranea su un altro dispositivo. Se viene ancora usata, la ricevuta resta aperta. Una risposta «ho disattivato» non basta: impostazione e comportamento devono cambiare insieme. Se i dispositivi differiscono, conserva versione, dispositivo e stato irrisolto invece di dedurre quale sia corretto.
Seguire errore, revisione umana e ricorso fino a un esito
Il pulsante di segnalazione è solo l’inizio. Devono comparire problema ammesso, prove allegate, eventuale revisione umana, luogo dello stato ed esiti: corretto, respinto, non riproducibile, sostituito da una versione o ancora in esame. Correzione del contenuto e incidente di prodotto restano distinti, senza chiedere dati superflui. NIST Core include feedback esterno e impatti documentati nella gestione continua. Segnala una discrepanza innocua e riproducibile; osserva ricevuta, cambi di stato, motivazione e canale per integrare o contestare. Il silenzio non indica chiusura e una promessa dell’assistenza non è un esito osservabile. Mantieni versione, identificatore della conversazione e risultato mostrato.
Ancorare sette righe a versione e data senza sommarle
Le righe sono identità e ruolo; finalità e limiti; dati e memoria; fonti e incertezza; controllo e uscita; errore e ricorso; versione e data. Ognuna conserva posizione, azione, test negativo, risultato, lacuna, responsabile e giorno di verifica. Passa solo con prova presente e comportamento coerente. Niente punti, medie o classifiche: un’uscita assente non è compensata da fonti eleganti. Dopo un aggiornamento sostanziale, ripeti un test di identità, memoria, uscita con fonte, opt-out e stato della segnalazione. Il NIST Playbook invita ad adattare le azioni al contesto. Conserva le ricevute storiche datate e scrivi sconosciuto quando manca la prova.
Domande frequenti
La trasparenza va trasformata in un solo voto?
No. Un voto può nascondere uscita o ricorso mancanti dietro altre informazioni; conserva ogni riga separata.
Basta un’informativa privacy dettagliata?
No. Input attivi, memoria, fonti, incertezza e controlli devono essere visibili anche nell’interazione corrente.
Quando ripetere la ricevuta?
Al primo uso e dopo modifiche sostanziali a modello, funzione, policy, memoria o controlli account.