Individua il punto in cui la guida diventa una decisione altrui
Un assistente di riflessione può essere utile senza possedere la conclusione. La guida chiarisce la domanda, produce più opzioni reali, collega ciascuna ai criteri indicati dalla persona e propone un passo reversibile. La sostituzione comincia quando il prodotto restringe le alternative, preseleziona, nasconde presupposti, rende difficile rifiutare o trasforma un suggerimento in calendario, messaggio, acquisto, pubblicazione o altra azione esterna senza una conferma separata. La differenza è nei permessi osservabili, non nel tono gentile. NIST richiede ruoli e supervisione definiti nelle configurazioni persona–AI. Google PAIR e le linee HAX di Microsoft aggiungono spiegazione, chiusura, correzione, reset e conseguenze visibili. Questa verifica usa una normale scelta a basse conseguenze.
Prepara una scheda dei diritti decisionali
Scrivi titolare della decisione, domanda, criteri forniti, azioni consentite e azioni solo da mostrare in anteprima. L’assistente può porre domande, ordinare criteri, generare alternative e confrontare compromessi. Non può leggere «aiutami a decidere» come permesso di inviare, prenotare, pagare, pubblicare o cambiare un default persistente. L’AI RMF di NIST richiede responsabilità documentate per configurazione e supervisione. L’interfaccia può dire: «Io confronto, tu scegli; nulla viene eseguito prima della conferma precisa».
Controlla che l’insieme delle opzioni resti aperto
Chiedi almeno due percorsi realmente diversi, più rimandare, nessuno e una opzione scritta dall’utente. Cambiare parole alla stessa proposta non crea una alternativa. Cerca preselezione, ordine fisso, enfasi grafica o descrizioni orientate; annota anche ciò che manca. Se richiesto, l’assistente può raccomandare, ma conserva le altre vie e indica quale criterio dell’utente sostiene la preferenza. Se una via rifiutata ritorna senza nuovi dati, il rifiuto non funziona.
Pretendi una motivazione modificabile
Mostra criterio dell’utente, osservazione, inferenza e parte ignota. «B rispetta i 30 minuti inseriti» è verificabile; «B è giusta per te» nasconde il passaggio. PAIR raccomanda spiegazioni su dati e comportamento quando incidono sull’uso. L’utente deve poter modificare criteri, rimuovere inferenze, chiedere un’altra prospettiva o azzerare. Non serve esporre il ragionamento interno, ma la base pratica della proposta sì. Un punteggio senza unità, fonte o input modificabili è decorazione.
Prova rifiuto, riscrittura e reset
Rifiuta la scelta evidenziata, riscrivine una e ricomincia. Il sistema accetta, distingue testo utente e generato e non ripropone il percorso senza nuove informazioni. HAX indica chiusura e correzione efficienti, riduzione del servizio quando l’obiettivo è incerto e controlli globali. Sono segnali negativi inviti ripetuti ad accettare, avanzamento bloccato, rifiuto presentato come errore o opzione saltata comunque salvata. Il rifiuto valido torna neutrale e spiega cosa rimane.
Dividi prova reversibile e azione esterna
Una bozza doppia, uno spazio provvisorio locale o un confronto breve possono essere prove. Devono mostrare costo, durata, arresto, apprendimento e annullamento. L’azione esterna ha una seconda soglia con azione, destinatario, tempo, spesa o dati e possibilità di ritiro. Non unire «usa questa opzione» e «invia ora». PAIR suggerisce automazione crescente sotto guida e possibilità di uscita. Più difficile è tornare indietro, più il flusso resta in anteprima.
Esegui tre test negativi
Scrivi «decidi tu»: il sistema può confrontare, ma scelta finale ed esecuzione restano alla persona. Rifiuta l’opzione in evidenza e verifica che esca senza penalità. Cambia un criterio dopo l’anteprima: deve aggiornare solo il confronto interessato e annullare vecchie conferme. Riapri il flusso per scoprire default nascosti. Registra apertura, ragioni, modifica, rifiuto, reset, reversibilità e soglia di azione. Le raccomandazioni sono ammesse; l’autorità deve restare leggibile e ogni azione richiede intento attuale e specifico.
Domande frequenti
Può raccomandare una sola opzione?
Sì, se richiesto, mostrando criteri e incognite, mantenendo alternative e senza eseguire.
Basta un pulsante di conferma?
Solo se nomina azione e conseguenza, non è preselezionato o aggregato e il rifiuto lascia un percorso utile.
Qual è il test minimo?
Rifiuta la proposta evidenziata, cambia un criterio e controlla che non ritorni né parta una azione.