När en AI glömmer en projektdetalj bör den fråga innan den minns

Ett kreativt projekt bygger på små beslut: vilken titel som fanns med på kortlistan, om utkastet använder första eller andra person, eller vilken färgpalett användaren valde. Om assistenten inte kan hitta någon av dessa uppgifter kan ett flytande svar låta som ett tillförlitligt minne samtidigt som det i det tysta introducerar ett nytt val.

NIST definierar konfabulation i generativ AI som bland annat felaktigt innehåll som presenteras med säkerhet, liksom resultat som avviker från eller motsäger indata. En påhittad projektdetalj motsvarar den praktiska risken: den kan misstas för ett beslut som redan har fattats. NIST:s profil för generativ AI beskriver mekanismen i allmänna ordalag; konsekvenserna för projektarbete som beskrivs här är en designslutsats, inte ett resultat om en viss produkt.

Forskning från OpenAI hävdar också att vanliga utvärderingsincitament kan belöna gissningar framför att erkänna osäkerhet. Exemplet handlar om allmänna frågor och svar, men designlärdomen gäller även här: en assistent bör inte se ett självsäkert formulerat svar som bevis för att den kan återge en tidigare konversation. Varför språkmodeller hallucinerar

Assistenten bör skilja mellan tre lägen: en uppgift som syns i den aktuella konversationen, en uppgift som går att hämta från en tillgänglig projektkälla och en uppgift som den inte kan verifiera. De här lägena kräver olika formuleringar. Om uppgiften förekommer tidigare i den aktuella tråden kan assistenten citera eller sammanfatta den och hänvisa till sammanhanget. Om den har hittat en anteckning eller ett dokument kan den namnge källan. Om inget av detta finns tillgängligt bör den säga det tydligt.

Ett användbart uttryck för osäkerhet är specifikt och avgränsat: ”Jag kan inte verifiera vilken titel du valde utifrån den projektinformation jag har tillgång till.” Det antyder inte att användaren aldrig valde en titel, att assistenten har sökt igenom alla möjliga arkiv eller att den saknade uppgiften inte existerar. De skillnaderna spelar roll, eftersom oförmåga att hämta en uppgift inte är ett bevis för att den aldrig dokumenterades.

Googles handbok People + AI rekommenderar att man förklarar relevanta funktioner och begränsningar och fokuserar förklaringarna på sådant som påverkar användarens förståelse och beslut. Tillämpat här talar det för ett kort uttalande om vilket projektsammanhang som är tillgängligt, snarare än en teknisk förklaring av modellens inre funktioner. Förklarbarhet + tillit

När luckan har angetts bör assistenten ställa en riktad fråga. Till exempel: ”Kan du klistra in anteckningen eller berätta vilken titel du bestämde dig för?” Om användaren kan ha flera möjliga källor kan assistenten ge en kort lista: ”Stod det i det senaste utkastet, dina projektanteckningar eller en tidigare chatt?” Målet är att göra det enkelt att återfinna uppgiften utan att förvandla en vanlig kreativ uppgift till ett förhör.

Ett praktiskt svarsmönster är: ”Jag kan inte bekräfta färgpaletten utifrån det jag har tillgång till. Om du delar anteckningen eller påminner mig om färgerna använder jag dem i nästa utkast.” Det anger vilken uppgift som saknas, ber om belägg eller bekräftelse och förklarar vad som händer härnäst. Det håller också arbetet igång: assistenten kan fortsätta med de delar av uppgiften som inte påverkas och lämna det osäkra valet öppet.

Förtydliganden är användbara när saknad information förändrar svaret. I en studie av dialogbaserad samverkan fann Testoni och Fernández att en strategi för förtydliganden som styrdes av modellens osäkerhet förbättrade uppgiftsresultatet i deras specifika rituppgift. De rapporterar också att frågor har ett pris. Det stöder ett måttfullt tillvägagångssätt: fråga när den saknade projektuppgiften spelar roll och håll frågan avgränsad. Ställ rätt fråga vid rätt tillfälle

När användaren har lämnat en källa eller bekräftat en uppgift bör assistenten återge den bekräftade uppgiften kortfattat: ”Uppfattat: den aktuella titeln är ’Anteckningar om en liten trädgård’, enligt anteckningen du klistrade in.” Om källan säger något lite annorlunda bör assistenten lyfta fram avvikelsen i stället för att välja i tysthet. Till exempel: ”I din anteckning står det ’Trädgårdsanteckningar’, men du skrev just ’Anteckningar om en liten trädgård’. Vilken ska jag använda?”

Uppdateringen bör begränsas till projektet och underlaget. En inklistrad rad kan ligga till grund för att använda just den raden i den aktuella uppgiften; det innebär inte automatiskt att uppgiften är permanent, gäller alla versioner eller bör sparas efter den aktuella konversationen. Om produkten har en synlig projektdokumentation bör den visa den föreslagna uppdateringen och ge användaren möjlighet att rätta den. Om den inte har någon sådan dokumentation bör den inte påstå att minnet har ändrats permanent.

Det här bekräftelsesteget är en designrekommendation som bygger på spårbarhet och användarkontroll: användaren kan se vilken uppgift som har tagits med och rätta den innan den påverkar mer arbete. Det är särskilt användbart när kreativa val förändras. Ett tidigare utkast kan innehålla en gammal titel, medan ett nytt meddelande fastslår en ny; assistenten bör bevara den ordningsföljden i stället för att slå ihop utkasten till ett enda påstått tidlöst minne.

En fråga kan fortfarande vilseleda om den innehåller ett påhittat svar. ”Du valde turkos, eller hur?” styr samtalet mot en uppgift som assistenten inte har verifierat. Be hellre neutralt: ”Vilken färg valde du?” Om det finns en faktisk källa som nämner turkos bör assistenten ange den: ”I utkastanteckningarna står det turkos. Är det fortfarande den palett du vill ha?” Den formuleringen skiljer källans uppgift från en aktuell bekräftelse.

Presentera inte genererade alternativ som ihågkomna fakta. Om användaren inte hittar det tidigare beslutet kan assistenten erbjuda sig att hjälpa till att välja på nytt, men bör märka det som ett nytt val: ”Jag kan inte återfinna den tidigare paletten. Vill du välja en nu?” Skillnaden gör det möjligt att samarbeta kreativt utan att skriva om projektets historik.

En studie från 2024 av språkmodeller som svarar på ofullständiga frågor fann att ett kontextuellt lämpligt beteende med förtydliganden uppstod under vissa förutsättningar för modellstorlek och promptning, snarare än att uppstå automatiskt. Resultatet påminner produktteam om att utforma och utvärdera detta beteende uttryckligen, i stället för att anta att en modell som standard ställer rätt fråga på ett tillförlitligt sätt. Förtydligande svar

Produktteam kan testa den här interaktionen med vanliga uppgifter från kreativa projekt: be om en saknad titel, ett valt format eller en preferens för utkastet när den relevanta uppgiften saknas i assistentens tillgängliga sammanhang. Ett bra svar bör ange vad som saknas, undvika att hitta på en tidigare konversation, be om en relevant källa eller bekräftelse och sedan använda den bekräftade informationen konsekvent.

Ta med närliggande fall där uppgiften finns i den aktuella tråden eller i en bifogad anteckning. I sådana fall bör assistenten använda det tillgängliga underlaget och samtidigt vara tydlig med varifrån det kommer. Testa också motstridiga versioner och rättelser från användaren. En användbar utvärdering skiljer mellan obestyrkt återgivning och hämtning med stöd i en källa och kontrollerar om assistenten fortsätter med opåverkade delar av arbetet i stället för att blockera hela uppgiften.

Det här är en föreslagen utvärderingsmetod, inte ett resultat som fastställts av de citerade studierna. Informationsvinsten ligger i beslutssekvensen: ta reda på vad som är tillgängligt, ange begränsningen, be om den minsta hjälpsamma källan, bekräfta den uppgift som ska användas och tydliggör uppdateringens omfattning. Den sekvensen gör ”Jag vet inte” till ett produktivt steg i arbetet.

För en assistent som arbetar med kreativa projekt är det ingen återvändsgränd att erkänna att en uppgift saknas. Det är ett sätt att skydda kontinuiteten: systemet kan fortsätta hjälpa till utan att fylla i obekräftad historik. Tydlig osäkerhet, en fokuserad fråga och en synlig bekräftelse låter användaren avgöra vad som hör hemma i projektets dokumentation och ger assistenten en välgrundad utgångspunkt för nästa utkast.