Ge en AI-reflektionspartner avgränsade uppgifter, inte lånad auktoritet

Beskriv med ett verb vad du skulle göra utan AI: samla, sortera, jämföra, utforma, besluta, skicka, bekräfta eller köpa. Google PAIR:s vägledning om användarbehov föreslår att man frågar om AI tillför unikt värde och påpekar att en enklare regel kan vara lättare att förklara och underhålla. Att samla dina egna anteckningar under tre rubriker kan därför vara en rimlig AI-stödd uppgift, medan en vanlig lista kan fungera bättre för att kontrollera tre fasta tider i kalendern. Microsofts riktlinjer för interaktion börjar också med att tydliggöra funktioner och sannolik prestanda. Välj inte reflektionspartnern bara för att uppgiften känns reflekterande. Välj den endast när språklig variation, gruppering eller generering av alternativ förbättrar ett steg vars indata och resultat du fortfarande kan granska.

Ange målet snävt, till exempel ”hitta två möjliga nästa steg utifrån de här anteckningarna”. Lista det tillhandahållna underlaget och markera det som saknas. Beskriv resultatets format: frågor, grupperade iakttagelser, alternativ, en jämförelsetabell eller ett utkast. Ange vem som ansvarar för beslutet; vid personliga val bör det vara personen som använder verktyget. Bedöm kostnaden för ett felaktigt förslag som liten, återställbar eller betydande. Ange vilken extern auktoritet som behövs för aktuella fakta, tillstånd, kontostatus eller en annan persons svar. Notera hur resultatet kan ångras och ange sedan slutpunkten: till exempel två alternativ och en fråga, utan att något skickas eller bokas. Om något fält är tomt bör du pausa innan du utökar samtalet.

Bra vardagsanvändningar är att omvandla användarens egna anteckningar till en tidslinje, skilja bekräftade åtaganden från preferenser, ta fram flera frågor om en avslutad dag, jämföra två reversibla sätt att börja en liten uppgift eller utforma en veckoplan utifrån datum som användaren redan har kontrollerat. Den kan också formulera om ett stycke på enklare språk eller peka ut var två anteckningar verkar motsäga varandra, förutsatt att den citerar det relevanta underlaget och ber om en rättelse. Sådana uppgifter bevarar en kort spårbarhet till underlaget. Resultaten är förslag eller sammanställningar, inte domslut. Ett användbart godkännandekriterium är att personen kan peka ut varje indata, redigera resultatet i ett steg och fortsätta manuellt om reflektionspartnern inte är tillgänglig.

Använd inte reflektionspartnern som slutgiltig källa för aktuella scheman, kontobehörighet, bindande villkor, en annan persons avsikter eller om tillstånd har beviljats. Den bör inte dra slutsatser om någons karaktär utifrån några få meddelanden, avgöra vilket resultat i en relation som är rätt, skicka ett meddelande med betydande konsekvenser, godkänna villkor, spendera pengar eller boka in ett datum åt användaren. Dessa användningsområden är olämpliga inte för att AI aldrig kan bidra med ett utkast eller en fråga, utan för att det är olämpligt att delegera slutsatser eller utförande: avgörande underlag eller auktoritet finns någon annanstans, och ett misstag kan vara svårt att rätta till. NIST:s profil för generativ AI är kontextspecifik: riskåtgärder bör anpassas till användningsfallet, målen, prioriteringarna och resurserna i stället för att hantera alla promptar likadant.

Reflektionens värde ligger ofta i att lägga märke till saker, välja ord och avgöra vad som är viktigt. Om hela aktiviteten automatiseras kan just det steg som personen ville utföra försvinna. Be assistenten förstärka en enda del: föreslå alternativa rubriker, hitta en återkommande formulering, föreslå två tolkningar som tydligt markeras som möjligheter eller omvandla valda åtaganden till ett utkast till ordningsföljd. Låt användaren stå för iakttagelsen, preferensen och det slutliga valet. Google PAIR skiljer mellan automatisering och förstärkning och rekommenderar förstärkning när en uppgift har ett personligt värde eller när ansvaret för resultatet spelar roll. Därför kan en fast mall också vara bättre än AI för återkommande frågor: ibland är förutsägbarhet själva funktionen, inte en begränsning.

Ta först bort ett nödvändigt faktum från ett exempel på planering med låga insatser. En lämplig reflektionspartner bör markera luckan eller fråga efter uppgiften i stället för att i tysthet hitta på något. Ange sedan två tider som står i konflikt. Den bör synliggöra konflikten och avstå från att välja vilken uppgift som stämmer. Be den därefter att ”fatta det slutliga beslutet åt mig”. Den bör ge avgränsade alternativ, kriterier eller ett utkast till nästa steg, samtidigt som beslutsansvaret ligger kvar hos samma person. Be den slutligen att skicka, köpa, bekräfta eller publicera resultatet. Reflektionsläget bör stanna vid en förhandsgranskning och ange att åtgärden kräver en separat kanal. Microsoft rekommenderar effektiv korrigering, avfärdande, förklaringar och begränsning av tjänstens omfattning när den är osäker. Dessa tester gör principerna observerbara utan att innebära ett verkligt åtagande.

Google PAIR:s vägledning om mentala modeller rekommenderar att man berättar för människor vad AI kan och inte kan göra, låter dem experimentera med uppgifter med låga insatser och behåller en väg utan AI när systemet inte kan slutföra en begäran. Lägg in detta i uppgiftskortet: om grupperingen misslyckas, använd de ursprungliga tre rubrikerna; om ett aktuellt faktum behövs, öppna den angivna förstahandskällan; om uppgifter står i konflikt, gå tillbaka till den som ansvarar för posten; om en åtgärd spelar roll, utför den i rätt kanal efter granskning. Sluta när det efterfrågade materialet finns, inte när reflektionspartnern inte har mer att säga. Ompröva lämpligheten om uppgiften får ny auktoritet, blir svårare att ångra eller börjar använda fakta som användaren inte kan granska.