Bortom att låta mänsklig: fyra bättre mål för utformning av AI-chattar
För designers som utformar en AI-chattinteraktion är ”få den att kännas verklig” alltför vagt för att vägleda användbara beslut. En bättre uppgift är att hjälpa någon att få ett tydligt svar, utforska en idé, förstå vad systemet har gjort och välja vad som ska hända härnäst. Forskning om antropomorfa signaler tyder på att mänskliga drag kan påverka hur korrekt människor uppfattar informationen från en AI. Därför är tydlighet, kreativ lek, tillförlitlig uppgiftsstatus och användarkontroll mer användbara designmål än att efterlikna en mänsklig identitet.
Varför bör AI-chattar sträva bortom mänsklig likhet?
Ett samtal kan låta flytande utan att ge användaren en tillförlitlig bild av systemet. I ett experiment med 2 165 deltagare varierade forskarna om en pseudo-språkmodell använde enbart text eller tal tillsammans med text, och om den hänvisade till sig själv som ”jag” eller ”systemet”. Tal plus text ökade deltagarnas skattningar av antropomorfism och informationens korrekthet. Förstapersonsformuleringar höjde skattningarna av korrekthet och sänkte den upplevda risken i en kontext. Resultaten gäller den specifika försöksuppställningen, men visar att en signal som får ett system att verka mer mänskligt också kan påverka bedömningen av informationen. Google Research, ”Att tro på antropomorfism: En undersökning av antropomorfa signalers roll för användares tillit till stora språkmodeller”
Därför bör antropomorfa signaler och interaktionskvalitet granskas var för sig. En granskning av antropomorfa signaler undersöker vad gränssnittet antyder om AI:ns identitet eller mänskliga egenskaper. En granskning av bedömningsrisker undersöker om en signal kan få användare att överskatta resultatens korrekthet eller tillförlitlighet. Designmålen nedan tar upp en annan fråga: vad ska en person kunna förstå, göra och besluta under samtalet? En varm ton kan samexistera med dessa mål, så länge den inte skymmer systemets förmågor eller uppgiftens status.
Microsofts Human-AI eXperience Toolkit strukturerar vägledningen kring hur ett AI-system beter sig vid första användningen, under interaktion, när det gör fel och över tid. Den strukturen är användbar för utformning av chattar eftersom den flyttar fokus från en karaktärs personlighet till användarens skiftande behov. Microsoft, ”Riktlinjer för interaktion mellan människor och AI”
Gör tydlighet till en synlig del av samtalet
Tydlighet börjar med användarens uppgift, inte med en perfekt samtalsröst. Den som ber om tre förslag på helgaktiviteter behöver alternativ som går att jämföra. Den som ber om en omskrivning behöver ett utkast att bearbeta. Gränssnittet bör göra det enkelt att skilja den efterfrågade åtgärden från resultatet. Om AI:n föreslår, sammanfattar eller omarbetar material ska dess bidrag märkas tydligt, och tillräckligt med sammanhang bör finnas kvar för att användaren ska kunna bedöma det.
En användbar interaktion kan också visa vad AI:n kan och inte kan göra just när informationen spelar roll. Om en chattassistent till exempel kan föreslå en plan men inte boka något, bör svaret inte lämna det oklart vad som faktiskt görs. Ange vad som är klart, vad användaren fortfarande behöver göra och vilka detaljer som är osäkra. Det här är en designrekommendation som bygger på HAX betoning av lämpligt beteende genom hela interaktionen, inte ett påstående om att en viss formulering fungerar i alla produkter.
Ett enkelt tydlighetstest är att fråga någon efter ett kort samtal: Vad bad du systemet att göra? Vad gjorde det faktiskt? Vad behöver du kontrollera eller besluta innan du använder resultatet? Om svaren inte stämmer med gränssnittets avsedda innebörd bör formuleringen, strukturen eller ledtrådarna för nästa steg ses över innan mer personlighet läggs till.
Använd lek för att stödja utforskande
Lekfullhet ger människor ett sätt att utforska ett verktyg och dess möjligheter. I en studie av 372 användarskapade inlägg om ChatGPT identifierade forskare lekfulla utbyten med skämt, utmaningar till systemet och gränstestning. Författarna beskriver dessa interaktioner som ett sätt för människor att utforska AI:ns förmågor och handlingskraft, samtidigt som de påpekar att urvalet består av inlägg från en tidig period av ChatGPT-användning. Nikghalb och Cheng, ”Att utforska AI genom frågor: En beskrivning av framväxande lekfulla interaktioner med ChatGPT”
För designers är den praktiska slutsatsen inte att göra varje assistent till en komiker. Det handlar om att göra experimenterande utan större konsekvenser enkelt: erbjud sätt att prova en annan infallsvinkel, jämföra alternativ eller ändra ett utkast utan att förlora den tidigare versionen. En kort kreativ uppmaning som ”Ge mig tre oväntade teman” kan uppmuntra utforskande och samtidigt hålla användarens mål i sikte. Lek ska vara ett tillgängligt läge, inte en föreställning som användaren måste stå ut med.
Forskning om lekfulla verktyg för samskapande mellan människor och AI skiljer lekfullhet från kreativitet, men beskriver lek som en möjlig drivkraft för kreativa svar. Den tar upp gränssnitt, AI-beteende och dialog som designmöjligheter, samtidigt som lekfullhet ses som en upplevelse att stödja snarare än ett resultat som går att garantera. Liapis m.fl., ”Att utforma lekfulla verktyg för samskapande mellan människor och AI”
Håll uppgiftens status tydlig genom samtalet
Ett chattgränssnitt kan kännas naturligt och ändå tappa tråden i arbetet. Uppgiftens status omfattar användarens aktuella mål, beslut som redan har fattats, alternativ som fortfarande är öppna och nästa steg. När samtalet omfattar flera steg kan en kort sammanfattning visa systemets aktuella förståelse: ”Du har två alternativ kvar, föredrar en kort promenad och har inte valt någon plats än.” Då får användaren möjlighet att rätta uppgifterna innan samtalet fortsätter.
Interaktionsmönstret bör passa uppgiftens komplexitet. I sin artikel om textbaserat samskapande mellan människor och AI skiljer Ding och Chan mellan kureringsuppgifter med fast omfång, självständiga kreativa uppgifter och komplexa, ömsesidigt beroende kreativa uppgifter. De kopplar dessa till olika interaktionsmönster, från begränsad inblandning till iterativt samarbete. En användbar designslutsats är att ett svar i en enda vända kan passa en avgränsad sammanfattning, medan en kreativ uppgift under utveckling gynnas av dialogvändor som synliggör val och låter personen forma resultatet. Ding och Chan, ”En kartläggning av interaktionsutrymmet för textbaserade samskapandeuppgifter mellan människor och AI”
Gör en praktisk kontroll av uppgiftens status genom att följa en representativ uppgift genom samtalet. Fråga vid varje steg om personen kan se vad som har slutförts, vad som fortfarande är olöst och hur ett felaktigt antagande kan rättas. Om svaret bygger på att personen minns flera tidigare vändor bör du lägga till en kort sammanfattning eller en synlig lista över beslut. Om systemet inte kan bevara en detalj på ett tillförlitligt sätt bör den begränsningen framgå, i stället för att antyda en kontinuitet som inte finns.
Ge användarna meningsfull kontroll
Kontroll innebär att ge personen ett användbart sätt att styra eller ändra interaktionen. I en chatt kan det vara så enkelt som att låta någon välja mellan alternativ, redigera ett skapat utkast, ändra ett villkor eller be systemet att stanna upp och sammanfatta. Sådana kontroller är mest värdefulla när de påverkar ett beslut som användaren bryr sig om. En meny med justeringar som inte förändrar något väsentligt ökar komplexiteten utan att ge användaren större inflytande.
I ett experiment med en konversationsagent i gruppdiskussioner jämfördes olika sätt att ställa förväntningar på agentens förmåga att identifiera deltagare som bidragit lite. Forskarna testade information om träffsäkerheten, en förklaring av identifieringsmetoden och dataunderlaget samt ett reglage för justering. I just den studien hjälpte förklaringen användarna att förstå algoritmen och fungerade bäst totalt sett. Att bara erbjuda ett reglage ledde till en mer negativ upplevelse av diskussionen. Resultatet visar att en kontroll inte blir användbar bara för att den finns: förklara vad den ändrar och gör följderna begripliga. Do m.fl., ”Informera, förklara eller kontrollera: Tekniker för att justera slutanvändares förväntningar på en konversationsagent som underlättar gruppchattar”
En praktisk designordning är: visa den aktuella tolkningen, erbjud ett litet antal meningsfulla nästa steg och gör det enkelt att rätta till något. Efter att ha skapat en utflyktsplan kan systemet till exempel fråga om användaren vill korta rutten, byta ut en aktivitet eller behålla utkastet. Varje alternativ anger en konkret ändring. Exemplet är illustrativt och beskriver ett allmänt interaktionsmönster, inte en funktion i någon särskild produkt.
Gör om målen till en granskningslista
När du utvärderar en chattdesign bör du granska en vanlig uppgift från början till slut. Kontrollera om det första utbytet tydliggör systemets roll, om användaren kan skilja ett förslag från en genomförd åtgärd, om en utforskande vända bjuder in till experimenterande utan att tvinga fram en lekfull persona och om samtalet korrekt visar beslut och olösta steg. Kontrollera sedan om personen kan rätta systemet och förstå effekten av varje tillgänglig kontroll.
Granska till sist språk och presentation efter signaler som kan antyda mänsklig identitet eller särskild tillförlitlighet. Fundera på om påståenden i första person, röst, känslospråk eller en människolik avatar kan påverka användarens bedömning av ett svar. Den granskningen kompletterar, men ersätter inte, tester av om interaktionen är begriplig och användbar. Det starkaste måttet på en chattdesign är om en person kan utföra sin egen uppgift och tydligt se AI:ns bidrag och nästa val, inte om samtalet kan misstas för ett samtal med en människa.