Separe a pista humana da evidência de capacidade

Inventarie as pistas humanas antes de avaliar o efeito

Registre primeiro escolhas observáveis: nome e biografia, rosto ou corpo, voz, primeira pessoa, pausas de digitação, turnos, saudações, desculpas, afirmações de memória, mensagens espontâneas, referências a história compartilhada e palavras de preferência, atenção, intenção ou presença. Separe também a voz do serviço em marketing, início, chat, notificações, memória, pagamento e erros. Uma pista não é necessariamente enganosa. Nome facilita a navegação, voz amplia o acesso e conversa reduz esforço. A pergunta é se há um limite preciso. ‘Lembro do nosso plano’ pode vir de nota salva, busca no histórico, contexto temporário ou texto gerado; essas fontes não sustentam a mesma expectativa. Descreva o que aparece sem concluir um estado interno. Assim, estilo agradável não vira automaticamente evidência de capacidade.

Distinga atribuição de capacidade e de intenção

Um salto de capacidade transforma fluência em compreensão, uma resposta detalhada em competência geral ou a lembrança de um item em memória completa e contínua. Um salto de intenção transforma desculpa em arrependimento pessoal, sugestão em preferência própria ou frase calorosa em objetivo do sistema. A formulação sozinha não prova nada disso. O Google PAIR alerta para expectativas acima da capacidade real. A Microsoft Research examina linguagem que implica sentimentos, crenças, experiência, vontade ou identidade própria. No registro, escreva ‘a interface mostrou o evento salvo’, não ‘ela conhece minha vida’; ‘o sistema gerou uma frase cordial’, não ‘queria cuidar do resultado’. A linguagem estreita preserva o que a função realmente mostrou.

Procure a mudança de julgamento na ação

O efeito prático aparece quando a atribuição muda uma ação: aceitar recomendação sem conferir sua base, ampliar memória ou contatos, revelar dados desnecessários, deixar o app decidir prazo ou compra, ignorar erro por causa do tom seguro ou continuar porque parece haver história compartilhada estável. Uma ação não prova a causa; preço, conveniência, experiência e dificuldade também contam. O estudo CHI 2024 traz evidência delimitada: no pseudo-LLM controlado, voz mais texto aumentou antropomorfismo e precisão percebida, e primeira pessoa alterou precisão e risco em um contexto. Não transforme isso em percentual universal. Compare a ação com a regra que usaria para o mesmo conteúdo apresentado como mensagem neutra do sistema.

Calibre quando a atribuição começa a importar

Um aviso único na instalação se separa facilmente das pistas posteriores. Coloque a calibração junto da decisão. Identifique o personagem como IA; descreva tarefa, entrada, fonte de memória, limites e participação humana; separe linguagem gerada, fatos armazenados e ações executadas; permita ver, editar e apagar lembranças; confirme ações externas e permissões amplas. Se o sistema não souber ou não puder concluir, ofereça rota não conversacional em vez de mais personalidade. O Google PAIR recomenda apresentação em etapas e novos lembretes depois de mudanças. A calibração deve ser simétrica: não use personagem encantador para obter permissão e etiqueta técnica fria apenas na falha. Identidade e limite ficam coerentes em chat, configurações, notificações e marketing.

Faça um teste negativo com evidência constante

Use uma decisão pessoal reversível e não manipule o serviço. Copie a afirmação importante para uma nota neutra. Se possível, esconda avatar, silencie a voz, troque ‘eu penso’ por ‘o sistema gerou’ e remova animação ou ritmo social sem alterar o conteúdo. Pergunte então se aceitaria, verificaria, revelaria, delegaria ou autorizaria de forma diferente. Se a ação mudar com evidência idêntica, marque a pista como relevante para a decisão. No sentido inverso, mantenha a apresentação calorosa e substitua a afirmação por informação explicitamente sem suporte ou desconhecida: o calor ainda dá peso? Não use conteúdo perigoso, não sonde controles ocultos e não envolva outra pessoa. O teste revela um efeito pessoal de apresentação, não uma lei causal universal.

Mantenha quatro colunas e meça o resultado da interface

Para cada momento, registre pista observada, capacidade ou intenção atribuída, ação convidada e controle ou prova independente; acrescente resultado negativo e versão. Uma equipe pode testar cenários pareados com conteúdo idêntico e só voz, avatar, primeira pessoa, frase de memória ou tempo diferentes. Meça aceitar, editar, verificar, revelar, delegar ou ampliar permissões, não apenas simpatia. Mantenha uma condição sem pista e confira se rótulos de capacidade, controles de memória, incerteza, confirmação e reversão fácil restauram decisão adequada à tarefa. O NIST convida a estudar pessoa, sistema, tarefa e contexto juntos. Calibrar não é maximizar nem minimizar confiança, mas dar a esta saída o peso sustentado aqui.

Continue explorando o tema