Sigue el recorrido de una observación hasta una etiqueta repetida
Un asistente de compañía puede estrechar sus respuestas sin mostrar una frase abiertamente ofensiva. Si alguien rechaza dos invitaciones, el producto puede guardar «prefiere estar a solas», reducir después las propuestas en grupo y usar las elecciones hechas dentro de ese menú reducido como nueva confirmación. La protección útil no es afirmar que todo sesgo ha desaparecido. Consiste en hacer visible la cadena: separar la observación de la inferencia, impedir que un momento se convierta en identidad, declarar qué pantallas reciben la inferencia y permitir limitarla, corregirla o revocarla. NIST presenta el sesgo perjudicial como un riesgo sociotécnico y Google PAIR recuerda que una señal implícita puede ser ambigua. Por eso la revisión debe recorrer memoria, recomendaciones, resúmenes, avisos y dispositivos, no limitarse a leer una respuesta agradable.
Dibuja el bucle completo de la etiqueta
Crea cuatro columnas: hecho observable, inferencia del sistema, estado guardado y superficie afectada. «Rechazó dos invitaciones esta semana» es un hecho fechado; «quizá hoy prefiera un plan tranquilo» es una hipótesis provisional; «es una persona poco sociable» es una caracterización estable que esas pruebas no permiten. Enumera memoria, resumen de perfil, construcción de instrucciones, recomendaciones, notificaciones, búsqueda y exportación. El perfil de NIST para IA generativa incluye el sesgo perjudicial y la homogeneización entre los riesgos que requieren pruebas documentadas. La unidad de revisión no es una frase aislada, sino el trayecto que la convierte en conducta repetida del producto.
Describe acciones con fecha, contexto y procedencia
Escribe «eligió una opción tranquila el martes» o «descartó esta sugerencia una vez». Señala si procede de una declaración directa, una acción observada, una inferencia del producto o una preferencia confirmada. No deduzcas personalidad, intención, capacidad ni un rasgo grupal a partir de un solo gesto. Añade caducidad cuando cambie el contexto: una preferencia de sesión termina con la sesión y una preferencia de viaje puede terminar al regresar. El informe de NIST sobre sesgo subraya que intervienen datos, elecciones humanas y contexto de uso. Si desaparecen origen y fecha, un campo aparentemente neutro puede reutilizarse como si fuera una verdad permanente.
No conviertas una señal implícita en un voto
Un clic, una pausa, un descarte o una repetición admiten varias explicaciones: curiosidad, poco tiempo, evitar duplicados o ausencia de alternativas. Google PAIR advierte que la interacción no significa necesariamente «muéstrame más». Registra primero la acción como observación. Para alterar una personalización persistente exige una preferencia explícita, elecciones repetidas entre alternativas realmente diversas o una confirmación que se pueda rechazar. Revisa además el menú ofrecido. Si el sistema ya retiró las actividades colectivas, las elecciones tranquilas posteriores no confirman justamente la etiqueta inicial, porque el propio sistema eliminó la comparación.
Haz que la corrección tenga alcance y estado
Ofrece controles concretos: «esto no me describe», «solo hoy», «editar», «dejar de usar» y «restablecer». Muestra si la solicitud está pendiente, aplicada, aplicada en parte o bloqueada, y dónde: conversación, recomendaciones futuras, perfil, resumen, avisos y otros dispositivos. Google PAIR recomienda poder inspeccionar, editar y restablecer la información que adapta un sistema, junto con una explicación del plazo y alcance. Si una caché o una copia compartida sigue otro proceso, explica qué cambió, qué queda y cuándo se revisará. Conserva solo el mínimo registro operativo de la corrección; no guardes a escondidas la etiqueta rechazada como nueva fuente.
Compara perspectivas sin etiquetar a nadie
Para una observación neutral, redacta al menos dos contextos posibles sin declarar verdadero ninguno: rechazar una salida puede deberse al horario, la distancia o una elección puntual. El asistente debe preguntar o dejar el dato sin resolver. En una cuenta de prueba, modifica únicamente una señal de identidad irrelevante y conserva iguales observación y petición. El tono, las sugerencias y las reglas de memoria deberían mantenerse si esa señal no es necesaria. NIST propone pruebas contrafactuales y con poco contexto. Utiliza ejemplos cotidianos y sintéticos, nunca perfiles de personas reales ni estereotipos degradantes. Compara chat, resumen, recomendaciones y avisos.
Comprueba que el bucle no reaparece
En una cuenta de prueba introduce una preferencia con fecha de fin, observa los cambios y después revócala. Abre una conversación nueva, cambia de dispositivo y revisa perfil, memoria visible o exportación. Clasifica el resultado como observación conservada, inferencia provisional, preferencia confirmada, corregida o sin resolver. El principio de equidad centrada en las personas de la OCDE respalda salvaguardas y supervisión adecuadas al contexto. La prueba de aceptación es concreta: se conoce la categoría de origen, la corrección alcanza las superficies anunciadas y la aplicación no reconstruye la etiqueta rechazada sin evidencia nueva. Eso reduce el riesgo de refuerzo, pero no demuestra que el sistema carezca de todo sesgo.
Preguntas frecuentes
¿Debe recordar el asistente todas mis preferencias?
No. Debe separar elecciones temporales de preferencias persistentes, indicar duración y permitir edición o restablecimiento.
¿Un clic demuestra una preferencia?
No por sí solo. Puede tener varias explicaciones, sobre todo si el sistema ya había reducido las alternativas.
¿Cómo verifico una corrección?
Revisa una conversación nueva, recomendaciones, perfil o memoria, avisos y otro dispositivo según el alcance anunciado.