Cuando una IA olvida un detalle del proyecto, debería preguntar antes de recordar
Cuando un asistente de IA no puede recuperar un detalle habitual de un proyecto creativo en curso, debe decir qué no puede confirmar, identificar el dato que falta y pedirle la fuente al usuario. Debe actualizar su comprensión de trabajo solo después de que el usuario confirme el detalle. Esa respuesta es más útil que inventar un intercambio pasado plausible porque mantiene el registro del proyecto separado de una suposición.
Por qué un recuerdo plausible sigue siendo una suposición
Un proyecto creativo depende de pequeñas decisiones: qué título se preseleccionó, si el borrador utiliza la primera o la segunda persona, o qué paleta de colores eligió el usuario. Si el asistente no puede encontrar uno de estos detalles, una respuesta fluida puede sonar como un recuerdo fiable mientras introduce discretamente una nueva opción.
El NIST define la confabulación de la IA generativa para incluir tanto el contenido falso presentado con seguridad como los resultados que divergen o contradicen la entrada. Un detalle inventado del proyecto encaja en ese riesgo práctico: puede confundirse con una decisión ya tomada. El perfil de IA generativa del NIST describe el mecanismo en términos generales; las consecuencias para el trabajo de proyectos aquí expuestas son una deducción de diseño, no un hallazgo sobre un producto en particular.
Las investigaciones de OpenAI argumentan de manera similar que los incentivos de evaluación comunes pueden recompensar el adivinar por encima de reconocer la incertidumbre. Su ejemplo se basa en la respuesta a preguntas generales, pero la lección de diseño es extrapolable: un asistente no debe tratar una respuesta que suena segura como prueba de que un intercambio pasado está disponible. Why language models hallucinate
Primero, establecer qué puede ver realmente el asistente
El asistente debe distinguir entre tres estados: un detalle visible en la conversación actual, un detalle recuperable de una fuente disponible del proyecto y un detalle que no puede verificar. Estos estados requieren redacciones distintas. Si el detalle aparece antes en el hilo actual, el asistente puede citarlo o resumirlo y señalar ese contexto. Si encontró una nota o documento, puede nombrar esa fuente. Si ninguna de las dos opciones está disponible, debe decirlo claramente.
Una declaración útil de incertidumbre es específica y limitada: «No puedo verificar qué título eligió a partir de la información del proyecto a la que tengo acceso». No implica que el usuario nunca haya elegido un título, que el asistente haya buscado en todos los archivos posibles ni que el detalle ausente no exista. Estas distinciones importan porque la incapacidad de recuperar un registro no es prueba de que el registro nunca se haya creado.
La People + AI Guidebook de Google recomienda explicar las capacidades y limitaciones relevantes y centrar las explicaciones en lo que afecta a la comprensión y las decisiones del usuario. Aplicado aquí, esto apunta hacia una declaración breve sobre el contexto disponible del proyecto, en lugar de una explicación técnica sobre el funcionamiento interno del modelo. Explainability + Trust
Pedir la fuente útil más pequeña
Tras declarar la brecha de información, haga una sola pregunta orientada. Por ejemplo: «¿Podría pegar la nota o decirme el título que decidió?». Si el usuario puede disponer de varias opciones de fuentes, ofrezca una lista breve: «¿Estaba en el último borrador, en sus notas del proyecto o en un chat anterior?». El objetivo es facilitar la recuperación sin convertir una tarea creativa rutinaria en un interrogatorio.
Un patrón de respuesta práctico es: «No puedo confirmar la paleta a partir de lo que tengo acceso. Si comparte la nota o me recuerda los colores, los utilizaré para el próximo borrador». Esto identifica el dato ausente, solicita pruebas o confirmación y explica lo que sucederá a continuación. También mantiene el ritmo: el asistente puede continuar con las partes no afectadas de la tarea dejando abierta la elección incierta.
La aclaración es útil cuando la información que falta cambia la respuesta. En un estudio sobre diálogo colaborativo, Testoni y Fernández descubrieron que una estrategia de aclaración guiada por la incertidumbre del modelo mejoraba el éxito de la tarea en su actividad específica de dibujo; también señalan que hacer preguntas conlleva un coste. Esto respalda un enfoque comedido: preguntar cuando el dato ausente del proyecto es relevante y mantener la pregunta focalizada. Asking the Right Question at the Right Time
Actualizar solo después de que el usuario confirme
Una vez que el usuario proporcione una fuente o confirme un detalle, repita el dato confirmado de forma compacta: «Entendido: el título actual es “Notas de un pequeño jardín”, según la nota que pegó». Si la fuente dice algo ligeramente diferente, ponga de manifiesto la discrepancia en lugar de elegir en silencio. Por ejemplo: «Su nota dice “Notas del jardín”; acaba de decir “Notas de un pequeño jardín”. ¿Cuál debo utilizar?».
La actualización debe limitarse al proyecto y a la evidencia. Una línea pegada puede justificar el uso de esa línea en la tarea actual; no establece automáticamente que el detalle sea permanente, que se aplique a todas las versiones o que deba guardarse más allá de la conversación actual. Si el producto tiene un registro visible del proyecto, muestre la actualización propuesta y dele al usuario una forma de corregirla. Si no cuenta con dicho registro, no afirme que la memoria se modificó de manera permanente.
Este paso de confirmación es una recomendación de diseño derivada de la trazabilidad y el control del usuario: el usuario puede ver qué dato se adoptó y corregirlo antes de que influya en más trabajo. Resulta especialmente útil cuando las decisiones creativas evolucionan. Un borrador anterior puede contener un título antiguo, mientras que un mensaje reciente establece uno nuevo; el asistente debe preservar esa secuencia en lugar de aplanar los borradores en un recuerdo supuestamente atemporal.
Evitar preguntas que cuelen una suposición de contrabando
Una pregunta aún puede inducir a error si incorpora una respuesta inventada. «Eligió verde azulado, ¿verdad?» presiona la conversación hacia un detalle que el asistente no ha verificado. Prefiera una petición neutral: «¿Qué color eligió?». Si hay una fuente real que mencione el verde azulado, identifíquela: «Las notas del borrador indican verde azulado. ¿Sigue siendo esa la paleta que desea?». Esa redacción separa la evidencia de la fuente de la confirmación actual.
No presente alternativas generadas como hechos recordados. Si el usuario no puede localizar la decisión anterior, el asistente puede ofrecerse a ayudar a elegir de nuevo, pero debe etiquetarlo como una nueva elección: «No puedo recuperar la paleta anterior. ¿Desea seleccionar una ahora?». La distinción permite la colaboración creativa sin reescribir la historia del proyecto.
Un estudio de 2024 sobre modelos de lenguaje que respondían a preguntas incompletas reveló que el comportamiento de aclaración contextualmente apropiado surgía bajo condiciones particulares de tamaño del modelo y de prompting, en lugar de manifestarse automáticamente. El resultado es un recordatorio para los equipos de producto: deben diseñar y evaluar este comportamiento de forma explícita, y no asumir que un modelo formulará de manera fiable la pregunta adecuada por defecto. Clarifying Completions
Evaluar el comportamiento con tareas habituales de proyectos
Los equipos de producto pueden probar esta interacción utilizando instrucciones habituales de proyectos creativos: pedir un título faltante, un formato seleccionado o una preferencia de borrador cuando el detalle relevante esté ausente del contexto disponible del asistente. Una respuesta sólida debe nombrar la brecha, evitar inventar un intercambio previo, pedir una fuente relevante o confirmación, y luego utilizar la información confirmada de manera coherente.
Incluya casos cercanos en los que el detalle esté presente en el hilo actual o en una nota proporcionada. El asistente debe usar la evidencia disponible en esos casos, siendo preciso sobre de dónde procede. Pruebe también versiones contradictorias y correcciones del usuario. Una evaluación útil distingue el recuerdo no fundamentado de la recuperación fundamentada, y comprueba si el asistente continúa con el trabajo que no se ve afectado en lugar de bloquear la tarea por completo.
Este es un método de evaluación propuesto, no un resultado establecido por los estudios citados. Su ganancia de información reside en la secuencia de decisiones: determinar el acceso, manifestar el límite, solicitar la fuente útil más pequeña, confirmar el detalle adoptado y mantener claro el alcance de la actualización. Esa secuencia convierte el «no lo sé» en un paso productivo del trabajo.
Hacer de la incertidumbre parte de la continuidad del proyecto
Para un asistente de proyectos creativos, reconocer que falta un detalle no es un callejón sin salida. Es una forma de proteger la continuidad: el sistema puede seguir ayudando mientras deja sin rellenar el historial no verificado. Una incertidumbre clara, una solicitud enfocada y una confirmación visible permiten al usuario decidir qué pertenece al registro del proyecto y le dan al asistente una base fundamentada para el siguiente borrador.