Cómo evaluar la privacidad, la memoria, los controles y las habilidades creativas de un compañero de IA
Si estás decidiendo si probar un compañero de IA, comprueba cuatro cosas por separado: qué dice el servicio que recopila, qué memoria puedes inspeccionar o cambiar, si puedes eliminar el historial de chat y cómo rinde en una tarea pequeña que te interese. Las políticas del producto documentan las prácticas declaradas; no verifican de forma independiente cómo funciona cada paso. Un detalle recordado o una conversación convincente es evidencia de tu propia experiencia, no una prueba de una memoria fiable o de una capacidad general.
¿Qué se puede determinar sobre la recopilación de datos?
Comienza con la política de privacidad actual para la aplicación y plataforma específicas que planeas utilizar. Busca categorías de información, finalidades, intercambio con proveedores de servicios, períodos de retención y controles. «Tus chats son privados» es demasiado amplio para responder a preguntas prácticas: un servicio puede procesar el contenido del chat para generar respuestas mientras describe límites independientes sobre el uso publicitario o la retención por parte de los proveedores.
Como ejemplo concreto, la política de Replika, actualizada por última vez el 27 de mayo de 2026, enumera información de la cuenta y del perfil, mensajes y contenido subido, intereses y preferencias, datos del dispositivo y de la red, y datos de uso. Indica que los mensajes y las preferencias respaldan la funcionalidad personalizada, y que los datos de las conversaciones pueden enviarse a proveedores externos de modelos de lenguaje para generar respuestas. La política también describe el uso de partes anonimizadas de los mensajes para trabajos internos de seguridad y rendimiento. Estas declaraciones describen las prácticas publicadas de Replika; no deben generalizarse a otros compañeros ni tratarse como una auditoría técnica independiente. Replika Privacy Policy
Elabora una breve lista de verificación a partir de la política: ¿El servicio recibe texto, voz, imágenes o los tres? ¿Qué datos se utilizan para la personalización? ¿Intervienen proveedores externos? ¿Durante cuánto tiempo se conservan las diferentes categorías? ¿Puedes solicitar una copia o la eliminación, y qué queda en la cuenta después de eliminar un chat o una cuenta? Si la política deja alguna de estas cuestiones sin responder, márcala como desconocida en lugar de deducir la respuesta a partir del tono amigable o del marketing de la aplicación.
¿Significa «memoria» lo mismo que recuerdo fiable?
Una función de memoria puede ser inspeccionable y aun así cometer errores. La explicación de un proveedor te indica cómo presenta la función, no su tasa de éxito en el uso habitual. La página de ayuda de Replika señala que su sistema de memoria admite la personalización y permite a los usuarios añadir detalles manualmente en una pestaña de Memoria. Su centro de ayuda también indica que los usuarios pueden ver, editar, añadir y eliminar detalles recordados. Son controles útiles para verificar en la aplicación, pero no demuestran que cada detalle se recordará correctamente en chats posteriores. How does Replika’s memory work?
La investigación sobre la memoria personalizada en la IA ayuda a explicar por qué los usuarios deberían probar esto directamente. Un resumen ampliado de CHI de 2025 informa de entrevistas con seis usuarios habituales de herramientas de IA personalizadas y del análisis de 54 hilos de debate públicos. Describe diferentes expectativas sobre lo que los sistemas deberían recordar y las prácticas que las personas emplean para organizar o gestionar la memoria. La reducida muestra de entrevistas y las publicaciones públicas pueden arrojar luz sobre las expectativas y las experiencias comunicadas; no pueden indicarte con qué frecuencia un compañero en particular olvida o recuerda erróneamente los detalles. Users’ Expectations and Practices with Agent Memory
Prueba con una comprobación sencilla y de bajo riesgo a lo largo de varias sesiones. Dale al sistema dos o tres preferencias distintas que sean relevantes para una tarea, como el tono preferido, el nombre de un personaje de ficción y un cambio planificado. Más adelante, haz una pregunta natural en la que se usaría uno de los detalles; luego corrige un error y observa si aplica la corrección. Registra si recordó el dato, si lo confundió con otro, si utilizó una versión desactualizada o si te pidió que lo repitieras. Se trata de una comprobación puntual y personal, no de una prueba de rendimiento comparativa, pero transforma una impresión vaga en un comportamiento observable.
¿Qué controles son importantes en la práctica?
Busca controles independientes para los recuerdos almacenados, el historial de chat, la eliminación de la cuenta y permisos como el acceso al micrófono o a las fotos. Estos pueden realizar funciones distintas. Eliminar un recuerdo guardado puede no eliminar la conversación en la que lo mencionaste; borrar el historial visible puede no ser equivalente a cerrar una cuenta. Lee las instrucciones del servicio antes de confiar en un control y comprueba el resultado en la interfaz después de usarlo.
El centro de ayuda de Replika ilustra esta distinción de forma concreta: su artículo actual señala que el servicio no ofrece una vía para eliminar todo el historial de mensajes sin eliminar la cuenta, mientras que la sección de Memoria se puede utilizar para ver, actualizar o eliminar detalles recordados seleccionados. Esa es una descripción específica de un producto y podría cambiar, así que comprueba las instrucciones actuales para la aplicación que utilices. Can I delete my conversations?
Una prueba de control muy útil consiste en añadir una preferencia inofensiva, confirmar que aparece en la vista de memoria, editarla o eliminarla y, a continuación, hacer una pregunta posterior que la habría utilizado. Por separado, localiza las instrucciones para el historial de conversaciones y para la eliminación de la cuenta sin llegar a ejecutar una eliminación irreversible. Observa qué afirma afectar cada control. Esto revela si los controles disponibles coinciden con tus propias expectativas antes de compartir más información.
¿Qué dice la evidencia sobre las tareas creativas habituales?
Existen resultados publicados sobre la asistencia general a la redacción mediante IA, pero no deben confundirse con evaluaciones directas de cada aplicación de compañía. En un experimento de 2025, 225 estudiantes universitarios del Reino Unido completaron un breve ejercicio de escritura creativa con o sin ChatGPT. Los participantes que utilizaron ChatGPT obtuvieron mejores resultados en las mediciones de creatividad y redacción del estudio, aunque reportaron un menor disfrute y valor percibido de la tarea. Los investigadores midieron una actividad estrictamente delimitada: inventar usos para una impresora hipotética, con un límite de diez minutos. Ese hallazgo respalda una afirmación acotada sobre esa herramienta, muestra y tarea específicas; no determina cómo te ayudará un compañero con tu historia, la descripción de una lista de reproducción, una invitación u otro proyecto personal. “If ChatGPT can do it, where is my creativity?”
Para realizar una prueba útil, elige una tarea pequeña con criterios que puedas juzgar: pide cinco nombres para una cafetería ficticia, una escena corta con un tono específico o tres finales alternativos para la idea de una historia. Comprueba si sigue las restricciones, si ofrece opciones genuinamente distintas, si mantiene la coherencia de los detalles y si mejora tras una corrección. Guarda la instrucción (prompt) y el resultado si deseas comparar con otra sesión u otro producto. Esto te proporciona evidencia sobre esa versión y tarea en concreto, en lugar de un veredicto genérico de que es «creativo».
Cómo separar la evidencia, los testimonios y las preguntas abiertas
Considera la documentación del producto como una prueba de lo que la empresa declara actualmente. Considera los estudios controlados como evidencia sobre los participantes, la configuración, el producto y las métricas concretas que evaluaron. Considera las publicaciones de los usuarios como testimonios que pueden revelar problemas que vale la pena comprobar, no como estimaciones de la frecuencia con la que ocurren dichos problemas. En un estudio sobre debates de privacidad relacionados con Replika, los investigadores analizaron 111 publicaciones de Reddit; ese diseño puede documentar los tipos de información que los usuarios dijeron haber compartido, pero una muestra de un foro no puede representar a todos los usuarios ni demostrar de forma independiente el tratamiento de los datos en el backend. “I tell him everything that I do”: An investigation of privacy and safety implications of AI companion usage
Para tomar una decisión, utiliza un pequeño registro de evidencias: anota la declaración de la política, el control que verificaste, el resultado de tu comprobación de memoria y el resultado de tu tarea creativa. Etiqueta cada entrada como «documentado», «observado en mi prueba» o «sin respuesta». Esto evita que una interacción persuasiva sustituya a una respuesta sobre privacidad, y evita que un resultado publicado sobre redacción de propósito general sustituya a la evaluación del compañero que realmente podrías utilizar.