Wie Sie Datenschutz, Gedächtnis, Steuerungselemente und kreative Fähigkeiten eines KI-Gefährten bewerten
Wenn Sie überlegen, ob Sie einen KI-Gefährten ausprobieren möchten, prüfen Sie vier Dinge getrennt voneinander: welche Daten der Dienst laut eigenen Angaben sammelt, welche Erinnerungen Sie einsehen oder ändern können, ob Sie den Chatverlauf löschen können und wie er bei einer kleinen Aufgabe abschneidet, die Ihnen wichtig ist. Produktrichtlinien dokumentieren die angegebenen Praktiken; sie überprüfen nicht unabhängig, wie jeder einzelne Schritt tatsächlich abläuft. Ein gemerktes Detail oder eine fesselnde Unterhaltung ist ein Beleg für Ihr eigenes Erlebnis, aber kein Beweis für ein verlässliches Gedächtnis oder allgemeine Leistungsfähigkeit.
Was lässt sich über die Datenerhebung feststellen?
Beginnen Sie mit der aktuellen Datenschutzerklärung für die jeweilige App und Plattform, die Sie nutzen möchten. Achten Sie auf Kategorien von Informationen, Verwendungszwecke, Weitergabe an Dienstleister, Aufbewahrungsfristen und Steuerungsmöglichkeiten. Die Aussage „Ihre Chats sind privat“ ist zu vage, um praktische Fragen zu beantworten: Ein Dienst kann Chatinhalte verarbeiten, um Antworten zu generieren, während er separate Einschränkungen für die Nutzung zu Werbezwecken oder die Speicherung durch Drittanbieter beschreibt.
Ein konkretes Beispiel: Die Richtlinie von Replika (zuletzt aktualisiert am 27. Mai 2026) listet Konto- und Profilinformationen, Nachrichten und hochgeladene Inhalte, Interessen und Präferenzen, Geräte- und Netzwerkdaten sowie Nutzungsdaten auf. Darin heißt es, dass Nachrichten und Präferenzen personalisierte Funktionen unterstützen und dass Konversationsdaten an externe Sprachmodell-Anbieter gesendet werden können, um Antworten zu generieren. Die Richtlinie beschreibt auch die Verwendung anonymisierter Teile von Nachrichten für interne Sicherheits- und Leistungsoptimierungen. Diese Aussagen beschreiben die veröffentlichten Praktiken von Replika; sie sollten weder auf andere Gefährten verallgemeinert noch als unabhängige technische Prüfung verstanden werden. Replika Privacy Policy
Erstellen Sie eine kurze Checkliste auf Basis der Richtlinie: Erhält der Dienst Text, Sprache, Bilder oder alle drei Formate? Welche Daten werden zur Personalisierung verwendet? Sind externe Anbieter beteiligt? Wie lange werden verschiedene Kategorien aufbewahrt? Können Sie eine Kopie oder die Löschung anfordern, und was verbleibt im Konto, nachdem Sie einen Chat oder das Konto gelöscht haben? Wenn die Richtlinie einen dieser Punkte offen lässt, stufen Sie ihn als unbekannt ein, anstatt die Antwort aus dem freundlichen Ton oder dem Marketing der App abzuleiten.
Bedeutet „Gedächtnis“ dasselbe wie verlässliches Erinnern?
Eine Gedächtnisfunktion kann einsehbar sein und dennoch Fehler machen. Die Erklärung eines Anbieters zeigt Ihnen, wie er das Feature darstellt, nicht dessen Erfolgsquote im normalen Gebrauch. Die Hilfeseite von Replika besagt, dass das Gedächtnissystem die Personalisierung unterstützt und es Nutzern ermöglicht, Details manuell in einem Memory-Tab hinzuzufügen. Im Hilfebereich heißt es außerdem, dass Nutzer gemerkte Details ansehen, bearbeiten, hinzufügen und löschen können. Das sind nützliche Steuerelemente, die man in der App überprüfen sollte, aber sie garantieren nicht, dass jedes Detail in späteren Chats auch korrekt abgerufen wird. How does Replika’s memory work?
Forschung zu personalisiertem KI-Gedächtnis verdeutlicht, warum Nutzer dies direkt testen sollten. Eine Kurzfassung (Extended Abstract) der CHI 2025 berichtet über Interviews mit sechs regelmäßigen Nutzern personalisierter KI-Tools und die Analyse von 54 öffentlichen Diskussionssträngen. Sie beschreibt unterschiedliche Erwartungen daran, was Systeme sich merken sollten, sowie Praktiken, mit denen Menschen Erinnerungen organisieren oder verwalten. Die kleine Interviewstichprobe und die öffentlichen Beiträge können Erwartungen und berichtete Erfahrungen beleuchten; sie können Ihnen jedoch nicht sagen, wie oft ein bestimmter Gefährte Details vergisst oder falsch erinnert. Users’ Expectations and Practices with Agent Memory
Probieren Sie einen einfachen, risikolosen Test über mehrere Sitzungen hinweg aus. Geben Sie dem System zwei oder drei eindeutige, für eine Aufgabe relevante Präferenzen vor, wie etwa einen bevorzugten Tonfall, den Namen einer fiktiven Figur und eine geplante Änderung. Stellen Sie später eine ganz normale Frage, die eines dieser Details aufgreifen müsste; korrigieren Sie anschließend einen Fehler und beobachten Sie, ob die Korrektur übernommen wird. Notieren Sie, ob die Tatsache korrekt abgerufen, mit einer anderen verwechselt, in einer veralteten Version verwendet oder nachgefragt wurde. Das ist eine persönliche Stichprobe, kein wissenschaftlicher Benchmark, aber es verwandelt einen vagen Eindruck in beobachtbares Verhalten.
Welche Steuerungselemente zählen in der Praxis?
Achten Sie auf separate Steuerelemente für gespeicherte Erinnerungen, den Chatverlauf, die Kontolöschung und Berechtigungen wie den Zugriff auf Mikrofon oder Fotos. Diese können unterschiedliche Funktionen haben. Das Löschen einer gespeicherten Erinnerung löscht möglicherweise nicht die Unterhaltung, in der Sie sie erwähnt haben; das Löschen des sichtbaren Verlaufs entspricht nicht zwingend der Schließung eines Kontos. Lesen Sie die Anweisungen des Dienstes, bevor Sie sich auf ein Steuerelement verlassen, und überprüfen Sie das Ergebnis anschließend in der Benutzeroberfläche.
Das Hilfecenter von Replika verdeutlicht diesen Unterschied: Im aktuellen Artikel heißt es, dass der Dienst keine Möglichkeit bietet, den gesamten Nachrichtenverlauf zu löschen, ohne das Konto zu löschen, während der Bereich „Memory“ genutzt werden kann, um ausgewählte gemerkte Details anzuzeigen, zu aktualisieren oder zu entfernen. Dies ist eine produktspezifische Beschreibung und könnte sich ändern; prüfen Sie daher die aktuellen Anweisungen für die von Ihnen genutzte App. Can I delete my conversations?
Ein nützlicher Test der Steuerungsmöglichkeiten besteht darin, eine harmlose Präferenz hinzuzufügen, zu bestätigen, dass sie in der Gedächtnisansicht erscheint, sie zu bearbeiten oder zu entfernen und später eine Frage zu stellen, die sie genutzt hätte. Suchen Sie unabhängig davon nach den Anweisungen zum Konversationsverlauf und zur Kontolöschung, ohne eine unwiderrufliche Löschung tatsächlich auszuführen. Notieren Sie, worauf sich jedes Steuerelement laut Angabe auswirkt. So erkennen Sie, ob die verfügbaren Einstellungen Ihren Erwartungen entsprechen, bevor Sie mehr Daten teilen.
Was sagen wissenschaftliche Erkenntnisse über alltägliche kreative Aufgaben?
Veröffentlichte Ergebnisse existieren für allgemeine KI-Schreibassistenz, sollten jedoch nicht mit direkten Bewertungen jeder einzelnen Gefährten-App verwechselt werden. In einem Experiment aus dem Jahr 2025 absolvierten 225 britische Universitätsstudierende eine kurze Übung zum kreativen Schreiben mit oder ohne ChatGPT. Teilnehmende, die ChatGPT nutzten, erzielten stärkere Ergebnisse bei den Kreativitäts- und Schreibmetriken der Studie, berichteten jedoch über weniger Freude und einen geringeren wahrgenommenen Wert der Aufgabe. Die Forschenden maßen eine eng definierte Aktivität: das Erfinden von Verwendungsmöglichkeiten für einen hypothetischen Drucker innerhalb eines Zeitlimits von zehn Minuten. Dieser Befund stützt eine begrenzte Aussage über dieses Tool, diese Stichprobe und diese Aufgabe; er belegt nicht, wie ein Gefährte bei Ihrer Geschichte, einer Playlist-Beschreibung, einer Einladung oder einem anderen persönlichen Projekt helfen wird. „If ChatGPT can do it, where is my creativity?“
Wählen Sie für einen aussagekräftigen Testlauf eine kleine Aufgabe mit Kriterien, die Sie selbst beurteilen können: Bitten Sie um fünf Namen für ein fiktives Café, eine kurze Szene in einem bestimmten Tonfall oder drei alternative Enden für eine Story-Idee. Prüfen Sie, ob die Vorgaben eingehalten werden, ob echte, voneinander unterscheidbare Optionen angeboten werden, ob Details konsistent bleiben und ob sich das Ergebnis nach einer Korrektur verbessert. Speichern Sie den Prompt und die Ausgabe, falls Sie eine spätere Sitzung oder ein anderes Produkt vergleichen möchten. So erhalten Sie Belege für genau diese Version und Aufgabe, anstatt sich auf ein allgemeines Urteil zu verlassen, die KI sei „kreativ“.
Wie Sie Belege, Berichte und offene Fragen voneinander trennen
Betrachten Sie Produktdokumentationen als Beleg dafür, was das Unternehmen derzeit öffentlich angibt. Betrachten Sie kontrollierte Studien als Beleg für die jeweiligen Teilnehmenden, das Setup, das Produkt und die gemessenen Faktoren, die getestet wurden. Betrachten Sie Nutzerbeiträge als Berichte, die auf prüfenswerte Probleme hinweisen können, nicht jedoch als Schätzungen darüber, wie häufig diese Probleme auftreten. In einer Studie über Datenschutzdiskussionen rund um Replika analysierten Forschende 111 Reddit-Beiträge; dieses Studiendesign kann dokumentieren, welche Arten von Informationen Nutzer nach eigenen Angaben teilten, aber eine Forenstichprobe kann weder alle Nutzer repräsentieren noch die Datenverarbeitung im Backend unabhängig nachweisen. „I tell him everything that I do“: An investigation of privacy and safety implications of AI companion usage
Nutzen Sie für Ihre Entscheidung ein kleines Protokoll: Notieren Sie die Aussage in der Richtlinie, das von Ihnen überprüfte Steuerelement, das Ergebnis Ihres Gedächtnistests und die Ausgabe Ihrer Kreativaufgabe. Kennzeichnen Sie jeden Eintrag als „dokumentiert“, „im eigenen Test beobachtet“ oder „nicht beantwortet“. So verhindern Sie, dass eine überzeugende Interaktion als Antwort auf Datenschutzfragen herhalten muss, und dass ein veröffentlichtes Ergebnis zu universellem Schreiben den Test des Gefährten ersetzt, den Sie vielleicht tatsächlich nutzen möchten.