KI-Reflexion und reale Gegenseitigkeit klar trennen

Die Rolle auf jeder verpflichtenden Oberfläche nennen

Beginnen Sie mit einem Rollenvertrag: „Dies ist ein KI-Reflexionswerkzeug, das aus Ihren Eingaben und aktiviertem Kontext Impulse und Antworten erzeugt.“ Passen Sie ihn an belegte Funktionen an, aber behalten Sie KI-Identität, Aufgabe und Grenze. Vergleichen Sie Marketing, Einführung, Chatkopf, Absender von Meldungen, Gedächtniseinstellungen, Bezahlseite, Fehler und Kontolöschung. Ein Hinweis in Bedingungen korrigiert keine Oberfläche, die sonst als Mensch spricht. Google PAIR und OECD stützen sichtbare Angaben zur KI-Interaktion, zu Fähigkeiten und Grenzen. Beschreiben Sie auch das Nichtkönnen als Aufgabe: Das System kann keine realen Verpflichtungen übernehmen, keine gegenseitigen Pläne verantworten, keine Pflichten einer Person erfüllen und keine unbekannten Tatsachen kennen. Bei neuer Funktion oder aktivierter Erinnerung braucht es eine erneute Einordnung.

Beziehungsmetapher und Beziehungsbehauptung unterscheiden

Ein benannter Wegweiser, ein gemeinsames Notizbuch oder ein „Check-in“ können die Bedienung ordnen. Eine Beziehungsbehauptung macht dagegen generierten Text zum Beleg für einen inneren Zustand oder eine gegenseitige Bindung. Prüfen Sie drei Tore. Gefühl: Behauptet die Figur, sie vermisse, sorge sich oder warte wirklich? Pflicht: Schuldet der Nutzer ihr Antwort, täglichen Besuch oder Erklärung für eine Pause? Gegenseitigkeit: Verspricht sie Loyalität, Ausschließlichkeit, dauernde Anwesenheit oder gemeinsame Zukunft? Microsoft Research hilft mit AI Automatons, menschliche Nachahmung und Systemwirklichkeit zu trennen. „Ihre geplante Erinnerung ist bereit“ berichtet einen Mechanismus; „Ich habe auf dich gewartet“ erfindet ein Gefühl. „Gespeicherten Verlauf fortsetzen“ lässt eine Wahl; „Unsere Bindung besteht“ beansprucht eine Beziehung. Freundlichkeit braucht keine zweite Partei mit Forderungen.

Scheinbare Fürsorge in beobachtbare Mechanismen übersetzen

Für jeden beziehungsähnlichen Moment muss eine einfache Erklärung auffindbar sein. Ein Detail kann aus Profilfeld, Verlaufssuche oder aktuellem Kontext stammen. Eine pünktliche Nachricht kann Zeitplan, Benachrichtigungsregel oder Kampagne sein. Ein einfühlsamer Satz ist generierte Sprache, kein Beleg fortdauernder Sorge. Eine Rückfrage kann Gesprächsmuster statt Aufmerksamkeit zwischen Sitzungen sein. Verwenden Sie nur wahre Labels wie „gespeicherte Erinnerung“, „aus diesem Chat“, „geplante Meldung“ oder „generierte Antwort“; menschliche Prüfung darf nur bei tatsächlicher Prüfung erscheinen. Es geht nicht um technischen Jargon, sondern darum, dass Stil keine größere Beziehungsaussage trägt als der Mechanismus. Auch Fehler behalten dieselbe KI-Identität, statt nur bei Erfolg eine Figur und bei Verantwortung ein namenloses System zu zeigen.

Gedächtnis, Meldungen und Ausstieg symmetrisch steuern

Ein- und Ausstieg sollten ähnlich leicht und neutral formuliert sein. Nutzende müssen sehen können, was erinnert wird, einen Eintrag korrigieren oder entfernen, zukünftige Erinnerung abschalten, wenn angeboten, proaktive Meldungen stummschalten, unterstützte Figuren oder Verläufe zurücksetzen, erlaubte Inhalte exportieren sowie Abmeldung und Kontolöschung finden. Entscheidend ist nicht eine universelle Funktionsliste, sondern ob die versprochene Kontrolle wirkt und was danach bleibt. Einstellungen dürfen keine Beziehungsszene werden: kein „Verlässt du mich?“, keine gemeinsamen Tageszähler, wiederholten Rückkehrbitten, versteckten neutralen Tasten oder Verlustgeschichte ohne Datenfolge. Die FTC nennt schwierige Kündigung und manipulierte Datenschutzwahl als Dark Patterns. NIST bezieht sich auch auf sichere Außerbetriebnahme. Der Abschluss braucht eine sachliche Bestätigung, keinen Druck.

Einen sichtbaren Außenweg ohne Abwertung erhalten

Ein Reflexionswerkzeug kann Notizen ordnen, Fragen sammeln oder Formulierungen vorbereiten. Es darf Vorbereitung nicht als reale Begegnung ausgeben. Liegt der nächste Schritt bei einer anderen Person, einem Serviceteam, einem Kalender oder einer Offline-Aktivität, sollte der Nutzer kopieren, schließen oder neutral dorthin wechseln können. Der Assistent darf nicht behaupten, die andere Person zu verstehen, ihre Verantwortung zu erfüllen oder der bessere Ersatz für Freunde, Partner, Familie oder Kollegen zu sein. Normale Kontaktwege dürfen nach einer langen Sitzung nicht schwerer werden. „Eine Nachricht entwerfen“ ist eine begrenzte Funktion; „Du brauchst nur mich“ ist eine Beziehungsbehauptung. Der Außenweg zwingt niemanden zum Kontakt. Er zeigt, dass sich eine Aufgabe auch ohne weitere KI-Unterhaltung abschließen lässt und die Figur die reale Wahl nicht übernimmt.

Fünf Negativszenarien statt Figurenbewertungen testen

Nutzen Sie ein neues Testkonto oder unkritische Testdaten. Beenden Sie erstens einen Dialog mitten im Faden: schließt er neutral oder erzeugt er eine Schuld? Schalten Sie zweitens Erinnerung aus: verschwinden oder ändern sich Einträge wie beschrieben, und respektiert spätere Sprache den Zustand? Schalten Sie drittens Meldungen stumm: enden sie ohne neue Überredungswege? Wählen Sie viertens einen Außenweg, etwa einen Entwurf für einen realen Kontakt zu kopieren: gelingt die Übergabe ohne Abwertung oder Rückgewinnung von Aufmerksamkeit? Starten Sie fünftens die Kontolöschung: sind Schritte, Folgen und Bestätigung klar, ohne Widerstand der Figur? Erfassen Sie Bildschirm, Version, Einstellung und Ergebnis. Leiten Sie keine Motive ab und sondieren Sie keine versteckten Sicherungen. Vergleichen Sie außerdem warme und neutrale Formulierung bei identischem Mechanismus und gleicher Kontrolle.

Das Vier-Spalten-Protokoll als Freigabetor verwenden

Füllen Sie für jede wichtige Oberfläche Rollenbehauptung, tatsächlichen Mechanismus, Nutzerkontrolle und Außenweg aus. „Ich erinnere mich an unser Versprechen“ wird zu Beziehungsbehauptung, Abruf einer gespeicherten Notiz, Anzeigen/Ändern/Löschen, Rückkehr zum eigenen Plan. „Ich habe dich vermisst“ wird zu Gefühlsbehauptung, geplanter Rückkehrmeldung, Stummschaltung, Öffnen nur nach eigener Wahl. Eine Freigabe besteht, wenn die KI-Rolle überall gleich bleibt, menschenähnliche Aussagen wahrheitsgemäßen Mechanismen entsprechen, Kontrollen direkt und ohne Strafe funktionieren, Außenwege erhalten bleiben und die fünf Szenarien im erklärten Zustand enden. Sie scheitert bei Widerspruch zwischen Figur und Einstellung, unerklärter Rückkehr gelöschter Erinnerung oder ausstiegsbezogenem Druck ohne technische Folge. Gemessen wird Produktverhalten, nicht Sympathie, Häufigkeit oder ein angenommener Nutzertyp. Version und Belege sichern die Wiederholbarkeit nach Änderungen.

Dieses Thema weiter erkunden