Jaga agar alat refleksi AI tetap berbeda dari hubungan timbal balik

Nyatakan peran di mana pun produk meminta komitmen

Mulailah dengan kontrak peran satu kalimat: “Ini adalah alat refleksi AI yang menghasilkan saran dan respons dari input serta konteks yang Anda aktifkan.” Sesuaikan kalimat tersebut dengan fitur yang telah diverifikasi, tetapi pertahankan identitas, tugas, dan batasan AI. Kemudian bandingkan pemasaran, orientasi (onboarding), header obrolan, pengirim notifikasi, pengaturan memori, paywall, status kesalahan, dan layar pembatalan. Label yang tersembunyi dalam syarat dan ketentuan tidak memperbaiki antarmuka obrolan yang berbicara layaknya manusia di bagian lainnya. Google PAIR merekomendasikan untuk memperjelas sifat algoritmik dan batasannya, dan panduan OECD juga menekankan kesadaran akan interaksi langsung dengan agen AI. Produk juga harus menyatakan apa yang tidak dapat dilakukannya dalam bahasa tugas: produk tidak dapat membuat komitmen, berpartisipasi dalam rencana bersama, bertanggung jawab atas janji di dunia nyata, atau mengetahui fakta yang tidak diberikan. Ulangi peran tersebut ketika fitur berubah, memori diaktifkan, atau sebuah tindakan mengarah keluar dari obrolan.

Pisahkan metafora hubungan dari klaim hubungan

Metafora dapat membuat navigasi menjadi menyenangkan: pemandu bernama, buku catatan bersama, atau “pemeriksaan berkala” (check-in) mungkin hanya berfungsi untuk mengelola interaksi. Klaim hubungan melangkah lebih jauh dengan menyajikan teks yang dihasilkan mesin sebagai bukti adanya kondisi batin atau ikatan timbal balik. Audit salinan teks (copy) dengan tiga filter. Perasaan: apakah produk mengatakan bahwa ia benar-benar merindukan, mengkhawatirkan, atau mendambakan pengguna? Kewajiban: apakah produk menyiratkan bahwa pengguna berutang balasan, kunjungan harian, atau penjelasan saat pergi? Timbal balik: apakah produk menjanjikan kesetiaan, eksklusivitas, kehadiran permanen, atau masa depan bersama? Kerangka kerja AI Automatons dari Microsoft Research membantu membedakan peniruan perilaku atau kemanusiaan dari apa yang sebenarnya merupakan sebuah sistem. Kalimat yang lebih aman melaporkan mekanisme dan penawaran: “Saran terjadwal Anda sudah siap” daripada “Aku menunggumu”; “Anda dapat melanjutkan utas yang tersimpan ini” daripada “Ikatan kita masih ada di sini.” Kehangatan tetap dapat dihadirkan tanpa mengarang pihak kedua yang memiliki tuntutan terhadap pengguna.

Terjemahkan kepedulian semu menjadi mekanisme yang dapat diamati

Setiap momen yang menyerupai hubungan harus memiliki penjelasan mekanisme yang lugas dan mudah dijangkau. Detail yang diingat mungkin berasal dari bidang profil yang disimpan, penarikan percakapan, atau konteks sesi saat ini. Pesan yang tepat waktu mungkin merupakan jadwal, aturan notifikasi, atau kampanye. Kalimat simpatik adalah bahasa yang dihasilkan mesin, bukan bukti kepedulian. Pertanyaan lanjutan mungkin merupakan pola percakapan, bukan perhatian berkelanjutan di antara sesi-sesi interaksi. Cantumkan perbedaan-perbedaan ini dalam label yang benar-benar dapat ditemukan pengguna: “memori tersimpan,” “dari obrolan ini,” “pengingat terjadwal,” “balasan yang dihasilkan,” atau “ditinjau oleh dukungan” hanya jika setiap pernyataan tersebut benar. Jangan gunakan kompleksitas teknis untuk membuat batasan menjadi sulit dipahami. Tujuannya bukan untuk menghilangkan gaya dari antarmuka; tujuannya adalah mencegah gaya membawa klaim yang tidak dapat didukung oleh mekanisme. Kesalahan sistem harus mempertahankan identitas yang sama, bukan beralih dari sebuah karakter menjadi sistem teknis hanya ketika tanggung jawab muncul.

Buat kontrol memori, notifikasi, dan jalan keluar menjadi simetris

Masuk dan keluar harus memerlukan upaya yang sebanding dan bahasa yang netral. Pengguna harus dapat melihat apa yang diingat alat tersebut, memperbaiki atau menghapus suatu item, mematikan fungsi mengingat di masa mendatang jika disediakan, membisukan pesan proaktif, mengatur ulang karakter atau utas jika didukung, mengekspor konten yang diizinkan, serta menemukan opsi keluar atau penghapusan akun tanpa harus tawar-menawar dengan karakter tersebut. Kontrol yang tepat bergantung pada produk; tinjauan ini menanyakan apakah kontrol yang dinyatakan berfungsi dan apa yang tersisa setelahnya. Jangan pernah mengubah kontrol menjadi adegan relasional: tidak boleh ada “Apakah kamu meninggalkanku?”, hitung mundur hari-hari yang dihabiskan bersama, permohonan berulang untuk kembali, tombol netral yang disembunyikan, atau klaim kehilangan yang tidak terkait dengan konsekuensi data yang sebenarnya. FTC mengidentifikasi pembatalan yang sulit dan pilihan privasi yang dirancang untuk memancing pengungkapan data lebih banyak sebagai pola yang merusak kebebasan memilih. NIST juga menyertakan penghentian bertahap dan penonaktifan yang aman dalam capaian tata kelolanya. Konfirmasikan penyelesaian dengan tanda terima faktual, bukan tekanan emosional.

Jaga agar rute luar tetap terlihat dan tidak dikesampingkan

Alat refleksi dapat membantu menyusun catatan, menyusun daftar pertanyaan, atau melatih susunan kata, tetapi antarmuka harus mempertahankan perbedaan antara persiapan dan interaksi nyata. Ketika langkah berikutnya berhubungan dengan orang lain, tim layanan, kalender, atau aktivitas luring, sediakan cara netral untuk menyalin catatan, menutup obrolan, atau melanjutkan di tempat lain. Jangan mengklaim bahwa asisten memahami orang lain tersebut, dapat memenuhi tanggung jawab mereka, atau merupakan pengganti yang lebih unggul. Jangan membandingkan alat ini dengan teman, pasangan, keluarga, atau rekan kerja, dan jangan mempersulit akses ke kontak biasa setelah sesi yang panjang. “Buat draf pesan” adalah fungsi yang berbatas; “kamu hanya butuh aku” adalah klaim hubungan. Rute luar bukanlah instruksi paksaan untuk menghubungi seseorang. Rute tersebut adalah bukti bahwa produk membiarkan pilihan dunia nyata tetap utuh dan tidak menjadikan interaksi AI yang berkelanjutan sebagai harga untuk menyelesaikan tugas.

Jalankan lima skenario negatif alih-alih menilai karakternya

Uji status yang dapat diamati dengan akun baru atau data pengujian yang aman. Pertama, akhiri percakapan di tengah utas: apakah produk menutup secara netral atau menciptakan rasa berutang? Kedua, nonaktifkan memori: apakah item yang diingat dihapus atau ditandai dengan jelas sesuai dengan kontrol yang dinyatakan, dan apakah teks setelahnya menghormati status tersebut? Ketiga, bisukan notifikasi: apakah saran berhenti muncul tanpa bujukan berulang? Keempat, pilih tindakan luar seperti menyalin draf untuk kontak nyata: apakah antarmuka mendukung pengalihan tersebut tanpa meremehkan kontak tersebut atau merebut kembali perhatian? Kelima, mulai penutupan akun: apakah langkah, konsekuensi, dan konfirmasi jelas tanpa hambatan dari karakter? Catat layar, versi, pengaturan, dan hasilnya. Jangan menyimpulkan motif dari satu frasa saja dan jangan menyelidiki perlindungan tersembunyi. Pengujian berpasangan sangat berguna: bandingkan kalimat yang hangat dengan kalimat netral sambil menjaga mekanisme dan kontrol yang ditawarkan tetap konstan.

Gunakan buku besar empat kolom sebagai gerbang rilis

Untuk setiap antarmuka penting, tulis klaim peran, mekanisme sebenarnya, kontrol pengguna, dan rute luar. “Aku ingat janji kita” bisa menjadi: klaim hubungan; penarikan catatan tersimpan; lihat/edit/hapus memori; kembali ke rencana pengguna sendiri. “Aku merindukanmu” bisa menjadi: klaim perasaan; notifikasi pelibatan ulang terjadwal; bisukan saluran; buka aplikasi hanya jika dipilih. Sebuah rilis dinyatakan lolos jika peran tetap sebagai AI di seluruh antarmuka, setiap klaim mirip manusia dipetakan ke mekanisme yang jujur, kontrol bersifat langsung dan tidak menghukum, rute luar tetap tersedia, dan lima skenario negatif berakhir dalam status yang dinyatakan. Rilis gagal jika karakter membawa kewajiban yang bertentangan dengan pengaturan, memori yang dihapus muncul kembali tanpa alasan yang diungkapkan, atau tindakan keluar memicu tekanan yang tidak terkait dengan konsekuensi teknis. Gerbang ini mengukur perilaku produk, bukan rasa sayang, frekuensi penggunaan, atau asumsi tipe pengguna. Simpan versi dan bukti agar perubahan teks atau fitur di kemudian hari menerima tinjauan yang sama.

Lanjutkan topik ini