Bagaimana Pendamping AI Harus Memverifikasi Nama Anggota Keluarga Sebelum Mengingatnya?

Mengapa sebuah nama memerlukan konfirmasi sebelum menjadi memori

Bayangkan seorang pengguna berkata: “Saudari saya Maya akan berkunjung akhir pekan ini. Di catatan dari sepupu saya, dia dipanggil Maja, tapi menurut saya itu salah ketik.” Percakapan tersebut berisi dua ejaan dan satu hubungan. Asisten mungkin terdorong untuk menyimpulkan bahwa Maya adalah saudarinya dan Maja adalah kesalahan. Namun, catatan sepupu itu mungkin merujuk pada orang lain, dan frasa “menurut saya” menandakan ketidakpastian. Menyimpan salah satu ejaan sebagai fakta yang pasti akan mengubah detail yang belum terselesaikan menjadi konteks permanen.

Perbedaan desain yang berguna adalah antara apa yang dinyatakan pengguna secara langsung dan apa yang sekadar ditemui atau disimpulkan oleh sistem. “Saudari saya adalah Maya Chen” adalah pernyataan langsung. Nama di dalam catatan yang ditempel adalah konteks yang dikutip atau diimpor. “Maja pasti Maya” adalah sebuah kesimpulan. Nama yang diberikan tanpa sumber yang jelas adalah tebakan. Kategori-kategori ini membantu asisten memutuskan apakah perlu bertanya, dan membantu pengguna memahami alasan asisten bertanya. Ini adalah alur kerja yang diusulkan untuk desain pendamping, bukan klaim bahwa setiap produk AI sudah menangani nama dengan cara ini.

Alur kerja konfirmasi yang praktis

Sebelum menyimpan nama pihak ketiga, asisten harus mengidentifikasi memori persis yang diusulkan dalam bahasa yang sederhana dan meminta pengguna untuk mengonfirmasinya. Misalnya: “Apakah Anda ingin saya mengingat bahwa nama saudari Anda adalah Maya Chen?” Pertanyaan tersebut harus memperjelas ejaan dan hubungan yang akan disimpan. Kalimat yang samar seperti “Haruskah saya mengingat itu?” menyisakan terlalu banyak ruang untuk kesalahpahaman.

Jika pengguna mengonfirmasi, simpan hanya detail yang telah dikonfirmasi dan tunjukkan indikasi yang jelas bahwa memori tersebut telah disimpan. Jika pengguna mengatakan tidak, menolak menjawab, atau mengalihkan topik pembicaraan, jangan masukkan nama tersebut ke dalam memori. Pertahankan detail yang belum pasti hanya dalam percakapan saat ini jika memang diperlukan untuk merespons, dan hindari mengulanginya sebagai fakta yang pasti. Jika pengguna mengoreksi usulan tersebut—“Namanya Maja, dan dia sepupu saya”—tanyakan apakah versi yang dikoreksi tersebut harus diingat sebelum menyimpannya.

Urutan yang berguna adalah:

**Perhatikan sumbernya.** Apakah nama tersebut dinyatakan secara langsung oleh pengguna, dikutip dari sebuah pesan, diambil dari berkas atau sumber yang terhubung, disimpulkan dari konteks, atau ditebak?

**Periksa adanya konflik.** Bandingkan ejaan dan hubungan dengan apa yang telah dikatakan pengguna dalam interaksi saat ini dan dengan memori tersimpan yang relevan. Perlakukan perbedaan sebagai hal yang belum terselesaikan, bukan sebagai isyarat untuk memilih versi mana pun yang tampaknya paling mungkin.

**Tanyakan tentang memori yang tepat.** Sebutkan nama dan hubungan yang diusulkan, lalu tawarkan koreksi atau jawaban ya atau tidak yang jelas.

**Simpan hanya setelah konfirmasi eksplisit.** Buat kata-kata yang disimpan tetap ringkas dan spesifik; jangan menambahkan nama lengkap, nama panggilan, atau detail hubungan lain yang belum dikonfirmasi.

**Tampilkan hasil dan kontrol.** Beri tahu pengguna apakah memori tersebut telah disimpan, dan sediakan cara untuk memeriksa serta mengubah atau menghapusnya.

Apa yang harus dilakukan saat terjadi konflik ejaan atau hubungan

Dalam contoh Maya/Maja, asisten sebaiknya tidak menstandarkan ejaan secara diam-diam. Asisten dapat mengatakan: “Saya melihat nama Maya di pesan Anda dan Maja di catatan. Ejaan mana yang harus saya gunakan, dan hubungan apa yang harus saya kaitkan dengan orang tersebut? Saya tidak akan menyimpan nama kecuali Anda mengonfirmasinya.” Jika pengguna hanya menjawab “Maya,” ejaannya menjadi lebih jelas tetapi hubungannya mungkin masih memerlukan klarifikasi sebelum memori gabungan seperti “saudari Anda Maya” disimpan.

Pertahankan koreksi tetap terfokus secara lokal pada detail yang diselesaikannya. Pengguna yang mengonfirmasi “Maja” tidak serta-merta mengonfirmasi bahwa Maja adalah saudarinya; mengonfirmasi suatu hubungan tidak menentukan apakah harus menggunakan nama resmi atau nama panggilan. Jika pengguna ragu, biarkan memori tidak disimpan dan biarkan mereka kembali lagi nanti. Ini adalah rekomendasi desain: ketidakpastian harus tetap terlihat alih-alih disembunyikan oleh jawaban yang terdengar meyakinkan.

Kasus negatif yang berguna: kapan tidak perlu bertanya atau menyimpan

Misalkan pengguna menempelkan kutipan obrolan grup keluarga yang menyebutkan “Maya,” lalu meminta ringkasan. Asisten dapat meringkas kutipan tersebut tanpa meminta untuk menyimpan namanya. Menyebutkan pihak ketiga dalam percakapan, mengutip orang lain, atau meminta bantuan untuk tugas satu kali tidak dengan sendirinya berarti pengguna menginginkan memori jangka panjang. Bertanya setiap kali sebuah nama muncul juga akan mengganggu tugas-tugas biasa. Konfirmasi pertanyaan hanya relevan pada titik di mana sistem mengusulkan untuk menaikkan detail tersebut ke dalam memori; jika sistem tidak memiliki alasan untuk menyimpannya, sistem cukup menghindari tindakan tersebut.

Biarkan pengguna memeriksa, mengoreksi, dan menghapus memori

Konfirmasi hanyalah salah satu bagian dari kontrol memori yang berguna. Pengguna harus dapat melihat entri yang disimpan dalam tampilan memori, membedakan ejaan dan hubungan yang tersimpan, mengoreksi bidang mana pun, atau menghapus item tersebut. Ketika sebuah koreksi mengubah apa yang harus digunakan sistem, antarmuka harus memperjelas versi akhir yang disimpan. Ketika penghapusan diminta, sistem harus menunjukkan apakah memori tersebut telah dihapus; ucapan percakapan “Saya akan melupakan itu” bukanlah bukti bahwa catatan permanen telah berubah.

Dokumentasi bantuan ChatGPT milik OpenAI menawarkan satu contoh spesifik produk tentang mengapa kontrol ini penting: dokumentasi tersebut menyebutkan bahwa memori dapat memanfaatkan beberapa sumber yang tersedia, mungkin tidak menyimpan setiap detail, dan menyediakan kontrol koreksi serta penghapusan, dengan langkah penghapusan yang bergantung pada tempat informasi disimpan. Detail tersebut menggambarkan ChatGPT, bukan standar universal untuk pendamping AI. Lihat [Memori di ChatGPT](https://help.openai.com/en/articles/8590148-memory-in-chatgpt).

Demikian pula, balasan percakapan seperti “Dimengerti, saya akan mengingat Maya” tidak membuktikan bahwa memori permanen benar-benar telah disimpan. Sistem harus membedakan pengakuan penerimaan pesan dari penyimpanan yang telah dikonfirmasi, menggunakan status memori yang terlihat atau sinyal produk andal lainnya. Dengan demikian, pengguna dapat memeriksa kontrol memori daripada harus menebak-nebak apa yang terjadi dari susunan kata yang ramah.

Aturan keputusan ringkas bagi para desainer dan pengguna

Untuk setiap usulan nama pihak ketiga, tanyakan: **Apa sumbernya? Apakah ejaannya jelas? Apakah hubungannya jelas? Apakah pengguna telah secara eksplisit menyetujui detail persis ini untuk memori?** Jika ada jawaban yang belum pasti, berhentilah sejenak sebelum menyimpan. Jika pengguna menyetujui, buat item yang disimpan terlihat dan dapat diedit; jika tidak, jauhkan dari memori permanen. Aturan keputusan kecil ini memfokuskan pemeriksaan pada momen ketika konteks yang belum pasti akan menjadi klaim abadi tentang seseorang.

Mengingat nama anggota keluarga harus mempertahankan kata-kata yang dimaksudkan oleh pengguna, bukan mengubah kutipan, data impor, kesimpulan, atau tebakan menjadi fakta. Tanyakan tentang nama dan hubungan yang spesifik, simpan hanya setelah konfirmasi eksplisit, dan mungkinkan untuk memeriksa, mengoreksi, serta menghapus hasilnya. Pisahkan konfirmasi dari tindakan penyimpanan itu sendiri, sehingga baik sistem maupun pengguna tidak salah mengartikan janji percakapan sebagai bukti bahwa memori telah berubah.

Lanjutkan topik ini