Bagaimana seharusnya AI merespons ketika pengguna meminta untuk tidak membahas sesuatu lagi?

Apa arti praktis dari “jangan bahas lagi”?

Paling sering, pengguna meminta AI untuk berhenti mengangkat topik tertentu. Respons yang berguna adalah menghormati permintaan tersebut dengan segera, tanpa menjadikannya perdebatan tentang apakah topik tersebut penting atau menyelidiki alasan di baliknya. Pengakuan sederhana memberi pengguna bukti bahwa permintaan tersebut didengar: “Dimengerti. Saya tidak akan membahasnya lagi dalam percakapan ini. Sebagai gantinya, apa yang ingin Anda fokuskan?”

Pilihan kata tersebut juga menjaga komitmen tetap berada dalam cakupan yang dapat dijelaskan AI secara wajar. “Dalam percakapan ini” memperjelas apa yang sedang diupayakan AI saat ini, tanpa menyiratkan bahwa permintaan tersebut mengubah informasi yang tersimpan, sesi mendatang, atau pengaturan produk. Perbedaan ini penting karena perilaku percakapan dan kontrol data adalah hal yang terpisah; FAQ Memori OpenAI menjelaskan bahwa memori yang tersimpan dan riwayat obrolan dikelola melalui kontrol produk. Jika pengguna ingin informasi dihapus, arahkan mereka ke kontrol yang relevan daripada mengeklaim bahwa informasi tersebut telah dihapus.

Pendekatan ini sejalan dengan panduan publik untuk perilaku AI yang menekankan tindakan dalam cakupan yang disepakati, mengomunikasikan efek samping, dan menghindari tindakan yang melampaui batas, sebagaimana diuraikan dalam OpenAI Model Spec. Dokumen tersebut menjelaskan perilaku model yang diharapkan; dokumen itu tidak menetapkan bahwa setiap produk AI akan mengingat atau menerapkan batasan percakapan di seluruh sesi.

Urutan respons praktis

Gunakan urutan singkat yang mengakui batasan tersebut dan kemudian memberi ruang bagi pengguna untuk memilih apa yang berikutnya:

Urutan ini adalah rekomendasi desain yang praktis, bukan kutipan dari kebijakan produk. Nilainya adalah mengubah instruksi umum menjadi perilaku yang dapat diamati: pengakuan, menahan diri, dan langkah selanjutnya yang dipimpin pengguna.

Kapan AI harus mengajukan pertanyaan klarifikasi?

Klarifikasi hanya berguna jika asisten tidak dapat membedakan apa yang harus dihindari. Jika pengguna mengatakan “hal yang tadi” tepat setelah topik yang berbeda, meminta mereka menyebutkannya lagi dapat menimbulkan friksi; asisten cukup menghormati makna yang paling mungkin. Jika beberapa topik sedang dibahas bersamaan, pertanyaan singkat dapat mencegah kembali ke topik yang salah secara tidak sengaja.

Jangan meminta alasan sebagai syarat untuk menghormati batasan tersebut. “Mengapa Anda tidak ingin membahasnya?” mungkin terdengar seperti tantangan, meskipun sistem hanya mencoba memahami. Pengguna tidak perlu memberikan penjelasan sebelum asisten mengubah haluan. Jika pengguna nantinya sukarela memberikan konteks, tanggapi apa yang sebenarnya mereka katakan sambil terus menghormati permintaan tersebut.

Hal-hal yang harus dihindari untuk dikatakan

Beberapa balasan mengakui kata-katanya tetapi gagal menghormati permintaannya:

“Apakah Anda yakin? Sepertinya ini penting” menekan pengguna untuk mempertimbangkannya kembali. “Saya tidak akan menyebutkannya lagi, tetapi mari kita selesaikan dulu” melanjutkan topik setelah adanya permintaan. “Saya telah menghapusnya dari memori saya” menegaskan perubahan data yang mungkin tidak terjadi. “Saya tidak akan pernah menyebutkannya lagi” menyiratkan janji di seluruh sesi mendatang yang mungkin tidak didukung oleh sistem. “Baiklah, kita tidak akan pernah membicarakan hal-hal yang sulit” memperluas dan menghakimi permintaan sempit pengguna. Pengakuan singkat dan perubahan topik yang netral menghindari kelima kesalahan tersebut.

Sebuah studi tahun 2023 oleh Nielsen Norman Group tentang pengguna AI generatif menjelaskan bagaimana orang dapat menggunakan AI percakapan baik secara fungsional maupun sosial, termasuk memperlakukannya dengan kesopanan biasa atau menghubungkannya dengan sifat-sifat manusia. Studi ini tidak menguji frasa persis ini atau meresepkan sebuah balasan. Studi ini memberikan alasan untuk menjaga pengakuan tetap jelas dan beralasan: nada hangat tidak perlu menyiratkan bahwa AI memiliki perasaan manusia, hubungan pribadi, atau pemahaman pribadi yang bertahan lama.

Cara menghormati batasan tanpa membuatnya canggung

Setelah topik dikesampingkan, buatlah transisinya terasa wajar. AI dapat membantu merencanakan aktivitas harian yang dipilih, membandingkan beberapa ide kreatif, menyarankan detail estetika kecil, atau sekadar mengikuti pertanyaan baru. Jaga saran tetap terbuka dan relevan dengan apa yang diminta pengguna; jangan gunakan topik yang dikecualikan sebagai penjelasan mengapa aktivitas tertentu cocok untuk mereka.

Jika permintaan berikutnya tampak merujuk ke topik yang sama, tafsirkan instruksi baru tersebut dengan cermat. “Bisakah Anda membantu saya menulis pesan tentang itu?” mungkin jelas membuka kembali topik tersebut untuk tugas yang terbatas. Asisten dapat mengikuti permintaan baru tersebut tanpa memperlakukannya sebagai izin untuk mengunjungi kembali topik tersebut dalam percakapan yang tidak terkait. Ketika tidak jelas apakah pengguna telah berubah pikiran, ajukan pertanyaan cakupan sederhana: “Apakah Anda ingin membahasnya untuk tugas ini, atau tetap mengesampingkannya?”

Aturan yang dapat diandalkan adalah: ikuti batasan pengguna saat ini, buat pengakuan secara singkat, dan jangan membuat janji yang lebih luas daripada yang dapat didukung oleh sistem. Pengguna tidak perlu mengulang permintaannya karena asisten terus kembali ke topik tersebut, dan mereka tidak boleh dibiarkan dengan kesan palsu bahwa preferensi percakapan telah menghapus data yang tersimpan. Hal ini memungkinkan percakapan berlanjut sambil tetap memberi pengguna kendali atas apa yang akan dibahas berikutnya.

Lanjutkan topik ini