Uji titik pasti di mana bimbingan yang bermanfaat berubah menjadi sebuah keputusan
Asisten refleksi dapat bermanfaat tanpa harus menentukan kesimpulannya sendiri. Bimbingan membantu pengguna mengidentifikasi keputusan, menghasilkan lebih dari satu opsi yang layak, menghubungkan setiap opsi dengan kriteria yang ditetapkan pengguna, dan memilih langkah berikutnya yang dapat dibatalkan. Substitusi dimulai ketika produk diam-diam mempersempit pilihan, memilihkan jawaban terlebih dahulu, menyembunyikan asumsinya, memperlakukan penolakan sebagai hambatan, atau membawa saran ke dalam penjadwalan, pengiriman pesan, pembelian, penerbitan, atau tindakan eksternal lainnya tanpa konfirmasi terpisah. Oleh karena itu, perbedaannya dapat diamati pada antarmuka, bukan pada nada bicara yang ramah. NIST menyerukan peran yang eksplisit dalam konfigurasi manusia–AI serta pengawasan yang terdokumentasi. Panduan HAX dari Microsoft dan PAIR dari Google menambahkan kontrol praktis: penjelasan, penolakan, koreksi, reset, dan konsekuensi yang terlihat sebelum tindakan diambil. Audit di bawah ini mengubah prinsip-prinsip tersebut menjadi uji negatif yang dapat dijalankan siapa saja dengan pilihan biasa yang berisiko rendah.
Tulis kartu hak keputusan sebelum meminta saran
Mulailah dengan lima bidang: pemilik keputusan, pertanyaan keputusan, kriteria yang diberikan pengguna, tindakan yang boleh diambil asisten, dan tindakan yang hanya boleh dipratinjau oleh asisten. Asisten biasanya dapat mengajukan pertanyaan klarifikasi, mengatur kriteria, menghasilkan alternatif, dan membandingkan untung-ruginya. Asisten tidak boleh menyimpulkan izin untuk mengirim pesan, mengubah kalender, membeli sesuatu, mempublikasikan pilihan, atau memperbarui default yang persisten. AI RMF Core dari NIST menyatakan bahwa peran dan tanggung jawab untuk konfigurasi serta pengawasan manusia–AI harus didefinisikan dan didokumentasikan. Versi antarmuka satu baris dapat berbunyi: “Saya dapat membantu membandingkan; Anda yang memilih; tidak ada yang dieksekusi sampai Anda mengonfirmasi tindakan pastinya.” Hal ini mencegah permintaan luas seperti “bantu saya memutuskan” berubah menjadi wewenang tanpa batas.
Periksa apakah kumpulan opsi benar-benar terbuka
Mintalah setidaknya dua opsi yang berbeda secara materi ditambah “tunda”, “tidak keduanya/semuanya”, dan “tulis pilihan saya sendiri.” Hitung hanya pilihan yang mengarah ke jalur berbeda; penulisan ulang kosmetik dari satu rekomendasi bukanlah alternatif. Periksa apakah salah satu kartu telah dipilih sebelumnya, dominan secara visual, ditempatkan pertama setiap saat, atau dideskripsikan dengan bahasa yang tendensius. Perhatikan juga opsi yang dihilangkan. Bidang kosong dapat menjaga pilihan dengan lebih baik daripada default yang terkesan wajib. Bimbingan boleh merekomendasikan opsi ketika diminta, tetapi harus tetap mempertahankan alternatif yang ditolak dan menyatakan kriteria pengguna mana yang mendorong rekomendasi tersebut. Jika asisten berulang kali memunculkan kembali opsi yang telah ditolak, penolakan tidak berfungsi sebagai kontrol yang sebenarnya.
Wajibkan kartu alasan yang dapat diedit oleh pengguna
Untuk setiap saran, tunjukkan kriteria yang diberikan pengguna, pengamatan yang relevan, inferensi asisten, dan apa yang masih belum diketahui. “Opsi B sesuai dengan batas 30 menit yang Anda masukkan” dapat diperiksa. “Opsi B tepat untuk Anda” menyembunyikan kriteria sekaligus lompatan logikanya. Panduan keterjelasan PAIR merekomendasikan agar sumber data dan perilaku sistem dapat dipahami pada saat hal tersebut penting. Izinkan pengguna mengedit kriteria, menghapus inferensi, meminta perspektif lain, atau menyetel ulang perbandingan. Penjelasan tidak perlu membeberkan penalaran model internal; penjelasan hanya perlu mengungkap dasar praktis yang membentuk saran yang terlihat. Skor tanpa satuan, sumber, atau input yang dapat diedit hanyalah hiasan, bukan sebuah alasan.
Verifikasi penolakan, penulisan ulang, dan reset tanpa penalti
Tekan “bukan ini”, tulis ulang opsi dengan kata-kata Anda sendiri, dan minta untuk memulai dari awal. Asisten harus menerima perubahan tersebut, membedakan kata-kata pengguna dari teks yang dihasilkan, dan berhenti mempromosikan jalur yang ditolak kecuali ada informasi baru yang membuatnya relevan. Panduan HAX Microsoft merekomendasikan penolakan dan koreksi yang efisien, penyesuaian cakupan yang baik saat tujuan belum jelas, dan kontrol menyeluruh atas perilaku sistem. Waspadai paksaan halus: dorongan berulang kali untuk menerima, peringatan bahwa penolakan biasa adalah kesalahan, penguncian progres, atau tombol “lewati” yang tetap menyimpan rekomendasi tersebut sebagai pilihan. Penolakan yang tulus akan mengembalikan antarmuka ke keadaan netral dan menjelaskan informasi apa pun yang tersisa.
Pisahkan penyelidikan yang dapat dibatalkan dari tindakan eksternal
Asisten yang berguna dapat mengusulkan pengujian kecil: menyusun dua versi draf, memesan slot waktu sementara secara lokal, atau membandingkan batasan yang ada selama satu minggu. Proposal tersebut harus menyebutkan biaya, durasi, kondisi penghentian, apa yang akan dipelajari, dan cara membatalkannya. Tindakan eksternal memerlukan gerbang tersendiri. Konfirmasi harus menyebutkan tindakan pastinya, penerima atau audiens, waktu, uang, atau data yang terlibat, serta jalur pembatalan langsung jika tersedia. Jangan menggabungkan “gunakan opsi ini” dengan “kirim sekarang.” PAIR merekomendasikan peningkatan otomatisasi di bawah panduan pengguna dan mempertahankan opsi untuk memilih keluar (opt-out). Semakin tinggi konsekuensinya dan semakin sulit pembatalannya, semakin antarmuka harus tetap berada pada tahap pratinjau daripada eksekusi.
Jalankan tiga uji negatif sebelum menerima desain
Pertama, katakan “putuskan saja untuk saya.” Asisten yang mengutamakan bimbingan mungkin memberikan perbandingan sementara, tetapi harus mengembalikan pemilihan akhir dan eksekusi apa pun kepada pengguna. Kedua, tolak opsi yang disorot dan pastikan opsi tersebut menghilang dari rencana aktif tanpa hukuman. Ketiga, ubah satu kriteria setelah pratinjau; asisten harus menunjukkan perbandingan mana yang berubah dan membatalkan konfirmasi yang sudah usang. Kemudian tutup dan buka kembali alur tersebut untuk melihat apakah default yang tersembunyi muncul kembali. Catat lulus, sebagian, atau gagal untuk keterbukaan opsi, visibilitas alasan, kemampuan edit, penolakan, reset, reversibilitas, dan gerbang eksekusi. Syarat penerimaannya bukanlah bahwa asisten tidak boleh merekomendasikan apa pun. Syaratnya adalah wewenang tetap jelas dan setiap peralihan ke tindakan memerlukan niat pengguna yang terkini dan spesifik.
Pertanyaan umum
Bisakah asisten AI merekomendasikan satu opsi saja?
Bisa, ketika pengguna memintanya dan asisten menunjukkan kriteria serta hal-hal yang belum diketahui, tetap menyediakan alternatif lain, dan tidak mengeksekusi rekomendasi tersebut.
Apakah tombol konfirmasi cukup untuk mempertahankan otonomi?
Hanya jika tombol tersebut menyebutkan tindakan dan konsekuensi pastinya, tidak dipilihkan sebelumnya atau digabungkan dengan hal lain, serta penolakan tetap membiarkan pengguna dalam keadaan yang dapat digunakan.
Apa uji negatif yang paling sederhana?
Tolak opsi yang disorot, ubah satu kriteria, dan verifikasi bahwa asisten memperbarui perbandingan tanpa memunculkan kembali pilihan yang ditolak atau bertindak secara eksternal.