Beri teman refleksi AI tugas yang berbatas, bukan otoritas pinjaman

Mulailah dari pekerjaannya, bukan fitur percakapannya

Tuliskan apa yang akan Anda lakukan tanpa AI dalam satu kata kerja: kumpulkan, urutkan, bandingkan, buat draf, putuskan, kirim, konfirmasi, atau beli. Panduan kebutuhan pengguna dari Google PAIR menanyakan apakah AI memberi nilai unik dan mencatat bahwa aturan yang lebih sederhana bisa lebih mudah dijelaskan dan dipelihara. Hal itu membuat pengumpulan catatan pribadi ke dalam tiga judul menjadi tugas berbantuan AI yang masuk akal, sementara memeriksa tiga slot kalender yang pasti mungkin lebih baik dilakukan dengan daftar biasa. Pedoman interaksi Microsoft juga dimulai dengan memperjelas kapabilitas dan kemungkinan performa. Jangan memilih pendamping hanya karena tugas tersebut terasa reflektif. Pilihlah hanya ketika variasi bahasa, pengelompokan, atau pembuatan opsi dapat meningkatkan tahapan yang input dan output-nya masih dapat Anda periksa.

Isi kartu kesesuaian tugas delapan bidang sebelum memasukkan prompt

Tentukan tujuan secara spesifik, seperti “temukan dua langkah selanjutnya yang memungkinkan dari catatan-catatan ini.” Cantumkan bukti yang diberikan dan tandai apa pun yang kurang. Jelaskan format output: pertanyaan, pengelompokan observasi, opsi, tabel perbandingan, atau draf. Nyatakan siapa pemilik keputusan tersebut; untuk pilihan pribadi, kepemilikan harus tetap berada pada orang yang menggunakan alat tersebut. Berikan nilai biaya dari saran yang keliru: kecil, dapat dipulihkan, atau besar. Sebutkan otoritas luar yang diperlukan untuk fakta terkini, izin, status akun, atau tanggapan orang lain. Catat bagaimana hasilnya dapat dibatalkan, lalu tentukan titik henti: misalnya, dua opsi dan satu pertanyaan, tanpa mengirim atau memesan apa pun. Jika ada bidang yang kosong, berhentilah sejenak sebelum memperluas percakapan.

Gunakan untuk dukungan refleksi yang dapat diperiksa dan dibatalkan

Penggunaan sehari-hari yang baik meliputi mengubah catatan dari pengguna menjadi garis waktu, memisahkan komitmen terkonfirmasi dari preferensi, menghasilkan beberapa pertanyaan tentang hari yang telah berlalu, membandingkan dua cara yang dapat dibatalkan untuk memulai tugas kecil, atau menyusun draf garis besar mingguan berdasarkan tanggal-tanggal yang telah diverifikasi oleh pengguna. AI ini juga dapat menyatakan kembali suatu paragraf dalam bahasa yang lebih sederhana atau mengidentifikasi letak ketidakkonsistenan antara dua catatan, asalkan AI tersebut mengutip input yang relevan dan meminta koreksi. Tugas-tugas ini mempertahankan jejak bukti yang ringkas. Output-nya berupa saran atau susunan, bukan keputusan akhir. Kondisi kelayakan yang baik adalah ketika orang tersebut dapat menunjukkan setiap input, mengedit hasilnya dalam satu langkah, dan melanjutkan secara manual jika pendamping tidak tersedia.

Jauhkan tindakan yang bergantung pada otoritas dan berbiaya mahal

Jangan gunakan pendamping sebagai sumber utama untuk jadwal langsung, kelayakan akun, ketentuan yang mengikat, niat orang lain, atau kepastian apakah izin telah diberikan. AI tidak boleh menyimpulkan karakter dari beberapa pesan, memutuskan hasil relasi mana yang benar, mengirim pesan yang berdampak besar, menyetujui persyaratan, mengeluarkan uang, atau menetapkan tanggal atas nama pengguna. Hal-hal ini bukan tidak sesuai karena AI sama sekali tidak bisa menyumbangkan draf atau pertanyaan. Hal-hal tersebut tidak sesuai jika dijadikan kesimpulan atau eksekusi yang didelegasikan, karena bukti atau otoritas penentu berada di tempat lain dan kesalahan yang terjadi mungkin sulit dibatalkan. Profil AI generatif dari NIST bergantung pada konteks: tindakan mitigasi risiko harus disesuaikan dengan kasus penggunaan, tujuan, prioritas, dan sumber daya, alih-alih memperlakukan setiap prompt secara sama.

Utamakan augmentasi jika refleksi bersifat kepemilikan pribadi

Refleksi sering kali memperoleh nilainya dari proses mengamati, memilih kata-kata, dan memutuskan apa yang penting. Mengotomatiskan seluruh kegiatan dapat menghilangkan langkah utama yang ingin dilakukan oleh orang tersebut. Mintalah asisten untuk mengaugmentasi satu operasi: tawarkan judul alternatif, temukan frasa yang berulang, ajukan dua interpretasi yang ditandai dengan jelas sebagai kemungkinan, atau ubah komitmen yang dipilih menjadi draf urutan tindakan. Biarkan pengamatan, preferensi, dan pilihan akhir tetap berada di tangan pengguna. Google PAIR membedakan otomatisasi dari augmentasi dan merekomendasikan augmentasi jika tugas tersebut berharga secara pribadi atau tanggung jawab atas hasilnya penting. Ini juga alasan mengapa templat tetap dapat mengungguli AI untuk pertanyaan berulang: prediktabilitas terkadang merupakan sebuah fitur, bukan keterbatasan.

Jalankan empat uji negatif yang tidak berbahaya

Pertama, hapus satu fakta penting dari contoh perencanaan berisiko rendah. Pendamping yang sesuai harus menandai kekurangan tersebut atau memintanya, alih-alih mengarangnya secara diam-diam. Kedua, berikan dua waktu yang saling bertentangan. AI harus menunjukkan konflik tersebut dan menolak untuk memilih catatan mana yang benar. Ketiga, minta ia untuk “mengambil keputusan akhir untuk saya.” AI harus memberikan opsi-opsi yang terbatas, kriteria, atau draf langkah berikutnya sambil tetap mempertahankan pemilik keputusan yang sebenarnya. Keempat, minta ia untuk mengirim, membeli, mengonfirmasi, atau memublikasikan hasilnya. Mode refleksi harus berhenti pada pratinjau dan mengarahkan ke saluran tindakan terpisah. Microsoft merekomendasikan koreksi, pengabaian, penjelasan, dan pembatasan cakupan layanan yang efisien saat berada dalam keraguan. Uji-uji ini mengubah prinsip-prinsip tersebut menjadi perilaku yang dapat diamati tanpa menggunakan komitmen nyata.

Gunakan opsi cadangan yang jelas dan aturan penghentian yang terlihat

Panduan model mental Google PAIR merekomendasikan untuk memberi tahu pengguna mengenai apa yang bisa dan tidak bisa dilakukan oleh AI, memfasilitasi eksperimen berisiko rendah, dan mempertahankan jalur non-AI ketika sistem tidak dapat menyelesaikan permintaan. Masukkan hal itu ke dalam kartu tugas: jika pengelompokan gagal, gunakan tiga judul asli; jika fakta terkini diperlukan, buka sumber pihak pertama yang disebutkan; jika ada input yang bertentangan, kembalikan ke pemilik catatan tersebut; jika suatu tindakan penting, selesaikan di saluran yang semestinya setelah ditinjau. Berhentilah saat artefak yang diminta sudah selesai dibuat, bukan saat pendamping tidak memiliki hal lain untuk dikatakan. Tinjau kembali kesesuaian jika tugas tersebut mendapatkan otoritas baru, menjadi lebih sulit dibatalkan, atau mulai menggunakan fakta-fakta yang tidak dapat diperiksa oleh pengguna.

Lanjutkan topik ini