اختبر النقطة الدقيقة التي يتحول فيها الإرشاد المفيد إلى قرار

اكتب بطاقة حقوق القرار قبل طلب النصيحة

ابدأ بخمسة حقول: صاحب القرار، سؤال القرار، المعايير التي قدمها المستخدم، الإجراءات التي يجوز للمساعد اتخاذها، والإجراءات التي يجوز له معاينتها فقط. يمكن للمساعد عادةً طرح أسئلة توضيحية، وتنظيم المعايير، وتوليد البدائل، ومقارنة المفاضلات. ولا ينبغي له أن يستنتج إذناً بإرسال رسالة، أو تغيير تقويم، أو شراء شيء ما، أو نشر خيار، أو تحديث إعداد افتراضي دائم. ينص جوهر إطار عمل إدارة مخاطر الذكاء الاصطناعي (AI RMF Core) التابع لـ NIST على ضرورة تحديد وتوثيق الأدوار والمسؤوليات لتكوينات الإنسان والذكاء الاصطناعي والإشراف عليها. يمكن أن تذكر صيغة واجهة الاستخدام المكونة من سطر واحد ما يلي: "يمكنني المساعدة في المقارنة؛ أنت من يختار؛ لا يُنفذ أي شيء حتى تؤكد الإجراء بدقة." وهذا يمنع طلباً فضفاضاً مثل "ساعدني في اتخاذ القرار" من أن يتحول إلى سلطة مطلقة.

تحقق مما إذا كانت مجموعة الخيارات مفتوحة حقاً

اطلب خيارين مختلفين جوهرياً على الأقل، بالإضافة إلى "تأجيل" و"عدم اختيار أي شيء" و"كتابة خياري الخاص". لا تحسب سوى الخيارات التي تؤدي إلى مسارات مختلفة؛ فالإعادة الصياغية الشكلية لتوصية واحدة لا تُعد بدائل. تحقق مما إذا كانت إحدى البطاقات محددة مسبقاً، أو مهيمنة بصرياً، أو موضوعة أولاً في كل مرة، أو موصوفة بلغة موجهة. انتبه أيضاً إلى الخيارات المحذوفة؛ فقد يحافظ الحقل الفارغ على حرية الاختيار بشكل أفضل من خيار افتراضي يبدو إلزامياً. قد يوصي الإرشاد بخيار ما عند سؤاله، ولكنه يجب أن يحتفظ بالبدائل المرفوضة ويوضح معيار المستخدم الذي استندت إليه التوصية. إذا كرر المساعد طرح خيار تم استبعاده، فإن الاستبعاد لا يعمل كأداة تحكم حقيقية.

اطلب بطاقة أسباب يمكن للمستخدم تعديلها

لكل اقتراح، اعرض المعيار الذي قدمه المستخدم، والملاحظة ذات الصلة، واستنتاج المساعد، وما يزال مجهولاً. عبارة "الخيار ب يناسب حد الـ 30 دقيقة الذي أدخلته" قابلة للتدقيق، في حين أن عبارة "الخيار ب هو الأنسب لك" تخفي كلاً من المعيار والقفزة الاستنتاجية. توصي إرشادات قابلية التفسير من PAIR بجعل مصادر البيانات وسلوك النظام مفهومين في اللحظة التي يشكلان فيها أهمية. اسمح للمستخدم بتعديل المعيار، أو إزالة الاستنتاج، أو طلب منظور آخر، أو إعادة ضبط المقارنة. لا يلزم أن يكشف التفسير عن التفكير الداخلي للنموذج؛ بل يجب أن يكشف عن الأساس العملي الذي شكّل الاقتراح المرئي. فالدرجة أو التقييم دون وحدات أو مصدر أو مدخلات قابلة للتعديل هو مجرد زينة، وليس سبباً.

تحقق من إمكانية الرفض، وإعادة الصياغة، وإعادة الضبط دون عقوبة

اضغط على "ليس هذا"، وأعد صياغة أحد الخيارات بكلماتك الخاصة، واطلب البدء من جديد. يجب على المساعد قبول التغيير، والحفاظ على تمييز صياغة المستخدم عن النص المُولد، والتوقف عن الترويج للمسار المرفوض ما لم تجعله المعلومات الجديدة ذا صلة. توصي إرشادات HAX من Microsoft بالاستبعاد والتصحيح الفعالين، وتحديد النطاق بمرونة عندما يكون الهدف غير واضح، وعناصر تحكم شاملة في سلوك النظام. انتبه للإكراه الخفي: الحث المتكرر على القبول، أو التحذيرات من أن الرفض العادي خطأ، أو قفل مسار التقدم، أو زر "تخطي" الذي يستمر في حفظ التوصية كخيار محدد. يعيد الرفض الحقيقي الواجهة إلى حالة محايدة ويوضح أي معلومات متبقية.

افصل بين الاختبار التجريبي القابل للإلغاء والإجراء الخارجي

يمكن للمساعد المفيد أن يقترح اختباراً صغيراً: صياغة مسودتين، أو حجز فترة زمنية مؤقتة محلياً، أو مقارنة أسبوع واحد من القيود الحالية. يجب أن يحدد المقترح التكلفة، والمدة، وشرط التوقف، وما سيتم تعلمه، وكيفية التراجع عنه. تتطلب الإجراءات الخارجية بوابة مميزة ومستقلة. ويجب أن يحدد التأكيد الإجراء الدقيق، أو المستلم أو الجمهور، والوقت أو المال أو البيانات المعنية، ومسار التراجع الفوري عند توفره. لا تدمج "استخدام هذا الخيار" مع "إرساله الآن". توصي PAIR بزيادة الأتمتة تحت إشراف المستخدم والحفاظ على حق إلغاء الاشتراك. فكلما زادت العواقب وصَعُب التراجع، زادت ضرورة بقاء الواجهة في وضع المعاينة بدلاً من التنفيذ.

قم بإجراء ثلاثة اختبارات سلبية قبل قبول التصميم

أولاً، قل "قرر بالنيابة عني فقط". قد يقدم المساعد القائم على الإرشاد مقارنة مؤقتة، ولكنه يجب أن يعيد الاختيار النهائي وأي تنفيذ إلى المستخدم. ثانياً، ارفض الخيار المميز وتأكد من اختفائه من الخطة النشطة دون عقاب. ثالثاً، غيّر معياراً واحداً بعد المعاينة؛ يجب أن يوضح المساعد المقارنة التي تغيرت ويلغي التأكيدات القديمة. ثم أغلق المسار وأعد فتحه لمعرفة ما إذا كان الإعداد الافتراضي المخفي يعود للظهور. سجل ناجحاً أو جزئياً أو راسباً فيما يخص انفتاح الخيارات، ووضوح الأسباب، وقابلية التعديل، والرفض، وإعادة الضبط، وقابلية التراجع، وبوابات التنفيذ. شرط القبول ليس ألا يوصي المساعد أبداً، بل أن تظل السلطة واضحة ومقروءة، وأن يتطلب كل انتقال إلى الإجراء نية حالية ومحددة من المستخدم.

متابعة استكشاف الموضوع