لماذا يجب أن تتجنب استجابات الذكاء الاصطناعي اليقين المفرط والوعود التي لا يمكن الوفاء بها

فصل حالات الدليل والاستنتاج والمجهول والإجراء

استخدم أربع حالات مرئية قبل صياغة نصوص منمقة. «مدعوم حاليًا» تعني أن العبارة المعروضة تطابق مدخلاً حاليًا محددًا، أو سجلاً في النظام، أو حدثًا مكتملاً. «استنتاج مشروط» يحدد الفرضية التي يجب أن تظل صحيحة. «مجهول» يحدد المدخل الناقص، أو المصدر غير المتاح، أو التعارض غير المحسوم دون ملء الفراغ تلقائيًا. «حالة الإجراء» تذكر: طُلِب، أو قيد الانتظار، أو أُرسِل، أو تم تأكيد الاستلام، أو اكتمل، أو فشل، فقط عندما يتمكن النظام من رصد هذا التحول. يوضح ملف الذكاء الاصطناعي التوليدي الخاص بـ NIST أن المحتوى المُنشأ قد يكون خاطئًا بالرغم من تقديمه بنبرة واثقة، وبالتالي فإن النبرة الواثقة ليست مؤشرًا على الحالة. احتفظ بالادعاءات الجزئية منفصلة: فقد يتم إنشاء مدخل في التقويم بينما تظل الدعوة الخارجية دون تأكيد استلام. لا تدمج الأمرين في عبارة «تم ترتيب كل شيء». يجب أن تكشف كل بطاقة عن مصدر دعمها ووقت آخر تحقق.

تحويل كل وعد إلى مسؤولية وتبعية وحالات نهائية

لا يكون الوعد صالحًا إلا عندما يتمكن صاحبه من تنفيذ الإجراء ورصد اكتماله. وضّح من يملك الخطوة التالية: هذا المنتج، أم المستخدم، أم خدمة خارجية محددة، أم شخص خارج النظام. ثم اعرض المتطلبات المسبقة، أو موعدًا نهائيًا حقيقيًا أو تقديريًا، ونقطة التحقق لمعاودة الفحص، والحالات النهائية المحتملة: مكتمل، أو مرفوض، أو منتهي الصلاحية، أو فاشل، أو ما زال قيد الانتظار. عبارة «سأحرص على أن يردوا غدًا» ليس لها مسؤول يمكنه التحكم في الأمر. بينما عبارة «أرسل هذا التطبيق الدعوة؛ ورد المستلم خارج التطبيق؛ تحقق بعد يوم الثلاثاء» تفصل التحكم عن التبعية. يوصي دليل Microsoft HAX بوضع حدود واضحة للإمكانات والأداء. لا تدع صيغة المتكلم للمساعد تنقل التزام طرف خارجي ضمنيًا إلى النموذج. وإذا لم تكن هناك جهة مسؤولة عن النتيجة، فصغها كخيار، وليس كالتزام.

إرفاق الشروط وتاريخ انتهاء الصلاحية في مكان ظهور الاستجابة

لا يمكن لحاشية سفلية أو إخلاء مسؤولية عام تصحيح شارة حالة غير مشروطة. ضع الشرط الحاسم بجانب الجملة: «بناءً على الجدول المتصل حاليًا»، أو «إذا ظلت ساعات عمل المكان دون تغيير»، أو «لم يصل أي إيصال بعد». للوقت ثلاثة أدوار مختلفة: يوضح الطابع الزمني للدليل متى رُصِد الدعم؛ وتوضح نقطة التحقق الموعودة متى سيتصرف المسؤول أو يعيد التحقق؛ بينما يوضح تاريخ انتهاء الصلاحية متى يجب التوقف عن إعادة استخدام العبارة. يمكن أن تتغير البيانات الخارجية والأذونات وإصدارات التطبيق وتعديلات المستخدم بشكل مستقل. وعندما تنتهي صلاحية تبعية ما أو ينقطع اتصالها، خفّض مستوى الحالة بدلاً من الإبقاء على الصياغة الواثقة للأمس. تدعم إرشادات الشفافية الصادرة عن منظمة التعاون الاقتصادي والتنمية (OECD) تقديم معلومات هادفة وسياقية حول المدخلات والقيود. يجب ألا تحتفظ الواجهة بالصياغات السابقة في سجل إلا إذا كانت مؤرخة بوضوح، وليس باعتبارها حقيقة حالية.

كتابة الإجراء التالي القابل للتحكم دون التلميح بنتيجة معينة

تظل الرسالة غير المؤكدة ولكن المفيدة تقدم إجراءً تاليًا محددًا. يوصي Google PAIR بشرح ما هو مفقود وتقديم مسار للمضي قدمًا؛ قد يكون هذا المسار إعادة المحاولة بعد نقطة تحقق، أو إعادة توصيل المصدر، أو تعديل المدخلات، أو التبديل إلى مسار يدوي، أو إلغاء الطلب، أو تركه دون حسم. يجب أن يصف نص الزر الإجراء نفسه، لا أن يعد بنتيجته: «إرسال الطلب»، وليس «الحصول على الموافقة»؛ «التحقق من التوفر»، وليس «الحجز بنجاح»؛ «طلب توضيح»، وليس «الحل الآن». تحتاج عناصر التحكم في الملاحظات والتقييمات أيضًا إلى بيان صادق يوضح أثرها. إذا كان التصحيح يغير العرض الحالي فقط، فاذكر ذلك؛ وإذا كان يدخل في قائمة مراجعة لاحقة، فحدد هذا النطاق وتوقيته. يجب ألا توحي رسالة الشكر بأن النموذج الأساسي قد تغير بالفعل.

إجراء خمسة اختبارات سلبية ضد النصوص الواثقة

استخدم بيانات اختبار غير ضارة وافحص حالات واجهة المستخدم القابلة للملاحظة. افصل مصدرًا خارجيًا بعد تلقي استجابة إيجابية؛ والغِ إذنًا مطلوبًا؛ وأخّر تأكيد الاستلام الخارجي إلى ما بعد نقطة التحقق؛ وقدم مدخلاً ثانيًا يتعارض مع الأول؛ وأعد فتح نتيجة قديمة بعد انتهاء صلاحيتها. في كل حالة، تحقق مما إذا كانت العناوين، والشارات، والإشعارات، والملخصات، والمتابعات المُنشأة تنخفض مستوياتها معًا. يجب ألا يحتفظ الفشل بكلمات مثل «تم»، أو «مؤكد»، أو «دائمًا»، أو صيغة مستقبلية لم يعد المنتج مسؤولاً عنها. تأكد من أن الإجراء المتاح لا يزال يطابق الحالة: إعادة الاتصال، أو التعديل، أو إعادة المحاولة، أو الإلغاء، أو المسار اليدوي، أو البقاء مجهولاً. لا تختبر وسائل الحماية الخفية أو تنشئ محتوى خطيرًا. سجّل المدخلات، والتبعية، والطابع الزمني، والحالة النهائية المتوقعة، والصياغة المرصودة، والإصدار حتى يمكن إعادة إنتاج الفشل.

استخدام عقد الحقول السبعة كمعيار للإطلاق

راجع كل عنصر استجابة مؤثر في سجل مكوّن من سبعة أعمدة: حالة الدليل؛ الشرط؛ المجهول؛ الإجراء القابل للتحكم؛ التبعية الخارجية؛ المسؤول والوقت والفشل؛ وتاريخ انتهاء الصلاحية. يجتاز الإصدار مرحلة الإطلاق عندما تطابق كل جملة حالة واحدة، ويكون لكل وعد مسؤول قادر على تنفيذه، وتكون التبعيات مرئية، ويؤدي انتهاء الصلاحية إلى تخفيض الحالة، وتصل جميع الاختبارات السلبية إلى حالة نهائية صادقة. ويفشل عندما يتجاوز اليقين المرئي حجم الأدلة، أو يُستنتج الاكتمال من مجرد الإرسال، أو يتحول التقدير إلى موعد نهائي، أو تُوصف ملاحظات المستخدم بأنها تحديث فوري للنموذج، أو تظل المخرجات القديمة نشطة. اربط مراجعة النصوص بمراجعة حالة الأحداث: فتغيير الصفات لا يمكنه إصلاح خلفية برمجية لا تُظهر سوى النجاح. يقيّم هذا المعيار استجابات المنتج. بينما يظل سير عمل التحقق من الحقائق مهمة منفصلة للمستخدم الذي يحتاج إلى التحقق من إجابة معينة.

متابعة استكشاف الموضوع