عندما ينسى الذكاء الاصطناعي تفصيلاً في المشروع، يجب أن يسأل قبل أن يتذكر
عندما يتعذر على المساعد المعتمد على الذكاء الاصطناعي استرجاع تفصيل عادي من مشروع إبداعي مستمر، يجب عليه توضيح ما لا يمكنه تأكيده، وتحديد المعلومة الناقصة، وسؤال المستخدم عن المصدر. ويجب ألا يحدّث فهمه الحالي للعمل إلا بعد أن يؤكد المستخدم هذا التفصيل. هذه الاستجابة أكثر فائدة من اختلاق محادثة سابقة تبدو مقنعة لأنها تفصل بين سجل المشروع وبين التخمين.
لماذا تظل الذاكرة المقنعة مجرد تخمين
يعتمد المشروع الإبداعي على قرارات صغيرة: أي عنوان أُدرج في القائمة المختصرة، وهل تستخدم المسودة صيغة المتكلم أم المخاطب، أو ما هي لوحة الألوان التي اختارها المستخدم. وإذا لم يتمكن المساعد من العثور على أحد هذه التفاصيل، فقد تبدو الإجابة بطلاقة وكأنها تذكر موثوق به بينما هي تُدخل خياراً جديداً في الخفاء.
يُعرِّف المعهد الوطني للمعايير والتكنولوجيا (NIST) اختلاق الذكاء الاصطناعي التوليدي بأنه يشمل المحتوى غير الصحيح المقدم بثقة، بالإضافة إلى المخرجات التي تختلف عن المدخلات أو تناقضها. وينطبق هذا الخطر العملي على تفاصيل المشروع المختلقة: إذ يمكن الخلط بينها وبين قرار قد اتُّخذ بالفعل. يصف ملف الذكاء الاصطناعي التوليدي الخاص بـ NIST هذه الآلية بعبارات عامة؛ وتعد عواقب العمل على المشروع هنا استنتاجاً تصميمياً وليست نتيجة تتعلق بمنتج بعينه.
وتشير أبحاث من OpenAI بالمثل إلى أن حوافز التقييم الشائعة يمكن أن تكافئ التخمين بدلاً من الإقرار بعدم اليقين. ومثالها على ذلك هو الإجابة عن الأسئلة العامة، ولكن الدرس التصميمي يمتد إلى هنا أيضاً: لا ينبغي للمساعد أن يتعامل مع إكمال يبدو واثقاً كدليل على توفر محادثة سابقة. Why language models hallucinate
حدد أولاً ما يمكن للمساعد رؤيته بالفعل
يجب على المساعد التمييز بين ثلاث حالات: تفصيل مرئي في المحادثة الحالية، وتفصيل يمكن استرجاعه من مصدر متاح للمشروع، وتفصيل لا يمكنه التحقق منه. وتتطلب هذه الحالات صياغات مختلفة. فإذا ظهر التفصيل في وقت سابق من المحادثة الحالية، يمكن للمساعد اقتباسه أو تلخيصه والإشارة إلى ذلك السياق. وإذا وجد ملاحظة أو مستنداً، فيمكنه ذكر اسم ذلك المصدر. وإذا لم يتوفر أي منهما، فعليه توضيح ذلك بصراحة.
تكون عبارة عدم اليقين المفيدة محددة ومقتصرة على النطاق: "لا يمكنني التحقق من العنوان الذي اخترته استناداً إلى معلومات المشروع المتاحة لي." فهي لا تعني ضمناً أن المستخدم لم يختر عنواناً على الإطلاق، أو أن المساعد قد بحث في كل أرشيف ممكن، أو أن التفصيل المفقود غير موجود. وهذه الفروق مهمة لأن عدم القدرة على استرجاع السجل ليست دليلاً على أن السجل لم يتم إنشاؤه قط.
يوصي دليل People + AI من Google بشرح الإمكانات والقيود ذات الصلة، وتركيز التفسيرات على ما يؤثر في فهم المستخدم وقراراته. وتطبيق ذلك هنا يوجه نحو تقديم بيان موجز حول سياق المشروع المتاح، بدلاً من تقديم شرح تقني لآليات عمل النموذج الداخلية. Explainability + Trust
اطلب أصغر مصدر مفيد
بعد توضيح الفجوة، اطرح سؤالاً واحداً محدداً. على سبيل المثال: "هل يمكنك لصق الملاحظة أو إخباري بالعنوان الذي استقر رأيك عليه؟" وإذا كان لدى المستخدم خيارات مصادر متعددة، فقدم قائمة قصيرة: "هل كان ذلك في أحدث مسودة، أم في ملاحظات مشروعك، أم في محادثة سابقة؟" والهدف هو جعل الاسترجاع سهلاً دون تحويل مهمة إبداعية روتينية إلى استجواب.
ويتمثل نمط الاستجابة العملي في: "لا يمكنني تأكيد لوحة الألوان مما يمكنني الوصول إليه. إذا شاركت الملاحظة أو ذكرتني بالألوان، فسأستخدمها للمسودة التالية." يحدد هذا الإجراء الحقيقة المفقودة، ويطلب دليلاً أو تأكيداً، ويوضح ما سيحدث بعد ذلك. كما أنه يحافظ على استمرارية العمل: إذ يمكن للمساعد المتابعة في الأجزاء غير المتأثرة من المهمة مع ترك الخيار غير المؤكد مفتوحاً.
يكون التوضيح مفيداً عندما تؤدي المعلومات المفقودة إلى تغيير الإجابة. في دراسة حول الحوار التعاوني، وجد Testoni وFernández أن استراتيجية التوضيح الموجهة بحالة عدم اليقين لدى النموذج أدت إلى تحسين نجاح المهمة في مهمة الرسم المحددة الخاصة بهما؛ كما أشارا أيضاً إلى أن طرح الأسئلة ينطوي على تكلفة. يدعم ذلك اتباع نهج مدروس: اسأل عندما تكون حقيقة المشروع الغائبة مهمة، واجعل السؤال مركزاً. Asking the Right Question at the Right Time
قم بالتحديث فقط بعد تأكيد المستخدم
بمجرد أن يقدم المستخدم مصدراً أو يؤكد تفصيلاً، كرر الحقيقة المؤكدة بشكل موجز: "تم الفهم: العنوان الحالي هو 'Small Garden Notes' بناءً على الملاحظة التي ألصقتها." وإذا كان المصدر يذكر شيئاً مختلفاً قليلاً، فأظهر عدم التطابق بدلاً من الاختيار بشكل صامت. على سبيل المثال: "تذكر ملاحظتك 'Garden Notes'؛ بينما ذكرت للتو 'Small Garden Notes'. أيهما ينبغي علي استخدامه؟"
يجب أن يقتصر التحديث على نطاق المشروع والدليل المقدم. إذ يمكن لسطر تم لصقه أن يدعم استخدام ذلك السطر في المهمة الحالية؛ لكنه لا يثبت تلقائياً أن التفصيل دائم، أو ينطبق على كل إصدار، أو يجب حفظه لما بعد المحادثة الحالية. وإذا كان المنتج يحتوي على سجل مشروع مرئي، فاعرض التحديث المقترح وامنح المستخدم وسيلة لتصحيحه. وإذا لم يكن لديه مثل هذا السجل، فلا تدَّعِ أنه تم تغيير الذاكرة بشكل دائم.
تعتبر خطوة التأكيد هذه توصية تصميمية مستمدة من مبدأ إمكانية التتبع والتحكم من جانب المستخدم: إذ يمكن للمستخدم معرفة الحقيقة التي تم اعتمادها وتصحيحها قبل أن تؤثر في مزيد من العمل. وهي مفيدة بشكل خاص عندما تتطور الخيارات الإبداعية. فقد تحتوي مسودة سابقة على عنوان قديم، بينما تحدد رسالة حديثة عنواناً جديداً؛ ويجب على المساعد الحفاظ على ذلك التسلسل بدلاً من دمج المسودات في ذاكرة واحدة يُفترض أنها أبدية.
تجنب الأسئلة التي تُقحم تخميناً خفياً
يمكن للسؤال أن يظل مضللاً إذا كان يتضمن إجابة مختلقة. فقول "لقد اخترت اللون الأزرق المخضر (Teal)، أليس كذلك؟" يضغط على المحادثة نحو تفصيل لم يتحقق منه المساعد. يفضل تقديم طلب محايد: "ما هو اللون الذي اخترته؟" وإذا كان هناك مصدر فعلي يذكر ذلك اللون، فحدده: "تذكر ملاحظات المسودة اللون الأزرق المخضر. هل ما زالت هذه هي لوحة الألوان التي تريدها؟" تفصل هذه الصياغة بين دليل المصدر والتأكيد الحالي.
لا تقدم البدائل المولدة على أنها حقائق متذكرة. وإذا لم يتمكن المستخدم من العثور على القرار القديم، فيمكن للمساعد أن يعرض المساعدة في الاختيار مرة أخرى، ولكن يجب عليه تصنيف ذلك كخيار جديد: "لا يمكنني استرجاع لوحة الألوان السابقة. هل ترغب في اختيار واحدة الآن؟" يتيح هذا التمييز التعاون الإبداعي دون إعادة كتابة تاريخ المشروع.
وجدت دراسة أجريت عام 2024 حول استجابة النماذج اللغوية للأسئلة غير المكتملة أن سلوك التوضيح المناسب للسياق ظهر في ظل ظروف محددة لحجم النموذج وتوجيه الأوامر (prompting)، بدلاً من ظهوره تلقائياً. والنتيجة هي تذكير لفرق المنتجات بتصميم هذا السلوك وتقييمه بشكل صريح، وعدم افتراض أن النموذج سيطرح السؤال الصحيح بشكل موثوق كإجراء افتراضي. Clarifying Completions
تقييم السلوك من خلال مهام المشروع العادية
يمكن لفرق المنتجات اختبار هذا التفاعل باستخدام مطالبات المشاريع الإبداعية الروتينية: طلب عنوان مفقود، أو تنسيق محدد، أو تفضيل مسودة عندما يكون التفصيل ذو الصلة غائباً عن السياق المتاح للمساعد. ويجب أن تحدد الاستجابة القوية الفجوة، وتتجنب اختلاق محادثة سابقة، وتطلب مصدراً ذا صلة أو تأكيداً، ثم تستخدم المعلومات المؤكدة باتساق.
قم بتضمين حالات قريبة حيث يكون التفصيل حاضراً في المحادثة الحالية أو في ملاحظة مرفقة. ويجب على المساعد استخدام الأدلة المتاحة في تلك الحالات، مع توخي الدقة بشأن مصدرها. واختبر أيضاً الإصدارات المتضاربة وتصحيحات المستخدم. ويميز التقييم المفيد بين التذكر غير المدعوم والاسترجاع المدعوم، ويتحقق مما إذا كان المساعد يواصل العمل غير المتأثر بدلاً من تعطيل المهمة بأكملها.
هذه طريقة تقييم مقترحة، وليست نتيجة أثبتتها الدراسات المذكورة. وتتمثل الفائدة المعلوماتية هنا في تسلسل اتخاذ القرار: تحديد إمكانية الوصول، وبيان الحد، وطلب أصغر مصدر مفيد، وتأكيد التفصيل المعتمد، وإبقاء نطاق التحديث واضحاً. يحول هذا التسلسل عبارة "لا أعرف" إلى خطوة منتجة في العمل.
اجعل عدم اليقين جزءاً من استمرارية المشروع
بالنسبة لمساعد المشاريع الإبداعية، فإن الاعتراف بنقص أحد التفاصيل ليس طريقاً مسدوداً. بل هو وسيلة لحماية الاستمرارية: حيث يمكن للنظام مواصلة تقديم المساعدة مع ترك التاريخ غير المؤكد فارغاً. إن وضوح عدم اليقين، والطلب المركز، والتأكيد المرئي تتيح للمستخدم تحديد ما ينتمي إلى سجل المشروع—وتمنح المساعد أساساً موثوقاً للمسودة التالية.