ما الذي يجب أن يتذكره رفيق الذكاء الاصطناعي؟ دليل عملي لاختيار ما يبقى
إذا كنت تقرر ما يجب أن يتذكره رفيق الذكاء الاصطناعي بين المحادثات، فابدأ بقائمة قصيرة من التفاصيل التي تقدمها عن قصد وتتوقع أن تكون مهمة لاحقًا: تفضيلات الاستجابة الثابتة، وسياق المشروع المستمر، وبعض الحقائق العملية ذات الصلة بهذا المشروع. احتفظ بتفاصيل المشاهد العابرة داخل المشروع أو المحادثة التي تنتمي إليها. لا تتعامل مع قدرة النظام على استنتاج نمط ما على أنها إذن بحفظه وتخزينه. فالذاكرة المفيدة تساعد في مهمة مستقبلية ملموسة، وتظل ضمن نطاقها المقصود، ويمكن مراجعتها أو إزالتها.
ابدأ بالمهمة التي يُفترض أن تحسّنها الذاكرة
قبل حفظ أي تفصيل، أكمل هذه الجملة: "تذكّر هذا سيساعد في ___." إذا كانت الإجابة غامضة، فمن المحتمل أن هذا التفصيل لا ينتمي إلى الذاكرة الدائمة. على سبيل المثال، فإن عبارة "استخدم نقاطًا موجزة عند مساعدتي في التخطيط لأنشطة عطلة نهاية الأسبوع" لها غرض واضح. في المقابل، فإن عبارة "بدوتُ نفد الصبر في محادثة الأمس" لا تؤسس لتفضيل دائم أو حقيقة مفيدة.
هذا تطبيق عملي لمبدأ الحد الأدنى من البيانات (Data Minimization): يحدد المعهد الوطني للمعايير والتقنية (NIST) الحد الأدنى بأنه تقييد إنشاء المعلومات الشخصية واستخدامها والاحتفاظ بها بما يرتبط ارتباطًا مباشرًا وضروريًا بتحقيق غرض معين، والاحتفاظ بها فقط طالما كانت هناك حاجة إليها لهذا الغرض. بالنسبة لميزة الذاكرة، فإن سؤال التصميم المقابل هو ما إذا كان النظام يحتاج إلى هذا التفصيل لأداء مهمة يختارها المستخدم لاحقًا. تعريف NIST للحد الأدنى من البيانات
خيارات جيدة: التفضيلات الصريحة وحقائق المشروع المفيدة
أقوى الخيارات هي التفاصيل العادية التي ذكرها المستخدم بوضوح ومن المرجح أن تشكّل الردود المتكررة. تشمل الأمثلة تنسيق الإجابة المفضل، أو اسم المشروع المختار، أو المواد المحددة بالفعل لمشروع يدوي، أو تفضيل المستخدم المعلن لنباتات لا تتطلب الكثير من العناية أثناء التخطيط لحديقة الشرفة. احفظ النسخة الأقل تفصيلًا والتي لا تزال مفيدة: فعبارة "يفضل تعليمات قصيرة خطوة بخطوة" أكثر فائدة وأقل تطفلًا من تخزين سرد عن كل مناسبة طلب فيها المستخدم الإيجاز.
بعض الحقائق الشخصية تكون ذات صلة فقط داخل مشروع محدد. إذا قال المستخدم إن أبعاد الغرفة 3 في 4 أمتار أثناء تخطيط تصميمها، فقد يفيد هذا البُعد في مشروع تصميم الغرفة؛ ولا داعي لأن يصبح خلفية عامة لمحادثات غير ذات صلة. تجيب الذاكرة محددة النطاق بالمشروع عن سؤال بسيط: ما المحادثات المستقبلية المسموح لها بالاعتماد على هذا التفصيل؟
تُظهر وثائق المنتجات سبب الفائدة في التعامل مع الذكريات الدائمة وسياق المشروع كخيارات متميزة. تصف OpenAI الذكريات المحفوظة بأنها منفصلة عن سجل الدردشة، وتوثق خيار الذاكرة الخاص بالمشروع فقط (Project-only memory) الذي يقيّد المحادثات التي يمكنها الإشارة إلى بعضها البعض داخل المشروع. هذه عناصر تحكم خاصة بالمنتج، وليست ضمانًا بأن كل نظام ذكاء اصطناعي يوفر النطاق نفسه. وثائق ذاكرة OpenAI
اجعل تفاصيل المشاهد المؤقتة تظل مؤقتة
يمكن أن يكون التفصيل مفيدًا الآن دون أن يكون مفيدًا لاحقًا. فالمقهى الذي تجلس فيه، أو طقس اليوم، أو قائمة تسوق مؤقتة، أو قرار لم يكتمل، كلها أمور قد تساعد في الإجابة عن الطلب الحالي ولكنها سرعان ما تصبح قديمة وغير ذات جدوى. احتفظ بها في المحادثة أو المشروع الحالي ما لم تطلب صراحةً نقلها للمستقبل. وإذا تم حفظها، فحدد لها نطاقًا ونقطة مراجعة: على سبيل المثال، "لخطة هذه الرحلة" أو "حتى أختار حاسوبًا محمولًا".
هذا يمنع تحويل اللحظة العابرة إلى سمة شخصية مفترضة. فطلب واحد لمقهى هادئ لا يثبت تفضيلًا دائمًا للأماكن الهادئة؛ واختيار لون ساطع لمرة واحدة لا يحدد ذوقًا جماليًا دائمًا. الاستنتاج التصميمي الآمن هو الحفاظ على كلمات المستخدم كحقيقة ذات نطاق محدد عند الحاجة، وليس تعميمها ضمنيًا وبصمت في وصف لشخصيته.
تميز وثائق خصوصية Google Gemini بين التعليمات المحفوظة والتخصيص المستند إلى المحادثات السابقة، وتذكر أنه يمكن للمستخدم إدارة المعلومات المحفوظة أو حذفها. كما تشير أيضًا إلى أن التخصيص عبر المحادثات السابقة قد يستخدم معلومات من المحادثات. هذا التمييز يدعم قاعدة عملية في تصميم المنتجات: يجب أن تكون التفضيلات المقصودة والقابلة للتعديل قابلة للتمييز بشكل منفصل عن السياق المستمد من سجل المحادثات. مركز خصوصية تطبيقات Gemini
لا تستنتج سمات حساسة ولا تحفظ تفاصيل عن أطراف ثالثة افتراضيًا
لا ينبغي لنظام الذاكرة تحويل الإشارات العابرة في المحادثة إلى استنتاجات حساسة. إن صياغة المستخدم، أو جدوله الزمني، أو مشترياته، أو اختياراته لمرة واحدة لا تبرر التخمين بشأن سماته الشخصية أو ظروفه أو دوافعه. حتى عندما يبدو الاستنتاج معقولًا، فإنه قد يكون خاطئًا، وقد تصبح الإجابة المستقبلية محرجة أو مضللة إذا عومل على أنه أمر مؤكد. احفظ الحقيقة التي قدمها المستخدم فقط عندما يكون لها استخدام واضح متعلق بالمهمة؛ ولا تحولها إلى ادعاء أوسع حول هوية المستخدم.
طبّق نفس مستوى التحفظ على المعلومات المتعلقة بالآخرين. قد يحتاج المشروع إلى اسم أو دور قدمه المستخدم صراحةً، ولكن لا ينبغي للمحادثة الروتينية أن تتحول إلى ملف دائم عن الأصدقاء أو الأقارب أو الزملاء. إذا كان تفصيل متعلق بطرف ثالث ضروريًا لمهمة محددة، فاحفظه ضمن نطاق تلك المهمة وتجنب التفاصيل الشخصية غير الضرورية. هذه توصية لتصميم المنتجات مستمدة من مبدأ تقليل البيانات، وليست ادعاءً بأن كل خدمة تتعامل مع مثل هذه البيانات بنفس الطريقة.
امنح كل ذكرى نطاقًا ومصدرًا ومسارًا للمراجعة
يصبح الوثوق بالذاكرة أسهل عندما توضح واجهة الاستخدام ما تتضمنه، ومن أين أتت، وأين يمكن استخدامها. قد يتضمن سجل الذاكرة العملي: العبارة المحددة التي قدمها المستخدم بدقة؛ والغرض منها؛ وما إذا كانت تنطبق بشكل عام أو على مشروع واحد فقط؛ وتاريخ مراجعة اختياري أو شرطًا للإزالة. على سبيل المثال: "لمشروع حديقة الشرفة، يفضل نباتات تحتاج إلى قليل من الري؛ وتتم المراجعة عند اختيار قائمة النباتات." هذا نموذج توضيحي، وليس ميزة موثقة لمنتج بعينه.
يجب أن يكون المستخدمون قادرين على فحص المعلومات المتذكرة وتصحيحها وإزالتها. ويجب عليهم أيضًا التمييز بين حذف الذكرى وبين حذف المحادثة أو تغيير إعدادات التخصيص الأوسع نطاقًا. تشرح وثائق مساعدة OpenAI أن الذكريات المحفوظة يمكن أن تكون منفصلة عن سجل المحادثة، وبالتالي فإن حذف المحادثة الأصلية وحدها قد لا يحذف الذكرى المنفصلة. وبالمثل، يصف مركز خصوصية Gemini عناصر تحكم منفصلة في النشاط وعناصر تحكم منفصلة في المعلومات المحفوظة. توضح أمثلة هذه المنتجات سبب وجوب أن يوضح مسار الحذف الشفاف أي طبقة يؤثر عليها عنصر التحكم. عناصر التحكم في ذاكرة OpenAI، عناصر التحكم في بيانات تطبيقات Gemini
اختيار ما يُحفظ في الذاكرة منفصل عن الإفصاح ونطاق الإعدادات
اختيار ما ينتمي إلى الذاكرة يجيب عن سؤال واحد: ما التفاصيل التي يجب أن تستمر للتخصيص المستقبلي؟ وهو بحد ذاته لا يوضح ما تجمعه الخدمة من معلومات، أو كيف تتعامل مع المحادثات، أو من يمكنه مراجعة البيانات، أو ما هي عناصر التحكم المطبقة على الحساب والإعدادات. تلك أسئلة منفصلة تتعلق بالإفصاح ونطاق الإعدادات. يجب أن يصفها المنتج بشكل منفصل ودقيق بدلًا من الإيحاء بأن وجود قائمة ذاكرة صغيرة يعني عدم معالجة أي بيانات أخرى.
لهذا التمييز أهمية بالغة في الممارسة العملية. يوضح إشعار خصوصية Google عدة فئات من المعلومات والإعدادات، بما في ذلك التعليمات المحفوظة، وعناصر التحكم في النشاط، والتطبيقات المتصلة، واستخدام البيانات لتقديم الخدمات وتحسينها. ويختلف السلوك الفعلي باختلاف المنتج والتكوين. لذلك، يجب أن توضح واجهة اختيار الذاكرة ما تتحكم فيه وتوجه المستخدمين إلى معلومات الخصوصية والإعدادات المعمول بها، دون التلميح إلى أنها تغني عن تلك التوضيحات. مركز خصوصية تطبيقات Gemini
اختبار قرار سريع لكل ذكرى مقترحة
قبل حفظ أي تفصيل، اطرح أربعة أسئلة:
هل تم تقديمه أو الموافقة عليه صراحةً؟ إذا كان مجرد تأويل أو استنتاج، فلا تخزنه كحقيقة.
هل سيحسّن مهمة مستقبلية محددة ومحتملة؟ حدد اسم تلك المهمة؛ وإذا لم يخطر ببالك أي منها، فاتركه جانبًا.
ما هو نطاقه المناسب؟ استخدم حدود المشروع للتفاصيل التي لا تنتمي إلى التخصيص العام.
هل يمكن للمستخدم مراجعته وإزالته؟ إذا لم يكن الأمر كذلك، فلا ينبغي للواجهة تقديمه كذكرى بسيطة يتحكم فيها المستخدم.
على سبيل المثال، في مشروع لتخطيط الغرفة، قد تكون عبارة "اختار المستخدم مكتبًا مدمجًا لغرفة الدراسة" مفيدة حتى يكتمل التصميم. أما المقهى الذي تمت زيارته أثناء جلسة التخطيط فهو تفصيل مؤقت على الأرجح. والتخمين بأن المستخدم "يفضل دائمًا البساطة" لا ينبغي حفظه ما لم يذكر المستخدم هذا التفضيل صراحةً ويرغب في استخدامه على نطاق أوسع. تطبق هذه الأمثلة اختبار القرار؛ وهي ليست نتائج أبحاث أو ادعاءات حول منتج معين.
نظام الذاكرة المنضبط لا يحتاج إلى بناء ملف تعريف كامل للمستخدم. بل يجب عليه نقل عدد قليل من التفضيلات الصريحة والحقائق العملية التي تخدم أنشطة مختارة، والحفاظ على بقاء التفاصيل المحلية في نطاقها المحلي، وجعل آليات التصحيح والحذف واضحة ومفهومة. الهدف هو الاستمرارية المرتكزة على ما قاله المستخدم بالفعل — وليس الادعاء بأن الذكاء الاصطناعي يعرف حقًا الشخص الذي يقف خلف المحادثة.