एक धाराप्रवाह AI उत्तर को दावे के ऐसे बहीखाते (लेजर) में बदलें जिसे आप सत्यापित कर सकें

प्रत्येक वाक्य की जांच करने से पहले निर्णय को परिभाषित करें

लिखें कि उत्तर किस चीज़ को प्रभावित करेगा, निर्णय कब लिया जाना चाहिए, और कौन सा गलत विवरण विकल्प को बदल सकता है। यह सत्यापन सत्र को हानिरहित गद्य के ऑडिट में बदलने से रोकता है। केवल परिणामी बयानों को दावा कार्ड में विभाजित करें: सटीक दावा, इकाई (एंटीटी), संख्या या स्थिति, प्रासंगिक तिथि, प्रस्तावित स्रोत और सत्यापन स्थिति। "कार्यक्रम स्थल जल्दी खुलता है और इसलिए आपके शेड्यूल के अनुकूल है" जैसे वाक्य में कम से कम दो दावे होते हैं: खुलने का समय जिसे जांचा जा सकता है और अनुकूलता के बारे में एक अनुमान जो आपके कैलेंडर पर निर्भर करता है। NIST भ्रांति (कन्फैब्युलेशन) को विश्वास के साथ बताए गए गलत या असत्य विषय के रूप में वर्णित करता है। इसलिए प्रस्तुति का आत्मविश्वास कोई उपयोगी शॉर्टकट नहीं है; दावे की भूमिका और साक्ष्य महत्वपूर्ण हैं।

सख्त निकास शर्तों के साथ तीन लेबलों का उपयोग करें

किसी दावे को तथ्य के रूप में तभी चिह्नित करें जब कोई सुलभ स्रोत उसी इकाई, मूल्य, स्थिति और समय अवधि का सीधे समर्थन करता हो। इसे अनुमान के रूप में तब चिह्नित करें जब अंतर्निहित तथ्यों का समर्थन किया गया हो लेकिन निष्कर्ष एक तार्किक संबंध हो; पूर्वधारणाओं को सुरक्षित रखें ताकि कोई अन्य व्यक्ति तथ्यों पर विवाद किए बिना असहमत हो सके। इसे अज्ञात के रूप में तब चिह्नित करें जब जानकारी अनुपस्थित, अस्पष्ट, परस्पर विरोधी, उपकरण की पहुंच से बाहर या भरोसेमंद कवरेज के लिए बहुत नई हो। "अज्ञात" एक पूर्ण स्थिति है, न कि अनुमान लगाकर उस स्थान को भरने का आमंत्रण। OpenAI का शोध बताता है कि मॉडल प्रशंसनीय दिखने वाले गलत बयान उत्पन्न कर सकते हैं और सिस्टम को परहेज करने के बजाय अनुमान लगाने के लिए पुरस्कृत किया जा सकता है। एक मॉडल का स्व-रिपोर्ट किया गया आत्मविश्वास जांच को प्राथमिकता देने में मदद कर सकता है, लेकिन यह किसी असमर्थित दावे को तथ्य में नहीं बदल सकता।

जांचें कि क्या स्रोत सटीक दावे का समर्थन करता है

उद्धरण शीर्षक, खोज स्निपेट या जनरेट किए गए उद्धरण पर भरोसा करने के बजाय उद्धृत पृष्ठ खोलें। पुष्टि करें कि पृष्ठ मौजूद है, उसी इकाई का नाम देता है, समान मात्रा या नियम बताता है, प्रासंगिक स्थान या संस्करण को कवर करता है, और केवल किसी अन्य प्रकाशक की बात को नहीं दोहराया है। प्रकाशन या अद्यतन (अपडेट) तिथि खोजें और इसे खोज इंजन की क्रॉल या इंडेक्स तिथि से अलग समझें। Google का स्रोत-मूल्यांकन मार्गदर्शन यह पूछने का सुझाव देता है कि स्रोत क्या है, क्या उसके पास प्रासंगिक ज्ञान है, वह जानकारी क्यों साझा करता है, यह कब प्रकाशित हुआ था, और अन्य स्रोत क्या कहते हैं। यदि कोई लिंक किसी वाक्य के केवल एक हिस्से का समर्थन करता है, तो वाक्य को फिर से विभाजित करें। व्यापक निष्कर्ष पर साक्ष्य को खींचने के बजाय "आंशिक समर्थन" दर्ज करें।

महत्वपूर्ण दावों के लिए प्राथमिक और स्वतंत्र जांच का उपयोग करें

वर्तमान शेड्यूल, सुविधा, मूल्य, नीति, विनिर्देश (स्पेसिफिकेशन) या खाता सेटिंग के लिए, उस संगठन से शुरुआत करें जिसके पास जानकारी का स्वामित्व है। फिर एक ऐसे स्वतंत्र स्रोत का उपयोग करें जिसने तथ्य को अलग से प्राप्त किया हो, न कि किसी कॉपी किए गए लेख, सिंडिकेटेड विज्ञप्ति या ऐसे पृष्ठ का जो उसी असत्यापित बयान को उद्धृत करता हो। दो लिंक अपने आप दो स्रोत नहीं होते हैं। यदि केवल प्राथमिक पक्ष का पृष्ठ मौजूद है, तो उस सीमा को दर्ज करें। यदि दो विश्वसनीय स्रोतों में विरोधाभास है, तो तिथियों, संस्करणों, भूगोल, परिभाषाओं और सुधार नोटिसों की तुलना करें; असंगत संख्याओं का औसत न निकालें। यूके सरकार का जनरेटिव AI मार्गदर्शन उपयोग के मामले के अनुकूल उपायों के साथ वास्तविक सत्य (ग्राउंड ट्रुथ) या सूचित निर्णय के आधार पर आउटपुट का मूल्यांकन करने की सिफारिश करता है। उस सिद्धांत का उपयोगकर्ता संस्करण सरल है: खोजने से पहले परिभाषित करें कि पुष्टि के रूप में क्या गिना जाएगा।

व्यापक प्रश्नों को उत्तर देने योग्य इकाइयों में पुनर्गठित करें

"क्या यह विकल्प अच्छा है?" जैसे प्रश्न छिपी हुई मान्यताओं को आमंत्रित करते हैं। उन्हें वर्तमान उपलब्धता, बताई गई आवश्यकताओं, प्रभाव की तिथि, स्वामी द्वारा प्रकाशित सीमाओं और तुलना के लिए उपयोग की जाने वाली व्यक्तिगत पसंद जैसी इकाइयों से बदलें। AI से मान्यताओं को सूचीबद्ध करने, ऐसे किसी भी स्रोत को उद्धृत न करने जिसे वह खोल नहीं सकता, बदलते तथ्यों के साथ एक तारीख संलग्न करने और अज्ञात को दृश्यमान रखने के लिए कहें। फिर उत्तर के बाहर इकाइयों को सत्यापित करें। एक स्रोत आधिकारिक उद्घाटन समय स्थापित कर सकता है; यह आपके शेड्यूल के बिना यह स्थापित नहीं कर सकता कि समय सुविधाजनक है। एक उत्पाद पृष्ठ किसी सुविधा का वर्णन कर सकता है; यह स्थापित नहीं कर सकता कि उसने आपके डिवाइस पर कैसा व्यवहार किया जब तक कि आपने इसे स्वयं न देखा हो। सार्वजनिक तथ्यों को व्यक्तिगत इनपुट से अलग करने से केवल उत्तर को बेहतर बनाने के लिए निजी जानकारी का खुलासा करने का प्रलोभन भी कम हो जाता है।

चार परिणामों में से एक के साथ बहीखाता (लेजर) बंद करें

प्रत्येक महत्वपूर्ण दावा सत्यापित, समर्थित अनुमान, अनसुलझा, या प्रतिस्थापित के रूप में समाप्त होता है। सत्यापित का अर्थ है कि प्रत्यक्ष साक्ष्य और समय सीमा मेल खाते हैं। समर्थित अनुमान का अर्थ है कि इसके आधार सत्यापित हैं और तर्क स्पष्ट है। अनसुलझा का अर्थ है कि साक्ष्य गायब हैं या परस्पर विरोधी हैं। प्रतिस्थापित का अर्थ है कि एक नए प्राथमिक रिकॉर्ड ने एक पुराने बयान को बदल दिया है। पहुंच की तिथि और पुनर्जांच का ट्रिगर जोड़ें, जैसे कि बुकिंग से एक दिन पहले या उत्पाद अपडेट के बाद। दो-स्रोत जांच को अंतहीन ब्राउज़िंग में न बदलें: पूर्व-परिभाषित पुष्टि मानक पूरा होने पर रुकें, या अज्ञात को दर्ज करें और प्रतिवर्ती (रिवर्सिबल) अगला कदम चुनें। यह हर सवाल का अंतिम उत्तर होने का दिखावा किए बिना अनिश्चितता को कार्रवाई योग्य बनाता है।

एक हानिरहित अंशांकन (कैलिब्रेशन) अभ्यास चलाएं

एक सार्वजनिक, कम जोखिम वाला तथ्य चुनें जिसमें एक दिनांकित प्राथमिक पृष्ठ हो, जैसे कि किसी नामित तिथि पर सार्वजनिक स्थल के खुलने का समय। AI से उत्तर, उसकी मान्यताएं, और अलग-अलग तथ्य, अनुमान और अज्ञात फ़ील्ड मांगें। इसे निजी डेटा दिए बिना, प्रत्येक लिंक का निरीक्षण करें और परिणाम की तुलना प्राथमिक पृष्ठ और एक स्वतंत्र स्रोत से करें। दूसरे प्रॉम्प्ट में तिथि या स्थान बदलें और देखें कि क्या उत्तर समय सीमा को अपडेट करता है या किसी पुराने विवरण को आगे बढ़ाता है। प्रॉम्प्ट, मॉडल या उत्पाद संस्करण (यदि दिखाया गया हो), दावा लेबल, स्रोत, विसंगतियां और अंतिम स्थिति दर्ज करें। परीक्षण सामग्री के रूप में पेशेवर या उच्च-परिणाम वाले प्रश्नों का उपयोग न करें। यह अभ्यास आपके सत्यापन वर्कफ़्लो का परीक्षण करता है, मॉडल के लिए सार्वभौमिक सटीकता दर का नहीं।

इस विषय को आगे पढ़ें