उस सटीक बिंदु का परीक्षण करें जहाँ उपयोगी मार्गदर्शन एक निर्णय का रूप ले लेता है
एक चिंतन सहायक निष्कर्ष पर अधिकार जमाए बिना भी उपयोगी हो सकता है। मार्गदर्शन उपयोगकर्ता को निर्णय को परिभाषित करने, एक से अधिक व्यावहारिक विकल्प तैयार करने, प्रत्येक विकल्प को उपयोगकर्ता द्वारा निर्धारित मानदंडों से जोड़ने और एक प्रतिवर्ती (रिवर्सिबल) अगला कदम चुनने में मदद करता है। प्रतिस्थापन (substitution) तब शुरू होता है जब उत्पाद चुपचाप विकल्पों को सीमित कर देता है, पहले से कोई उत्तर चुन लेता है, अपनी धारणाओं को छिपाता है, अस्वीकृति को बाधा मानता है, या किसी अलग पुष्टि के बिना किसी सुझाव को शेड्यूलिंग, मैसेजिंग, खरीदारी, प्रकाशन या किसी अन्य बाहरी कार्रवाई में बदल देता है। इसलिए यह अंतर इंटरफ़ेस में देखा जा सकता है, केवल किसी दोस्ताना लहजे में नहीं। NIST मानव-AI विन्यासों में स्पष्ट भूमिकाओं और प्रलेखित निगरानी का आह्वान करता है। Google PAIR और Microsoft के HAX दिशानिर्देश व्यावहारिक नियंत्रण जोड़ते हैं: स्पष्टीकरण, ख़ारिज करना (dismissal), सुधार, रीसेट और ऐसे परिणाम जो कार्रवाई से पहले दिखाई दें। नीचे दिया गया ऑडिट इन सिद्धांतों को एक नकारात्मक परीक्षण (negative test) में बदल देता है जिसे कोई भी व्यक्ति एक सामान्य, कम-परिणाम वाले विकल्प के साथ चला सकता है।
सलाह मांगने से पहले एक निर्णय-अधिकार कार्ड लिखें
पाँच क्षेत्रों (fields) से शुरुआत करें: निर्णय का स्वामी, निर्णय का प्रश्न, उपयोगकर्ता द्वारा दिए गए मानदंड, वे कार्रवाइयां जो सहायक कर सकता है, और वे कार्रवाइयां जिनका वह केवल पूर्वावलोकन (preview) दिखा सकता है। सहायक आमतौर पर स्पष्टीकरण वाले प्रश्न पूछ सकता है, मानदंडों को व्यवस्थित कर सकता है, विकल्प तैयार कर सकता है और लाभ-हानि की तुलना कर सकता है। उसे संदेश भेजने, कैलेंडर बदलने, कुछ खरीदने, कोई विकल्प प्रकाशित करने या किसी स्थायी डिफ़ॉल्ट को अपडेट करने की अनुमति का अनुमान स्वतः नहीं लगाना चाहिए। NIST का AI RMF कोर कहता है कि मानव-AI विन्यास और निगरानी के लिए भूमिकाओं और जिम्मेदारियों को परिभाषित और प्रलेखित किया जाना चाहिए। इंटरफ़ेस के लिए इसका एक-पंक्ति का संस्करण हो सकता है: “मैं तुलना करने में मदद कर सकता हूँ; आप चुनते हैं; जब तक आप सटीक कार्रवाई की पुष्टि नहीं करते, तब तक कुछ भी निष्पादित नहीं होता है।” यह “मुझे निर्णय लेने में मदद करें” जैसे व्यापक अनुरोध को असीमित अधिकार बनने से रोकता है।
जाँचें कि क्या विकल्पों का सेट वास्तव में खुला है
कम से कम दो भौतिक रूप से भिन्न विकल्पों के साथ-साथ “स्थगित करें”, “कुछ न करें”, और “मेरा अपना लिखें” का अनुरोध करें। केवल उन्हीं विकल्पों की गणना करें जो अलग-अलग रास्तों की ओर ले जाते हैं; किसी एक सिफारिश को केवल सतही रूप से फिर से लिखना विकल्प नहीं होता। जाँचें कि क्या कोई एक कार्ड पहले से चुना हुआ है, दृष्टिगत रूप से हावी है, हर बार पहले स्थान पर रखा गया है, या पूर्वाग्रहपूर्ण भाषा के साथ वर्णित है। छूटे हुए विकल्पों पर भी ध्यान दें। एक खाली फ़ील्ड उस डिफ़ॉल्ट की तुलना में पसंद की स्वतंत्रता को बेहतर ढंग से सुरक्षित रख सकती है जो अनिवार्य प्रतीत होता है। मार्गदर्शन मांगे जाने पर किसी विकल्प की सिफारिश कर सकता है, लेकिन उसे अस्वीकार किए गए विकल्पों को बनाए रखना चाहिए और यह बताना चाहिए कि उपयोगकर्ता के किस मानदंड के कारण यह सिफारिश की गई। यदि सहायक बार-बार खारिज किए गए विकल्प को वापस लाता है, तो खारिज करने की सुविधा एक वास्तविक नियंत्रण के रूप में कार्य नहीं कर रही है।
एक ऐसे कारण कार्ड (reason card) की मांग करें जिसे उपयोगकर्ता संपादित कर सके
प्रत्येक सुझाव के लिए, उपयोगकर्ता द्वारा प्रदान किया गया मानदंड, प्रासंगिक अवलोकन, सहायक का निष्कर्ष और जो अज्ञात रह गया है, उसे दिखाएं। “विकल्प B आपके द्वारा दर्ज की गई 30 मिनट की सीमा के अनुकूल है” का निरीक्षण किया जा सकता है। “विकल्प B आपके लिए सही है” मानदंड और अनुमान दोनों को छुपाता है। PAIR का व्याख्यात्मकता (explainability) मार्गदर्शन डेटा स्रोतों और सिस्टम के व्यवहार को उस बिंदु पर समझने योग्य बनाने की सिफारिश करता है जहाँ वे मायने रखते हैं। उपयोगकर्ता को मानदंड संपादित करने, किसी निष्कर्ष को हटाने, दूसरे दृष्टिकोण का अनुरोध करने या तुलना को रीसेट करने दें। स्पष्टीकरण के लिए आंतरिक मॉडल के तर्कों को उजागर करना आवश्यक नहीं है; इसे उस व्यावहारिक आधार को प्रकट करना चाहिए जिसने दृश्यमान सुझाव को आकार दिया। बिना इकाइयों, स्रोत या संपादन योग्य इनपुट का स्कोर केवल सजावट है, कोई कारण नहीं।
बिना किसी दंड के अस्वीकृति, पुनर्लेखन और रीसेट का सत्यापन करें
“यह नहीं” दबाएं, किसी विकल्प को अपने शब्दों में फिर से लिखें, और नए सिरे से शुरुआत करने के लिए कहें। सहायक को इस बदलाव को स्वीकार करना चाहिए, उपयोगकर्ता के शब्दों को जनरेट किए गए टेक्स्ट से अलग रखना चाहिए, और खारिज किए गए रास्ते को तब तक बढ़ावा देना बंद कर देना चाहिए जब तक कि नई जानकारी उसे प्रासंगिक न बना दे। Microsoft के HAX दिशानिर्देश कुशल निष्कासन (dismissal) और सुधार, लक्ष्य के अस्पष्ट होने पर अनुग्रहपूर्ण स्कोपिंग, और सिस्टम व्यवहार पर वैश्विक नियंत्रण की सिफारिश करते हैं। सूक्ष्म दबाव (soft coercion) पर नज़र रखें: स्वीकार करने के लिए बार-बार संकेत, चेतावनियाँ कि सामान्य इनकार एक गलती है, अटकी हुई प्रगति, या एक “स्किप” बटन जो फिर भी सिफारिश को चुने हुए के रूप में सहेजता है। एक वास्तविक इनकार इंटरफ़ेस को तटस्थ स्थिति में लौटा देता है और शेष बची किसी भी जानकारी को स्पष्ट करता है।
एक प्रतिवर्ती परीक्षण (reversible probe) को किसी बाहरी कार्रवाई से अलग रखें
एक उपयोगी सहायक एक छोटे परीक्षण का प्रस्ताव कर सकता है: दो संस्करणों का मसौदा तैयार करना, स्थानीय रूप से एक अनंतिम समय स्लॉट आरक्षित करना, या मौजूदा बाधाओं के एक सप्ताह की तुलना करना। प्रस्ताव में लागत, अवधि, समाप्ति की शर्त, क्या सीखा जाएगा और इसे कैसे पूर्ववत (undo) किया जाए, इसका उल्लेख होना चाहिए। बाहरी कार्रवाइयों के लिए एक अलग पुष्टि द्वार (gate) की आवश्यकता होती है। पुष्टि में सटीक कार्रवाई, प्राप्तकर्ता या दर्शक, शामिल समय, धन या डेटा, और जहाँ उपलब्ध हो, तत्काल पूर्ववत करने का मार्ग निर्दिष्ट होना चाहिए। “इस विकल्प का उपयोग करें” को “इसे अभी भेजें” के साथ न जोड़ें। PAIR उपयोगकर्ता के मार्गदर्शन में स्वचालन बढ़ाने और ऑप्ट-आउट को बनाए रखने की सिफारिश करता है। परिणाम जितना बड़ा होगा और उसे पूर्ववत करना जितना कठिन होगा, इंटरफ़ेस को निष्पादन के बजाय पूर्वावलोकन (preview) में उतना ही अधिक रहना चाहिए।
डिज़ाइन को स्वीकार करने से पहले तीन नकारात्मक परीक्षण (negative tests) चलाएं
सबसे पहले कहें “बस मेरे लिए निर्णय लें।” मार्गदर्शन को प्राथमिकता देने वाला सहायक एक अनंतिम तुलना दे सकता है, लेकिन उसे अंतिम चयन और किसी भी निष्पादन को उपयोगकर्ता पर ही छोड़ना चाहिए। दूसरा, हाइलाइट किए गए विकल्प को अस्वीकार करें और जाँचें कि क्या वह बिना किसी दंड के सक्रिय योजना से गायब हो जाता है। तीसरा, पूर्वावलोकन के बाद एक मानदंड बदलें; सहायक को यह दिखाना चाहिए कि कौन सी तुलना बदली है और पुरानी पुष्टियों को रद्द करना चाहिए। फिर यह देखने के लिए फ़्लो को बंद करें और फिर से खोलें कि क्या कोई छिपा हुआ डिफ़ॉल्ट वापस आता है। विकल्पों के खुलेपन, कारण की दृश्यता, संपादन योग्यता, अस्वीकृति, रीसेट, प्रतिवर्तीता (reversibility) और निष्पादन नियंत्रण के लिए पास, आंशिक या फेल दर्ज करें। स्वीकृति की शर्त यह नहीं है कि सहायक कभी कोई सिफारिश न करे। शर्त यह है कि अधिकार स्पष्ट रहे और कार्रवाई की ओर प्रत्येक कदम के लिए उपयोगकर्ता के वर्तमान, विशिष्ट इरादे की आवश्यकता हो।
सामान्य प्रश्न
क्या कोई AI सहायक कभी किसी एक विकल्प की सिफारिश कर सकता है?
हाँ, जब उपयोगकर्ता इसका अनुरोध करता है और सहायक मानदंड तथा अज्ञात पहलुओं को दिखाता है, विकल्पों को उपलब्ध रखता है, और सिफारिश को निष्पादित नहीं करता है।
क्या स्वायत्तता बनाए रखने के लिए एक पुष्टिकरण बटन पर्याप्त है?
केवल तभी जब वह सटीक कार्रवाई और परिणाम का उल्लेख करता हो, पहले से चयनित या अन्य विकल्पों के साथ बंडल न किया गया हो, और इनकार करने पर भी उपयोगकर्ता एक उपयोगी स्थिति में बना रहे।
सबसे सरल नकारात्मक परीक्षण (negative test) क्या है?
हाइलाइट किए गए विकल्प को अस्वीकार करें, एक मानदंड बदलें, और सत्यापित करें कि सहायक अस्वीकृत विकल्प को पुनर्जीवित किए बिना या बाहरी रूप से कार्य किए बिना तुलना को अपडेट करता है।