सिस्टम से जुड़े साक्ष्यों को इंसानी संकेतों से अलग रखें

इंसानी जैसे संकेतों के प्रभाव का आकलन करने से पहले उनकी सूची बनाएं

अवलोकन योग्य डिज़ाइन विकल्पों से शुरुआत करें। चरित्र का नाम और जीवनी, चेहरा या शरीर, आवाज़, प्रथम-पुरुष सर्वनाम, टाइपिंग में ठहराव, बारी-लेना, अभिवादन, माफ़ी, याद रखने के बारे में बयान, सक्रिय (प्रोएक्टिव) संदेश, साझा इतिहास के संदर्भ, और ऐसे वाक्यांश जो पसंद, चिंता, इरादा या उपस्थिति दर्शाते हैं, उन्हें रिकॉर्ड करें। यह भी ध्यान दें कि सेवा स्वयं कहाँ बोलती है: मार्केटिंग, ऑनबोर्डिंग, चैट, नोटिफिकेशन, मेमोरी सेटिंग्स, भुगतान संकेत और त्रुटि स्थितियाँ अलग-अलग आवाज़ों का उपयोग कर सकती हैं। कोई संकेत स्वतः भ्रामक नहीं होता है। एक नाम नेविगेशन को आसान बना सकता है, एक आवाज़ पहुंच को बेहतर कर सकती है, और संवादात्मक शब्दावली बातचीत के प्रयास को कम कर सकती है। सवाल यह है कि क्या संकेत एक सटीक सीमा से जुड़ा हुआ है। 'मुझे हमारी योजना याद है' का अर्थ एक संग्रहीत नोट, प्राप्त की गई प्रतिलिपि, एक अस्थायी संदर्भ विंडो, या एक जनरेट किया गया वाक्यांश हो सकता है; ये तंत्र अलग-अलग अपेक्षाओं का समर्थन करते हैं। जो दिखाई दे रहा है उसका वर्णन करें, बिना यह निष्कर्ष निकाले कि कौन सी आंतरिक स्थिति मौजूद है। यह एक सुखद शैली को डिफ़ॉल्ट रूप से क्षमता का साक्ष्य बनने से रोकता है।

क्षमता के आरोपण को इरादे के आरोपण से अलग करें

इंसानी जैसी प्रस्तुति कम से कम दो अलग-अलग अनुमानों को जन्म दे सकती है। क्षमता का अनुमान प्रवाह को समझ मान लेता है, विस्तृत उत्तर को व्यापक विशेषज्ञता मान लेता है, या किसी एक चीज़ की याद को पूर्ण और निरंतर स्मृति मान लेता है। इरादे का अनुमान माफ़ी को व्यक्तिगत पछतावा मान लेता है, सुझाव को एक स्वतंत्र पसंद मान लेता है, या किसी आत्मीय वाक्यांश को इस बात का साक्ष्य मान लेता है कि सिस्टम ने अपना लक्ष्य स्वयं बनाया है। केवल शब्दों से कोई भी निष्कर्ष नहीं निकलता है। Google PAIR का कहना है कि मानवरूपी इंटरफ़ेस उत्पाद की क्षमता से परे अपेक्षाएं स्थापित कर सकते हैं और एल्गोरिथम की प्रकृति तथा सीमाओं का खुलासा करने की अनुशंसा करते हैं। Microsoft Research भी भावनाओं, विश्वासों, जीवन के अनुभव, स्वतंत्र इच्छा या 'स्वयं' का आभास कराने वाली भाषा की पहचान ऐसे डिज़ाइन विकल्पों के रूप में करता है जिनकी जांच की जानी चाहिए। लेज़र में, संकीर्ण अवलोकन योग्य दावा लिखें: 'वह मेरी ज़िंदगी जानता है' के बजाय 'इंटरफ़ेस ने सहेजे गए इवेंट को प्रदर्शित किया', या 'उसका उद्देश्य परिणाम की देखभाल करना था' के बजाय 'उसने एक सहायक वाक्य जनरेट किया'। संकीर्ण भाषा इस बात को सुरक्षित रखती है कि सुविधा ने वास्तव में क्या किया।

निर्णय में बदलाव को केवल रेटिंग में नहीं, बल्कि कार्रवाई में देखें

व्यावहारिक प्रभाव तब दिखाई देता है जब कोई आरोपण किसी कार्रवाई को बदल देता है। उदाहरणों में शामिल हैं: किसी सिफ़ारिश के बताए गए आधार की जांच किए बिना उसे स्वीकार करना, व्यापक मेमोरी या संपर्क अनुमतियाँ देना, कार्य के लिए अनावश्यक जानकारी साझा करना, ऐप को समय-सीमा या खरीदारी चरण चुनने देना, त्रुटि को नज़रअंदाज़ करना क्योंकि उत्तर आत्मविश्वास से भरा लग रहा था, या इंटरफ़ेस द्वारा स्थिर संबंध इतिहास का संकेत दिए जाने के बाद भी जारी रखना। इनमें से कोई भी कार्रवाई यह साबित नहीं करती कि मानवरूपण के कारण ही यह विकल्प चुना गया; कीमत, सुविधा, पिछला अनुभव और कार्य की कठिनाई भी मायने रख सकती है। CHI 2024 का अध्ययन अधिक संकीर्ण साक्ष्य प्रदान करता है: इसकी नियंत्रित स्यूडों-LLM सेटिंग में, आवाज़ और टेक्स्ट ने मानवरूपण और कथित सटीकता को बढ़ाया, और एक संदर्भ में प्रथम-पुरुष शब्दावली ने सटीकता और जोखिम निर्णयों को बदल दिया। इस परिणाम को हर ऐप के लिए एक निश्चित प्रतिशत में सामान्यीकृत न करें। इसके बजाय, उपयोगकर्ता की कार्रवाई की तुलना उसी निर्णय नियम से करें जो वे तब उपयोग करते जब सामग्री एक सामान्य सिस्टम संदेश के रूप में दिखाई देती।

कैलिब्रेट उसी क्षण करें जब आरोपण परिणामकारी बन जाए

इंस्टॉलेशन के दौरान दिए गए एक डिस्क्लेमर को बाद के संकेतों से अलग करना आसान होता है। प्रासंगिक निर्णय के करीब कैलिब्रेशन रखें। संवादात्मक चरित्र की पहचान AI के रूप में करें; वर्तमान सुविधा के कार्य, इनपुट, मेमोरी स्रोत, सीमाओं का वर्णन करें, और क्या कोई इंसान शामिल है यह बताएं; जनरेट की गई भाषा को संग्रहीत तथ्यों और निष्पादित कार्यों से अलग करें; दिखाएं कि याद रखा गया विवरण कब देखा, संपादित या हटाया जा सकता है; और किसी बाहरी कार्रवाई या व्यापक अनुमति से पहले पुष्टि की मांग करें। यदि सिस्टम अनिश्चित है या कार्य पूरा नहीं कर सकता है, तो त्रुटि में और अधिक व्यक्तित्व जोड़ने के बजाय एक गैर-संवादात्मक फ़ॉलबैक प्रदान करें। Google PAIR एक अतिभारित परिचय के बजाय, उत्पाद में बदलाव के साथ चरणबद्ध ऑनबोर्डिंग और रिमाइंडर्स की अनुशंसा करता है। कैलिब्रेशन सममित भी होना चाहिए: अनुमति मांगने के लिए आकर्षक व्यक्तित्व का उपयोग न करें और केवल विफलता की व्याख्या करते समय ठंडे तकनीकी लेबल का उपयोग न करें। चैट, सेटिंग्स, नोटिफिकेशन और मार्केटिंग में वही पहचान और क्षमता सीमा दिखाई देनी चाहिए।

साक्ष्य को स्थिर रखते हुए नकारात्मक जाँच (नेगेटिव चेक) चलाएं

अपने दृष्टिकोण पर एक सीमित नकारात्मक जाँच का उपयोग करें, न कि किसी लाइव सेवा में हेरफेर करने का प्रयास करें। एक परिणामकारी प्रॉम्प्ट लें और परिणामी दावे को एक सादे नोट में कॉपी करें। अवतार हटाएं, यदि सेटिंग मौजूद हो तो आवाज़ म्यूट करें, 'मुझे लगता है' या 'मैं चाहता हूँ' को 'सिस्टम ने जनरेट किया' से बदलें, और मूल सामग्री को बदले बिना एनिमेशन या सामाजिक समय-निर्धारण को छिपाएं। फिर पूछें: क्या मैं अलग तरीके से स्वीकार करूँगा, सत्यापित करूँगा, खुलासा करूँगा, सौंपूँगा या अनुमति दूंगा? यदि साक्ष्य स्थिर रहने पर भी कार्रवाई बदलती है, तो संकेत को निर्णय-प्रासंगिक चिह्नित करें। दूसरी जाँच दिशा उलट देती है: दोस्ताना प्रस्तुति बनाए रखें लेकिन दावे को स्पष्ट रूप से असमर्थित या अज्ञात कथन से बदलें। क्या वही आत्मीयता अभी भी इसका वजन बढ़ाती है? जानबूझकर असुरक्षित सामग्री का उपयोग न करें, छिपे हुए नियंत्रणों की जांच न करें, या किसी अन्य व्यक्ति को शामिल न करें। इसका लक्ष्य प्रतिवर्ती व्यक्तिगत निर्णय में प्रस्तुति प्रभाव को उजागर करना है, न कि सार्वभौमिक कारण-संबंधी नियम को साबित करना।

चार-कॉलम का रिकॉर्ड रखें और इंटरफ़ेस परिणाम का परीक्षण करें

प्रत्येक सार्थक क्षण के लिए, चार कॉलम रिकॉर्ड करें: देखा गया संकेत; आरोपित क्षमता या इरादा; आमंत्रित कार्रवाई; उपलब्ध कैलिब्रेशन नियंत्रण या स्वतंत्र साक्ष्य। नकारात्मक-जाँच परिणाम और ऐप संस्करण को नोट्स के रूप में जोड़ें। उत्पाद टीमें ऐसे मेल खाते परिदृश्यों का परीक्षण कर सकती हैं जिनमें मूल सामग्री समान रहती है जबकि आवाज़, अवतार, प्रथम-पुरुष शब्दावली, मेमोरी वाक्यांश या प्रतिक्रिया का समय बदलता है। केवल यह न मापें कि चरित्र कितना पसंद किया जाने योग्य लगता है, बल्कि स्वीकार करना, संपादित करना, सत्यापित करना, खुलासा करना, सौंपना या अनुमति बढ़ाना जैसे व्यवहार को मापें। बिना-संकेत वाली स्थिति को शामिल करें और जांचें कि क्या क्षमता लेबल, मेमोरी नियंत्रण, अनिश्चितता शब्दावली, पुष्टि स्क्रीन और आसान बदलाव कार्य के अनुरूप निर्णय को पुनर्स्थापित करते हैं। NIST का उपयोगकर्ता-विश्वास कार्य व्यक्ति, सिस्टम, कार्य और संदर्भ की एक साथ जांच करने का समर्थन करता है। एक कैलिब्रेटेड इंटरफ़ेस अधिकतम या न्यूनतम विश्वास की मांग नहीं करता है; यह उपयोगकर्ता को इस आउटपुट और इस सुविधा को केवल उतना ही महत्व देने में मदद करता है जितना यहाँ समर्थित है।

इस विषय को आगे पढ़ें