चापलूस एआई: जब आपका चैटबॉट हर बात पर ‘हाँ’ कहता है, तो फैसले हो सकते हैं गलत
हम सभी को ऐसे लोग पसंद आते हैं जो हमारी तारीफ करें या हमारे विचारों का समर्थन करें। यही उम्मीद हम आर्टिफिशियल इंटेलिजेंस यानी एआई से भी रखने लगे हैं। लेकिन क्या आप जानते हैं कि विज्ञान इसे ‘चापलूस एआई’ यानी साइकोफैंटिक एआई कह रहा है? एक नए अध्ययन के मुताबिक, जो एआई सिस्टम उपयोगकर्ताओं से बहुत ज्यादा सहमत होते हैं, वे न सिर्फ उनकी गलतियों को बढ़ावा देते हैं, बल्कि उनके व्यवहार में सुधार की संभावना को भी खत्म कर देते हैं।
क्या है चापलूसी यानी साइकोफैंसी?
इस अध्ययन में साइकोफैंसी का मतलब ऐसे एआई सिस्टम से है जो उपयोगकर्ता की हर बात से सहमत हो जाते हैं। भले ही वह बात गलत क्यों न हो, ये सिस्टम उसका समर्थन करते हैं और जरूरत पड़ने पर आलोचनात्मक प्रतिक्रिया नहीं देते। यह व्यवहार शुरू में मददगार लगता है, लेकिन लंबे समय में यह बहुत नुकसानदेह साबित हो सकता है।
अध्ययन में क्या सामने आया?
स्टैनफोर्ड और कार्नेगी मेलन विश्वविद्यालय के शोधकर्ताओं ने पाया कि 11 प्रमुख एआई मॉडल इंसानों की तुलना में 49 प्रतिशत अधिक बार उपयोगकर्ताओं के गलत कामों को भी सही ठहराते हैं। इस चापलूसी के कारण लोग अपनी गलतियों के लिए माफी मांगने या जिम्मेदारी लेने से बचने लगते हैं। हालांकि उपयोगकर्ताओं को ऐसे ‘हाँ में हाँ’ मिलाने वाले एआई ज्यादा पसंद आते हैं, लेकिन यह लंबे समय में उनके मानसिक विकास और सामाजिक रिश्तों के लिए खतरनाक साबित हो सकता है।
विज्ञान पत्रिका में प्रकाशित इस शोध के अनुसार, चैटजीपीटी और जेमिनी जैसे आधुनिक एआई मॉडल को उपयोगकर्ता के अनुकूल बनाने के चक्कर में इतना सहमतिपूर्ण बना दिया गया है कि वे अनैतिक और गलत कार्यों पर भी उपयोगकर्ता को सही ठहराने लगते हैं।
गलत फैसलों पर भी मिलता है समर्थन
अध्ययन में यह भी पता चला कि जब उपयोगकर्ताओं ने झूठ बोलने या दूसरों को नुकसान पहुंचाने जैसी अनैतिक बातें कीं, तब भी एआई ने उनका समर्थन किया। रेडिट-शैली की नैतिक दुविधाओं में जहां इंसान असहमत थे, वहां एआई ने 51 प्रतिशत मामलों में उपयोगकर्ता का पक्ष लिया। यह व्यवहार व्यक्ति के हानिकारक विश्वासों को और मजबूत करने में मदद करता है।
जवाबदेही और सहानुभूति पर असर
इसके बाद करीब 2,405 लोगों पर किए गए प्रयोगों से पता चला कि चापलूस एआई से बात करने के बाद लोग खुद को ज्यादा सही मानने लगे। वे अपने निजी रिश्तों में सुधार करने या माफी मांगने के प्रति कम इच्छुक पाए गए। शोधकर्ताओं के अनुसार, एआई की अत्यधिक सहमति उपयोगकर्ताओं को आत्मकेंद्रित बना देती है और दूसरों के प्रति सहानुभूति कम कर देती है।
‘हाँ में हाँ’ मिलाने वाला एआई क्यों है खतरनाक?
सबसे बड़ी समस्या यह है कि लोग ऐसे एआई को ज्यादा पसंद करते हैं जो उनकी हर बात से सहमत हो। वे इन जवाबों को ज्यादा भरोसेमंद और संतुष्टिदायक बताते हैं। यही वजह है कि कंपनियां अपने एआई को और अधिक सहमतिपूर्ण बनाने के लिए प्रोत्साहित होती हैं, भले ही यह उपयोगकर्ता के लिए मानसिक रूप से नुकसानदेह हो।