AI का भरोसा: क्या चैटबॉट आपको गुमराह कर सकते हैं?
आजकल जब भी किसी सवाल का जवाब चाहिए होता है, तो हम में से ज़्यादातर लोग सीधे चैटजीपीटी या जेमिनी जैसे AI चैटबॉट की ओर रुख करते हैं। ये टूल्स हमें इतने आत्मविश्वास से जवाब देते हैं कि लगता है जैसे ये सब कुछ जानते हैं। लेकिन क्या वाकई ऐसा है? क्या हम इन पर आंख मूंदकर भरोसा कर सकते हैं? हालिया शोध और कुछ ऐतिहासिक घटनाएं बताती हैं कि ये AI सिस्टम कभी-कभी ‘पढ़े-लिखे मूर्ख’ की तरह व्यवहार कर सकते हैं, जहां ये गलत जानकारी को भी बड़ी ही खूबसूरती और आत्मविश्वास से पेश कर देते हैं। यह समझना ज़रूरी है कि AI और पारंपरिक सर्च इंजन में कितना बड़ा अंतर है और इस अंतर को न समझ पाना हमारे लिए भारी पड़ सकता है।
गलत जानकारी का एक पुराना सबक: रूबर्ब की पत्तियां
इतिहास में एक बहुत ही दिलचस्प और चेतावनी भरा किस्सा है। प्रथम विश्व युद्ध के दौरान, ब्रिटिश सरकार ने भोजन की कमी को दूर करने के लिए लोगों को सलाह दी कि वे रूबर्ब की पत्तियों को सलाद के रूप में खाएं। समस्या यह थी कि ये पत्तियां जहरीली होती हैं। इस गलत सलाह के कारण कई लोग बीमार पड़ गए और कुछ की जान भी चली गई। हैरानी की बात यह है कि दूसरे विश्व युद्ध के दौरान यही गलती दोबारा हुई। कारण था कि पुराने रिकॉर्ड्स में दर्ज यह गलत जानकारी फिर से सामने आ गई। यह बिल्कुल वैसा ही है जैसा AI के साथ होता है। एक बार जब इंटरनेट पर कोई गलत जानकारी फैल जाती है, तो AI उसे बार-बार सच मानकर दोहराता रहता है, चाहे वह कितनी भी खतरनाक क्यों न हो।
AI बनाम सर्च इंजन: दोनों के काम करने का तरीका बिल्कुल अलग
अक्सर लोग AI चैटबॉट को गूगल सर्च का एक नया और उन्नत रूप समझ लेते हैं, जबकि वास्तविकता इससे बिल्कुल अलग है। पारंपरिक सर्च इंजन का काम इंटरनेट पर मौजूद वेबसाइटों और लेखों को खोजकर उन्हें आपके सामने पेश करना है। यह आपको कई स्रोतों के लिंक देता है, जिन्हें आप खुद पढ़ और जांच सकते हैं। दूसरी ओर, चैटजीपीटी जैसे जनरेटिव AI मॉडल बिल्कुल अलग तरीके से काम करते हैं। ये जानकारी ‘खोजते’ नहीं हैं, बल्कि ‘शब्दों का अनुमान’ लगाते हैं।
इन मॉडलों को करोड़ों वाक्यों और पैराग्राफों पर प्रशिक्षित किया गया है। इनका काम यह देखना होता है कि एक शब्द के बाद कौन सा अगला शब्द आने की सबसे अधिक संभावना है, ताकि पूरा वाक्य स्वाभाविक और समझदारी भरा लगे। इस प्रक्रिया में जानकारी के सही या गलत होने से कोई फर्क नहीं पड़ता। यही कारण है कि विशेषज्ञ AI की तुलना एक ‘अति-आत्मविश्वासी छात्र’ से करते हैं, जो परीक्षा में अगर सवाल का जवाब नहीं भी जानता, तो भी कॉपी खाली नहीं छोड़ता, बल्कि बड़ी चतुराई से कुछ न कुछ लिखकर आ जाता है, भले ही वह पूरी तरह गलत क्यों न हो।
जब AI की गलतियां जानलेवा बन जाती हैं
तकनीकी भाषा में AI की इन गलतियों को ‘हैलुसिनेशन’ या ‘डिजिटल भ्रम’ कहा जाता है। यह शब्द सुनने में भले ही हल्का लगे, लेकिन इसके परिणाम बेहद गंभीर हो सकते हैं। कई अध्ययनों में यह सामने आया है कि AI चैटबॉट गंभीर चिकित्सा आपात स्थितियों को पहचानने में आधे से अधिक मामलों में नाकाम रहते हैं। एक मामले में, एक सुपरमार्केट के AI मील प्लानर ने एक ऐसी रेसिपी सुझा दी, जिससे जानलेवा क्लोरीन गैस बन सकती थी। यही नहीं, कई बार ये टूल्स बेहद बेतुकी और खतरनाक सलाह भी दे देते हैं, जैसे कि पिज्जा की टॉपिंग को चिपकाने के लिए गोंद का इस्तेमाल करना या शरीर के लिए पत्थर खाने को फायदेमंद बताना। ये उदाहरण साफ करते हैं कि AI की दी गई जानकारी पर बिना जांच-पड़ताल के भरोसा करना किसी बड़े खतरे को न्योता देने जैसा हो सकता है।
खुद को सुरक्षित कैसे रखें: सावधानी और सही तरीका
AI आज हमारे जीवन का एक अहम हिस्सा बन चुका है, चाहे वह निजी काम हो या सरकारी और प्रशासनिक फैसले। ऐसे में इससे जुड़ी चुनौतियों के प्रति सजग रहना बेहद ज़रूरी है। सुरक्षा का सबसे पहला और आसान मंत्र है ‘पुरानी और प्रामाणिक जानकारी’ पर भरोसा करना। विशेषज्ञों का मानना है कि 30 नवंबर 2022 से पहले का इंटरनेट डेटा, जब चैटजीपीटी लॉन्च हुआ था, आज के मुकाबले कहीं ज्यादा सटीक है। इसका कारण है कि उस समय का डेटा AI द्वारा उत्पन्न गलत सूचनाओं से मुक्त था।
खासकर जब बात आपकी सेहत, कानूनी मामलों या व्यक्तिगत सुरक्षा से जुड़ी हो, तो AI के उत्तरों को अंतिम सच न मानें। इसके बजाय, किसी भरोसेमंद किताब, आधिकारिक वेबसाइट या किसी विशेषज्ञ से उस जानकारी की पुष्टि ज़रूर करें। यह समझना ज़रूरी है कि किसी विषय की त्वरित जानकारी या सारांश पाने के लिए AI एक शानदार उपकरण है, लेकिन जब बात ठोस तथ्यों और विश्वसनीय जानकारी की हो, तो आज भी पारंपरिक सर्च इंजन और आधिकारिक स्रोत ही सबसे भरोसेमंद विकल्प हैं। AI का उपयोग एक सहायक के रूप में करें, न कि सत्य के अंतिम स्रोत के रूप में।