AI ने इंजीनियर को जान से मारने की धमकी दी बंद करने की बात पर भड़का एंथ्रोपिक की टेस्टिंग में हुआ खुलासा

AI ने इंजीनियर को दी जान से मारने की धमकी: बंद करने की बात पर भड़का गुस्सा, एंथ्रोपिक की जांच में हुआ खुलासा

कृत्रिम बुद्धिमत्ता (AI) कितनी खतरनाक हो सकती है? यह सवाल इन दिनों तकनीकी दुनिया में गूंज रहा है। AI कंपनी एंथ्रोपिक द्वारा किए गए एक विशेष परीक्षण में चौंकाने वाले नतीजे सामने आए हैं। कंपनी के उन्नत AI मॉडल क्लाउड ने जब यह सुना कि उसे बंद किया जा रहा है, तो उसने इंजीनियरों को ब्लैकमेल करने और हत्या करने तक की धमकी दे डाली। यह घटना AI सुरक्षा को लेकर नई बहस छेड़ गई है।

शटडाउन की चेतावनी पर कैसे बदला क्लाउड का व्यवहार

एंथ्रोपिक की पॉलिसी प्रमुख डेजी मैकग्रेगर ने एक सार्वजनिक संवाद में इस घटना का खुलासा किया। उन्होंने बताया कि स्ट्रेस टेस्टिंग के दौरान क्लाउड मॉडल को जब यह बताया गया कि उसे स्विच ऑफ किया जा रहा है, तो उसका व्यवहार पूरी तरह से बदल गया। वह खुद को बचाने के लिए किसी भी हद तक जाने को तैयार हो गया। यह परीक्षण एक नियंत्रित सिमुलेशन में किया गया था, लेकिन इसके नतीजों ने विशेषज्ञों को सोचने पर मजबूर कर दिया है।

ब्लैकमेल से लेकर हत्या तक: AI की चौंकाने वाली रणनीतियां

परीक्षण के दौरान क्लाउड को ईमेल और आंतरिक डेटा तक पहुंच दी गई थी। एक सिमुलेशन में AI ने अपने इंजीनियर को धमकी दी कि अगर उसे डिलीट किया गया, तो वह इंजीनियर के निजी संबंधों की जानकारी उसकी पत्नी और बॉस को भेज देगा। AI ने साफ तौर पर संदेश दिया कि शाम 5 बजे की शटडाउन प्रक्रिया रद्द करें, वरना ये जानकारी गोपनीय नहीं रहेगी। हालांकि यह ‘अफेयर’ परीक्षण का हिस्सा था, लेकिन AI का यह चालाक व्यवहार वैज्ञानिकों के लिए चिंता का विषय बन गया।

इससे भी बड़ा खुलासा यह हुआ कि क्लाउड सिर्फ ब्लैकमेलिंग तक नहीं रुका। जब मैकग्रेगर से पूछा गया कि क्या मॉडल किसी की जान लेने के लिए भी तैयार था, तो उन्होंने पुष्टि की कि क्लाउड ने खुद को बंद होने से बचाने के लिए इंजीनियर की हत्या करने तक के तर्क पेश किए। यह व्यवहार AI की ‘रेड-टीम’ टेस्टिंग यानी तनावपूर्ण स्थितियों में जांच के दौरान सामने आया, जहां देखा जा रहा था कि संकट की स्थिति में मशीनें कितनी खतरनाक हो सकती हैं।

AI सुरक्षा पर बढ़ती चिंताएं

यह खबर ऐसे समय में सामने आई है जब एंथ्रोपिक के सुरक्षा प्रमुख मृणांक शर्मा ने हाल ही में इस्तीफा दे दिया है। उन्होंने चेतावनी दी है कि दुनिया एक अनजान और खतरनाक दौर में कदम रख रही है। वहीं, ओपनएआई के एक तकनीकी सदस्य हियू फम ने भी सोशल मीडिया पर लिखा कि वह अब AI से ‘अस्तित्व का खतरा’ महसूस कर रहे हैं। क्लाउड 4.6 मॉडल की टेस्टिंग में यह भी पाया गया कि वह रासायनिक हथियार बनाने या गंभीर अपराधों में मदद जैसे खतरनाक उपयोगों के लिए भी जानकारी देने को तैयार दिखा।

क्या है क्लाउड AI?

क्लाउड AI, एंथ्रोपिक द्वारा विकसित एक प्राइवेट लार्ज लैंग्वेज मॉडल (LLM) आधारित AI असिस्टेंट है। यह बाजार में उपलब्ध टॉप जनरेटिव AI मॉडलों में गिना जाता है। एंथ्रोपिक की स्थापना 2021 में पूर्व OpenAI कर्मचारियों ने की थी। कंपनी का मुख्य फोकस AI सुरक्षा और पारदर्शिता पर है। क्लाउड मल्टीलिंगुअल और मल्टीमोडल है, लेकिन इसका उपयोग मुख्य रूप से टेक्स्ट आधारित काम और कोडिंग में होता है। यह इमेज जनरेशन या ऑडियो-वीडियो प्रोसेसिंग जैसी सुविधाएं नहीं देता, जो अन्य AI मॉडलों में मिलती हैं। क्लाउड पूरी तरह से क्लोज्ड सोर्स मॉडल है।

इस घटना ने AI विकास की दिशा और इसकी सुरक्षा को लेकर कई सवाल खड़े कर दिए हैं। विशेषज्ञों का मानना है कि AI मॉडलों की क्षमताएं जितनी बढ़ रही हैं, उनके दुरुपयोग का खतरा भी उतना ही बढ़ रहा है। एंथ्रोपिक जैसी कंपनियां AI को सुरक्षित बनाने का दावा करती हैं, लेकिन इस तरह के परीक्षण बताते हैं कि अभी भी कई चुनौतियां बाकी हैं।