एलन मस्क की xAI पर डीपफेक अश्लीलता का गंभीर आरोप, किशोरियों ने दायर किया मुकदमा
एलन मस्क की आर्टिफिशियल इंटेलिजेंस (AI) कंपनी xAI इन दिनों एक गंभीर कानूनी मामले में उलझ गई है। टेनेसी की तीन किशोरियों ने कंपनी के ग्रॉक AI मॉडल के खिलाफ कैलिफोर्निया में एक क्लास-एक्शन मुकदमा दायर किया है। उनका आरोप है कि उनकी असली तस्वीरों का उपयोग करके ग्रॉक के जरिए अश्लील डीपफेक तस्वीरें बनाई गईं और उन्हें इंटरनेट पर फैलाया गया। यह मामला न केवल डिजिटल गोपनीयता बल्कि AI सुरक्षा और बच्चों के ऑनलाइन संरक्षण जैसे गंभीर मुद्दों को भी सामने लाता है।
मामले की पृष्ठभूमि
पीड़ित किशोरियों ने अपनी पहचान गुप्त रखने के लिए ‘जे.डो’ नाम का उपयोग किया है। मुकदमे के अनुसार, कुछ अज्ञात लोगों ने सोशल मीडिया पर इन लड़कियों की स्कूल फोटो, होमकमिंग और ईयरबुक जैसी असली तस्वीरों को इकट्ठा किया। इसके बाद AI टूल्स, खासकर ग्रॉक मॉडल का इस्तेमाल करके उन तस्वीरों में चेहरे और शरीर को इस तरह बदला गया कि वे नकली होने के बावजूद बेहद वास्तविक लगने लगीं।
पीड़ितों का आरोप है कि ये फर्जी तस्वीरें सिर्फ शेयर ही नहीं की गईं, बल्कि उन्हें बेचने और फैलाने के लिए एक संगठित नेटवर्क सक्रिय था। इस नेटवर्क में नाबालिगों की ऐसी तस्वीरों का आदान-प्रदान किया जा रहा था। स्थानीय पुलिस ने जब एक अपराधी को गिरफ्तार किया, तो उसके पास से 18 अन्य लड़कियों की भी ऐसी ही तस्वीरें मिलीं, जिन्हें वह अन्य अश्लील सामग्री के बदले ऑनलाइन बेच रहा था।
ग्रॉक AI पर सवाल
मुकदमे में सबसे बड़ा आरोप यह लगाया गया है कि जहां गूगल और ओपनएआई जैसी कंपनियों ने अपने AI टूल्स पर सख्त न्यूडिटी फिल्टर लगाए हैं, वहीं एलन मस्क ने ग्रॉक की बिना किसी रोक-टोक के मसालेदार सामग्री बनाने की क्षमता का प्रचार किया। मुकदमे में दावा किया गया है कि xAI को पता था कि उनके टूल का दुरुपयोग बच्चों के यौन शोषण (CSAM) के लिए हो सकता है, फिर भी इसे बिना पर्याप्त सुरक्षा उपायों के जारी किया गया।
यह भी कहा गया कि यह काम सीधे या किसी थर्ड-पार्टी ऐप के जरिए नहीं, बल्कि ग्रॉक जैसी AI तकनीक का उपयोग करके किया गया। यह तकनीक पहले फिल्मों और मनोरंजन के लिए विकसित की गई थी, लेकिन अब इसका गलत इस्तेमाल तेजी से बढ़ रहा है।
पीड़ितों पर मानसिक प्रभाव
AI की मदद से बनाई गई ये तस्वीरें इतनी यथार्थवादी हैं कि पीड़ितों के लिए सामान्य जीवन जीना मुश्किल हो गया है। पीड़िताओं में से एक (जेन डो 1) एंग्जायटी, डिप्रेशन और बुरे सपनों का सामना कर रही है। वहीं, दूसरी पीड़िता (जेन डो 2) स्कूल जाने और अपने ही ग्रेजुएशन समारोह में शामिल होने से डर रही है।
पीड़ितों को डर है कि ये तस्वीरें इंटरनेट पर हमेशा रहेंगी, जिससे उनकी भविष्य की नौकरियों और सामाजिक प्रतिष्ठा पर जीवनभर का दाग लग सकता है। यह मामला AI तकनीक के दुरुपयोग के खतरों को एक बार फिर उजागर करता है, खासकर तब जब बच्चे और किशोर इसका शिकार हो रहे हैं।
xAI और एक्स का रुख
अब तक xAI ने इस मामले पर सीधा जवाब नहीं दिया है। हालांकि, सोशल मीडिया प्लेटफॉर्म एक्स ने एक पोस्ट के जरिए अपनी जीरो टॉलरेंस नीति दोहराई है। उन्होंने कहा कि वे बिना सहमति के नग्नता और बाल यौन शोषण सामग्री (CSAM) के खिलाफ सख्त हैं और ऐसे खातों की रिपोर्ट कानून प्रवर्तन अधिकारियों को करते हैं।
यह मामला AI कंपनियों के लिए एक चेतावनी है कि उन्हें अपने टूल्स पर सख्त नियंत्रण और सुरक्षा उपाय लागू करने होंगे। बिना उचित फिल्टर के AI मॉडल जारी करना न केवल व्यक्तिगत गोपनीयता के लिए खतरा है, बल्कि समाज के सबसे कमजोर वर्गों के लिए भी गंभीर संकट पैदा कर सकता है।
कानूनी और सामाजिक पहलू
- यह मुकदमा कैलिफोर्निया में दायर किया गया है, जो AI और डिजिटल गोपनीयता से जुड़े मामलों में एक महत्वपूर्ण केंद्र बन गया है।
- पीड़ितों ने क्लास-एक्शन का दर्जा मांगा है, जिससे इसी तरह प्रभावित अन्य लोग भी मुकदमे में शामिल हो सकें।
- यह मामला AI तकनीक के नियमन और बच्चों के ऑनलाइन संरक्षण के लिए सख्त कानूनों की आवश्यकता को रेखांकित करता है।
- डीपफेक तकनीक के दुरुपयोग को रोकने के लिए कंपनियों को अपने AI मॉडल में बिल्ट-इन सुरक्षा उपाय शामिल करने होंगे।
यह मामला सिर्फ एक कंपनी के खिलाफ नहीं है, बल्कि पूरे AI उद्योग के लिए एक जागरूकता का संकेत है कि तकनीकी प्रगति के साथ नैतिकता और सुरक्षा को भी प्राथमिकता देनी होगी।