ग्रोक एआई विवाद: सरकारी कार्रवाई के बाद एक्स ने स्वीकार की गलती, 600 से अधिक खाते हटाए
एलन मस्क के स्वामित्व वाले सोशल मीडिया प्लेटफॉर्म एक्स में एकीकृत एआई चैटबॉट ग्रोक को लेकर बड़ा विवाद सामने आया है। भारत सरकार के सूचना प्रौद्योगिकी मंत्रालय की सख्त चेतावनी के बाद एक्स ने अपनी कमियां स्वीकार करते हुए बड़ी कार्रवाई की है। कंपनी ने 600 से अधिक खातों को स्थायी रूप से निष्क्रिय कर दिया है और लगभग 3,500 आपत्तिजनक पोस्ट हटा दी हैं।
यह मामला ग्रोक एआई के दुरुपयोग से जुड़ा है, जहां यूजर्स इस चैटबॉट का इस्तेमाल महिलाओं की अश्लील, डीपफेक और बिना सहमति वाली तस्वीरें बनाने और साझा करने के लिए कर रहे थे। यह खतरनाक प्रवृत्ति न केवल भारत बल्कि वैश्विक स्तर पर चिंता का विषय बन गई है।
सरकार की सख्त चेतावनी और 72 घंटे की समयसीमा
भारत सरकार ने इस मामले को गंभीर कानूनी उल्लंघन माना। दो जनवरी को आईटी मंत्रालय ने एक्स को एक नोटिस जारी कर 72 घंटे के भीतर ग्रोक से सभी अश्लील और अवैध सामग्री हटाने का आदेश दिया। साथ ही, भविष्य में ऐसी सामग्री को रोकने के लिए ठोस उपाय सुझाने को भी कहा गया।
सरकार ने स्पष्ट किया कि सूचना प्रौद्योगिकी अधिनियम की धारा 79 के तहत मिलने वाली कानूनी छूट स्थायी नहीं है। यह छूट केवल नियमों का पालन करने पर ही बरकरार रहेगी। यदि प्लेटफॉर्म बार-बार नियमों का उल्लंघन करता है, तो यह सुरक्षा कवच खत्म किया जा सकता है।
एक्स ने मानी चूक और की गई कार्रवाई
सरकारी सूत्रों के अनुसार, एक्स ने अपने जवाब में स्वीकार किया कि कंटेंट मॉडरेशन में गलती हुई है। प्लेटफॉर्म ने लगभग 3,500 आपत्तिजनक पोस्ट हटाईं और 600 से अधिक खातों को स्थायी रूप से डिलीट कर दिया। इसके अलावा, कंपनी ने आश्वासन दिया कि भविष्य में ऐसी अश्लील और गैर-सहमति वाली सामग्री बनाने की अनुमति नहीं दी जाएगी।
वैश्विक स्तर पर बढ़ता दबाव
ग्रोक एआई का यह विवाद सिर्फ भारत तक सीमित नहीं है। दुनिया के कई बड़े देशों ने इस मामले पर गंभीर चिंता जताई है। ब्रिटेन के प्रधानमंत्री ने एआई से बनाई गई ऐसी सामग्री को घृणित करार दिया है। वहीं, यूरोपीय संघ ने एक्स को निर्देश दिया है कि वह ग्रोक एआई से जुड़े सभी दस्तावेज और डेटा सुरक्षित रखे, ताकि जरूरत पड़ने पर जांच की जा सके।
अमेरिका में तीन डेमोक्रेटिक सीनेटरों ने एपल और गूगल से मांग की है कि वे अपने एप स्टोर से एक्स और ग्रोक को हटाने पर विचार करें। ब्रिटेन का स्वतंत्र संचार नियामक ऑफकॉम भी इस मामले की जांच कर रहा है। वह यह पता लगाने की कोशिश कर रहा है कि क्या प्लेटफॉर्म ने यूजर्स की सुरक्षा से जुड़े कानूनी दायित्वों का पालन किया है या नहीं।
ग्रोक एआई पर उठते गंभीर सवाल
इस पूरे मामले में सबसे बड़ा सवाल एआई तकनीक के दुरुपयोग को लेकर है। जांच में सामने आया है कि ग्रोक का इस्तेमाल कई खतरनाक तरीकों से किया गया:
- फर्जी खाते बनाकर अश्लील सामग्री तैयार करना
- डिजिटल अंड्रेसिंग तकनीक के जरिए कपड़ों को हटाने जैसी इमेज बनाना
- सिंथेटिक डीपफेक तस्वीरें तैयार करना
यह सामग्री खासतौर पर महिलाओं और बच्चों की सुरक्षा के लिए गंभीर खतरा पैदा करती है। सरकारों का मानना है कि एआई और दुर्भावनापूर्ण प्रॉम्प्ट का मेल एक बड़ा साइबर खतरा बन सकता है।
आगे क्या हो सकता है?
यदि भविष्य में भी एक्स की तरफ से नियमों का उल्लंघन होता है, तो उसकी मुश्किलें और बढ़ सकती हैं। भारत में ऐसी स्थिति में आईटी एक्ट और भारतीय न्याय संहिता के तहत सख्त कार्रवाई संभव है। प्लेटफॉर्म पर कड़ी निगरानी, नए प्रतिबंध और एआई-आधारित फीचर्स पर अतिरिक्त नियंत्रण लगाए जा सकते हैं।
यह पूरा मामला एआई कंपनियों के लिए एक स्पष्ट चेतावनी है कि तकनीकी नवाचार के साथ-साथ जिम्मेदारी और सुरक्षा को नजरअंदाज नहीं किया जा सकता। डिजिटल प्लेटफॉर्म को अपने एआई टूल्स की निगरानी और कंटेंट मॉडरेशन को और अधिक सख्त बनाना होगा, अन्यथा कानूनी कार्रवाई का सामना करना पड़ सकता है।