एलन मस्क के AI चैटबॉट ग्रोक पर दो एशियाई देशों में पूर्ण प्रतिबंध
एलन मस्क के सोशल मीडिया प्लेटफॉर्म एक्स से जुड़े कृत्रिम बुद्धिमत्ता चैटबॉट ‘ग्रोक’ को लेकर दक्षिण-पूर्व एशिया में बड़ी कार्रवाई की गई है। इंडोनेशिया और मलेशिया ने अपने-अपने देशों में इस AI टूल के उपयोग पर पूरी तरह से रोक लगा दी है। यह निर्णय ऐसे समय में आया है जब महिलाओं और नाबालिगों की बिना सहमति वाली अश्लील डीपफेक तस्वीरें बनाने के लिए इस तकनीक के दुरुपयोग के मामले सामने आए हैं। दोनों देशों की सरकारों का स्पष्ट कहना है कि ग्रोक में मौजूदा सुरक्षा सुविधाएं इस प्रकार के गलत इस्तेमाल को रोकने में पूरी तरह विफल रही हैं।
डीपफेक तकनीक से उपजा गंभीर संकट
ग्रोक एक ऐसा AI प्लेटफॉर्म है जिसे वेबसाइट और मोबाइल एप्लिकेशन के अलावा सीधे सोशल मीडिया प्लेटफॉर्म एक्स पर भी इस्तेमाल किया जा सकता है। हाल ही में सामने आए मामलों में पाया गया कि इस टूल का उपयोग करके महिलाओं की अत्यंत यथार्थवादी अश्लील डीपफेक छवियां तैयार की गईं। ये तस्वीरें इतनी वास्तविक लगती हैं कि इनके जरिए किसी भी व्यक्ति की सामाजिक प्रतिष्ठा और व्यक्तिगत छवि को गंभीर रूप से नुकसान पहुंचाया जा सकता है। खास चिंता का विषय यह है कि महिलाओं को आपत्तिजनक मुद्राओं में चित्रित करने और बच्चों से संबंधित अश्लील सामग्री बनाने के लिए इस तकनीक का दुरुपयोग किया जा रहा था।
इंडोनेशिया का सख्त रुख
इंडोनेशिया सरकार ने शनिवार को ग्रोक की सेवाओं को अस्थायी रूप से बंद करने का आदेश दिया। देश की संचार और डिजिटल मामलों की मंत्री मेत्या हफीद ने इस कदम को सही ठहराते हुए कहा कि बिना सहमति के बनाए गए यौन डीपफेक मानवाधिकारों, व्यक्तिगत गरिमा और डिजिटल सुरक्षा का गंभीर उल्लंघन हैं। इंडोनेशिया के डिजिटल स्पेस सुपरविजन महानिदेशक अलेक्जेंडर सबार ने बताया कि प्रारंभिक जांच में यह स्पष्ट हुआ है कि ग्रोक में ऐसे प्रभावी सुरक्षा उपायों का अभाव है जो वास्तविक तस्वीरों के आधार पर नकली अश्लील सामग्री बनाने और उसे फैलाने से रोक सकें। इससे लोगों की निजता, उनके छवि अधिकार और मानसिक-सामाजिक प्रतिष्ठा को अपूरणीय क्षति पहुंचती है।
मलेशिया में भी लागू हुआ प्रतिबंध
मलेशिया ने रविवार को इसी तरह का कदम उठाते हुए ग्रोक पर अस्थायी प्रतिबंध लगा दिया। मलेशियाई संचार एवं मल्टीमीडिया आयोग ने ग्रोक के ‘बार-बार दुरुपयोग’ को इस कार्रवाई का मुख्य कारण बताया। नियामक संस्था के अनुसार, एक्स कॉर्प और एक्सएआई को भेजे गए नोटिस के जवाब में कंपनी ने केवल उपयोगकर्ता रिपोर्टिंग तंत्र पर ही भरोसा जताया, जो इस समस्या का स्थायी समाधान नहीं है। यह प्रतिबंध तब तक जारी रहेगा जब तक ग्रोक में मजबूत और प्रभावी सुरक्षा उपाय लागू नहीं किए जाते।
ग्रोक का विवादास्पद ‘स्पाइसी मोड’
2023 में लॉन्च हुए ग्रोक में पिछले वर्ष ‘ग्रोक इमेजिन’ नामक इमेज जनरेशन फीचर जोड़ा गया था। इसी फीचर के अंतर्गत ‘स्पाइसी मोड’ नामक एक विशेष सेटिंग भी शामिल थी, जो वयस्क सामग्री बनाने में सक्षम है। यही वह विशेषता है जो सबसे अधिक विवाद का कारण बनी हुई है। आलोचकों का कहना है कि इस प्रकार की सुविधा जानबूझकर दुरुपयोग को आमंत्रित करती है और इससे निपटने के लिए कंपनी द्वारा उठाए गए कदम अपर्याप्त हैं।
भारत सरकार की पहले ही हो चुकी है कार्रवाई
दक्षिण-पूर्व एशिया में लगाए गए इस प्रतिबंध के बीच ग्रोक को यूरोपीय संघ, ब्रिटेन, फ्रांस और भारत जैसे देशों में भी कड़ी जांच और आलोचना का सामना करना पड़ रहा है। हालांकि कंपनी ने इमेज जनरेशन सुविधा को केवल भुगतान करने वाले उपयोगकर्ताओं तक सीमित कर दिया है, लेकिन विशेषज्ञों का मानना है कि इस कदम से समस्या का पूर्ण समाधान नहीं हुआ है।
भारत सरकार के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने दो जनवरी 2026 को सोशल मीडिया प्लेटफॉर्म एक्स को 72 घंटे के भीतर अपने प्लेटफॉर्म से अश्लील सामग्री हटाने का अल्टीमेटम दिया था। सरकार ने ग्रोक के सुरक्षा उपायों की विफलता पर गंभीर चिंता व्यक्त करते हुए इसे भारतीय आईटी नियमों का उल्लंघन बताया था।
भारी दबाव के बाद, 11 जनवरी 2026 को एक्स ने अपनी गलती स्वीकार करते हुए भारत सरकार को आश्वासन दिया कि वह भारतीय कानूनों का पालन करेगा। इस विवाद के बाद प्लेटफॉर्म ने लगभग 3,500 पोस्ट को ब्लॉक किया और अश्लील सामग्री फैलाने वाले 600 से अधिक खातों को हटाने की पुष्टि की। साथ ही, भविष्य में ऐसी सामग्री को रोकने के लिए अपने कंटेंट मॉडरेशन सिस्टम को मजबूत करने का भी वादा किया गया है। उल्लेखनीय है कि राज्यसभा सांसद प्रियंका चतुर्वेदी ने इस मुद्दे को संसद में उठाया था, जिसके बाद सरकार ने त्वरित कार्रवाई शुरू की थी।