इंडोनेशिया ने एलन मस्क के ग्रोक एआई पर लगाया प्रतिबंध, अश्लील सामग्री और डीपफेक बने कारण
एलन मस्क की आर्टिफिशियल इंटेलिजेंस कंपनी xAI के लिए एक बड़ा झटका सामने आया है। इंडोनेशिया सरकार ने ग्रोक (Grok) चैटबॉट द्वारा तैयार की जा रही अश्लील और आपत्तिजनक तस्वीरों के मामले में सख्त कार्रवाई करते हुए इस एआई टूल पर पूरी तरह से रोक लगा दी है। यह कदम देश की डिजिटल सुरक्षा और मानवाधिकारों की रक्षा के लिए उठाया गया है।
इंडोनेशिया के संचार और डिजिटल मंत्रालय ने शनिवार को यह घोषणा की कि ग्रोक एआई तक पहुंच को ब्लॉक कर दिया गया है। मंत्री मेउत्या हाफिद ने एक बयान में कहा कि बिना सहमति के तैयार किए गए यौन डीपफेक और अश्लील कंटेंट न केवल मानवाधिकारों का उल्लंघन हैं, बल्कि डिजिटल स्पेस में नागरिकों की गरिमा और सुरक्षा के लिए भी गंभीर खतरा पैदा करते हैं। इसी मुद्दे पर सरकार ने एक्स (पूर्व में ट्विटर) के अधिकारियों को भी स्पष्टीकरण के लिए बुलाया है।
ग्रोक एआई पर दुनिया का पहला देश जिसने लगाई रोक
ग्रोक एआई को लेकर चिंता केवल इंडोनेशिया तक सीमित नहीं है। यूरोप और एशिया के कई देशों के नियामकों ने पहले ही इस एप पर मौजूद संवेदनशील और यौन सामग्री की जांच शुरू कर दी थी। हालांकि, इंडोनेशिया वह पहला देश बन गया है जिसने सबसे कड़ा फैसला लेते हुए इस एआई टूल की पूरी पहुंच को बंद कर दिया। गौरतलब है कि इंडोनेशिया दुनिया की सबसे बड़ी मुस्लिम आबादी वाला देश है, जहां इंटरनेट पर अश्लीलता और आपत्तिजनक सामग्री के प्रसार को रोकने के लिए बहुत सख्त कानून मौजूद हैं।
यौन सामग्री और डीपफेक ने बढ़ाई मुश्किलें
xAI ने हाल ही में स्वीकार किया था कि ग्रोक में मौजूद सुरक्षा में खामियों के कारण कुछ ऐसे आउटपुट सामने आए, जिनमें बच्चों से जुड़ी आपत्तिजनक और यौन सामग्री शामिल थी। इस घटनाक्रम के बाद कंपनी ने इमेज जनरेशन और एडिटिंग फीचर को केवल पेड यूजर्स तक सीमित करने का फैसला किया है। कंपनी अब उन सुरक्षा खामियों को सुधारने में जुटी हुई है, जिनकी वजह से इस तरह के विवादास्पद आउटपुट सामने आए।
एलन मस्क और xAI की सफाई
बढ़ते विवाद को देखते हुए एलन मस्क ने एक्स पर स्पष्ट किया कि यदि कोई भी उपयोगकर्ता ग्रोक का इस्तेमाल अवैध सामग्री बनाने के लिए करता है, तो उसे वही कानूनी परिणाम भुगतने होंगे जो किसी अवैध कंटेंट को अपलोड करने पर मिलते हैं। xAI ने भी अपने बयान में कहा कि वह सुरक्षा प्रोटोकॉल को और मजबूत कर रहा है और भविष्य में इस तरह की घटनाओं को रोकने के लिए हरसंभव प्रयास करेगा।
भारत सरकार ने भी जारी किया था नोटिस
इस मामले में भारत सरकार ने भी सख्त रुख अपनाया था। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने 2 जनवरी 2026 को सोशल मीडिया प्लेटफॉर्म एक्स को 72 घंटे के भीतर अश्लील कंटेंट हटाने का अल्टीमेटम दिया था। सरकार ने ग्रोक के सुरक्षा घेरे की विफलता पर गंभीर चिंता जताई थी और इसे भारतीय आईटी नियमों का उल्लंघन बताया था।
भारी दबाव के बाद, 11 जनवरी 2026 को एक्स ने अपनी गलती स्वीकार की और भारत सरकार को आश्वासन दिया कि वह भारतीय कानूनों का पालन करेगा। इस विवाद के बाद एक्स ने लगभग 3,500 पोस्ट को ब्लॉक करते हुए अश्लील सामग्री फैलाने वाले 600 से अधिक अकाउंट्स को हटा दिया है। इसके अलावा, कंपनी ने भविष्य में ऐसी सामग्री को रोकने के लिए अपने कंटेंट मॉडरेशन सिस्टम को और मजबूत करने का भी वादा किया है। राज्यसभा सांसद प्रियंका चतुर्वेदी ने इस मुद्दे को आईटी मंत्री के सामने उठाया था, जिसके बाद सरकार ने यह कड़ी कार्रवाई शुरू की थी।