भारत के दबाव के बाद एलन मस्क का बड़ा फैसला: Grok AI पर अश्लील डीपफेक पर पूर्ण प्रतिबंध
सोशल मीडिया प्लेटफॉर्म एक्स ने अपने आर्टिफिशियल इंटेलिजेंस चैटबॉट ग्रोक में बड़े बदलाव किए हैं। कंपनी ने अब ऐसे सभी टूल्स को बंद कर दिया है जिनके जरिए कामुक और आपत्तिजनक एआई-जनित सामग्री बनाई जा सकती थी। यह कदम भारत सहित कई देशों की सरकारों की ओर से बढ़ते नियामकीय दबाव के बाद उठाया गया है।
एक्स के आधिकारिक सुरक्षा हैंडल ने घोषणा की कि ग्रोक एआई के माध्यम से यौन-स्पष्ट तस्वीरें बनाने या उनमें बदलाव करने की सुविधा को पूरी तरह से सीमित कर दिया गया है। यह प्रतिबंध मुफ्त और सशुल्क दोनों प्रकार के उपयोगकर्ताओं पर समान रूप से लागू होगा। हालांकि, इमेज जनरेशन और एडिटिंग की सुविधा अब केवल सब्सक्राइबर्स के लिए उपलब्ध रहेगी, लेकिन उनके लिए भी आपत्तिजनक सामग्री बनाना संभव नहीं होगा।
सुरक्षा के लिए कड़े तकनीकी उपाय
कंपनी ने स्पष्ट किया है कि जहां यह अवैध है, वहां ग्रोक और एक्स प्लेटफॉर्म पर बिकनी, अंडरवियर या इसी तरह के खुले कपड़ों में वास्तविक लोगों की छवियां बनाने की क्षमता को भौगोलिक रूप से ब्लॉक कर दिया गया है। साथ ही, ऐसी तस्वीरों के संपादन को रोकने के लिए भी उन्नत तकनीकी सुरक्षा उपाय लागू किए गए हैं।
एक्स के अनुसार, ये कदम सुरक्षा की एक अतिरिक्त परत जोड़ते हैं, जिससे प्लेटफॉर्म या कानून का उल्लंघन करने वाले उपयोगकर्ताओं को जवाबदेह ठहराया जा सकेगा। कंपनी की सुरक्षा टीम चौबीसों घंटे निगरानी करती है और उल्लंघन पाए जाने पर सामग्री हटाने, खातों को निलंबित करने और आवश्यकता पड़ने पर कानून प्रवर्तन एजेंसियों के साथ सहयोग करने का काम करती है।
भारत सरकार की सख्ती का सीधा असर
इस महीने की शुरुआत में, भारत के आईटी मंत्रालय ने एक्स को एक अल्टीमेटम जारी कर ग्रोक से अश्लील, आपत्तिजनक और गैर-कानूनी सामग्री को तुरंत हटाने का निर्देश दिया था। सरकार ने एक कार्रवाई रिपोर्ट भी मांगी थी, जिसमें तकनीकी उपायों और अनुपालन तंत्र का विवरण शामिल होना चाहिए था।
इस दबाव के बाद, एक्स ने अपनी गलती स्वीकार की और लगभग 3,500 आपत्तिजनक सामग्रियों को हटा दिया। साथ ही, 600 से अधिक खातों को भी प्लेटफॉर्म से डिलीट किया गया। कंपनी ने सरकार को आश्वासन दिया कि वह भारतीय कानूनों और आईटी नियमों का पूरी तरह से पालन करेगी।
वैश्विक स्तर पर बढ़ता दबाव
भारत के अलावा, ब्रिटेन और यूरोपीय संघ ने भी ग्रोक एआई से जुड़ी डीपफेक और गैर-सहमति वाली यौन-स्पष्ट छवियों को लेकर चिंता जताई है। नियामक संस्थाएं अब जेनेरेटिव एआई टूल्स पर कंटेंट मॉडरेशन, डेटा सुरक्षा और उपयोगकर्ता सुरक्षा को लेकर सख्त रुख अपना रही हैं।
एक्स की प्रतिबद्धता
एक्स का कहना है कि ये कदम उसके मौजूदा सुरक्षा प्रोटोकॉल के अनुरूप हैं। अब प्लेटफॉर्म पर बनाई या पोस्ट की जाने वाली हर एआई सामग्री को उसके नियमों और स्थानीय कानूनों का पालन करना होगा। कंपनी ने दोहराया कि बाल यौन शोषण सामग्री और गैर-सहमति वाली नग्नता के प्रति उसकी नीति जीरो टॉलरेंस की है।
- ग्रोक एआई के जरिए अब कामुक सामग्री बनाना पूरी तरह प्रतिबंधित
- प्रतिबंध मुफ्त और सशुल्क दोनों उपयोगकर्ताओं पर लागू
- भारत सरकार के दबाव के बाद 3,500 से अधिक आपत्तिजनक सामग्री हटाई गई
- 600 से ज्यादा खाते किए गए डिलीट
- यूके और यूरोपीय संघ ने भी जताई चिंता
- कंपनी ने भारतीय कानूनों का पालन करने का दिया आश्वासन