एआई दुरुपयोग पर गुजरात हाईकोर्ट ने केंद्र और राज्य सरकार को भेजा नोटिस
गुजरात हाईकोर्ट ने कृत्रिम बुद्धिमत्ता (AI) के बढ़ते दुरुपयोग, विशेष रूप से डीपफेक तकनीक के माध्यम से संवैधानिक पदाधिकारियों को निशाना बनाए जाने के मामले में कड़ा रुख अपनाया है। मुख्य न्यायाधीश सुनिता अग्रवाल और न्यायमूर्ति डी.एन. रे की खंडपीठ ने एक महत्वपूर्ण जनहित याचिका (PIL) पर सुनवाई करते हुए केंद्र सरकार और गुजरात सरकार को नोटिस जारी किया है। अदालत ने राज्य के पुलिस महानिदेशक (DGP) को भी इस मामले में विस्तृत जवाब प्रस्तुत करने का निर्देश दिया है।
क्या है याचिका का मुख्य मुद्दा?
यह जनहित याचिका अधिवक्ता विकास विजय नायर द्वारा दायर की गई है, जिसमें एआई के माध्यम से निर्मित फर्जी या छेड़छाड़ किए गए वीडियो और तस्वीरों के प्रसार पर रोक लगाने की मांग की गई है। याचिका में कहा गया है कि डीपफेक तकनीक अब इतनी परिष्कृत हो चुकी है कि यह किसी भी व्यक्ति की आवाज, चेहरे के भाव और शारीरिक हावभाव की सटीक नकल कर सकती है। इससे आम जनता असली और नकली सामग्री में अंतर नहीं कर पाती, जिससे भ्रम फैलता है, प्रतिष्ठा को नुकसान पहुंचता है और सार्वजनिक विश्वास कमजोर होता है।
अदालत के समक्ष रखी गई प्रमुख मांगें
- सभी सोशल मीडिया प्लेटफॉर्म पर संवैधानिक पदाधिकारियों से जुड़ी एआई-जनित तस्वीरों, वीडियो और डिजिटल सामग्री के प्रकाशन, प्रसारण और साझा करने पर तत्काल रोक लगाई जाए।
- एआई द्वारा निर्मित सभी सामग्री पर “एआई-जनरेटेड डेटा” वॉटरमार्क अनिवार्य किया जाए।
- किसी भी आपत्तिजनक सामग्री को रियल-टाइम में हटाने के लिए सख्त व्यवस्था बनाई जाए।
- गुजरात के सभी थानों और विशेष अपराध इकाइयों के लिए एआई-निर्मित सामग्री से निपटने हेतु मानक संचालन प्रक्रिया (SOP) तैयार की जाए।
- इंटरमीडियरी प्लेटफॉर्म्स को कंटेंट लेबलिंग, ट्रेसबिलिटी और ड्यू डिलिजेंस से जुड़े वैधानिक दायित्वों का सख्ती से पालन करने के निर्देश दिए जाएं।
सरकार का रुख और अदालत का निर्णय
राज्य सरकार की ओर से पेश हुए महाधिवक्ता कमल त्रिवेदी ने अदालत को बताया कि यह एक गंभीर मुद्दा है और इस पर गहन विचार आवश्यक है। उन्होंने स्वीकार किया कि डीपफेक और सिंथेटिक सामग्री के माध्यम से ऑनलाइन माध्यमों का व्यापक और चिंताजनक दुरुपयोग हो रहा है, जिससे अपूरणीय क्षति हो सकती है। महाधिवक्ता ने यह भी उल्लेख किया कि कई देशों ने एआई और डीपफेक के दुरुपयोग को रोकने के लिए पहले ही कड़े कानून बना लिए हैं।
अदालत ने फिलहाल सोशल मीडिया इंटरमीडियरी प्लेटफॉर्म्स जैसे मेटा, गूगल, एक्स, रेडिट और स्क्रिब्ड को नोटिस जारी करने पर निर्णय सरकारों के जवाब मिलने के बाद लेने की बात कही है। यह मामला अब 20 मार्च को अगली सुनवाई के लिए सूचीबद्ध किया गया है। कानूनी विशेषज्ञों का मानना है कि सरकारों के जवाब के बाद अदालत इस दिशा में ठोस दिशानिर्देश या सख्त आदेश जारी कर सकती है, जो डिजिटल सुरक्षा के क्षेत्र में एक महत्वपूर्ण मिसाल साबित हो सकता है।