एआई कंटेंट पर अब हर पल दिखेगा ‘लेबल’, सरकार ने नए प्रस्ताव पर मांगे सुझाव
आर्टिफिशियल इंटेलिजेंस (AI) के बढ़ते दुरुपयोग को देखते हुए केंद्र सरकार ने एक सख्त कदम उठाया है। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने एआई द्वारा बनाई गई सामग्री पर नए नियम लागू करने का प्रस्ताव रखा है। इस प्रस्ताव के मुताबिक, अब एआई से तैयार किसी भी फोटो, वीडियो या ऑडियो पर पूरी अवधि के दौरान साफ और स्पष्ट रूप से ‘लेबल’ दिखाना अनिवार्य होगा। सरकार ने इस ड्राफ्ट को सार्वजनिक परामर्श के लिए जारी किया है और आम जनता तथा संबंधित पक्षों से 7 मई तक सुझाव मांगे हैं।
लेबलिंग के नियमों में बड़ा बदलाव
नए प्रस्ताव में सबसे अहम बदलाव लेबलिंग की प्रकृति को लेकर किया गया है। पहले जहां एआई कंटेंट पर ‘प्रमुख रूप से दिखाई देने वाला’ लेबल पर्याप्त माना जाता था, वहीं अब इसे ‘पूरे कंटेंट की अवधि के दौरान लगातार और स्पष्ट रूप से प्रदर्शित’ करना अनिवार्य करने का प्रस्ताव है। इसका मतलब है कि वीडियो, इमेज या किसी भी विजुअल फॉर्मेट में एआई से तैयार सामग्री को दर्शकों से छिपाया नहीं जा सकेगा। यह नियम सिर्फ बड़ी कंपनियों तक सीमित नहीं है, बल्कि आम उपयोगकर्ताओं पर भी लागू होगा। अगर कोई यूजर एआई से बना कंटेंट तैयार करता है या शेयर करता है, तो उसे भी इन नियमों का पालन करना होगा। इस तरह जिम्मेदारी अब हर कंटेंट क्रिएटर पर होगी।
एआई कंटेंट पर नए प्रावधान
भारत सरकार ने आर्टिफिशियल इंटेलिजेंस द्वारा उत्पन्न सामग्री और डीपफेक के दुरुपयोग को रोकने के लिए सूचना प्रौद्योगिकी (मध्यस्थ दिशानिर्देश और डिजिटल मीडिया आचार संहिता) संशोधन नियम, 2026 अधिसूचित किए हैं। ये नियम 20 फरवरी 2026 से प्रभावी हो गए हैं। इन नए नियमों के तहत एआई लेबलिंग और सामग्री नियंत्रण पर मुख्य कानूनी प्रावधान इस प्रकार हैं:
- अनिवार्य एआई लेबलिंग: सोशल मीडिया प्लेटफॉर्म्स (जैसे फेसबुक, इंस्टाग्राम, एक्स) के लिए यह अनिवार्य कर दिया गया है कि वे एआई से बनाए गए या ‘सिंथेटिक रूप से निर्मित’ तस्वीर, वीडियो और ऑडियो पर स्पष्ट और प्रमुख लेबल लगाएं। यह लेबल वीडियो या फोटो की पूरी अवधि के दौरान निरंतर और स्पष्ट रूप से दिखाई देना चाहिए। इसका उद्देश्य यह सुनिश्चित करना है कि यूजर को पता चले कि सामग्री वास्तविक नहीं, बल्कि एआई से बनाई गई है।
- डिजिटल फिंगरप्रिंटिंग और मेटाडेटा: मेटाडेटा को किसी फाइल का ‘डिजिटल डीएनए’ कहा जा सकता है। यह स्क्रीन पर दिखाई नहीं देता, लेकिन फाइल के अंदर छिपा रहता है। इसमें यह जानकारी दर्ज होगी कि कंटेंट को कब और किस एआई टूल से बनाया गया। अगर एआई के जरिए कोई अपराध किया जाता है, तो जांच एजेंसियां इसी तकनीकी मार्कर की मदद से मूल स्रोत तक पहुंच सकेंगी। प्लेटफॉर्म्स को यह सुनिश्चित करना होगा कि यूजर एआई-जनित सामग्री से वॉटरमार्क या लेबल को हटा न सकें।
- लेबल हटाने पर सख्त कार्रवाई: पहले लोग एडिटिंग करके एआई कंटेंट का वॉटरमार्क हटा देते थे। अब ऐसा करना गैर-कानूनी होगा। सरकार ने प्लेटफॉर्म्स को निर्देश दिया है कि वे ऐसी तकनीक अपनाएं जिससे लेबल या मेटाडेटा से छेड़छाड़ की कोशिश होने पर कंटेंट स्वतः डिलीट हो जाए या उसे रोका जा सके।
- यूजर डिक्लेरेशन: 5 मिलियन (50 लाख) से अधिक उपयोगकर्ताओं वाले प्लेटफॉर्म्स को यह सुनिश्चित करना होगा कि वे कंटेंट अपलोड करने वाले यूजर से यह घोषणा लें कि सामग्री एआई-जनरेटेड है या नहीं।
- तीन घंटे के अंदर हटाना होगा गैर-कानूनी कंटेंट: आईटी नियमों में संशोधन के बाद अब सोशल मीडिया कंपनियों को शिकायत मिलने के 3 घंटे के भीतर आपत्तिजनक सामग्री हटानी होगी। पहले उन्हें 36 घंटे का समय मिलता था। इस बदलाव से कंपनियों की जवाबदेही और बढ़ गई है।
- छूट: साधारण फोटो एडिटिंग (जैसे चमक बढ़ाना, क्रॉप करना) या फिल्मों में उपयोग किए जाने वाले स्पेशल इफेक्ट्स को ‘सिंथेटिक सामग्री’ नहीं माना जाएगा और उन पर लेबलिंग की आवश्यकता नहीं होगी।
- उल्लंघन के परिणाम: नियमों का पालन न करने पर सोशल मीडिया प्लेटफॉर्म्स को ‘सेफ हार्बर’ यानी कानूनी सुरक्षा (आईटी अधिनियम की धारा 79 के तहत) खोनी पड़ सकती है, जिससे कंपनी के खिलाफ सीधे कानूनी कार्रवाई की जा सकती है।
केवल प्लेटफॉर्म ही नहीं, यूजर भी जिम्मेदार
अब जब कोई यूजर कंटेंट अपलोड करेगा, तो उसे यह घोषित करना होगा कि सामग्री एआई से बनाई गई है या नहीं। प्लेटफॉर्म्स को ऐसे टूल्स लगाने होंगे जो यूजर के दावे की जांच कर सकें। अगर बिना डिस्क्लोजर के एआई कंटेंट पब्लिश हो जाता है, तो इसकी जिम्मेदारी कंपनी पर भी तय की जाएगी। सूचना प्रौद्योगिकी मंत्रालय के अनुसार, इन नियमों का उद्देश्य ‘ओपन, सेफ, ट्रस्टेड और अकाउंटेबल इंटरनेट’ तैयार करना है। सरकार का कहना है कि इससे जनरेटिव एआई के जरिए फैलने वाली गलत जानकारी, पहचान की चोरी और चुनावी हेरफेर जैसी चुनौतियों पर नियंत्रण मिलेगा।
डीपफेक क्या है?
डीपफेक (Deepfake) दो अंग्रेजी शब्दों से मिलकर बना है- डीप जिसका मतलब है ‘डीप लर्निंग’ जो आर्टिफिशियल इंटेलिजेंस की एक बेहद एडवांस तकनीक है। वहीं, फेक का मतलब है ‘नकली’। आसान शब्दों में समझें तो, डीपफेक एक ऐसी तकनीक है जिसमें आर्टिफिशियल इंटेलिजेंस (AI) और मशीन लर्निंग का इस्तेमाल करके किसी असली वीडियो, तस्वीर या ऑडियो में मौजूद इंसान के चेहरे या आवाज को किसी दूसरे इंसान के चेहरे या आवाज से बदल दिया जाता है। यह इतना असली लगता है कि आम इंसान के लिए यह पहचानना लगभग नामुमकिन हो जाता है कि वीडियो में दिख रहा व्यक्ति सच में वह काम कर रहा है या नहीं।
डीपफेक इतना खतरनाक क्यों माना जा रहा है?
तकनीक अपने आप में बुरी नहीं होती, जैसे फिल्मों में वीएफएक्स के लिए इसका इस्तेमाल होता है। लेकिन इसका आपराधिक इस्तेमाल आज दुनिया भर के लिए एक बड़ा सिरदर्द बन चुका है:
- फर्जी वीडियो और नफरत फैलाना: राजनेताओं या प्रभावशाली लोगों के ऐसे फर्जी वीडियो बना दिए जाते हैं जिनमें वे ऐसी बातें बोलते नजर आते हैं जो उन्होंने कभी कही ही नहीं। इससे चुनाव प्रभावित हो सकते हैं या दंगे भड़क सकते हैं।
- आर्थिक धोखाधड़ी: साइबर ठग आपके परिवार के किसी सदस्य या दोस्त की आवाज का डीपफेक (वॉयस क्लोन) बनाकर आपको कॉल कर सकते हैं और इमरजेंसी का बहाना देकर पैसे ऐंठ सकते हैं।
- ब्लैकमेलिंग और चरित्र हनन: किसी व्यक्ति की सामान्य तस्वीर का इस्तेमाल करके उसे किसी आपत्तिजनक या अश्लील वीडियो में बदल देना डीपफेक का सबसे डरावना रूप है, जिसका शिकार अक्सर आम महिलाएं और सेलिब्रिटीज हो रही हैं।