डीपफेक वायरल वीडियो यूट्यूबर ने चुटकी में खुद को बनाया टेलर स्विफ्ट और सीतारमण फिर यूं खुली डीपफेक की पोल

AI डीपफेक का खतरा: यूट्यूबर ने पलक झपकते ही बदली अपनी पहचान, सामने आया सच

बेंगलुरु के एक यूट्यूबर ईशान शर्मा का एक वीडियो इन दिनों सोशल मीडिया पर तेजी से वायरल हो रहा है। इस वीडियो में वह कुछ ही सेकंड में खुद को वित्त मंत्री निर्मला सीतारमण, अंतरराष्ट्रीय पॉप स्टार टेलर स्विफ्ट, बॉलीवुड अभिनेता शाहरुख खान और यहां तक कि भगोड़े कारोबारी विजय माल्या के रूप में बदलते दिखते हैं। यह कोई जादू या कैमरा ट्रिक नहीं है, बल्कि एआई डीपफेक तकनीक का एक शक्तिशाली प्रदर्शन है।

सोशल मीडिया प्लेटफॉर्म पर शेयर किए गए इस वीडियो में ईशान शर्मा दर्शकों को एक अहम चेतावनी देते हैं। वह कहते हैं कि सोशल मीडिया पर दिखने वाली हर चीज वास्तविक नहीं हो सकती। उनका संदेश स्पष्ट है कि चेहरा, उम्र, लिंग और आवाज—सब कुछ एआई की मदद से बदला जा सकता है, और देखने वाला इसे पहचान भी नहीं पाएगा। यह वीडियो डीपफेक तकनीक के बढ़ते खतरे को उजागर करता है।

डीपफेक को लेकर क्यों बढ़ रही है चिंता?

एआई डीपफेक तकनीक अब इतनी उन्नत हो चुकी है कि किसी भी व्यक्ति से वे बातें कहलवाई जा सकती हैं जो उसने कभी नहीं कही। फर्जी वीडियो बनाकर गलत सूचना फैलाना और सार्वजनिक हस्तियों की छवि को नुकसान पहुंचाना अब बेहद आसान हो गया है। 2023 में 11 देशों में राजनीतिक चर्चाओं पर डीपफेक का गहरा प्रभाव देखा गया था। तकनीकी विशेषज्ञों का मानना है कि जिन देशों में डिजिटल समझ कम है, वहां इसका खतरा और भी अधिक है।

जागरूकता जरूरी या सख्त नियंत्रण?

इस वीडियो के वायरल होने के बाद सोशल मीडिया पर दो तरह की प्रतिक्रियाएं देखने को मिल रही हैं। एक वर्ग का मानना है कि सरकार को सभी भारतीय भाषाओं में एआई जागरूकता अभियान चलाने चाहिए, ताकि लोग फर्जी वीडियो को पहचान सकें। दूसरे वर्ग का मानना है कि एआई पर अत्यधिक सरकारी नियंत्रण व्यावहारिक नहीं है। उनका सुझाव है कि एआई से बने कंटेंट पर एक अनिवार्य डिस्क्लेमर (चेतावनी) लगाया जाना चाहिए, जिससे दर्शकों को पता चल सके कि यह वास्तविक नहीं है।

डीपफेक के बड़े खतरे

1. लोकतंत्र पर प्रभाव: डीपफेक तकनीक चुनावी माहौल में बेहद खतरनाक साबित हो सकती है। अगर किसी नेता का फर्जी वीडियो वायरल कर दिया जाए, जिसमें वह भड़काऊ बयान देता दिखे, तो इससे मतदाताओं की राय प्रभावित हो सकती है। इससे सामाजिक तनाव बढ़ सकता है, चुनाव परिणाम प्रभावित हो सकते हैं और मीडिया व जनता के बीच विश्वास कम हो सकता है। 2023 में कई देशों में राजनीतिक चर्चाओं को प्रभावित करने के लिए एआई-जनरेटेड कंटेंट का इस्तेमाल किया गया। समस्या सिर्फ फर्जी वीडियो नहीं है, बल्कि विश्वास का टूटना है। जब लोग हर चीज को फर्जी समझने लगते हैं, तो असली जानकारी भी संदिग्ध लगने लगती है।

2. व्यक्तिगत नुकसान: डीपफेक किसी आम व्यक्ति या सेलिब्रिटी को ऐसी स्थिति में दिखा सकता है जो उसने कभी नहीं की। बिना अनुमति आपत्तिजनक कंटेंट में चेहरा जोड़ना, फर्जी ऑडियो से झूठे बयान फैलाना और किसी की पेशेवर छवि खराब करना इसके कुछ उदाहरण हैं। इससे मानसिक तनाव, सामाजिक अपमान और कानूनी जटिलताएं पैदा हो सकती हैं। महिलाएं और सार्वजनिक हस्तियां इस खतरे से अधिक प्रभावित होती हैं।

3. साइबर सुरक्षा खतरे: डीपफेक सिर्फ वीडियो तक सीमित नहीं है। अब एआई आवाज को भी बिल्कुल सटीक कॉपी कर सकता है। सीईओ की नकली आवाज बनाकर कंपनी से पैसे ट्रांसफर कराना, बैंक या सरकारी अधिकारी बनकर ठगी करना और संस्थानों के खिलाफ फर्जी बयान जारी करना अब आसानी से संभव है। ऐसे मामलों में आर्थिक नुकसान और संस्थागत अस्थिरता दोनों हो सकते हैं। यही कारण है कि साइबर सुरक्षा विशेषज्ञ अब एआई-आधारित डिटेक्शन सिस्टम विकसित कर रहे हैं।

डीपफेक और एआई पर सरकार के नए नियम

डीपफेक और एआई से तैयार सामग्री पर बढ़ती चिंताओं को देखते हुए केंद्र सरकार ने ऑनलाइन प्लेटफॉर्म्स के लिए कड़े नियम लागू कर दिए हैं। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय के अनुसार, एक्स और इंस्टाग्राम जैसे डिजिटल प्लेटफॉर्म्स को किसी सक्षम प्राधिकरण या अदालत द्वारा चिन्हित एआई-जनरेटेड या सिंथेटिक कंटेंट को तीन घंटे के अंदर हटाना होगा। पहले यह समयसीमा 36 घंटे थी, जिसे अब घटाकर तीन घंटे कर दिया गया है। यह नया नियम 20 फरवरी 2026 से लागू हो जाएगा।

संशोधन के जरिए सूचना प्रौद्योगिकी (मध्यस्थ दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 में पहली बार ‘एआई-जनरेटेड और सिंथेटिक सूचना’ की औपचारिक परिभाषा जोड़ी गई है। अब एआई से तैयार ऑडियो, वीडियो या ऑडियो-विजुअल सामग्री को भी कानूनी रूप से सूचना माना जाएगा और उस पर वही मानक लागू होंगे जो अन्य डिजिटल कंटेंट पर लागू होते हैं।

नए नियमों के प्रमुख प्रावधान

नए प्रावधानों के अनुसार, यूजर्स को एआई से तैयार या संशोधित कंटेंट पोस्ट करते समय साफ तौर पर खुलासा करना होगा। प्लेटफॉर्म्स को ऐसे कंटेंट पर प्रमुख लेबल और जहां संभव हो, स्थायी मेटाडाटा जोड़ना अनिवार्य होगा। विजुअल सामग्री में लेबल डिस्प्ले एरिया के कम से कम 10% हिस्से पर दिखना चाहिए, जबकि ऑडियो में डिस्क्लोजर क्लिप कुल अवधि के 10% तक होना आवश्यक है।

सरकार ने अवैध, भ्रामक, यौन शोषण, बाल संरक्षण या प्रतिरूपण से जुड़े एआई कंटेंट को रोकने के लिए ऑटोमेटेड टूल्स लगाने का भी निर्देश दिया है। साथ ही, प्लेटफॉर्म्स को हर तीन महीने में यूजर्स को एआई दुरुपयोग के परिणामों की जानकारी देना अनिवार्य होगा। इन नियमों के जरिए सरकार का उद्देश्य डिजिटल पारदर्शिता बढ़ाना और डीपफेक से उत्पन्न कानूनी व सामाजिक जोखिमों को सीमित करना है।

क्या डीपफेक का सकारात्मक इस्तेमाल संभव है?

हां, अगर इसका उपयोग जिम्मेदारी और पारदर्शिता के साथ किया जाए। डीपफेक तकनीक की मदद से महंगे वीएफएक्स सीन कम लागत में तैयार किए जा सकते हैं। इसके अलावा, ऐतिहासिक पात्रों को जीवंत दिखाना, उम्र बदलना या डिजिटल रिक्रिएशन जैसे रचनात्मक कार्यों में भी इसका उपयोग किया जा सकता है।

इसके अलावा, FORGE जैसे सिस्टम डीपफेक तकनीक का उपयोग सुरक्षा के लिए करते हैं। इसकी मदद से हमलावरों को भ्रमित किया जा सकता है, संवेदनशील डेटा को सुरक्षित रखा जा सकता है और फर्जी डिजिटल वातावरण बनाकर घुसपैठियों को रोका जा सकता है। यह एक एआई बनाम एआई मॉडल है, जहां सुरक्षा भी एआई से मजबूत हो सकती है।