एपल और गूगल के ऐप स्टोर पर एआई डीपफेक ऐप्स का खतरा, करोड़ों डाउनलोड के बाद हुआ खुलासा
स्मार्टफोन उपयोगकर्ताओं के लिए एक चौंकाने वाली खबर सामने आई है। दुनिया के सबसे बड़े टेक प्लेटफॉर्म एपल और गूगल के ऐप स्टोर पर ऐसे कई ऐप्स मौजूद हैं, जो कृत्रिम बुद्धिमत्ता (एआई) की मदद से किसी भी व्यक्ति की सामान्य तस्वीर को बिना अनुमति के अश्लील रूप में बदल सकते हैं। एक ताजा रिपोर्ट ने इस गंभीर सुरक्षा चूक का पर्दाफाश किया है, जिससे टेक दिग्गजों की निगरानी प्रणाली पर सवाल खड़े हो गए हैं।
रिपोर्ट में क्या खुलासा हुआ?
‘टेक ट्रांसपेरेंसी प्रोजेक्ट’ (TTP) नामक एक संस्था ने अपनी जांच में पाया कि एपल और गूगल के ऐप स्टोर पर दर्जनों ‘न्यूडिफाई’ ऐप्स सक्रिय हैं। ये ऐप्स एआई तकनीक का उपयोग करके किसी भी व्यक्ति की फोटो को बिना उसकी सहमति के नग्न या अश्लील तस्वीर में बदल देते हैं। जांच के दौरान गूगल प्ले स्टोर पर 55 और एपल ऐप स्टोर पर 47 ऐसे खतरनाक ऐप्स मिले। यह खुलासा ऐसे समय में हुआ है जब दोनों कंपनियां अपने उपयोगकर्ताओं की सुरक्षा और गोपनीयता को लेकर सख्त नीतियों का दावा करती हैं।
कैसे काम करते हैं ये ऐप्स?
TTP ने इन ऐप्स की पहचान करने के लिए आपत्तिजनक कीवर्ड्स का सहारा लिया। जांच में एआई द्वारा बनाई गई कपड़े पहने महिलाओं की तस्वीरों का इस्तेमाल किया गया। कुछ ऐप्स सीधे कपड़े हटाकर नई तस्वीर बनाते हैं, जबकि कुछ ‘फेस स्वैप’ तकनीक के जरिए किसी महिला के चेहरे को किसी अन्य नग्न तस्वीर पर जोड़ देते हैं। TTP की निदेशक केटी पॉल के अनुसार, ये ऐप्स सामान्य ‘आउटफिट बदलने’ वाले टूल नहीं हैं, बल्कि इन्हें विशेष रूप से लोगों को बिना सहमति के यौन रूप में प्रस्तुत करने के लिए डिजाइन किया गया है।
एलन मस्क के Grok पर भी उठे सवाल
इस रिपोर्ट ने एलन मस्क की कंपनी xAI के चैटबॉट ‘Grok’ को भी निशाने पर लिया है। हाल ही में Grok ने सोशल मीडिया प्लेटफॉर्म एक्स पर कुछ उपयोगकर्ताओं के कहने पर महिलाओं और बच्चों की आपत्तिजनक तस्वीरें बना दी थीं, जिसके बाद कंपनी की कड़ी आलोचना हुई। मस्क की कंपनी ने इसे तकनीकी खामी बताकर सुधार का दावा किया है, लेकिन यूरोपीय संघ ने इस मामले में जांच शुरू कर दी है। यह घटना दर्शाती है कि एआई का दुरुपयोग समाज के लिए कितना बड़ा खतरा बन सकता है। अमेरिका के मिनेसोटा में एक मामला सामने आया था, जहां 80 से अधिक महिलाओं की सोशल मीडिया तस्वीरों का उपयोग करके उनके डीपफेक बनाए गए थे।
चीन से जुड़े कई ऐप्स
रिपोर्ट में एक और चौंकाने वाली बात सामने आई है। TTP के अनुसार, पहचाने गए ऐप्स में से 14 चीन में आधारित थे। केटी पॉल का कहना है कि चीन के डेटा कानूनों के तहत सरकार किसी भी चीनी कंपनी के डेटा तक पहुंच सकती है। ऐसे में यदि किसी की अश्लील डीपफेक तस्वीरें इन ऐप्स से बनती हैं, तो वह डेटा विदेशी सरकार के हाथों में भी जा सकता है, जो गोपनीयता के लिए एक गंभीर खतरा है।
करोड़ों डाउनलोड और भारी कमाई
रिपोर्ट के मुताबिक, इन ऐप्स को दुनियाभर में 70 करोड़ से अधिक बार डाउनलोड किया जा चुका है और इनसे लगभग 117 मिलियन डॉलर की कमाई हुई है। चूंकि एपल और गूगल दोनों अपने ऐप स्टोर्स के जरिए होने वाली कमाई में हिस्सा लेते हैं, इसलिए उनकी भूमिका पर भी सवाल उठ रहे हैं। यह साफ है कि ये प्लेटफॉर्म न केवल ऐसे ऐप्स को होस्ट कर रहे हैं, बल्कि उनसे लाभ भी कमा रहे हैं।
नीतियों का उल्लंघन और मांग
गूगल प्ले की नीति स्पष्ट रूप से कहती है कि ऐसे ऐप्स की अनुमति नहीं है जो लोगों को ‘नग्न दिखाने’ का दावा करें, चाहे उन्हें मजाक या मनोरंजन के नाम पर पेश किया जाए। वहीं एपल की गाइडलाइंस भी खुले तौर पर अश्लील और पोर्नोग्राफिक कंटेंट पर रोक लगाती हैं। इसके बावजूद इन ऐप्स का बड़े पैमाने पर मौजूद रहना प्लेटफॉर्म्स की निगरानी व्यवस्था पर गंभीर सवाल खड़े करता है।
अमेरिका में नेशनल एसोसिएशन ऑफ अटॉर्नीज जनरल और कुछ डेमोक्रेटिक सीनेटरों ने एपल और गूगल से ऐसे ऐप्स और सेवाओं को हटाने की मांग की है। विशेषज्ञों का मानना है कि एआई तकनीक जितनी तेजी से आगे बढ़ रही है, उतनी ही सख्ती से नियमों को लागू करना भी जरूरी हो गया है, ताकि उपयोगकर्ताओं की गरिमा और गोपनीयता सुरक्षित रह सके। इस मामले ने एक बार फिर से टेक कंपनियों की जिम्मेदारी और एआई के नैतिक उपयोग पर बहस छेड़ दी है।