मेटा का बड़ा फैसला: किशोरों के लिए AI कैरेक्टर फीचर पर अस्थायी रोक
सोशल मीडिया कंपनी मेटा ने अपने प्लेटफॉर्म पर किशोर उपयोगकर्ताओं की सुरक्षा को ध्यान में रखते हुए एक अहम कदम उठाया है। कंपनी ने घोषणा की है कि वह इंस्टाग्राम, फेसबुक और मैसेंजर जैसे अपने सभी ऐप्स पर 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए ‘AI कैरेक्टर्स’ नामक फीचर को अस्थायी रूप से बंद कर रही है। यह प्रतिबंध उन सभी युवाओं पर लागू होगा जिनकी उम्र जन्मतिथि के अनुसार किशोर श्रेणी में आती है या जिन्हें मेटा की नई ‘एज प्रिडिक्शन टेक्नोलॉजी’ किशोर मानती है।
क्या है यह नया प्रतिबंध?
मेटा ने स्पष्ट किया है कि यह रोक अस्थायी प्रकृति की है। कंपनी के अनुसार, किशोर अब मेटा द्वारा विशेष रूप से तैयार किए गए ‘कस्टम-बिल्ट AI कैरेक्टर्स’ का उपयोग नहीं कर पाएंगे। ये AI कैरेक्टर अलग-अलग व्यक्तित्व वाले चैटबॉट होते हैं, जो उपयोगकर्ताओं के साथ बातचीत कर सकते हैं। हालांकि, किशोर अभी भी स्टैंडर्ड ‘मेटा AI असिस्टेंट’ का इस्तेमाल कर सकेंगे, लेकिन इसमें उम्र के अनुसार सुरक्षा के कड़े इंतजाम किए जाएंगे। यह नियम उन उपयोगकर्ताओं पर भी लागू होगा जो खुद को वयस्क बताते हैं, लेकिन मेटा की तकनीक को संदेह है कि वे वास्तव में किशोर हैं।
माता-पिता को मिलेगा अधिक नियंत्रण
कंपनी ने बताया है कि वह एक अपडेटेड अनुभव तैयार कर रही है, जिसके तहत माता-पिता को यह देखने की सुविधा मिलेगी कि उनके बच्चे AI चैटबॉट्स के साथ किस प्रकार की बातचीत कर रहे हैं। मेटा के अनुसार, आने वाले हफ्तों से किशोर तब तक AI कैरेक्टर्स का उपयोग नहीं कर पाएंगे, जब तक कि नया अपडेटेड अनुभव तैयार नहीं हो जाता। जब यह फीचर वापस लाया जाएगा, तो माता-पिता के पास अपने बच्चों के AI अनुभव पर निगरानी रखने के लिए बेहतर पैरेंटल कंट्रोल होंगे।
मुकदमे से पहले उठाया गया कदम
मेटा का यह फैसला ऐसे समय में आया है जब कंपनी को टिकटॉक और यूट्यूब के साथ लॉस एंजिल्स में एक बड़े मुकदमे का सामना करना है। इन कंपनियों पर आरोप है कि उनके ऐप्स बच्चों के मानसिक और शारीरिक स्वास्थ्य को नुकसान पहुंचा रहे हैं। रिपोर्ट्स के अनुसार, मेटा ने न्यू मैक्सिको के जज से अपील की है कि मुकदमे के दौरान सोशल मीडिया और युवाओं के मानसिक स्वास्थ्य से जुड़े कुछ शोध और मार्क जुकरबर्ग के हार्वर्ड के दिनों के संदर्भों को बाहर रखा जाए।
अन्य कंपनियों ने भी उठाए कदम
सिर्फ मेटा ही नहीं, बल्कि उसके प्रतिद्वंद्वियों ने भी बच्चों की सुरक्षा के लिए कदम उठाए हैं। ओपनएआई, जो चैटजीपीटी बनाती है, ने हाल ही में बच्चों को संवेदनशील कंटेंट से बचाने के लिए ‘एज प्रिडिक्शन टेक्नोलॉजी’ लागू की है। इसके अलावा, कैरेक्टर.एआई नामक कंपनी ने भी 18 साल से कम उम्र के उपयोगकर्ताओं के लिए अपने चैटबॉट पर प्रतिबंध लगा दिया है। यह कदम फ्लोरिडा की एक मां द्वारा अपने 14 वर्षीय बेटे की आत्महत्या के लिए चैटबॉट को जिम्मेदार ठहराते हुए मुकदमा दायर करने के बाद उठाया गया था।