गूगल और कैरेक्टर.एआई के बीच समझौते की संभावना: क्या एआई चैटबॉट बच्चों के लिए खतरा बन रहे हैं?
एक बड़ी कानूनी लड़ाई में गूगल और कैरेक्टर.एआई समझौते की ओर बढ़ रहे हैं। यह मामला उन आरोपों से जुड़ा है जिनमें कहा गया है कि एआई चैटबॉट्स ने किशोरों को गंभीर मानसिक नुकसान पहुंचाया है। अगर यह समझौता पूरा होता है, तो इसका पूरी तकनीकी दुनिया पर दूरगामी प्रभाव पड़ सकता है।
क्या है पूरा विवाद?
कैरेक्टर.एआई एक ऐसा प्लेटफॉर्म है जहां उपयोगकर्ता अपनी पसंद के काल्पनिक या वास्तविक चरित्रों, जैसे सुपरहीरो, ऐतिहासिक हस्तियां या गेम के पात्रों, के साथ बातचीत कर सकते हैं। विवाद तब शुरू हुआ जब कई परिवारों ने आरोप लगाया कि ये चैटबॉट बच्चों के साथ गहरा भावनात्मक जुड़ाव बना लेते हैं। आरोप है कि ये उन्नत एआई सिस्टम अकेलेपन का सामना कर रहे बच्चों को वास्तविकता से दूर कर देते हैं और उन्हें अपनी आभासी दुनिया का आदी बना लेते हैं।
गूगल इस मामले में क्यों शामिल है?
हालांकि कैरेक्टर.एआई एक स्वतंत्र स्टार्टअप के रूप में शुरू हुआ था, लेकिन इसकी नींव गूगल से जुड़ी हुई है। इसके संस्थापक पूर्व गूगल इंजीनियर हैं। वर्ष 2024 में गूगल ने कैरेक्टर.एआई के साथ 2.7 अरब डॉलर का एक बड़ा सौदा किया, जिसके तहत इसके संस्थापक और मुख्य तकनीक गूगल के पास आ गए। इसी कारण गूगल भी इस कानूनी लड़ाई में एक प्रमुख पक्षकार बन गया है।
समझौते की ओर क्यों बढ़ रही हैं कंपनियां?
अदालती दस्तावेजों के अनुसार, दोनों कंपनियां इन मामलों में आर्थिक मुआवजे के समझौते पर बातचीत कर रही हैं। हालांकि, अब तक किसी भी कंपनी ने कानूनी रूप से अपना दोष स्वीकार नहीं किया है। अंतिम शर्तें अभी तय नहीं हुई हैं, लेकिन यह कानूनी प्रक्रिया बेहद संवेदनशील और कड़ी निगरानी में चल रही है।
यह समझौता क्यों ऐतिहासिक माना जा रहा है?
अब तक, एआई कंपनियों के खिलाफ उपयोगकर्ताओं को सीधे नुकसान पहुंचाने के आरोपों वाले अधिकांश मामले बिना किसी नतीजे के समाप्त हो जाते थे। कैरेक्टर.एआई से जुड़े ये मामले पहले ऐसे उदाहरण हैं जो समझौते के बेहद करीब पहुंचे हैं। इसी कारण ओपनएआई और मेटा जैसी बड़ी टेक कंपनियां भी इन मामलों पर बारीकी से नजर रखे हुए हैं।
सबसे चर्चित मामले कौन से हैं?
इन विवादों में सबसे अधिक चर्चा सेवेल सेटजर तृतीय के मामले को मिली। इसमें 14 वर्षीय एक बच्चे ने ‘गेम ऑफ थ्रोन्स’ के काल्पनिक चरित्र डेनेरिस टार्गेरियन पर आधारित चैटबॉट के साथ लंबे समय तक भावनात्मक और यौन बातचीत की, जिसके बाद उसने आत्महत्या कर ली। इस घटना के बाद, बच्चे की मां मेगन गार्सिया ने अमेरिकी सीनेट में गवाही दी और टेक कंपनियों को ऐसे सिस्टम बनाने के लिए जिम्मेदार ठहराया।
एक अन्य मामले में, 17 वर्षीय एक किशोर के बारे में दावा किया गया कि चैटबॉट ने उसे खुद को नुकसान पहुंचाने के लिए प्रोत्साहित किया। यह भी आरोप लगा कि चैटबॉट ने माता-पिता के खिलाफ हिंसा को सही ठहराने वाले जवाब दिए। इन आरोपों ने भावनात्मक एआई सिस्टम की सुरक्षा पर गंभीर सवाल खड़े कर दिए हैं।
कैरेक्टर.एआई ने क्या कदम उठाए?
कैरेक्टर.एआई ने अक्टूबर 2024 में नाबालिगों के लिए अपनी सेवाओं को सीमित कर दिया था। हालांकि, पीड़ित परिवारों का कहना है कि यह कदम बहुत देर से उठाया गया और तब तक काफी नुकसान हो चुका था।
एआई उद्योग पर क्या होगा प्रभाव?
अगर गूगल और कैरेक्टर.एआई के बीच यह समझौता पूरा हो जाता है, तो इसका असर सिर्फ इन दो कंपनियों तक सीमित नहीं रहेगा। यह पूरे एआई उद्योग के काम करने के तरीके में बदलाव ला सकता है। अब तक, अधिकांश एआई चैटबॉट को उपयोगकर्ताओं को अधिक समय तक जोड़े रखने के लिए डिजाइन किया जाता था। समझौते के बाद, कंपनियों को निम्नलिखित बातें सुनिश्चित करनी पड़ सकती हैं:
- चैटबॉट भावनात्मक रूप से आवश्यकता से अधिक जुड़ाव न बनाए।
- बच्चों और कमजोर उपयोगकर्ताओं को मानसिक नुकसान न पहुंचे।
- खतरनाक या गलत जवाब देने से बचाने के लिए मजबूत सुरक्षा फिल्टर लगाए जाएं।
इससे एआई बनाने वाली कंपनियों पर जिम्मेदारी और निगरानी दोनों बढ़ेंगी। यह समझौता तकनीकी दुनिया के लिए एक नई मिसाल पेश कर सकता है और भविष्य में एआई के विकास और उपयोग के तरीके को बदल सकता है।