ऑस्ट्रेलिया में AI के गलत इस्तेमाल का बड़ा मामला, वकील ने कोर्ट में मांगी माफी
आर्टिफिशियल इंटेलिजेंस (AI) के बढ़ते इस्तेमाल के बीच एक चौंकाने वाली घटना सामने आई है। ऑस्ट्रेलिया की विक्टोरिया सुप्रीम कोर्ट में एक वरिष्ठ वकील को AI से प्राप्त गलत और मनगढ़ंत जानकारी कोर्ट में पेश करने के बाद जज से सार्वजनिक रूप से माफी मांगनी पड़ी। यह मामला एक हत्या के केस से जुड़ा है, जहां वकील ने AI टूल की मदद से ऐसे अदालती फैसलों और सबूतों का हवाला दिया, जो वास्तव में कभी अस्तित्व में ही नहीं थे।
जब अदालत की जांच में यह गड़बड़ी पकड़ में आई, तो जज ने कड़ी नाराजगी जताई। उन्होंने कहा कि न्याय व्यवस्था पूरी तरह से वकीलों की सत्यनिष्ठा और ईमानदारी पर टिकी होती है। इस घटना ने एक बार फिर AI ‘हैलुसिनेशन’ के बढ़ते खतरे को उजागर किया है, जहां AI मॉडल ऐसी जानकारी पेश करते हैं जो बिल्कुल सही लगती है, लेकिन वास्तविकता में गलत या काल्पनिक होती है।
पूरा मामला क्या है?
विक्टोरिया सुप्रीम कोर्ट में वरिष्ठ वकील ऋषि नाथवानी (किंग्स काउंसिल) ने एक किशोर की ओर से हत्या के मामले में पैरवी की। केस की तैयारी के दौरान, उन्होंने AI की मदद से कुछ पुराने अदालती फैसलों और सबूतों की खोज की। AI ने उन्हें ऐसे कई उदाहरण दिए, जो उनके मुवक्किल के पक्ष में जा सकते थे। हालांकि, वकील ने इन जानकारियों की गहराई से जांच किए बिना उन्हें कोर्ट में पेश कर दिया।
बाद में पता चला कि AI ने जिन फैसलों और सबूतों का हवाला दिया था, उनमें से अधिकतर पूरी तरह से मनगढ़ंत थे। ये न तो कभी किसी अदालत में सुनाए गए और न ही इनका कोई रिकॉर्ड मौजूद था। जब यह गलती सामने आई, तो नाथवानी ने इसकी पूरी जिम्मेदारी लेते हुए जज जेम्स इलियट से माफी मांगी। उन्होंने कहा कि वे इस चूक के लिए बहुत शर्मिंदा हैं। इस गड़बड़ी के कारण मामले के निपटारे में लगभग 24 घंटे की देरी हुई।
गौरतलब है कि बाद में जज ने आरोपी किशोर को उसकी गंभीर मानसिक स्थिति को देखते हुए हत्या के आरोप से बरी कर दिया। लेकिन इस घटना ने कानूनी दुनिया में AI के इस्तेमाल को लेकर गंभीर सवाल खड़े कर दिए हैं।
गलती कैसे पकड़ी गई?
वकीलों ने बचाव पक्ष की ओर से जो दस्तावेज पेश किए, उनमें विधानसभा के कुछ भाषणों और सुप्रीम कोर्ट के पुराने फैसलों का हवाला दिया गया था। जब जज की टीम ने इन फैसलों को आधिकारिक रिकॉर्ड में खोजने की कोशिश की, तो उन्हें कुछ नहीं मिला। इसके बाद जज ने वकीलों से उन फैसलों की प्रतियां मांगीं। तब जाकर वकीलों को स्वीकार करना पड़ा कि ये सभी हवाले पूरी तरह से मनगढ़ंत थे।
वकीलों ने अपनी सफाई में कहा कि उन्होंने AI द्वारा दी गई जानकारी की शुरुआती कुछ पंक्तियों की जांच की थी और गलती से यह मान लिया कि बाकी जानकारी भी सही होगी। यह घटना दर्शाती है कि AI पर आंख मूंदकर भरोसा करना कितना खतरनाक हो सकता है, खासकर कानून जैसे संवेदनशील क्षेत्र में।
अदालत की कड़ी टिप्पणी
जस्टिस जेम्स इलियट ने इस पूरे प्रकरण पर गहरी नाराजगी जताई। उन्होंने स्पष्ट शब्दों में कहा कि वकीलों का यह व्यवहार बिल्कुल भी संतोषजनक नहीं है। जज ने समझाया कि पूरी न्याय व्यवस्था और अदालती कार्यवाही इस बुनियादी भरोसे पर टिकी होती है कि वकील जो भी जानकारी दे रहे हैं, वह सच और सत्यापित है।
उन्होंने कहा कि कोर्ट का वकीलों के तर्कों और दस्तावेजों पर भरोसा कर पाना ही सही न्याय करने के लिए सबसे जरूरी है। जब यह भरोसा टूटता है, तो पूरी न्याय प्रक्रिया प्रभावित होती है। जज ने वकीलों को यह भी याद दिलाया कि सुप्रीम कोर्ट ने पिछले साल ही AI के इस्तेमाल को लेकर सख्त नियम जारी किए थे।
AI के इस्तेमाल पर चेतावनी
जज ने साफ कहा कि AI से तैयार की गई किसी भी जानकारी का इस्तेमाल कोर्ट में तब तक स्वीकार नहीं किया जाएगा, जब तक कि उसकी अलग से और गहराई से जांच न कर ली जाए। उन्होंने सभी वकीलों को आगाह किया कि वे AI टूल्स का इस्तेमाल करते समय अत्यधिक सावधानी बरतें। हालांकि, अभी तक यह स्पष्ट नहीं हो पाया है कि इस मामले में वकीलों ने किस विशेष AI सिस्टम का इस्तेमाल किया था।
यह घटना एक महत्वपूर्ण सबक देती है कि तकनीक चाहे कितनी भी उन्नत क्यों न हो, उस पर पूरी तरह भरोसा करना उचित नहीं है। खासकर कानूनी पेशे में, जहां एक छोटी सी गलती भी बड़े परिणाम ला सकती है, हर जानकारी की मैन्युअल रूप से पुष्टि करना अनिवार्य है।
दुनिया भर में बढ़ रहे हैं ऐसे मामले
कानूनी दुनिया में AI के जरिए गलत जानकारी पेश करने का यह कोई पहला मामला नहीं है। ‘AI हैलुसिनेशन’ नामक यह समस्या दुनिया भर की अदालतों में तेजी से बढ़ रही है। कुछ प्रमुख उदाहरण इस प्रकार हैं:
- 2023 में अमेरिका में एक विमान दुर्घटना के केस में ChatGPT का इस्तेमाल कर फर्जी रिसर्च पेश करने पर दो वकीलों और उनकी फर्म पर 5,000 डॉलर का जुर्माना लगाया गया था।
- पूर्व अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप के वकील माइकल कोहेन ने भी AI की मदद से ऐसे फर्जी फैसलों का हवाला दिया था जो कभी हुए ही नहीं थे। बाद में उन्होंने माना कि उन्हें यह पता ही नहीं था कि AI टूल झूठ भी बोल सकता है।
- ब्रिटेन की हाई कोर्ट की जज विक्टोरिया शार्प ने चेतावनी दी है कि गलत जानकारी को असली बताकर पेश करना ‘अदालत की अवमानना’ माना जाएगा, जिसके लिए उम्रकैद तक की सजा हो सकती है।
ये सभी घटनाएं दर्शाती हैं कि AI टूल्स का इस्तेमाल करते समय अत्यधिक सावधानी बरतने की जरूरत है। तकनीक ने कानूनी शोध को आसान बना दिया है, लेकिन इसके साथ ही नई चुनौतियां भी पैदा कर दी हैं। वकीलों और कानूनी पेशेवरों को AI द्वारा दी गई जानकारी को बिना सत्यापन के स्वीकार नहीं करना चाहिए। न्याय प्रणाली की विश्वसनीयता बनाए रखने के लिए यह आवश्यक है कि हर दस्तावेज और हर तर्क की पुष्टि पारंपरिक तरीकों से भी की जाए।