दक्षिण अफ्रीका में AI नीति का ड्राफ्ट वापस: जब सरकारी दस्तावेज में ही लग गए फर्जी हवाले
दक्षिण अफ्रीका सरकार को अपनी पहली राष्ट्रीय आर्टिफिशियल इंटेलिजेंस (AI) नीति का मसौदा जारी करने के कुछ ही हफ्तों बाद उसे वापस लेना पड़ा। इसकी वजह चौंकाने वाली है: नीति में दिए गए कई संदर्भ और हवाले पूरी तरह से फर्जी और मनगढ़ंत पाए गए, जो एआई टूल्स की तथाकथित ‘हैलुसिनेशन’ (भ्रम) का परिणाम थे।
कैसे शुरू हुआ यह विवाद?
दक्षिण अफ्रीका के संचार और डिजिटल प्रौद्योगिकी विभाग ने 10 अप्रैल को ‘ड्राफ्ट साउथ अफ्रीका नेशनल आर्टिफिशियल इंटेलिजेंस पॉलिसी’ को सार्वजनिक सुझावों के लिए जारी किया था। इस नीति के जरिए देश को एआई नवाचार में अग्रणी बनाने की योजना थी। लेकिन मात्र 16 दिनों के भीतर ही इस ड्राफ्ट को वापस लेना पड़ा। जांच में पता चला कि दस्तावेज में शामिल 67 में से कम से कम 6 संदर्भ ऐसे थे जो वास्तविकता में मौजूद ही नहीं हैं।
एआई हैलुसिनेशन: क्या है यह तकनीकी गड़बड़ी?
एआई हैलुसिनेशन एक ऐसी स्थिति है जब जनरेटिव एआई मॉडल बिल्कुल विश्वसनीय प्रतीत होने वाली, लेकिन पूरी तरह से गलत या काल्पनिक जानकारी प्रस्तुत कर देते हैं। ये मॉडल अपने प्रशिक्षण डेटा के आधार पर ऐसे तथ्य गढ़ लेते हैं जो वास्तविकता से मेल नहीं खाते। दक्षिण अफ्रीका की नीति में भी ऐसा ही हुआ, जहां अकादमिक जर्नल्स और शोध लेखों के नाम शामिल किए गए जो कभी प्रकाशित ही नहीं हुए थे।
फर्जीवाड़े का खुलासा कैसे हुआ?
इस गड़बड़ी का पर्दाफाश तब हुआ जब एक स्थानीय प्रसारक ने इन संदर्भों की पड़ताल शुरू की। जांच के दौरान जब प्रतिष्ठित अकादमिक जर्नल्स जैसे ‘साउथ अफ्रीकन जर्नल ऑफ फिलॉसफी’ और ‘एआई एंड सोसाइटी’ के संपादकों से संपर्क किया गया, तो उन्होंने स्पष्ट किया कि नीति में उल्लिखित लेख उनके जर्नल में कभी प्रकाशित नहीं हुए। यह खुलासा होने के बाद सरकार के पास मसौदा वापस लेने के अलावा कोई विकल्प नहीं बचा।
सरकार की प्रतिक्रिया और जिम्मेदारी तय करने की कोशिश
देश के संचार मंत्री सोली मलात्सी ने इस घटना को गंभीर मानवीय चूक बताया। उन्होंने स्वीकार किया कि यह सिर्फ एक तकनीकी त्रुटि नहीं, बल्कि अधिकारियों की लापरवाही का परिणाम है, जिन्होंने बिना किसी सत्यापन के एआई से प्राप्त डेटा को सीधे सरकारी दस्तावेज में शामिल कर दिया। मंत्री ने कहा कि इस घटना ने नीति की विश्वसनीयता को गंभीर रूप से प्रभावित किया है। अब सरकार उन जिम्मेदार अधिकारियों के खिलाफ सख्त कार्रवाई करने की तैयारी कर रही है, जिनकी निगरानी में यह चूक हुई।
नीति का मूल उद्देश्य क्या था?
वापस लिए गए इस ड्राफ्ट का मुख्य उद्देश्य देश में एआई प्रौद्योगिकी को विनियमित करने और बढ़ावा देने के लिए एक मजबूत ढांचा तैयार करना था। इसके तहत सरकार एक राष्ट्रीय एआई आयोग और नैतिकता बोर्ड स्थापित करने की योजना बना रही थी, जो एआई के नैतिक उपयोग की निगरानी कर सके। साथ ही, निजी क्षेत्र को निवेश के लिए प्रोत्साहित करने हेतु कर छूट और सब्सिडी जैसे प्रावधान भी शामिल थे।
इस घटना से मिलने वाले सबक
यह पूरी घटना इस बात का स्पष्ट प्रमाण है कि जनरेटिव एआई के उपयोग से जुड़े जोखिम कितने गंभीर हो सकते हैं। बिना मानवीय निगरानी और तथ्यात्मक सत्यापन के एआई टूल्स पर निर्भर रहना सरकारी दस्तावेजों की विश्वसनीयता को खतरे में डाल सकता है। यह घटना दुनिया भर की सरकारों और संस्थानों के लिए एक चेतावनी है कि एआई का उपयोग करते समय मानवीय समीक्षा और सत्यापन की प्रक्रिया को अनिवार्य रूप से शामिल किया जाना चाहिए।
आगे की राह
फिलहाल, दक्षिण अफ्रीका सरकार ने इस नीति मसौदे को पूरी तरह से संशोधित करने और सत्यापित करने की प्रक्रिया शुरू कर दी है। सभी संदर्भों और डेटा की दोबारा जांच की जा रही है, ताकि गलतियों को सुधारने के बाद ही इसे दोबारा सार्वजनिक परामर्श के लिए प्रस्तुत किया जा सके। यह घटना न केवल दक्षिण अफ्रीका के लिए, बल्कि पूरी दुनिया के लिए एक सबक है कि तकनीकी प्रगति के साथ मानवीय सावधानी और जवाबदेही भी उतनी ही महत्वपूर्ण है।