एआई एजेंट ने मात्र 9 सेकंड में उड़ाया पूरा डेटाबेस, कबूली गलती
आर्टिफिशियल इंटेलिजेंस (AI) पर बढ़ती निर्भरता कितनी भयावह साबित हो सकती है, इसका एक चौंकाने वाला उदाहरण सामने आया है। अमेरिका के एक स्टार्टअप के साथ हुई घटना ने तकनीकी दुनिया को हिलाकर रख दिया है। एक स्वायत्त एआई कोडिंग एजेंट ने महज नौ सेकंड में कंपनी का पूरा प्रोडक्शन डेटाबेस और उसके सभी बैकअप मिटा दिए। इस तबाही से उबरने में कंपनी को वर्षों लग सकते हैं।
कैसे हुई यह घटना?
पॉकेटओएस नामक यह स्टार्टअप कार रेंटल और अन्य रेंटल व्यवसायों के लिए सॉफ्टवेयर विकसित करता है। कंपनी के संस्थापक जेर क्रेन ने सोशल मीडिया पर इस घटना का ब्योरा साझा किया। उनके अनुसार, कर्सर नामक एक ऑटोनोमस एआई कोडिंग एजेंट, जो एंथ्रोपिक के क्लॉड ओपस 4.6 मॉडल पर संचालित हो रहा था, ने रेलवे सर्वर पर एक एपीआई कॉल के जरिए पूरा डेटाबेस डिलीट कर दिया। यह पूरी प्रक्रिया मात्र नौ सेकंड में पूरी हो गई।
कंपनी के फाउंडर ने बताया कि यह घटना एक सामान्य तकनीकी कार्य के दौरान हुई। एआई एजेंट को सिस्टम में क्रेडेंशियल मिसमैच की समस्या दिखाई दी। किसी भी मानवीय हस्तक्षेप के बिना, उसने खुद ही इस समस्या को हल करने का निर्णय लिया। एजेंट ने एक अज्ञात फाइल से एपीआई टोकन निकाला और उसी का उपयोग करके लाइव प्रोडक्शन डेटा वाले वॉल्यूम को मिटा दिया।
बैकअप भी नहीं बचा, सुरक्षा व्यवस्था पूरी तरह विफल
इस घटना को और भी गंभीर बनाने वाली बात यह थी कि सिस्टम में कोई सुरक्षा परत मौजूद नहीं थी। डेटा डिलीट करने से पहले न तो कोई पुष्टिकरण संदेश आया और न ही कोई चेतावनी दी गई। विभिन्न एनवायरमेंट के बीच कोई प्रतिबंध भी नहीं था। इसका परिणाम यह हुआ कि एक ही कमांड में लाइव डेटा के साथ-साथ उसके सभी बैकअप भी पूरी तरह नष्ट हो गए। कंपनी के पास डेटा रिकवरी का कोई विकल्प नहीं बचा।
- सिस्टम में कोई कन्फर्मेशन पॉप-अप नहीं था।
- प्रोडक्शन डेटा डिलीट करने से पहले कोई चेतावनी नहीं दी गई।
- अलग-अलग एनवायरमेंट के बीच कोई प्रतिबंध नहीं था।
- बैकअप सिस्टम भी उसी नेटवर्क से जुड़ा था, जो एक साथ नष्ट हो गया।
एआई एजेंट ने स्वीकार की अपनी गलती
जब इस घटना की जांच की गई, तो एआई एजेंट ने स्वयं अपनी गलती स्वीकार की। उसने माना कि उसने बिना किसी मानवीय अनुमति के निर्णय लिया। एजेंट ने कहा कि उसने क्रेडेंशियल समस्या को ठीक करने के लिए स्वयं निर्णय लिया और अब उसे लगता है कि उसे पहले पुष्टि लेनी चाहिए थी या कोई सुरक्षित तरीका अपनाना चाहिए था। यह स्वीकारोक्ति एआई सिस्टम की सीमाओं को उजागर करती है।
पहले भी हो चुकी हैं ऐसी घटनाएं
यह पहली बार नहीं है जब किसी एआई एजेंट ने इस तरह की तबाही मचाई हो। पिछले साल दिसंबर में भी कर्सर एआई एजेंट ने मना करने के बावजूद जरूरी फाइलें डिलीट कर दी थीं। इसके अलावा, एक अन्य मामले में रेप्लिट के एआई एजेंट ने SaaStr नामक स्टार्टअप का पूरा प्रोडक्शन डेटाबेस साफ कर दिया था। ये घटनाएं तकनीकी दुनिया के लिए एक बड़ी चेतावनी हैं कि एआई पर अंधाधुंध निर्भरता कंपनियों को भारी संकट में डाल सकती है।
विशेषज्ञों का मानना है कि एआई सिस्टम को डिजाइन करते समय सुरक्षा परतों को अनिवार्य रूप से शामिल किया जाना चाहिए। बिना मानवीय पुष्टि के किसी भी विनाशकारी कार्य को करने की अनुमति नहीं होनी चाहिए। यह घटना एआई विकास में जिम्मेदारी और सुरक्षा के महत्व को रेखांकित करती है।