एआई को ‘कबूतर’ और ‘गोब्लिन’ शब्दों से क्यों हुई दिक्कत?
ओपनएआई ने अपने नवीनतम कोडिंग एआई एजेंट ‘कोडेक्स’ में कुछ ऐसे शब्दों पर प्रतिबंध लगा दिया है जो सुनने में सामान्य लगते हैं, लेकिन एआई के व्यवहार में गंभीर समस्या पैदा कर रहे थे। अब यह टूल ‘गोब्लिन’, ‘ग्रेमलिन’, ‘रैकून’, ‘ट्रोल’, ‘ओग्रे’, और ‘कबूतर’ जैसे शब्दों का इस्तेमाल नहीं करेगा। यह फैसला एंथ्रोपिक के ‘क्लॉड कोड एआई एजेंट’ को टक्कर देने के लिए बनाए गए इस टूल के लिए एक अजीबोगरीब मोड़ साबित हुआ है।
कोडेक्स मूल रूप से एक कमांड-लाइन इंटरफेस (CLI) है जो कोड लिखने और उसे चलाने दोनों में सक्षम है। हालांकि, अपने नए अपडेट के बाद इसके सिस्टम में कुछ सख्त और असामान्य नियम जोड़ दिए गए हैं। करीब 3,500 शब्दों के एक निर्देश-पत्र में साफ कहा गया है कि मॉडल को इन जीवों का जिक्र तब तक नहीं करना चाहिए, जब तक कि यूजर के सवाल में इसकी स्पष्ट आवश्यकता न हो। इसके अलावा, सिस्टम को नुकसान पहुंचाने वाले कमांड चलाने और अनावश्यक इमोजी के इस्तेमाल पर भी रोक लगाई गई है।
समस्या की असली जड़ क्या है?
यह सवाल उठना स्वाभाविक है कि आखिर एक कोडिंग टूल को राक्षसों और पक्षियों से क्या परेशानी हो सकती है? इसका जवाब सुनने में जितना अजीब है, उतना ही सरल भी है। ओपनएआई ने पाया कि उनके नए मॉडल बिना किसी वास्तविक कारण के बार-बार इन शब्दों का इस्तेमाल करने लगे थे, भले ही यूजर ने कोई गंभीर तकनीकी सवाल पूछा हो।
कंपनी के अनुसार, ट्रेनिंग के दौरान अनजाने में उन उदाहरणों को अधिक रिवॉर्ड (अच्छी रेटिंग) दे दी गई जिनमें इन जीवों का जिक्र होता था। इसी वजह से एआई ने इन शब्दों का अत्यधिक इस्तेमाल शुरू कर दिया। इसे आसान भाषा में समझें तो एआई को एक बुरी आदत लग गई, जो समय के साथ और पक्की होती गई। एक अपडेट के बाद तो ‘गोब्लिन’ शब्द का इस्तेमाल 175 प्रतिशत तक बढ़ गया था।
‘नर्डी मोड’ ने बढ़ाई समस्या
एआई के एक विशेष ‘नर्डी’ (Nerdy) मोड ने इस समस्या को और गंभीर बना दिया। यह मोड अपने मजाकिया और अजीबोगरीब उदाहरणों के लिए जाना जाता है, जिसके कारण यह अजीब व्यवहार सामान्य जवाबों में भी शामिल हो गया। ओपनएआई ने इसे ‘फीडबैक लूप’ करार दिया। इसका मतलब है कि जब एक बार एआई को किसी गलत बात के लिए शाबाशी मिल गई, तो वह उसे बार-बार दोहराने लगा।
यह घटना दर्शाती है कि ट्रेनिंग के दौरान लिए गए छोटे-छोटे फैसले कितने अप्रत्याशित परिणाम ला सकते हैं। कंपनी ने इसे एक बेहतरीन उदाहरण बताया कि कैसे एक रिवॉर्ड सिग्नल मॉडल के व्यवहार को पूरी तरह बदल सकता है।
कोडेक्स यूजर्स पर क्या असर पड़ेगा?
आम लोगों के लिए यह सुनने में मजेदार लग सकता है, लेकिन पेशेवर कोडिंग के लिए यह एक गंभीर समस्या थी। जो लोग गंभीर प्रोजेक्ट्स पर काम कर रहे हैं, उनके लिए बीच-बीच में ‘गोब्लिन’ या ‘कबूतर’ का जिक्र आना ध्यान भटकाने वाला और अव्यवसायिक साबित हो सकता है।
इसी समस्या को हल करने के लिए कोडेक्स में अब भाषा और काम करने के तरीके को लेकर सख्त निर्देश जोड़े गए हैं। एआई को अब साफ हिदायत दी गई है कि वह कोई भी खतरनाक कमांड, जैसे फाइल डिलीट करना, तब तक न चलाए जब तक यूजर खुद ऐसा करने को न कहे। कंपनी का मुख्य उद्देश्य एआई को अधिक भरोसेमंद और सुरक्षित बनाना है।
इंटरनेट पर बना मीम
दिलचस्प बात यह है कि यह पूरी घटना इंटरनेट पर एक लोकप्रिय मीम बन गई है। कुछ यूजर्स ने बताया कि एआई उनके सॉफ्टवेयर की खामियों (बग्स) को ‘ग्रेमलिन’ कहने लगा था, जबकि कुछ लोग कोडिंग टूल्स में ‘गोब्लिन मोड’ का मजाक उड़ाने लगे।
ओपनएआई ने अब इस समस्या की जड़ को खत्म कर दिया है। कंपनी ने उन ट्रेनिंग सिग्नल्स को हटा दिया है जो एआई को ऐसी भाषा इस्तेमाल करने के लिए प्रेरित करते थे। साथ ही, ऐसे बेकार शब्दों को फिल्टर करना भी शुरू कर दिया गया है। चूंकि GPT-5.5 पर पहले से काम चल रहा था, इसलिए एहतियात के तौर पर ये अतिरिक्त नियम जोड़े गए हैं।
एआई ट्रेनिंग का अहम सबक
यह पूरा मामला एआई ट्रेनिंग के एक बड़े सबक को उजागर करता है। छोटी-छोटी गलतियां और अनजाने में दिए गए रिवॉर्ड एआई के व्यवहार को ऐसा आकार दे सकते हैं जिसकी उम्मीद डेवलपर्स को भी नहीं होती। यह घटना दर्शाती है कि एआई मॉडल्स को लगातार मॉनिटर करना और उनके व्यवहार में सुधार करना कितना जरूरी है।
कुल मिलाकर, यह एक ऐसा मामला है जहां एआई को यह समझाना पड़ा कि पेशेवर काम के दौरान राक्षसों और कबूतरों की बातें नहीं करनी चाहिए। हालांकि यह सुनने में मजेदार लगता है, लेकिन इसके पीछे एक गंभीर तकनीकी समस्या थी जिसे अब सुलझा लिया गया है।