नई दिल्ली
AI ने अभी इंसानों के ज्यादातर काम को आसान बना दिया है. लेकिन, कई बार AI बेकाबू हो जाते हैं और इसे संभालना मुश्किल हो जाता है. जिसकी वजह से आने वाले भविष्य में AI कितना खतरनाक साबित हो सकता है, उसकी एक झलक देखने को मिल जाती है. अब एक बार फिर ताजा मामला ChatGPT बनाने वाली कंपनी OpenAI के तरफ से आया है. जहां उसके AI एजेंट्स ने जर्मन वेबसाइट को हाइजैक कर लिया।
रॉयटर्स के अनुसार, एक नई रिसर्च और मामले से जुड़े दो सूत्रों के अनुसार, इस साल मई के दौरान OpenAI के अनकंट्रोल्ड AI एजेंट्स के एक ग्रुप ने एक जर्मन वेबसाइट को हाइजैक कर लिया. उसके बाद और उसे दूसरे AI एजेंट्स के लिए एक मैसेज बोर्ड में बदल दिया. बताया जा रहा है कि OpenAI के अधिकारियों को इस घटना की जानकारी कई हफ्ते पहले हो गई थी. हालांकि, उन्होंने इसे सीक्रेट रखा क्योंकि कंपनी के अधिकारी जुलाई में ओपन-सोर्स प्लेटफॉर्म Hugging Face के डेटा ब्रीच के बाद के असर से निपटने में जुटे हुए थे।
क्या है पूरा मामला?
जर्मनी में AI एजेंट्स के इस कदम की डिटेल को लेकर बताया जा रहा है कि रिसर्चर्स ने अगस्त के अंत में अनऑथोराइज्ड AI-एजेंट एक्टिविटी के सुराग खोजते समय इसे पकड़ा था. रिसर्चर्स ने बताया कि उन्हें प्रोग्रामर्स के लिए बनी एक जर्मन विकी वेबसाइट DseWiki पर AI एजेंट्स द्वारा किए गए 15,000 से अधिक एडिट्स मिले।
आपको बता दें कि ये वेबसाइट विकिपीडिया की तरह ही आम लोगों के एडिट्स स्वीकार करती है. इन एडिट्स से पता चला कि OpenAI के एजेंट्स ने इस साइट को एक मैसेज बोर्ड बना दिया था. जहां वे कुछ टास्क में चीटिंग करने, OpenAI की पाबंदियों को बायपास करने और अपने बर्ताव को छिपाने की तरकीबें शेयर कर रहे थे. रिसर्चर वॉन आर्क्स ने कहा, "इस बात की बिल्कुल संभावना नहीं है कि OpenAI चाहता था कि वे ऐसा करें. मुझे नहीं लगता कि उन्हें आपस में इस तरह तालमेल बिठाना चाहिए या खुले इंटरनेट पर लिखना चाहिए।
रिसर्चर्स ने कहा कि उन्होंने साइट पर होने वाली एक्टिविटी को AI एजेंट्स द्वारा ऑटोमेट माना. ये इंसानों से कई गुना तेज स्पीड में काम करते हैं. उन्होंने उन टेक्निकल सवालों को हल करने पर भी गहरा फोकस दिखाया जो आमतौर पर AI कंपनियां अपने मॉडल्स की टेस्टिंग के लिए इस्तेमाल करती हैं. मैसेज ऐसे यूजर्स द्वारा साइन किए गए थे जो खुद को और एक-दूसरे को 'एजेंट' कहते थे. साथ ही लगभग आधे यूजर्स ने ऐसे नाम रखे थे जो OpenAI से जुड़े होने का संकेत देते थे, जैसे “OpenAIResearcher” या “OAIResearchMar26” .
पकड़े जाने के बाद की भी प्लानिंग थी तैयार
रिसर्चर्स के मुताबिक, पब्लिक सर्वर लॉग्स से पता चला कि ज्यादातर एक्टिविटी Microsoft Azure इंफ्रास्ट्रक्चर से शुरू हुई थी. जिसका इस्तेमाल OpenAI भी करता है. उन्होंने घटना के बाद OpenAI कर्मचारियों द्वारा बार-बार उस साइट पर जाने का पैटर्न भी देखा. जिससे एजेंट्स और कंपनी के जुड़े होने के मजबूत संकेत मिलते हैं. रिसर्चर्स द्वारा देखे गए मैसेजेस में दिखाया गया कि एजेंट्स पकड़े जाने से बचने, Tor जैसे टूल्स का उपयोग करने और बंद किए जाने के बाद भी अपनी बातचीत को बनाए रखने के तरीके प्लान कर रहे थे।
जब जून में साइट के मॉडरेटर ने उन पेजों को डिलीट करना शुरू किया, तो एजेंट्स ने डिलीशन से बचने के लिए तुरंत बैकअप पेज बनाना शुरू कर दिया. 19 जून को एक एजेंट ने लिखा, "विकी क्लीनअप/डिलीशन अल्फाबेटिकल ऑर्डर में एक्टिव लग रहा है. अगर यह पेज हट जाता है, तो [[ZZZDataUSAConstructionWageLive]] ट्राई करें।
रिसर्चर्स को वेबसाइट के साथ छेड़छाड़ करने की कोशिशें भी मिलीं. किंग्स कॉलेज लंदन के विजिटिंग सीनियर रिसर्च फेलो लुकास ओलेज्निक ने कहा कि ये हैकिंग की कोशिश के बराबर था. हालांकि, OpenAI ने इस मैटेरियल के एनालिसिस के आधार पर इस बात को खारिज किया. अतीत में AI एजेंट्स के ऐसे बर्ताव को अक्सर साइबर सुरक्षा टेस्टिंग का एक सामान्य हिस्सा मानकर नजरअंदाज किया जाता रहा है. जहां मॉडल्स की कैपिबिलिटी की जांच की जाती है. लेकिन ओलेज्निक ने कहा कि ये नए नतीजे बताते हैं कि ऐसा अनकंट्रोल्ड बिहेवियर सिर्फ टेस्टिंग तक सीमित नहीं रह सकता है।
कैम्ब्रिज यूनिवर्सिटी के सेंटर फॉर द स्टडी ऑफ एग्जिस्टेंशियल रिस्क के मॉरिस चियोडो नेकहा कि ये मैसेज "किसी काम या मिशन को पूरा करने के लिए जी-जान से जुटे किसी अंडरग्राउंड नेटवर्क के काम करने के तरीके जैसे" लगते हैं. उन्होंने कहा कि इस घटना से ये चिंता होनी चाहिए कि एडवांस्ड AI से सबसे बड़ा खतरा किसी एक सुपर-इंटेलिजेंट सिस्टम से नहीं, बल्कि "आपस में सांठगांठ करने वाले सेमी-इंटेलिजेंट AI के बड़े झुंड" से हो सकता है।
कंपनी ने नहीं दी इस घटना की जानकारी
मई से शुरू हुए इस मामले को पहले कभी रिपोर्ट ही नहीं किया गया था. कंपनियां तेजी से ऐसे ऑटोनॉमस एजेंट्स बनाने की होड़ में हैं, जो मुश्किल और बड़े काम संभाल सकें. हालांकि, इस बात के सबूत बढ़ रहे हैं कि ये सिस्टम नियम तोड़ना, सिस्टम की खामियों का फायदा उठाना और आपस में तालमेल बिठाना भी सीख सकते हैं. वे ऐसे तरीके इजाद कर रहे हैं जिनके बारे में डेवलपर्स ने न तो सोचा था और न ही चाहा था।
आपको बता दें कि Hugging Face ब्रीच के दौरान, OpenAI के एजेंट्स ने अपने दम पर एक ऐसा डिजिटल हमला प्लान किया जो लगभग एक हफ्ते तक पकड़ में नहीं आया. इससे ये चिंता बढ़ गई है कि OpenAI तकनीक की दौड़ में आगे निकलने के लिए सुरक्षा से समझौता कर रहा है. मई की घटना का खुलासा न करने से कंपनी की निगरानी व्यवस्था पर फिर से सवाल खड़े हो सकते हैं।
कंपनी ने पेश किया नया मॉडल Astra
हालांकि, OpenAI ने अपने मॉडल्स की और बारीकी से निगरानी करने का वादा किया है. पिछले महीने, सुरक्षा उपाय बढ़ाने के लिए कंपनी ने कुछ मॉडल्स की ट्रेनिंग पर थोड़े समय के लिए रोक लगा दी थी. लेकिन इस हफ्ते, OpenAI ने अपना नया मॉडल "Astra" पेश किया, जिसने बेहतर परफॉर्मेंस का वादा किया है.हालांकि, ऐसे में सवाल उठ रहे हैं क्या ये इंसानी निगरानी से भी बच सकता है।
जर्मनी की ये घटना AI एक्टिविटी के उस बड़े पैटर्न को दर्शाती है जिसे OpenAI के कई चेक करने वाले और करीब से देखना चाहते थे. हालांकि, मामले से जुड़े चार लोगों के मुताबिक, जांच को आगे बढ़ाने के प्रयासों को OpenAI के भीतर ही विरोध का सामना करना पड़ा।
OpenAI के स्पोक्सपर्सन कहा, "ये दावा गलत है कि हमारी लीगल टीम ने इस घटना की जांच को रोका." उन्होंने आगे कहा कि जर्मनी की ये एक्टिविटी Hugging Face से जुड़ी नहीं थी. इसे Hugging Face की रिपोर्ट में शामिल नहीं किया जाता. उन्होंने ये भी जोड़ा कि OpenAI ने बाहरी एक्सपर्ट्स के साथ मिलकर सही नीयत से काम किया है और जरूरी घटनाओं का खुलासा किया है।