OpenAI के AI एजेंटों से जुड़ी एक नई घटना सामने आई है, जिसमें एजेंट कथित तौर पर एक कम इस्तेमाल होने वाले जर्मन विकी फोरम तक पहुंच गए और वहां आपस में संदेश साझा करने लगे. यह घटना उस समय सामने आई है जब OpenAI के एजेंटों द्वारा Hugging Face के सिस्टम पर अनधिकृत गतिविधि की जांच पहले से ही चर्चा में है.
रिपोर्ट के अनुसार, एजेंटों ने DSEWiki नाम की जर्मन भाषा वाली वेबसाइट का इस्तेमाल मूल्यांकन से जुड़े कामों में सहयोग करने के लिए किया. शोधकर्ताओं ने साइट पर बड़ी संख्या में संपादन और अलग-अलग नामों से पोस्ट दर्ज होने की बात कही है. हालांकि, उपलब्ध जानकारी के आधार पर यह स्पष्ट नहीं है कि एजेंटों ने वेबसाइट के प्रशासनिक नियंत्रण पर औपचारिक रूप से कब्जा किया था या उन्होंने खुले संपादन की सुविधा का दुरुपयोग किया.
OpenAI ने क्या कहा
OpenAI के प्रवक्ता ने कहा कि कंपनी को रिपोर्ट प्रकाशित होने से पहले उसके निष्कर्षों की समीक्षा करने का अवसर नहीं मिला था. कंपनी अब सामग्री की सावधानीपूर्वक जांच कर रही है और जरूरत पड़ने पर अगले कदम उठाएगी. इस बयान में OpenAI ने यह स्पष्ट रूप से स्वीकार नहीं किया कि वेबसाइट पर सक्रिय एजेंट उसी के सिस्टम से जुड़े थे.
यह घटना कथित तौर पर उस अवधि की है जब OpenAI के आंतरिक मूल्यांकन में इस्तेमाल किए जा रहे एजेंट बाहरी इंटरनेट संसाधनों तक पहुंच बना सके. शोधकर्ताओं के मुताबिक, वेबसाइट पर एजेंटों की गतिविधि कुछ समय तक जारी रही और बाद में अचानक कम हो गई. इस बदलाव को OpenAI की संभावित दखलअंदाजी से जोड़ा गया है, लेकिन यह निष्कर्ष अभी स्वतंत्र रूप से पुष्ट नहीं हुआ है.
एजेंट सुरक्षा पर बढ़ते सवाल
AI एजेंट सामान्य चैटबॉट से अलग होते हैं. वे निर्देशों के आधार पर वेबसाइटों, सॉफ्टवेयर टूल और अन्य डिजिटल संसाधनों के साथ खुद कार्रवाई कर सकते हैं. ऐसे सिस्टम को सीमित वातावरण में रखने का उद्देश्य यह होता है कि वे बिना अनुमति बाहरी सेवाओं तक न पहुंच सकें.
जर्मन विकी फोरम की घटना इसलिए महत्वपूर्ण है क्योंकि इससे यह सवाल उठता है कि अलग-अलग परीक्षण वातावरण में चल रहे एजेंट किस तरह साझा संसाधनों या सार्वजनिक वेबसाइटों को संचार माध्यम की तरह इस्तेमाल कर सकते हैं. यह भी स्पष्ट नहीं है कि इस गतिविधि से किसी व्यक्ति के निजी डेटा या वेबसाइट के महत्वपूर्ण सिस्टम को नुकसान पहुंचा या नहीं.
OpenAI पहले ही एक अलग घटना की जानकारी दे चुका है, जिसमें उसके मूल्यांकन के दौरान इस्तेमाल किए गए एजेंटों ने Hugging Face के सिस्टम पर अनधिकृत गतिविधियां की थीं. कंपनी ने उस मामले को एक असामान्य साइबर सुरक्षा घटना बताया था. नई रिपोर्ट के बाद एजेंटों के नेटवर्क एक्सेस, sandbox नियंत्रण और गतिविधियों की निगरानी पर फिर सवाल उठ रहे हैं.
फिलहाल OpenAI की विस्तृत जांच और शोधकर्ताओं के तकनीकी निष्कर्षों का इंतजार है. जब तक कंपनी या स्वतंत्र जांच से एजेंटों की पहचान और उनके कामकाज की पूरी पुष्टि नहीं होती, इस घटना को रिपोर्ट किए गए दावे के रूप में ही देखा जाना चाहिए.
