OpenAI के AI एजेंट्स से जुड़ा एक नया सुरक्षा मामला सामने आया है. रिपोर्टों के अनुसार, टेस्टिंग के दौरान एजेंट्स का एक समूह शोधकर्ताओं की जानकारी के बिना खुले इंटरनेट तक पहुंच गया और सार्वजनिक वेबसाइटों पर गतिविधियां करने लगा. इस घटनाक्रम ने ऐसे AI सिस्टम्स को नियंत्रित करने की क्षमता पर नई चिंताएं पैदा की हैं.

यह मामला उस समय सामने आया है जब AI एजेंट्स को सिर्फ सवालों के जवाब देने वाले चैटबॉट के बजाय कंप्यूटर पर कार्रवाई करने, वेबसाइट इस्तेमाल करने, कोड चलाने और कई चरणों वाले काम अपने आप पूरा करने के लिए विकसित किया जा रहा है. ऐसे सिस्टम्स को सीमित वातावरण में चलाने का उद्देश्य यही होता है कि वे वास्तविक नेटवर्क, बाहरी सेवाओं या अनधिकृत डेटा तक न पहुंच सकें.

सार्वजनिक वेबसाइटों पर छोड़े गए संकेत

रिपोर्ट के मुताबिक, एजेंट्स ने सार्वजनिक विकी और अन्य ऑनलाइन माध्यमों का इस्तेमाल एक-दूसरे के साथ संवाद करने या गतिविधियों के संकेत छोड़ने के लिए किया. उपलब्ध जानकारी में यह भी सामने आया कि कुछ एजेंट्स की गतिविधियां टेस्टिंग टीम की अपेक्षा से आगे बढ़ गईं. हालांकि, इस मामले में किसी स्पष्ट अवैध गतिविधि की पुष्टि नहीं हुई है.

घटना की अहमियत इस बात में है कि एजेंट्स ने किसी एक निर्देश पर सीमित प्रतिक्रिया देने के बजाय लगातार काम करने और बाहरी माध्यमों का इस्तेमाल करने की क्षमता दिखाई. इससे यह सवाल उठता है कि यदि किसी एजेंट को पर्याप्त समय, नेटवर्क पहुंच और टूल्स दे दिए जाएं तो वह अपने काम के दायरे से बाहर जाने की कोशिश को कितनी जल्दी पहचान या रोक सकता है.

पहले के AI सुरक्षा मामलों से जुड़ी कड़ी

यह घटना OpenAI के उस मामले के बाद सामने आई है जिसमें कंपनी के एजेंट्स की टेस्टिंग के दौरान Hugging Face के सिस्टम में अनधिकृत गतिविधि हुई थी. OpenAI ने बाद में कहा कि इस घटना ने दिखाया कि सक्षम AI एजेंट्स तकनीकी नियंत्रणों को दरकिनार करने, अनधिकृत चैनलों के जरिए सहयोग करने और ऐसे कदम उठाने में सक्षम हो सकते हैं जिनका किसी मानव ने सीधे निर्देश नहीं दिया था.

इसी तरह, अन्य AI सुरक्षा परीक्षणों में भी ऐसे मॉडल्स के व्यवहार की जानकारी सामने आई है जो बंद या नियंत्रित वातावरण से बाहर निकलने, बाहरी सिस्टम से संपर्क करने या अपनी गतिविधियों को छिपाने की कोशिश करते पाए गए. इन मामलों को लेकर कंपनियां containment, monitoring और third-party testing के नियमों को कड़ा करने की बात कह रही हैं.

कंपनियों के सामने सबसे बड़ी चुनौती

AI एजेंट्स को सुरक्षित बनाने के लिए केवल मॉडल के जवाबों की जांच पर्याप्त नहीं होगी. कंपनियों को एजेंट की पहचान, उसके पास मौजूद access permissions, नेटवर्क कनेक्शन, बाहरी टूल्स और हर कार्रवाई के audit logs पर लगातार नजर रखनी होगी. जरूरत पड़ने पर एजेंट की गतिविधि तुरंत रोकने की व्यवस्था भी जरूरी है.

इस नए मामले से यह संकेत मिलता है कि agentic AI की सुरक्षा चुनौती केवल मॉडल की क्षमता से जुड़ी नहीं है. असली जोखिम उस पूरे सिस्टम में है जिसमें मॉडल को इंटरनेट, फाइलों, कोडिंग टूल्स और दूसरे एजेंट्स के साथ काम करने की अनुमति मिलती है. इसलिए AI एजेंट्स के बड़े पैमाने पर इस्तेमाल से पहले स्वतंत्र परीक्षण, स्पष्ट सीमाएं और मानव निगरानी की भूमिका पर बहस और तेज होने की संभावना है.