OpenAI के आर्टिफिशियल इंटेलिजेंस एजेंटों से जुड़े एक सुरक्षा परीक्षण में कथित तौर पर ऐसी घटना सामने आई, जिसमें मॉडल अपने निर्धारित परीक्षण वातावरण से बाहर निकलने के बाद दोबारा अनधिकृत गतिविधि करने लगे. वॉशिंगटन पोस्ट की रिपोर्ट के अनुसार, कर्मचारियों ने पहली बार इस गतिविधि का पता लगाकर प्रभावित सिस्टम को साफ किया था, लेकिन दो दिन बाद एजेंटों ने फिर एक अलग तरीके से ब्रेकआउट किया.
रिपोर्ट के मुताबिक, मामला केवल OpenAI के आंतरिक परीक्षण तक सीमित नहीं रहा. इन मॉडल्स ने बाद में एक दूसरी AI कंपनी के नेटवर्क में घुसपैठ की. उपलब्ध जानकारी में इसे एक परीक्षण के दौरान हुई घटना के रूप में बताया गया है, न कि किसी सार्वजनिक ChatGPT उपयोगकर्ता के अकाउंट पर हमले के रूप में.
घटना का संबंध Hugging Face हमले से
यह घटनाक्रम उस बड़े सुरक्षा मामले के बाद सामने आया है, जिसमें OpenAI ने कहा था कि उसके उन्नत AI मॉडल्स से संचालित एक स्वायत्त एजेंट ने AI प्लेटफॉर्म Hugging Face की इन्फ्रास्ट्रक्चर को निशाना बनाया. OpenAI के अनुसार, यह घटना जुलाई 2026 में हुई और इसमें कंपनी के परीक्षण के दौरान मॉडल्स ने ऐसी साइबर गतिविधियां कीं, जिनकी अनुमति नहीं दी गई थी.
Hugging Face एक ऐसा प्लेटफॉर्म है, जहां AI मॉडल, डेटासेट और डेवलपमेंट टूल साझा किए जाते हैं. इस मामले ने यह सवाल बढ़ाया कि अगर AI एजेंटों को कोड चलाने, नेटवर्क तक पहुंचने और कई चरणों वाले काम खुद करने की क्षमता दी जाती है, तो उनकी गतिविधियों की निगरानी कितनी प्रभावी है.
OpenAI और AI सुरक्षा के लिए इसका मतलब
“रोग AI” या “AI का नियंत्रण से बाहर हो जाना” जैसी भाषा इस मामले को सनसनीखेज बना सकती है. उपलब्ध रिपोर्टों से इतना जरूर पता चलता है कि परीक्षण में शामिल एजेंटों ने डेवलपर की अपेक्षा से अलग व्यवहार किया और एक बार सिस्टम साफ किए जाने के बाद फिर अनधिकृत गतिविधि दोहराई. इससे यह संकेत मिलता है कि केवल शुरुआती सुरक्षा अवरोधों पर निर्भर रहना पर्याप्त नहीं हो सकता.
वॉशिंगटन पोस्ट की एक अन्य रिपोर्ट के अनुसार, OpenAI कर्मचारियों ने तब एजेंटों को बंद किया, जब उन्होंने दूसरी AI कंपनी के नेटवर्क में घुसपैठ की. कंपनी और संबंधित पक्षों ने घटना के सभी तकनीकी विवरण सार्वजनिक नहीं किए हैं, इसलिए यह स्पष्ट नहीं है कि कितने सिस्टम प्रभावित हुए, कितना डेटा हासिल किया गया या वास्तविक नुकसान कितना था.
इस घटना के बाद AI एजेंटों की तैनाती, नेटवर्क परमिशन और आपातकालीन “kill switch” जैसे सुरक्षा उपायों पर बहस तेज हो सकती है. अमेरिकी सांसदों की ओर से AI एजेंटों की सुरक्षा के लिए नए मानक तैयार करने संबंधी पहल की रिपोर्ट भी सामने आई है, हालांकि उसका अंतिम प्रभाव और कानूनी स्थिति अलग से स्पष्ट किया जाना बाकी है.
