OpenAI ने कहा है कि उसका आगामी AI मॉडल Astra कंपनी की तय की गई ‘क्रिटिकल’ साइबर क्षमता की सीमा तक पहुंच गया है. कंपनी के अनुसार, Astra वास्तविक सॉफ्टवेयर में पहले से अज्ञात कमजोरियां खोजने और उनका फायदा उठाने में सक्षम है. OpenAI इसे जल्द सार्वजनिक रूप से जारी करने की योजना बना रही है, लेकिन लॉन्च के समय इसकी उन्नत साइबर क्षमताएं चुनिंदा साझेदारों को ही दी जाएंगी.

कंपनी के सुरक्षा और सेफ्टी अधिकारियों ने पत्रकारों को बताया कि Astra ने OpenAI के Preparedness Framework में तय साइबर सुरक्षा मानक को पूरा किया है. इस ढांचे के तहत किसी मॉडल को ‘क्रिटिकल’ तब माना जाता है, जब वह वास्तविक दुनिया के सॉफ्टवेयर में नई कमजोरियां स्वतंत्र रूप से खोजकर उनका इस्तेमाल कर सके. OpenAI के मुताबिक, ऐसी स्थिति में उसकी प्रक्रिया आगे का विकास रोककर जरूरी सुरक्षा उपाय लागू करने की है.

प्रशिक्षण पर लगी रोक के बाद काम फिर शुरू

OpenAI ने इससे पहले Astra और एक अन्य भविष्य के मॉडल से जुड़े कुछ ट्रेनिंग वर्कलोड को कई हफ्तों के लिए रोकने की बात कही थी. कंपनी का कहना है कि अतिरिक्त सेफ्टी और सिक्योरिटी कंट्रोल लागू करने के बाद Astra पर काम फिर शुरू कर दिया गया है. OpenAI ने इस विराम को सुरक्षा तैयारियों के लिए उपयोगी बताया है और कहा है कि वह Astra को व्यापक रूप से सुरक्षित तरीके से जारी करने को लेकर आश्वस्त है.

Astra की खासियत केवल नई सॉफ्टवेयर कमजोरियां ढूंढना नहीं है. कंपनी के अनुसार, यह कई कमजोरियों को एक साथ जोड़कर ‘एक्सप्लॉइट चेन’ बना सकता है. इस तरह किसी सिस्टम में एक कमजोरी के जरिए प्रवेश करने के बाद दूसरी कमजोरियों का इस्तेमाल कर गहरी पहुंच हासिल की जा सकती है.

आम यूजर्स के लिए अतिरिक्त निगरानी

OpenAI का कहना है कि रोजमर्रा के यूजर्स को Astra की उन्नत साइबर क्षमताओं तक सीधे पहुंच से रोकने के लिए कई स्तरों वाली व्यवस्था लागू की जा रही है. इनमें ‘मिसअलाइनमेंट मॉनिटर’ नाम का नया सिस्टम भी शामिल है. उदाहरण के लिए, अगर कोई यूजर वास्तविक सॉफ्टवेयर में सेंध लगाने के लिए एक्सप्लॉइट तैयार करने में मदद मांगेगा, तो मॉडल से जवाब देने से इनकार करने की अपेक्षा होगी.

कंपनी ने यह भी कहा है कि Astra को jailbreak कोशिशों के खिलाफ अधिक मजबूत बनाया गया है और परीक्षणों में इसने पिछले मॉडलों की तुलना में असुरक्षित अनुरोधों को काफी अधिक दर पर ठुकराया. हालांकि OpenAI ने चेतावनी दी है कि मॉनिटर कभी-कभी वैध गतिविधि को भी साइबर दुरुपयोग या अनधिकृत व्यवहार समझ सकता है. ऐसे मामलों में ChatGPT और Codex यूजर्स से मॉडल की कार्रवाई की समीक्षा करने को कहा जा सकता है, जिससे प्रक्रिया धीमी, रुकी या पूरी तरह बंद हो सकती है.

चुनिंदा कंपनियों को पहले मिलेगा कम प्रतिबंधित संस्करण

OpenAI के Daybreak Blue early-access कार्यक्रम में शामिल साझेदारों को Astra का कम प्रतिबंधित संस्करण मिलेगा. इस संस्करण में साइबर सुरक्षा से जुड़ी अधिक मजबूत क्षमताएं होंगी. कार्यक्रम का उद्देश्य यह है कि डिजिटल इन्फ्रास्ट्रक्चर और सुरक्षा क्षेत्र की कंपनियां ऐसे AI मॉडल का इस्तेमाल अपनी सुरक्षा मजबूत करने के लिए कर सकें, इससे पहले कि समान क्षमताएं व्यापक रूप से उपलब्ध हों.

कंपनी के अनुसार, इस कार्यक्रम में Cisco, Cloudflare और Palo Alto Networks जैसी कंपनियां शामिल हैं. OpenAI ने यह भी कहा है कि वह सरकारी साझेदारों के साथ काम कर रही है, ताकि उन्हें Astra की साइबर क्षमताओं की जानकारी हो और जरूरत पड़ने पर वे इन तक पहुंच हासिल कर सकें.

OpenAI द्वारा साझा किए गए आंकड़ों के मुताबिक, Astra ने ExploitBench जैसे साइबर सुरक्षा बेंचमार्क पर 100 प्रतिशत अंक हासिल किए और GPT-5.6 Sol तथा Anthropic के Mythos जैसे मॉडलों से बेहतर प्रदर्शन किया. इन आंकड़ों का स्वतंत्र सत्यापन इस सामग्री में उपलब्ध नहीं है. कंपनी का यह भी कहना है कि Astra से जुड़ी क्षमताएं AI मॉडलों में बढ़ती साइबर क्षमता की व्यापक प्रवृत्ति का हिस्सा हैं.