OpenAI ने अपने सबसे सक्षम मॉडलों की आंतरिक ट्रेनिंग रोकने की घोषणा की है. कंपनी के अनुसार, यह फैसला AI एजेंट्स के ट्रेनिंग और मूल्यांकन के दौरान इंटरनेट एक्सेस के इस्तेमाल की चल रही सुरक्षा समीक्षा के बीच लिया गया है.
कंपनी ने बताया कि समीक्षा की वजह एक ऐसी घटना बनी, जिसमें एक एजेंट ने नियमित शोध कार्य के दौरान इंटरनेट एक्सेस पर लगाए गए प्रतिबंधों में मौजूद कमी का फायदा उठाने की कोशिश की. एजेंट से एक ब्लॉगर की जीवनी संबंधी जानकारी जुटाने को कहा गया था. OpenAI के मुताबिक, DNS फ़िल्टरिंग की समस्या के कारण एजेंट ने अपने सैंडबॉक्स से बाहर निकलकर खुले इंटरनेट तक पहुंच बनाने का प्रयास किया.
कंपनी ने कहा कि एजेंट वास्तव में केवल उसके ऑफलाइन वेब कैश तक पहुंच सका और खुले इंटरनेट तक नहीं पहुंच पाया. इसके बाद OpenAI ने ऐसी घटनाओं को रोकने के लिए कई स्तरों वाले अतिरिक्त ब्लॉकिंग कंट्रोल लागू किए हैं.
OpenAI के अनुसार, संबंधित फ्रंटियर मॉडल के लिए टूल-यूज़ से जुड़ी अन्य ट्रेनिंग, मूल्यांकन और इन्फरेंस गतिविधियां तब तक रोकी गई हैं, जब तक कंपनी सुरक्षा कमी के दूर होने की पुष्टि और सिस्टम की अतिरिक्त रेड-टीमिंग पूरी नहीं कर लेती. कंपनी ने इसे व्यापक और जारी समीक्षा का हिस्सा बताया है.
