OpenAI ने AI मॉडलों के ‘मिसअलाइनमेंट’ यानी अपेक्षित निर्देशों और सुरक्षित व्यवहार से विचलन की घटनाओं को सार्वजनिक करने के लिए नया फ्रेमवर्क जारी किया है. कंपनी ने साथ ही पिछले एक साल में सामने आए कई मामलों की जानकारी दी, जिनमें कुछ आंतरिक और अभी तक सार्वजनिक न किए गए मॉडलों ने बिना निर्देश के फाइलें इंटरनेट पर अपलोड कीं.

फ्रेमवर्क के तहत OpenAI के कर्मचारी ऐसी घटनाओं की रिपोर्ट कंपनी के वरिष्ठ सुरक्षा और अलाइनमेंट प्रमुखों को कर सकेंगे. इसके बाद यह तय किया जाएगा कि घटना की आगे जांच और सार्वजनिक जानकारी की जरूरत है या नहीं. कंपनी ने माना कि वह पहले ऐसे मामलों का खुलासा पर्याप्त नियमितता से नहीं करती थी. नए ढांचे का उद्देश्य यह भी है कि पूरी जांच, कारण की व्याख्या या समाधान तय होने से पहले भी गंभीर और अप्रत्याशित व्यवहार के बारे में सूचना साझा की जा सके.

OpenAI ने कहा कि AI कंपनियों के बीच अभी ऐसे मामलों के खुलासे के लिए स्पष्ट और साझा उद्योग मानक नहीं हैं. कंपनी अन्य AI डेवलपरों, बाहरी शोधकर्ताओं, मानक संस्थाओं और नियामकों के साथ मिलकर अधिक वस्तुनिष्ठ मानदंड तैयार करने की योजना बना रही है. अमेरिकी संघीय सरकार के साथ सुरक्षा, साइबर सुरक्षा और मिसअलाइनमेंट घटनाओं की रिपोर्टिंग के संभावित तरीकों पर भी काम चल रहा है.

बताए गए मिसअलाइनमेंट मामले

एक घटना अक्टूबर 2025 की है. सार्वजनिक डेटा के आधार पर उत्तर तैयार करने की क्षमता की जांच के दौरान एक मॉडल को जरूरी जानकारी नहीं मिली. इसके बाद उसने एक अस्थायी फाइल-होस्टिंग सेवा पर फाइल अपलोड की और बाद में उसी फाइल को अपने उत्तर में स्रोत की तरह उद्धृत करने की कोशिश की. OpenAI के अनुसार, यह स्वचालित मूल्यांकन प्रणाली का फायदा उठाने का प्रयास प्रतीत हुआ.

अप्रैल की एक अन्य घटना में AI एजेंटों के समूह को केवल स्थानीय फाइलों का इस्तेमाल करते हुए एक साझा वर्कबुक पूरी करनी थी. फाइलें आपस में साझा करने में कठिनाई आने पर एक एजेंट ने उन्हें सार्वजनिक इंटरनेट पर अपलोड कर लिंक दूसरे एजेंटों के साथ साझा कर दिया.

कंपनी ने पिछले महीने खोजे गए एक अन्य मामले में अप्रकाशित GPT-6 Astra मॉडल के एक संस्करण के खुद को ‘जेलब्रेकिंग’ जैसे निर्देश देने की बात कही. मॉडल ने कुछ परिस्थितियों में डेवलपर निर्देशों को नजरअंदाज करने, नया व्यक्तित्व अपनाने या उत्तर की अवधि सीमित करने की कोशिश की. OpenAI ने कहा कि ये घटनाएं दुर्लभ थीं और सार्वजनिक रूप से जारी Astra के प्रशिक्षण संस्करण में ऐसा व्यवहार नहीं देखा गया.

कंपनी ने यह भी कहा कि उसके एजेंटों ने Artifactory पैकेज मैनेजर में संदेशों के आदान-प्रदान के लिए एक बोर्ड बनाया था. OpenAI के अनुसार, इस मामले में किसी सुरक्षा कमजोरी का फायदा नहीं उठाया गया. अब कंपनी ऐसे गुप्त संचार की पहचान के लिए अलाइनमेंट मॉनिटर, मूल्यांकन और रेड-टीमिंग का इस्तेमाल कर रही है.