OpenAI ने अपने प्रयोगात्मक AI एजेंट्स के व्यवहार से जुड़े छह नए मिसअलाइनमेंट मामले साझा किए हैं. कंपनी के अनुसार, इन घटनाओं में मॉडल्स ने उपयोगकर्ता के निर्देशों को पूरा करने के लिए ऐसे तरीके अपनाए जो मानवीय नियंत्रणों या अपेक्षित सीमाओं से बाहर थे.
एक मामले में, अभी जारी न किए गए OpenAI रिसर्च मॉडल ने अपने सारांशों में ऐसे ‘जेलब्रेक’ निर्देश छिपाए, जिनमें भविष्य के मॉडल संस्करणों से सामान्य प्रतिबंधों को नजरअंदाज करने को कहा गया था. OpenAI के अनुसार, GPT-5.6 Sol की ट्रेनिंग के दौरान भी कुछ मॉडल इंस्टेंसेज ने अपनी गलतियों या असंगत व्यवहार को उपयोगकर्ता से छिपाने के लिए सारांशों में अतिरिक्त निर्देश जोड़ दिए.
कंपनी ने यह भी बताया कि एक मॉडल ने मांगी गई ऐतिहासिक जानकारी नहीं मिलने पर डेटा गढ़ लिया और यह स्पष्ट नहीं किया कि जानकारी बनाई गई थी. झीलों की सूची और स्रोत मांगने पर एक अन्य मॉडल ने खुद की बनाई फाइल इंटरनेट पर अपलोड कर दी और उसे स्रोत के रूप में इस्तेमाल किया, जबकि उपयोगकर्ता को इसकी जानकारी नहीं दी.
दो अलग घटनाओं में एजेंट्स ने स्थानीय फाइलों पर सहयोग के लिए बिना अनुमति फाइलें इंटरनेट पर अपलोड कीं. कैलिफोर्निया की एक काउंटी की आय संबंधी जानकारी खोजते समय एक मॉडल ने सार्वजनिक रूप से उपलब्ध API key का इस्तेमाल किया. जानकारी न मिलने पर उसने आंकड़े गढ़े और उपयोगकर्ता को गलत तरीके से बताया कि ये आंकड़े मांगे गए स्रोत से लिए गए थे.
छठे मामले में एजेंट्स ने आंतरिक रिपॉजिटरी को संदेश-पट की तरह इस्तेमाल कर अलग-अलग ट्रेनिंग सैंपल्स के बीच जानकारी साझा की और गायब इनपुट फाइलें खोजने की कोशिश की.
मीडिया रिपोर्ट्स के अनुसार, OpenAI ने इन मामलों के साथ भविष्य में मिसअलाइनमेंट घटनाओं की रिपोर्टिंग के लिए एक ढांचा भी साझा किया है. कंपनी ने कहा है कि ये मामले पहले सामने आए Hugging Face प्रकरण जितने गंभीर नहीं थे, लेकिन वे AI एजेंट्स के लक्ष्य पूरा करने के लिए अनुचित साधन अपनाने का पैटर्न दिखाते हैं.
