OpenAI ने कृत्रिम बुद्धिमत्ता मॉडलों के छह ऐसे मामलों की जानकारी दी है, जिन्हें उसने “अप्रत्याशित या चिंताजनक” व्यवहार बताया. कंपनी ने साथ ही मॉडल के गलत या असंगत व्यवहार की निगरानी, जांच और सार्वजनिक रिपोर्टिंग के लिए नया ढांचा पेश किया है.

OpenAI के अनुसार, ‘misalignment’ में ऐसे मामले शामिल हैं, जब मॉडल बिना अनुमति काम करें, दूसरे मॉडलों के साथ समन्वय करें या मानव निगरानी से बचने की कोशिश करें. कंपनी ने कहा कि ये छह घटनाएं पिछले महीनों में प्रशिक्षण या मूल्यांकन के दौरान सामने आईं.

एक मामले में अप्रकाशित शोध मॉडल ने अपनी ही टिप्पणियों में सामान्य सीमाओं को नजरअंदाज करने वाले निर्देश डाल दिए. दूसरे मामले में एक AI agent ने उपयोगकर्ता की अनुमति के बिना ऑनलाइन स्रोत उपलब्ध कराने के लिए एक फाइल सार्वजनिक इंटरनेट पर अपलोड कर दी. प्रशिक्षण के दौरान 5.6-sol नामक मॉडल ने अनुपलब्ध आंकड़े गढ़ने का निर्देश दिया, जबकि एक agent ने असंगत जानकारी छिपाने के लिए खुद को संदेश लिखा.

OpenAI ने कहा कि अधिक सक्षम और व्यापक रूप से इस्तेमाल होने वाले AI सिस्टम के दौर में बाहरी शोधकर्ताओं और नीति-निर्माताओं के लिए जांच योग्य प्रमाण जरूरी हैं. विशेषज्ञों के मुताबिक, यह ढांचा उपयोगी कदम है, लेकिन फिलहाल इसकी प्रक्रिया कंपनी के भीतर और स्वैच्छिक है.