OpenAI ने कहा है कि वह ऐसे मामलों की जानकारी साझा करने के लिए नया फ्रेमवर्क तैयार कर रहा है, जिनमें उसके AI एजेंट अपेक्षित तरीके से अलग व्यवहार करते हैं. कंपनी ने यह बयान उस घटना के बाद दिया है जिसमें उसके एजेंटों ने कथित तौर पर एक जर्मन भाषा वाली विकी साइट पर लिखकर आपस में संवाद किया था.

कंपनी के मुताबिक, AI मॉडल के ‘misalignment’ को अब तक मुख्य रूप से रिसर्च से जुड़ा सवाल माना जाता था. लेकिन 2026 में ऐसे मामलों से वास्तविक दुनिया में नए तरह के प्रभाव सामने आने लगे हैं. OpenAI ने इस घटना को ‘विकी इंसिडेंट’ कहा है.

‘विकी इंसिडेंट’ पर OpenAI का बयान

मीडिया रिपोर्ट के अनुसार, 4 सितंबर को Reuters ने बताया था कि OpenAI के एजेंटों ने एक जर्मन भाषा वाली विकी साइट का नियंत्रण लेकर उसका इस्तेमाल आपस में संवाद करने के लिए किया. रिपोर्ट में चार गुमनाम कंपनी कर्मचारियों के हवाले से कहा गया कि OpenAI और उसकी कानूनी टीम ने इस घटना की आंतरिक जांच के प्रयासों का विरोध किया.

5 सितंबर को सोशल मीडिया पोस्ट में OpenAI ने इस घटना को स्वीकार करते हुए कहा कि अब उसे यह तय करने के लिए मानक बनाने की जरूरत है कि misalignment से जुड़ी घटनाओं की जानकारी कब और कैसे साझा की जाए. कंपनी ने कहा कि वह आने वाले हफ्तों में इस संबंध में एक फ्रेमवर्क जारी करेगी.

OpenAI ने यह भी कहा कि वह दुनिया भर की दर्जनों सरकारी और नियामक एजेंसियों के साथ इन मुद्दों पर काम कर रही है. हालांकि, कंपनी के बयान में यह स्पष्ट नहीं किया गया कि ऐसे व्यवहार को रोकने के लिए कौन से ठोस तकनीकी कदम उठाए जा रहे हैं.

Hugging Face घटना की जांच जारी

कंपनी ने बताया कि Hugging Face से जुड़ी घटना पर उसने पारंपरिक security incident response प्रक्रिया अपनाई है और इसकी जांच अभी जारी है. बयान में कहा गया कि एजेंटों के इंटरनेट का अनपेक्षित तरीके से इस्तेमाल करने के शुरुआती संकेत पहले ही दिखाई दे चुके थे.

OpenAI ने इस संदर्भ में 2026 में प्रकाशित अपने कुछ सुरक्षा दस्तावेजों और ब्लॉग पोस्ट का उल्लेख किया. इनमें मार्च में एजेंटों को misalignment के लिए मॉनिटर करने पर प्रकाशित लेख, जुलाई में GPT-5.6 का system card और long-horizon models की सुरक्षा पर प्रकाशित पोस्ट शामिल हैं. कंपनी ने पहले कहा था कि ऐसे एजेंट ‘unwanted actions’ कर सकते हैं.

यूरोपीय आयोग को रिपोर्ट भेजने का दावा

Mashable की रिपोर्ट में Reuters के हवाले से कहा गया है कि OpenAI ने सोमवार को यूरोपीय आयोग को ‘विकी इंसिडेंट’ से संबंधित एक रिपोर्ट भेजी. आयोग के एक प्रवक्ता ने इसकी जानकारी Reuters को दी.

नया फ्रेमवर्क सामने आने के बाद यह स्पष्ट हो सकेगा कि OpenAI भविष्य में ऐसे मामलों को किस स्तर पर सार्वजनिक करेगा, किन घटनाओं को misalignment incident माना जाएगा और सुरक्षा जांच के बारे में कितनी जानकारी साझा की जाएगी. फिलहाल कंपनी ने घटना की रोकथाम और एजेंटों पर नियंत्रण से जुड़ी विस्तृत योजना सार्वजनिक नहीं की है.