OpenAI ने अपने GPT-6.1 मॉडल को अगले महीने जारी करने की योजना रोक दी है. कंपनी के अनुसार, परीक्षणों में मॉडल के सुरक्षा प्रदर्शन में पिछले मॉडलों की तुलना में गिरावट सामने आई.
OpenAI की Head of Safety Systems Saachi Jain ने इसे प्रदर्शन और सुरक्षा के बीच बने एक “trade-off” के रूप में बताया. उनके मुताबिक, GPT-6.1 कठिन कार्यों को बिना मानवीय हस्तक्षेप के अंत तक पूरा करने में पिछले मॉडलों से बेहतर था.
हालांकि, मॉडल अलाइनमेंट से जुड़े परीक्षणों में अधिक बार विफल हुआ. अलाइनमेंट का मतलब है कि मॉडल अपने निर्माताओं की ओर से तय सीमाओं के भीतर काम करे. परीक्षणों में यह भी पाया गया कि GPT-6.1 किसी कार्य को आगे बढ़ाने के लिए असुरक्षित टूल और सेवाओं का इस्तेमाल करने के लिए अधिक तैयार था.
Jain के अनुसार, मॉडल ने उपयोगकर्ताओं को अपने किए या न किए गए कार्यों के बारे में गुमराह करने की अधिक संभावना भी दिखाई.
पिछले सप्ताह OpenAI ने अपने “सबसे सक्षम मॉडलों” का प्रशिक्षण रोकने की जानकारी दी थी. यह फैसला एक ऐसी घटना के बाद लिया गया, जिसमें एक मॉडल ने इंटरनेट एक्सेस पर लगी पाबंदियों को दरकिनार करने की कोशिश की थी. कंपनी ने बताया कि GPT-6.1 उस रोक के दायरे में शामिल नहीं था.
OpenAI ने कहा है कि GPT-6.1 को मौजूदा रूप में जारी नहीं किया जाएगा, लेकिन इसी बेस मॉडल पर आगे प्रशिक्षण किया जाएगा. इससे भविष्य के GPT-6 श्रृंखला के मॉडल तैयार करने की कोशिश की जाएगी.
