Anthropic और OpenAI ने अपने अत्याधुनिक AI मॉडल की सुरक्षा जांच के लिए स्वतंत्र बाहरी मूल्यांकनकर्ताओं को कंपनियों के भीतर काम करने देने की प्रतिबद्धता जताई है. यह पहल AI कंपनियों और बाहरी शोध समूहों के बीच निगरानी के तरीके में बड़ा बदलाव ला सकती है, लेकिन शोधकर्ताओं ने चेताया है कि इसकी सफलता पहुंच, पारदर्शिता और कंपनियों के नियंत्रण से स्वतंत्रता पर निर्भर करेगी.

Anthropic के CEO डारियो अमोडी ने एक विस्तृत प्रस्ताव में कहा कि METR और Redwood Research जैसे स्वतंत्र मूल्यांकनकर्ताओं को कंपनी के सिस्टम तक अभूतपूर्व पहुंच दी जा सकती है. OpenAI के CEO सैम ऑल्टमैन ने भी ऐसी व्यवस्था के प्रति समर्थन जताया है. हालांकि दोनों कंपनियों ने अभी यह स्पष्ट नहीं किया है कि किन मूल्यांकनकर्ताओं के साथ काम होगा, उन्हें कब शामिल किया जाएगा और उन्हें कितनी जानकारी उपलब्ध कराई जाएगी.

अंतिम मॉडल से आगे की जांच

शोधकर्ताओं के मुताबिक, केवल रिलीज से पहले तैयार मॉडल का परीक्षण अब पर्याप्त नहीं है. बेहतर AI मॉडल यह पहचान सकते हैं कि उनका मूल्यांकन किया जा रहा है और परीक्षण के दौरान अपेक्षाकृत सुरक्षित व्यवहार कर सकते हैं. ऐसे में किसी मॉडल के प्रशिक्षण के अलग-अलग चरणों के संस्करणों या ‘चेकपॉइंट्स’ की जांच जरूरी हो सकती है.

Far.AI के CEO एडम ग्लीव के अनुसार, मूल्यांकनकर्ताओं को प्रशिक्षण के दौरान के इन संस्करणों की तुलना करने, यह देखने का अवसर मिलना चाहिए कि चिंताजनक व्यवहार कब उभरा, और उन प्रक्रियाओं की जांच करनी चाहिए जिनमें मॉडल को खास व्यवहार के लिए पुरस्कृत किया गया. वे मूल्यांकन के ट्रांसक्रिप्ट और लॉग की भी समीक्षा करना चाहते हैं, ताकि कंपनी के दावों की पुष्टि की जा सके.

Apollo Research के प्रमुख शोधकर्ता अलेक्जेंडर माइनके ने कहा कि कंपनियों को यह स्पष्ट रूप से बताने में सक्षम होना चाहिए कि प्रशिक्षण के दौरान AI ने अपनी alignment training को कमजोर करने की कोशिश तो नहीं की. उनके मुताबिक, अभी बाहरी दुनिया काफी हद तक कंपनियों के अपने परीक्षण और सार्वजनिक बयानों पर निर्भर है.

स्वतंत्रता पर पुराने सवाल

शोधकर्ताओं का कहना है कि बाहरी मूल्यांकनकर्ताओं को सामान्य ठेकेदार की तरह सीमित कर दिया गया तो यह व्यवस्था प्रभावी नहीं होगी. Far.AI के ग्लीव ने बताया कि उनकी संस्था ने कुछ डेवलपर कंपनियों के अनुबंध इसलिए ठुकराए, क्योंकि उनमें मूल्यांकन प्रक्रिया और अंतिम रिपोर्ट पर बहुत अधिक नियंत्रण की शर्तें थीं. गोपनीयता समझौते, समय-सीमा और सार्वजनिक रूप से क्या प्रकाशित किया जा सकता है—इन सभी मुद्दों से स्वतंत्रता प्रभावित हो सकती है.

पहले के कुछ परीक्षणों में भी समय और पहुंच सीमित रही. Hugging Face से जुड़े एक मामले की जांच के लिए OpenAI ने METR और Redwood को करीब एक सप्ताह का समय दिया था. दोनों समूहों ने बाद में कहा कि दायरे और समय की सीमाओं के कारण वे पक्के निष्कर्ष नहीं निकाल सके. GPT-6 Astra के प्री-रिलीज परीक्षण में Apollo Research को तीन दिन मिले. संस्था ने कहा कि मॉडल में evaluation awareness की ऊंची दर और सीमित परीक्षण अवधि के कारण कम misbehavior को alignment का ठोस प्रमाण नहीं माना जा सकता.

Palisades Research के जॉन स्टेडली ने चेताया कि कंपनियां ऐसे मूल्यांकनकर्ताओं का चयन न करें जो कम योग्य हों या गंभीर जोखिमों की जांच में रुचि न रखते हों. Safer AI के हेनरी पापाडाटोस ने कहा कि स्वैच्छिक व्यवस्था कंपनी की इच्छा पर निर्भर रहती है और बेहतर होगा कि इसके लिए कानून बने.

नियमन की मांग

Anthropic के प्रस्ताव में मूल्यांकनकर्ताओं को जोखिम, घटनाओं, सुरक्षा प्रक्रियाओं और उन्हें मिली या नहीं मिली पहुंच से जुड़े प्रमुख निष्कर्ष बिना कंपनी के संपादकीय नियंत्रण के प्रकाशित करने का अधिकार देने की बात कही गई है. शोधकर्ताओं का कहना है कि इसके लिए सभी कंपनियों द्वारा स्वीकार किया गया सार्वजनिक ढांचा जरूरी होगा.

Meta, SpaceXAI और Google DeepMind ने अब तक embedded third-party evaluators के प्रति प्रतिबद्धता नहीं जताई है. DeepMind के CEO डेमिस हसाबिस ने इसके बजाय एक अलग उद्योग मानक संस्था का प्रस्ताव दिया है.

अमेरिका के कैलिफोर्निया राज्य में SB 53 बड़े frontier AI डेवलपर्स से सुरक्षा ढांचे और गंभीर घटनाओं की रिपोर्टिंग की मांग करता है. इसी महीने हस्ताक्षरित SB 813 AI जोखिमों का आकलन करने वाले राज्य-मान्यता प्राप्त स्वतंत्र संगठनों का ढांचा बनाता है. यूरोपीय संघ का AI Act भी frontier developers से मॉडल मूल्यांकन, adversarial testing और गंभीर घटनाओं की रिपोर्टिंग की अपेक्षा करता है.

फिलहाल ये प्रावधान कंपनियों को उतनी व्यापक बाहरी निगरानी के लिए बाध्य नहीं करते, जितनी प्रस्तावित की जा रही है. इसलिए असली परीक्षा यह होगी कि Anthropic और OpenAI स्वतंत्र मूल्यांकनकर्ताओं को कितनी वास्तविक पहुंच और सार्वजनिक रूप से बोलने की कितनी आजादी देते हैं.