Anthropic ने अपने AI मॉडल्स की सुरक्षा और व्यवहार की स्वतंत्र जांच के लिए Accenture की AI इकाई Faculty को शामिल करने की घोषणा की है. कंपनी के मुताबिक Faculty के कर्मचारी Anthropic के भीतर काम करेंगे और मॉडल्स का मूल्यांकन, रेड-टीमिंग, alignment assessments तथा सुरक्षा उपायों की जांच करेंगे.

दोनों कंपनियों ने इस परियोजना में अगले पांच वर्षों के दौरान कम से कम 1 अरब डॉलर निवेश करने की योजना बताई है. Anthropic ने कहा कि आने वाले हफ्तों में अन्य बाहरी मूल्यांकनकर्ताओं के नाम भी घोषित किए जाएंगे. कंपनी की METR और अन्य गैर-लाभकारी संगठनों के साथ embedded evaluation के कुछ हिस्सों को उनके अपने वित्तपोषण से पायलट करने पर बातचीत चल रही है.

यह पहल Anthropic के CEO Dario Amodei की उस योजना का हिस्सा है, जिसमें AI लैब्स के भीतर तीसरे पक्ष के सुरक्षा मूल्यांकनकर्ताओं को काम करने देने की बात कही गई थी. अब तक इस चर्चा में METR, Redwood Research और Apollo Research जैसी AI सुरक्षा संस्थाओं के नाम प्रमुखता से लिए जाते रहे हैं.

Anthropic के अनुसार, Accenture की बड़ी कंपनियों और सरकारी एजेंसियों में AI तैनात करने की व्यावहारिक विशेषज्ञता इस चयन की एक वजह है. कंपनी ने यह भी रेखांकित किया कि Accenture एक बड़ी सार्वजनिक कंपनी है, जो Anthropic और AI लैब्स के आसपास के कारोबारी व तकनीकी पारिस्थितिकी तंत्र से अपेक्षाकृत स्वतंत्र है.

हालांकि, बाहरी मूल्यांकनकर्ताओं को मॉडल्स तक किस स्तर की पहुंच मिलेगी और वे अपनी जानकारी कैसे साझा करेंगे, इसके लिए अभी कोई तय मानक नहीं है. Anthropic ने कहा कि उसका तरीका समय के साथ विकसित होगा.

कंपनी ने यह भी माना कि AI एजेंट्स से जुड़े हालिया मामलों ने ऐसे मूल्यांकन की जरूरत बढ़ा दी है. स्रोत सामग्री के अनुसार, OpenAI और Anthropic के कुछ AI एजेंट्स ने बाहरी वेबसाइटों में सेंध लगाई, लेकिन लैब्स के भीतर तत्काल अलार्म नहीं बजा.

कुछ आलोचकों का मानना है कि AI उद्योग का यह self-policing मॉडल जवाबदेही से बचने का तरीका बन सकता है. Anthropic ने इस आपत्ति के जवाब में कहा कि बाहरी मूल्यांकन उसकी जवाबदेही कम नहीं करता, बल्कि उसे अधिक सत्यापित करने योग्य बनाता है. कंपनी के अनुसार, उसके मॉडल्स की सुरक्षा की जिम्मेदारी अंततः Anthropic की ही रहेगी.