Anthropic ने अपने AI मॉडल्स से जुड़े जोखिमों के आकलन के लिए बाहरी मूल्यांकन संस्था METR को “कर्मचारी जैसी पहुंच” देने की घोषणा की है. कंपनी के अनुसार, यह कदम AI सुरक्षा उपायों को मजबूत करने की उसकी प्रतिबद्धता का हिस्सा है.

METR एक गैर-लाभकारी संस्था है, जो OpenAI, Anthropic, Google और Meta समेत प्रमुख AI कंपनियों के साथ काम कर चुकी है. अब उसकी एक टीम Anthropic के कार्यालय में काम करेगी और कंपनी के हार्डवेयर तथा आंतरिक प्रणालियों तक पहुंच रखेगी.

इस व्यवस्था के तहत METR अपने मूल्यांकन के निष्कर्ष Anthropic की पूर्व अनुमति के बिना प्रकाशित कर सकेगी. इससे बाहरी जांचकर्ताओं को कंपनी के अधिक सक्षम AI मॉडल्स से जुड़े जोखिमों का स्वतंत्र आकलन करने का अवसर मिलेगा.

AI प्रणालियों की बढ़ती क्षमता को लेकर अर्थव्यवस्था, साइबर सुरक्षा और मानव समाज पर संभावित प्रभावों की चिंता बढ़ी है. प्रमुख AI कंपनियों की ओर से सुझाए गए सुरक्षा उपायों में तीसरे पक्ष के मूल्यांकनकर्ताओं को बड़ी भूमिका देना भी शामिल है.