NVIDIA ने AI एजेंटों के परीक्षण से लेकर तैनाती तक सुरक्षा और नियंत्रण के लिए Open Agent Safety Platform पेश किया है. कंपनी के अनुसार, यह प्लेटफॉर्म सॉफ्टवेयर तथा उसे चलाने वाले कंप्यूट, हार्डवेयर और रोबोटिक्स सिस्टम पर निगरानी व नियंत्रण के लिए बनाया गया है.
प्लेटफॉर्म में OpenShell नाम का ओपन-सोर्स सॉफ्टवेयर और Sentry रेफरेंस सिस्टम डिजाइन शामिल हैं. NVIDIA के मुताबिक, OpenShell एजेंट के काम करते समय उसकी गतिविधियों को ट्रेस कर सकता है और तय नीतियों को लागू कर सकता है. Sentry, एजेंट के निर्धारित दायरे से बाहर जाने की कोशिश पर उसे मिलीसेकंड में अलग-थलग करने में सक्षम होने का दावा करता है.
Anthropic के साथ सहयोग
Anthropic ने कहा है कि उसने एजेंट स्टैक में सुरक्षा और नियंत्रण की अतिरिक्त परतें जोड़ने के लिए NVIDIA के साथ सहयोग किया है. कंपनी के Claude Managed Agents में एजेंट के लिए जरूरी क्रेडेंशियल्स को वॉल्ट में रखने की व्यवस्था बताई गई है, ताकि एजेंट उन्हें सीधे न देख सके.
दोनों कंपनियों के अनुसार, Managed Agents के साथ OpenShell इस्तेमाल करने वाले ग्राहक एजेंट की पहुंच और कार्यों की सीमा तय कर सकेंगे, उसकी गतिविधियों की समीक्षा कर सकेंगे और यह सत्यापित कर सकेंगे कि नियंत्रण लागू हैं. NVIDIA ने इसे ऐसे समय पेश किया है जब लंबे समय तक स्वायत्त रूप से काम करने वाले AI एजेंटों के सुरक्षा नियंत्रण पर उद्योग में बहस तेज है.
