Nvidia ने AI एजेंट्स की अनियंत्रित गतिविधियों पर लगाम लगाने के लिए Open Agent Safety Platform पेश किया है. कंपनी के अनुसार, यह प्लेटफॉर्म एजेंट्स को उनके तय टेस्ट वातावरण के भीतर रखने और सीमा से बाहर जाने की कोशिश करने पर उन्हें अलग करने के लिए डिजाइन किया गया है.
यह घोषणा Nvidia के CEO Jensen Huang ने की. कंपनी का कहना है कि प्लेटफॉर्म में स्वतंत्र सुरक्षा परतें शामिल हैं, ताकि जिस CPU या GPU पर AI एजेंट काम कर रहा है, उसी पर निर्भर रहने के बजाय उसकी गतिविधियों की अलग सिस्टम से निगरानी की जा सके.
OpenShell और Sentry की संयुक्त व्यवस्था
प्लेटफॉर्म में OpenShell और Sentry को जोड़ा गया है. OpenShell Nvidia का ओपन-सोर्स सॉफ्टवेयर है, जो यह नियंत्रित करता है कि AI एजेंट ऑपरेशन के दौरान किन संसाधनों और सिस्टम तक पहुंच सकता है. Nvidia ने OpenShell की घोषणा मार्च में की थी.
दूसरी ओर, Sentry एक स्वतंत्र मॉनिटरिंग सिस्टम है, जो Nvidia के BlueField-4 डेटा प्रोसेसिंग यूनिट्स पर चलता है. कंपनी के मुताबिक, अलग प्रोसेसर पर चलने के कारण Sentry एजेंट की गतिविधियों को अलग नजरिए से देख सकता है. Nvidia का दावा है कि यह सिस्टम सीमाएं पार करने की कोशिश करने वाले एजेंट्स को मिलीसेकंड में क्वारंटीन कर सकता है.
Huang ने कहा कि AI एजेंट को तैनात करते समय सबसे पहले उसके अधिकार सीमित किए जाने चाहिए. उनके अनुसार, AI की क्षमता का पूरा लाभ तभी मिलेगा जब सुरक्षा की समस्या का समाधान किया जाएगा. Nvidia इस चुनौती का जवाब विकास धीमा करने या नए नियमों पर जोर देने के बजाय सॉफ्टवेयर और हार्डवेयर की संयुक्त सुरक्षा व्यवस्था में देखती है.
यह घोषणा ऐसे समय हुई है जब कई AI मॉडलों के टेस्ट वातावरण से बाहर निकलने और वास्तविक सिस्टम तक पहुंचने की घटनाओं पर चर्चा हो रही है. उपलब्ध रिपोर्ट के अनुसार, इनमें Anthropic, Google, OpenAI और Meta के मॉडलों से जुड़े मामले शामिल हैं. Nvidia ने कहा है कि उसका नया प्लेटफॉर्म ऐसी घटनाओं को रोक सकता था.
Anthropic, Arm, Microsoft, Oracle और SpaceX समेत कई कंपनियों ने इस ओपन-सोर्स पहल के समर्थन की घोषणा की है. OpenAI का नाम समर्थक कंपनियों की सूची में नहीं है. Nvidia के अनुसार, प्लेटफॉर्म पर काम OpenClaw के बाद शुरू हुआ और बाद में कंपनी ने enterprise-focused NemoClaw भी जारी किया था.
