Microsoft के CEO सत्या नडेला ने AI सिस्टम्स की सुरक्षा और नियंत्रण को लेकर नए ढांचे की जरूरत बताई है. शनिवार सुबह X पर एक पोस्ट में उन्होंने कहा कि अब AI के “ट्रस्ट आर्किटेक्चर” पर दोबारा विचार करने का समय आ गया है.

नडेला के अनुसार, अत्यधिक सक्षम AI या “सुपर इंटेलिजेंस” को केवल ऐसे ब्लैक बॉक्स के रूप में नहीं देखा जा सकता, जिसकी सिफारिशों, जवाबों और कार्रवाइयों को उपयोगकर्ता बिना पर्याप्त जानकारी के स्वीकार या खारिज कर दे.

उन्होंने मॉडल और उस सिस्टम को अलग रखने की बात कही, जो मॉडल के काम को निर्देशित करता है. उनके प्रस्ताव में नियंत्रण और सुरक्षा उपायों को मॉडल से बाहर रखना भी शामिल है, ताकि जरूरत पड़ने पर उन्हें स्वतंत्र रूप से लागू किया जा सके.

नडेला ने यह भी कहा कि मॉडल की हर महत्वपूर्ण कार्रवाई का छेड़छाड़-रोधी और इंसानों के लिए समझने योग्य रिकॉर्ड होना चाहिए. इसके अलावा, किसी अधिकृत व्यक्ति के पास मॉडल का काम बीच में रोकने या उसे बंद करने का अधिकार हमेशा मौजूद रहना चाहिए.

उन्होंने इस व्यवस्था की तुलना “इमरजेंसी ब्रेक” से की. उनका तर्क था कि AI मॉडल को शुरू से ही संभावित रूप से compromised मानकर उसके प्रभाव को सीमित करना चाहिए.

नडेला की यह टिप्पणी ऐसे समय आई है जब AI कंपनियां अपने सिस्टम पर नियंत्रण से जुड़ी चुनौतियों और घटनाओं को लेकर अधिक चर्चा कर रही हैं. Anthropic के CEO डारियो अमोदेई भी सावधानीपूर्ण AI विकास की योजना सार्वजनिक कर चुके हैं. हालांकि, नडेला की पोस्ट किसी नए Microsoft उत्पाद या बाध्यकारी नीति की घोषणा नहीं है; यह AI सुरक्षा के लिए उनके सुझाए गए सिद्धांतों का विवरण है.