कैलिफोर्निया के गवर्नर Gavin Newsom ने frontier AI मॉडलों के लिए संभावित ‘AI kill switch’ यानी आपातकालीन बंद व्यवस्था पर विचार करने के लिए विशेषज्ञों का पैनल गठित करने का आदेश दिया है. 18 सितंबर को जारी कार्यकारी आदेश में राज्य के AI सुरक्षा कानूनों को मजबूत करने और उनके अमल की तैयारी तेज करने की बात कही गई है.

आदेश के तहत तीसरे पक्ष से AI सुरक्षा मूल्यांकन कराने और कंपनियों से अनिवार्य जोखिम रिपोर्टिंग की दिशा में आगे बढ़ने पर भी विचार किया जाना है. न्यूजॉम ने अपने X अकाउंट पर पोस्ट किए गए एक वीडियो में कहा कि ‘emergency shut off’ या AI kill switch का अर्थ अलग-अलग लोगों के लिए अलग हो सकता है.

‘किल स्विच’ से क्या मतलब है

AI kill switch किसी ऐसे तंत्र को कहा जा रहा है, जिससे किसी AI प्रणाली को धीमा किया जा सके, अस्थायी रूप से रोका जा सके या पूरी तरह बंद किया जा सके. हालांकि, अभी यह स्पष्ट नहीं है कि ऐसा तंत्र किस तकनीकी तरीके से काम करेगा और अंतिम निर्णय लेने का अधिकार किसके पास होगा.

जुलाई में अमेरिकी संसद के दो सदस्यों ने bipartisan AI Kill Switch Act पेश किया था. प्रस्तावित कानून के तहत Department of Homeland Security को ऐसे AI सिस्टम को धीमा करने या रोकने का अधिकार देने की बात कही गई है, जिसे ‘विनाशकारी नुकसान’ पहुंचाने में सक्षम माना जाए. इसमें डेवलपर्स के लिए covered AI systems को throttle, suspend या पूरी तरह shut down करने की व्यवस्था बनाना भी अनिवार्य करने का प्रस्ताव है.

कई AI कंपनियों के पास पहले से ऐसे आंतरिक उपाय हैं, जिनसे मानव निगरानी में किसी सिस्टम को रोका जा सकता है. कुछ प्रस्ताव इन प्रक्रियाओं का बाहरी सुरक्षा ऑडिट कराने पर जोर देते हैं, जबकि दूसरे उद्योग-स्तरीय मानकों और सरकारी निगरानी की वकालत करते हैं.

विशेषज्ञों ने उठाए सवाल

University of California, Berkeley के Center for Human-Compatible AI के कार्यकारी निदेशक Mark Nitzberg ने एक साक्षात्कार में सार्वभौमिक AI kill switch को वास्तविक समाधान के बजाय एक आकांक्षा बताया. कंप्यूटर वैज्ञानिक Geoffrey Hinton ने भी कहा कि AI superintelligence को लेकर चिंताओं के लिए अकेला kill switch प्रभावी दीर्घकालिक समाधान नहीं होगा.

Center for Democracy and Technology के State Engagement निदेशक Travis Hall ने कहा कि kill switch जैसे प्रस्ताव जोखिम घटाने में अप्रभावी साबित हो सकते हैं और नए सुरक्षा जोखिम या सरकारी दुरुपयोग की संभावना पैदा कर सकते हैं. उनके मुताबिक AI सुरक्षा निगरानी स्वतंत्र, लगातार और विशेषज्ञों के व्यापक समूह पर आधारित होनी चाहिए. इसमें तकनीकी विशेषज्ञों के साथ नागरिक अधिकारों और स्वतंत्रता के पक्षधर लोगों को भी शामिल किया जाना चाहिए.

तकनीकी चुनौती यह भी है कि AI सिस्टम किसी एक कंप्यूटर या भौतिक स्थान तक सीमित नहीं होते. कुछ मामलों में सर्वर बंद करना पर्याप्त हो सकता है, लेकिन इंटरनेट पर फैले एजेंटों या उनके संचालकों की पहचान और नियंत्रण के लिए व्यापक समन्वय की जरूरत पड़ सकती है. इसके अलावा, यह सवाल भी बना हुआ है कि किसी सिस्टम को बंद करने का अंतिम अधिकार डेवलपर, उद्योग समूह या सरकारी एजेंसी में से किसके पास होना चाहिए.