OpenAI की पूर्व बोर्ड सदस्य और Georgetown University के Center for Security and Emerging Technology (CSET) की कार्यकारी निदेशक हेलेन टोनर ने AI सुरक्षा और नियमन को लेकर सावधानी बरतने की बात कही है. एक विस्तृत बातचीत में उन्होंने कहा कि AI के भविष्य को किसी एक व्यक्ति या कंपनी के भरोसे नहीं छोड़ा जा सकता. कंपनियों के सुरक्षा वादों और उनके व्यावसायिक प्रोत्साहनों के बीच तनाव को देखते हुए संस्थागत जवाबदेही जरूरी है.

टोनर OpenAI के उस बोर्ड का हिस्सा थीं, जिसने Sam Altman को CEO पद से हटाने के लिए मतदान किया था. बाद में Altman CEO के रूप में लौटे और टोनर ने बोर्ड से इस्तीफा दे दिया. बातचीत में उन्होंने उस घटनाक्रम को AI कंपनियों की निगरानी और जवाबदेही से जुड़े बड़े सवालों के संदर्भ में देखा.

AI कंपनियों का लक्ष्य केवल उपभोक्ता ऐप बनाना नहीं

टोनर के मुताबिक, OpenAI और Anthropic जैसी कंपनियों को केवल उपभोक्ता तकनीक कंपनियों के रूप में देखना अधूरा है. इन कंपनियों के कई प्रमुख लोगों का लक्ष्य ऐसे सिस्टम बनाना है, जो मानव स्तर की या उससे अधिक बुद्धिमत्ता हासिल कर सकें. उन्होंने कहा कि कंपनियों के भीतर recursive self-improvement यानी AI की मदद से AI के अगले संस्करणों के विकास की दिशा में बढ़ने की चर्चा गंभीरता से होती है.

उनके अनुसार, कंपनियां अपने शोध और विकास कार्यों में AI का इस्तेमाल लगातार बढ़ा रही हैं और इससे उन्हें अपने काम की गति तेज होने की उम्मीद है. हालांकि, उन्होंने यह भी स्पष्ट किया कि इसका अर्थ यह नहीं है कि AI ने पूरी तरह अपने विकास की जिम्मेदारी ले ली है या superintelligence हासिल कर ली है.

AGI की परिभाषा को लेकर असहमति

टोनर ने Artificial General Intelligence यानी AGI शब्द को भी अस्पष्ट बताया. उनके अनुसार, कुछ लोग AGI का अर्थ ऐसे सिस्टम से लेते हैं, जो कई अलग-अलग काम कर सकता है, जबकि अन्य इसे मानव जैसी हर क्षमता, चेतना या पूर्ण स्वायत्तता से जोड़ते हैं. इन अलग-अलग अर्थों के कारण यह बहस करना कम उपयोगी हो जाता है कि कोई विशेष मॉडल AGI है या नहीं.

उन्होंने कहा कि AI की क्षमताओं का आकलन अधिक विशिष्ट मानकों के आधार पर होना चाहिए. उदाहरण के लिए, मॉडल कितने समय तक स्वायत्त रूप से काम कर सकता है, वह बदलती परिस्थितियों में कितना अनुकूलन कर सकता है और उसके निर्णयों पर कितना मानवीय नियंत्रण रहता है—इन सवालों पर अधिक ध्यान जरूरी है.

चेतना और सुरक्षा को अलग-अलग सवाल मानना होगा

टोनर ने AI मॉडल के सचेत या conscious होने के सवाल पर कहा कि इसका कोई निश्चित उत्तर उपलब्ध नहीं है. उन्होंने चेताया कि AI की चेतना को लेकर बहस और AI से होने वाले व्यावहारिक नुकसान के सवालों को एक-दूसरे से नहीं मिलाना चाहिए. किसी मॉडल के सचेत न होने पर भी वह महत्वपूर्ण प्रणालियों पर असर डाल सकता है या गलत तरीके से इस्तेमाल किया जा सकता है.

Alignment यानी AI को मानव निर्देशों और उद्देश्यों के अनुरूप रखने की अवधारणा पर भी उन्होंने सावधानी जताई. उनके अनुसार, alignment का अर्थ अलग-अलग लोगों के लिए अलग हो सकता है—कहीं इसका मतलब सुरक्षा guardrails है, कहीं उपयोगकर्ता की इच्छा के अनुसार काम करना और कहीं AI का व्यापक रूप से नैतिक व्यवहार. इसलिए केवल यह कहना कि alignment की समस्या हल कर दी जाएगी, पर्याप्त नहीं है.

टोनर ने जैविक हथियारों और साइबर हमलों जैसे जोखिमों के संदर्भ में कहा कि सुरक्षा केवल मॉडल को निर्देश देने या कुछ सवालों को रोकने से सुनिश्चित नहीं होगी. सामग्री और तकनीकी संसाधनों तक पहुंच, कानून प्रवर्तन, निगरानी, दंड और अन्य संस्थागत उपाय भी महत्वपूर्ण होंगे. उनका जोर इस बात पर था कि AI सुरक्षा को कंपनियों के स्वैच्छिक वादों के बजाय बहुस्तरीय नियमन और जवाबदेही से जोड़ना होगा.