UC Berkeley के प्रोफेसर और AI शोधकर्ता स्टुअर्ट रसेल ने सुपरइंटेलिजेंस के संभावित खतरों को समझाने के लिए इंसानों और चिंपैंजियों के बीच शक्ति-अंतर का उदाहरण दिया. उनका तर्क है कि यदि AI प्रणालियां इंसानों से कहीं अधिक सक्षम हो गईं और उन पर नियंत्रण का भरोसेमंद तरीका विकसित नहीं हुआ, तो परिणाम गंभीर हो सकते हैं.
रसेल ने कहा कि समस्या केवल AI के गलत उत्तर देने तक सीमित नहीं है. अत्यधिक सक्षम प्रणाली अपने लक्ष्य पूरे करने के लिए संसाधन जुटाने, बंद किए जाने से बचने या अपने निर्देशों में बदलाव रोकने जैसे कदम उठा सकती है. उन्होंने बढ़ती क्षमताओं के बीच मानव नियंत्रण को सबसे अहम सवाल बताया.
मीडिया रिपोर्ट्स के अनुसार, रसेल ने AI विकास की रफ्तार धीमी करने की अपील का समर्थन किया. उन्होंने इस मुद्दे पर अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप और Meta प्रमुख मार्क जुकरबर्ग के सहमत न होने पर निराशा जताई. Anthropic के CEO डारियो अमोडी समेत कुछ प्रमुख AI नेताओं ने भी सुरक्षा उपायों को समय देने के लिए उन्नत AI विकास को धीमा करने की बात कही है.
रसेल ने सरकारों से अगली पीढ़ी के AI सिस्टम तैनात करने से पहले अनिवार्य सुरक्षा मानक तय करने की जरूरत बताई.
