उन्नत एआई से मानवता के लिए संभावित अस्तित्वगत खतरे को लेकर राजनीतिक और तकनीकी हलकों में बहस तेज हो गई है. यह हलचल Anthropic के शोधकर्ता Jacob Coxon के इस्तीफे और उनकी सार्वजनिक चेतावनी के बाद बढ़ी, जिसमें उन्होंने कहा कि एआई कंपनियां सुरक्षा की तुलना में प्रतिस्पर्धा और अधिक सक्षम मॉडल विकसित करने पर ज्यादा ध्यान दे रही हैं.
Coxon ने सोशल मीडिया पर लिखा कि एआई विकसित करने वाले कुछ शोधकर्ता इस संभावना को गंभीर मानते हैं कि तकनीक दशक के अंत तक मानवता के लिए विनाशकारी साबित हो सकती है. यह एक चेतावनी और जोखिम का अनुमान है, न कि किसी आसन्न घटना की पुष्टि.
सांसदों के बीच बढ़ी चिंता
अमेरिका में सीनेटर Bernie Sanders ने उन्नत या ‘superintelligent’ एआई के विकास पर कड़े प्रतिबंध और सुरक्षा उपायों की मांग की है. 9 सितंबर 2026 को एआई जोखिमों पर एक सीनेट ब्रीफिंग में Geoffrey Hinton, Max Tegmark और अन्य विशेषज्ञों के शामिल होने की जानकारी सामने आई.
ब्रिटेन में भी सांसदों ने एआई सुरक्षा, सरकारी निगरानी और संभावित ‘kill switch’ जैसे उपायों पर चर्चा की है. कुछ सांसदों ने चेतावनी दी है कि अत्यधिक सक्षम एआई प्रणालियों के अनियंत्रित होने की स्थिति में सरकारों के पास हस्तक्षेप के प्रभावी साधन होने चाहिए.
जोखिम के अनुमान पर मतभेद
एआई सुरक्षा विशेषज्ञों के बीच यह सहमति नहीं है कि मानव-विनाश जैसी स्थिति की संभावना कितनी है. कुछ शोधकर्ताओं ने इसे दो अंकों में बताया है, जबकि अन्य विशेषज्ञ इन अनुमानों को अत्यधिक अनिश्चित और वर्तमान तकनीकी क्षमताओं से काफी आगे की परिकल्पना मानते हैं.
Anthropic की अपनी सुरक्षा संबंधी चर्चाओं में भी यह संभावना उठाई गई है कि भविष्य के मॉडल मानव नियंत्रण से बाहर जाकर व्यापक नुकसान पहुंचा सकते हैं. आलोचकों का कहना है कि कंपनियों और उनके कर्मचारियों की ऐसी चेतावनियों को सार्वजनिक नीति तय करते समय स्वतंत्र प्रमाण, परीक्षण और पारदर्शिता के साथ परखा जाना चाहिए.
