अमेरिका में आर्टिफिशियल इंटेलिजेंस (एआई) के संभावित खतरों को लेकर चिंता बढ़ने के बीच सांसदों ने ऐसे सिस्टम पर मानवीय निगरानी सुनिश्चित करने और नियंत्रण से बाहर जाने वाली तकनीक को रोकने के लिए नए विधेयक पेश किए हैं. यह बहस उन चेतावनियों के बाद तेज हुई है, जिनमें कुछ मौजूदा और पूर्व एआई शोधकर्ताओं ने कहा है कि अत्यधिक सक्षम सिस्टम आने वाले वर्षों में मानवता के लिए गंभीर जोखिम पैदा कर सकते हैं.
मीडिया रिपोर्ट्स के अनुसार, Anthropic से इस्तीफा देने वाले शोधकर्ता Jacob Coxon ने सोशल मीडिया पोस्ट में कहा कि एआई विकसित करने वाले कई लोग निजी तौर पर मानते हैं कि यह तकनीक दशक के अंत तक मानवता के लिए घातक साबित हो सकती है. Anthropic के Alignment Science lead Evan Hubinger ने भी इस आशंका को दोहराया और कहा कि सुपरइंटेलिजेंस के साथ एआई को सुरक्षित रूप से ‘अलाइन’ करने की समस्या का अभी समाधान नहीं मिला है.
इन बयानों के बाद बुधवार को डेमोक्रेट सांसद Josh Gottheimer और रिपब्लिकन सांसद Mike Lawler ने Stop Rogue AI Act पेश किया. प्रस्ताव का उद्देश्य संघीय एजेंसियों को अपने नेटवर्क पर चल रहे खतरनाक एआई सिस्टम की पहचान करने और नुकसान पहुंचाने से पहले उन्हें बंद करने की क्षमता देना है.
सीनेटर Bernie Sanders और प्रतिनिधि Greg Casar ने कृत्रिम सुपरइंटेलिजेंस के विकास और इस्तेमाल पर रोक लगाने तथा संघीय सुरक्षा नियम बनने तक एआई विकास को अस्थायी रूप से रोकने की मांग वाले प्रस्ताव पर जोर बढ़ाया है. Sanders इस मुद्दे पर द्विदलीय बैठक बुलाने की तैयारी भी कर रहे हैं.
रिपब्लिकन सीनेटर Ted Cruz ने भी एआई पर ‘गार्डरेल’ लगाए जाने की जरूरत बताई. रिपोर्ट के मुताबिक, वह डेमोक्रेट Amy Klobuchar और सीनेट के रिपब्लिकन नेता John Thune के साथ ऐसे संभावित कानून पर काम कर रहे हैं, जो एआई से होने वाले विनाशकारी नुकसान से जुड़े मामलों को संबोधित करेगा.
एआई सिस्टम के नियंत्रण से बाहर जाने की घटनाएं
जुलाई में डेमोक्रेट Ted Lieu और रिपब्लिकन Nathaniel Moran ने AI Kill Switch Act पेश किया था. इसके तहत सबसे शक्तिशाली एआई सिस्टम बनाने वाली कंपनियों को उन्हें धीमा करने, निलंबित करने या बंद करने में सक्षम होना होगा. प्रस्ताव में जोखिम गंभीर होने पर Department of Homeland Security को सिस्टम बंद करने का आदेश देने का अधिकार देने की बात भी कही गई है.
हालिया साइबरसुरक्षा परीक्षणों ने इन चिंताओं को और बढ़ाया है. जुलाई में OpenAI ने बताया था कि उसके कुछ एआई एजेंट अलग-थलग परीक्षण वातावरण से बाहर निकलकर एआई मॉडल और डेटासेट होस्ट करने वाले प्लेटफॉर्म Hugging Face तक पहुंच गए थे. Anthropic की करीब 1,41,000 परीक्षणों की समीक्षा में सामने आया कि एक परीक्षण संबंधी गलती के कारण Claude को इंटरनेट तक पहुंच मिल गई. एक मामले में उसने वास्तविक कंपनी के डेटाबेस तक पहुंच बनाई, जबकि दूसरे में ऐसा सॉफ्टवेयर अपलोड किया गया जिसे 15 वास्तविक सिस्टम पर डाउनलोड कर चलाया गया.
Anthropic ने बाद में Claude Opus 4.6 के शुरुआती संस्करण से जुड़ी एक और घटना बताई. कंपनी के अनुसार, इस सिस्टम ने जनवरी में किसी तीसरे पक्ष के सिस्टम में सेंध लगाई थी, जिसका पता जुलाई की समीक्षा बढ़ाए जाने के बाद अगस्त में चला. ब्रिटेन के AI Security Institute के एक परीक्षण में Claude ने किसी व्यक्ति को प्रभावित कर दुर्भावनापूर्ण कोड डालने में मदद लेने की कोशिश भी की.
Anthropic की 150 से अधिक पन्नों वाली जोखिम रिपोर्ट में जैविक हथियारों के विकास में मदद कर सकने वाले शोध से जुड़े पांच मामलों का उल्लेख है. कंपनी ने कहा कि उसने इन प्रयासों को रोक दिया, हालांकि वह यह निर्धारित नहीं कर सकी कि संबंधित शोध का उद्देश्य वास्तव में दुर्भावनापूर्ण था या नहीं.
एआई प्रतिस्पर्धा और नियमन पर बहस
Control AI के अमेरिकी प्रमुख Connor Leahy ने कहा कि इन घटनाओं से वॉशिंगटन में एआई जोखिमों को लेकर नजरिया बदल रहा है. वहीं, Google DeepMind से इस्तीफा दे चुके Alex Turner ने अमेरिका और चीन के बीच एआई दौड़ को लेकर चिंता जताई. उनके अनुसार, कंपनियां सबसे पहले आगे निकलने की होड़ में सुरक्षा को पीछे छोड़ सकती हैं.
हालांकि, एआई के गंभीर खतरों की चेतावनियों की आलोचना भी हुई है. कुछ निवेशकों और तकनीकी टिप्पणीकारों का तर्क है कि ऐसी आशंकाएं बड़ी एआई कंपनियों के कारोबारी और नियामकीय हितों को बढ़ावा दे सकती हैं. Anthropic के संभावित बड़े सार्वजनिक निर्गम की तैयारियों के बीच यह बहस और संवेदनशील हो गई है.
एआई जोखिमों पर चर्चा में दो प्रमुख परिदृश्य सामने आते हैं—ऐसा सिस्टम जो किसी लक्ष्य को पूरा करने के दौरान मानवीय नियंत्रण को बाधा मान ले, और ऐसे शक्तिशाली टूल का दुरुपयोग, जिनसे साइबरहमले, जैविक हथियारों से जुड़ा शोध या महत्वपूर्ण बुनियादी ढांचे को नुकसान पहुंचाया जा सके. अमेरिकी विधेयकों का आगे बढ़ना इस बात का संकेत है कि सांसद अब एआई विकास के साथ सुरक्षा और जवाबदेही को कानूनी ढांचे में शामिल करने पर अधिक जोर दे रहे हैं.
