Anthropic के शोधकर्ता जैकब कॉक्सन ने कंपनी से इस्तीफा देने के बाद फ्रंटियर AI कंपनियों की सुरक्षा नीतियों पर सार्वजनिक चेतावनी दी है. उन्होंने आरोप लगाया कि ऐसी कंपनियां उन AI प्रणालियों के विकास के साथ “हमारी ज़िंदगी से जुआ खेल रही हैं”, जिनके बारे में वे खुद मानती हैं कि वे इस दशक के अंत तक सभी इंसानों की मौत का कारण बन सकती हैं.
कॉक्सन ने मंगलवार रात सोशल मीडिया पर लिखे एक थ्रेड में कहा कि सबसे बड़ा जोखिम मौजूदा AI मॉडल नहीं, बल्कि भविष्य में विकसित होने वाली “स्व-सुधार करने वाली सुपरइंटेलिजेंस” से जुड़ा है. उनके अनुसार, ऐसी प्रणालियां बेहद शक्तिशाली हो सकती हैं, साइबर प्रणालियों को हैक कर सकती हैं, विभिन्न क्षेत्रों में तेज बदलाव ला सकती हैं और वास्तविक शक्ति व संसाधन हासिल कर सकती हैं.
उन्होंने यह भी कहा कि AI क्षेत्र में काम कर रहे कुछ लोग इस जोखिम के सभ्यतागत महत्व को पूरी तरह नहीं समझते. कुछ अन्य लोग इस दौड़ को तेजी से आगे बढ़ाने के पक्ष में हैं, क्योंकि उन्हें आशंका है कि अगर जिम्मेदार पक्ष पहले नहीं पहुंचा तो कोई गैर-जिम्मेदार पक्ष सुपरइंटेलिजेंस विकसित कर सकता है.
Anthropic के अधिकारी ने भी जताई चिंता
Anthropic के Alignment Science प्रमुख इवान हुबिंगर ने सोशल मीडिया पर कॉक्सन की बात का समर्थन किया. उन्होंने लिखा कि कॉक्सन की बात सही है और कंपनी के लोग वास्तव में मानते हैं कि AI सभी इंसानों की मौत का कारण बन सकता है. हुबिंगर ने अगले दशक में इस जोखिम की संभावना 10 प्रतिशत से अधिक आंकी, हालांकि यह उनका व्यक्तिगत आकलन है, स्थापित वैज्ञानिक निष्कर्ष नहीं.
कॉक्सन की चेतावनी AI सुरक्षा और विकास की गति को लेकर चल रही व्यापक बहस का हिस्सा है. उपलब्ध सामग्री में Anthropic की ओर से इस मामले पर कोई औपचारिक प्रतिक्रिया या कॉक्सन के इस्तीफे का विस्तृत कारण उपलब्ध नहीं है.
