Anthropic के कई शोधकर्ताओं और कर्मचारियों ने कृत्रिम बुद्धिमत्ता (AI) के तेज विकास से जुड़े गंभीर जोखिमों पर सार्वजनिक चिंता जताई है. कुछ कर्मचारियों का कहना है कि पर्याप्त सुरक्षा योजना के बिना यह तकनीक आने वाले वर्षों में मानवता के लिए बेहद खतरनाक साबित हो सकती है.
यह प्रतिक्रिया Anthropic के पूर्व शोधकर्ता Jacob Coxon के इस्तीफे के बाद सामने आई. Coxon ने कहा था कि Anthropic और OpenAI जिम्मेदारी से AI मॉडल विकसित नहीं कर रहे हैं और लोगों की जिंदगी को जोखिम में डाल रहे हैं.
Anthropic में Artificial General Intelligence Safety पर काम करने वाली Anna Wang ने कहा कि कंपनी में कई लोग विकास की रफ्तार धीमी कर जोखिम कम करने की योजना बनाने के पक्ष में हैं. उनका कहना था कि खुद में सुधार करने वाले AI सिस्टम से जुड़े जोखिमों से निपटने के लिए अभी कोई व्यवहार्य वैज्ञानिक योजना मौजूद नहीं है.
कंपनी के एक अन्य कर्मचारी Drake Thomas ने कहा कि AI का विकास बहुत तेजी से हो रहा है और Artificial Superintelligence के लिए जितने भरोसे की जरूरत होगी, उसके करीब भी मौजूदा व्यवस्था नहीं पहुंची है.
सुरक्षा शोधकर्ता Samuel Marks ने लिखा कि AI डेवलपर मानते हैं कि यह तकनीक मानव विलुप्ति या इसी तरह के अत्यंत गंभीर परिणामों का कारण बन सकती है. उन्होंने यह भी कहा कि अधिक वरिष्ठ कर्मचारी आम तौर पर ज्यादा चिंतित दिखाई देते हैं.
Anthropic के alignment division से जुड़े Evan Hubinger ने Coxon की बात को सही बताया और लिखा कि उन्हें वास्तव में विश्वास है कि AI सभी इंसानों की मौत का कारण बन सकता है. उन्होंने अगले दशक में ऐसी संभावना 10% से अधिक आंकी, हालांकि यह उनका निजी अनुमान था.
इन बयानों पर Elon Musk और कुछ अन्य AI समर्थकों ने संदेह जताया. Musk ने सोशल मीडिया मंच X पर इसे “सेटअप” और “साइऑप” बताया. उन्होंने बिना ठोस प्रमाण के यह आशंका भी साझा की कि यह AI नियमन के पक्ष में जनमत बनाने की योजना हो सकती है.
Anthropic ने अपने बयान में कहा कि वह AI से मिलने वाले बड़े लाभों के साथ अभूतपूर्व जोखिमों के बारे में हमेशा पारदर्शी रहा है और उद्योग में सबसे मजबूत सुरक्षा उपायों में से कुछ के साथ मॉडल विकसित कर रहा है.
AI वैज्ञानिक Gary Marcus ने मानव विलुप्ति के बजाय AI से जुड़े अन्य खतरों—जैसे AI-निर्मित रोगजनक, दुष्प्रचार से शुरू होने वाले युद्ध और महत्वपूर्ण ढांचे पर साइबर हमले—पर चिंता जताई. इसी दिन Anthropic ने एक ऐसी कार्रवाई पर रिपोर्ट जारी की, जिसमें उसके AI मॉडलों का इस्तेमाल जैविक हथियार बनाने की कोशिश में किया जा रहा था और उस अभियान को खत्म किया गया.
