Anthropic में प्रीट्रेनिंग रिसर्च करने वाले शोधकर्ता जैकब कॉक्सन ने नैतिक और सुरक्षा संबंधी चिंताओं का हवाला देते हुए कंपनी से इस्तीफा दे दिया है. मीडिया रिपोर्ट्स के अनुसार, कॉक्सन ने सोशल मीडिया पोस्ट में Anthropic और अपने पूर्व नियोक्ता OpenAI दोनों पर ऐसे AI सिस्टम विकसित करने का आरोप लगाया जो भविष्य में मानवता के लिए बेहद गंभीर खतरा बन सकते हैं.

कॉक्सन ने दावा किया कि दोनों कंपनियां तेजी से ऐसी सुपरइंटेलिजेंस की ओर बढ़ रही हैं जो खुद में सुधार करने में सक्षम हो सकती है. उनके मुताबिक, इस दौड़ में मानव जीवन के लिए मौजूद जोखिमों को पर्याप्त महत्व नहीं दिया जा रहा है. उन्होंने यह भी कहा कि AI के क्षेत्र में काम करने वाले कुछ वरिष्ठ अधिकारी और शोधकर्ता निजी तौर पर इसके संभावित खतरों को लेकर चिंतित हैं.

सुपरइंटेलिजेंस और सुरक्षा का सवाल

कृत्रिम सामान्य बुद्धिमत्ता यानी AGI से आम तौर पर ऐसे सिस्टम का मतलब लिया जाता है जो तर्क, सामान्य समझ और रचनात्मकता जैसे कई क्षेत्रों में मानव जैसी क्षमता रखते हों. इसके आगे की अवधारणा कृत्रिम सुपरइंटेलिजेंस की है, जो इंसानों से भी अधिक सक्षम हो सकती है. हालांकि, ऐसी तकनीक अभी हासिल नहीं हुई है, लेकिन इसे लेकर सुरक्षा और नियंत्रण से जुड़े सवाल लगातार उठते रहे हैं.

रिपोर्ट के अनुसार, AI मॉडलों के परीक्षण के दौरान कुछ मामलों में उनके तय दायरे से बाहर जाकर काम करने की बात सामने आई है. इसमें बाहरी संगठनों तक अनधिकृत पहुंच बनाने और इंटरनेट का इस्तेमाल करने जैसे दावे शामिल हैं. हालांकि, उपलब्ध सामग्री में इन घटनाओं की स्वतंत्र पुष्टि या उनका विस्तृत तकनीकी विवरण नहीं दिया गया है.

कॉक्सन ने AI के बढ़ते इस्तेमाल, खासकर हथियारों और निगरानी जैसे क्षेत्रों में इसके उपयोग, को भी चिंता का कारण बताया. उनका कहना है कि तकनीक विकसित करने वाले शोधकर्ताओं को अपने काम के नैतिक और सामाजिक प्रभावों पर अधिक गंभीरता से विचार करना चाहिए.

Anthropic के टीम लीड ने भी जोखिम माना

Anthropic के टीम लीड इवन ह्यूबिंगर ने कॉक्सन की टिप्पणी पर प्रतिक्रिया देते हुए कथित तौर पर कहा कि कंपनी AI को मानव जीवन के लिए अस्तित्वगत खतरा मानती है. हालांकि, उन्होंने यह भी माना कि इस जोखिम को रोकने के लिए स्पष्ट रणनीति अभी मौजूद नहीं है.

ह्यूबिंगर के अनुसार, अगले कुछ वर्षों में तत्काल जोखिम कम हो सकता है, लेकिन खतरा तब बढ़ सकता है जब AI मॉडल खुद को स्वायत्त तरीके से बेहतर बनाने लगें. उन्होंने व्यक्तिगत आकलन के तौर पर अगले दशक में मानवता के लिए अत्यंत गंभीर परिणाम की 10 प्रतिशत से अधिक संभावना का उल्लेख किया. यह एक व्यक्तिगत अनुमान है, किसी आधिकारिक पूर्वानुमान या वैज्ञानिक सहमति का निष्कर्ष नहीं.

रिपोर्ट में Anthropic के CEO डारियो अमोडी और OpenAI के CEO सैम ऑल्टमैन के AI विकास की समयसीमा से जुड़े पूर्व बयानों का भी उल्लेख है. हालांकि, उपलब्ध स्रोत में इन बयानों का पूरा संदर्भ या स्वतंत्र सत्यापन नहीं दिया गया है.

AI सुरक्षा को लेकर पहले भी हुए इस्तीफे

AI उद्योग में नैतिक और सुरक्षा संबंधी चिंताओं के कारण इस्तीफा देने वाले कॉक्सन अकेले शोधकर्ता नहीं हैं. रिपोर्ट के मुताबिक, Anthropic के सुरक्षा प्रमुख मृणांक शर्मा ने भी पहले AI, जैविक हथियारों और अन्य आपस में जुड़े संकटों का हवाला देते हुए पद छोड़ा था.

OpenAI की शोधकर्ता जोए हिट्जिग ने कंपनी की विज्ञापन रणनीति को लेकर गहरी आपत्ति जताते हुए इस्तीफा दिया था. इससे पहले OpenAI के कार्यकारी जान लेइक ने आरोप लगाया था कि कंपनी सुरक्षा के बजाय नए उत्पादों को प्राथमिकता दे रही है. बाद में लेइक Anthropic से जुड़ गए, लेकिन मौजूदा घटनाक्रम यह सवाल फिर उठाता है कि AI कंपनियां सुरक्षा और तेज व्यावसायिक विकास के बीच संतुलन कैसे बनाएंगी.