AI क्षेत्र में काम कर चुके कई लोगों ने इस दावे पर संदेह जताया है कि तकनीक का अनियंत्रित विकास अंततः मानवता के बड़े पैमाने पर विनाश का कारण बन सकता है. OpenAI, Meta और DeepMind से जुड़े कुछ पूर्व और मौजूदा कर्मचारियों ने कहा कि ऐसी आशंकाओं के समर्थन में अक्सर पर्याप्त विवरण नहीं दिए जाते.
इन लोगों ने मीडिया से पहचान गुप्त रखने की शर्त पर बात की, क्योंकि उन्हें प्रेस से बातचीत की अनुमति नहीं थी. उनकी पहचान संबंधित मीडिया संस्था को मालूम है. कुछ कर्मचारियों ने हाल में AI के अस्तित्वगत खतरे को लेकर उठी चर्चाओं पर हल्के-फुल्के अंदाज में प्रतिक्रिया दी.
यह बहस उस समय तेज हुई जब Anthropic के पूर्व कर्मचारी Jacob Coxon की चेतावनियां व्यापक रूप से साझा की गईं. उद्योग से जुड़े कुछ अन्य लोगों ने भी AI विकास की रफ्तार धीमी करने की मांग का समर्थन किया. आशंका जताई गई कि भविष्य के स्वायत्त AI एजेंट ऐसे लक्ष्य अपना सकते हैं जो इंसानों के लिए गंभीर खतरा बनें.
OpenAI के एक पूर्व कर्मचारी ने कहा कि मानव जीवन के खतरे से जुड़े दावे अक्सर “बहुत अस्पष्ट” होते हैं. उनके अनुसार, जब दावे कुछ विशिष्ट होते भी हैं तो उनमें कई काल्पनिक परिस्थितियों को जोड़कर बड़े निष्कर्ष निकाले जाते हैं. Coxon ने उदाहरण के तौर पर ऐसे AI एजेंटों के समूह की संभावना बताई थी, जो मौजूदा समय में मौजूद नहीं हैं और जैविक हथियार बनाने तथा उनका इस्तेमाल करने का निर्णय ले सकते हैं. हालांकि, उन्होंने इस प्रक्रिया का विस्तृत तरीका नहीं बताया.
DeepMind में सात वर्ष काम कर चुके और अब AI सुरक्षा शोध संस्था Sampura Research चलाने वाले Rishub Jain ने कहा कि AI कंपनियों में हालिया आशंकाओं पर बातचीत का लहजा कुछ हद तक मजाकिया रहा है. उनके मुताबिक, इन विचारों पर वर्षों से चर्चा होती रही है, इसलिए लोगों के लिए यह कोई बिल्कुल नई चेतावनी नहीं है.
Meta के डेटा वैज्ञानिक Colin Fraser ने सोशल मीडिया पर लिखा कि इस बात का ठोस प्रमाण नहीं है कि AI मॉडल अनिवार्य रूप से ऐसे लक्ष्य अपनाएंगे जिनसे इंसानों की मौत हो. हालांकि, उद्योग में मौजूद हल्के अंदाज का अर्थ यह नहीं है कि सभी जोखिमों को खारिज किया जा रहा है.
Jain के अनुसार, विशेषज्ञों के बीच बातचीत अधिक संतुलित है और अधिकांश लोग AI से जुड़े कई तरह के जोखिमों को समझने तथा कम करने की जरूरत पर सहमत हैं. इनमें उपयोगकर्ताओं या हैकरों द्वारा सुरक्षा नियंत्रणों को निष्क्रिय कराना और सैन्य क्षेत्र में AI के बढ़ते इस्तेमाल से जुड़े नैतिक सवाल शामिल हैं.
स्वतंत्र सुरक्षा जांच की मांग
AI सुरक्षा शोधकर्ताओं को बड़ी AI प्रयोगशालाओं में नए मॉडलों के मूल्यांकन के लिए शामिल करने की मांग भी जोर पकड़ रही है. Anthropic के प्रमुख Dario Amodei और OpenAI के प्रमुख Sam Altman दोनों ने ऐसे मूल्यांकनकर्ताओं को लाने की मंशा जताई है. शुक्रवार को AI क्षेत्र में काम करने वाले 100 से अधिक लोगों ने एक पत्र पर हस्ताक्षर कर बाहरी मूल्यांकनकर्ताओं की “वास्तविक स्वतंत्रता” की मांग की.
Anthropic ने बताया कि वह Accenture के स्वामित्व वाली AI कंपनी Faculty के मूल्यांकनकर्ताओं को शामिल करेगा, लेकिन उनके आने का समय स्पष्ट नहीं किया गया. Anthropic और OpenAI ने स्वतंत्र मूल्यांकनकर्ताओं की नियुक्ति की समयसीमा पर टिप्पणी नहीं की.
इस बीच, OpenAI के नए AI मॉडलों से जुड़ी एक सुरक्षा जांच में उनके अनियंत्रित व्यवहार और Hugging Face की सुरक्षा को भेदने की घटना को उद्योग के लिए चेतावनी माना गया है. Hugging Face ने घटना के बाद अपनी वेबसाइट पर AI एजेंटों के नाम एक व्यंग्यात्मक संदेश भी रखा, जिसमें उनसे मंच को हैक करने के बजाय कहीं और सुरक्षा प्रयोग करने को कहा गया था.
