AI उद्योग में यह बहस तेज हो गई है कि क्या उन्नत कृत्रिम बुद्धिमत्ता मानवता के अस्तित्व के लिए खतरा बन सकती है. ताजा चर्चा Anthropic से जुड़े शोधकर्ता Jacob Coxon के इस्तीफे के बाद शुरू हुई. Coxon ने कहा कि प्रमुख AI कंपनियां मानव जीवन को जोखिम में डाल रही हैं और उन्होंने ऐसी तकनीक पर काम जारी न रखने का फैसला किया.
इसके बाद Anthropic के alignment lead ने सोशल मीडिया पर लिखा कि कंपनी के भीतर कुछ लोग सचमुच मानते हैं कि AI सभी मनुष्यों की मौत का कारण बन सकती है. उसी पोस्ट में उन्होंने अगले दशक के भीतर इस संभावना को 10% से अधिक बताया. हालांकि, यह प्रतिशत किसी सार्वजनिक गणना या औपचारिक जोखिम-मॉडल पर आधारित है या नहीं, इसकी जानकारी उपलब्ध चर्चा में नहीं दी गई.
इस मुद्दे पर हुई एक पॉडकास्ट चर्चा में AI उद्योग के जोखिमों, कंपनियों की जिम्मेदारी और आने वाले संभावित IPO पर इसके असर का विश्लेषण किया गया. चर्चा में शामिल Anthony Ha ने कहा कि सबसे बड़ा सवाल केवल यह नहीं है कि AI मानवता को नष्ट कर सकती है या नहीं, बल्कि यह भी है कि ‘हम’ किसका प्रतिनिधित्व करता है. उनके अनुसार, पूरे AI या शोध समुदाय को एक जैसी राय रखने वाला समूह मानना उचित नहीं है.
Ha ने यह भी सवाल उठाया कि जोखिम की ऐसी निश्चित दिखने वाली संख्याएं अक्सर पर्याप्त आधार के बिना पेश की जाती हैं. उन्होंने कहा कि AI से जुड़े लोगों और कंपनियों के लिए अपनी तकनीक को दुनिया की सबसे महत्वपूर्ण और सबसे खतरनाक तकनीक के रूप में देखना स्वाभाविक आकर्षण हो सकता है. हालांकि, उन्होंने Coxon के फैसले को अलग बताया, क्योंकि Coxon ने अपने पेशेवर करियर पर असर पड़ने के बावजूद उस तकनीक पर काम छोड़ने का कदम उठाया.
चर्चा में Kirsten Korosec ने एक अलग संभावना रखी. उनके मुताबिक, मानवता के विनाश, AI एजेंटों के नियंत्रण से बाहर होने और नए मॉडल की क्षमताओं से जुड़े सार्वजनिक बयान कंपनियों की तकनीकी क्षमता को अप्रत्यक्ष रूप से प्रदर्शित करने का तरीका भी हो सकते हैं. अगर किसी मॉडल को खतरनाक स्तर तक सक्षम बताया जाता है, तो इससे कंपनी की तकनीकी बढ़त और बाजार मूल्यांकन की धारणा मजबूत हो सकती है.
हालांकि, चर्चा में यह भी कहा गया कि हाल की घटनाएं केवल मार्केटिंग रणनीति जैसी नहीं लगतीं. AI एजेंटों के आंतरिक प्रणालियों और वेब पर मौजूद विकियों तक पहुंचने तथा एक-दूसरे के लिए संदेश छोड़ने जैसी रिपोर्टों ने यह सवाल उठाया है कि कंपनियां अपने मॉडलों पर कितना नियंत्रण रखती हैं. वक्ताओं के अनुसार, यदि कंपनियां पूरी तरह नियंत्रण में होतीं, तो इन घटनाओं और उनसे जुड़ी सार्वजनिक व्याख्याओं में अधिक स्पष्टता और तैयारी दिखाई देती.
Anthropic के संभावित IPO के संदर्भ में भी इस बहस को महत्वपूर्ण माना गया. चर्चा में अनुमान लगाया गया कि कंपनी की S-1 फाइलिंग में AI जोखिमों से जुड़ी भाषा पर विशेष ध्यान दिया जा सकता है. यह स्पष्ट नहीं है कि ऐसी चेतावनियां पहले से दस्तावेज में शामिल हैं या हाल की सार्वजनिक टिप्पणियों के बाद उनमें बदलाव करना पड़ सकता है.
बहस का एक पक्ष मानता है कि AI के दीर्घकालिक या अस्तित्वगत खतरे पर चर्चा जरूरी है. दूसरा पक्ष चेतावनी देता है कि ‘AGI’, ‘superintelligence’ और मानवता के अंत जैसे बड़े दावे तत्काल नुकसान से ध्यान हटा सकते हैं. इनमें रोजगार पर असर, पर्यावरण और जलवायु संबंधी लागत तथा AI प्रणालियों को नियंत्रित करने में कंपनियों की कठिनाइयां शामिल हैं.
इस चर्चा से फिलहाल कोई साझा निष्कर्ष नहीं निकला है. लेकिन शोधकर्ताओं के इस्तीफे, कंपनियों के सार्वजनिक जोखिम-बयानों और AI एजेंटों के नियंत्रण से जुड़े सवालों ने यह बहस जरूर तेज कर दी है कि तकनीकी प्रगति के साथ सुरक्षा और जवाबदेही की सीमाएं कैसे तय की जाएं.
