Anthropic के मुख्य कार्यकारी डारियो अमोदेई ने कृत्रिम बुद्धिमत्ता मॉडल की क्षमताएं बढ़ाने की गति धीमी करने की अपील की है. उनका कहना है कि तकनीक की प्रगति तेज बनी रह सकती है, लेकिन सुरक्षा उपायों और निगरानी तंत्र को उसके साथ कदम मिलाने का समय मिलना चाहिए.
अमोदेई ने अपने ऑनलाइन लेख में AI विकास को रोकने की बात नहीं कही, बल्कि इसे अधिक सावधानी से आगे बढ़ाने का आग्रह किया. उन्होंने चेतावनी दी कि पर्याप्त सुरक्षा प्रबंधों के बिना AI का दुरुपयोग साइबर हमलों, जैविक खतरों और गंभीर आर्थिक अव्यवस्था जैसे जोखिम पैदा कर सकता है.
बाहरी जांच की बात
मीडिया रिपोर्ट्स के अनुसार, Anthropic बाहरी मूल्यांकनकर्ताओं को कंपनी के सुरक्षा उपायों की जांच के लिए कर्मचारी-स्तर की पहुंच देने की योजना बना रही है. अमोदेई ने उद्योग और सरकारों से भी उन्नत AI प्रणालियों के लिए साझा नियम तथा जवाबदेही व्यवस्था बनाने को कहा.
उन्होंने आशंका जताई कि मौजूदा रफ्तार जारी रहने पर अगले छह से 12 महीनों में AI एजेंटों के समूह इंटरनेट पर बड़े पैमाने पर नुकसान पहुंचाने में सक्षम हो सकते हैं. यह उनका आकलन है, स्थापित तथ्य नहीं.
अमोदेई की अपील ऐसे समय आई है जब AI कंपनियों पर तेज उत्पाद विकास के साथ सुरक्षा परीक्षण, स्वतंत्र निगरानी और नियामक नियमों को मजबूत करने का दबाव बढ़ रहा है.
