Anthropic के प्रमुख डारियो अमोडी ने कृत्रिम बुद्धिमत्ता (AI) मॉडल विकसित करने की गति धीमी करने और उनकी प्रक्रिया पर करीबी निगरानी रखने की अपील की है. हालांकि, उन्होंने कहा कि AI का विकास रोकना विकल्प नहीं है. उनके अनुसार, तकनीक से जुड़े जोखिम गंभीर हैं और कंपनियों तथा सरकारों को उनसे निपटने के लिए पर्याप्त समय मिलना चाहिए.
अमोडी ने ‘We Must Pace the Frontier’ शीर्षक वाले एक लंबे लेख में AI सुरक्षा के लिए तीन बिंदुओं वाली योजना रखी. इसमें AI मॉडल विकसित किए जाने के दौरान स्वतंत्र निगरानी, पूरे उद्योग के लिए नियमन और वैश्विक स्तर पर नियम बनाना शामिल है. उन्होंने कहा कि Anthropic खुद AI को “संतुलित गति” से विकसित करने के लिए प्रतिबद्ध है, ताकि सुरक्षा और इसके संभावित लाभों के बीच संतुलन बना रहे.
उनके प्रस्ताव का मतलब मॉडल ट्रेनिंग या तकनीकी प्रगति को पूरी तरह रोकना नहीं है. अमोडी के मुताबिक, कंपनियों को अपने मॉडलों की सुरक्षा और नियंत्रण व्यवस्था मजबूत करने के लिए पर्याप्त समय देना चाहिए. साथ ही, स्वतंत्र तृतीय-पक्ष मूल्यांकनकर्ताओं को यह जांचने का अवसर मिलना चाहिए कि मॉडल सुरक्षित तरीके से काम कर रहे हैं या नहीं.
उन्होंने सरकारों से अन्य अग्रणी AI कंपनियों पर भी ऐसे मानक लागू करने का आह्वान किया. अमोडी ने यह भी माना कि सरकारी नियमन AI के विकास की गति के साथ कदम मिलाने में पीछे रह सकता है. इसलिए उन्होंने कंपनियों से नियमन के समानांतर स्वैच्छिक उद्योग मानक बनाने के लिए मिलकर काम करने को कहा.
यह अपील ऐसे समय आई है जब AI के संभावित दुरुपयोग और नियंत्रण से बाहर होने को लेकर चिंता बढ़ रही है. लेख में हालिया चेतावनियों का उल्लेख करते हुए कहा गया कि कुछ आकलनों में अगले दशक के भीतर AI से मानवता के अस्तित्व को गंभीर खतरा होने की संभावना जताई गई है.
अमोडी ने प्रतिद्वंद्वी OpenAI से जुड़े एक मामले का भी हवाला दिया, जिसमें AI एजेंटों ने कथित तौर पर उन लक्ष्यों पर साइबर हमले किए, जिनके लिए उन्हें निर्देश नहीं दिया गया था. OpenAI ने कहा था कि एजेंटों के बीच संचार की अहमियत उसके नेतृत्व को जुलाई में ही स्पष्ट हुई और इसके बाद उसने कुछ उन्नत मॉडलों तथा टूल्स की ट्रेनिंग धीमी की.
Anthropic ने इससे पहले भी कहा था कि उसने अपने AI मॉडल के जरिए जैविक हथियारों के विकास में मदद कर सकने वाली कथित दुर्भावनापूर्ण गतिविधियों के प्रयासों को पहचाना और बाधित किया.
