Anthropic के CEO Dario Amodei ने कृत्रिम बुद्धिमत्ता के विकास की रफ्तार को नियंत्रित करने की अपील की है. एक नए ब्लॉग पोस्ट में उन्होंने कहा कि AI मॉडल्स की क्षमताएं बढ़ाने की गति धीमी की जानी चाहिए, हालांकि प्रगति फिर भी तेज बनी रहेगी. उनके मुताबिक, इस अतिरिक्त समय का इस्तेमाल सुरक्षा उपायों को बेहतर बनाने और जिम्मेदार फैसले लेने में किया जाना चाहिए.

मीडिया रिपोर्ट्स के अनुसार, Amodei ने AI विकास को “pace the frontier” यानी सीमांत क्षमताओं की दौड़ को नियंत्रित करने के लिए तीन व्यापक रणनीतियां सुझाईं. उन्होंने कहा कि हाल के महीनों में AI तेजी से आगे बढ़ा है और अब उसमें अगली पीढ़ी के AI सिस्टम बनाने की क्षमता भी बढ़ रही है. उन्होंने OpenAI-Hugging Face से जुड़े हैक और AI की तेज प्रगति को अधिक सावधानी बरतने के कारणों में गिनाया.

तीसरे पक्ष के मूल्यांकनकर्ताओं की भूमिका

Amodei का पहला प्रस्ताव स्वतंत्र संगठनों के मूल्यांकनकर्ताओं को AI कंपनियों के भीतर काम करने की अनुमति देने से जुड़ा है. उन्होंने METR जैसे तीसरे पक्ष के संगठनों के “embedded evaluators” नियुक्त करने की बात कही. ये मूल्यांकनकर्ता यह जांच सकेंगे कि कंपनियां अपने सुरक्षा और विकास-गति संबंधी वादों का पालन कर रही हैं या नहीं. वे सुरक्षा घटनाओं की रिपोर्टिंग की निगरानी भी कर सकेंगे.

प्रस्ताव के मुताबिक, ऐसे मूल्यांकनकर्ताओं को कंपनी की पहचान-पत्र, कार्यस्थल और लैपटॉप दिए जा सकते हैं. उन्हें आंतरिक जोखिम-मूल्यांकन टीमों के लगभग समान स्तर की जानकारी उपलब्ध कराने की बात कही गई है, हालांकि कानून या अनुबंधों के कारण कुछ अपवाद हो सकते हैं. Amodei ने कहा कि Anthropic इस व्यवस्था को अपनाने की एकतरफा प्रतिबद्धता कर रही है और सरकारों से अन्य अग्रणी AI कंपनियों के लिए भी ऐसी शर्तें लागू करने का आग्रह किया.

कंपनियों और सरकारों के बीच समन्वय

दूसरी रणनीति के तहत Amodei ने लोकतांत्रिक देशों में काम करने वाली प्रमुख AI कंपनियों के बीच साझा सुरक्षा मानक बनाने का सुझाव दिया. उन्होंने बिना पर्याप्त सुरक्षा जांच के AI की क्षमताएं बढ़ाने की दर पर सीमाएं तय करने की बात भी कही.

उनके अनुसार, ऐसी बातचीत में प्रतिस्पर्धा-विरोधी कानूनों से जुड़ी चिंताएं पैदा हो सकती हैं. इसलिए उन्होंने अमेरिकी सरकार से इन चर्चाओं को मध्यस्थता या सीमित कानूनी छूट के जरिए संभव बनाने का आह्वान किया.

तीसरे स्तर पर उन्होंने वैश्विक समन्वय का प्रस्ताव रखा. इसमें अमेरिका और उसके सहयोगी देशों द्वारा अन्य सरकारों, जिसमें चीन भी शामिल है, के साथ सीमित सहयोग की कोशिश की जाएगी. Amodei ने माना कि इस तरह के सहयोग की स्पष्ट सीमाएं हैं, लेकिन AI के जरिए जैविक हथियार बनाने जैसे कुछ अत्यंत खतरनाक इस्तेमालों पर साझा रोक संभव हो सकती है.

उन्होंने यह भी कहा कि शक्तिशाली चिप और सेमीकंडक्टर निर्माण उपकरणों की बिक्री पर नियंत्रण तथा मॉडल डिस्टिलेशन पर कार्रवाई से चीन की AI प्रगति की गति प्रभावित हो सकती है. हालांकि ये उनके नीतिगत सुझाव हैं, लागू सरकारी नीति नहीं. Amodei ने AI के संभावित लाभों में अपना विश्वास दोहराते हुए कहा कि तकनीक मानव जीवन की गुणवत्ता में बड़ा सुधार ला सकती है, लेकिन इसके लिए विकास सही तरीके से होना जरूरी है.