एंथ्रॉपिक के सह-संस्थापक और मुख्य कार्यकारी डारियो अमोदेई ने कृत्रिम बुद्धिमत्ता उद्योग से सबसे उन्नत मॉडल विकसित करने की गति धीमी करने की अपील की है. उनका कहना है कि AI क्षमताओं की तेज प्रगति के बीच सुरक्षा उपायों, परीक्षणों और नियंत्रणों को बराबरी पर आने का समय मिलना चाहिए.
अमोदेई ने उद्योग के लिए ऐसे कदमों की वकालत की जिनसे मॉडल की क्षमता बढ़ाने और उसकी सुरक्षा सुनिश्चित करने की प्रक्रिया में संतुलन बनाया जा सके. उन्होंने चेताया कि कंपनियों के बीच प्रतिस्पर्धा सुरक्षा संबंधी तैयारी को पीछे छोड़ सकती है.
बाहरी जांच का प्रस्ताव
एंथ्रॉपिक ने स्वतंत्र बाहरी मूल्यांकनकर्ताओं को कंपनी की सुरक्षा प्रक्रियाओं की समीक्षा के लिए कर्मचारी-जैसी पहुंच देने का प्रस्ताव रखा है. इन मूल्यांकनकर्ताओं का काम सुरक्षा प्रतिबद्धताओं के पालन की जांच करना, घटनाओं की रिपोर्टिंग करना और मॉडल प्रशिक्षण व विकास प्रक्रियाओं से जुड़े जोखिमों का आकलन करना होगा.
AI क्षेत्र में यह बहस ऐसे समय तेज हुई है, जब कंपनियां अधिक सक्षम मॉडल और स्वायत्त कार्य करने वाले AI टूल विकसित करने की दौड़ में हैं. अमोदेई का तर्क है कि केवल स्वैच्छिक आश्वासन पर्याप्त नहीं होंगे; व्यापक उद्योग सहयोग और स्पष्ट सुरक्षा मानकों की जरूरत है.
