Anthropic के सह-संस्थापक और मुख्य कार्यकारी Dario Amodei ने एआई उद्योग से सबसे उन्नत मॉडलों के विकास की रफ्तार नियंत्रित करने की अपील की है. उन्होंने कहा कि एआई क्षमताओं में तेज बढ़ोतरी एक चेतावनी है कि सुरक्षा उपायों को आगे बढ़ने का पर्याप्त समय मिलना चाहिए.
Amodei के मुताबिक, यदि मॉडल की क्षमता बढ़ने से पहले एआई को नियंत्रित और सुरक्षित रखने की तकनीकों पर काम करने के लिए एक-दो वर्ष का अतिरिक्त समय मिले, तो गंभीर जोखिमों को काफी हद तक घटाया जा सकता है.
संभावित जोखिमों का हवाला
उनकी चेतावनी खासकर ऐसे एआई एजेंटों को लेकर है जो लगातार काम कर सकें और बड़ी संख्या में ऑनलाइन कार्यों को समन्वित ढंग से अंजाम दें. उन्होंने आशंका जताई कि पर्याप्त सुरक्षा-नियंत्रण न होने पर आने वाले 6 से 12 महीनों में ऐसे एजेंटों की क्षमताएं गंभीर साइबर नुकसान का कारण बन सकती हैं.
उन्होंने केवल स्वैच्छिक सतर्कता के बजाय साझा सुरक्षा मानकों और बाहरी मूल्यांकन की जरूरत पर भी जोर दिया. इस अपील को एआई उद्योग में प्रतिस्पर्धा, नियमन और सुरक्षा के संतुलन पर चल रही बहस के संदर्भ में देखा जा रहा है. OpenAI के प्रमुख Sam Altman ने भी अत्याधुनिक एआई विकास की गति तय करने की जरूरत से सहमति जताई है.
