Anthropic के मुख्य कार्यकारी अधिकारी डारियो अमोडेई ने उन्नत AI मॉडल के विकास की गति धीमी करने की अपील की है. उनका कहना है कि मॉडल क्षमता बढ़ाने की दौड़ में कंपनियों को सुरक्षा, परीक्षण और जवाबदेही के लिए पर्याप्त समय देना चाहिए.

अमोडेई के अनुसार, रफ्तार घटाने का अर्थ AI प्रशिक्षण या तकनीकी प्रगति को पूरी तरह रोकना नहीं है. उनका तर्क है कि नई क्षमताओं वाले मॉडलों को जारी करने से पहले उन्हें सुरक्षित बनाने और उनके जोखिमों का आकलन करने की प्रक्रिया मजबूत होनी चाहिए. उन्होंने तीसरे पक्ष के मूल्यांकन की जरूरत पर भी जोर दिया.

किन जोखिमों का जिक्र किया गया

उन्होंने AI प्रणालियों पर नियंत्रण कमजोर पड़ने, साइबर हमलों में दुरुपयोग, जैविक हथियारों से जुड़े जोखिमों और व्यापक आर्थिक व्यवधान की आशंका जताई. अमोडेई ने तकनीक की संभावनाओं को भी स्वीकार किया, लेकिन कहा कि उसके लाभों के साथ गंभीर जोखिमों के लिए तैयारी जरूरी है.

Anthropic पहले भी शक्तिशाली मॉडलों के लिए सुरक्षा मूल्यांकन, जैव-सुरक्षा और साइबर जोखिमों पर नीतिगत ढांचे की वकालत कर चुकी है. कंपनी का कहना है कि उन्नत AI क्षमताओं के बढ़ने के साथ उद्योग-स्तरीय सुरक्षा मानक और निगरानी अधिक महत्वपूर्ण होंगे.