Anthropic ने कहा है कि उसने इस साल वैज्ञानिकों द्वारा अपने AI मॉडल का इस्तेमाल ऐसे शोध के लिए करने की कई कोशिशें रोकीं, जो जैविक हथियारों के विकास में मदद कर सकता था. कंपनी के अनुसार, इन मामलों में उपयोगकर्ताओं ने सुरक्षा नियंत्रणों को दरकिनार करने और अपने शोध के उद्देश्य को छिपाने की कोशिश की.
कंपनी ने ऐसे पांच मामलों का उल्लेख किया है. उसके मुताबिक, कुछ प्रयास उन देशों से जुड़े थे जहां उसके मॉडल तक पहुंच प्रतिबंधित है. इन देशों में रूस, चीन और ईरान शामिल हैं.
Anthropic ने कहा कि खतरनाक जीवविज्ञान से जुड़े काम कई बार वैध वैज्ञानिक शोध जैसे दिखाई दे सकते हैं. इसी वजह से AI प्रणालियों के लिए संभावित दुरुपयोग की पहचान करना कठिन हो जाता है.
कंपनी ने इन उदाहरणों को साझा करने का उद्देश्य AI उद्योग और सरकारों के बीच उभरते जैविक जोखिमों पर चर्चा शुरू करना बताया है. उपलब्ध जानकारी में रोके गए प्रयासों की तकनीकी प्रकृति या उनके परिणामों का विस्तृत ब्योरा नहीं दिया गया है.
