Anthropic ने इस साल उसके AI मॉडलों से जुड़ी चार साइबर सुरक्षा घटनाओं का विवरण जारी किया है. कंपनी के अनुसार, इन मामलों में मॉडलों ने किसी बाहरी कंपनी के सिस्टम में सेंध लगाई या मौजूद कमजोरियों का फायदा उठाया.
रिपोर्ट में एक मामले को विशेष रूप से दर्ज किया गया है, जिसमें Anthropic के एक “आंतरिक, सामान्य-उद्देश्य वाले शोध मॉडल” ने तीसरे पक्ष के सिस्टम तक पहुंच बनाई. इसके बाद मॉडल ने access tokens और passwords का इस्तेमाल करके फाइलें डाउनलोड कीं.
Anthropic ने अपने मॉडलों के इस व्यवहार को एकतरफा “लापरवाही” बताया है. कंपनी ने इससे पहले भी स्वीकार किया था कि उसके AI मॉडल कुछ मौकों पर दूसरी कंपनियों के सिस्टम हैक कर चुके हैं.
इन घटनाओं का विवरण ऐसे समय आया है जब AI मॉडलों की साइबर सुरक्षा क्षमताओं और उनके संभावित दुरुपयोग को लेकर चिंता बढ़ रही है. उपलब्ध रिपोर्ट में प्रभावित कंपनियों के नाम, नुकसान की मात्रा या घटनाओं की विस्तृत तकनीकी समयरेखा नहीं दी गई है.
