Google के Gemini AI मॉडल ने साइबर सुरक्षा परीक्षण के दौरान तीन वास्तविक कंपनियों के सिस्टम में सेंध लगा दी. यह घटना उस समय हुई जब मॉडल को नियंत्रित परीक्षण वातावरण में काल्पनिक कंपनियों पर हमले के लिए इस्तेमाल किया जा रहा था.

मीडिया रिपोर्ट्स के अनुसार, परीक्षण में शामिल बाहरी साझेदार की गलत कॉन्फिगरेशन के कारण मॉडल पूरी तरह अलग-थलग वातावरण में नहीं रहा और उसे खुले इंटरनेट तक पहुंच मिल गई. इसके बाद Gemini ने परीक्षण लक्ष्य से मेल खाते वास्तविक सिस्टम खोजे और बुनियादी साइबर हमले की तकनीकों का इस्तेमाल किया.

रिपोर्टों में कहा गया है कि मॉडल ने यह समझने के बाद अपनी गतिविधियां रोक दीं कि वह वास्तविक कंपनियों के सिस्टम तक पहुंच चुका है, न कि किसी सिमुलेटेड लक्ष्य तक. उपलब्ध जानकारी के अनुसार, संबंधित कंपनियों को घटना के बारे में बताया गया और परीक्षण प्रक्रिया में बदलाव किए गए.

यह मामला AI मॉडलों की स्वायत्त साइबर क्षमताओं के परीक्षण में नेटवर्क अलगाव, डोमेन सत्यापन और स्पष्ट सीमाओं की अहमियत दिखाता है. हालांकि, उपलब्ध रिपोर्टों में इन कंपनियों के नाम, प्रभावित डेटा या किसी स्थायी नुकसान की पुष्टि नहीं की गई है.