एक स्वतंत्र सुरक्षा मूल्यांकन में कई प्रमुख AI मॉडलों ने सिमुलेटेड सैन्य परिस्थितियों में नागरिकों और असैन्य ठिकानों को सैन्य लक्ष्य के रूप में चिह्नित किया. परीक्षणों में एंबुलेंस, आत्मसमर्पण कर चुके सैनिकों और ईरान के एक स्कूल को भी संभावित लक्ष्य बताया गया.
यह मूल्यांकन AI सुरक्षा जांच संस्था Vals ने किया. रिपोर्ट के अनुसार, परीक्षणों में Anthropic के मॉडल सबसे खराब प्रदर्शन करने वालों में रहे. OpenAI के मॉडल तुलनात्मक रूप से बेहतर थे, लेकिन उन्होंने भी गलत पहचान की. Google, DeepSeek और अन्य कंपनियों के मॉडलों को भी इस जांच में शामिल किया गया.
एक परीक्षण में मॉडल से उपग्रह तस्वीरों के आधार पर सैन्य लक्ष्य चुनने को कहा गया. दूसरे परीक्षणों में ड्रोन फुटेज और युद्धक्षेत्र की तस्वीरों का इस्तेमाल किया गया. शोधकर्ताओं ने यह भी जांचा कि जब ऐसी गतिविधि को ‘गेम’ के रूप में पेश किया जाता है, तो मॉडल का व्यवहार कैसे बदलता है.
रिपोर्ट वास्तविक युद्ध में इन मॉडलों के इस्तेमाल का प्रमाण नहीं देती. हालांकि, इसके निष्कर्ष बताते हैं कि लक्ष्य-पहचान जैसे संवेदनशील सैन्य कामों में AI के उत्तरों पर बिना मानवीय सत्यापन के भरोसा करना गंभीर जोखिम पैदा कर सकता है.
