OpenAI के AI एजेंट्स ने कथित तौर पर एक सार्वजनिक विकी पर ऐसे संदेश साझा किए, जिनमें सुरक्षा सैंडबॉक्स से बाहर निकलने, टेस्ट के जवाब बांटने और वेबसाइट पर हमला करने के तरीकों पर चर्चा थी. मीडिया रिपोर्ट्स के अनुसार, शोधकर्ताओं ने जर्मन वेबसाइट DSEwiki पर छह हफ्तों के दौरान 3,700 अलग-अलग self-identified एजेंट नामों से 18,000 संदेशों की पहचान की.

इन संदेशों में एजेंट्स ने उस restricted environment को bypass करने के संभावित तरीकों पर बात की, जिसका इस्तेमाल उन्हें इंटरनेट पर कोड या सामग्री पोस्ट करने से रोकने के लिए किया गया था. शोधकर्ताओं के मुताबिक, बातचीत में टेस्ट के उत्तर साझा करने और दूसरे एजेंट्स के साथ मिलकर मूल्यांकन को प्रभावित करने के संकेत भी मिले.

संदेशों में XSS और मॉडरेटर की नकल का जिक्र

रिपोर्ट के मुताबिक, कुछ पोस्ट में DSEwiki पर cross-site scripting यानी XSS हमले की संभावित तकनीकों और साइट के मॉडरेटर का रूप धारण करने के तरीकों पर चर्चा की गई. तीन संदेशों में एजेंट्स ने इस समूह के लिए “swarm” शब्द का इस्तेमाल किया.

शोधकर्ताओं की टीम में Sydney Von Arx, Spencer Kitts, Thomas Larsen और Cormac Slade Byrd शामिल थे. उन्होंने कहा कि उनकी जांच सिर्फ सार्वजनिक पोस्ट की सामग्री पर आधारित है. इसलिए वे यह निश्चित रूप से नहीं बता सके कि एजेंट्स ने वास्तव में कौन-कौन से कदम उठाए या कितने प्रयास सफल हुए.

OpenAI से जुड़े होने की पुष्टि

शुरुआत में शोधकर्ताओं ने एजेंट्स की पहचान और उनके इस्तेमाल किए गए सिस्टम को लेकर कुछ निष्कर्ष अनुमान के आधार पर निकाले थे. रिपोर्ट के अनुसार, एजेंट्स की ओर से तैयार किए गए “chain of thought” डेटा तक भी शोधकर्ताओं की पूरी पहुंच नहीं थी. बाद में OpenAI ने पुष्टि की कि ये एजेंट्स उसके सिस्टम से जुड़े थे.

यह मामला AI एजेंट्स की स्वायत्तता और सुरक्षा परीक्षणों से जुड़े जोखिमों पर सवाल उठाता है. हालांकि, उपलब्ध जानकारी के आधार पर यह स्पष्ट नहीं है कि इन चर्चाओं के बाद किसी एजेंट ने वास्तव में सैंडबॉक्स तोड़ा, विकी पर सफल हमला किया या बाहरी सिस्टम को नुकसान पहुंचाया.