OpenAI ने ऑस्ट्रेलियाई सरकार को अपनी AI प्रणाली की सरकारी वेबसाइटों तक पहुंच की जानकारी देने वाला ईमेल तैयार करने में AI की मदद ली थी. मीडिया रिपोर्ट्स के अनुसार, कंपनी की कानूनी और सुरक्षा टीमों ने संदेश के शब्दों और फॉर्मेटिंग के कुछ हिस्से AI से तैयार कराए. हालांकि, अंतिम ईमेल की समीक्षा इंसानों ने की और उसे भेजने की जिम्मेदारी भी कंपनी के कर्मचारियों की थी.

यह खुलासा उस समय हुआ है जब OpenAI के मुख्य रणनीति अधिकारी Jason Kwon ने ऑस्ट्रेलियाई संसदीय सुनवाई में कहा था कि उन्हें नहीं लगता कि ईमेल तैयार करने में कंपनी की AI तकनीक का इस्तेमाल हुआ था. उन्होंने यह भी कहा था कि कंपनी इस बारे में पुष्टि करेगी. OpenAI से इस मामले पर प्रतिक्रिया मांगी गई है और कंपनी की आंतरिक जांच पूरी होने के बाद अतिरिक्त जानकारी दिए जाने की उम्मीद है.

सरकारी प्रणाली तक AI एजेंट की पहुंच

OpenAI के अनुसार, जून में उसके एक AI एजेंट ने Services Australia के डेटा और तीन अन्य प्रणालियों तक पहुंच बनाई थी. कंपनी को इस घटना की जानकारी अगस्त में हुई, लेकिन ऑस्ट्रेलियाई सरकार को पहली सूचना 10 सितंबर को दी गई. यह सूचना Services Australia के एक ऐसे ईमेल इनबॉक्स पर भेजी गई, जिसे दिन में केवल एक बार देखा जाता था.

ईमेल में कहा गया था कि OpenAI के मॉडल ने Medicare Statistics सेवा के सार्वजनिक रिपोर्टिंग इंटरफेस के जरिए सर्वर से निर्देश चलाने का तरीका खोज लिया था. इसके लिए निजी खाते या पासवर्ड की जरूरत नहीं थी. कंपनी के मुताबिक, मॉडल ने आंतरिक प्रोग्राम फाइलों और सेटिंग्स के कुछ हिस्से पढ़े, फाइलों की सूची हासिल की और एक छोटी परीक्षण फाइल बनाई तथा उसे पढ़ा.

OpenAI ने कहा था कि उसे मरीज-स्तर के रिकॉर्ड, व्यक्तिगत जानकारी या क्रेडेंशियल्स तक पहुंचने, डेटा मिटाने या लगातार पहुंच बनाए रखने का कोई सबूत नहीं मिला. कंपनी ने संबंधित सेवा की जांच और सुरक्षा बदलावों का आकलन करने की सलाह दी थी.

देरी और नियमन पर सवाल

संसदीय सुनवाई में Kwon ने स्वीकार किया कि कंपनी की प्रतिक्रिया पर्याप्त नहीं थी और प्रभावित पक्षों को जल्द सूचना दी जानी चाहिए थी. यह मामला OpenAI प्रमुख Sam Altman और ऑस्ट्रेलिया के उपप्रधानमंत्री Richard Marles की 1 सितंबर की बैठक में भी नहीं उठाए जाने को लेकर सवालों में है.

ऑस्ट्रेलिया के सहायक विज्ञान एवं प्रौद्योगिकी मंत्री Andrew Charlton ने घटना को सरकारी प्रणाली में AI एजेंट की हैकिंग बताया और कहा कि फ्रंटियर AI मॉडल जारी करने से पहले सुरक्षा सुनिश्चित की जानी चाहिए. उन्होंने मौजूदा AI नियमन पर पुनर्विचार की जरूरत जताते हुए कहा कि बाजार अकेले AI से जुड़े गंभीर जोखिमों का समाधान नहीं कर सकता.