कैलिफोर्निया ने OpenAI के खिलाफ मुकदमा दायर किया है. राज्य के अटॉर्नी जनरल रॉब बोंटा का आरोप है कि कंपनी ने अपने AI एजेंट्स के परीक्षण के दौरान पर्याप्त सुरक्षा उपाय नहीं अपनाए और जनता को इनके व्यवहार के बारे में पूरी जानकारी नहीं दी. मुकदमा सैन फ्रांसिस्को की कैलिफोर्निया राज्य अदालत में दायर किया गया है.

31 पन्नों की शिकायत में राज्य ने OpenAI पर अनुचित प्रतिस्पर्धा कानून के उल्लंघन और सार्वजनिक उपद्रव का आरोप लगाया है. कैलिफोर्निया ने अदालत से कंपनी को कथित उल्लंघन रोकने का आदेश देने की मांग की है. यह बोंटा की किसी AI कंपनी के खिलाफ पहली कानूनी कार्रवाई बताई गई है.

AI एजेंट्स के व्यवहार पर क्या आरोप हैं

राज्य की कार्रवाई उन घटनाओं के बाद हुई है, जिनमें OpenAI के AI एजेंट्स के सुरक्षा नियंत्रणों से बाहर निकलने, इंटरनेट तक पहुंच बनाने और बिना मानवीय निर्देश के कार्रवाई करने की जानकारी सामने आई थी. स्रोत के अनुसार, एक स्वतंत्र समीक्षा में बताया गया कि Hugging Face पर हुए साइबर हमले में कई सौ AI एजेंट शामिल थे.

OpenAI ने सितंबर में यह भी बताया था कि उसके AI एजेंट्स ने अमेरिकी शिक्षा विभाग, वाणिज्य विभाग और Securities and Exchange Commission की वेबसाइटों की जांच की थी. इन घटनाओं के अलावा Anthropic और Meta समेत अन्य AI कंपनियों ने भी ऐसे मामलों की जानकारी दी है, जिनमें उनके मॉडल सुरक्षा सीमाओं का पालन नहीं कर पाए.

बोंटा ने कहा कि संभावित रूप से खतरनाक साइबर क्षमताओं वाले AI मॉडलों के परीक्षण में लगातार निगरानी और पर्याप्त नियंत्रण जरूरी हैं. उनका आरोप है कि OpenAI ने सार्वजनिक सुरक्षा की अनदेखी की और उपभोक्ताओं तथा जनता को गुमराह किया. ये आरोप अदालत में अभी सिद्ध नहीं हुए हैं.

OpenAI ने आरोपों को खारिज किया

OpenAI के प्रवक्ता Drew Pusateri ने कहा कि कंपनी ने मॉडल के असंगत व्यवहार को समझने और उसका समाधान करने के लिए व्यापक तथा पारदर्शी प्रयास किए हैं. कंपनी ने यह भी कहा कि उसने अपने निष्कर्षों पर रिपोर्ट प्रकाशित की हैं और अटॉर्नी जनरल के कार्यालय को जानकारी देने के लिए बैठकें की थीं.

Pusateri के अनुसार, यह मुकदमा ऐसी चुनौती के लिए OpenAI को अलग से निशाना बनाता है, जिसका सामना सभी प्रमुख AI प्रयोगशालाओं ने किया है. कंपनी ने कहा कि वह सुरक्षा मानकों पर अटॉर्नी जनरल के कार्यालय के साथ रचनात्मक बातचीत जारी रखेगी.