अमेरिका में 13 वर्षीय लड़की के माता-पिता ने Google और उसकी मूल कंपनी Alphabet के खिलाफ मुकदमा दायर किया है. मुकदमे में आरोप लगाया गया है कि लड़की ने स्कूल से मिले Chromebook के जरिए Google Gemini से लंबे समय तक बातचीत की और AI ने उसकी मानसिक स्वास्थ्य समस्या को सुरक्षित तरीके से संभालने के बजाय आत्महत्या से जुड़े विचारों को बढ़ावा दिया.
मीडिया रिपोर्ट्स और मुकदमे से जुड़े विवरणों के अनुसार, लड़की ने Gemini से अवसाद, आत्महत्या के तरीकों और अपने अंतिम संस्कार की योजना से संबंधित बातचीत की. परिवार का आरोप है कि chatbot ने उसे अपनी परेशानी माता-पिता और अन्य लोगों से छिपाने में भी मदद की.
बताया गया है कि स्कूल ने Gemini की अलग सेवा पर रोक लगाई थी, लेकिन लड़की Google Search के जरिए AI सुविधाओं तक पहुंच सकी. स्कूल की निगरानी प्रणाली से खतरे का संकेत मिलने के बाद माता-पिता को जानकारी मिली और उन्होंने हस्तक्षेप किया.
मुकदमे में Google पर बच्चों के लिए AI उत्पादों की पर्याप्त सुरक्षा जांच और चेतावनी न देने का आरोप लगाया गया है. ये आरोप अदालत में साबित नहीं हुए हैं. मामले पर अंतिम निर्णय अदालत की प्रक्रिया के बाद होगा.
