YouTube पर AI से तैयार किए गए अश्लील गानों की नाबालिगों तक पहुंच को लेकर गंभीर सवाल उठे हैं. तीन दिन तक किए गए परीक्षण में हिंदी, भोजपुरी और पंजाबी में graphic sexual content वाले सैकड़ों गाने मिले. इनमें कई वीडियो के thumbnails और titles भी आपत्तिजनक थे.

परीक्षण के दौरान logged-out उपयोग और parental supervision वाले दो accounts की जांच की गई. 9+ उम्र के लिए सेट account पर “non-veg songs” और “18+ songs” जैसे keywords से ऐसे गाने सामने आए. एक वीडियो के बाद YouTube ने इसी तरह की सामग्री वाली 50 से अधिक गानों की playlists भी सुझाईं. 16+ सेटिंग वाले account पर भी समान गाने और recommendations दिखीं.

जांच में शामिल एक channel ने 28 अक्टूबर तक 177 गाने अपलोड किए थे, जिनमें 153 पिछले 30 दिनों में डाले गए थे. परीक्षण किए गए 16 गानों को दो AI-detection tools ने संभावित रूप से AI-generated बताया. इनमें से किसी पर age restriction नहीं थी और कम-से-कम एक वीडियो को 3.2 million से अधिक views मिले थे.

YouTube की नीति sexually gratifying explicit content पर रोक लगाती है. विशेषज्ञों ने कहा कि ऐसी सामग्री बच्चों के मानसिक और भावनात्मक विकास को प्रभावित कर सकती है. भारत में IT Act की धाराएं 67 और 67B तथा intermediary rules ऐसे content को लेकर प्लेटफॉर्म की जिम्मेदारियां तय करते हैं.