सैन फ्रांसिस्को सिटी अटॉर्नी के कार्यालय ने Meta से उन विज्ञापनों के बारे में स्पष्टीकरण मांगा है, जिनमें नाबालिगों की तस्वीरों को AI की मदद से यौन गतिविधियों के वीडियो में बदले जाने का दावा किया गया है. कार्यालय ने कंपनी से ऐसे विज्ञापनों को रोकने और अपनी मॉडरेशन व्यवस्था की जानकारी देने को कहा है.
मीडिया रिपोर्ट्स के अनुसार, Tech Transparency Project (TTP) के शोधकर्ताओं ने हाल के महीनों में Meta के Facebook, Instagram और Threads पर 350 से अधिक ऐसे विज्ञापन पाए. रिपोर्ट के मुताबिक, इनमें कुछ वास्तविक नाबालिगों की तस्वीरों से जुड़े थे और विज्ञापनों पर क्लिक करने पर AI इमेज तथा वीडियो बनाने वाले ऐप डाउनलोड करने के विकल्प मिलते थे.
इन विज्ञापनों में कथित तौर पर लोगों को डिजिटल रूप से कपड़े हटाने या बिना सहमति की अंतरंग तस्वीरें बनाने वाले ऐप्स की ओर भेजा गया. शोधकर्ताओं के अनुसार, विज्ञापनों की पहुंच यूरोपीय संघ के देशों में 29,000 से अधिक अकाउंट तक हुई थी. कुछ विज्ञापन अमेरिका, ऑस्ट्रेलिया और भारत में भी लक्षित किए गए थे.
सिटी अटॉर्नी ने पूछे मॉडरेशन से जुड़े सवाल
सिटी अटॉर्नी डेविड चिउ के कार्यालय ने Meta से पूछा है कि उसके स्वचालित और मानवीय समीक्षा तंत्र ऐसे विज्ञापनों को पहचानने में क्यों विफल रहे. पत्र में यह भी पूछा गया है कि शिकायतों पर कार्रवाई कैसे होती है, विज्ञापनदाताओं और दोबारा नियम तोड़ने वालों के खिलाफ क्या कदम उठाए जाते हैं और संभावित बाल यौन शोषण की सामग्री की रिपोर्ट National Center for Missing and Exploited Children को कैसे की जाती है.
पत्र में Meta से 28 दिनों के भीतर जवाब देने को कहा गया है. कार्यालय ने कहा कि उपलब्ध निष्कर्ष किसी एकाकी चूक के बजाय बाल यौन शोषण से जुड़ी विज्ञापन सामग्री की पहचान में व्यापक प्रणालीगत समस्याओं की ओर इशारा कर सकते हैं.
Meta ने कहा है कि ऐसे विज्ञापन सैन फ्रांसिस्को में दिखाए गए हों, इसका कोई संकेत नहीं है और इसलिए मामला शहर के अधिकार क्षेत्र से बाहर है. कंपनी के अनुसार, शोधकर्ताओं द्वारा पहचाने गए विज्ञापनों को अब उसकी नीतियों का उल्लंघन करने के कारण हटा दिया गया है.
Meta ने पहले कहा था कि 300 से अधिक विज्ञापनों पर कुल खर्च 5,000 डॉलर से कम था और अधिकांश विज्ञापनों को 200 से कम इम्प्रेशन मिले. कंपनी ने यह भी कहा कि वह बच्चों के शोषण या ‘nudify’ ऐप्स को स्वीकार नहीं करती.
TTP ने आरोप लगाया है कि कुछ शिकायतों पर Meta की प्रतिक्रिया में एक सप्ताह से अधिक समय लगा और इस दौरान कुछ विज्ञापन और लोगों तक पहुंचे. संगठन के अनुसार, कुछ हटाए गए विज्ञापनों को शुरुआत में बाल यौन शोषण वाली सामग्री के रूप में चिह्नित नहीं किया गया था.
Meta की विज्ञापन नीतियां बाल यौन शोषण, नग्नता और ‘nudify’ ऐप्स के प्रचार पर रोक लगाती हैं. हालांकि, TTP और मीडिया रिपोर्ट्स के अनुसार, शोधकर्ताओं ने बाद में भी इसी तरह के नए विज्ञापन देखे और उन्हें Meta तथा संबंधित अधिकारियों को रिपोर्ट किया.
