टेक ट्रांसपेरेंसी प्रोजेक्ट (TTP) की एक जांच के अनुसार, Meta ने Facebook और Instagram पर बच्चों की तस्वीरों को आपत्तिजनक AI वीडियो में बदलने वाले विज्ञापनों को हटाने में कई दिन लगाए. रिपोर्ट में कहा गया है कि इस साल कंपनी के प्लेटफॉर्म पर ऐसे 332 विज्ञापन मिले, जिनमें बच्चों के यौन शोषण से जुड़ी AI-निर्मित सामग्री थी.

TTP के मुताबिक, इन विज्ञापनों का बड़ा हिस्सा चीन में बने AI ऐप्स का प्रचार कर रहा था. इनमें तथाकथित ‘न्यूडिफाई’ ऐप्स भी शामिल थे, जो वास्तविक तस्वीरों में डिजिटल बदलाव कर उन्हें यौन सामग्री जैसा बनाने का दावा करते हैं. जांच में यह भी कहा गया कि Meta इन विज्ञापनों को तुरंत पहचानने और हटाने में विफल रही.

वास्तविक बच्चों की तस्वीरों के इस्तेमाल का दावा

TTP ने कई विज्ञापनों में इस्तेमाल तस्वीरों का मिलान इंटरनेट पर पहले से मौजूद वास्तविक बच्चों की तस्वीरों से किया. रिपोर्ट के अनुसार, इनमें एक यूरोपीय शाही परिवार की कम उम्र की सदस्य की प्रेस तस्वीर और एक 14 वर्षीय Instagram influencer की तस्वीर शामिल थी. एक अन्य मामले में स्टॉक फोटो में दिख रही प्रीटीन लड़की की तस्वीर के इस्तेमाल का दावा किया गया.

जांच संस्था के अनुसार, इन तस्वीरों को AI की मदद से यौन हिंसा दर्शाने वाले वीडियो में बदला गया. रिपोर्ट में पीड़ित बच्चों की पहचान सार्वजनिक नहीं की गई है. ऐसे मामलों में तस्वीरों का इस्तेमाल संबंधित बच्चों और उनके परिवारों की सहमति के बिना किया गया बताया गया है.

AI-निर्मित बाल यौन शोषण सामग्री पर कानूनी सवाल

TTP ने कहा कि ऐसे विज्ञापन अमेरिकी संघीय बाल यौन शोषण सामग्री संबंधी कानूनों का उल्लंघन कर सकते हैं. संस्था ने अमेरिकी न्याय विभाग की उस स्थिति का हवाला दिया, जिसके अनुसार AI से बनाई गई बाल यौन शोषण सामग्री को भी वास्तविक सामग्री जितना ही नुकसानदेह माना जा सकता है.

हालांकि, उपलब्ध रिपोर्ट में यह जानकारी नहीं है कि इन विज्ञापनों के संबंध में किसी अदालत ने अंतिम फैसला दिया है या किसी व्यक्ति पर आपराधिक आरोप तय हुए हैं. इसलिए विज्ञापनों और उनके कानूनी प्रभाव से जुड़े दावों को जांच संस्था के निष्कर्षों के तौर पर ही देखा जाना चाहिए.

प्लेटफॉर्म की निगरानी पर फिर सवाल

यह मामला सोशल मीडिया प्लेटफॉर्म पर AI-आधारित दुरुपयोग रोकने की व्यवस्था को लेकर चिंता बढ़ाता है. खासतौर पर बच्चों की सार्वजनिक तस्वीरों को उठाकर उन्हें नकली यौन सामग्री में बदलने वाले टूल्स के प्रचार से पीड़ितों के लिए नुकसान और पहचान की सुरक्षा से जुड़े जोखिम बढ़ते हैं.

स्रोत सामग्री में Meta की ओर से इस जांच पर विस्तृत प्रतिक्रिया या यह जानकारी उपलब्ध नहीं है कि विज्ञापन हटाने में देरी के लिए कंपनी ने क्या कारण बताया. यह भी स्पष्ट नहीं है कि रिपोर्ट में बताए गए सभी विज्ञापन अब हटाए जा चुके हैं या नहीं.