Apple ने App Store पर उन AI इमेज-जनरेशन ऐप्स के खिलाफ नियम कड़े किए हैं, जिनका इस्तेमाल वास्तविक लोगों की बिना सहमति वाली अंतरंग या नग्न तस्वीरें बनाने के लिए किया जा सकता है. कंपनी ने अपने डेवलपर वेबसाइट पर जारी एक संक्षिप्त नोट में मॉडरेशन प्रक्रिया में बदलाव की जानकारी दी.
App Store पर अश्लील सामग्री और ऐसी सामग्री बनाने के लिए स्पष्ट रूप से तैयार किए गए ऐप्स पहले से प्रतिबंधित हैं. नए नियमों के तहत अब उन ऐप्स को भी अतिरिक्त सुरक्षा उपाय लागू करने होंगे, जिनमें यूजर-जनरेटेड कंटेंट के जरिये इस तरह की तस्वीरें बनने की संभावना हो.
ऐसे ऐप्स को आपत्तिजनक सामग्री को फ़िल्टर करना, यूजर्स को इसकी रिपोर्ट करने का विकल्प देना, संदिग्ध तस्वीरों के अपलोड को रोकना और फ़िल्टर से बच निकलने वाली सामग्री को हटाना होगा.
Apple ने ऐप सबमिशन के दौरान ऐप की क्षमताओं को गलत तरीके से पेश करने वाली ‘bait and switch’ रणनीति पर भी रोक लगाई है. यदि कोई ऐप इन नियमों का उल्लंघन करता है, तो उसे App Store से हटाया जा सकता है. संबंधित डेवलपर की App Store पर नए ऐप सबमिट करने की सुविधा भी रद्द की जा सकती है.
इससे पहले सामने आए एक अध्ययन में Apple App Store और Google Play पर वास्तविक लोगों की डीपफेक नग्न तस्वीरें बनाने में सक्षम कई ऐप्स की मौजूदगी का उल्लेख किया गया था. Apple ने उस समय कई ऐप्स हटाए थे.
