OpenAI ने बाल यौन शोषण से जुड़ी तस्वीरों की पहचान में जांचकर्ताओं की मदद के लिए एक नया classifier पेश करने की घोषणा की है. कंपनी के अनुसार यह टूल संभावित रूप से हानिकारक सामग्री को अधिक प्रभावी ढंग से पहचानने में मदद करेगा, जिसमें AI से बनाई गई तस्वीरें भी शामिल हैं.

यह घोषणा वॉशिंगटन डीसी में हुई एक प्रेस ब्रीफिंग के दौरान की गई. OpenAI का दावा है कि इस तकनीक से जांच एजेंसियां बड़ी मात्रा में आने वाली सूचनाओं और सामग्री के बीच उन मामलों को जल्दी पहचान सकेंगी, जिन पर कार्रवाई जरूरी हो सकती है.

कंपनी ने vetted संगठनों को इस टूल का मुफ्त इस्तेमाल उपलब्ध कराने की बात कही है. इसके अलावा, डेवलपर्स को ऐसी सामग्री का पता लगाने के लिए अतिरिक्त मार्गदर्शन दिया जाएगा. OpenAI कानून प्रवर्तन एजेंसियों को जांच में AI के उपयोग पर प्रशिक्षण देने में भी मदद करेगा.

यह कदम AI-आधारित उपकरणों से जुड़ी सुरक्षा और दुरुपयोग संबंधी चिंताओं के बीच सामने आया है. उपलब्ध जानकारी में classifier की सटीकता, तैनाती की समयसीमा या इसके इस्तेमाल की विस्तृत शर्तों का खुलासा नहीं किया गया है.