AI से तैयार टेक्स्ट और तस्वीरों की पहचान अब सिर्फ ‘असली या नकली’ बताने तक सीमित नहीं रह गई है. नौकरी के आवेदन, प्रोडक्ट रिव्यू और बीमा दावों जैसी जगहों पर AI-generated सामग्री के इस्तेमाल के दावों के बीच प्लेटफॉर्म और यूजर्स के सामने यह तय करने की चुनौती बढ़ रही है कि किसी सामग्री को किस श्रेणी में रखा जाए.
Pangram के सह-संस्थापक और CEO मैक्स स्पेरो ने TechCrunch के Equity पॉडकास्ट में इसी चुनौती पर चर्चा की. बातचीत का केंद्र यह था कि AI detection tools से कितनी उम्मीद रखी जानी चाहिए और AI की मदद से तैयार सामग्री तथा पूरी तरह AI-generated सामग्री के बीच सीमा कैसे तय की जाए.
Pangram का AI detection सिस्टम
मीडिया रिपोर्ट्स के अनुसार, Pangram ने हाल में अपने AI detection सिस्टम के लिए 9 मिलियन डॉलर जुटाए हैं. स्टार्टअप ने Substack के साथ साझेदारी भी की है. इस साझेदारी के तहत Substack अपने न्यूज़लेटर लेखकों की सामग्री में AI के इस्तेमाल से जुड़ी जानकारी पाठकों को दिखाने के लिए Pangram की तकनीक का उपयोग कर रहा है.
Pangram ने हाल में AI-generated तस्वीरों की पहचान करने वाला एक नया टूल भी पेश किया है. इससे कंपनी का फोकस केवल लिखित सामग्री की जांच तक सीमित नहीं रहता, बल्कि तस्वीरों जैसी दूसरी डिजिटल सामग्री तक भी फैलता है.
पहचान से ज्यादा महत्वपूर्ण है संदर्भ
AI detection को लेकर मुख्य सवाल केवल यह नहीं है कि कोई टेक्स्ट या तस्वीर AI से बनी है या नहीं. सवाल यह भी है कि AI का इस्तेमाल किस स्तर पर हुआ. उदाहरण के लिए, किसी व्यक्ति ने लेख लिखने में AI से भाषा सुधारने में मदद ली हो, तो उसे पूरी तरह AI-generated सामग्री के बराबर मानना सही होगा या नहीं, यह एक अलग नीति और संदर्भ का विषय है.
Pangram की चर्चा ऐसे समय में हुई है जब इंटरनेट पर भरोसे से जुड़ी चिंताएं बढ़ रही हैं. हालांकि, उपलब्ध सामग्री में कंपनी की detection तकनीक की सटीकता, उसके परीक्षण के नतीजे या Substack पर इसके लागू होने का विस्तृत तरीका नहीं बताया गया है. इसलिए किसी detection label को अंतिम और अचूक प्रमाण मानने के बजाय उसे अतिरिक्त संकेत के रूप में देखना जरूरी होगा.
इस चर्चा से यह संकेत मिलता है कि ऑनलाइन भरोसे की समस्या का समाधान केवल एक detector से नहीं होगा. प्लेटफॉर्म को स्पष्ट disclosure, उपयोगकर्ताओं को संदर्भ और कंपनियों को AI-assisted तथा AI-generated सामग्री के बीच पारदर्शी नियमों पर भी काम करना होगा.
