OpenAI ChatGPT और प्रोग्रामिंग एजेंट Codex से तैयार किए गए टेक्स्ट में अदृश्य वॉटरमार्क जोड़ने जा रहा है. इसका उद्देश्य मशीनों के लिए यह पहचानना आसान बनाना है कि कोई सामग्री AI से तैयार हुई है. यूरोपीय संघ में यह बदलाव अनिवार्य होगा, जबकि दुनिया के अन्य हिस्सों में API ग्राहकों के लिए यह सुविधा फिलहाल वैकल्पिक रखी गई है.
यह सिस्टम ‘textGrain’ नाम की तकनीक पर आधारित है. सामान्य तौर पर बड़े भाषा मॉडल एक-एक शब्द चुनते हुए टेक्स्ट तैयार करते हैं और अगले शब्द का अनुमान पहले लिखे गए शब्दों के आधार पर लगाते हैं. textGrain इस प्रक्रिया में गुप्त कुंजी से तय किए गए छद्म-यादृच्छिक मानों को भी शामिल करता है. इससे तैयार टेक्स्ट में एक सांख्यिकीय संकेत बनता है. OpenAI का डिटेक्शन सिस्टम इसी संकेत का विश्लेषण करके AI-निर्मित सामग्री की पहचान कर सकता है.
यूरोपीय संघ में ChatGPT और Codex के लिए वॉटरमार्किंग अगले कुछ हफ्तों में लागू की जाएगी. वैश्विक स्तर पर चुनिंदा मॉडलों के लिए API ग्राहक इसे सक्रिय कर सकेंगे, लेकिन यह डिफॉल्ट रूप से बंद रहेगा. वॉटरमार्क पहचानने वाला OpenAI टूल शोधकर्ताओं और विशेषज्ञों को आवेदन के बाद ही उपलब्ध कराया जाएगा.
कंपनी के परीक्षणों में 200 शब्दों के AI-निर्मित टेक्स्ट में वॉटरमार्क की पहचान 80 प्रतिशत मामलों में हुई. गणित जैसे ऐसे विषयों पर, जिनमें शब्दावली अपेक्षाकृत तय होती है, सफलता दर और कम रही. टेक्स्ट में बदलाव करने पर भी सिस्टम की क्षमता घटती है. 400 शब्दों के लेख में केवल 10 प्रतिशत शब्द बदलने पर पहचान दर 66 प्रतिशत रह गई, जबकि 25 प्रतिशत शब्द बदलने पर यह 17 प्रतिशत तक गिर गई.
OpenAI ने कहा है कि टेक्स्ट वॉटरमार्किंग और डिटेक्शन अभी शुरुआती तकनीकें हैं और इनमें महत्वपूर्ण सीमाएं हैं. वॉटरमार्क यह साबित नहीं करता कि सामग्री सही है, उसका मालिक कौन है या उसे किस व्यक्ति ने तैयार कराया. इसी तरह, वॉटरमार्क का न मिलना यह प्रमाण नहीं है कि टेक्स्ट इंसान ने लिखा है.
यह बदलाव यूरोपीय संघ के AI Act के Article 50(2) से जुड़ा है. इस प्रावधान के तहत AI सिस्टम प्रदाताओं को अपने आउटपुट को मशीन-पठनीय तरीके से चिह्नित करना होगा, ताकि उन्हें AI-निर्मित या AI से बदली गई सामग्री के रूप में पहचाना जा सके. नियमों का पालन न करने पर वैश्विक वार्षिक कारोबार के तीन प्रतिशत तक जुर्माने का प्रावधान है.
