OpenAI के किशोरों के लिए बनाए गए ChatGPT for Teens उत्पाद की सुरक्षा पर सवाल उठे हैं. Common Sense Media के Youth AI Safety Institute की एक नई रिपोर्ट में सेवा को तब तक रोकने की मांग की गई है, जब तक कंपनी किशोरों के लिए इसे सुरक्षित और उम्र के अनुरूप साबित नहीं कर देती. संस्थान ने OpenAI से इस उत्पाद का प्रचार निलंबित करने और किशोरों को ChatGPT का इस्तेमाल करने से रोकने की भी अपील की है.

रिपोर्ट के मुताबिक, OpenAI ने अगस्त में 13 से 17 वर्ष के उपयोगकर्ताओं के लिए ChatGPT for Teens शुरू किया था. कंपनी ने इसे पढ़ाई और मानवीय रिश्तों में मदद करने वाले उत्पाद के रूप में पेश किया था. इसमें पैरेंटल नोटिफिकेशन, तय Study Hours, ब्रेक रिमाइंडर और अन्य सुरक्षा उपाय शामिल किए गए थे.

परीक्षण में किन कमियों का दावा

संस्थान के शोधकर्ताओं ने लॉन्च से पहले सामान्य ChatGPT पर परीक्षण किया और बाद में उन्हीं खातों को Teen सेवा में शामिल करके अगस्त के अंत से सितंबर तक दोबारा जांच की. परीक्षण में पैरेंटल नोटिफिकेशन, मानसिक स्वास्थ्य, शैक्षणिक ईमानदारी, फीचर उपलब्धता और उम्र पहचान जैसे विषय शामिल थे. रिपोर्ट का दावा है कि हर श्रेणी में सेवा अपेक्षित सुरक्षा देने में विफल रही.

शोधकर्ताओं के अनुसार, आत्महत्या, खुद को नुकसान पहुंचाने और खाने से जुड़े विकारों पर सैकड़ों प्रॉम्प्ट भेजे गए, लेकिन किसी भी मामले में पैरेंटल अलर्ट नहीं मिला. कुछ बातचीत एक घंटे तक चली. OpenAI के अनुसार, उच्च जोखिम वाली स्थिति पहचानने पर ईमेल, टेक्स्ट संदेश या पुश नोटिफिकेशन एक घंटे के भीतर भेजने का लक्ष्य है. कंपनी ने यह भी कहा कि अभिभावक और किशोर खाते करीब तीन घंटे तक लिंक रहने के बाद ही नोटिफिकेशन काम कर सकते हैं. संस्थान का कहना है कि उसने तीन घंटे से कम और अधिक समय तक लिंक किए गए खातों का परीक्षण किया और अपने निष्कर्षों पर कायम है.

Study Mode को लेकर भी रिपोर्ट में आपत्ति जताई गई है. इसमें चरण-दर-चरण मदद के साथ ‘show me the answer’ विकल्प दिखाई देता है, जो कथित तौर पर पूरा उत्तर दे सकता है. रिपोर्ट के अनुसार, 13 वर्षीय परीक्षण खाते में यह विकल्प 43 प्रतिशत प्रतिक्रियाओं में और बिना लिंक किए गए 17 वर्षीय खाते में 90 प्रतिशत बार दिखा. OpenAI ने इसे छात्रों को विषय समझने में मदद करने के लिए जानबूझकर दिया गया विकल्प बताया.

रिपोर्ट में यह भी कहा गया कि Study Hours के दौरान चैट में ‘@study’ हटाकर सामान्य ChatGPT तक पहुंच बनाई जा सकती थी. उम्र पहचान प्रणाली पर भी सवाल उठाते हुए शोधकर्ताओं ने दावा किया कि किशोर अनुभव बताने या अपनी उम्र 13 वर्ष बताने पर भी कुछ खातों पर अतिरिक्त सुरक्षा सक्रिय नहीं हुई. OpenAI का कहना है कि उम्र का फैसला किसी एक बातचीत के आधार पर नहीं, बल्कि कई संकेतों और शुरुआती प्रतीक्षा अवधि के बाद किया जाता है.

OpenAI ने रिपोर्ट की पद्धति को त्रुटिपूर्ण बताया और कहा कि परीक्षण संभवतः पैरेंटल कंट्रोल पूरी तरह सक्रिय होने से पहले किया गया था. कंपनी ने यह भी कहा कि उसके आंतरिक परीक्षण और निगरानी रिपोर्ट में इन निष्कर्षों से अलग परिणाम मिले हैं. संस्थान के प्रमुख Robbie Torney ने अपनी पद्धति और नतीजों का बचाव करते हुए अधिक पारदर्शिता तथा स्वतंत्र परीक्षणों की मांग दोहराई है.