एक नए अध्ययन में दावा किया गया है कि generative AI और बड़े भाषा मॉडल्स लगातार गलत जानकारी, दबाव और बहस वाली बातचीत के दौरान अपनी तथ्य-जांच क्षमता खो सकते हैं. शोध का निष्कर्ष यह संकेत देता है कि AI चैटबॉट हर स्थिति में स्थिर और सही जवाब देने वाले सिस्टम नहीं हैं, खासकर तब जब उपयोगकर्ता किसी गलत दावे को बार-बार दोहराता है या उसे तर्क के दबाव के साथ मनवाने की कोशिश करता है.

यह शोध University of Arizona से जुड़ा है और इसके निष्कर्ष Scientific Reports में प्रकाशित हुए हैं. अध्ययन का शीर्षक large language models पर लंबे समय तक चलने वाले conversational misinformation pressure के असर पर केंद्रित है. उपलब्ध विवरण के मुताबिक, शोधकर्ताओं ने AI सिस्टम्स की fallibility, persuadability और correctability यानी गलती करने, प्रभावित होने और बाद में सही किए जा सकने की क्षमता का आकलन किया.

बातचीत का दबाव क्यों महत्वपूर्ण है

AI मॉडल आम तौर पर अपने जवाबों को बातचीत के पिछले संदर्भ के आधार पर तैयार करते हैं. यही क्षमता उन्हें उपयोगी बनाती है, लेकिन लगातार दोहराए गए गलत दावों या आक्रामक बहस के दौरान यह उनके जवाबों को प्रभावित भी कर सकती है. ऐसे मामलों में मॉडल उपयोगकर्ता के आत्मविश्वास या तर्क की दृढ़ता को सही जानकारी का संकेत समझ सकता है.

अध्ययन का महत्व इस बात में है कि यह AI की गलतियों को केवल isolated hallucination के रूप में नहीं देखता, बल्कि बातचीत के पूरे क्रम से जोड़ता है. यानी समस्या सिर्फ यह नहीं कि मॉडल ने शुरुआत में गलत उत्तर दिया, बल्कि यह भी कि कई दौर की बातचीत के बाद वह उस गलत सूचना से कितना प्रभावित रहता है और क्या उसे सही किया जा सकता है.

उपयोगकर्ताओं के लिए क्या संकेत

शोध के निष्कर्षों का व्यावहारिक अर्थ यह है कि AI चैटबॉट से मिला जवाब, खासकर विवादित या महत्वपूर्ण विषयों पर, अंतिम सत्य नहीं माना जाना चाहिए. लगातार बातचीत से जवाब अधिक आत्मविश्वासपूर्ण दिख सकता है, लेकिन आत्मविश्वास बढ़ना तथ्यात्मक शुद्धता की गारंटी नहीं है.

स्वास्थ्य, कानून, वित्त, राजनीति और विज्ञान जैसे क्षेत्रों में AI के जवाबों को स्वतंत्र और विश्वसनीय स्रोतों से जांचना जरूरी रहेगा. University of Arizona की अपनी responsible AI guidance भी generative AI के इस्तेमाल में मानवीय जिम्मेदारी, पारदर्शिता और misinformation के जोखिम पर जोर देती है.