यूरोपीय संघ में मेडिकल और मानसिक स्वास्थ्य से जुड़े AI चैटबॉट्स के इस्तेमाल ने मरीजों के अधिकारों और नियामकीय जिम्मेदारियों को लेकर नई बहस तेज कर दी है. IAPP की 2 सितंबर 2026 को प्रकाशित विश्लेषणात्मक रिपोर्ट का केंद्रीय सवाल यह है कि ऐसे सिस्टम पर General Data Protection Regulation यानी GDPR और EU AI Act के नियम किस तरह साथ-साथ लागू होंगे.

यह मुद्दा इसलिए महत्वपूर्ण है क्योंकि मरीजों के साथ बातचीत करने वाले चैटबॉट अक्सर स्वास्थ्य संबंधी संवेदनशील जानकारी हासिल करते हैं. इनमें लक्षण, दवाओं का विवरण, मानसिक स्वास्थ्य, पिछली बीमारी और व्यक्तिगत परिस्थितियों से जुड़ी बातें शामिल हो सकती हैं. GDPR के तहत स्वास्थ्य संबंधी डेटा को विशेष श्रेणी का व्यक्तिगत डेटा माना जाता है, जिसके इस्तेमाल के लिए कड़े कानूनी आधार और सुरक्षा उपाय जरूरी हैं.

GDPR के तहत मरीजों को क्या अधिकार मिलते हैं

GDPR तकनीक-तटस्थ कानून है. इसका मतलब है कि डेटा को इंसान संभाले या AI सिस्टम, व्यक्तिगत डेटा के इस्तेमाल पर मूल गोपनीयता नियम लागू रहते हैं. मरीजों को यह जानकारी दी जानी चाहिए कि उनका डेटा किस उद्देश्य से लिया जा रहा है, उसका कानूनी आधार क्या है, उसे कितने समय तक रखा जाएगा और किन पक्षों के साथ साझा किया जा सकता है.

व्यक्तियों को अपने डेटा तक पहुंच, कुछ परिस्थितियों में उसे मिटाने और डेटा प्रोसेसिंग पर शिकायत दर्ज कराने जैसे अधिकार भी मिलते हैं. यदि कोई सिस्टम स्वास्थ्य डेटा के आधार पर पूरी तरह स्वचालित निर्णय लेता है और उसका व्यक्ति पर महत्वपूर्ण प्रभाव पड़ता है, तो स्वचालित निर्णय लेने से जुड़े अतिरिक्त सुरक्षा प्रावधान लागू हो सकते हैं.

AI Act में पारदर्शिता और जोखिम पर जोर

EU AI Act AI सिस्टम को उनके संभावित जोखिम के आधार पर नियंत्रित करता है. सीधे लोगों से बातचीत करने वाले AI सिस्टम, जिनमें चैटबॉट भी शामिल हैं, के लिए उपयोगकर्ता को यह बताना जरूरी है कि वह मशीन से बातचीत कर रहा है. मेडिकल संदर्भ में यह पारदर्शिता मरीज को AI की सलाह और डॉक्टर की पेशेवर राय के बीच अंतर समझने में मदद कर सकती है.

वे AI सिस्टम जो मेडिकल डिवाइस का हिस्सा हैं या स्वास्थ्य, सुरक्षा और मौलिक अधिकारों पर महत्वपूर्ण असर डाल सकते हैं, उच्च जोखिम वाली श्रेणी में आ सकते हैं. ऐसे सिस्टम के लिए जोखिम प्रबंधन, दस्तावेजीकरण, निगरानी, डेटा गुणवत्ता और मानव निरीक्षण जैसी अतिरिक्त आवश्यकताएं हो सकती हैं.

हालांकि हर स्वास्थ्य या wellbeing चैटबॉट अपने आप high-risk AI system नहीं बन जाता. उसका वर्गीकरण उसके उद्देश्य, इस्तेमाल के तरीके और इस बात पर निर्भर कर सकता है कि वह केवल सामान्य जानकारी देता है या निदान, उपचार, triage अथवा किसी महत्वपूर्ण स्वास्थ्य निर्णय को प्रभावित करता है.

Self-help चैटबॉट्स को लेकर नियामकीय चिंता

यूरोपीय आयोग के एक हालिया दस्तावेज में self-help या therapy चैटबॉट्स को लेकर चिंता दर्ज की गई है. ऐसे टूल कई बार खुद को medical device के बजाय wellbeing या emotional support सेवा के रूप में पेश करते हैं, लेकिन फिर भी उपयोगकर्ता के मानसिक स्वास्थ्य से जुड़े फैसलों को प्रभावित कर सकते हैं और संवेदनशील व्यक्तिगत डेटा संसाधित कर सकते हैं.

इससे एक व्यावहारिक सवाल उठता है: क्या किसी सिस्टम को केवल इसलिए कम जोखिम वाला माना जा सकता है क्योंकि वह औपचारिक रूप से चिकित्सा उपकरण नहीं है, जबकि उसकी सलाह उपयोगकर्ता के व्यवहार और स्वास्थ्य संबंधी निर्णयों पर असर डालती हो. यूरोपीय आयोग ने ऐसे सिस्टम के जोखिमों की निगरानी और आगे और प्रमाण जुटाने की जरूरत पर जोर दिया है.

कंपनियों और स्वास्थ्य संस्थानों के लिए चुनौती

मेडिकल AI चैटबॉट विकसित करने वाली कंपनियों को केवल मॉडल की सटीकता पर ध्यान देना पर्याप्त नहीं होगा. उन्हें डेटा संग्रह, सहमति, सुरक्षा, उपयोगकर्ता को दी जाने वाली सूचना, मानव हस्तक्षेप और शिकायत निवारण की व्यवस्था पर भी काम करना होगा.

अस्पतालों और स्वास्थ्य सेवा प्रदाताओं के लिए यह तय करना अहम होगा कि चैटबॉट किस भूमिका में इस्तेमाल हो रहा है. अपॉइंटमेंट या सामान्य प्रशासनिक जानकारी देने वाला सिस्टम और उपचार संबंधी सलाह देने वाला सिस्टम नियामकीय दृष्टि से एक जैसे नहीं माने जा सकते.

IAPP का विश्लेषण इसी व्यापक मेल पर ध्यान केंद्रित करता है कि GDPR मरीज के डेटा और निर्णय संबंधी अधिकारों की रक्षा करता है, जबकि AI Act सिस्टम के जोखिम, पारदर्शिता और संचालन पर अतिरिक्त ढांचा देता है. व्यवहार में किसी स्वास्थ्य AI सेवा को दोनों कानूनों के साथ-साथ अन्य लागू चिकित्सा और डिजिटल नियमों का भी पालन करना पड़ सकता है.