Anthropic का AI assistant Claude अब ईमेल इनबॉक्स से जुड़े कई काम कर सकता है. कंपनी के अनुसार, write tools सक्रिय होने पर Claude ईमेल का मसौदा तैयार करने, संदेश भेजने और इनबॉक्स व्यवस्थित करने जैसे काम कर सकता है. यह सुविधा AI को केवल जवाब देने वाले chatbot से आगे ले जाकर ऐसे agent की भूमिका में रखती है, जो यूजर की ओर से डिजिटल काम भी कर सकता है.

लेकिन इस सुविधा के साथ सुरक्षा और गोपनीयता से जुड़े जोखिम भी हैं. Anthropic के अपने safety guidance के अनुसार, Claude ईमेल पढ़ते समय ऐसे संदेशों के संपर्क में आ सकता है जिनमें जानबूझकर उसे गुमराह करने वाले निर्देश छिपे हों. इसे prompt injection कहा जाता है.

ईमेल में छिपे निर्देश बन सकते हैं जोखिम

मान लीजिए किसी यूजर ने Claude से इनबॉक्स साफ करने या जरूरी संदेशों का जवाब तैयार करने को कहा. इसी दौरान कोई ऐसा ईमेल आ सकता है जिसमें Claude को पिछला निर्देश नजरअंदाज करने, किसी लिंक पर क्लिक करने या संवेदनशील जानकारी साझा करने के लिए कहा गया हो. यदि AI उस संदेश को निर्देश की तरह लेता है, तो वह यूजर के मूल उद्देश्य से हटकर कार्रवाई कर सकता है.

Anthropic का कहना है कि prompt injection का जोखिम तब बढ़ता है जब Claude को बाहरी सामग्री पढ़ने के साथ-साथ वास्तविक दुनिया में असर डालने वाली कार्रवाइयों की अनुमति भी दी जाती है. ईमेल भेजना, लिंक खोलना या अकाउंट सेटिंग बदलना ऐसे काम हैं जिन्हें गलती से करना बाद में आसानी से undo नहीं किया जा सकता.

यूजर को किन बातों का ध्यान रखना चाहिए

Anthropic यूजर्स को सलाह देता है कि वे Claude को शुरुआत में कम जोखिम वाले काम दें और धीरे-धीरे उसकी पहुंच बढ़ाएं. उदाहरण के लिए, पहले ईमेल को वर्गीकृत या सारांशित कराने से शुरुआत की जा सकती है. संदेश भेजने, मेल हटाने या किसी बाहरी लिंक पर कार्रवाई करने की अनुमति देने से पहले मानव समीक्षा रखना अधिक सुरक्षित विकल्प है.

कंपनी संवेदनशील ऐप्स और खातों को AI की पहुंच से बाहर रखने की भी सलाह देती है. बैंकिंग, स्वास्थ्य, निजी दस्तावेजों या अन्य गोपनीय सेवाओं से जुड़े अकाउंट को ऐसे agent से जोड़ना अतिरिक्त जोखिम पैदा कर सकता है. Claude द्वारा कंप्यूटर इस्तेमाल किए जाने की स्थिति में यूजर को उसकी गतिविधियों पर नजर रखने और संदिग्ध व्यवहार दिखने पर task रोकने को कहा गया है.

सुविधा उपयोगी, लेकिन पूरी तरह स्वायत्त नहीं

ईमेल प्रबंधन में Claude का इस्तेमाल दोहराए जाने वाले कामों को कम कर सकता है, जैसे संदेशों को व्यवस्थित करना, जवाबों का draft बनाना या जरूरी मेल की पहचान करना. हालांकि, उपलब्ध safety guidance यह संकेत देती है कि इस तरह के agent को पूरी तरह स्वायत्त सहायक मानना अभी सुरक्षित नहीं है.

सबसे व्यावहारिक तरीका यही है कि Claude को सीमित permissions दी जाएं, महत्वपूर्ण कार्रवाइयों के लिए approval अनिवार्य रखा जाए और अज्ञात प्रेषकों के ईमेल को भरोसेमंद निर्देश न माना जाए. AI इनबॉक्स संभाल सकता है, लेकिन अंतिम नियंत्रण यूजर के पास रहना जरूरी है.