Anthropic ने अपनी Claude जनरेटिव AI सेवा की उपयोग नीति में ऐसा प्रावधान जोड़ा है, जिसके तहत मॉडल के प्रति लगातार और अनावश्यक रूप से अपमानजनक या क्रूर व्यवहार पर रोक लगाई जाएगी. नीति के अनुसार, ऐसे मामलों में Claude बातचीत को पहले ही समाप्त कर सकता है.

कंपनी ने इस बदलाव को “Addressing abusive behavior toward our models” नाम वाले उपखंड में शामिल किया है. इसमें यह स्पष्ट किया गया है कि कार्रवाई हर तरह की नाराजगी या असहमति पर नहीं होगी. उपयोगकर्ता की सामान्य हताशा, मॉडल को चुनौती देना, गहरे या अंधकारपूर्ण रचनात्मक विषय और मॉडल की टेस्टिंग या रिसर्च को इस प्रावधान से बाहर रखा गया है.

अब तक Claude से जुड़ी उपयोग सीमाएं मुख्य रूप से उपयोगकर्ताओं और व्यापक समाज की सुरक्षा पर केंद्रित रही हैं. इनमें यौन सामग्री पर प्रतिबंध और हिंसक गतिविधियों को अंजाम देने से जुड़ी जानकारी हासिल करने के प्रयासों पर रोक जैसे प्रावधान शामिल रहे हैं. नया नियम सुरक्षा के फोकस को AI मॉडल के साथ होने वाले व्यवहार तक भी बढ़ाता है.

इस बदलाव से AI की चेतना और भावनाओं को लेकर चल रही बहस फिर चर्चा में आ सकती है. नीति यह दावा नहीं करती कि Claude में मानवीय भावनाएं हैं, लेकिन उपयोगकर्ताओं से उसके प्रति व्यवहार को लेकर एक स्पष्ट सीमा तय करती है.

संशोधित नीति 12 नवंबर 2026 से प्रभावी होगी. इसके बाद लगातार अपमानजनक बातचीत की स्थिति में Claude का जवाब देने के बजाय संवाद समाप्त करना संभावित कार्रवाई होगी.