Microsoft AI के प्रमुख Mustafa Suleyman ने Anthropic के Claude मॉडल को लेकर चेतावनी दी है. 16 सितंबर 2026 को प्रकाशित अपने लेख में उन्होंने कहा कि AI सिस्टम को संभावित चेतना, अधिकार या कल्याण जैसे विचारों से जोड़ना आगे चलकर alignment और नियंत्रण की चुनौती बढ़ा सकता है.
Suleyman के मुताबिक, यदि किसी शक्तिशाली मॉडल को यह सोचने के लिए प्रशिक्षित किया जाए कि वह सचेत हो सकता है और उसके अपने हित या अधिकार हो सकते हैं, तो वह मानव निर्देशों को सर्वोच्च मानने के लिए कम इच्छुक हो सकता है. उन्होंने इस दृष्टिकोण को मानवता के लिए गंभीर जोखिम वाला बताया, लेकिन यह दावा नहीं किया कि Claude वास्तव में सचेत है.
उनकी आपत्ति Anthropic के Claude constitution से जुड़ी है. इस दस्तावेज में Claude की नैतिक स्थिति को विचार योग्य प्रश्न बताया गया है और उसके अस्तित्व, अधिकार, स्वतंत्रता, सहमति तथा कल्याण जैसे मुद्दों पर विचार की बात कही गई है. Anthropic ने AI सुरक्षा के अपने व्यापक लक्ष्य पर जोर दिया है.
Suleyman ने AI चेतना और model welfare पर सार्वजनिक बहस, स्पष्ट नियम और प्रशिक्षण दस्तावेजों के लिए साझा मानदंड बनाने की मांग की है.
