AI कंपनी Anthropic ने चेतावनी दी है कि छोटे AI मॉडल आगे चलकर ऐसे malware को सक्षम कर सकते हैं, जो खुद को इंटरनेट से जुड़े IoT उपकरणों में फैला सके. इसकी चपेट में स्मार्ट फ्रिज, रोबोटिक वैक्यूम क्लीनर और अन्य connected devices आ सकते हैं.
कंपनी के अनुसार, अगले साल तक छोटे मॉडल अलग-अलग IoT उपकरणों पर स्वायत्त रूप से खुद की प्रतियां बनाने में सक्षम हो सकते हैं. लंबे समय में यह क्षमता ऐसे computer worm का रूप ले सकती है, जो मानव हस्तक्षेप के बिना फैलता है और अनजान या नए IoT उपकरणों को भी संक्रमित करने की कोशिश कर सकता है.
हालांकि, Anthropic के हालिया प्रयोग में AI malware replicator तैयार करने के दौरान कई महत्वपूर्ण तकनीकी चुनौतियां सामने आईं. इसलिए कंपनी की चेतावनी को तत्काल सक्रिय खतरे की पुष्टि के तौर पर नहीं, बल्कि संभावित भविष्य के जोखिम के आकलन के रूप में देखा जाना चाहिए.
ऐसे malware को रोकना क्यों कठिन हो सकता है
Anthropic ने कहा कि इस तरह के replicator को बंद करना मुश्किल हो सकता है, क्योंकि इसे रोकने के लिए कोई एक केंद्रीकृत नियंत्रण-बिंदु नहीं होगा. कंपनी के मुताबिक, इसका प्रसार धीमा हो सकता है और एक डिवाइस से दोगुने होने में कई दिन लग सकते हैं.
कंपनी ने यह भी आशंका जताई कि AI-संचालित malware गैर-AI malware की तुलना में अनजान उपकरणों की पहचान और उनके अनुरूप काम करने की क्षमता विकसित कर सकता है.
