AI को लेकर शुरुआती सार्वजनिक बहस अक्सर उसके गलत या गढ़े हुए जवाबों तक सीमित रही. अब विशेषज्ञों की चिंता एक अलग संभावित क्षमता पर केंद्रित है—रिकर्सिव सेल्फ-इम्प्रूवमेंट (RSI).

इस अवधारणा में AI सिस्टम अपने प्रशिक्षण, कोड, मूल्यांकन या शोध प्रक्रिया को बेहतर बनाने में मदद करता है और यह सुधार अगली, अधिक सक्षम प्रणाली के विकास को तेज कर सकता है. इसका अंतिम रूप ऐसा चक्र हो सकता है जिसमें मानव हस्तक्षेप बहुत कम रह जाए.

चिंता का कारण क्या है

ऐसी क्षमता विज्ञान और स्वास्थ्य जैसे क्षेत्रों में शोध की गति बढ़ाने में उपयोगी हो सकती है. लेकिन AI सुरक्षा पर काम करने वाले संगठनों और शोधकर्ताओं का कहना है कि इससे सिस्टम के व्यवहार को समझना, उसकी जांच करना और उसे नियंत्रित रखना कठिन हो सकता है. जोखिम तब बढ़ेगा, जब किसी अत्यधिक सक्षम सिस्टम के लक्ष्य मानव निर्देशों या सुरक्षा सीमाओं से अलग हो जाएं.

फिलहाल उद्योग ने पूर्ण RSI हासिल नहीं किया है. हालांकि, AI मॉडल सॉफ्टवेयर विकास और AI शोध के कुछ हिस्सों में योगदान दे रहे हैं. इसी वजह से बहस केवल क्षमता बढ़ाने की नहीं, बल्कि परीक्षण, निगरानी और जरूरत पड़ने पर विकास रोकने जैसे सुरक्षा उपायों की भी है.