भारत सरकार अत्यधिक सक्षम AI मॉडल के लिए अलग सुरक्षा ढांचा तैयार करने पर विचार कर रही है. प्रस्तावित व्यवस्था में ऐसे frontier AI सिस्टम को बाजार में जारी करने से पहले सुरक्षा उपायों का प्रदर्शन, नियंत्रित वातावरण में परीक्षण और जोखिम के आधार पर अतिरिक्त निगरानी जैसी शर्तें शामिल हो सकती हैं.
केंद्र सरकार आने वाले हफ्तों में AI कानून पर consultation paper जारी कर सकती है. इसमें नागरिक समाज, कंपनियों, शोधकर्ताओं और अन्य हितधारकों से सुझाव मांगे जाने की संभावना है. अभी यह स्पष्ट नहीं है कि frontier model की परिभाषा केवल training में इस्तेमाल computing power से तय होगी या मॉडल की वास्तविक क्षमताओं का भी आकलन किया जाएगा.
चर्चा में ऐसे AI सिस्टम से जुड़े जोखिम भी शामिल हैं, जो software vulnerabilities खोज सकते हैं, साइबर हमलों में मदद कर सकते हैं या convincing synthetic content बना सकते हैं. Deepfake, financial fraud, impersonation और psychological harm पर भी संभावित नियमों पर विचार हो रहा है.
प्रस्तावित कानून में developers और deployers की जिम्मेदारी, high-risk features पर access restrictions, incident reporting और संवेदनशील कामों के लिए human approval जैसे प्रावधानों पर चर्चा हो सकती है. सरकार के सामने innovation और सुरक्षा के बीच संतुलन बनाए रखने की चुनौती भी रहेगी.
