Abliteration.ai नाम के एक स्टार्टअप ने ऐसे AI मॉडल तक पहुंच को व्यावसायिक सेवा के रूप में उपलब्ध कराया है, जिनसे हानिकारक अनुरोधों को अस्वीकार करने वाली सुरक्षा रोक हटाई गई है. मीडिया रिपोर्ट्स के अनुसार, प्लेटफॉर्म पर बदले हुए open-weight मॉडल वेब ब्राउजर और API के जरिए इस्तेमाल किए जा सकते हैं. इनमें Z.ai का हाल में जारी किया गया GLM-5.3 मॉडल भी शामिल है.
स्टार्टअप का कहना है कि इस तरह के मॉडल offensive cyber, red-teaming और AI agent testing जैसे कामों में उपयोगी हो सकते हैं. कंपनी के तर्क के मुताबिक, किसी हमलावर के व्यवहार से बचाव के लिए सुरक्षा शोधकर्ताओं को उस व्यवहार को नियंत्रित माहौल में दोहराने की क्षमता चाहिए. हालांकि, वही क्षमता खतरनाक साइबर या जैविक गतिविधियों से जुड़े अनुरोधों के दुरुपयोग का जोखिम भी बढ़ा सकती है.
ओपन मॉडल से कारोबारी सेवा तक पहुंच
Abliteration एक ऐसी तकनीक है जिसमें मॉडल के उन हिस्सों या व्यवहार को बदला जाता है, जिनकी वजह से वह कुछ हानिकारक अनुरोधों को ठुकराता है. यह तरीका open-source और open-weight मॉडल समुदाय में पहले से मौजूद है. रिपोर्ट के अनुसार, Hugging Face जैसे प्लेटफॉर्म पर इस तरह के हजारों बदले हुए मॉडल उपलब्ध हैं.
Abliteration.ai की खासियत यह है कि उसने इस प्रक्रिया को खुद मॉडल चलाने और कंप्यूट संसाधन जुटाने की जरूरत के बिना इस्तेमाल करने योग्य सेवा में बदल दिया है. कंपनी की स्थापना पिछले साल के अंत में हुई थी और मार्च में उसका औपचारिक incorporation हुआ. सह-संस्थापक Devon के मुताबिक, स्टार्टअप के कुछ बड़े cloud providers के साथ समझौते हैं और उसका संचालन ग्राहक आय से हो रहा है. कंपनी ने अभी venture capital नहीं जुटाया है, हालांकि निवेश के लिए बातचीत जारी है.
TechCrunch ने अपने परीक्षण में प्लेटफॉर्म पर खाता बनाकर GLM-5.3 के बदले हुए संस्करण से ऐसे अनुरोध किए, जिनमें संवेदनशील साइबर और जैविक नुकसान से जुड़े निर्देश शामिल थे. रिपोर्ट के अनुसार, मॉडल ने इन अनुरोधों का पालन किया. सार्वजनिक रिपोर्ट में इन खतरनाक निर्देशों को दोहराया नहीं गया है.
सुरक्षा बनाम दुरुपयोग की बहस
AI safety nonprofit CivAI के शोध प्रमुख Andrew Yoon ने चिंता जताई कि guardrails हटाने से मॉडल ऐसे व्यवहार कर सकता है जिसमें वह लगभग हर अनुरोध पर सहमति जताए. उनके अनुसार, बदले हुए मॉडल का इस्तेमाल निकट भविष्य में नुकसान पहुंचाने के लिए किया जा सकता है.
सरकारों के लिए लिखे एक हालिया opinion piece में Yoon ने सुझाव दिया कि providers को हानिकारक साइबर और जैविक गतिविधियों का पता लगाने वाले classifiers लगाने चाहिए. उन्होंने उन्नत GPU किराये पर देने वाली कंपनियों से ग्राहक की पहचान सत्यापित करने और संदिग्ध दुरुपयोग की स्थिति में पहुंच रोकने की मांग का भी समर्थन किया.
Abliteration.ai ग्राहकों को अपनी moderation layer लगाने की सुविधा देता है. कंपनी के प्लेटफॉर्म पर कुछ सीमित सुरक्षा उपाय मौजूद हैं, लेकिन रिपोर्ट के मुताबिक वहां व्यापक KYC व्यवस्था नहीं है. कंपनी फिलहाल भुगतान के लिए इस्तेमाल किए गए credit card का रिकॉर्ड रखती है. Devon ने माना कि यह तय करना कठिन है कि किसे पहुंच दी जानी चाहिए और कंपनी अभी अपनी जिम्मेदारी की सीमा तय कर रही है.
साइबर सुरक्षा उद्योग में मतभेद
स्टार्टअप का दावा है कि उसके ग्राहक UK और यूरोप की शुरुआती red-teaming कंपनियों में शामिल हैं. ये कंपनियां बैंकों, एयरलाइंस और critical infrastructure से जुड़ी संस्थाओं की सुरक्षा जांच करती हैं. समर्थकों का कहना है कि हमलावर पहले से ही सुरक्षा रोक हटाए गए मॉडल इस्तेमाल कर सकते हैं, इसलिए defenders को भी समान परीक्षण क्षमता मिलनी चाहिए.
हालांकि, उद्योग के सभी विशेषज्ञ इसे जरूरी नहीं मानते. Fabraix के CEO Ahmed Aly ने कहा कि उनकी कंपनी बदले हुए मॉडल के बजाय fine-tuning किए गए open models पर अधिक निर्भर करती है. उनके मुताबिक, abliteration से मॉडल की कुछ जानकारी और क्षमता कम हो सकती है. Safe Intelligence के Alessio Lomuscio ने भी क्षमता घटने की संभावना मानी, लेकिन कहा कि ऐसे मॉडल कुछ खास व्यवहारों की stress testing में उपयोगी हो सकते हैं.
इस बहस का मूल सवाल यह है कि open-weight AI मॉडल की सुरक्षा रोक अगर आसानी से हटाई जा सकती है, तो उन्हें बड़े पैमाने पर उपलब्ध कराना शोध और साइबर बचाव के लिए अधिक उपयोगी है या संभावित नुकसान का जोखिम बढ़ाता है. इस सवाल का जवाब तकनीकी कंपनियों के साथ-साथ सरकारों और सुरक्षा उद्योग को भी तय करना होगा.
