कृत्रिम बुद्धिमत्ता (AI) एजेंटों की सुरक्षा जांच पर काम कर रही स्टार्टअप Artificial Intelligence Underwriting Company (AIUC) ने 4 करोड़ डॉलर की सीरीज A फंडिंग जुटाने की घोषणा की है. इस दौर का नेतृत्व Ribbit Capital ने किया, जबकि First Harmonic ने भी भागीदारी की.
कंपनी के अनुसार, वह पहले 1.5 करोड़ डॉलर का सीड निवेश जुटा चुकी थी. इसमें Nat Friedman की फंड NFDG, Emergence, Terrain और Anthropic के सह-संस्थापक Ben Mann समेत अन्य निवेशक शामिल थे. नई फंडिंग के बाद AIUC की कुल जुटाई गई पूंजी 5.5 करोड़ डॉलर हो गई है.
AIUC की स्थापना Rune Kvist और Rajiv Dattani ने की है. Kvist Anthropic के शुरुआती कर्मचारियों में रहे हैं, जबकि Dattani AI सुरक्षा शोध संगठन METR के पूर्व COO हैं और उसके बोर्ड सदस्य भी हैं. कंपनी Cursor, Lovable, Harvey और ElevenLabs को अपने ग्राहकों के रूप में सूचीबद्ध करती है.
AI एजेंटों के लिए AIUC-1 मानक
स्टार्टअप का लक्ष्य कंपनियों को यह समझने में मदद करना है कि उनके AI एजेंट किन परिस्थितियों में सुरक्षित और भरोसेमंद ढंग से काम करते हैं तथा कहां जोखिम हो सकता है. इसके लिए AIUC ने साइबर सुरक्षा के व्यापक रूप से इस्तेमाल होने वाले SOC 2 ढांचे से प्रेरित होकर AIUC-1 नाम का एक मानक विकसित किया है.
कंपनी स्वतंत्र ऑडिट और प्रमाणन सेवा देने की बात कहती है. उसके मुताबिक, बैंक, अस्पताल, सरकारी संस्थान और सैन्य संगठन केवल मॉडल की क्षमता नहीं, बल्कि उसके व्यवहार पर भरोसे की स्पष्ट गारंटी चाहते हैं. खासकर ऐसे मामलों में, जहां एजेंट ग्राहकों के डेटा, संवेदनशील जानकारी या महत्वपूर्ण कार्यप्रवाह से जुड़ते हैं.
करीब 5,000 परीक्षण और मानव सत्यापन
AIUC ने मानक तैयार करने के लिए लगभग 250 सुरक्षा और जोखिम-प्रबंधन प्रमुखों का एक समूह बनाया है. कंपनी का कहना है कि इन संभावित खरीदारों से नियमित बातचीत के आधार पर परीक्षणों के मानदंड तय किए जाते हैं.
किसी एजेंट की जांच के दौरान उसे करीब 5,000 परीक्षणों से गुजारा जाता है. इनमें जेलब्रेक, गलत या भ्रामक उत्तर देने की प्रवृत्ति और डेटा लीक जैसे परिदृश्य शामिल हैं. परीक्षण के बाद लगभग 100 पन्नों की रिपोर्ट तैयार होती है, जिसमें एजेंट के सुरक्षित प्रदर्शन वाले क्षेत्र और कमियां दर्ज की जाती हैं.
AIUC परीक्षण चलाने और आंकड़ों का विश्लेषण करने में AI एजेंटों का उपयोग करती है, लेकिन कंपनी के अनुसार अंतिम ऑडिट को मनुष्य सत्यापित करते हैं. यह मॉडल कंपनियों को AI एजेंट खरीदने या तैनात करने से पहले स्वतंत्र जोखिम आकलन उपलब्ध कराने के उद्देश्य से बनाया गया है.
