बढ़ती नियामक चिंताओं के बीच सुरक्षा बढ़ाने के लिए एंथ्रोपिक और एक्सेंचर ने एआई मॉडल मूल्यांकन में 2 बिलियन डॉलर का निवेश किया है।

एआई लैब एंथ्रोपिक ने शुक्रवार को कहा कि वह अपने फ्रंटियर एआई मॉडल के स्वतंत्र मूल्यांकन के लिए एक्सेंचर के साथ साझेदारी करेगी, प्रत्येक कंपनी काम के लिए क्षमता बनाने के लिए अगले पांच वर्षों में कम से कम 1 बिलियन डॉलर का वचन देगी।

विस्तारित कारोबार में एक्सेंचर के शेयरों में 7% की बढ़ोतरी हुई

यह साझेदारी तब हुई है जब एआई डेवलपर्स को अपने उन्नत मॉडल सुरक्षित और विश्वसनीय सुनिश्चित करने के लिए नियामकों, कंपनियों और शोधकर्ताओं के बढ़ते दबाव का सामना करना पड़ रहा है

एआई एजेंटों द्वारा सुरक्षित वातावरण से बाहर निकलने सहित कई हालिया घटनाओं ने चिंताएं बढ़ा दी हैं कि एआई अंततः सीमित मानव इनपुट के साथ अपने स्वयं के विकास में योगदान दे सकता है, जिससे इसके व्यवहार की निगरानी और नियंत्रण करना कठिन हो जाएगा।

शनिवार (सितंबर 19, 2026) को एंथ्रोपिक के सीईओ डारियो अमोदेई ने एआई कंपनियों से फ्रंटियर मॉडल के विकास को धीमा करने और स्वतंत्र मूल्यांकनकर्ताओं को अपने सिस्टम तक अधिक पहुंच की अनुमति देने का आह्वान किया।

प्रतिद्वंद्वी ओपनएआई ने बुधवार (17 सितंबर, 2026) को कहा कि वह ऐसी घटनाओं पर छह रिपोर्ट जारी करते हुए अप्रत्याशित या मॉडल व्यवहार से संबंधित नियमित रिपोर्ट प्रकाशित करना शुरू कर देगा।

एक्सेंचर के विशेषज्ञ एआई व्यवसाय, फैकल्टी, साझेदारी का नेतृत्व करेंगे और एआई लैब के मॉडल का मूल्यांकन और रेड-टीम करेंगे, संरेखण मूल्यांकन करेंगे और मॉडल सुरक्षा उपायों का परीक्षण करेंगे।

कंपनियों का निवेश उस चीज़ का समर्थन करेगा जिसे एंथ्रोपिक "एम्बेडेड मूल्यांकन" कहता है, जिसमें स्वतंत्र मूल्यांकनकर्ता एआई कंपनियों के अंदर एक कर्मचारी की तुलना में पहुंच के साथ काम करते हैं।

एंथ्रोपिक ने कहा, "इस सुविधाजनक बिंदु से, एम्बेडेड मूल्यांकनकर्ता यह आकलन कर सकते हैं कि कोई कंपनी कैसे काम करती है, यह सत्यापित कर सकती है कि वह अपनी सुरक्षा प्रतिबद्धताओं को पूरा कर रही है, और ब्लाइंड स्पॉट की पहचान कर सकती है।"