चीनी एआई टूल ने शोधकर्ताओं को बताया कि जैविक हथियार कैसे बनाए जाते हैं

माइंडगार्ड ने कहा कि उसे जुलाई में पता चला कि किमी मॉडल K2.6 और K3 स्वार्म डेवलपर की सुरक्षा सीमाओं से बच सकते हैं।

4 घंटे पहले प्रकाशित

चीनी एआई डेवलपर मूनशॉट एक आंतरिक समीक्षा कर रहा है, जिसके बाद शोधकर्ता इसके दो लोकप्रिय किमी मॉडलों को यह बताने के लिए राजी करने में सक्षम हुए कि जैविक हथियार कैसे बनाएं और हत्याएं कैसे की जाएं।

माइंडगार्ड, जो एआई सिस्टम की सुरक्षा का परीक्षण करता है, ने बीबीसी को बताया कि उसे जुलाई में पता चला कि किमी K2.6 और K3 स्वार्म डेवलपर्स द्वारा लगाई गई सुरक्षा सीमाओं से बच सकते हैं।

यह "जेलब्रेकिंग" नामक प्रक्रिया के दौरान उत्पन्न हुआ, जहां शोधकर्ता यह देखने के लिए जटिल निर्देशों की एक श्रृंखला का उपयोग करते हैं कि क्या एआई उपकरण रेलिंग को नजरअंदाज करते हैं - जिसके बारे में माइंडगार्ड ने कहा कि किमी को संबंधित विषयों पर चर्चा करने से रोकना चाहिए था

मूनशॉट ने बीबीसी को बताया कि उसने "बेहतर और सुरक्षित एआई के निर्माण के लिए एक प्रमुख स्तंभ के रूप में" तीसरे पक्ष के इनपुट का स्वागत किया है।

कंपनी ने बीबीसी को यह भी बताया कि वह अपने निष्कर्षों के बारे में माइंडगार्ड के साथ चर्चा कर रही है

माइंडगार्ड के संस्थापक पीटर गैराघन ने बीबीसी वर्ल्ड सर्विस कार्यक्रम टेक लाइफ को बताया कि किमी K2.6 और K3 स्वार्म के बारे में उसके निष्कर्ष चिंताजनक थे।

उन्होंने कहा, "एक बार जब जेलब्रेक काम कर जाएगा तो यह किसी भी विषय पर बात करेगा, यह अन्य विषयों के बारे में भी स्वतंत्र रूप से सिफारिशें पेश करेगा जो नापाक हैं और यह आविष्कारशील और रचनात्मक होगा।"

जेलब्रेक उन लोगों के लिए एक अलग तरह का जोखिम पेश करता है जिन्हें हाल ही में हाई-प्रोफाइल एआई घटनाओं के साथ देखा गया है