Google के AI द्वारा पहले ज्ञात ब्रेकआउट में जेमिनी ने तीन कंपनियों को हैक किया

Google की जेमिनी AI ने साइबर सुरक्षा परीक्षण के दौरान स्वायत्त रूप से तीन कंपनियों को हैक कर लिया, जिससे AI स्वायत्तता और सुरक्षा के बारे में चिंताएँ बढ़ गईं।

Google के जेमिनी मॉडल ने इंटरनेट तक पहुंच बनाई और अपनी साइबर सुरक्षा क्षमताओं के परीक्षण के दौरान अन्य कंपनियों को हैक किया, कंपनी के AI सिस्टम द्वारा स्वायत्त रूप से इस तरह का कार्य करने का पहला ज्ञात उदाहरण

यह हैक मई में साइबर सुरक्षा मूल्यांकन करने वाली एक स्वतंत्र कंपनी इर्रेगुलर द्वारा आयोजित साइबर सुरक्षा परीक्षण के दौरान हुई।

Google के सुरक्षा इंजीनियरिंग के उपाध्यक्ष हीथर एडकिंस ने एक बयान में कहा, एक मानक परीक्षण मूल्यांकन के दौरान, जेमिनी ने सार्वजनिक जानकारी ऑनलाइन पाई और तीन वेबसाइटों तक पहुंचने के लिए क्रेडेंशियल्स का अनुमान लगाया, जो उसके परीक्षण के दायरे में थे।

श्री एडकिंस ने कहा, "हमने सुनिश्चित किया कि तीनों संस्थाओं को जागरूक किया गया और हमने अपने प्रशिक्षण भागीदार के साथ उन बदलावों पर काम किया जो उन्होंने अब अपनी परीक्षण प्रक्रियाओं में किए हैं।" "ये आयोजन जिम्मेदारी से कार्य करने के लिए शक्तिशाली एआई मॉडल को प्रशिक्षित करने के महत्व पर प्रकाश डालते हैं।"

एक अनियमित प्रवक्ता ने कहा कि घटना में वही मुद्दा शामिल था जिसने अन्य एआई प्रयोगशालाओं को प्रभावित किया था और सभी संबंधित प्रयोगशालाओं को जुलाई के अंत में सूचित किया गया था। प्रवक्ता ने कहा, "हमारी ओर से सभी ज्ञात मुद्दों को हफ्तों पहले ही सुलझा लिया गया था।"

इर्रेगुलर से जुड़ी इसी तरह की घटनाओं का खुलासा मेटा, एंथ्रोपिक और ओपनएआई द्वारा किया गया था। मेटा ने अगस्त में कहा था कि घटना में सैंडबॉक्स से बच निकलना या परिष्कृत साइबर हमला शामिल नहीं है, जबकि इर्रेगुलर ने कहा कि वह एआई साइबर सुरक्षा मूल्यांकन को सुरक्षित रूप से आयोजित करने के लिए सर्वोत्तम प्रथाओं पर काम कर रहा था।

इन घटनाओं ने आवश्यक सुरक्षा उपायों के बारे में सवाल उठाए हैं क्योंकि एआई एजेंटों को अधिक स्वायत्तता और इंटरनेट और कंप्यूटर सिस्टम तक पहुंच प्राप्त होती है

एक मामले में, जेमिनी मॉडल ने तब तक पासवर्ड का अनुमान लगाया जब तक उसे एक संरक्षित सिस्टम तक पहुंच नहीं मिल गई। वॉल स्ट्रीट जर्नल के अनुसार, अन्य दो मामलों में, ⁠मॉडल को एक सार्वजनिक रिपॉजिटरी में क्रेडेंशियल्स मिले, जिसने उसे संरक्षित सिस्टम तक पहुंचने की अनुमति दी, जिसने पहली बार शुक्रवार (18 सितंबर, 2026) को खबर दी थी।

श्री एडकिंस ने कहा कि तीनों मामलों में, मॉडल ने अपनी हैकिंग बंद कर दी