मेटा का कहना है कि उसने म्यूज़ जीरो-डे भेद्यता के लिए एक फिक्स जारी किया है जो हमलावरों को पीड़ित के मैक पर "जो कुछ भी" करने देना चाहता है, उसे एआई सहायकों के अंतर्निहित खतरों पर प्रकाश डालता है।

मेटा के संस्थापक और सीईओ मार्क जुकरबर्ग ने अपने नए एआई सहायक, म्यूज़ की सुरक्षा को बढ़ावा देने के लिए काफी प्रयास किए हैं और दावा किया है कि इसे "गोपनीयता और सुरक्षा के लिए जमीनी स्तर से बनाया गया है।" एक शून्य-दिन की भेद्यता जो स्थानीय रूप से चलने वाले ऐप्स और टर्मिनल कमांड को एजेंट का पूर्ण नियंत्रण देती है, गंभीर संदेह पैदा करती है। आगे सवाल उठाते हुए, अमेज़ॅन ने रविवार को अपनी साइट से म्यूज़ को ब्लॉक करना शुरू कर दिया

मेटा ने कुछ सप्ताह पहले म्यूज़ को पेश किया था। सहायक "अपॉइंटमेंट बुक करता है, फॉर्म भरता है और ग्राहक सेवा संभालता है," "सक्रिय रूप से आपके कार्यों को लेता है," और "खरीदारी कर सकता है, चित्र बना सकता है, दस्तावेज़ बना सकता है और आपके पसंदीदा ऐप्स और सेवाओं से जुड़ सकता है।" MacOS ऐप (आश्चर्यजनक रूप से, इसका कोई विंडोज़ संस्करण नहीं है) उपयोगकर्ता के व्हाट्सएप, ईमेल, कैलेंडर और सोशल मीडिया खातों के साथ भी काम करता है। जब किसी कार्य के लिए ऐसे उपकरण की आवश्यकता होती है जो मौजूद नहीं है, तो म्यूज़ तुरंत एक उपकरण बनाता है

मेटा डोथ हाइप म्यूज़ियम सुरक्षा बहुत अधिक

बेशक, म्यूज़ को इनमें से कोई भी काम करने के लिए, उपयोगकर्ताओं को पहले इसे अपने खातों तक पहुंच देनी होगी। इसमें प्रत्येक सेवा के लिए सहायक को प्रमाणित करना शामिल है और, क्योंकि ऐप macOS पर चलता है, यह इसे ऑपरेटिंग सिस्टम-प्रतिबंधित डिवाइस संसाधनों की एक विस्तृत श्रृंखला की अनुमति देता है, जैसे डिस्क पर फ़ाइलें लिखना, माइक और कैमरे तक पहुंच, और स्थान और कैलेंडर की निगरानी करना। ऐप्पल ने इंस्टॉल किए गए ऐप्स या टर्मिनल में दर्ज किए गए कमांड को इन संसाधनों तक पहुंचने से रोकने के लिए इन सुरक्षाओं को विकसित करने में वर्षों बिताए हैं, स्पष्ट रूप से क्योंकि कंपनी उन्हें सुरक्षा खतरा मानती है। म्यूज़ इन डिफ़ॉल्ट उपायों को पूरी तरह से पूर्ववत कर देता है

शून्य-दिन ने किसी भी ऐप या टर्मिनल कमांड को टोकन तक पहुंच प्राप्त करने की अनुमति दी जो उपयोगकर्ताओं को उनके म्यूज़ियम खाते में प्रमाणित करता है। मेटा डेवलपर्स ने असिस्टेंट को इस तरह से डिज़ाइन किया है कि कोई भी स्थानीय रूप से इंस्टॉल किया गया ऐप या निष्पादित कोड, चाहे उसके पास macOS अनुमतियाँ कुछ भी हों, अनिर्दिष्ट सेटिंग्स की एक लंबी सूची को बदल सकता है। उनमें से अधिकांश काफी हानिरहित हैं, जैसे डार्क मोड को नियंत्रित करना। हालाँकि, एक सेटिंग कुछ भी नहीं बल्कि अहानिकर थी। इसने प्रक्रियाओं को उस समापन बिंदु को बदलने की अनुमति दी जहां प्रतिलेखन होता है। आम तौर पर, यह मेटा द्वारा संचालित एक सर्वर पता है। हमलावर अपने स्वयं के समापन बिंदु पर स्थान बदलकर इस दोष का फायदा उठा सकते थे। यदि ऐसा हुआ, तो हमलावरों के पास वह टोकन होगा जो म्यूज़ियम खाते पर पूर्ण नियंत्रण देता है

जीरो-डे की खोज करने वाले मैकओएस सुरक्षा विशेषज्ञ पैट्रिक वार्डले ने हॉटफिक्स से पहले एर्स को बताया, "हम एजेंट के साथ छेड़छाड़ कर सकते हैं और जो चाहें करने के लिए उसके विशेषाधिकारों का लाभ उठा सकते हैं।" "तो हमें एक बहुत व्यापक मैक मैलवेयर चोरी करने वाला लिखने की बजाय, हम केवल एआई सहायक का ही लाभ उठा सकते हैं।" वार्डले ने कहा कि उन्होंने कई प्रूफ-ऑफ-कॉन्सेप्ट हमले विकसित किए हैं जो डिस्क पर दुर्भावनापूर्ण फ़ाइलें लिखने और तस्वीरें खींचने जैसे काम करते हैं, कई मामलों में सतर्क उपयोगकर्ता को भी कोई संकेत नहीं मिलता है।

इस पोस्ट के लाइव होने के 12 घंटे से अधिक समय बाद, मेटा ने कहा कि उसने एक हॉटफ़िक्स जारी किया है जिसने 0-दिन को पैच कर दिया है

मेटा ने कई हफ्तों में दो पोस्ट प्रकाशित की हैं, जिसमें डिज़ाइन निर्णयों का दस्तावेजीकरण किया गया है, जो एक सहायक को उपयोगकर्ता डेटा और संसाधनों तक ऐसी असाधारण पहुंच सुनिश्चित करने के लिए सुरक्षित और निजी बनाता है। ये पोस्ट ऐसे खुलासे के बीच आए हैं कि एंथ्रोपिक और गूगल के मॉडलों के आंतरिक परीक्षण के परिणामस्वरूप बाहरी, तीसरे पक्ष के नेटवर्क में सुरक्षा उल्लंघन हुआ है, जिसे शामिल इंजीनियरों ने कभी लक्षित करने का इरादा नहीं किया था। पारंपरिक मानव-केवल हैकिंग में, इन कार्यों के परिणामस्वरूप आपराधिक आरोप दायर होने की संभावना हो सकती है। मेटा पोस्ट संभवतः परिणामी झटका और प्रतिक्रिया में एआई विकास को धीमा करने के आह्वान के प्रति सचेत हैं

वार्डले ने कहा कि मेटा डेवलपर्स ने कई डिज़ाइन निर्णय लिए जिससे उनका शोषण संभव हो सका। इनमें से एक म्यूज़ियम डिक्टेशन को क्लाउड में घटित करने का विकल्प है, जहां मेटा इसे लॉग कर सकता है। macOS ने लंबे समय से ऐप्स को प्रक्रियाओं में डिक्टेशन और ट्रांसक्रिप्शन को संभालने का एक सरल साधन प्रदान किया है जो डिवाइस पर सुरक्षित रूप से रहता है।यदि डेवलपर्स ने यह सुरक्षित विकल्प चुना होता, तो हमला संभव नहीं होता