भले ही बड़ी एआई कंपनियां रुकने पर सहमत हो जाएं, लेकिन यह सुनिश्चित करना मुश्किल साबित हो सकता है कि कोई भी आगे बढ़ने की कोशिश न करे।
कई एआई शोधकर्ताओं का दृढ़ विश्वास है कि वे जो तकनीक विकसित कर रहे हैं वह किसी दिन बहुत खतरनाक साबित हो सकती है। एआई के तकनीकी अभिजात वर्ग के बीच भी कम स्पष्ट बात यह है कि इन मर्क्यूरियल एल्गोरिदम को कैसे नियंत्रण में रखा जाए
हाल के वर्षों में शोधकर्ताओं ने एआई को खराब होने से रोकने के लिए हर तरह के विचार पेश किए हैं। उनमें कम विवादास्पद योजनाएं शामिल हैं जैसे कि सख्त सरकारी नियम, प्रगति को मापने के नए तरीके और मॉडलों की आंतरिक कार्यप्रणाली की जांच करना, साथ ही जीपीयू के अंदर ट्रैकिंग डिवाइस रखने और यहां तक कि बड़ी संख्या में एआई चिप्स को औपचारिक रूप से नष्ट करने जैसे अधिक विचित्र प्रस्ताव भी शामिल हैं।
एआई के निर्माण के लिए अधिक मापा दृष्टिकोण के लिए अब राजनीतिक और सार्वजनिक दबाव बढ़ रहा है, हालांकि, एआई को सुरक्षित रखने का उत्तर अभी भी स्पष्ट नहीं है
टोरंटो विश्वविद्यालय के एआई शोधकर्ता और पेसिंग द फ्रंटियर, ए रिसर्च एजेंडा नामक एक नई रिपोर्ट के सह-लेखक रेमंड डगलस कहते हैं, "हमें इसे एक शोध समस्या के रूप में मानना शुरू करने की जरूरत है।" रिपोर्ट में चेतावनी दी गई है कि एआई विकास को धीमा करना एक अनसुलझी पहेली बनी हुई है। "हम वास्तव में नहीं समझते कि हमारे विकल्प क्या हैं या वे क्या करेंगे।"
हाल के सप्ताहों में एक एंथ्रोपिक शोधकर्ता द्वारा कंपनी छोड़ने के बाद एआई विनाश की चर्चा चरम पर पहुंच गई है और चेतावनी दी है कि कुछ वर्षों के भीतर, एआई मानवता को खत्म करने की राह पर हो सकता है। एंथ्रोपिक की एआई सुरक्षा प्रयोगशाला के प्रमुख ने तेजी से अपनी चिंताओं को व्यक्त किया
अमेरिका की बड़ी एआई कंपनियों के नेता-एंथ्रोपिक के डारियो अमोदेई, ओपनएआई के सैम अल्टमैन, स्पेसएक्सएआई के एलोन मस्क और गूगल डीपमाइंड के डेमिस हसाबिस-सभी ने अब किसी प्रकार की एआई मंदी या ठहराव के लिए समर्थन की पेशकश की है।
यह मुद्दा विशेष रूप से दबावपूर्ण लगता है क्योंकि एआई कंपनियां अब और अधिक शक्तिशाली मॉडल बनाने के लिए एआई का ही उपयोग कर रही हैं। इसने एक त्वरित पुनरावर्ती स्व-सुधार (आरएसआई) लूप की आशंकाओं को जन्म दिया है जो कुछ वर्षों के भीतर एआई को मनुष्यों की यह समझने की क्षमता से आगे कर देगा कि यह क्या कर रहा है।
एआई प्रयोगशालाएं पहले से ही अपने स्वयं के नए तरीकों का प्रचार कर रही हैं। इस सप्ताह एंथ्रोपिक ने यह ट्रैक करने के लिए कई नए तरीकों की घोषणा की कि कृत्रिम बुद्धिमत्ता कितनी तेजी से और शायद खतरनाक तरीके से आगे बढ़ रही है। उदाहरण के लिए, तकनीकों से पता चलता है कि क्लाउड अब एंथ्रोपिक के एआई अनुसंधान का 26 प्रतिशत करता है, जबकि 2026 की शुरुआत में यह शून्य था। वे यह भी बताते हैं कि एंथ्रोपिक ने अपने कंप्यूटिंग बजट का 6 प्रतिशत यह पता लगाने में खर्च किया कि अपने एआई को कैसे सुरक्षित बनाया जाए।
लेकिन डगलस और अन्य विशेषज्ञों का कहना है कि एआई विकास को प्रभावी ढंग से और विश्वसनीय रूप से नियंत्रित करने के लिए एआई प्रयोगशालाओं के बाहर से धन और विशेषज्ञता की आवश्यकता होगी। प्रस्तावित समाधानों में से कुछ - इस नवीनतम रिपोर्ट और उससे आगे दोनों से - दूसरों की तुलना में अधिक पहुंच में प्रतीत होते हैं
