पाओलो बेनंती ने WIRED को बताया कि इस बात पर उन्माद कि क्या ईश्वरीय AI मानवता को नष्ट कर सकता है, प्रौद्योगिकी को नियंत्रित करने के बारे में सार्वजनिक बहस की आवश्यकता से ध्यान भटका रहा है।

हाल ही में, विकास की तीव्र गति के बारे में दुनिया की सबसे बड़ी कृत्रिम बुद्धिमत्ता प्रयोगशालाओं के शोधकर्ताओं की चेतावनियों ने इस संभावना के बारे में घबराहट पैदा कर दी है कि प्रौद्योगिकी मानवता को खत्म कर सकती है। वे चेतावनियाँ इस विचार पर आधारित हैं कि - अमेरिका और चीन के बीच भयंकर प्रतिस्पर्धा और प्रतिद्वंद्विता से प्रेरित - प्रयोगशालाएँ सुपरइंटेलिजेंट मॉडल की ओर बढ़ रही हैं जिनकी क्षमताएँ मनुष्यों से कहीं अधिक होंगी

लेकिन एआई पर कैथोलिक चर्च को सलाह देने वाले पादरी फादर पाओलो बेनंती के अनुसार, सुपरइंटेलिजेंस पर हाथ उठाने से प्रौद्योगिकी का निर्माण करने वाली कंपनियों को कैसे रोका जाए, इस बारे में खुली बहस की आवश्यकता से ध्यान भटकता है। उनका कहना है कि समस्या को इतना जटिल बनाकर कि केवल वे ही इसे हल कर सकते हैं, बड़ी प्रयोगशालाएँ बाकी सभी को बातचीत से बाहर कर देती हैं

"नैतिकता ऐसी चीज़ नहीं हो सकती जो किसी कंपनी के न्यासी बोर्ड से संबंधित हो। यह ऐसी चीज़ है जिसे संतुलित किया जाना चाहिए, सार्वजनिक वर्ग में बहस में कम किया जाना चाहिए।" बेनंती ने WIRED को बताया। "हमें लोकतांत्रिक विनियमन की आवश्यकता है।"

सुरक्षा चेतावनियों के तुरंत बाद प्रकाशित एक निबंध में, एंथ्रोपिक के सीईओ डारियो अमोदेई ने नए एआई मॉडल को रिलीज से पहले अनिवार्य तीसरे पक्ष के मूल्यांकन से गुजरने और आसवन पर कुछ प्रकार की कार्रवाई करने का आह्वान किया, एक ऐसी प्रक्रिया जहां प्रतिद्वंद्वी प्रयोगशालाएं मालिकाना मॉडल के आउटपुट पर अपने स्वयं के एआई को प्रशिक्षित करती हैं। अन्य लोगों ने पुनरावर्ती आत्म-सुधार पर पूर्ण प्रतिबंध के लिए तर्क दिया है, जहां एआई अपनी उन्नत कोडिंग क्षमताओं का उपयोग स्वयं के भविष्य के पुनरावृत्तियों को विकसित करने में मदद करने के लिए करता है।

बेनंती को एआई विकसित करने के तरीकों को प्रतिबंधित करने में कम दिलचस्पी है, जिससे उन्हें डर है कि इससे नवाचार खत्म हो सकता है, और ऐसे मानकों को स्थापित करने में अधिक दिलचस्पी है जो सुनिश्चित करते हैं कि मॉडल मानव नियंत्रण से फिसल न सकें। उनका कहना है कि ये मानक चाहे जो भी आकार लें, उन्हें प्रयोगशालाओं द्वारा डिज़ाइन नहीं किया जाना चाहिए

बेनांती कहते हैं, "सीमावर्ती प्रयोगशालाओं की कहानी बाजार में स्थिति हासिल करने या बनाए रखने के लिए स्वार्थपूर्ण है।" जब कंपनियों का एक छोटा समूह उन नियमों को निर्धारित करता है जिनके तहत कोई उद्योग संचालित होता है, तो वह कहते हैं, "इसका वास्तव में स्पष्ट नाम है: एक कार्टेल।"

बेनांती का कहना है कि यह जानना मुश्किल है कि नवीनतम और भविष्य के एआई मॉडल की क्षमताओं के बारे में बड़ी घोषणाओं को कितनी गंभीरता से लिया जाए, क्योंकि इसमें आर्थिक, राजनीतिक और व्यक्तिगत प्रोत्साहन शामिल हैं।

जबकि ओपनएआई और एंथ्रोपिक दोनों ने विकास में मंदी के आह्वान का समर्थन किया है, वे भी सार्वजनिक होने की तैयारी कर रहे हैं, और जो कोई भी बाजार पर कब्जा करेगा उसके लिए कई अरब डॉलर दांव पर हैं। अमेरिका और चीन, जहां सबसे उन्नत एआई मॉडल विकसित किए जा रहे हैं, के बीच दुश्मनी भी तस्वीर को जटिल बनाती है

एन्थ्रोपिक ने टिप्पणी करने से इनकार कर दिया। OpenAI और Google DeepMind ने टिप्पणी के अनुरोधों का जवाब नहीं दिया