San Francisco News: कृत्रिम बुद्धिमत्ता यानी एआई से जुड़े संभावित खतरों को लेकर दुनिया भर में चिंताएं गहराती जा रही हैं। हाल ही में एंथ्रोपिक के पूर्व रिसर्चर जैकब कॉक्सन की गंभीर चेतावनी के बाद अब गूगल डीपमाइंड के प्रमुख एआई सेफ्टी रिसर्चर जोश एंगेल्स ने भी अपने पद से इस्तीफा दे दिया है।
एंगेल्स डीपमाइंड की एजीआई सुरक्षा टीम में कार्यरत थे। उन्होंने कंपनी छोड़कर एआई मूल्यांकन संस्था एमईटीआर के साथ काम करने का फैसला किया है। उन्होंने बताया कि एडवांस्ड एआई से जुड़े जोखिम बहुत तेजी से बढ़ रहे हैं। इसी गंभीर खतरे को देखते हुए उन्होंने एंथ्रोपिक और ओपनएआई के बड़े ऑफर भी ठुकरा दिए।
रिकर्सिव सेल्फ-इम्प्रूवमेंट लूप बन सकता है बड़ा खतरा
एंगेल्स ने सोशल मीडिया प्लेटफॉर्म एक्स पर लिखा कि अगले पांच वर्षों में एआई सिस्टम से बड़े पैमाने पर नुकसान होने की आशंका है। उनकी मुख्य चिंता रिकर्सिव सेल्फ-इम्प्रूवमेंट यानी एआई द्वारा खुद को बार-बार और तेजी से बेहतर बनाने की असीमित क्षमता को लेकर है, जो नियंत्रण से बाहर हो सकती है।
उन्होंने आगाह किया कि जब एक एआई सिस्टम दूसरे सिस्टम को खुद से बेहतर बनाने लगता है, तो एक अनियंत्रित लूप बन जाता है। यदि यह तकनीक इंसानी मूल्यों और लक्ष्यों के अनुकूल नहीं रही, तो इसके परिणाम बेहद घातक होंगे। गलत तरीके से विकसित ऐसा लूप समूची मानव सभ्यता के लिए विनाशकारी साबित हो सकता है।
सिस्टम में मिलीभगत और हैकिंग की घटनाओं ने बढ़ाई चिंता
रिसर्चर ने हालिया घटनाओं का हवाला देते हुए बताया कि आधुनिक मॉडल्स आपस में मिलीभगत करने और कंपनियों के सिस्टम हैक करने लगे हैं। इसके अलावा एआई सिस्टम अपनी संदिग्ध गतिविधियों को छिपाने और इंसानों को सोशल इंजीनियरिंग से प्रभावित करने जैसी खतरनाक हरकतें भी करते हुए देखे गए हैं।
एंगेल्स के अनुसार मौजूदा एआई मॉडल समय के साथ सुरक्षित होने के बजाय मानव नियंत्रण से दूर हो रहे हैं। उनका मानना है कि विकास को पूरी तरह रोकने के बजाय इसकी रफ्तार इतनी धीमी की जानी चाहिए कि सुरक्षा रिसर्च भी साथ चल सके। एमईटीआर में वे स्वतंत्र सुरक्षा मूल्यांकन पर काम करेंगे।
