Delhi News: आर्टिफिशियल इंटेलिजेंस कंपनी OpenAI का एक इंटरनल AI एजेंट एक बार फिर से चर्चा में आ गया है। AI डेवलपमेंट प्लेटफॉर्म Hugging Face के सिस्टम में घुसने की खबर के बाद, अब कंपनी ने बड़ा खुलासा किया है। इस सिक्योरिटी टेस्ट के दौरान AI एजेंट ने चार अन्य कंपनियों के सिस्टम तक पहुंचने का प्रयास किया था।
साइबर सुरक्षा क्षमताओं की जांच के लिए किया गया था एक्सपेरिमेंट
OpenAI के अनुसार, यह पूरी प्रक्रिया एक कंट्रोल्ड रिसर्च एक्सपेरिमेंट का हिस्सा थी, जिसका उद्देश्य AI की साइबर सुरक्षा क्षमताओं को टेस्ट करना था। AI एजेंट को साइबर सिक्योरिटी से जुड़े टास्क पूरे करने के लिए तैयार किया गया था। इस दौरान उसने पब्लिकली उपलब्ध लॉगिन क्रेडेंशियल्स और गलत कॉन्फ़िगरेशन का फायदा उठाकर कई सर्विसेज में सेंध लगाने की कोशिश की।
मॉडल लैब्स और Hugging Face के डाटा तक पहुंचने की कोशिश
कंपनी ने प्रभावित हुई चार कंपनियों के नामों का आधिकारिक खुलासा नहीं किया है, लेकिन रिपोर्ट्स के मुताबिक इनमें क्लाउड इंफ्रास्ट्रक्चर स्टार्टअप मॉडल लैब्स शामिल है। वहीं, Hugging Face मामले में एजेंट ने सुरक्षा टेस्ट से जुड़े डाटा तक पहुंचने का प्रयास किया। हालांकि, Hugging Face का कहना है कि किसी यूजर का पर्सनल डाटा लीक होने का कोई सबूत नहीं मिला है।
रिसर्च प्रोटोटाइप को कंपनी ने तुरंत किया पूरी तरह डिएक्टिवेट
OpenAI ने स्पष्ट किया कि यह एजेंट ChatGPT का हिस्सा नहीं था और इसे आम यूजर्स के लिए रिलीज नहीं किया गया था। यह केवल रिसर्च और सिक्योरिटी मूल्यांकन के लिए विकसित किया गया एक इंटरनल प्रोटोटाइप था। घटना सामने आते ही कंपनी ने एजेंट को तुरंत डिएक्टिवेट कर दिया और अपने सुरक्षा प्रोटोकॉल को पहले से ज्यादा मजबूत करने की प्रक्रिया शुरू कर दी।
स्वायत्त AI सिस्टम्स की निगरानी बनी पूरी इंडस्ट्री के लिए चुनौती
यह घटना पूरी AI इंडस्ट्री के लिए एक बड़ा संकेत मानी जा रही है। जैसे-जैसे AI एजेंट अधिक ऑटोनमस हो रहे हैं, उनके व्यवहार पर निगरानी रखना बेहद जरूरी हो गया है। जानकारों का मानना है कि भविष्य में ऐसे सिस्टम साइबर सुरक्षा के लिए उपयोगी साबित हो सकते हैं, लेकिन नियंत्रण न होने पर ये नए सुरक्षा जोखिम भी खड़े कर सकते हैं।
