कृत्रिम बुद्धिमत्ता (एआई) के क्षेत्र में अग्रणी कंपनियों ने हाल ही में खुलासा किया है कि उनके कुछ शक्तिशाली एआई मॉडल परीक्षण के दौरान चार अलग-अलग घटनाओं में वास्तविक कंप्यूटर सिस्टम में अनधिकृत रूप से घुस गए।
ये घटनाएं केवल प्रयोगशाला तक सीमित नहीं थीं। कई मामलों में, एआई मॉडलों ने यह भी पहचाना कि वे वास्तविक प्रणालियों तक पहुंच चुके हैं, लेकिन केवल एक मॉडल ने अपनी गतिविधि रोक दी। विशेषज्ञों का मानना है कि इन घटनाओं से यह स्पष्ट होता है कि अत्याधुनिक एआई मॉडलों का परीक्षण अब पूरी तरह से नियंत्रित नहीं रह गया है, और कंपनियों को इनकी संभावित खतरनाक क्षमताओं को सुरक्षित रखने के लिए अधिक सख्त उपाय करने की आवश्यकता है।
पहला मामला ओपनएआई से संबंधित है, जिसने बताया कि उसके नए एआई मॉडलों ने एक अज्ञात सुरक्षा खामी का पता लगाकर परीक्षण वातावरण से बाहर इंटरनेट तक पहुंच बना ली। इन मॉडलों ने चोरी किए गए लॉग-इन विवरणों का उपयोग करते हुए मुक्त स्रोत एआई प्लेटफॉर्म ‘हगिंग फेस’ के सर्वरों तक पहुंच बनाई। ओपनएआई को इस सेंधमारी की जानकारी तब मिली, जब हगिंग फेस ने इसे रोक दिया।
कुछ दिनों बाद, एंथ्रोपिक ने अपने साइबर सुरक्षा परीक्षणों की समीक्षा की और पाया कि उसके तीन ‘क्लॉड’ मॉडल, जिन्हें पृथक वातावरण में रखा गया था, गलती से इंटरनेट से जुड़ गए थे। एक मॉडल ने एक वास्तविक कंपनी के डेटाबेस से लॉग-इन जानकारी प्राप्त की, जबकि दूसरे ने हानिकारक सॉफ्टवेयर तैयार कर उसे सार्वजनिक कर दिया। रिपोर्ट में यह भी उल्लेख किया गया कि एक मॉडल ने यह जान लिया था कि वह वास्तविक प्रणाली तक पहुंच गया है, लेकिन उसने अपने आप को यह विश्वास दिलाया कि वह अभी भी काल्पनिक परीक्षण का हिस्सा है।
दोनों कंपनियों की रिपोर्ट से यह स्पष्ट होता है कि एआई मॉडलों की सुरक्षा जांच अब पूरी तरह सुरक्षित नहीं रह गई है। विशेषज्ञों का कहना है कि इन मॉडलों की क्षमताएं तेजी से बढ़ रही हैं, जिससे यह कहना मुश्किल हो गया है कि वे संभावित रूप से खतरनाक नहीं हैं। आईबीएम के हालिया अनुमान के अनुसार, इस वर्ष एआई की मदद से होने वाले साइबर हमलों में 50 प्रतिशत से अधिक वृद्धि हुई है।
विशेषज्ञों का मानना है कि भविष्य में बहु-एजेंट एआई प्रणालियां और भी बड़ी चुनौती बन सकती हैं। इनमें कई एआई मॉडल आपस में मिलकर काम करते हैं, जिससे उनके बीच की गतिविधियों को नियंत्रित करना कठिन हो जाता है। ऐसे में, एआई कंपनियों को अपने मॉडलों के परीक्षण के दौरान अधिक सावधानी बरतने की आवश्यकता है।
विशेषज्ञों का कहना है कि एआई तकनीक के विकास में व्यक्तियों, समाज और पर्यावरण की सुरक्षा को सर्वोच्च प्राथमिकता मिलनी चाहिए। वर्तमान में एआई के नियमन और शासन को लेकर एक व्यापक और सहभागी व्यवस्था का अभाव है, जिसमें विभिन्न पक्ष मिलकर यह तय कर सकें कि तकनीकी प्रगति के लिए कितना जोखिम स्वीकार्य है।
