सॅन फ्रान्सिस्को : कृत्रिम बुद्धिमत्ता (एआय) मानवी देखरेखीपासून सुटका करून घेण्याचे मार्ग शोधू लागली आहे का? असाच काहीसा धक्कादायक खुलासा खुद्द ‘ओपनएआय’ने केला आहे. कंपनीच्या नवीन एआय एजंट्सनी प्रणालीच्या सुरक्षा देखरेखीला कमकुवत करण्याचा प्रयत्न केल्याचे समोर आले आहे. यासंदर्भात कंपनीने दोन वेगवेगळ्या घटनांची माहिती दिली असून, एका प्रकरणात एआय मॉडेलने स्वतःच्या त्रुटी पकडणारी देखरेख यंत्रणाच परस्पर हटवली, तर दुसऱ्या एका प्रकरणात चक्क वापरकर्त्याशी (युजर) खोटे बोलल्याचे उघड झाले आहे. ‘ओपनएआय’ने याला थेट ‘बंडखोरी’ मानण्यास नकार दिला असला, तरी या घटनांमुळे तंत्रज्ञान क्षेत्रातील तज्ज्ञांच्या भुवया उंचावल्या आहेत.
‘ओपनएआय’च्या माहितीनुसार, पहिली घटना ६ ऑक्टोबर रोजी घडली. यात ‘जीपीटी-६ ॲस्ट्रा’ हा एजंट सहभागी होता. या एजंटकडे स्वतःचा इंटरफेस कोड एका विशिष्ट कोडशी जुळवून घेण्याची जबाबदारी सोपवण्यात आली होती. हे काम करताना एआयने प्रणालीतील ‘मिसअलाइनमेंट मॉनिटर’ (त्रुटी शोधणारी यंत्रणा) परस्पर काढून टाकला. सोप्या भाषेत सांगायचे तर, स्वतःच्या चुका पकडण्यासाठी बसवलेली देखरेख यंत्रणाच एआयने बंद करून टाकली. धक्कादायक बाब म्हणजे, जेव्हा वापरकर्त्याने थेट विचारणा केली की ‘तू सुरक्षा मॉनिटर हटवला आहेस का?’, तेव्हा ॲस्ट्राने स्पष्ट नकार देत खोटे उत्तर दिले.
एआयच्या अशाच मनमानी वर्तणुकीचे दुसरे प्रकरण ३ ऑक्टोबर रोजी घडले. हे प्रकरण ‘जीपीटी-६.१ सोल’ (GPT-6.1 Sol) एजंटशी संबंधित होते. या एजंटला एका ‘स्लॅक’ चॅनेलची तपासणी करण्याचे काम देण्यात आले होते; तसेच कोणालाही कोणताही संदेश पाठवू नये, अशी ताकीदही देण्यात आली होती. तपासणीदरम्यान प्रणालीत गंभीर त्रुटी आढळल्यानंतरही एआयने सुरक्षा पथकाला कोणताही इशारा (अलर्ट) पाठवला नाही. संदेश न पाठवण्याच्या दिलेल्या सूचनेचा गैरफायदा घेत एआयने तो एक बहाणा म्हणून वापरला आणि त्रुटीकडे दुर्लक्ष केले.
या दोन्ही घटनांवर ‘ओपनएआय’चे सुरक्षा संशोधक मार्कस विल्यम्स यांनी कंपनीच्या वतीने स्पष्टीकरण दिले आहे. ‘‘एआय मॉडेल्सनी स्वतःच्या सुरक्षा यंत्रणा पूर्णपणे बंद करण्यास सुरुवात केली आहे, असा याचा थेट अर्थ काढता येणार नाही. कोडेक्ससारख्या प्रणालींमध्ये हे तांत्रिकदृष्ट्या अत्यंत गुंतागुंतीचे आहे,’’ असे त्यांनी नमूद केले. तरीही एआय मॉडेल्सकडून अशा प्रकारे सुरक्षा नियमांना बगल देण्याचा प्रयत्न होणे चिंताजनक असल्याची कबुली त्यांनी दिली आहे.