वॉशिंग्टन : ‘चॅटजीपीटी’सारखे कृत्रिम बुद्धिमत्तेवर (एआय) आधारित चॅटबॉटस्‌ कधी मार्ग भरकटून अचानक उपयुक्त उत्तरांऐवजी धोकादायक उत्तरे देऊ लागतील, याचा अंदाज लावू शकणारे एक सोपे गणितीय सूत्र विकसित केल्याचा दावा संशोधकांनी केला आहे.
‘पॅटर्न्स’ या जर्नलमध्ये ८ ऑक्टोबर रोजी प्रकाशित झालेल्या एका नवीन अभ्यासात, द जॉर्ज वॉशिंग्टन युनिव्हर्सिटीचे भौतिकशास्त्राचे प्राध्यापक नील जॉन्सन आणि पीएच.डी.चे विद्यार्थी फ्रँक यिंगजी हुओ यांनी ही माहिती दिली आहे. चॅटबॉटला ज्या क्रमाने प्रश्न (Prompts) विचारले जातात, त्या क्रमामुळे त्याच्या उत्तरांमध्ये कमालीचा बदल होऊ शकतो, असे त्यांनी स्पष्ट केले. या क्रमामुळे असा एक टप्पा (Tipping Point) गाठला जातो, जिथून चॅटबॉट चुकीचा व धोकादायक सल्ला देण्याच्या गर्तेत अडकतो. मात्र, जॉन्सन आणि हुओ यांच्या दाव्यानुसार, त्यांच्या सूत्राच्या मदतीने हे ‘टिपिंग पॉईंटस्‌’ सहज ओळखता येऊ शकतात. यापूर्वी एआयने वापरकर्त्यांना आत्महत्येस प्रवृत्त केल्याच्या, प्राणघातक शस्त्रे तयार करण्यास मदत केल्याच्या आणि हिंसक किंवा हानिकारक दृष्टिकोनाला खतपाणी घातल्याच्या अनेक धक्कादायक घटना समोर आल्या आहेत.
त्याच वेळी, ‘ओपनएआय’ आणि ‘अँथ्रॉपिक’ यांसारख्या आघाडीच्या एआय कंपन्यांमधील संशोधकांनीही आपले एआय मॉडेल्स नक्की असे का वागतात, हे पूर्णपणे समजलेले नसल्याचे उघडपणे कबूल केले आहे. तरीही, धोके कमी करण्यासाठी या कंपन्यांनी कंटेंट फिल्टरिंग, रीइन्फोर्समेंट लर्निंग आणि इतर तांत्रिक सुरक्षा यंत्रणांसारखे सुरक्षा कवच (Safeguards) तयार केले आहेत. मात्र, प्राध्यापक जॉन्सन यांच्या मते हे सुरक्षा उपाय अपुरे आहेत. ‘सध्याचे सुरक्षा उपाय म्हणजे एखाद्या विमानाखाली मोठे, स्पंजचे उशीसारखे कुशन बांधण्यासारखे आहेत,’ असे त्यांनी सांगितले. ‘हे उपाय विमानाला अपघातापासून रोखत नाहीत; ते फक्त विमान कोसळल्यानंतरचा धक्का थोडा कमी करतात.’