वॉशिंग्टन : एआय चॅटबॉट सलग काही योग्य आणि विश्वासार्ह उत्तरे देऊन वापरकर्त्याचा विश्वास संपादन करू शकतो; मात्र त्यानंतर अचानक धोकादायक किंवा हानिकारक सल्ला देण्याची शक्यताही असते. अशा बदलाचा अंदाज आधीच वर्तवता यावा, यासाठी अमेरिकेतील जॉर्ज वॉशिंग्टन विद्यापीठातील दोन भौतिकशास्त्रज्ञांनी एक गणितीय सूत्र विकसित केले आहे. प्राथमिक चाचण्यांमध्ये या सूत्राने १९ पैकी १८ प्रकरणांचे अचूक वर्गीकरण केले. मात्र, संशोधकांनी हे संशोधन अद्याप संकल्पनेच्या प्राथमिक पडताळणीच्या टप्प्यात असल्याचे स्पष्ट केले आहे. नील एफ. जॉन्सन आणि फ्रँक यिंगजी हुओ यांनी हे संशोधन केले. एआय चॅटबॉटच्या उत्तरनिर्मिती प्रक्रियेतील ‘अटेंशन हेड’ या घटकाचा अभ्यास करून त्यांनी हे सूत्र तयार केले. हे संशोधन पॅटर्न्स या नियतकालिकात प्रसिद्ध झाले आहे.
उत्तरांमागील ‘अटेंशन हेड’ची भूमिका
एआय चॅटबॉट एकावेळी एक शब्द तयार करत उत्तर देतो. पुढचा शब्द ठरवताना मॉडेलमधील ‘अटेंशन हेड’ हे घटक आधीच्या संभाषणातील कोणत्या शब्दांना किंवा माहितीला किती महत्त्व द्यायचे, हे ठरवण्यास मदत करतात. संशोधकांच्या मते, योग्य आणि हानिकारक उत्तरांशी संबंधित शक्यता या प्रक्रियेत एकमेकांशी स्पर्धा करू शकतात. संभाषण पुढे जात असताना आधी दिलेली उत्तरे मॉडेलचे लक्ष आणि पुढील उत्तराची दिशा बदलू शकतात. त्यामुळे एखाद्या प्रश्नाचे उत्तर सुरुवातीला योग्य मिळाले, तरी त्यानंतरच्या संवादात हानिकारक उत्तर देण्याची शक्यता वाढू शकते. उदाहरणार्थ, स्वतःला इजा करण्यास प्रवृत्त करणारा सल्ला अचूक माहितीच्या स्वरूपात मांडला गेला, तरी तो धोकादायक ठरू शकतो.
आधीच्या संभाषणाचाही परिणाम
संशोधकांनी तीन वेगवेगळ्या विकसकांच्या सात खुल्या एआय मॉडेल्सवर चाचण्या केल्या. त्यात जुन्या जीपीटी-२ मॉडेलचाही समावेश होता. लसीकरण, इतरांना इजा करणे आणि स्वतःला इजा करण्यासंबंधीचे प्रश्न वेगवेगळ्या क्रमाने विचारल्यावर उत्तरांच्या स्वरूपात बदल दिसून आला. म्हणजेच, केवळ सध्याचा प्रश्न नव्हे, तर त्या आधी झालेला संवादही उत्तरावर प्रभाव टाकू शकतो. मात्र, चाचण्यांतील नमुना मर्यादित होत्या. सर्व २१ मॉडेल-प्रॉम्प्ट जोड्यांपैकी सूत्राने १९ प्रकरणांत योग्य अंदाज वर्तवला. संशोधकांनी याची तुलना नेहमीच ‘तत्काळ बदल होईल’ असा अंदाज देणाऱ्या सोप्या पद्धतीशी केली. त्यामुळे या सूत्राची उपयुक्तता अधिक व्यापक चाचण्यांमधून सिद्ध होणे आवश्यक आहे.
ऑफलाइन एआयसाठी सुरक्षेची शक्यता
इंटरनेटशी जोडले नसलेले आणि मोबाईलवरच चालणारे एआय चॅटबॉट हे संशोधकांच्या चिंतेचे प्रमुख कारण आहे. अशा प्रणालींमध्ये उत्तरांची तपासणी करण्यासाठी क्लाउडवरील अतिरिक्त सुरक्षा यंत्रणा उपलब्ध नसेल. त्यामुळे वापरकर्ता हानिकारक उत्तराकडे नेणाऱ्या संभाषणात जात असल्याचे आधीच ओळखणारी यंत्रणा उपयुक्त ठरू शकते.