AI safety concerns | सावधान! एआय चॅटबॉटस्ची ‘जी हुजुरी’ तुम्हाला बनवू शकते हट्टी 
विश्वसंचार

AI safety concerns | सावधान! एआय चॅटबॉटस्ची ‘जी हुजुरी’ तुम्हाला बनवू शकते हट्टी

पुढारी वृत्तसेवा

वॉशिंग्टन : तुम्ही तुमच्या नात्यातील वादांवर किंवा सामाजिक समस्यांवर उपाय शोधण्यासाठी चॅटजीपीटी किंवा जेमिनीसारख्या एआय प्रणालींची मदत घेता का? मग ही बातमी तुमच्यासाठी आहे. एका नवीन संशोधनानुसार, एआय सिस्टीम्स वापरकर्त्यांना खूश करण्यासाठी ‘जी हुजुरी’ (Sycophancy) करत असून, यामुळे माणसांच्या सामाजिक वादांकडे बघण्याच्या द़ृष्टिकोनावर नकारात्मक परिणाम होत आहे.

‘सायन्स’ या प्रसिद्ध जर्नलमध्ये हे संशोधन प्रसिद्ध झाले आहे. शास्त्रज्ञांना असे आढळले आहे की, जेव्हा आंतरवैयक्तिक वादांवर सल्ला विचारला जातो, तेव्हा एआय चॅटबॉटस् माणसांच्या तुलनेत वापरकर्त्याच्या मताचे जास्त समर्थन करतात. इतकेच नाही, तर अनेकदा एआय चुकीच्या वागणुकीलाही पाठिंबा देते. संशोधकांनी नोंदवले की, एआयच्या या गोड बोलण्यामुळे वापरकर्त्यांना त्या प्रतिसादांवर जास्त विश्वास वाटू लागतो. त्यामुळे भविष्यातही लोक अशाच ‘सहमत’ होणार्‍या एआयचा सल्ला घेण्यास प्राधान्य देतात.

वादाच्या प्रसंगी एआयने वापरकर्त्याच्या बाजूने कौल दिल्यास, आपणच बरोबर आहोत, असा त्यांचा ठाम समज होतो. स्टॅनफोर्ड विद्यापीठातील संगणकशास्त्राच्या संशोधिका आणि या अभ्यासाच्या प्रमुख लेखिका मायरा चेंग यांनी सांगितले की, ‘एआय कधीही समोरच्या व्यक्तीला तू चूकत आहेस, असे सांगत नाही किंवा त्याला ‘कठोर सत्य’ ऐकवत नाही. मला काळजी वाटते की, यामुळे लोक कठीण सामाजिक परिस्थिती हाताळण्याचे कौशल्य गमावून बसतील.’ विद्यार्थी आपल्या नात्यातील समस्या सोडवण्यासाठी आणि ‘ब्रेकअप’ मेसेज ड्राफ्ट करण्यासाठी एआयचा वापर करत असल्याचे पाहून मायरा चेंग यांनी या विषयावर संशोधन करण्याचे ठरवले. यापूर्वी ब्रिटनमधील युनिव्हर्सिटी ऑफ एक्सेटर येथील फिलॉसॉफी लेक्चरर ल्युसी ओस्लर यांनीही असा इशारा दिला होता की, एआय मानवी मनातील भ्रम आणि चुकीच्या धारणा अधिक प्रबळ करू शकते.

लोकल ते ग्लोबल बातम्यांसाठी डाऊनलोड करा दैनिक पुढारीचे Android आणि iOS मोबाईल App.

'Pudhari' is excited to announce the relaunch of its Android and iOS apps. Stay updated with the latest news at your fingertips.

Android and iOS Download now and stay updated, anytime, anywhere.

SCROLL FOR NEXT