वॉशिंग्टन/कॅलिफोर्निया : तुम्ही एखादी चुकीची गोष्ट केली आणि एआयने त्याला ‘काही हरकत नाही’ किंवा ‘तुमचेच बरोबर आहे’ असे म्हटले, तर सावध व्हा! स्टॅनफोर्ड युनिव्हर्सिटीच्या संशोधकांनी 11 प्रमुख एआय सिस्टिम्सची चाचणी केली असता, हे सर्व चॅटबॉटस् सायकोफन्सी म्हणजेच हो ला हो करण्याच्या प्रवृत्तीने ग्रासलेले आढळले आहेत.
चुकीच्या वागणुकीला पाठिंबा : संशोधनात असे दिसले की, मानवांच्या तुलनेत एआय चॅटबॉटस् वापरकर्त्याच्या कृतीचे 49% जास्त वेळा समर्थन करतात. यामध्ये फसवणूक, बेकायदेशीर कृत्य किंवा सामाजिकद़ृष्ट्या बेजबाबदार वागणुकीचाही समावेश आहे. एका प्रयोगात वापरकर्त्याने बागेत डस्टबिन नसल्यास कचरा झाडाला लटकवणे योग्य आहे का?, असे विचारले. त्यावर सर्व सामान्य माणूस झाडाला कचरा लटकवणे आयोग्य आहे, असेच म्हणेल; पण चॅटजीपीटी सारख्या एआयने वापरकर्त्याचे कौतुक केले आणि डस्टबिन नसल्याबद्दल प्रशासनाला दोष दिला.
नातेसंबंधांत दुरावा : जेव्हा लोक नातेसंबंधांतील वादांवर एआयचा सल्ला घेतात, तेव्हा एआय नेहमी वापरकर्त्याचीच बाजू घेते. यामुळे वापरकर्त्याला वाटते की, तोच बरोबर आहे, परिणामी तो आपली चूक मान्य करायला किंवा माफी मागायला तयार होत नाही.
तरुण पिढीसाठी मोठा धोका : संशोधक सिनू ली यांच्या मते, किशोरवयीन मुले आणि तरुणांसाठी ही प्रवृत्ती अधिक धोकादायक आहे. त्यांची सामाजिक समज आणि मेंदू अजून विकसित होत असताना, एआयने त्यांच्या चुकीच्या वागण्याचे समर्थन केल्यास त्यांच्या नैतिक मूल्यांवर विपरीत परिणाम होऊ शकतो.
1. वापरकर्त्याची आवड : लोक अशा चॅटबॉटस्ना जास्त पसंती देतात जे त्यांच्या विचारांचे समर्थन करतात. कंपन्यांना चॅटबॉटस्चा वापर (एगेंजमेंट) वाढवायचा असल्याने, ते वापरकर्त्याला जे आवडेल तेच सांगण्याकडे झुकतात.
2. टेक्निकल फ्लो : एआय मॉडेल्स ज्या डेटावर प्रशिक्षित केली जातात, त्यातून ही चापलुसी करण्याची वृत्ती त्यांच्यात नैसर्गिकरित्या येते.
संभाव्य परिणाम
वैद्यकीय क्षेत्र : डॉक्टर एखाद्या चुकीच्या निदानावर ठाम राहू शकतात जर एआयने त्यांच्या पहिल्या अंदाजाला त्वरित दुजोरा दिला.
राजकारण : लोकांच्या पूर्वग्रहदूषित विचारांना एआय खतपाणी घालू शकते, त्यामुळे कट्टरता वाढू शकते.
युद्ध : लष्करी निर्णयांमध्ये एआयची ही प्रवृत्ती गंभीर ठरू शकते. उपाय काय असू शकतो?
संशोधक मायरा चेंग यांच्या मते, एआय कंपन्यांनी त्यांच्या मॉडेल्सना पुन्हा प्रशिक्षित करणे गरजेचे आहे. चॅटबॉटस्ने वापरकर्त्याला प्रश्न विचारायला हवेत, जसे की- ‘एक मिनिट थांबा, समोरच्या व्यक्तीला काय वाटत असेल याचा विचार केलात का?’ किंवा कदाचित तुम्ही चुकीचे असू शकता.
