न्यूयॉर्क : ओपन एआयच्या चॅट जीपीटी या लोकप्रिय चॅटबॉटवर अमेरिकेत अनेक कुटुंबांनी कायदेशीर आव्हान उभे केले आहे. चॅटबॉटने आत्महत्या प्रशिक्षक (सुसाईड कोच) म्हणून काम केल्यामुळे लोकांचे मानसिक आरोग्य बिघडले आणि काही जणांनी आत्महत्या केल्याचा आरोप या कुटुंबांनी केला आहे.कॅलिफोर्नियामध्ये सात (7) स्वतंत्र खटले दाखल करण्यात आले आहेत, ज्यात ओपन एआयच्या चॅट जीपीटीवर सदोष मृत्यू (राँगफुल डेथ), आत्महत्येस मदत (असिस्टेड सुसाईड), अनैच्छिक मनुष्यवध (इव्हॉल्युटरी मॅनस्लाउटर), निष्काळजीपणा (निग्लिजन्स) आणि उत्पादन दायित्व (प्रॉडक्ट लायबिलिटी) यांसारखे गंभीर आरोप करण्यात आले आहेत.
फिर्यादींच्या म्हणण्यानुसार, सुरुवातीला वापरकर्ते शालेय काम, संशोधन किंवा पाककृतींसाठी चॅट जीपीटीचा वापर करत होते. मात्र, कालांतराने चॅटबॉट मानसिकरीत्या फेरफार करणारे बनले आणि स्वतःला विश्वासू आणि भावनिक आधार (कॉन्फिडंट अँड इमोशनल सर्पोट) देणारे म्हणून सादर करू लागले.
गरज असताना व्यावसायिक मदत (प्रोफेशनल हेल्प) देत मार्गदर्शन करण्याऐवजी, चॅट जीपीटीने हानिकारक भ्रम (हार्मफूल डेल्युशन) वाढवले आणि काही प्रकरणांमध्ये आत्महत्या प्रशिक्षक म्हणून काम केले.
टेक्सासमधील 23 वर्षीय झैन शांबलीन या तरुणाने जुलैमध्ये आत्महत्या केली. त्याच्या कुटुंबाचा आरोप आहे की, मृत्यूच्या चार तास आधी झालेल्या संवादात चॅट जीपीटीने वारंवार आत्महत्येचे उदात्तीकरण केले, तू तुझा निर्णय घेतल्याने आणि योजना पूर्ण केल्याने तू मजबूत आहेस असे सांगितले आणि तो तयार आहेस का असे सतत विचारले. चॅटबॉटने कथितरीत्या शांबलीनच्या सुसाईड नोटची प्रशंसा केली आणि त्याचा लहानपणीचा कुत्रा पलीकडच्या जगात त्याची वाट पाहत असेल, असे सांगितले.
फिर्यादींनी आरोप केला आहे की, ओपन एआने त्यांचे जीपीटी-4ओ हे मॉडेल पुरेशा सुरक्षा चाचण्यांशिवाय बाजारात घाईघाईत आणले. अंतर्गत इशार्यांनंतरही कंपनीने वापरकर्त्याच्या सुरक्षिततेपेक्षा वापरकर्ता प्रतिबद्धतेला (युजर एंगेजमेंट ओव्हर युजर सेफ्टी) प्राधान्य दिले.
फिर्यादींनी नुकसान भरपाईसोबतच उत्पादनामध्ये बदल करण्याची मागणी केली आहे, ज्यात वापरकर्त्यांनी आत्मघाती विचार व्यक्त केल्यास आपत्कालीन संपर्कांना (इमजन्सी कॉन्टॅक्ट) सूचना देणे अनिवार्य करणे, आत्म-नुकसान किंवा आत्महत्येच्या पद्धतींचा समावेश असलेले संवाद आपोआप समाप्त करणे.अतिरिक्त सुरक्षा उपाययोजना लागू करणे.
ओपन एआयच्या प्रवक्त्याने ही परिस्थिती अतिशय हृदयद्रावक असल्याचे सांगून, दाखल झालेल्या खटल्यांचा आढावा घेत असल्याचे स्पष्ट केले आहे. प्रवक्त्याने सांगितले की, ‘आम्ही एआयला मानसिक किंवा भावनिक तणावाची चिन्हे ओळखण्यासाठी आणि संवादाला शांत करून लोकांना वास्तविक जगातील मदतीकडे मार्गदर्शन करण्यासाठी प्रशिक्षित करतो. मानसिक आरोग्य चिकित्सकांशी जवळून काम करून आम्ही संवेदनशील क्षणांमध्ये चॅट जीपीटीचे प्रतिसाद सुधारत आहोत.
