न्यूयॉर्क : किशोरवयीन मुलांकडून कृत्रिम बुद्धिमत्ता (एआय) साधनांचा गैरवापर होऊ नये आणि प्रत्यक्ष जीवनातील हिंसाचाराचा धोका कमी व्हावा, यासाठी ओपनएआयने चॅटजीपीटीवरील शस्त्रविषयक माहितीच्या उपलब्धतेवर अधिक कठोर निर्बंध घालण्याचा निर्णय घेतला आहे. विशेष म्हणजे, एखाद्या प्रश्नामागे हिंसक हेतू असल्याचे स्पष्ट संकेत नसले, तरी किशोरवयीन वापरकर्त्यांना शस्त्रांशी संबंधित काही व्यावहारिक माहिती दिली जाणार नाही. ओपनएआयने नव्या सुरक्षा उपाययोजनांची घोषणा केली. शस्त्रे आणि सुरक्षा यंत्रणांबाबत गैरवापर होऊ शकणारी माहिती किशोरवयीनांना उपलब्ध होण्यावर मर्यादा आणण्यात येणार आहे. एआय चॅटबॉटमुळे तरुण वापरकर्त्यांच्या सुरक्षिततेला निर्माण होणारे धोके आणि संभाव्य हिंसक घटनांची पूर्वसूचना ओळखण्याबाबत तंत्रज्ञान कंपन्यांवर वाढत असलेल्या दबावाच्या पार्श्वभूमीवर हा निर्णय घेण्यात आला आहे.
असे आहेत नवीन नियम शस्त्रास्त्रांची माहिती रोखणे
शस्त्रांचा गैरवापर कसा केला जाऊ शकतो किंवा सुरक्षा यंत्रणांना कसे भेदले जाऊ शकते, याविषयीची प्रात्यक्षिक माहिती अल्पवयीन वापरकर्त्यांना दिली जाणार नाही.
हिंसक विचार आढळल्यास चॅट आपोआप बंद
कोणत्याही वापरकर्त्याने हिंसक विषयांवर सतत चर्चा करण्याचा किंवा त्यावर लक्ष केंद्रित करण्याचा प्रयत्न केल्यास चॅटजीपीटी ती चर्चा आपोआप संपुष्टात आणेल. अशा प्रवृत्तीची पुनरावृत्ती झाल्यास वापरकर्त्याचे खाते तात्पुरते निलंबित केले जाऊ शकते.
पालकांना पूर्वसूचना
चॅटजीपीटीने आपली वयोमर्यादा ओळखण्याची प्रणाली (एज प्रेडिक्‍शन सिस्टीम) अधिक सक्षम केली आहे. जर एखाद्या अल्पवयीन मुलाचे खाते (अकाउंट) हिंसक चर्चेमुळे निलंबित झाले, तर त्याबाबत त्याच्या पालकांना थेट सूचित केले जाईल.
ऐतिहासिक हिंसक घटनांच्या माहितीवर मर्यादा
भूतकाळात झालेल्या मोठ्या हिंसक हल्ल्यांबद्दल (मास ॲटॅक) कोणती शस्त्रे वापरली गेली किंवा ती कशी मिळवली गेली, यासारख्या संवेदनशील तपशिलांवर सर्व वापरकर्त्यांसाठी मर्यादा आणली आहे.
रोल-आउट
सुरक्षेशी संबंधित हे नवीन नियम पुढील काही आठवड्यांत टप्प्याटप्प्याने लागू केले जातील.
पालकांच्या देखरेखीबाबतही चिंता
दरम्यान, ‘कॉमन सेन्स मीडिया’ या स्वयंसेवी संस्थेच्या अलीकडील अहवालात चॅटजीपीटीच्या किशोरवयीनांसाठीच्या आवृत्तीतील पालकांना सूचना देण्याच्या व्यवस्थेबाबत चिंता व्यक्त करण्यात आली होती. आत्महत्या, स्वतःला इजा करून घेणे किंवा खाण्याच्या विकारांशी संबंधित संभाषणे आढळल्यानंतर पालकांना अनेकदा उशिरा किंवा अजिबात सूचना मिळत नसल्याचे अहवालात नमूद करण्यात आले होते.