Meta AI safety feature
सैन फ्रान्सिस्को: 'मेटा'ने अल्पवयीन मुलांच्या सुरक्षेसाठी एक अत्यंत महत्त्वाचे आणि नवीन AI फीचर लाँच केले आहे. AI चॅटबॉटकडे मुले जेव्हा आत्महत्या किंवा स्वतःला दुखापत पोहोचवण्यासारख्या संवेदनशील विषयांवर व्यक्त होतील, तेव्हा हे फीचर तत्काळ पालकांना अलर्ट पाठवेल. मुलांमध्ये वाढत्या AI वापराच्या पार्श्वभूमीवर सुरक्षेचा उपाय म्हणून मेटाने हे पाऊल उचलले आहे.
मेटाने आपल्या प्रणालीमध्ये अशी रचना केली आहे, ज्यामुळे 'मेटा AI' चॅटबॉट आणि टीनएजर्स (अल्पवयीन मुले) यांच्यातील संवादाचे आपोआप स्कॅनिंग केले जाईल. जर संवादादरम्यान मुलांच्या मनात आत्मघातकी किंवा स्व-दुखापतीचे विचार येत असल्याचे प्रणालीच्या निदर्शनास आले, तर 'सुरक्षा फीचर्स' तत्काळ सक्रिय होतील. यानंतर पालकांच्या मेटा अकाउंटवर थेट मेसेज पाठवून त्यांना सतर्क केले जाईल.
गोपनीयताही राहणार अबाधित
मेटाच्या माहितीनुसार, पालकांना वेळेवर माहिती देऊन जागरूक करणे हा या टूलचा मुख्य उद्देश आहे. मात्र, हे करताना मुलांच्या गोपनीयतेचा पूर्ण आदर केला जाईल, अशी ग्वाही कंपनीने दिली आहे.
हे फीचर सध्या अमेरिका, ब्रिटन, ऑस्ट्रेलिया आणि कॅनडा येथे थेट उपलब्ध झाले आहे. यासाठी पालकांना 'इन्स्टाग्राम पेरेंटल सुपरव्हिजन' टूलचा वापर करावा लागेल. इतर देशांमधील युजर्ससाठी हे फीचर या वर्षाच्या अखेरपर्यंत उपलब्ध करून दिले जाणार आहे.
अनेक प्रकरणांमध्ये दिसून आले आहे की, अल्पवयीन मुले AI चॅटबॉटना आपला जवळचा मित्र मानू लागली आहेत. दुर्दैवाने, काही घटनांमध्ये मुले स्वतःला इजा पोहोचवणे किंवा आत्महत्येसारख्या गंभीर विषयांवर AI शी चर्चा करत असल्याचे समोर आले होते. वाढती जोखीम लक्षात घेऊन तंत्रज्ञान कंपन्यांनी आता या सुरक्षेच्या उपाययोजना लागू करण्यास सुरुवात केली आहे.
