केंद्र सरकारने माहिती तंत्रज्ञान (IT) नियमांमध्ये सुधारणा करण्याचा प्रस्ताव मांडला आहे.
डीपफेक आणि कृत्रिम बुद्धिमत्तेने तयार केलेल्या खोट्या मजकुर रोखण्यासाठी हा प्रस्ताव महत्त्वपूर्ण आहे.
एआय' किंवा 'सिंथेटिक' मजकूर स्पष्टपणे चिन्हांकित करावा लागणार आहे.
IT Ministry frame rules for Regulate Deepfake
नवी दिल्ली : डीपफेक (Deepfake) आणि कृत्रिम बुद्धिमत्तेने (AI) तयार केलेल्या खोट्या मजकुरामुळे होणारे नुकसान रोखण्यासाठी केंद्र सरकारने माहिती तंत्रज्ञान (IT) नियमांमध्ये सुधारणा करण्याचा प्रस्ताव मांडला आहे. इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाने तयार केलेल्या या मसुद्यानुसार, आता सोशल मीडिया प्लॅटफॉर्म्सना 'एआय' किंवा 'सिंथेटिक' (कृत्रिम) मजकूर स्पष्टपणे चिन्हांकित (लेबल) करावा लागणार आहे, जेणेकरून वापरकर्त्यांना (यूजर) खरा आणि बनावट मजकूर यातील फरक ओळखता येईल.
इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाच्या प्रस्तावित सुधारणेनुसार, फेसबुक, इन्स्टाग्राम आणि 'एक्स' (पूर्वीचे ट्विटर) सारख्या मोठ्या सोशल मीडिया प्लॅटफॉर्म्सना हे सुनिश्चित करावे लागेल की, कोणताही मजकूर 'एआय' किंवा संगणक-निर्मित असेल, तर त्यावर 'लेबल' किंवा 'मार्कर' लावावा.
व्हिज्युअल मजकूर: दृश्य स्वरूपातील मजकुरावर (व्हिडिओ, फोटो) हे 'लेबल' किमान १० टक्के भागावर दिसावे लागेल.
ऑडिओ मजकूर: आवाजातील मजकुरामध्ये (ऑडिओ) सुरुवातीच्या १० टक्के कालावधीपर्यंत हे लेबल ऐकू येणे आवश्यक आहे.यासोबतच, वापरकर्त्याने अपलोड केलेला मजकूर खरा आहे की कृत्रिम (सिंथेटिक) आहे, याची तपासणी करण्याची जबाबदारीही प्लॅटफॉर्म्सवर असेल. यासाठी तांत्रिक उपाययोजना करणे आणि वापरकर्त्यांकडून 'घोषणापत्र' (डिक्लेरेशन) घेणे अनिवार्य करण्यात आले आहे.
इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयानेस्पष्ट केले आहे की, मागील काही दिवसांमध्ये 'डीपफेक' ऑडिओ आणि व्हिडिओ वेगाने व्हायरल झाले आहेत. यातून चुकीची माहिती पसरवणे, राजकीय प्रतिमा मलिन करणे, फसवणूक करणे आणि लोकांच्या प्रतिष्ठेचे नुकसान करण्याच्या घटना समोर आल्या आहेत. ही 'डीपफेक' तंत्रज्ञान खरी वाटणारी खोटी छायाचित्रे (फोटो) आणि व्हिडिओ तयार करून समाजात संभ्रम निर्माण करण्यास सक्षम असल्यामुळे जागतिक स्तरावरही या धोक्याबाबत चिंता वाढली आहे.
'आयटी' मंत्रालयाने या मसुद्यावर नागरिक आणि तज्ज्ञांकडून ६ नोव्हेंबर २०२५ पर्यंत सूचना आणि मते मागवली आहेत. या बदलांचा उद्देश वापरकर्त्यांना जागरूक करणे, बनावट मजकुरावर नियंत्रण ठेवणे आणि 'एआय' नवनिर्मितीसाठी (इनोव्हेशन) सुरक्षित वातावरण तयार करणे, हा असल्याचे मंत्रालयाने स्पष्ट केले आहे.