AI Deepfake Cyber Crime: दिल्लीमध्ये राहणाऱ्या २७ वर्षाच्या सुमित शर्माने सोशल मीडियावर अमहदाबादमधील एका २४ वर्षाच्या महिलेला फ्रेंड रिक्वेस्ट टाकली. तिने या फ्रेंड रिक्वेस्टला काही प्रतिक्रिया दिली नाही म्हणून समितने तिच्या सोशल मीडिया अकाऊंटवरून तिचे फोटो डाऊनलोड केले. त्यानंतर मोफत AI टूल्स वापरून तिचे अश्लील फोटो तयार केले.
मोफत AI टूल्स वापरून एखाद्या महिलेचे अश्ली फोटो किंवा व्हिडिओ तयार करणारा सुमित हा एकमेव व्यक्ती नाहीये. ४ फेब्रुवारी २०२६ रोजी युनिसेफ, ECPAT इंटरपोलने ११ देशात केलेला एक सर्वे सर्वांसमोर ठेवला. त्यानंतर जवळापस १२ लाख मुलींनी गेल्या वर्षी त्यांचे फोटो बदलून अश्लील डीपफेक फोटो तयार करण्यात आल्याची तक्रार दिली होती. अशा फोटो आणि व्हिडिओची विक्री होत असून हे नेटवर्क चीन आणि हाँगकाँगमधून चालवलं जातं असं देखील तपासात समोर आलं आहे.
हे व्हिडिओ कोणत्या प्लॅटफॉर्मवर तायर केले जातात आणि ते कोण तयार करतं. त्यासाठी कोणती सिस्टम कार्यरत आहे. याचा शोध दैनिक भास्करने घेतला आहे.
AI टूल डेव्हलपर्स - हा अश्लील फोटो तयार करण्यासाठी मॉडेल आणि टूल तयार करतो
वेबसाईट बॉट ऑपरेटर - हे टूल्स चालवतात आणि युजर्सकडून कमाई करतात.
प्रमोटर, रेफरल नेटवर्क - सोशल मीडियावर टूलची लिंक शेअर केली जाते अन् त्यावर युजर्स गोळा केला जातात.
टूल वापरणारे - या टूलचा वापर करून पीडित मुलींचे अश्लील फोटो व्हिडिओ तयार करून त्यांना टार्गेट केलं जातं.
पेमेंट सर्व्हिस - यासाठी पैशाची देवाण घेणाव या डिजीटल स्ट्रक्चरद्वारे केली जाते.
सोशल मीडिया - इथूनच हा कंटेट व्हायरल केला जातो.
पोलीस अन् सायबर सेल - डिजीटल पुरावे गोळा करून आरोपींपर्यंत पोहचून तपास करतात.
पीडित मदत संघटना - तक्रार, कंटेट हटवणे आणि कायदेशीर मदत करतात.
दैनिक भास्करने दावा केला आहे की त्यांनी यातील सर्व घटकांशी एक एक करून पोहचण्याचा प्रयत्न केला. त्यांच्या तपासात त्यांना कळालं की टेलीग्राम AI हा अश्लील कंटेट तयार करण्याचा सर्वात मोठा अड्डा आहे. सोप्या की वर्ड सर्चच्या माध्यमातून शोधकर्त्यांना काही असे AI बॉट मिळाले ज्यांच्यामार्फत तुम्ही मोफत अश्लील डीपफेक फोटो किंवा व्हिडिओ तयार करू शकता. शोधकर्त्यांनी असे ९ अॅप्स आणि बॉट्स, वेबसाईट शोधून काढल्या आहे. हे बॉट्स आणि वेबसाईट अशा प्रकारची सर्व्हिस देतात.
चीन आणि हाँगकाँगमधून हे प्लॅटफॉर्म ऑपरेट केले जातात. त्यामुळं या बॉट्सच्या मागे कोण आहे हे शोधणे अवघड आहे. शोधकर्त्यांनी सायबर क्राईम स्ट्रेटेजिस्ट आणि AI सायबर सायकॉलॉजिस्ट शोनल डी यांच्यासोबत यांचा बॅकएन्ड धुंडाळले.
त्यावेळी शोधकर्त्यांना टेलीग्रामवर दिसणारा बॉट हा इंटरफेस सारखा असतो. युजर बॉटला मेसेज करतो तो टेलिग्राम सिस्टम बॉटच्या मागे काम करणाऱ्या सर्व्हरपर्यंत पोहचवतो. हे काम टेलीग्रामचे अधिकृत Bot API द्वारे केले जाते.
याचा सोप्या भाषेतील अर्थ असा की टेलीग्रामवरील बोट हा फक्त डिस्प्ले आहे. मात्र आदेशानुसार काम करणारी सिस्टम दुसऱ्या सर्व्हरशी जोडली गेली आहे. त्यामुळं हा बॉट कोण चालवत आहे हे शोधणे अवघड आहे.
ही सर्व माहिती पोलीसांसोबत देखील शेअर करण्यात आली. त्यावेळी तपासात हे AI बेस्ट प्लॅटफॉर्म असून हे चीन आणि हाँगकाँगमध्ये तयार केले जातात. तिथूनच ते ऑपरेट होतात. ते कोण ऑपरेट करत आहे याची मात्र माहिती मिळत नाही.
AI द्वारे तायर केलेले हे डीपफेक फोटो आणि व्हिडिओ फक्त मुलींना ब्लॅकमेल करण्यासाठी वापरले जात नाहीत तर त्यांची विक्री देखील होते. मुंबईमधील रती फाऊंडेशन इंटरनेटवर होणाऱ्या हिंसा आण पीडितांना मदत करते. त्या फाऊंडेशनचे सह संस्थापक सिद्धार्थ सोमनाथ पिल्लई यांनी सांगितलं की दिल्लीच्या कॉकरोच जनता पार्टीच्या आंदोलनादरम्यान एका मुलीचे अश्लील फोटो व्हायरल झाले होते.
संस्थेकडे ही केस आल्यानंतर आम्ही त्याची तपासणी केली. त्यावेळी फोटो AI द्वारे तयार केला गेला होता. फोटोचा सोर्सपर्यंत पोहचल्यानंतर संबंधित मुलीचा आक्षेपार्ह फोटो 20 रूपयात विकत असल्याचं आढळून आलं. आम्ही या चॅनलवर मेसेज पाठला मात्र त्याला कोणताही रिसपॉन्स आला नाही.