Iranian ChatGPT Fake Articles: इराणमधील काही युजर्सनी ChatGPTचा वापर करून अमेरिकेच्या इराणविरोधातील लष्करी कारवाईवर टीका करणारे सुमारे १०० बनावट लेख तयार केले. हे लेख किमान २० न्यूज वेबसाइट्सवर प्रसिद्ध करण्यात आल्याचा खुलासा OpenAI या ChatGPT विकसित करणाऱ्या कंपनीने केला आहे. या मोहिमेत बनावट लेखकांची नावे, फोटो आणि लेखांचा वापर करून जनमतावर प्रभाव टाकण्याचा प्रयत्न करण्यात आल्याचे कंपनीने म्हटले आहे.
अमेरिकेतील फ्लोरिडा राज्यातील 'पोर्ट सेंट जो स्टार' या छोट्या साप्ताहिक वृत्तपत्रात गेल्या महिन्यात इराण युद्धावर टीका करणारा एक लेख प्रसिद्ध झाला होता. या लेखात युद्ध संपल्यानंतरही त्याचे परिणाम अमेरिकन नागरिकांना भोगावे लागतील, असा इशारा देण्यात आला होता.
या लेखावर एर्विन हॉस्किन्स (Ervin Hoskins) असे नाव होते. याच नावाने Daily Kos आणि Middle East Monitor यांसारख्या मोठ्या न्यूज वेबसाइट्सवरही युद्धावर टीका करणारे लेख प्रसिद्ध झाले होते. मात्र, OpenAI ने केलेल्या तपासानुसार, हे लेख ChatGPT च्या मदतीने तयार करण्यात आले होते. कंपनीने या लेखांना प्रोपगंडाचा भाग असल्याचे म्हटले आहे.
OpenAI ने गुरुवारी प्रसिद्ध केलेल्या अहवालात या मोहिमेची माहिती दिली. त्यानुसार, या मोहिमेत सात वेगवेगळ्या लेखकांच्या नावांचा वापर करण्यात आला. त्यापैकी काही लेखकांची नावे म्हणजे एर्विन हॉस्किन्स, मायकेल हॅरिसन, जेनी विल्यम्स आणि अॅलिस जॉन्सन.
या नावांनी प्रसिद्ध झालेल्या लेखांमध्ये मध्यपूर्वेतील विविध विषयांचा समावेश होता. मात्र, अनेक लेखांमध्ये इराण युद्धामुळे अमेरिकन नागरिकांवर होणाऱ्या परिणामांवर भर देण्यात आला होता.
या लेखांमध्ये युद्धामुळे होणारे आर्थिक आणि सामाजिक नुकसान, तसेच अमेरिकेच्या लष्करी कारवाईचे परिणाम यांसारख्या मुद्द्यांवर टीका करण्यात आली होती.
OpenAI च्या म्हणण्यानुसार, या मोहिमेमागे व्यावसायिक स्वरूपात काम करणारी एखादी संस्था असण्याची शक्यता आहे. अशा प्रकारच्या मोहिमांसाठी पैसे घेऊन काम केले जात असावे, असा कंपनीचा अंदाज आहे. मात्र, या मोहिमेमागे नेमकी कोणती व्यक्ती किंवा संस्था होती, हे अद्याप स्पष्ट झालेले नाही.
या मोहिमेत सहभागी असलेल्या युजर्सनी ChatGPT ला पर्शियन भाषेत सूचना दिल्या. त्यानंतर त्यांनी इंग्रजी भाषेत लेख तयार करून घेतले.
केवळ लेख लिहिण्यापुरताच या तंत्रज्ञानाचा वापर करण्यात आला नाही. संबंधित वृत्तसंकेतस्थळांच्या नियमांनुसार लेखात बदल करणे, लेख पाठवण्यासाठी संपादकांना ई-मेल लिहिणे आणि लेख प्रसिद्ध होण्याची शक्यता वाढवण्यासाठी आवश्यक मजकूर तयार करणे, अशा कामांसाठीही ChatGPT चा वापर करण्यात आला.
या लेखांच्या लेखकांची ओळख स्वतंत्र पत्रकार, धोरणांचा अभ्यास करणारे विश्लेषक आणि शांततेसाठी काम करणारे कार्यकर्ते अशी करून देण्यात आली होती.
काही बनावट लेखकांच्या नावांनी सोशल मीडियावर खातीही तयार करण्यात आली होती. काही ठिकाणी ब्लॉगिंग संकेतस्थळांवरही त्याच नावाने प्रोफाइल तयार करण्यात आले होते.
या प्रकरणातील आणखी एक महत्त्वाची बाब म्हणजे बनावट लेखकांचे फोटो. Port St. Joe Star मध्ये प्रसिद्ध झालेल्या एर्विन हॉस्किन्स यांच्या लेखासोबत वापरण्यात आलेला फोटो OpenAI च्या मदतीने तयार करण्यात आल्याचे कंपनीच्या ऑनलाइन पडताळणीतून समोर आले.
एरिका फ्युझियर (Ericka Feusier) या नावाने लेख लिहिणाऱ्या आणखी एका लेखकाचा प्रोफाइल फोटो AI च्या मदतीने तयार करण्यात आल्याचे OpenAI ने म्हटले आहे.
यामुळे केवळ बनावट लेखच नव्हे, तर लेखकाची खरी ओळख असल्याचा भास निर्माण करण्यासाठी फोटोंचा वापर झाल्याचे दिसून आले.
Port St. Joe Star चे प्रकाशक डेव्हिड अॅडलरस्टीन यांनी दिलेल्या माहितीनुसार, त्यांना हा लेख PeaceVoice या अमेरिकेतील एका छोट्या प्लॅटफॉर्मकडून पाठवण्यात आला होता. ही संस्था अनेक वर्षांपासून वृत्तपत्राला लेख पाठवत होती.
फ्लोरिडातील गल्फ काउंटी परिसरात या वृत्तपत्राचे वाचक आहेत. हा परिसर प्रामुख्याने रिपब्लिकन पक्षाला पाठिंबा देणारा असल्याचे अॅडलरस्टीन यांनी नमूद केले.
त्यांच्या म्हणण्यानुसार, ते सहसा PeaceVoice कडून आलेले लेख प्रसिद्ध करत नसत. मात्र, हॉस्किन्स यांचा लेख विचार करायला लावणारा वाटला आणि त्यात अमेरिकेचे अध्यक्ष डोनाल्ड ट्रम्प यांच्यावर थेट, आक्रमक टीका नव्हती. त्यामुळे त्यांनी तो प्रसिद्ध केला.
PeaceVoice सोबत पूर्वीपासून संबंध असल्यामुळे लेखाचा मूळ स्रोत किंवा लेखकाची ओळख स्वतंत्रपणे तपासण्याची गरज त्यांना वाटली नाही, असेही त्यांनी सांगितले.
OpenAI कडून या प्रकरणाची माहिती मिळाल्यानंतर PeaceVoice ने आपले AI-विरोधी धोरण अधिक कडक केल्याचे संस्थेचे संस्थापक टॉम हेस्टिंग्ज यांनी सांगितले.
या प्रकरणाची माहिती समोर आल्यानंतर Middle East Monitor आणि Daily Kos या दोन्ही न्यूज वेबसाइट्सनी बनावट लेखकांच्या नावाने प्रसिद्ध झालेले लेख हटवले. तसेच, भविष्यात अशा घटना टाळण्यासाठी आपल्या संपादकीय प्रक्रियेत बदल करणार असल्याचे त्यांनी सांगितले.
Daily Kos वरील एर्विन हॉस्किन्स यांचे लेख न्यूज वेबसाइट्सच्या कम्युनिटी प्लॅटफॉर्मवर प्रसिद्ध झाले होते. या प्लॅटफॉर्मवरील लेख प्रसिद्ध होण्यापूर्वी संपादकीय कर्मचाऱ्यांकडून त्यांची तपासणी केली जात नव्हती.
ब्लॉगर आणि 'डेली कोस'चे (Daily Kos) संस्थापक मार्कोस मौलित्सास यांनी या घटनेबद्दल चिंता व्यक्त केली. त्यांच्या मते, अशा मोहिमांमुळे वाचकांमधील विश्वासाला धक्का बसतो. आधीच मतभेद असलेल्या लोकांना एकमेकांवर बनावट खाती किंवा बॉट्स वापरत असल्याचे आरोप करण्याची सवय लागली आहे. अशा प्रकारच्या मोहिमांमुळे हा अविश्वास आणखी वाढू शकतो.
OpenAI ने या मोहिमेशी संबंधित असलेल्या खात्यांवर बंदी घातल्याचे सांगितले. कंपनीच्या म्हणण्यानुसार, इराणमधून ChatGPT चा वापर करण्यावरही निर्बंध आहेत.
या प्रकरणाची माहिती संबंधित सरकारी यंत्रणांना देण्यात आल्याचे कंपनीने आपल्या अहवालात नमूद केले आहे. मात्र, या मोहिमेमागे नेमकी कोणती संस्था किंवा व्यक्ती होती, याची खात्री कंपनीला अद्याप पटलेली नाही.
कृत्रिम बुद्धिमत्तेच्या मदतीने लेख, फोटो आणि लेखकांची बनावट ओळख तयार करणे अधिक सोपे झाले आहे. यापूर्वीही काही न्यूज वेबसाइट्सवर बनावट नावांनी AI च्या मदतीने तयार केलेले लेख प्रसिद्ध झाल्याची प्रकरणे समोर आली आहेत.
Business Insider आणि Wired या संकेतस्थळांनीही यापूर्वी काही लेखकाच्या नावाने प्रसिद्ध झालेले लेख हटवले होते.
या नव्या प्रकरणामुळे न्यूज वेबसाइटसमोर एक महत्त्वाचा प्रश्न उभा राहिला आहे. लेखाची भाषा चांगली आहे किंवा मजकूर विश्वासार्ह वाटतो, एवढ्यावरून त्याची सत्यता ठरवता येत नाही. लेख पाठवणाऱ्या व्यक्तीची ओळख, माहितीचा मूळ स्रोत आणि लेखामागील उद्देश यांची स्वतंत्र पडताळणी करणेही तितकेच महत्त्वाचे आहे.
