OpenAI security flaw Hacktron AI
भयावह वेगाने प्रगती करणार्या AI (कृत्रिम बुद्धिमत्ता) बाबत जग आधीच चिंतेत आहे. त्याच्या अफाट विस्ताराबाबत विविध प्रश्न उपस्थित केले जात आहेत. अशातच एक अशी बातमी समोर आली आहे जिने AI क्षेत्राला हादरवून सोडले आहे. जुलै महिन्यात, भारतीय वंशाच्या तीन सायबर सुरक्षा संशोधकांनी OpenAI च्या प्रणालींमध्ये एक मोठी सुरक्षा त्रुटी शोधून काढली. ही कोणतीही बेकायदेशीर हॅकिंगची घटना नव्हती, तर कंपनीच्या 'बग-बाउंटी' (bug-bounty) कार्यक्रमांतर्गत केलेली एक सुरक्षा चाचणी होती, असे सांगण्यात आले आहे.
'अँथ्रोपिक' कंपनीच्या 'क्लॉड' (Claude) या AI चॅटबॉटचा वापर करून, संशोधकांनी या त्रुटीचा फायदा घेतला आणि अखेरीस OpenAI च्या कर्मचाऱ्यांची खाती व कंपनीच्या खाजगी 'गिटहब' (GitHub) वातावरणाचा ॲक्सेस मिळवला. ही घटना AI विश्वात चर्चेचा विषय ठरली कारण यात एका AI कंपनीच्या प्रणालीची चाचणी दुसऱ्या AI कंपनीच्या साधनाद्वारे करण्यात आली होती. हे तीन संशोधक 'हॅक्ट्रॉन एआय' (Hacktron AI) या सायबर सुरक्षा स्टार्टअपशी संबंधित आहेत. त्यांची नावे हर्ष जैस्वाल, मोहन पेढापती आणि राहुल मैनी अशी आहेत. 'हॅक्ट्रॉन'च्या माहितीनुसार, हर्ष जैस्वाल यांनी या संशोधनाचे नेतृत्व केले, तर मोहन पेढापती आणि राहुल मैनी यांनी या प्रकल्पात सहकार्य केले.
'वॉल स्ट्रीट जर्नल'च्या रिपोर्टनुसार सुरुवातीची त्रुटी शोधण्यापासून ते OpenAI च्या खाजगी रिपॉझिटरीजचा ॲक्सेस मिळेपर्यंत ७२ तासांपेक्षा कमी वेळ लागला; हा संपूर्ण प्रयोग तीन दिवसांपेक्षा कमी कालावधीत पूर्ण झाला. या प्रक्रियेदरम्यान, टीमने AI टोकन्सवर ३,००० डॉलर्सपेक्षा कमी (सुमारे २.५ लाख रुपये) खर्च केले. त्यानंतर OpenAI ने त्या त्रुटी दूर केल्या आणि टीमला ६,५०० डॉलर्स (सुमारे ५.५ लाख रुपये) इतके बक्षीस दिले.
मोहन पेढापती हे 'हॅक्ट्रॉन एआय'चे CTO (मुख्य तंत्रज्ञान अधिकारी) आणि सह-संस्थापक आहेत. ते एक सुरक्षा संशोधक असून वेब एक्सप्लॉयटेशन , सोर्स कोड रिव्ह्यू आणि मोबाइल ॲप सुरक्षा या क्षेत्रांत तज्ञ आहेत. 'हॅक्ट्रॉन'पूर्वी त्यांनी 'इलेक्ट्रोव्होल्ट इन्फोसेक' ची स्थापना केली होती आणि 'Cure53' मध्ये सुरक्षा सल्लागार म्हणून काम केले होते. त्यांनी 'Eigen Vectors'मध्ये डेटा सायन्स इंटर्न म्हणूनही काम केले आहे. येथे त्यांनी स्पीच रेकग्निशनसाठीरल नेटवर्क्सवर संशोधन केले होते. त्यांनी २०१५ ते २०२१ या काळात RGUKT नुझविड, आंध्र प्रदेश येथे कॉम्प्युटर सायन्समध्ये बी.टेक (B.Tech) पूर्ण केले. त्यापूर्वी, त्यांनी २०१३ ते २०१५ या काळात आंध्र प्रदेशातील ZPPHS संपतानगर हायस्कूलमध्ये शिक्षण घेतले आहे.
हर्ष जैस्वाल हे 'हॅक्ट्रॉन एआय' (Hacktron AI) चे सह-संस्थापक आणि सुरक्षा त्रुटी शोधणारे संशोधक ('व्हल्नरेबिलिटी रिसर्चर' ) आहेत. या कामाचा त्यांना १० वर्षांहून अधिक अनुभव आहे. हॅक्ट्रॉनमध्ये येण्यापूर्वी, त्यांनी प्रोजेक्ट डिस्कव्हरी , झोमॅटो आणि क्युअर५३ (Cure53) येथे सुरक्षा अभियंता आणि संशोधक म्हणून काम केले आहे. त्यांनी हॅकरवन (HackerOne) वर 'बग-बाउंटी रिसर्चर' म्हणूनही काम केले आहे. त्यांच्या कामात ॲपल (Apple), पेपल (PayPal) आणि गिटहब (GitHub) सारख्या मोठ्या कंपन्यांची उत्पादने आणि प्लॅटफॉर्म्समधील सुरक्षा त्रुटी शोधणे समाविष्ट आहे.
राहुल मैनी हे 'हॅक्ट्रॉन एआय' (Hacktron AI) मध्ये 'व्हल्नरेबिलिटी रिसर्चर' आहेत. त्यांना 'बग-बाउंटी' क्षेत्रात मोठा अनुभव आहे. त्यांनी कोबाल्ट (Cobalt), सिनाक रेड टीम (Synack Red Team), हॅकरवन (HackerOne) आणि बगक्राउड (Bugcrowd) यांच्यासोबत 'पेनटेस्टर्स' (pentester) किंवा 'बग हंटर' म्हणून काम केले आहे. त्यांनी २०१५ ते २०१९ या काळात भारती विद्यापीठ, दिल्ली येथे कॉम्प्युटर सायन्सचे शिक्षण घेतले.
हे तीन संशोधक OpenAI च्या 'बग-बाउंटी' कार्यक्रमाचा भाग म्हणून त्यांच्या प्रणालींमधील सुरक्षा त्रुटी शोधत होते. या प्रक्रियेदरम्यान, त्यांना कंपनीच्या सार्वजनिक कम्युनिटी फोरममध्ये विशिष्ट इमेज फाइल्स हाताळण्याच्या पद्धतीत एक त्रुटी आढळली. या त्रुटीमुळे कोणालाही फोरमच्या सर्व्हरवर स्वतःचा कोड कार्यान्वित करणे शक्य झाले असते. त्यानंतर या टीमने ॲन्थ्रोपिक (Anthropic) च्या 'क्लॉड' (Claude) या एआय चॅटबॉटचा वापर केला. क्लॉडने त्रुटीचा तपास करण्यात, तसेच आवश्यकतेनुसार 'एक्सप्लॉइट' ( त्रुटीचा गैरफायदा घेणारा कोड) लिहिण्यात, डीबग करण्यात आणि त्यात बदल करण्यात मदत केली, ज्यामुळे संपूर्ण प्रक्रियेचा वेग लक्षणीयरीत्या वाढला.संशोधकांना आणखी एक सुरक्षा त्रुटीही सापडली. या त्रुटीमुळे त्यांना 'लॉगिन टोकन' वापरून OpenAI च्या कर्मचाऱ्याच्या खात्यात प्रवेश करणे शक्य झाले.