स्टॅनफर्ड : कृत्रिम बुद्धिमत्ता (एआय) अधिक सक्षम आणि स्वायत्त होत असताना त्यावरील मानवी नियंत्रण कायम ठेवण्यासाठी स्टॅनफर्ड विद्यापीठातील संशोधकांनी दोन नवे आराखडे मांडले आहेत. एआयने प्रत्येक निर्णयासाठी माणसावर अवलंबून राहण्याऐवजी केव्हा स्वायत्तपणे काम करायचे आणि केव्हा मानवी मार्गदर्शन घ्यायचे, हे शिकावे, अशी या संशोधनामागील प्रमुख संकल्पना आहे.
स्टॅनफर्ड ग्रॅज्युएट स्कूल ऑफ बिझनेसमधील विल्यम ओव्हरमन आणि त्यांचे मार्गदर्शक मोहन बयाती यांनी एआयच्या सुरक्षित वापरासाठी हे दोन अभ्यास केले आहेत. गेम थिअरी, रिइन्फोर्समेंट लर्निंग आणि कॉझल इन्फरन्सचा आधार घेत एआय आणि मानव यांच्यातील परस्परसंवादाचे मॉडेल विकसित करण्यात आले.
धोका ओळखून एआय घेणार माघार
पहिल्या अभ्यासाला ‘द ओव्हरसाइट गेम’ असे नाव देण्यात आले आहे. यात एआयला एखादी कृती स्वतः करण्याचा किंवा मानवी हस्तक्षेप मागण्याचा पर्याय असतो. दुसरीकडे, मानवाने एआयच्या निर्णयावर विश्वास ठेवायचा की हस्तक्षेप करायचा, हे ठरवायचे असते.‘लावालँड’ या आभासी वातावरणात करण्यात आलेल्या प्रयोगात एआयला मार्गातील लाव्हा ओळखण्याचे प्रशिक्षण देण्यात आले नव्हते. त्यामुळे सुरुवातीला ते धोकादायक मार्ग निवडत होते. मात्र, वारंवार प्रयोग केल्यानंतर एआयने धोका जवळ आल्यावर मानवी मार्गदर्शन मागण्यास सुरुवात केली. सुरक्षित परिस्थितीत मात्र एआयला स्वतंत्रपणे काम करण्याची मुभा राहिली.
संशोधकांच्या मते, मानवी हस्तक्षेपालाही किंमत असते. उदाहरणार्थ, डॉक्टरांना मदत करणाऱ्या एआयने प्रत्येक छोट्या निर्णयासाठी परवानगी मागितल्यास डॉक्टरांचा वेळ वाया जाऊ शकतो. मात्र, अत्यंत जोखमीच्या निर्णयांमध्ये एआयने स्वतःहून कृती केल्यास गंभीर चुका होऊ शकतात. त्यामुळे योग्य वेळी विश्वास आणि योग्य वेळी तपासणी यांचा समतोल आवश्यक आहे.
विश्वास नसलेल्या एआयवरही नियंत्रण
दुसऱ्या अभ्यासात वापरकर्त्याने स्वतः तयार न केलेल्या किंवा पूर्णपणे विश्वास नसलेल्या शक्तिशाली एआयवर नियंत्रण ठेवण्याचा मार्ग मांडण्यात आला आहे. ‘कॅलिब्रेटेड कलेक्टिव्ह ओव्हरसाइट’ या पद्धतीत तुलनेने कमकुवत असलेल्या अनेक मानवी किंवा एआय निरीक्षकांच्या एकत्रित देखरेखीचा वापर केला जातो. या पद्धतीत असुरक्षित निर्णयांचे प्रमाण वापरकर्त्याने निश्चित केलेल्या मर्यादेत ठेवण्याची गणितीय हमी देण्यात येते. उदाहरणार्थ, असुरक्षित निर्णयांचे प्रमाण पाच किंवा एक टक्क्यांपर्यंत मर्यादित ठेवण्यासाठी प्रणालीची सुरक्षा पातळी समायोजित करता येते. सॉफ्टवेअर इंजिनीअरिंगच्या चाचण्या तसेच ‘माक्याव्हेल्ली’ या एआय चाचणी वातावरणातील प्रयोगांत ही पद्धत प्रभावी ठरल्याचे संशोधकांनी नमूद केले आहे. त्यांच्या मते, दुसरा आराखडा सध्याच्या प्रत्यक्ष वापराच्या अधिक जवळ आहे. पहिल्या पद्धतीसाठी मात्र संबंधित क्षेत्रात मानव आणि एआय यांना वारंवार प्रशिक्षण देणे आवश्यक आहे. एआयची क्षमता वेगाने वाढत असताना त्याला अधिक स्वायत्तता देतानाच मानवी नियंत्रण, सुरक्षितता आणि जबाबदारी यांचा समतोल राखणे आवश्यक असल्याचे या संशोधनातून अधोरेखित झाले आहे.
