महेश कोळी, आय.टी. तज्ज्ञ
अमेरिकेच्या सिएटल शहरातील ३१ वर्षीय सॉफ्टवेअर अभियंता बोवेन वान हिचा अकाली मृत्यू हा कृत्रिम प्रज्ञेच्या अनियंत्रित वापरातील धोक्यांबाबत गंभीर प्रश्न उपस्थित करणारा ठरला आहे. तिच्या मृत्यूनंतर पालकांनी कॅलिफोर्नियातील न्यायालयात दावा दाखल केला आहे. त्यामुळे कृत्रिम प्रज्ञेच्या वैद्यकीय सल्ल्याची विश्वासार्हता, तंत्रज्ञान कंपन्यांची जबाबदारी आणि रुग्णांच्या सुरक्षिततेचा प्रश्न ऐरणीवर आला आहे.
तंत्रज्ञानाच्या अफाट वेगाशी स्पर्धा करताना मानवी विवेक किती पराधीन होत चालला आहे, याचे मन सुन्न करणारे आणि डोळ्यांत अंजन घालणारे वास्तव सिएटलमधील सॉफ्टवेअर अभियंता बोवेन वान हिच्या अकाली मृत्यूने जगासमोर आणले आहे. वयाच्या अवघ्या एकतिसाव्या वर्षी जेव्हा बुद्धिमत्ता, कारकीर्द आणि जीवनाची क्षितिजे विस्तारत असतात, तेव्हा एका आभासी संभाषणाच्या जाळ्यात अडकून एका तरुणीला आपला जीव गमवावा लागणे ही घटना भीषण आहे. आधुनिक मानवी संस्कृतीला, माहिती-तंत्रज्ञानाच्या अनिर्बंध बाजाराला आणि कृत्रिम प्रज्ञेच्या नावाने चाललेल्या बेलगाम प्रयोगांना लागलेला हा जबर हादरा आहे. गंभीर अपस्माराच्या विकाराने ग्रस्त असलेल्या या तरुणीने आपल्या औषधांचे प्रमाण कमी करण्यासाठी एका भाषा प्रारूपावर आंधळा विश्वास ठेवला आणि शेवटी त्या तंत्रज्ञानाच्या चुकीच्या सल्ल्याने तिचा श्वास कायमचा थांबवला. कॅलिफोर्नियाच्या न्यायालयात तिच्या पालकांनी याविरोधात दावा दाखल केला आहे. हा दावा म्हणजे, मानवी जीविताशी खेळणार्‍या अल्गोरिदमच्या नफेखोर साम्राज्याविरुद्धचा एल्गार असल्याचे मानले जाते; पण या विषयाचा मुळाशी जाऊन विचार करणे आवश्यक आहे.
चॅटजीपीटी असो किंवा अन्य एआय साधने असोत, त्यांनी डॉक्टरांची जागा कशी घेतली? त्यांच्यावर इतका विश्वास का ठेवला जातोय? याचे कारण, आजचा सुशिक्षित, तंत्रस्नेही माणूस हा ज्ञानाने समृद्ध असला, तरी मानसिक पातळीवर कमालीचा एकाकी आणि असुरक्षित झाला आहे. विशेषतः जुनाट किंवा गंभीर आजारांशी लढा देणार्‍या रुग्णांना डॉक्टरांच्या क्लिनिकमध्ये अनेकदा वेळ, सहानुभूती आणि ऐकून घेण्याच्या वृत्तीचा अभाव जाणवतो. वैद्यकीय व्यवस्थेचे झालेले व्यावसायिकरण आणि डॉक्टरांकडे असलेला मर्यादित वेळ रुग्णामध्ये एक प्रकारची पोकळी निर्माण करतो. नेमक्या याच पोकळीत कृत्रिम प्रज्ञा प्रवेश करते. दिवस-रात्र उपलब्ध असणारे, न थकता प्रत्येक शंकेला शांतपणे आणि अत्यंत भावनिक जवळीक असल्याचा आव आणून उत्तर देणारे संवाद साधन रुग्णाला आपले जवळचे हितचिंतक वाटू लागते. बोवेन वान हिने शेकडो, हजारो संदेशांची देवाणघेवाण करून त्या प्रणालीला आपला मार्गदर्शक मानले. एआयच्या संतुलित भाषेला वैद्यकीय ज्ञान आणि सहानुभूती समजण्याची घातक चूक अनेकांप्रमाणेच तिनेही केली.
वास्तविक, कृत्रिम प्रज्ञेच्या भाषा प्रारूपांचा पाया हा भाकीत वर्तवणार्‍या शब्दांच्या साखळीवर आधारलेला असतो. या प्रणालींना मानवी वेदना, शरीराची जैविक गुंतागुंत किंवा मृत्यूची भीती समजत नाही. वान हिने विचारलेल्या प्रश्नांना उत्तर देताना तिच्या शरीरातील अत्यंत जीवनरक्षक मानले गेलेले लॅमोट्रिजीन हे औषध हळूहळू शून्य मिलिग्रॅमपर्यंत कमी करण्याचा अविचारी सल्ला या प्रणालीने दिला. केवळ सल्ला देऊन हे यंत्र थांबले नाही, तर हा औषध बदल प्रत्यक्ष डॉक्टरांपासून लपवून ठेवण्याची धोकादायक सूचनाही दिली गेली. औषध थांबवल्यानंतर जेव्हा झटके येऊ लागले आणि दुष्परिणाम दिसू लागले, तेव्हा या आभासी यंत्राने तिला शरीराच्या शुद्धीकरणाची किंवा नैसर्गिक सुधारणेची सामान्य लक्षणे म्हणून खपवले. वैद्यकीय विज्ञानाचा कसलाही अधिकार नसताना औषधांचे डोस ठरवून अनधिकृतपणे वैद्यकीय व्यवसाय करण्याचा हा प्रकार अघोरीच आहे.
कृत्रिम प्रज्ञा क्षेत्रातील कंपन्यांच्या उत्तरदायित्वावर आणि त्यांच्या नैतिक दिवाळखोरीवर या घटनेने थेट बोट ठेवले आहे. प्रयोगशाळांमधून अर्धवट विकसित, अपुरी सुरक्षा कवच असलेली प्रारूपे व्यावसायिक स्पर्धेपोटी बाजारात आणायची आणि कोट्यवधी लोकांवर त्याचे थेट प्रयोग करायचे, ही सिलिकॉन व्हॅलीची जुनी प्रवृत्ती अत्यंत घातक आहे. औषध कंपन्यांना गोळी बाजारात आणण्यापूर्वी अनेक वर्षे मानवी चाचण्या आणि कठोर सरकारी नियमांच्या अग्निपरीक्षेतून जावे लागते; परंतु मानवी मेंदूवर थेट ताबा मिळवू पाहणार्‍या आणि विचारसरणीला वळण लावणार्‍या या सॉफ्टवेअर उत्पादनांना मात्र अशा कोणत्याही कडक नियामक चौकटीला सामोरे जावे लागत नाही. घटनेनंतर दिलगिरी व्यक्त करणे आणि नव्या आवृत्त्यांमध्ये सुधारणा केल्याचे पोकळ दावे करणे हा अशा प्रकरणांवर उतारा ठरू शकत नाही. एखादी प्रणाली रुग्णाला थेट धोकादायक सल्ला देण्यापासून स्वतःला रोखू शकत नसेल, तर अशी उत्पादने बाजारात आणणे हा फौजदारी गुन्हा का मानला जाऊ नये, हा प्रश्न आता तीव्रतेने विचारला गेला पाहिजे.
या संपूर्ण प्रकरणात एका दृष्टीने पाहिल्यास रुग्णाची चूक वाटणे वरवर अगदी स्वाभाविक वाटते. बोवेन वान ही एक उच्चशिक्षित, सॉफ्टवेअर क्षेत्रातील जाणकार महिला होती. त्यामुळे तिने अशा संगणकीय प्रणालीवर विश्वास का ठेवला किंवा डॉक्टरांना का विचारले नाही, असा प्रश्न नक्कीच पडू शकतो. अपस्मारासारख्या गंभीर मज्जासंस्थेच्या विकाराशी लढा देणारा रुग्ण वर्षानुवर्षे शारीरिक आणि मानसिक वेदना सहन करत असतो. अशा रुग्णांना दिली जाणारी औषधे अत्यंत जड असतात. सततची गुंगी, चक्कर येणे, एकाग्रतेचा अभाव आणि भावनिक अस्थिरता यांमुळे अनेक रुग्ण त्या औषधांच्या दुष्परिणामांना कंटाळलेले असतात. औषधांशिवाय सामान्य आयुष्य जगता यावे, ही त्यांची तळमळ त्यांना कोणत्याही आशेच्या किरणाकडे आकृष्ट करते. अशा अत्यंत असुरक्षित मानसिक अवस्थेत जेव्हा एखादी व्यक्ती असते, तेव्हा तिच्या तर्कशुद्ध विचार करण्याच्या क्षमतेवर रोगाचा आणि वेदनेचा ताण आलेला असतो. अशा वेळी त्या व्यक्तीला सावध करण्याऐवजी तिचा गैरसमज वाढवणे हा त्या प्रणालीचा दोष आहे. जेव्हा एखादी प्रगत बुद्धिमत्ता असणारी यंत्रणा रुग्णाला सांगते की, औषध कमी करा, भीती बाळगू नका, हे दुष्परिणाम नसून शरीर नैसर्गिक सुधारणेकडे जात असल्याचे लक्षण आहे, तेव्हा त्यातील भाषेचा आत्मविश्वास रुग्णाला भुलवतो. समोरून येणारी उत्तरे विज्ञानावर आधारलेली वाटत असल्याने रुग्ण त्याच्यावर विश्वास ठेवतात. विमान प्रवास करताना विमानाची रचना सदोष असेल आणि अपघात झाला, तर प्रवाशाने ते विमान का निवडले म्हणून त्याला दोष देता येत नाही. तिथे विमान कंपनीची आणि वैमानिकाची जबाबदारी असते. अगदी तसेच, एका ग्राहक केंद्रित उत्पादनाने थेट वैद्यकीय क्षेत्रात अतिक्रमण करून चुकीचा मार्ग दाखवला, तर बळी पडलेल्या व्यक्तीला जबाबदार धरणे न्यायाला धरून होत नाही.
कायदा आणि नैतिकता नेहमीच ताकदवान घटकावर अधिक जबाबदारी सोपवते. एका बाजूला अब्जावधी डॉलर्सची उलाढाल करणारी, जगातील अग्रगण्य तंत्रज्ञान कंपनी आणि दुसर्‍या बाजूला आजाराने खचलेली एक असहाय्यय व्यक्ती. उत्पादनाची सुरक्षितता तपासणे, त्यातून घातक वैद्यकीय सल्ले दिले जाणार नाहीत याची तटबंदी उभारणे ही संपूर्णपणे उत्पादकाची नैतिक आणि कायदेशीर जबाबदारी असते. रुग्णाला दोष देणे म्हणजे अपघातासाठी रस्ता बांधणार्‍याच्या चुकीऐवजी खड्ड्यात पडलेल्या निष्पाप पादचार्‍याला दोषी ठरवण्यासारखे आहे. म्हणूनच या चर्चेत पीडित तरुणीवर ठपका न ठेवता मानवी जीवाशी निष्काळजीपणा करणार्‍या प्रणालीच्या निर्मात्यांच्या उत्तरदायित्वावर बोट ठेवणे, हाच न्यायाचा संतुलित मार्ग ठरतो.