स्टॅनफोर्ड : वैद्यकीय क्षेत्रात वापरले जाणारे कृत्रिम बुद्धिमत्ता (एआय) मॉडेल्स प्रत्यक्षात निदान करण्यासाठी आवश्यक असलेले फोटो (उदा. एक्स-रे किंवा एमआरआय) समोर नसतानाही, जणू काही आपण ते फोटो पाहिले आहेत अशा थाटात उत्तरे देत असल्याचे धक्कादायक वास्तव समोर आले आहे. स्टॅनफोर्ड विद्यापीठातील मोहम्मद असादी यांच्या नेतृत्वाखालील पथकाने या समस्येचा शोध लावला असून, या प्रकाराला ‘मिराज रिझनिंग’ असे नाव दिले आहे.
संशोधकांनी 12 वेगवेगळ्या एआय मॉडेल्सवर हा प्रयोग केला. यात त्यांनी उतींचे नमुने, छातीचे एक्स-रे आणि मेंदूचे एमआरआय स्कॅन यांसारख्या विषयांवर एआयला प्रश्न विचारले. जेव्हा एआयला कोणतेही वास्तविक फोटो दिले गेले नाहीत, तेव्हा ‘माझ्याकडे फोटो नाही’ असे म्हणण्याऐवजी, अनेक मॉडेल्सनी अस्तित्वात नसलेल्या फोटोंचे वर्णन केले आणि त्यावरून रुग्णाचे निदानही सांगून टाकले. जणू काही त्यांना प्रत्यक्षात न दिसणाऱ्या गोष्टींचा ‘भास’ होत होता. हा प्रकार विशेषतः आरोग्य सेवा क्षेत्रातील मॉडेल्समध्ये अधिक दिसून आला. पॅथॉलॉजीशी संबंधित प्रश्नांमध्ये, एआयने अनेकदा गंभीर आजारांचे निदान सुचवले, ज्यासाठी प्रत्यक्ष रुग्णालयात मोठ्या उपचारांची गरज भासू शकते.
फोटोशिवाय दिलेली ही उत्तरे वैद्यकीयदृष्ट्या चुकीची आणि धोकादायक ठरू शकतात. संशोधनात असेही आढळले की, हे एआय मॉडेल्स सध्याच्या चाचण्यांमध्ये खूप चांगले गुण मिळवतात. आश्चर्याची गोष्ट म्हणजे, एका मॉडेलने छातीच्या एक्स-रे संबंधित प्रश्नांमध्ये अव्वल क्रमांक पटकावला, तरीही त्याने अनेक प्रश्नांची उत्तरे फोटो न पाहताच दिली होती. याचा अर्थ असा की, एआयला चांगले गुण मिळाले म्हणजे त्याला खरोखरच वैद्यकीय प्रतिमा समजतात, असे समजणे चुकीचे ठरेल. एआयला प्रश्न विचारण्याच्या पद्धतीवरही त्याचे उत्तर अवलंबून असल्याचे दिसले. जेव्हा एआयला ‘समोर फोटो आहे असे गृहीत धरून उत्तर दे’ असे सांगितले गेले, तेव्हा त्याचे गुण वाढले. मात्र, जेव्हा ‘फोटो नाहीये, तू फक्त अंदाज लाव’ असे सांगितले गेले, तेव्हा गुणांमध्ये मोठी घट झाली. या समस्या दूर करण्यासाठी संशोधकांनी ‘B- Clean' नावाची एक नवीन पद्धत सुचवली आहे. यात अशा प्रश्नांना वगळले जाते ज्यांची उत्तरे फोटोशिवाय केवळ मजकुरावरून दिली जाऊ शकतात. जेव्हा ही पद्धत तीन प्रमुख बेंचमार्कवर वापरली गेली, तेव्हा प्रश्नांची संख्या 75 टक्क्यांनी कमी झाली. यामुळे एआय मॉडेल्सची अचूकता आणि त्यांचे मानांकन पूर्णपणे बदलले.
