यूकेच्या आश्रयार्थी वय-तपासणी AIला बाल निर्वासित गटांकडून विरोध

आश्रयार्थ्यांवर AI वय तपासणी वापरण्याच्या यूकेच्या योजना तीव्र टीकेचा सामना करत आहेत

वयाबाबत वाद असलेल्या तरुण आश्रयार्थ्यांसाठी AI-आधारित चेहऱ्याद्वारे वय अंदाज लागू करण्याच्या यूके सरकारच्या निर्णयामुळे बाल निर्वासित समर्थकांकडून तीव्र विरोध झाला आहे. त्यांचा दावा आहे की ही तंत्रज्ञान असुरक्षित अल्पवयीनांना प्रौढ नजरकैद किंवा तुरुंगासारख्या ठिकाणी ढकलू शकते.

हा वाद गृहखात्याने ही प्रणाली राबवण्यासाठी केलेल्या करारानंतर सुरू झाला. अशा प्रकरणांमध्ये ती वापरली जाईल जिथे अधिकारी एखादा तरुण स्थलांतरित १८ वर्षांखालील आहे की नाही याबद्दल प्रश्न उपस्थित करतात. 100 हून अधिक निर्वासित बाल संस्थांच्या आघाडीचे म्हणणे आहे की हा निर्णय आश्रय प्रक्रियेतील सर्वात महत्त्वाच्या निर्णयांपैकी एकात वादग्रस्त मानवी निर्णयाऐवजी यंत्रातील चूक आणू शकतो.

आघात आणि स्थलांतर इतिहासामुळे स्वयंचलित अंदाज अधिक गुंतागुंतीचा होतो, असे टीकाकारांचे म्हणणे

Refugee and Migrant Children’s Consortium च्या अहवालानुसार, एकट्या आश्रय मागणाऱ्या तरुणांसाठी वय मूल्यांकन विशेषतः गुंतागुंतीचे असते. अनेकांनी यूकेमध्ये पोहोचण्यापूर्वी आघात, कुपोषण आणि धोकादायक प्रवासांचा अनुभव घेतला असेल. हे घटक, विशेषतः ज्या लोकांचे मूल्यमापन केले जात आहे त्यांचे प्रतिनिधित्व न करणाऱ्या नियमांवर प्रणाली प्रशिक्षित असेल तर, दिसण्यावर आधारित वय अंदाज कमी विश्वासार्ह करू शकतात, असा गटाचा युक्तिवाद आहे.

हा अहवाल तंत्रज्ञानाला पूर्णपणे नाकारत नाही. त्याऐवजी, प्रशिक्षित सामाजिक कार्यकर्त्यांनी केलेल्या व्यापक मूल्यमापनांची जागा AI ने घेऊ नये, असा तो इशारा देतो. हा फरक महत्त्वाचा आहे. मुख्य टीका ही नाही की AI अपूर्ण असू शकतो, तर त्या अपूर्णतेला अशा परिस्थितीत अंतिम मानले जाऊ शकते जिथे चुकीच्या निर्णयाची किंमत असाधारणरीत्या जास्त असते.

जर एखाद्या मुलाला प्रौढ म्हणून चुकीचे वर्गीकृत केले गेले, तर त्याला प्रौढांसाठीच्या निवासस्थानी, नजरकैद केंद्रांमध्ये किंवा अल्पवयीनांचे संरक्षण करण्यासाठी न तयार केलेल्या इतर ठिकाणी ठेवले जाऊ शकते. कार्यकर्त्या गटांसाठी, ही शक्यता सुरक्षा उपाय ऐच्छिक न ठेवता आवश्यक ठरवते.

मूल्यांकन कोणी केले यानुसार निकाल आधीच वेगळे येतात, असे डेटा दाखवतो

या वादातील सर्वात महत्त्वाचा मुद्दा असा आहे की तरुण आश्रयार्थ्यांना सीमा विभागातील स्थलांतर अधिकाऱ्यांपेक्षा सामाजिक कार्यकर्त्यांनी मूल्यमापन केल्यावर मुलं म्हणून नोंदवले जाण्याची शक्यता कथितपणे दुप्पटपेक्षा जास्त असते. स्रोत मजकुरात उद्धृत गृहखात्याच्या आकडेवारीनुसार, सामाजिक कार्यकर्ता-नेतृत्वाखालील मूल्यांकनांमध्ये दोन-तृतीयांशांहून अधिकांना अल्पवयीन ठरवण्यात आले.

हा फरक सूचित करतो की ही प्रक्रिया केवळ तांत्रिक नाही. ती पद्धती, संदर्भ आणि संस्थात्मक प्रोत्साहनांनी घडवली जाते. टीकाकारांचे म्हणणे आहे की मजबूत मर्यादा नसताना सीमा नियंत्रण प्रणालीमध्ये AI जोडल्यास निष्पक्षता सुधारण्याऐवजी त्या विभागणीचा कडक भाग अधिक मजबूत होऊ शकतो.

हॉम ऑफिसने मुलांसाठी दिल्या जाणाऱ्या संरक्षणांचा लाभ घेण्यासाठी प्रौढांकडून खोटे दावे केले जाऊ शकतात, याबद्दलची चिंता व्यक्त केली आहे. हे म्हणणे आश्रय धोरणातील दीर्घकालीन ताण दर्शवते: प्रणालीचा गैरवापर रोखणे आणि त्याचवेळी विशेषतः असुरक्षित लोकांचे संरक्षण करणे. सध्याचा वाद हा आहे की AI या उद्दिष्टांमध्ये समतोल राखण्यात मदत करेल का, की तो तडजोड अधिक वाईट करेल.

समर्थकांना AI सल्लागार असावा, निर्णायक नाही, असे वाटते

कन्सोर्टियमच्या अहवालात सरकारने AI वापरायचेच असल्यास ते केवळ सल्लागार भूमिकेत वापरावे, अशी मागणी केली आहे. तसेच योग्य प्रौढाचा आधार, कायदेशीर सल्ला आणि निर्णयांना आव्हान देण्याचा अधिकार यांसह सुरक्षा उपायांचीही मागणी केली आहे. या मागण्या उच्च-दांव असलेल्या सार्वजनिक क्षेत्रातील AIमधील व्यापक तत्त्व प्रतिबिंबित करतात: स्वयंचलनाने मानवी निर्णयाला मदत करावी, अपीलचे मार्ग बंद करू नयेत.

हे तत्त्व महत्त्वाचे आहे कारण वय मूल्यांकन ही तटस्थ प्रशासकीय पायरी नाही. ते निवास, कायदेशीर वागणूक, कल्याणविषयक सुविधा आणि एकूण सुरक्षिततेला आकार देते. आश्रय प्रणालींमध्ये, जिथे कागदपत्रे नसू शकतात आणि आघात व्यक्ती स्वतःला कसे मांडते यावर परिणाम करू शकतो, समर्थकांचे म्हणणे आहे की वापरली जाणारी कोणतीही तंत्रज्ञान अत्यंत काळजीपूर्वक हाताळली पाहिजे.

हा वाद स्थलांतर नियंत्रणात AI चाचणी करणाऱ्या सरकारांच्या व्यापक प्रवाहाचाही भाग आहे. अधिकारी वेग, सातत्य आणि कार्यक्षमता यांचे आश्वासन देणाऱ्या साधनांकडे आकर्षित होतात. नागरी समाज गट साधारणपणे विचारतात की हे फायदे खरे आहेत का, प्रणाली कोणत्या गृहितकांना अंतर्भूत करतात, आणि प्रणाली चुकल्यास जोखीम कोण घेते.

सध्या, यूकेचे प्रकरण हे परिपक्व, स्थिर तंत्रज्ञानाविषयीच्या कथेपेक्षा अतिशय उच्च दांव असलेल्या धोरण-चाचणीविषयी अधिक आहे. गृहखाते चेहऱ्याद्वारे वय अंदाज पुढे नेत आहे, तर निर्वासित आणि बाल संस्थांची व्यापक आघाडी इशारा देत आहे की वादग्रस्त प्रकरणांसाठी तयार केलेले साधन शेवटी खूप काही ठरवू शकते. केंद्रस्थानी प्रश्न असा आहे की ही प्रणाली मर्यादित, संकुचित सहाय्यक साधन राहील का, की मुलांना प्रभावीपणे आव्हान देण्यापूर्वीच प्रौढ प्रणालींमध्ये ढकलणारा शॉर्टकट बनेल.

हा लेख The Guardian च्या वार्तांकनावर आधारित आहे. मूळ लेख वाचा.