जवळपास पूर्ण गुणांनंतर AI वापरून गैरप्रकाराची कबुली

दक्षिण कोरियातील कर लेखापाल होऊ इच्छिणाऱ्या उमेदवारांसाठीच्या राष्ट्रीय परीक्षेत सर्वाधिक गुण मिळवणाऱ्या उमेदवाराने गैरप्रकार करण्यासाठी जनरेटिव्ह AI वापरल्याची कबुली दिली आहे, अशी Guardian ची बातमी आहे. देशाची वार्षिक महाविद्यालय प्रवेश परीक्षा काही दिवसांवर आली असताना या प्रकरणामुळे परीक्षेच्या प्रामाणिकतेबाबतची चिंता वाढली आहे.

Han या आडनावाने ओळखल्या जाणाऱ्या उमेदवाराने एप्रिल आणि जुलैमध्ये झालेल्या पात्रता परीक्षेच्या दोन्ही फेऱ्यांत प्रथम क्रमांक मिळवला. 400 पैकी 397.5 गुण आणि 160 प्रश्नांपैकी केवळ एका चुकीच्या उत्तरामुळे त्याच्या पहिल्या फेरीच्या निकालाबाबत अनेक महिन्यांपासून संशय व्यक्त होत होता. स्मार्ट चष्म्यांशी संबंधित आरोप त्याने सुरुवातीला फेटाळले; मात्र नंतर वकिलामार्फत त्याने परीक्षेदरम्यान इलेक्ट्रॉनिक उपकरणे आणि जनरेटिव्ह AI टूल वापरल्याचे मान्य केले.

मायक्रोकॅमेऱ्याने परीक्षेतील प्रश्नांचे फोटो काढून ते AI टूलला पाठवले आणि स्मार्टफोनवर उत्तरे तपासली, असे Han ने सांगितले. YouTube चॅनेल Attorney Lee Don-ho वरील व्हिडिओमध्ये त्याने माफी मागितली आणि आपले सर्वोच्च गुण निष्पक्ष प्रयत्नांचे फलित नव्हते, असे म्हटले. Seoul पोलिसांकडे लेखी कबुली दिल्याचेही त्याने सांगितले.

उमेदवाराच्या वकिलामार्फत लेखी कबुली मिळाली असून हे प्रकरण तपास अधिकाऱ्यांकडे सोपवण्यात आले आहे, असे Seoul महानगर पोलिसांनी सांगितले. अंतिम कायदेशीर किंवा प्रशासकीय निकाल काय असेल, हे या वृत्तातून स्पष्ट होत नाही. मात्र, ग्राहक-स्तरावरील AI टूल्सना लपवलेल्या प्रतिमा टिपणाऱ्या आणि संदेशवहन साधनांशी जोडून नियंत्रित परीक्षा व्यवस्थेला बाधा आणण्याचा ठोस मार्ग उपलब्ध होऊ शकतो, हे प्रकरण दाखवते.

धोका केवळ chatbot चा नाही, तर संपूर्ण व्यवस्थेचा आहे

हे प्रकरण केवळ AI मॉडेल कठीण प्रश्नाचे उत्तर देऊ शकते की नाही, याबाबतचे नाही. सांगितलेल्या पद्धतीत अनेक घटक होते: मजकूर टिपण्यासाठी मायक्रोकॅमेरा, तो AI टूलपर्यंत पाठवण्याचे साधन, उत्तरे मिळवण्यासाठी किंवा पाहण्यासाठी स्मार्टफोन आणि परीक्षेदरम्यान ही उपकरणे वापरण्याची उमेदवाराची क्षमता. प्रत्येक घटक महत्त्वाचा आहे.

जनरेटिव्ह AI वेगाने आणि नैसर्गिक भाषेत उत्तरे तयार करू शकत असल्याने शैक्षणिक प्रामाणिकतेबाबतच्या व्यापक चिंतांचा तो एक भाग बनला आहे. या प्रकरणातील आरोप गृहपाठातील मदत किंवा श्रेय न देता केलेल्या लेखनाच्या प्रश्नांपेक्षा अधिक थेट आहे. उच्च-जोखमीच्या व्यावसायिक पात्रता परीक्षेदरम्यान उत्तरे मिळवण्यासाठी त्याने हे टूल वापरल्याचे उमेदवाराने सांगितले.

या फरकामुळे संस्थांसमोरील आव्हानही बदलते. परीक्षा आयोजक प्रश्न अधिक कठीण करण्याचा प्रयत्न करू शकतात; परंतु केवळ कठीणता अनधिकृत छायाचित्रण आणि बाहेरील मदत रोखत नाही. प्रश्न पाहण्याच्या अटी, प्रतिबंधित उपकरणे शोधण्याची क्षमता, गैरप्रकाराचा संशय आल्यास प्रतिसाद देण्याच्या पद्धती आणि नंतर नेमके काय घडले हे निश्चित करणारी चौकशी प्रक्रिया या महत्त्वाच्या सुरक्षा उपायांमध्ये येतात.

वापरलेली विशिष्ट AI प्रणाली कोणती होती, हे अहवालात सांगितलेले नाही; तसेच संपूर्ण परीक्षेत तिच्या उत्तरांची अचूकताही दिलेली नाही. त्यामुळे कर-लेखाशास्त्राशी संबंधित प्रश्नांवर कोणत्याही मॉडेलच्या कामगिरीचे व्यापक मोजमाप म्हणून या घटनेकडे पाहणे योग्य ठरणार नाही. कथित गैरप्रकाराच्या प्रक्रियेत जनरेटिव्ह AI वापरल्याची कबुली आणि त्यामुळे परीक्षा अधिकाऱ्यांवर आलेला दबाव, हेच या घटनेचे निश्चित महत्त्व आहे.

दक्षिण कोरियाच्या परीक्षा व्यवस्थेसाठी संवेदनशील काळ

दक्षिण कोरियाच्या वार्षिक महाविद्यालय प्रवेश परीक्षेच्या काही काळ आधी हा घोटाळा समोर आला. स्रोत वृत्तानुसार ही परीक्षा गुरुवारी होणार होती. अनेक विद्यार्थी आयुष्याचा मोठा भाग ज्या परीक्षेच्या तयारीत घालवतात, अशी उच्च-दबावाची घटना म्हणून Guardian ने तिचे वर्णन केले. प्रमाणित परीक्षा शैक्षणिक आणि करिअरच्या संधींवर मोठा प्रभाव टाकू शकतात अशा देशात, तंत्रज्ञानाच्या मदतीने झालेल्या गैरप्रकाराचा आरोप एका उमेदवाराच्या निकालापलीकडे परिणाम घडवतो.

प्रवेश परीक्षा जवळ आल्याने राष्ट्रपती कार्यालयाने या प्रकरणाकडे गांभीर्याने पाहिले आणि प्रतिबंधात्मक उपाययोजना तयार केल्या, असे वृत्तात म्हटले आहे. उपलब्ध वृत्तात कोणत्याही विशिष्ट उपायांचा उल्लेख नाही. ही अनुपस्थिती महत्त्वाची आहे: जनतेची चिंता स्पष्ट असली तरी कोणत्याही प्रतिसादाची परिणामकारकता त्याच्या अंमलबजावणीच्या तपशीलांवर अवलंबून असेल.

उच्च-जोखमीची मूल्यांकन व्यवस्था केवळ प्रश्नांच्या अपेक्षित गुणवत्तेवर अवलंबून नसते. उमेदवारांना जवळपास समान परिस्थितीत परीक्षा द्यावी लागते आणि उल्लंघने शोधून त्यावर कारवाई करता येते, असा विश्वास सहभागींच्या मनात असणे आवश्यक आहे. कबुलीनंतर समोर आलेला चर्चेत राहिलेला जवळपास पूर्ण गुणांचा निकाल हा विश्वास कमी करू शकतो, विशेषतः जेव्हा पद्धतीत लहान, परिचित आणि सहज उपलब्ध उपकरणांचा वापर केला जातो.

तंत्रज्ञानाशी संबंधित आव्हान सतत बदलत राहण्याची शक्यता आहे. आयोजकांनी एका प्रकारच्या उपकरणावर लक्ष केंद्रित केले तर उमेदवार दुसरा पर्याय शोधू शकतात; एका तपासणी पद्धतीवर अवलंबून राहिल्यास तिच्या उणिवा तपासल्या जाऊ शकतात. त्याच वेळी, अतिव्यापक प्रतिसादामुळे प्रामाणिक उमेदवार आणि निरीक्षकांवर अतिरिक्त भार पडू शकतो. या प्रकरणातून योग्य संतुलन ठरत नाही; मात्र हा तडजोडीचा प्रश्न अधिक तातडीचा बनतो.

या प्रकरणातून संस्थांना काय शिकता येईल

परीक्षा सुरक्षा ही सुरुवातीपासून शेवटपर्यंतची प्रक्रिया म्हणून पाहणे, हा सर्वात तात्काळ धडा आहे. अनधिकृत AI वापरासाठी प्रश्न मिळवण्याची, बाहेरील सेवेशी संवाद साधण्याची आणि मिळालेल्या उत्तरापर्यंत पोहोचण्याची संधी आवश्यक असते. त्यामुळे एका उपकरणबंदीवर किंवा एका निरीक्षण पद्धतीवर अवलंबून राहण्याऐवजी अनेक स्तरांद्वारे धोका कमी करता येतो.

  • प्रश्न हाताळणी महत्त्वाची आहे, कारण छायाचित्रित प्रश्न बाहेरील इनपुट बनू शकतात.
  • उपकरणांवरील नियंत्रण महत्त्वाचे आहे, कारण लपवलेले कॅमेरे आणि फोन परीक्षा कक्षाला बाहेरील मदतीशी जोडू शकतात.
  • निरीक्षणाच्या पद्धती महत्त्वाच्या आहेत, कारण असामान्य वर्तन हे उल्लंघनाचे पहिले दिसणारे चिन्ह असू शकते.
  • चौकशी आणि परिणाम ठरवण्याच्या पद्धती महत्त्वाच्या आहेत, कारण संशयित उल्लंघनानंतरच्या प्रतिसादावर विश्वासार्हता अवलंबून असते.

यापैकी कोणताही स्तर स्वतःहून धोका संपवत नाही. तसेच गैरप्रकारासाठी जनरेटिव्ह AIच जबाबदार आहे, असेही या प्रकरणातून सिद्ध होत नाही. सांगितलेल्या कृतीत एका व्यक्तीने जाणूनबुजून घेतलेले निर्णय आणि अनेक उपकरणे व सेवांचा एकत्रित वापर यांचा समावेश होता. मात्र AI-सहाय्यित उत्तरांचा वेग आणि सहज उपलब्धता, बाहेरील सल्ला घेणे पूर्वीपेक्षा धीमे किंवा कठीण असेल असे गृहीत धरणाऱ्या परीक्षांसाठीचा व्यावहारिक धोका बदलू शकते.

तंत्रज्ञानासोबत विश्वासाचीही परीक्षा

परीक्षा अधिकाऱ्यांसाठी तंत्रज्ञान बदलत असताना विश्वास टिकवणे हे केंद्रीय काम आहे. कर लेखापालाचे हे प्रकरण विशेष संवेदनशील काळात त्या आव्हानाला सार्वजनिक चर्चेत घेऊन आले आहे. उमेदवाराची कबुली, पोलिसांकडे पाठवलेले प्रकरण आणि राष्ट्रपती कार्यालयाची नोंदवलेली चिंता यामुळे हा मुद्दा भविष्यातील AI गैरवापराबाबतची अमूर्त चेतावणी राहणार नाही.

समर्थित तथ्ये आणि तर्ककल्पना यांतील फरक ओळखण्याची आठवणही या प्रकरणातून होते. उपलब्ध माहितीनुसार उमेदवाराने जनरेटिव्ह AI वापरल्याची कबुली दिली, मायक्रोकॅमेरा आणि स्मार्टफोनचा समावेश असलेली पद्धत सांगितली आणि पोलिसांना लेखी कबुली मिळाली. मात्र अशा प्रकारचे वर्तन किती व्यापक असू शकते, इतर उमेदवारांची कामगिरी कशी होती किंवा आगामी प्रतिबंधात्मक उपाय यशस्वी ठरतील का, हे त्यातून सिद्ध होत नाही.

संस्थांनी प्रतिसाद देताना हे प्रश्न महत्त्वाचे ठरतील. सध्या तरी, लहान उपकरणे, नेटवर्कशी जोडलेली साधने आणि जनरेटिव्ह AI यांच्या वेगाने बदलणाऱ्या परिसंस्थेशी सुरक्षा उपाय जुळवून घेऊ शकतात की नाही, यावर उच्च-जोखमीच्या परीक्षेची प्रामाणिकता अवलंबून राहू शकते, हे हा घोटाळा दाखवतो.

हा लेख The Guardian च्या वृत्तांकनावर आधारित आहे. मूळ लेख वाचा.

Originally published on theguardian.com