एआय ब्लॅकमेल प्रकरणे उघड होताच यूके शाळांना विद्यार्थ्यांचे फोटो काढून टाकण्याचे आवाहन

एआय-सक्षम एक नवा धोका शाळांपर्यंत पोहोचत आहे

यूकेमधील बालसुरक्षा तज्ज्ञ शाळांना त्यांच्या वेबसाइट्स आणि सोशल मीडियावरून विद्यार्थ्यांचे ओळख पटणारे फोटो काढून टाकण्याचे आवाहन करत आहेत, कारण ब्लॅकमेलर्सनी अशा प्रतिमांचा वापर करून एआय साधनांच्या मदतीने लैंगिकदृष्ट्या स्पष्ट साहित्य तयार केले. हा इशारा किमान एका पुष्टी झालेल्या प्रकरणानंतर देण्यात आला आहे, ज्यात एका निनावी माध्यमिक शाळेला लक्ष्य करण्यात आले होते; गुन्हेगारांनी सार्वजनिक ऑनलाइन स्रोतांमधून विद्यार्थ्यांचे फोटो घेतले, त्यांचे अपमानजनक प्रतिमांमध्ये रूपांतर केले आणि ते साहित्य प्रकाशित न करण्याच्या बदल्यात पैसे मागितले.

इंटरनेट वॉच फाउंडेशनने वर्णन केलेले हे प्रकरण ऑनलाइन हानीच्या विशेषतः अस्वस्थ करणाऱ्या उत्क्रांतीकडे निर्देश करते. आधीपासून अस्तित्वात असलेले खाजगी साहित्य चोरण्याऐवजी, गुन्हेगार आता सामान्य शालेय छायाचित्रे, कार्यक्रमांची छायाचित्रे किंवा सोशल मीडिया पोस्ट्समधूनच ते बनवू शकतात. त्यामुळे गैरवापराचा अडथळा कमी होतो आणि नेहमीची ऑनलाइन दृश्यमानताही सक्तीच्या साधनात रूपांतरित होऊ शकते.

नोंदवलेल्या प्रकरणात काय घडले

दिलेल्या अहवालानुसार, इंटरनेट वॉच फाउंडेशनने सांगितले की एका निनावी यूके माध्यमिक शाळेला ब्लॅकमेलच्या प्रयत्नाला सामोरे जावे लागले, कारण गुन्हेगारांनी संस्थेच्या वेबसाइट किंवा सोशल मीडिया खात्यांवरून घेतलेल्या छायाचित्रांचा वापर केला. एआय साधनांचा वापर करून त्यांनी त्या प्रतिमांचे बाल लैंगिक अत्याचार साहित्यामध्ये रूपांतर केले आणि पैसे न दिल्यास ऑनलाइन प्रकाशनाची धमकी देत ते निकाल शाळेकडे पाठवले.

संस्थेने सांगितले की तिने त्या ब्लॅकमेल प्रतिमांना डिजिटल हॅश, किंवा फिंगरप्रिंट, मध्ये रूपांतरित केले आणि सामग्री अपलोड होऊ नये म्हणून हे डेटा मोठ्या तंत्रज्ञान प्लॅटफॉर्म्ससोबत शेअर केले. देखरेख करणाऱ्या संस्थेने असेही सांगितले की त्या घटनेतील 150 प्रतिमा यूके कायद्यानुसार बाल लैंगिक अत्याचार साहित्य म्हणून वर्गीकृत केल्या जाऊ शकतात.

अधिकार्‍यांनी सूचित केले की ही चिंता एकटीच नाही. इंटरनेट वॉच फाउंडेशनने सांगितले की यूकेमध्ये शाळांच्या वेबसाइट्स किंवा सोशल खात्यांमधून घेतलेल्या आणि बदललेल्या प्रतिमांचा समावेश असलेल्या इतर ब्लॅकमेल प्रयत्नांचीही त्यांना माहिती आहे, जरी त्या प्रकरणांचे तपशील सार्वजनिकरित्या जाहीर केलेले नसले तरी.

शाळांना कार्यपद्धती बदलण्यास का सांगितले जात आहे

तज्ज्ञांचा सल्ला स्पष्ट आहे: वेबसाइट्स आणि सोशल मीडियावरून विद्यार्थ्यांचे ओळख पटणारे चेहऱ्यांचे फोटो काढून टाका, किंवा शक्य असल्यास ते अजिबात वापरू नका. हा सल्ला बदललेल्या धोका-मॉडेलचे प्रतिबिंब आहे. पूर्वी शाळा संमती, गोपनीयता सेटिंग्ज किंवा पोस्टवरील टिप्पण्या मर्यादित ठेवणे यावर लक्ष केंद्रित करत असाव्यात. जनरेटिव्ह एआयच्या उदयामुळे धोका आता फक्त मूळ प्रतिमेच्या गैरवापरापुरता मर्यादित राहिलेला नाही. प्रतिमा स्वतःच सिंथेटिक अत्याचारासाठी कच्चा माल बनू शकते.

शाळांसाठी यामुळे अवघड तडजोड निर्माण होते. विद्यार्थ्यांच्या जीवनाचे फोटो समुदायाशी संवाद साधण्यासाठी, यश साजरे करण्यासाठी आणि स्वागतार्ह सार्वजनिक प्रतिमा सादर करण्यासाठी वारंवार वापरले जातात. पण एकेकाळी प्रामुख्याने निरुपद्रवी वाटणारी सार्वजनिक दृश्यमानता आता अधिक तीक्ष्ण धोका घेऊन आली आहे, विशेषतः जेव्हा प्रतिमा सहज डाउनलोड, क्रॉप आणि मोठ्या प्रमाणावर पुन्हा वापरणे शक्य असते.

अधिकार्‍यांची प्रतिक्रिया कशी आहे

यूकेची नॅशनल क्राइम एजन्सी आणि बालसुरक्षा तज्ज्ञ या समस्येकडे उदयोन्मुख गुन्हेगारी धोका म्हणून पाहत आहेत. महिलांवरील आणि मुलींबरोबर होणाऱ्या हिंसाचाराविरोधातील संरक्षणमंत्री जेस फिलिप्स यांनी शाळांच्या ब्लॅकमेलच्या प्रयत्नांना अत्यंत चिंताजनक विकास असे म्हटले आणि गरज भासल्यास एआय-निर्मित स्पष्ट प्रतिमांवरील कायदे अद्ययावत केले जातील असे सांगितले. त्यांच्या या प्रतिक्रियेमागे बाल लैंगिक अत्याचार साहित्य तयार करण्यासाठी डिझाइन केलेल्या एआय मॉडेल्सच्या ताब्यावर घातलेल्या बंदीची घोषणा होती.

इथे कायदेशीर आणि धोरणात्मक मुद्दा एका शाळेच्या सुरक्षाप्रोटोकॉलपेक्षा व्यापक आहे. एआय प्रणाली प्रतिमा टिपणे, त्यात बदल करणे आणि सक्ती करणे यामधील वेळ कमी करत आहेत. नियामक संस्था आणि कायदा अंमलबजावणी यंत्रणांवर आता केवळ बेकायदेशीर साहित्याच्या प्रसारालाच नव्हे तर सिंथेटिक अत्याचार अधिक सुलभ बनविणाऱ्या साधनांनाही आणि कार्यप्रवाहांनाही प्रत्युत्तर देण्याचा दबाव आहे.

व्यापक धडा

ही कथा केवळ शाळांबद्दल नाही. ती जनरेटिव्ह एआय आणि दैनंदिन डिजिटल दृश्यमानता यांच्यातील धडकेबद्दल आहे. एक शालेय वेबसाइट, जी पूर्वी मुख्यतः माहिती आणि समुदायासाठीचा मंच म्हणून काम करत असे, आता प्रतिमा-आधारित खंडणीसाठी प्रतिमा गोळा करण्याचे केंद्र बनू शकते. सुरुवातीला बळी संस्था असू शकतात, पण मूलभूत हानी त्या मुलांना होते ज्यांची प्रतिमा अपमानजनक बनावट सामग्रीमध्ये पुनर्वापरली जाते.

हे प्रकरण एआय प्रशासनातील एक सततचा आव्हानही अधोरेखित करते: हानिकारक वापर अनेकदा अत्यंत प्रगत प्रणालींमधूनच नव्हे, तर मोठ्या प्रमाणावर उपलब्ध साधने आणि सहज उपलब्ध सार्वजनिक डेटा यांच्या संयोजनातून निर्माण होतात. या प्रसंगी सार्वजनिक डेटा म्हणजे अनेक शाळांनी वर्षानुवर्षे ऑनलाइन साठवलेले दैनंदिन प्रतिमा-संग्रह इतकेच आहे.

शिक्षण क्षेत्रातील नेतृत्वासाठी याचा तात्काळ अर्थ व्यावहारिक आहे. फोटो धोरणांचा आढावा घ्या, ओळख पटणाऱ्या प्रतिमा मर्यादित करा, काय सार्वजनिक असणे आवश्यक आहे याचा पुनर्विचार करा आणि कोणतीही सार्वजनिक प्रतिमा बदलली जाऊ शकते असे गृहीत धरा. धोरणकर्त्यांसाठी याचा अर्थ संरचनात्मक आहे. सिंथेटिक अत्याचार आणि ब्लॅकमेल आता अपवादात्मक प्रकरणे राहिलेली नाहीत. ती डिजिटल संस्थांच्या कार्यपरिस्थितीचा भाग बनली आहेत.

म्हणूनच यूकेमधील तज्ज्ञांचा इशारा एका देशापुरताच मर्यादित न राहता त्यापलीकडेही लक्ष वेधून घेतो. जनरेटिव्ह इमेज साधने जसजशी पसरत जातील, तसतशी हीच असुरक्षितता सर्वत्र असेल जिथे शाळा, युवक संघटना किंवा कुटुंबे मुलांचे फोटो ऑनलाइन प्रसिद्ध करतात, त्या प्रतिमा आता कशा शस्त्र म्हणून वापरल्या जाऊ शकतात याचा पूर्ण विचार न करता.

हा लेख The Guardian च्या वृत्तांकनावर आधारित आहे. मूळ लेख वाचा.