एआय ब्लॅकमेल प्रकरणे उघड होताच यूके शाळांना विद्यार्थ्यांचे फोटो काढून टाकण्याचे आवाहन

शाळांना कार्यपद्धती बदलण्यास का सांगितले जात आहे

तज्ज्ञांचा सल्ला स्पष्ट आहे: वेबसाइट्स आणि सोशल मीडियावरून विद्यार्थ्यांचे ओळख पटणारे चेहऱ्यांचे फोटो काढून टाका, किंवा शक्य असल्यास ते अजिबात वापरू नका. हा सल्ला बदललेल्या धोका-मॉडेलचे प्रतिबिंब आहे. पूर्वी शाळा संमती, गोपनीयता सेटिंग्ज किंवा पोस्टवरील टिप्पण्या मर्यादित ठेवणे यावर लक्ष केंद्रित करत असाव्यात. जनरेटिव्ह एआयच्या उदयामुळे धोका आता फक्त मूळ प्रतिमेच्या गैरवापरापुरता मर्यादित राहिलेला नाही. प्रतिमा स्वतःच सिंथेटिक अत्याचारासाठी कच्चा माल बनू शकते.

शाळांसाठी यामुळे अवघड तडजोड निर्माण होते. विद्यार्थ्यांच्या जीवनाचे फोटो समुदायाशी संवाद साधण्यासाठी, यश साजरे करण्यासाठी आणि स्वागतार्ह सार्वजनिक प्रतिमा सादर करण्यासाठी वारंवार वापरले जातात. पण एकेकाळी प्रामुख्याने निरुपद्रवी वाटणारी सार्वजनिक दृश्यमानता आता अधिक तीक्ष्ण धोका घेऊन आली आहे, विशेषतः जेव्हा प्रतिमा सहज डाउनलोड, क्रॉप आणि मोठ्या प्रमाणावर पुन्हा वापरणे शक्य असते.

अधिकार्‍यांची प्रतिक्रिया कशी आहे

यूकेची नॅशनल क्राइम एजन्सी आणि बालसुरक्षा तज्ज्ञ या समस्येकडे उदयोन्मुख गुन्हेगारी धोका म्हणून पाहत आहेत. महिलांवरील आणि मुलींबरोबर होणाऱ्या हिंसाचाराविरोधातील संरक्षणमंत्री जेस फिलिप्स यांनी शाळांच्या ब्लॅकमेलच्या प्रयत्नांना अत्यंत चिंताजनक विकास असे म्हटले आणि गरज भासल्यास एआय-निर्मित स्पष्ट प्रतिमांवरील कायदे अद्ययावत केले जातील असे सांगितले. त्यांच्या या प्रतिक्रियेमागे बाल लैंगिक अत्याचार साहित्य तयार करण्यासाठी डिझाइन केलेल्या एआय मॉडेल्सच्या ताब्यावर घातलेल्या बंदीची घोषणा होती.

इथे कायदेशीर आणि धोरणात्मक मुद्दा एका शाळेच्या सुरक्षाप्रोटोकॉलपेक्षा व्यापक आहे. एआय प्रणाली प्रतिमा टिपणे, त्यात बदल करणे आणि सक्ती करणे यामधील वेळ कमी करत आहेत. नियामक संस्था आणि कायदा अंमलबजावणी यंत्रणांवर आता केवळ बेकायदेशीर साहित्याच्या प्रसारालाच नव्हे तर सिंथेटिक अत्याचार अधिक सुलभ बनविणाऱ्या साधनांनाही आणि कार्यप्रवाहांनाही प्रत्युत्तर देण्याचा दबाव आहे.

व्यापक धडा

ही कथा केवळ शाळांबद्दल नाही. ती जनरेटिव्ह एआय आणि दैनंदिन डिजिटल दृश्यमानता यांच्यातील धडकेबद्दल आहे. एक शालेय वेबसाइट, जी पूर्वी मुख्यतः माहिती आणि समुदायासाठीचा मंच म्हणून काम करत असे, आता प्रतिमा-आधारित खंडणीसाठी प्रतिमा गोळा करण्याचे केंद्र बनू शकते. सुरुवातीला बळी संस्था असू शकतात, पण मूलभूत हानी त्या मुलांना होते ज्यांची प्रतिमा अपमानजनक बनावट सामग्रीमध्ये पुनर्वापरली जाते.

हे प्रकरण एआय प्रशासनातील एक सततचा आव्हानही अधोरेखित करते: हानिकारक वापर अनेकदा अत्यंत प्रगत प्रणालींमधूनच नव्हे, तर मोठ्या प्रमाणावर उपलब्ध साधने आणि सहज उपलब्ध सार्वजनिक डेटा यांच्या संयोजनातून निर्माण होतात. या प्रसंगी सार्वजनिक डेटा म्हणजे अनेक शाळांनी वर्षानुवर्षे ऑनलाइन साठवलेले दैनंदिन प्रतिमा-संग्रह इतकेच आहे.

शिक्षण क्षेत्रातील नेतृत्वासाठी याचा तात्काळ अर्थ व्यावहारिक आहे. फोटो धोरणांचा आढावा घ्या, ओळख पटणाऱ्या प्रतिमा मर्यादित करा, काय सार्वजनिक असणे आवश्यक आहे याचा पुनर्विचार करा आणि कोणतीही सार्वजनिक प्रतिमा बदलली जाऊ शकते असे गृहीत धरा. धोरणकर्त्यांसाठी याचा अर्थ संरचनात्मक आहे. सिंथेटिक अत्याचार आणि ब्लॅकमेल आता अपवादात्मक प्रकरणे राहिलेली नाहीत. ती डिजिटल संस्थांच्या कार्यपरिस्थितीचा भाग बनली आहेत.

म्हणूनच यूकेमधील तज्ज्ञांचा इशारा एका देशापुरताच मर्यादित न राहता त्यापलीकडेही लक्ष वेधून घेतो. जनरेटिव्ह इमेज साधने जसजशी पसरत जातील, तसतशी हीच असुरक्षितता सर्वत्र असेल जिथे शाळा, युवक संघटना किंवा कुटुंबे मुलांचे फोटो ऑनलाइन प्रसिद्ध करतात, त्या प्रतिमा आता कशा शस्त्र म्हणून वापरल्या जाऊ शकतात याचा पूर्ण विचार न करता.

हा लेख The Guardian च्या वृत्तांकनावर आधारित आहे. मूळ लेख वाचा.