AI ब्लैकमेल मामलों के उभरने पर UK के स्कूलों से छात्रों की तस्वीरें हटाने की अपील

स्कूलों से तौर-तरीके बदलने के लिए क्यों कहा जा रहा है

विशेषज्ञों की सिफारिश स्पष्ट है: वेबसाइटों और सोशल मीडिया से पहचाने जा सकने वाली छात्र-चेहरे वाली तस्वीरें हटा दें, या फिर उन्हें बिल्कुल भी उपयोग न करने पर विचार करें। यह सलाह बदले हुए खतरे के मॉडल को दर्शाती है। पहले स्कूल अक्सर सहमति, गोपनीयता सेटिंग्स या पोस्ट पर टिप्पणियों को सीमित करने पर ध्यान देते थे। जनरेटिव AI के उदय के साथ जोखिम अब केवल मूल छवि के दुरुपयोग तक सीमित नहीं रहा। वही छवि अब सिंथेटिक शोषण के लिए कच्चा माल बन सकती है।

स्कूलों के लिए यह एक कठिन संतुलन बनाता है। छात्र जीवन की तस्वीरें अक्सर समुदाय को दिखाने, उपलब्धियों का जश्न मनाने और एक स्वागतपूर्ण सार्वजनिक छवि प्रस्तुत करने के लिए उपयोग की जाती हैं। लेकिन जो सार्वजनिक दृश्यता पहले अपेक्षाकृत हानिरहित लगती थी, अब उसमें अधिक तीखा जोखिम है, खासकर जब छवियों को आसानी से डाउनलोड, क्रॉप और बड़े पैमाने पर पुन: उपयोग किया जा सकता है।

अधिकारी कैसे प्रतिक्रिया दे रहे हैं

UK की National Crime Agency और बाल सुरक्षा विशेषज्ञ इस समस्या को एक उभरते आपराधिक खतरे के रूप में देख रहे हैं। Jess Phillips, safeguarding और violence against women and girls की मंत्री, ने स्कूलों को ब्लैकमेल करने की कोशिश को बेहद चिंताजनक विकास बताया और कहा कि यदि आवश्यक हुआ तो सरकार AI-जनित स्पष्ट छवियों से संबंधित कानूनों को अपडेट करेगी। उनकी टिप्पणी child sexual abuse material बनाने के लिए डिज़ाइन किए गए AI मॉडलों के कब्जे पर प्रतिबंध की घोषणा के बाद आई।

यह कानूनी और नीतिगत मुद्दा किसी एक स्कूल सुरक्षा प्रोटोकॉल से कहीं व्यापक है। AI प्रणालियाँ छवि कैप्चर, हेरफेर और जबरन वसूली के बीच का समय कम कर रही हैं। अब नियामकों और कानून प्रवर्तन एजेंसियों पर न केवल अवैध सामग्री के प्रसार, बल्कि उन टूल्स और वर्कफ्लो पर भी जवाब देने का दबाव है जो सिंथेटिक दुरुपयोग को बनाना आसान बनाते हैं।

बड़ा सबक

यह कहानी केवल स्कूलों के बारे में नहीं है। यह जनरेटिव AI और सामान्य डिजिटल उपस्थिति के टकराव के बारे में है। एक स्कूल वेबसाइट, जो कभी मुख्य रूप से सूचना और समुदाय मंच के रूप में काम करती थी, अब छवि-आधारित जबरन वसूली के लिए सामग्री जुटाने का मैदान बन सकती है। पीड़ित शुरुआत में संस्थान हो सकते हैं, लेकिन मूल नुकसान उन बच्चों पर पड़ता है जिनकी छवियों को अपमानजनक झूठी सामग्री में बदल दिया जाता है।

यह मामला AI शासन की एक बार-बार सामने आने वाली चुनौती को भी रेखांकित करता है: हानिकारक उपयोग अक्सर केवल अत्यंत परिष्कृत प्रणालियों से नहीं, बल्कि व्यापक रूप से उपलब्ध टूल्स और आसानी से सुलभ सार्वजनिक डेटा के संयोजन से उभरते हैं। इस मामले में, सार्वजनिक डेटा बस वही रोज़मर्रा का चित्र संग्रह है जो कई स्कूलों ने वर्षों में ऑनलाइन बनाया है।

शिक्षा नेताओं के लिए तत्काल संकेत व्यावहारिक है। फोटो नीतियों की समीक्षा करें, पहचाने जा सकने वाली छवियों को सीमित करें, यह दोबारा सोचें कि क्या सार्वजनिक होना चाहिए, और मानकर चलें कि कोई भी सार्वजनिक छवि बदली जा सकती है। नीति-निर्माताओं के लिए संकेत संरचनात्मक है। सिंथेटिक दुरुपयोग और ब्लैकमेल अब किनारे के मामले नहीं हैं। वे डिजिटल संस्थानों के परिचालन परिवेश का हिस्सा हैं।

इसलिए UK विशेषज्ञों की चेतावनी एक देश से कहीं आगे ध्यान देने योग्य है। जैसे-जैसे जनरेटिव इमेज टूल्स फैल रहे हैं, वही कमजोरी कहीं भी मौजूद है जहां स्कूल, युवा संगठन या परिवार बच्चों की तस्वीरें ऑनलाइन इस पूरी समझ के बिना प्रकाशित करते हैं कि अब उन छवियों को हथियार की तरह कैसे इस्तेमाल किया जा सकता है।

यह लेख The Guardian की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.