AI-सक्षम एक नया खतरा स्कूलों तक पहुंच रहा है
UK में बाल सुरक्षा विशेषज्ञ स्कूलों से आग्रह कर रहे हैं कि वे अपनी वेबसाइटों और सोशल मीडिया से छात्रों की पहचानी जा सकने वाली तस्वीरें हटा दें, क्योंकि ब्लैकमेलरों ने ऐसी छवियों का इस्तेमाल AI टूल्स के जरिए यौन रूप से स्पष्ट सामग्री बनाने के लिए किया है। यह चेतावनी कम से कम एक पुष्टि किए गए मामले के बाद आई है, जिसमें एक अज्ञात माध्यमिक विद्यालय को निशाना बनाया गया था, जब अपराधियों ने सार्वजनिक ऑनलाइन स्रोतों से छात्र तस्वीरें लेकर उन्हें अपमानजनक छवियों में बदला और फिर मांग की कि सामग्री को प्रकाशित होने से रोकने के लिए उन्हें पैसे दिए जाएं।
Internet Watch Foundation द्वारा वर्णित यह मामला ऑनलाइन नुकसान के एक विशेष रूप से परेशान करने वाले विकास की ओर इशारा करता है। पहले अपराधियों को ऐसी अंतरंग सामग्री चुरानी पड़ती थी जो पहले से मौजूद होती थी, लेकिन अब वे सामान्य स्कूल पोर्ट्रेट, इवेंट फोटोग्राफी या सोशल मीडिया पोस्ट से ही उसे गढ़ सकते हैं। इससे दुरुपयोग के लिए बाधा और कम हो जाती है और सामान्य ऑनलाइन मौजूदगी भी जबरन वसूली का संभावित स्रोत बन जाती है।
रिपोर्ट किए गए मामले में क्या हुआ
प्रदान की गई रिपोर्ट के अनुसार, Internet Watch Foundation ने कहा कि UK के एक अज्ञात माध्यमिक विद्यालय को ब्लैकमेल की कोशिश का सामना करना पड़ा, जब अपराधियों ने संस्थान की वेबसाइट या सोशल मीडिया खातों से ली गई तस्वीरों का इस्तेमाल किया। AI टूल्स की मदद से उन्होंने उन छवियों को बाल यौन शोषण सामग्री में बदल दिया और परिणाम स्कूल को भेज दिए, यह धमकी देते हुए कि भुगतान न करने पर उन्हें ऑनलाइन प्रकाशित कर दिया जाएगा।
संगठन ने कहा कि उसने ब्लैकमेल छवियों को डिजिटल हैश, यानी फिंगरप्रिंट, में बदल दिया और उस डेटा को प्रमुख तकनीकी प्लेटफॉर्मों के साथ साझा किया ताकि सामग्री को अपलोड होने से रोका जा सके। निगरानी संस्था ने यह भी कहा कि उस घटना की 150 छवियों को UK कानून के तहत बाल यौन शोषण सामग्री माना जा सकता है।
अधिकारियों ने संकेत दिया कि यह एक अकेली चिंता नहीं थी। Internet Watch Foundation ने कहा कि वह UK में स्कूल वेबसाइटों या सोशल अकाउंट्स से ली गई और बदली गई छवियों से जुड़े अन्य ब्लैकमेल प्रयासों से भी अवगत है, भले ही उन मामलों का विवरण सार्वजनिक रूप से जारी न किया गया हो।
स्कूलों से तौर-तरीके बदलने के लिए क्यों कहा जा रहा है
विशेषज्ञों की सिफारिश स्पष्ट है: वेबसाइटों और सोशल मीडिया से पहचाने जा सकने वाली छात्र-चेहरे वाली तस्वीरें हटा दें, या फिर उन्हें बिल्कुल भी उपयोग न करने पर विचार करें। यह सलाह बदले हुए खतरे के मॉडल को दर्शाती है। पहले स्कूल अक्सर सहमति, गोपनीयता सेटिंग्स या पोस्ट पर टिप्पणियों को सीमित करने पर ध्यान देते थे। जनरेटिव AI के उदय के साथ जोखिम अब केवल मूल छवि के दुरुपयोग तक सीमित नहीं रहा। वही छवि अब सिंथेटिक शोषण के लिए कच्चा माल बन सकती है।
स्कूलों के लिए यह एक कठिन संतुलन बनाता है। छात्र जीवन की तस्वीरें अक्सर समुदाय को दिखाने, उपलब्धियों का जश्न मनाने और एक स्वागतपूर्ण सार्वजनिक छवि प्रस्तुत करने के लिए उपयोग की जाती हैं। लेकिन जो सार्वजनिक दृश्यता पहले अपेक्षाकृत हानिरहित लगती थी, अब उसमें अधिक तीखा जोखिम है, खासकर जब छवियों को आसानी से डाउनलोड, क्रॉप और बड़े पैमाने पर पुन: उपयोग किया जा सकता है।
अधिकारी कैसे प्रतिक्रिया दे रहे हैं
UK की National Crime Agency और बाल सुरक्षा विशेषज्ञ इस समस्या को एक उभरते आपराधिक खतरे के रूप में देख रहे हैं। Jess Phillips, safeguarding और violence against women and girls की मंत्री, ने स्कूलों को ब्लैकमेल करने की कोशिश को बेहद चिंताजनक विकास बताया और कहा कि यदि आवश्यक हुआ तो सरकार AI-जनित स्पष्ट छवियों से संबंधित कानूनों को अपडेट करेगी। उनकी टिप्पणी child sexual abuse material बनाने के लिए डिज़ाइन किए गए AI मॉडलों के कब्जे पर प्रतिबंध की घोषणा के बाद आई।
यह कानूनी और नीतिगत मुद्दा किसी एक स्कूल सुरक्षा प्रोटोकॉल से कहीं व्यापक है। AI प्रणालियाँ छवि कैप्चर, हेरफेर और जबरन वसूली के बीच का समय कम कर रही हैं। अब नियामकों और कानून प्रवर्तन एजेंसियों पर न केवल अवैध सामग्री के प्रसार, बल्कि उन टूल्स और वर्कफ्लो पर भी जवाब देने का दबाव है जो सिंथेटिक दुरुपयोग को बनाना आसान बनाते हैं।
बड़ा सबक
यह कहानी केवल स्कूलों के बारे में नहीं है। यह जनरेटिव AI और सामान्य डिजिटल उपस्थिति के टकराव के बारे में है। एक स्कूल वेबसाइट, जो कभी मुख्य रूप से सूचना और समुदाय मंच के रूप में काम करती थी, अब छवि-आधारित जबरन वसूली के लिए सामग्री जुटाने का मैदान बन सकती है। पीड़ित शुरुआत में संस्थान हो सकते हैं, लेकिन मूल नुकसान उन बच्चों पर पड़ता है जिनकी छवियों को अपमानजनक झूठी सामग्री में बदल दिया जाता है।
यह मामला AI शासन की एक बार-बार सामने आने वाली चुनौती को भी रेखांकित करता है: हानिकारक उपयोग अक्सर केवल अत्यंत परिष्कृत प्रणालियों से नहीं, बल्कि व्यापक रूप से उपलब्ध टूल्स और आसानी से सुलभ सार्वजनिक डेटा के संयोजन से उभरते हैं। इस मामले में, सार्वजनिक डेटा बस वही रोज़मर्रा का चित्र संग्रह है जो कई स्कूलों ने वर्षों में ऑनलाइन बनाया है।
शिक्षा नेताओं के लिए तत्काल संकेत व्यावहारिक है। फोटो नीतियों की समीक्षा करें, पहचाने जा सकने वाली छवियों को सीमित करें, यह दोबारा सोचें कि क्या सार्वजनिक होना चाहिए, और मानकर चलें कि कोई भी सार्वजनिक छवि बदली जा सकती है। नीति-निर्माताओं के लिए संकेत संरचनात्मक है। सिंथेटिक दुरुपयोग और ब्लैकमेल अब किनारे के मामले नहीं हैं। वे डिजिटल संस्थानों के परिचालन परिवेश का हिस्सा हैं।
इसलिए UK विशेषज्ञों की चेतावनी एक देश से कहीं आगे ध्यान देने योग्य है। जैसे-जैसे जनरेटिव इमेज टूल्स फैल रहे हैं, वही कमजोरी कहीं भी मौजूद है जहां स्कूल, युवा संगठन या परिवार बच्चों की तस्वीरें ऑनलाइन इस पूरी समझ के बिना प्रकाशित करते हैं कि अब उन छवियों को हथियार की तरह कैसे इस्तेमाल किया जा सकता है।
यह लेख The Guardian की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.
Originally published on theguardian.com