AI-సమర్థ కొత్త ముప్పు పాఠశాలలకు చేరుతోంది
UKలోని బాలల భద్రత నిపుణులు, పాఠశాలల వెబ్సైట్లు మరియు సోషల్ మీడియా నుంచి గుర్తించగలిగే విద్యార్థుల ఫోటోలను తొలగించాలని పాఠశాలలను కోరుతున్నారు. కారణం, దుండగులు అలాంటి చిత్రాలను AI టూల్స్ ఉపయోగించి లైంగికంగా స్పష్టమైన కంటెంట్గా మార్చి బ్లాక్మెయిల్ ప్రయత్నాలు చేశారు. ఈ హెచ్చరిక కనీసం ఒక నిర్ధారిత కేసు తరువాత వచ్చింది; అందులో పేరు వెల్లడించని ఒక మాధ్యమిక పాఠశాల లక్ష్యంగా మారింది, ఎందుకంటే నేరస్థులు ప్రజలకు అందుబాటులో ఉన్న ఆన్లైన్ వనరుల నుంచి విద్యార్థుల ఫోటోలను తీసుకుని, వాటిని దుర్వినియోగ చిత్రాలుగా మార్చి, ఆ పదార్థాన్ని ప్రచురించకుండా ఉండాలంటే డబ్బు చెల్లించాలని డిమాండ్ చేశారు.
Internet Watch Foundation వివరించిన ఈ కేసు, ఆన్లైన్ హానిలో ప్రత్యేకంగా ఆందోళన కలిగించే మార్పును సూచిస్తోంది. ముందు నేరస్తులు ఇప్పటికే ఉన్న సన్నిహిత పదార్థాన్ని దొంగిలించాల్సి వచ్చేది; ఇప్పుడు వారు సాధారణ పాఠశాల పోర్ట్రెట్లు, ఈవెంట్ ఫోటోగ్రఫీ లేదా సోషల్ మీడియా పోస్టుల నుంచే దాన్ని సృష్టించగలరు. ఇది దుర్వినియోగానికి అడ్డంకిని తగ్గిస్తుంది మరియు సాధారణ ఆన్లైన్ కనిపింపు కూడా బలవంతానికి సంభావ్య వనరుగా మారుతుంది.
నివేదించిన కేసులో ఏమి జరిగింది
ఇచ్చిన నివేదిక ప్రకారం, Internet Watch Foundation UKలోని పేరు వెల్లడించని ఒక మాధ్యమిక పాఠశాలపై బ్లాక్మెయిల్ ప్రయత్నం జరిగినట్లు తెలిపింది, ఎందుకంటే దుండగులు సంస్థ వెబ్సైట్ లేదా సోషల్ మీడియా ఖాతాల నుంచి తీసిన ఫోటోలను ఉపయోగించారు. AI టూల్స్ సహాయంతో, వారు ఆ చిత్రాలను బాలల లైంగిక దుర్వినియోగ పదార్థంగా మార్చి, ఫలితాలను పాఠశాలకు పంపి, డబ్బు చెల్లించకపోతే వాటిని ఆన్లైన్లో ప్రచురిస్తామని బెదిరించారు.
ఆ సంస్థ బ్లాక్మెయిల్ చిత్రాలను డిజిటల్ హాష్, అంటే ఫింగర్ప్రింట్,గా మార్చి, ఆ డేటాను ప్రధాన సాంకేతిక ప్లాట్ఫారమ్లతో పంచుకుని, ఆ పదార్థం అప్లోడ్ కాకుండా అడ్డుకోవడంలో సహాయపడిందని తెలిపింది. ఆ సంఘటనలోని 150 చిత్రాలను UK చట్టం ప్రకారం బాలల లైంగిక దుర్వినియోగ పదార్థంగా పరిగణించవచ్చని పర్యవేక్షణ సంస్థ తెలిపింది.
ఇది ఏకైక ఆందోళన కాదని అధికారులు సూచించారు. పాఠశాల వెబ్సైట్లు లేదా సోషల్ అకౌంట్ల నుంచి తీసిన మరియు మార్పు చేసిన చిత్రాలతో సంబంధం ఉన్న ఇతర బ్లాక్మెయిల్ ప్రయత్నాల గురించి UKలో Internet Watch Foundationకు సమాచారం ఉందని, ఆ కేసుల వివరాలు ప్రజలకు విడుదల చేయలేదని కూడా తెలిపింది.
పాఠశాలలు ఎందుకు విధానాలను మార్చాలని చెబుతున్నారు
నిపుణుల సూచన స్పష్టంగా ఉంది: వెబ్సైట్లు మరియు సోషల్ మీడియాలో నుంచి గుర్తించగలిగే విద్యార్థి ముఖ ఫోటోలను తొలగించండి, లేదా వాటిని అసలు ఉపయోగించకపోవాలని పరిగణించండి. ఈ సలహా మారిన ముప్పు నమూనాను ప్రతిబింబిస్తుంది. చారిత్రకంగా, పాఠశాలలు సమ్మతి, గోప్యతా సెట్టింగులు లేదా పోస్టులపై వ్యాఖ్యలను పరిమితం చేయడంపై దృష్టి పెట్టేవి. జనరేటివ్ AI పెరుగుదల వల్ల ప్రమాదం ఇప్పుడు అసలు చిత్ర దుర్వినియోగానికి మాత్రమే పరిమితం కాలేదు. ఆ చిత్రం itself సింథటిక్ దుర్వినియోగానికి ముడి పదార్థంగా మారగలదు.
పాఠశాలలకు ఇది కష్టమైన సమతౌల్యాన్ని సృష్టిస్తుంది. విద్యార్థి జీవితపు ఫోటోలు సాధారణంగా సమాజాన్ని తెలియజేయడానికి, సాధనలను సెలబ్రేట్ చేయడానికి, మరియు స్వాగతించే ప్రజా ప్రొఫైల్ను చూపించడానికి ఉపయోగిస్తారు. కానీ ఒకప్పుడు ఎక్కువగా హానికరం కాదని అనిపించిన ప్రజా దృశ్యమానం ఇప్పుడు మరింత పదునైన ప్రమాదాన్ని కలిగిస్తోంది, ముఖ్యంగా చిత్రాలను సులభంగా డౌన్లోడ్ చేసి, కత్తిరించి, పెద్ద స్థాయిలో తిరిగి ఉపయోగించగలిగితే.
అధికారులు ఎలా స్పందిస్తున్నారు
UK National Crime Agency మరియు బాలల భద్రత నిపుణులు ఈ సమస్యను ఉద్భవిస్తున్న క్రిమినల్ ముప్పుగా పరిగణిస్తున్నారు. safeguarding మరియు violence against women and girls మంత్రి Jess Phillips, పాఠశాలలను బ్లాక్మెయిల్ చేయడానికి జరిగిన ప్రయత్నాన్ని అత్యంత ఆందోళనకరమైన అభివృద్ధిగా పేర్కొని, అవసరమైతే AI-జనిత స్పష్టమైన చిత్రాలపై చట్టాలను ప్రభుత్వం నవీకరిస్తుందని చెప్పారు. పిల్లల లైంగిక దుర్వినియోగ పదార్థాన్ని రూపొందించేందుకు రూపొందించిన AI మోడళ్లను కలిగి ఉండటంపై నిషేధ ప్రకటన తరువాత ఆమె వ్యాఖ్యలు వచ్చాయి.
ఇక్కడ ఉన్న చట్ట మరియు విధాన సమస్య ఒక్క పాఠశాల భద్రతా ప్రోటోకాల్కే పరిమితం కాదు. AI వ్యవస్థలు చిత్రం సేకరణ, మార్పు మరియు బలవంతం మధ్య సమయాన్ని కుదిస్తున్నారు. ఇప్పుడు నియంత్రణ సంస్థలు మరియు చట్ట అమలు సంస్థలు అక్రమ పదార్థం వ్యాప్తికి మాత్రమే కాకుండా, సింథటిక్ దుర్వినియోగాన్ని సృష్టించడం సులభం చేసే టూల్స్ మరియు వర్క్ఫ్లోలకు కూడా స్పందించాల్సిన ఒత్తిడిలో ఉన్నాయి.
విస్తృత పాఠం
ఈ కథనం పాఠశాలల గురించి మాత్రమే కాదు. ఇది జనరేటివ్ AI మరియు సాధారణ డిజిటల్ పరిచయం ఢీకొనడంపై. ఒకప్పుడు ప్రధానంగా సమాచారం మరియు సమాజ వేదికగా పనిచేసిన పాఠశాల వెబ్సైట్, ఇప్పుడు చిత్రం-ఆధారిత దోపిడీకి సేకరణ కేంద్రంగా మారగలదు. బాధితులు మొదట సంస్థలు కావచ్చు, కానీ అసలైన హాని, వారి రూపాలను దుర్వినియోగ కల్పనలుగా మళ్లించిన పిల్లలపై పడుతుంది.
ఈ కేసు AI పాలనలో మళ్లీ మళ్లీ కనిపించే సవాలును కూడా చూపిస్తోంది: హానికర వినియోగాలు అధికంగా సొphis్టికేటెడ్ వ్యవస్థల నుంచే కాకుండా, విస్తృతంగా అందుబాటులో ఉన్న టూల్స్ మరియు సులభంగా చేరే ప్రజా డేటా కలయికతో బయటపడతాయి. ఈ సందర్భంలో, ఆ ప్రజా డేటా అనేది అనేక పాఠశాలలు సంవత్సరాలుగా ఆన్లైన్లో నిర్మించిన రోజువారీ చిత్రాల భాండాగారమే.
విద్యా నాయకులకు తక్షణ అర్థం ప్రాయోగికమైనది. ఫోటో విధానాలను సమీక్షించండి, గుర్తించగలిగే చిత్రాలను పరిమితం చేయండి, ఏమి ప్రజలకు అందుబాటులో ఉండాలో మళ్లీ ఆలోచించండి, మరియు ఏ ప్రజా-ముఖ చిత్రం అయినా మార్పు చేయబడవచ్చని ఊహించండి. విధాననిర్ధారకులకు అర్థం నిర్మాణాత్మకమైనది. సింథటిక్ దుర్వినియోగం మరియు బ్లాక్మెయిల్ ఇక అంచు కేసులు కావు. అవి డిజిటల్ సంస్థల ఆపరేటింగ్ వాతావరణంలో భాగమయ్యాయి.
అందువల్ల UK నిపుణుల హెచ్చరిక ఒక దేశం కంటే చాలా విస్తృతంగా దృష్టి పొందాలి. జనరేటివ్ ఇమేజ్ టూల్స్ విస్తరిస్తున్న కొద్దీ, పాఠశాలలు, యువజన సంస్థలు లేదా కుటుంబాలు పిల్లల ఫోటోలను ఆన్లైన్లో ప్రచురించిన ప్రతిచోటా అదే బలహీనత ఉంది, ఆ చిత్రాలను ఇప్పుడు ఎలా ఆయుధంగా మార్చవచ్చో పూర్తిగా పరిగణలోకి తీసుకోకపోతే.
ఈ వ్యాసం The Guardian నివేదిక ఆధారంగా ఉంది. మూల వ్యాసాన్ని చదవండి.
Originally published on theguardian.com