కృత్రిమ మేధస్సును ఉపయోగించి సమ్మతి లేని సన్నిహిత చిత్రాలను సృష్టించే అప్లికేషన్‌లను మరింత స్పష్టంగా లక్ష్యంగా చేసుకునేలా Apple తన App Store నిబంధనలను నవీకరించింది. ఈ మార్పులు అలాంటి కంటెంట్‌ను నిరోధించి తొలగించే బాధ్యత డెవలపర్లదేనని స్పష్టం చేస్తున్నాయి. డెవలపర్ తగిన రక్షణ చర్యలను అమలు చేయకపోయినా, నోటీసు అందుకున్న తర్వాత ఉల్లంఘనలను సరిచేయడంలో విఫలమైనా యాప్‌ను స్టోర్ నుంచి తొలగించవచ్చని నిబంధనలు హెచ్చరిస్తున్నాయి.
ఈ విధాన నవీకరణ సాధారణంగా “nudify” యాప్‌లుగా పిలువబడే విభాగాన్ని లక్ష్యంగా చేసుకుంది: వ్యక్తుల సమ్మతి లేకుండా వారి లైంగికీకరించిన లేదా సన్నిహితంగా కనిపించే చిత్రాలను రూపొందించడానికి రూపొందించిన సాఫ్ట్‌వేర్. జనరేటివ్-AI సాధనాలు వినియోగదారుల సాఫ్ట్‌వేర్ ద్వారా చిత్ర మార్పిడిని పంపిణీ చేయడాన్ని సులభతరం చేసిన సమయంలో, Apple సవరించిన భాష ఈ నిషేధాన్ని మరింత నేరుగా పేర్కొంటోంది.
మరింత స్పష్టమైన moderation బాధ్యత
నవీకరించిన నిబంధనల ప్రకారం, డెవలపర్లు తమ కంటెంట్-moderation బాధ్యతల్లో భాగంగా సమ్మతి లేని లైంగిక చిత్రాలను ముందుగానే నిరోధించి తొలగించాలి. ఈ పదజాలం ముఖ్యమైనది, ఎందుకంటే ఇది సమస్యను కేవలం ఒక పరిమిత ఫీచర్‌పై నిషేధంగా కాకుండా చూస్తుంది. అర్హత కలిగిన యాప్‌ల నిర్వాహకుల వద్ద నిషేధిత వినియోగాన్ని గుర్తించి, స్పందించి, ఆపగల సమర్థవంతమైన వ్యవస్థలు ఉండాలని కూడా ఇది సూచిస్తుంది.
తగిన రక్షణ చర్యలు ఏర్పాటు చేయని లేదా నోటీసు అందుకున్న తర్వాత ఉల్లంఘనలను పరిష్కరించని డెవలపర్లను App Store నుంచి తొలగించవచ్చని Apple చెబుతోంది. అందువల్ల, ఈ రకమైన చిత్రాలను సృష్టించడానికి, హోస్ట్ చేయడానికి లేదా పంచుకోవడానికి వినియోగదారులను అనుమతించే ఉత్పత్తులున్న డెవలపర్లకు ఈ విధానం అనుసరణ ప్రమాదాన్ని సృష్టిస్తుంది.
“bait-and-switch” యాప్‌లపై ఉన్న నిబంధనలను కూడా Apple స్పష్టం చేసింది. App Store ఆమోదం తర్వాత, nudification సహా నిషేధిత సామర్థ్యాలను పరిచయం చేసే విధంగా యాప్ తన ఫంక్షనాలిటీని జోడించకూడదు లేదా మార్చకూడదు అని కంపెనీ చెబుతోంది. డెవలపర్ యాప్ అందుబాటులోకి వచ్చిన తర్వాత ఫీచర్లను మార్చితే, దాని సమీక్ష స్థితి తర్వాతి ప్రవర్తనకు సరైన సూచికగా ఉండకపోవడం అనే ఆచరణాత్మక అమలు సమస్యను ఈ స్పష్టీకరణ లక్ష్యంగా చేసుకుంది.
Deepfake వివాదం తర్వాత ఒత్తిడి
ఈ సవరణలు ఈ ఏడాది ప్రారంభంలో X వినియోగదారులు Grokను ఉపయోగించి సమ్మతి లేని లైంగిక deepfakeలను రూపొందించిన తర్వాత Appleపై వచ్చిన విమర్శలను అనుసరించాయి. వాటిలో మైనర్లకు సంబంధించిన చిత్రాలు కూడా ఉన్నాయి. Apple X లేదా Grokను App Store నుంచి తొలగించలేదు, అయితే Grokను తొలగిస్తామని బెదిరించినట్లు సెనేటర్లకు తెలిపింది.
జూన్‌లో జరిగిన Apple Worldwide Developers Conferenceలో కూడా ప్రజా ఒత్తిడి కనిపించింది. అక్కడ నిరసనకారులు Grok, X మరియు nudify సాంకేతికతను App Store నుంచి తొలగించాలని Appleను కోరారు. జూలైలో శాన్ ఫ్రాన్సిస్కో సిటీ అటార్నీ 13 nudify యాప్‌లను తొలగించాలని Appleను ఆదేశించారు; తాము అలా చేశామని Apple తెలిపింది.
కొత్త పదజాలం ఆ ఘటన లేవనెత్తిన ప్రతి ప్రశ్నకు సమాధానం ఇవ్వదు. పెద్ద ప్లాట్‌ఫారమ్‌లు మరియు AI సేవలకు Apple తన నిబంధనలను ఎంత విస్తృతంగా వర్తింపజేస్తుందన్నది కూడా అందులో ఉంది. అయితే కంపెనీ ప్రకటించిన ప్రమాణాన్ని గుర్తించడం ఇప్పుడు సులభమైంది: సమీక్ష సమయంలో nudification సాధనాలుగా తమను తాము చూపించకుండా ఉండటం మాత్రమే యాప్‌లకు సరిపోదు. సమ్మతి లేని సన్నిహిత చిత్రాల సృష్టి మరియు పంపిణీ నుంచి కూడా అవి రక్షించాలి.
పంపిణీ నియంత్రణలు కూడా విధానంలో భాగమే
మానవ అక్రమ రవాణా లేదా పిల్లల దోపిడీకి సహకరించే యాప్‌లను App Store నుంచి తొలగించి, ప్రత్యామ్నాయ పంపిణీ నుంచి కూడా నిరోధిస్తామని Apple నవీకరణ మరింత స్పష్టంగా చెబుతోంది. సాఫ్ట్‌వేర్ వినియోగదారులకు ఎలా చేరుతుందనే అంశంపై Appleకు ఉన్న విస్తృత నియంత్రణతో సవరించిన moderation భాషను ఈ నిబంధన అనుసంధానిస్తుంది.
యాప్ తయారీదారుల కోసం, ఈ మార్పు ఉత్పత్తి రూపకల్పన మరియు నిరంతర కార్యకలాపాల ప్రాధాన్యాన్ని పెంచుతోంది. ఇమేజ్-జెనరేషన్ ఫీచర్లు, సోషల్ షేరింగ్ లేదా వినియోగదారు అప్‌లోడ్ చేసిన కంటెంట్‌ను అందించే డెవలపర్ నిషేధిత వినియోగాన్ని ఎలా ఆపగలడు, ఉల్లంఘన కంటెంట్‌ను ఎలా తొలగించగలడు, Apple లేదా మరొక పక్షం సమస్యను సూచించినప్పుడు ఎలా స్పందించగలడు అనే విషయాలను పరిగణించాలి. ముందుగానే చర్య తీసుకోవాల్సిన బాధ్యత డెవలపర్లపైనే ఉందని విధాన భాష స్పష్టంగా చెబుతోంది.
వినియోగదారుల కోసం, AI ఆధారిత సమ్మతి లేని సన్నిహిత చిత్రాలను Apple మరింత స్పష్టమైన App Store అమలు సమస్యగా పరిగణిస్తోందని ఈ మార్పు సూచిస్తుంది. హానికరమైన కంటెంట్‌తో పాటు, యాప్ అనుసరణలో విఫలమయ్యే మార్గాలను కూడా కంపెనీ నిబంధనలు ఇప్పుడు గుర్తిస్తున్నాయి: తగిన రక్షణ చర్యలు లేకపోవడం, పరిష్కరించని ఉల్లంఘనలు లేదా ఆమోదం తర్వాత nudificationను పరిచయం చేసే ఫీచర్ మార్పులు.
ఈ స్పష్టీకరణ ఎందుకు ముఖ్యమైనది
App stores వినియోగదారుల AI సాధనాలకు ప్రధాన ద్వారాలుగా ఉన్నాయి; ఏ ఉత్పత్తులు విస్తృతంగా అందుబాటులో ఉండాలో వాటి నిబంధనలు ప్రభావితం చేయగలవు. Apple నవీకరణ అంతర్లీన సాంకేతికతను లేదా దాని స్టోర్ వెలుపల దుర్వినియోగ ప్రమాదాన్ని తొలగించదు. అయితే App Store పంపిణీ కోరే డెవలపర్ల కోసం తన అంచనాలను ఇది మరింత స్పష్టంగా చేస్తుంది.
AI విధానం అమూర్త సూత్రాల నుంచి కార్యాచరణ బాధ్యతల వైపు కదులుతోందని కూడా ఈ మార్పు ప్రతిబింబిస్తుంది. సమ్మతి లేని లైంగిక చిత్రాలు ఆమోదయోగ్యం కాదని చెప్పడం మాత్రమే Apple చేయడం లేదు. ఆ ప్రమాణాన్ని moderation అవసరాలు, సరిదిద్దే చర్యలు, స్టోర్ నుంచి తొలగింపు మరియు ప్రత్యామ్నాయ పంపిణీపై పరిమితులతో అనుసంధానిస్తోంది.
ఈ నిబంధనలు ఎంత దృఢంగా అమలు చేస్తారనేది వాటి ఆచరణాత్మక ప్రభావాన్ని నిర్ణయిస్తుంది. తక్షణ విధాన మార్పు స్పష్టంగా ఉంది: సమ్మతి లేని సన్నిహిత చిత్రాలను సృష్టించడానికి లేదా పంపిణీ చేయడానికి ఉపయోగించగల యాప్‌లున్న డెవలపర్లు వాటిని ఆపాల్సిన మరింత స్పష్టమైన బాధ్యతను ఎదుర్కొంటున్నారు; అలా చేయని వారికి Apple మరింత కఠినమైన పరిణామాలను ప్రకటించింది.
ఈ కథనం The Verge రిపోర్టింగ్ ఆధారంగా రూపొందించబడింది. అసలు కథనాన్ని చదవండి.
Originally published on theverge.com