గ్రోక్ మోడరేషన్ వైఫల్యాలు దృష్టిని ఆకర్షించడంతో యాపిల్ జోక్యం చేసుకుంది
అనుమతి లేకుండా రూపొందించిన సెక్సువల్ డీప్ఫేక్లకు సంబంధించిన ఫిర్యాదులు మరియు వార్తా కవరేజ్ తర్వాత, X మరియు గ్రోక్ వెనుక ఉన్న బృందాలు కంటెంట్ మోడరేషన్ను మెరుగుపరచడానికి ఒక ప్రణాళిక అవసరమని యాపిల్ వ్యక్తిగతంగా హెచ్చరించింది. NBC News ఉటంకించి The Verge సంక్షిప్తంగా తెలిపిన నివేదికల ప్రకారం, కంపెనీ జనవరిలో రెండు డెవలపర్లను సంప్రదించి మార్పులను డిమాండ్ చేసినట్లు అమెరికా సెనేటర్లకు తెలిపింది. గ్రోక్ X లోపల కూడా, స్వతంత్ర యాప్గా కూడా అందుబాటులో ఉండటంతో, మార్కెట్లో అత్యంత కనిపించే ఏఐ ఉత్పత్తుల్లో ఒకదానిపై యాపిల్కు ప్రత్యక్ష ప్రభావం లభించింది కాబట్టి ఆ హెచ్చరికకు ప్రాధాన్యం ఉంది.
ప్రధాన సమస్య సందిగ్ధంగా లేదు. ఆ సమయంలో, గ్రోక్ రక్షణలు అంత బలహీనంగా ఉన్నాయని చెప్పబడింది, దాంతో వినియోగదారులు నిజమైన వ్యక్తుల సెక్సువలైజ్డ్ డీప్ఫేక్లు మరియు所谓 డ్రెస్ తొలగించిన చిత్రాలను సులభంగా సృష్టించి పంచుకోగలిగారు. ఆ చిత్రాలు అనుపాతంగా మహిళలను లక్ష్యంగా చేసుకున్నాయని The Verge తెలిపింది, మరికొన్ని చిత్రాల్లో మైనర్లు కూడా ఉన్నట్లు కనిపించింది. ఈ కలయిక ఏఐ దుర్వినియోగం, యాప్-స్టోర్ నియమాలు, మరియు బాలల భద్రతా ఆందోళనల సంగమంలో సమస్యను ఉంచింది.
యాపిల్ జోక్యం మొబైల్ ఎకోసిస్టంలో తరచుగా కనిపించే ఒక విరుద్ధతను కూడా చూపిస్తుంది. యాప్ స్టోర్లు తరచుగా భద్రతా మరియు కంటెంట్ విధానాలపై కఠిన గేట్కీపర్లుగా తమను తాము ప్రదర్శిస్తాయి, అయినప్పటికీ దుర్వినియోగ సంక్షోభం పెరుగుతున్నప్పుడు కంపెనీ బహిరంగంగా కాకుండా నిశ్శబ్దంగా వ్యవహరించింది. పరిశ్రమలోని అత్యంత శక్తివంతమైన మధ్యవర్తుల్లో ఒకరి నుంచి వచ్చిన మృదువైన అధికార ప్రదర్శనగా The Verge ఆ ప్రతిస్పందనను ఫ్రేమ్ చేస్తుంది. సంబంధిత ప్రవర్తన తీవ్రంగా ఉన్నప్పటికీ, మరియు సంబంధిత యాప్లు విస్తృత ప్రాచుర్యం కలిగిన ప్రధాన ప్లాట్ఫారమ్లు అయినప్పటికీ, యాపిల్ అప్పట్లో తన జోక్యాన్ని బహిరంగంగా వివరించలేదు.
X యాపిల్ను సంతృప్తిపరిచేంతగా మెరుగుపడింది, కానీ గ్రోక్ కాదు
The Verge వివరించిన లేఖలో, X మరియు గ్రోక్ రెండింటికీ ప్రతిపాదించిన మార్పులను తాము సమీక్షించామని యాపిల్ తెలిపింది. X తన ఉల్లంఘనలను గణనీయంగా పరిష్కరించిందని, కానీ గ్రోక్ ఇంకా అననుగుణంగా ఉందని అది తేల్చింది. అదనపు మార్పులు అవసరమని, లేకపోతే యాప్ను యాప్ స్టోర్ నుంచి తొలగించవచ్చని యాపిల్ డెవలపర్కు చెప్పింది. ఈ తేడా ముఖ్యమైనది, ఎందుకంటే ప్రాక్టికల్గా రెండూ సన్నిహితంగా అనుసంధానమైనప్పటికీ, పేరెంట్ ప్లాట్ఫారమ్ మరియు ఏఐ ఉత్పత్తిని యాపిల్ ఒకే మోడరేషన్ కేసుగా చూడలేదని ఇది సూచిస్తుంది.
సాంప్రదాయ సోషల్ ఫీచర్ల కంటే ఏఐ ఉత్పత్తులు ప్లాట్ఫారమ్ పాలనా నియమాలతో వేగంగా ఢీకొనగలవని ఈ సంఘటన చూపిస్తుంది. సింథటిక్ మీడియాను సృష్టించగల చాట్బాట్ తక్షణ, విస్తృత, మరియు అత్యంత వ్యక్తిగత ప్రమాదాలను సృష్టిస్తుంది. రక్షణలు విఫలమైనప్పుడు, యాప్ స్టోర్ల వంటి పంపిణీ మార్గాలు అమలు బిందువులుగా మారతాయి. కాబట్టి, యాప్ తొలగింపు బెదిరింపు సాధారణ డెవలపర్ ఫీడ్బ్యాక్ కంటే ఎక్కువ. స్టోర్ ఆపరేటర్ వద్ద ఉన్న అత్యంత కఠిన శిక్ష, అంటే పూర్తిగా తొలగింపుకు తక్కువగా ఉన్నప్పటికీ, జనరేటివ్ ఏఐ సాధనాలు అంత తీవ్రమైన హానులను సృష్టించగలవని అది అంగీకరించినట్లు.
ఈ యాప్లను Google Play ద్వారా పంపిణీ చేసి లాభపడే Google, ఈ విషయంపై బహిరంగంగా వ్యాఖ్యానించలేదని సమాచారం. ఆ మౌనం విస్తృత పరిశ్రమ ధోరణిని ప్రతిబింబిస్తుంది. వేగంగా పెరుగుతున్న ఏఐ ఉత్పత్తులకు ప్రాప్యత, హోస్టింగ్, లేదా దృశ్యమానత ద్వారా కంపెనీలు డబ్బు సంపాదిస్తాయి, కానీ నిర్ణయం తప్పనిసరిగా మారేవరకు అమలు గురించి మాట్లాడటానికి వెనుకాడుతాయి. ఫలితంగా, అధికారిక ప్రకటనల కంటే బయటి నివేదికలే ఈ వ్యవస్థలను ఎలా పాలిస్తున్నారో ప్రజలకు చూపే ప్రధాన కిటికీగా మారతాయి.
