మూలం అధికారికంగా కనిపించినందున ఒక నకిలీ చిత్రం వ్యాపించింది
అరెస్ట్ నిజమే, కానీ దాన్ని ప్రపంచ వ్యాప్తంగా ఆసక్తికరంగా మార్చిన చిత్రం మాత్రం నిజం కాదు. అందించిన మూల పాఠ్యం ప్రకారం, ఒక థాయ్ పోలీస్ స్టేషన్ మెరిసే గౌనుల్లో ఉన్న అధికారులు చేతికట్టు వేసిన అనుమానితుడితో పోజులిస్తున్నట్లుగా AI-సృష్టించిన చిత్రాన్ని పోస్టు చేసింది. ఆ చిత్రం అంత ఆకర్షణీయంగా ఉండడంతో బ్రిటిష్ టాబ్లాయిడ్లు మరియు న్యూయార్క్ పోస్ట్ సహా అనేక మీడియా సంస్థలు దానిని అసాధారణ రహస్య ఆపరేషన్ను నమోదు చేసినట్లుగా మళ్లీ ప్రచురించాయి.
తరువాతే సమస్య స్పష్టమైంది. స్టేషన్ అసలు చిత్రాన్ని విడుదల చేసింది, అందులో అధికారులు సాధారణ దుస్తుల్లో కనిపించారు, అక్కడ ఎలాంటి మహిళా నర్తకి లేదు. అంతర్జాతీయంగా వ్యాపించిన దృశ్యం స్టేషన్ ఫేస్బుక్ ఖాతా నిర్వాహకుడిచే కల్పించబడిందని, పోలీసులకు మరింత స్నేహపూర్వకంగా, హాస్యాత్మకంగా ప్రజా ప్రతిఛాయను చూపించాలనే ప్రయత్నంలో జరిగినట్లు చెబుతున్నారు.
ఈ ఘటన బయటకు చూస్తేనే అర్థరహితంగా అనిపిస్తుంది, కానీ దీని ప్రాముఖ్యత ఒక విచిత్ర చిత్రానికి మించి చాలా ఎక్కువ. ప్రధాన వైఫల్యం కేవలం AI చిత్రం ఉండటమే కాదు. ఆ చిత్రం చాలా సంపాదకులు సాధారణంగా ముందుగానే నమ్మదగినదిగా భావించే ఒక మూలం నుంచి వచ్చింది: అధికారిక సంస్థాగత ఖాతా.
అధికారిక మూలాలు ఇక సరిపోవు ఎందుకు
డిజిటల్ ధృవీకరణలో సంవత్సరాలుగా ఉన్న అత్యంత సులభమైన పద్ధతులలో ఒకటి మూల ధృవీకరణ. ఒక ఫోటో అధికారిక ఖాతా, ప్రభుత్వ కార్యాలయం లేదా సంస్థాగత ప్రతినిధి నుంచి వచ్చిందంటే, దానిని తనిఖీ చేయాల్సిన అవసరాన్ని అది పూర్తిగా తొలగించకపోయినా, అనుమానాన్ని మాత్రం గణనీయంగా తగ్గించేది. థాయ్ పోలీస్ ఘటన ఆ అంచనాను బలహీనపరిచింది. ఇప్పుడు ఒక చిత్రం సంఘటనకు అత్యంత సమీపంలో ఉన్న అధికారిక మూలం నుంచే వచ్చినా అది తప్పుడు దై ఉండొచ్చు.
అది వార్తా గదుల ప్రమాదాన్ని మార్చుతుంది. అనేక చిత్రం ధృవీకరణ వ్యవస్థలు తెలియని మార్పులు, తప్పు క్యాప్షన్లు లేదా అనధికారిక ఛానెల్స్ నుంచి వచ్చిన పునర్వినియోగ దృశ్యాలను గుర్తించడానికి నిర్మించబడ్డాయి. కానీ కనిపించే మూలం itself synthetic mediaని సృష్టించిన లేదా పంపిణీ చేసిన పరిస్థితులకు అవి తక్కువగా సిద్ధంగా ఉంటాయి.
దీని ఫలితంగా కొత్త రకం వైఫల్యం ఏర్పడుతుంది. ఒక చిత్రం మొదటి చూపులో ఫోరెన్సిక్ సాఫ్ట్వేర్ను మోసం చేయాల్సిన అవసరం లేదు, అది అధికారిక ప్రచురణకర్త యొక్క సామాజిక విశ్వసనీయత ఫిల్టర్ను దాటితే సరిపోతుంది. ఒకసారి సంస్థలు సంరక్షణ శృంఖల విశ్వసనీయంగా ఉందని నమ్మితే, దృశ్యంలోని అసంభావ్యతను నకిలీ ఆధారంగా కాక, వింత వాస్తవంగా తక్కువ చేసి చూడవచ్చు.
మీడియా సమస్య సంపాదకీయమే కాదు, నిర్మాణాత్మకమూ
తర్వాత అనేక ప్రచురణలు తమ కథనాలు పోలీసులిచ్చిన నకిలీ AI చిత్రంపై ఆధారపడ్డాయని స్పష్టం చేశాయి. అది సవరణే, కానీ అసలు సమస్యను పరిష్కరించదు. వార్తా గదులు ఇప్పుడు అతి తక్కువ ఖర్చుతో, వేగంగా తయారయ్యే సింథటిక్ చిత్రాలు, జర్నలిస్టులు మొదటి నివేదికల కోసం గమనించే అదే కమ్యూనికేషన్ వ్యవస్థలలోనే ఉత్పత్తి అయ్యే వాతావరణంలో పనిచేస్తున్నాయి.
మూల పాఠ్యం ప్రకారం, అసలు సంఘటన లేదా సంబంధిత వ్యక్తులకు నేరుగా చేరుకోకుండా చిత్రం నిజమా కాదా అని ఖచ్చితంగా నిర్ధారించడానికి దోషరహిత మార్గాలు లేవు. నిజమైన సంఘటనలపై ఉన్న నిజమైన నివేదికలలో సింథటిక్ చిత్రాలు కలిసినప్పుడు ఈ సమస్య మరింత తీవ్రమవుతుంది. అరెస్ట్ జరిగింది. స్థలం ఉంది. పోలీసులు సంబంధితంగా ఉన్నారు. మార్పు చేయబడింది దృశ్య ఆధారమే. నిజం మరియు కల్పన మిశ్రమమే సింథటిక్ మీడియాను ఇంత ఆపరేషన్ పరంగా ప్రమాదకరంగా చేస్తుంది.
ఇందులో సాంస్కృతిక ఒత్తిడিও ఉంది. ఆ చిత్రం వెంటనే పంచుకునేలా, అద్భుతంగా, విచిత్రంగా ఉండడం వల్ల ఆకర్షణీయంగా అనిపించింది. ప్రచురణ నిర్ణయాలను వేగవంతం చేసే లక్షణాలు ఇవే. అధికారిక మూలం మరియు వైరల్ ఆకర్షణ కలిసినప్పుడు, సంపాదకీయ సందేహం సాధారణం కంటే వేగంగా కూలిపోవచ్చు.
AI యుగంలో విశ్వాసం గురించి ఈ కేసు ఏమి సూచిస్తోంది
పాఠం ఏమిటంటే అధికారిక ఖాతాలను విలువలేనివిగా పరిగణించాలి అన్నది కాదు. సంస్థాగత ఉద్భవం ఆధారంగా నిజత్వాన్ని ఇక ఊహించలేమన్నదే. చిత్రాలు, ముఖ్యంగా అసాధారణమైనవి లేదా నాటకీయమైనవి, ఇప్పుడు మూలం అధికారికంగా కనిపించినప్పటికీ synthetic generation సాధ్యమే అని ఊహించే ధృవీకరణ వర్క్ఫ్లోలను అవసరం చేస్తాయి.
అంటే మరింత సాధారణంగా రివర్స్ చెక్స్, మూల సంస్థలతో నేరుగా ధృవీకరణ, కూర్పులో అసంగతులపై పరిశీలన, మరియు సాధ్యమైన చోట అసలు ఫైళ్ళు లేదా అదనపు దృశ్యాల కోసం డిమాండ్లు చేయడం కావచ్చు. ఇవేవీ విజయాన్ని హామీ ఇవ్వవు. కానీ థాయ్ కేసు చూపించేది ఏమిటంటే, పోస్టు పక్కన ఉన్న బ్యాడ్జ్ను నమ్మడం అనే పాత షార్ట్కట్ ఇప్పుడు తక్కువ సమర్థనీయంగా మారుతోంది.
దానికి విస్తృత ప్రజా పరిణామం కూడా ఉంది. ఒక అధికారిక సంస్థ స్పష్టమైన లేబులింగ్ లేకుండా AI-సృష్టించిన చిత్రాలను పంపిణీ చేసిన ప్రతిసారీ, నిజమైన డాక్యుమెంటేషన్ విశ్వసనీయత దిగజారుతుంది. ఇది కేవలం వార్తా గదికి సంబంధించిన తలనొప్పి కాదు. పోలీసింగ్, రాజకీయాలు, సంక్షోభ సంఘటనలపై ప్రజా అవగాహనకు కేంద్రంగా ఉన్న దృశ్య రికార్డులపై పౌర విశ్వాసాన్ని ఇది క్షీణింపజేస్తుంది.
థాయ్ పోలీస్ చిత్రం వైరల్ కావడానికి కారణం అది సరదాగా, అసంబద్ధంగా, మరియు కనిపించడానికి నిజంగా అనిపించడమే. కానీ ఆధార విలువలో అత్యంత ముఖ్యమైన అర్థంలో అది ఈ మూడింటిలో ఏదీ కాదు. AI యుగంలో, అధికారిక చిత్రాలు కూడా విరుద్ధంగా నిరూపితమయ్యే వరకు తాత్కాలికంగానే పరిగణించాలి.
ఈ వ్యాసం The Guardian నివేదికపై ఆధారపడింది. మూల వ్యాసాన్ని చదవండి.
Originally published on theguardian.com
