थाई पोलिसांच्या AI प्रतिमेने टॅब्लॉइड्सची फसवणूक केली आणि पडताळणीतील उणीव उघड केली

स्रोत अधिकृत दिसल्यामुळे बनावट प्रतिमा पसरली

अटक खरी होती, पण तिला जागतिक कुतूहलाचे रूप देणारी प्रतिमा खरी नव्हती. दिलेल्या स्रोत मजकुरानुसार, एका थाई पोलिस ठाण्याने AI-निर्मित प्रतिमा पोस्ट केली होती, ज्यात चमचमीत ड्रेस परिधान केलेले अधिकारी हातकड्या घातलेल्या संशयितासोबत पोझ देताना दिसत होते. ही प्रतिमा इतकी प्रभावी होती की ब्रिटिश टॅब्लॉइड्स आणि न्यूयॉर्क पोस्टसह अनेक माध्यमांनी तिला असामान्य गुप्त ऑपरेशनचे दस्तऐवजीकरण असल्याप्रमाणे पुन्हा प्रसिद्ध केले.

नंतरच हा प्रश्न स्पष्ट झाला. त्या ठाण्याने खरी प्रतिमा प्रसिद्ध केली, ज्यात अधिकारी नेहमीच्या कपड्यांत होते आणि तिथे कोणतीही महिला नर्तिका नव्हती. आंतरराष्ट्रीय स्तरावर पसरलेली दृश्य सामग्री ही ठाण्याच्या फेसबुक खात्याच्या प्रशासकाने बनावट तयार केली होती, आणि पोलिसांचे अधिक मैत्रीपूर्ण व विनोदी सार्वजनिक प्रतिमानिर्माण करण्याचा प्रयत्न त्यामागे असल्याचे सांगितले जाते.

हा प्रसंग स्वतःच विचित्र वाटतो, पण त्याचे महत्त्व एका अजब प्रतिमेपुरते मर्यादित नाही. मुख्य अपयश केवळ इतके नव्हते की AI प्रतिमा अस्तित्वात होती. महत्त्वाचे हे होते की ती अशा स्रोताकडून आली होती, ज्याला अनेक संपादक सहसा प्राथमिकदृष्ट्या विश्वासार्ह मानतील: एक अधिकृत संस्थात्मक खाते.

अधिकृत स्रोत आता पुरेसे का नाहीत

वर्षानुवर्षे डिजिटल पडताळणीतील सर्वांत साधी पद्धत म्हणजे स्रोत पडताळणी. एखादा फोटो अधिकृत खाते, सरकारी कार्यालय किंवा संस्थात्मक प्रवक्त्याकडून आला असेल, तर त्यामुळे तपासणीची गरज संपत नव्हती, पण संशय मात्र लक्षणीयरीत्या कमी होत असे. थाई पोलिसांच्या घटनेने ही धारणा कमकुवत केली आहे. आता प्रतिमा घटनेच्या सर्वात जवळच्या अधिकारपदाकडून आली तरी ती खोटी असू शकते.

त्यामुळे वार्ताकक्षांचा जोखीमप्रोफाइल बदलतो. अनेक प्रतिमा-पडताळणी प्रणाली अज्ञात फेरफार, चुकीचे कॅप्शन किंवा अनधिकृत माध्यमांमधून आलेल्या पुनर्वापरित दृश्यांवर लक्ष ठेवण्यासाठी बनवल्या जातात. परंतु जिथे उगमाचा भास देणारा स्रोतच सिंथेटिक माध्यम तयार करतो किंवा वितरित करतो, अशा परिस्थितीसाठी त्या कमी तयार असतात.

परिणामी, अपयशाचा एक नवा प्रकार तयार होतो. एखादी प्रतिमा प्रथमदर्शनी फॉरेन्सिक सॉफ्टवेअरला फसवण्याची गरज नसते, जर ती अधिकृत प्रकाशकाच्या सामाजिक विश्वासार्हतेच्या फिल्टरमधून पार पडली तर. एकदा माध्यमांना दस्तऐवजीकरणाची साखळी विश्वासार्ह वाटली, की दृश्यातील अशक्यता ही बनावटपणाचा पुरावा न मानता केवळ विचित्र वास्तव म्हणून दुर्लक्षित केली जाऊ शकते.

माध्यमांचा प्रश्न केवळ संपादकीय नाही, तर संरचनात्मक आहे

नंतर अनेक प्रकाशनांनी स्पष्ट केले की त्यांचे वृत्तांकन पोलिसांनी पुरवलेल्या बनावट AI प्रतिमेवर आधारित होते. ही दुरुस्ती आहे, पण त्यामुळे मूलभूत प्रश्न सुटत नाही. आता वार्ताकक्ष अशा वातावरणात काम करत आहेत जिथे सिंथेटिक प्रतिमा स्वस्त आहेत, जलद तयार होतात आणि अनेकदा त्याच संप्रेषण प्रणालींमध्ये निर्माण होतात ज्या पत्रकार पहिल्या बातम्यांसाठी पाहतात.

स्रोत मजकूर नमूद करतो की प्रतिमा खरी आहे की नाही हे मूळ दृश्य किंवा संबंधित लोकांपर्यंत थेट पोहोच नसल्यास खात्रीने पडताळण्याचा कोणताही त्रुटीरहित मार्ग नाही. जेव्हा सिंथेटिक प्रतिमा वास्तविक घटनांभोवतीच्या खऱ्या वृत्तांकनात मिसळल्या जातात, तेव्हा ही समस्या अधिक तीव्र होते. अटक झाली. ठिकाण अस्तित्वात होते. पोलिसांचा संबंध होता. बदलले गेले ते फक्त दृश्य पुरावे. सत्य आणि बनावटपणाचे हे मिश्रणच सिंथेटिक माध्यमांना इतके कार्यान्वयीन धोकादायक बनवते.

इथे सांस्कृतिक दबावही काम करतो. ती प्रतिमा अतिशय उठावदार, विचित्र आणि क्षणार्धात शेअर करण्याजोगी असल्यामुळे आकर्षक होती. याच गोष्टी प्रकाशनाचे निर्णय वेगाने पुढे नेण्याची शक्यता वाढवतात. अधिकृत स्रोत आणि व्हायरल आकर्षण एकत्र आले, की संपादकीय संशय नेहमीपेक्षा जलद कोसळू शकतो.

AI-युगातील विश्वासाबद्दल हा प्रसंग काय सांगतो

शिकवण अशी नाही की अधिकृत खात्यांना निरुपयोगी मानले पाहिजे. शिकवण ही आहे की संस्थात्मक उगमावरूनच आता सत्यता गृहित धरता येणार नाही. प्रतिमा, विशेषतः असामान्य किंवा नाट्यमय प्रतिमा, अशा पडताळणी प्रक्रियेची मागणी करतात जी स्रोत अधिकृत दिसत असला तरी सिंथेटिक निर्मिती शक्य आहे असे गृहित धरते.

याचा अर्थ बहुधा उलट तपासण्या अधिक नियमितपणे करणे, उगम संस्थेशी थेट पुष्टी घेणे, रचनेतील विसंगती तपासणे आणि शक्य असल्यास मूळ फाइल्स किंवा अतिरिक्त दृश्य पुरावे मागणे असा होतो. यापैकी कोणताही टप्पा यशाची हमी देत नाही. पण थाई प्रकरण दाखवते की पोस्टच्या बाजूचा बिल्ला पाहून विश्वास ठेवण्याची जुनी शॉर्टकट पद्धत आता कमी समर्थनीय ठरत आहे.

याचे व्यापक सार्वजनिक परिणामही आहेत. जेव्हा कोणतेही अधिकृत संस्थान स्पष्ट लेबल न लावता AI-निर्मित प्रतिमा प्रसारित करते, तेव्हा खऱ्या दस्तऐवजीकरणाची विश्वासार्हता कमी होते. ही केवळ वार्ताकक्षाची डोकेदुखी नाही. यामुळे दृश्य नोंदींवरील नागरी विश्वास क्षीण होतो, आणि त्या पोलिसी, राजकारण व संकट घटनांविषयीच्या सार्वजनिक समजुतीचा कणा असतात.

थाई पोलिसांची प्रतिमा व्हायरल झाली कारण ती मजेदार, अतिवास्तव आणि वरवर खरी वाटत होती. पण ज्या पुराव्याच्या अर्थाने सर्वाधिक महत्त्व आहे, त्या अर्थाने ती यापैकी काहीच नव्हती म्हणून तिचे महत्त्व आहे. AI युगात, अगदी अधिकृत प्रतिमाही आता अन्यथा सिद्ध होईपर्यंत तात्पुरत्या मानाव्या लागतात.

हा लेख The Guardian च्या वार्तांकनावर आधारित आहे. मूळ लेख वाचा.