डीपफेक ओळखण्यासाठी जर्मन संशोधकांनी हायब्रिड प्रणाली सादर केली

Fraunhofer चा नवा डिटेक्टर केवळ बनावट ओळखण्यापेक्षा अधिक काही करायला पाहतो

जर्मनीतील Fraunhofer Institute of Optronics, System Technologies, and Image Exploitation मधील संशोधकांनी RealorRender नावाची प्रणाली सादर केली आहे, जी खरी चित्रे आणि AI-निर्मित डीपफेक्स यांच्यात फरक करण्यासाठी तयार करण्यात आली आहे. लोकांना डोळ्यांनीच बदललेली चित्रे ओळखणे अधिक कठीण होत असताना आणि ती मोठ्या प्रमाणावर तयार करणे सोपे होत असताना हा प्रकल्प आला आहे. त्यामुळे सरकारे, प्लॅटफॉर्म्स आणि सुरक्षा पथकांवर प्रत्यक्ष परिस्थितीत विश्वासार्हपणे काम करू शकणारी साधने शोधण्याचा दबाव वाढत आहे.

चांगल्या ओळखीची गरज सरळ आहे. घोषणेच्या मागील स्रोत सामग्रीमध्ये छळ, grooming, sextortion, अपमान, फसवणूक आणि इतर गैरवापर अशा झपाट्याने वाढणाऱ्या हानिकारक वापरांकडे निर्देश केला आहे. यात UK सरकारच्या अहवालांचा आणि 2023 मधील sexual deepfakes वरील तपासाचाही संदर्भ दिला आहे, ज्यातून ही समस्या काल्पनिक किंवा मर्यादित नाही हे स्पष्ट होते. सिंथेटिक प्रतिमा आधीच अशा प्रकारे वापरल्या जात आहेत की ज्यामुळे थेट वैयक्तिक हानी होते, विशेषतः स्त्रिया आणि मुलींना, तसेच डिजिटल पुराव्यावरील व्यापक विश्वासालाही धक्का बसतो.

हा व्यापक विश्वासाचा प्रश्न कोणत्याही एकाच गैरवापर प्रकाराइतकाच महत्त्वाचा आहे. एकदा पटणारी बनावट तयार करणे सोपे झाले की, प्रत्येक प्रतिमेवर शंका घेतली जाऊ शकते. खरा फोटो सिंथेटिक म्हणून नाकारला जाऊ शकतो, तर बनावट फोटो कोणी आव्हान देण्यापूर्वीच सार्वजनिक मताला आकार देण्याइतका काळ प्रसारित राहू शकतो. अशा वातावरणात, ओळख प्रणालीचे महत्त्व केवळ ती लेबल देते का यापुरते नाही, तर तपासकर्ते, मॉडरेटर आणि डेव्हलपर्सना ती त्या निष्कर्षापर्यंत का पोहोचली हे समजावून सांगते का यावरही अवलंबून असते.

साध्या वर्गीकरणकर्त्याऐवजी हायब्रिड पद्धत

RealorRender चे मुख्य वेगळेपण असे की ते एका ओळख युक्तीवर अवलंबून नाही. Fraunhofer IOSB नुसार, ही प्रणाली deep-learning classification आणि सध्या तपासल्या जाणाऱ्या प्रतिमेला generative model किती चांगल्या प्रकारे पुन्हा तयार करू शकतो यावर आधारित मूल्यमापन यांना एकत्र करते. प्रत्यक्षात, डिटेक्टर प्रथम AI image generator वापरून प्रतिमा पुन्हा तयार करण्याचा प्रयत्न करतो. त्यानंतर दुसरा AI model परिणामाचे वर्गीकरण करतो आणि reconstruction error मोजतो, ज्यातून अंदाजे recognition accuracy टक्केवारीत मिळते.

हा दृष्टिकोन दोन कारणांमुळे उल्लेखनीय आहे. पहिले, तो ओळख प्रक्रियेला black-box model कडून येणाऱ्या साध्या होय-नाही निर्णयापेक्षा हायब्रिड समस्या म्हणून पाहतो. दुसरे, तो आपल्या निर्णयाचे स्पष्टीकरण देण्यासाठी तयार केला आहे, ज्यामध्ये डीपफेकशी सुसंगत पुरावे ज्या भागांत आढळले ते हायलाइट केले जातात. अशा साधनांची तैनाती करणाऱ्या टीम्ससाठी ही interpretability raw accuracy इतकीच महत्त्वाची ठरू शकते, कारण ती अपयशाची कारणे तपासण्याचा आणि काळानुसार मॉडेल सुधारण्याचा मार्ग देते.

Fraunhofer चे वरिष्ठ शास्त्रज्ञ Andreas Specker यांनी स्रोत मजकुरात workflow सांगितला: प्रतिमा पुनर्रचना करा, classification चालवा, आणि नंतर अंतिम गणनेचा भाग म्हणून reconstruction error वापरा. या वर्णनातून असे सूचित होते की प्रणाली generative model प्रतिमा कशी पुन्हा निर्माण करेल आणि मूळ प्रतिमेत प्रत्यक्ष काय आहे यातील ठळक विसंगती शोधत आहे. जेव्हा त्या विसंगतीचा नमुना synthetic generation शी जुळतो, तेव्हा डिटेक्टर प्रतिमेला त्यानुसार स्कोअर करू शकतो.

डीपफेक ओळखीत explainability का महत्त्वाची आहे

AI security tools मध्ये explainability हे प्रमुख आव्हानांपैकी एक बनले आहे. अनेक डिटेक्टर confidence score देऊ शकतात, पण केवळ तो score मानवी पुनरावलोकनकर्त्याला पुढे काय करायचे हे नेहमीच सांगत नाही. जर एखादी प्रणाली बदललेले वाटणारे विशिष्ट भाग ओळखू शकली, तर डेव्हलपर्स कार्यक्षमता अधिक प्रभावीपणे audit करू शकतात आणि वापरकर्त्यांचा निकालावरचा विश्वास वाढू शकतो. पत्रकारिता, कायदा अंमलबजावणीला मदत, content moderation, आणि digital forensics अशा ठिकाणी हे विशेष महत्त्वाचे आहे, कारण तिथे निर्णयांचे कायदेशीर किंवा प्रतिष्ठात्मक परिणाम होऊ शकतात.

याचा एक व्यावहारिक फायदा देखील आहे. डीपफेक निर्मितीच्या पद्धती वेगाने बदलतात, आणि डिटेक्टर अनेकदा कालच्या artefacts वरच खूप अरुंदपणे प्रशिक्षित असतील तर अपयशी ठरतात. अधिक पारदर्शक प्रणाली ती नेमकी कोणती pattern वापरत आहे हे दाखवून adaptation सोपे करू शकते, एकाच probability output मध्ये सर्व विचार लपवण्याऐवजी. RealorRender ला त्याच दिशेने स्थान दिले जात आहे: केवळ अलार्म म्हणून नाही, तर त्या अलार्मचा आधार तपासण्याचे साधन म्हणून.

स्रोत मजकुरात RealorRender डीपफेक समस्या पूर्णपणे सोडवतो असा दावा केलेला नाही, आणि ती संयमित भूमिका महत्त्वाची आहे. ओळख हे अजूनही एक शस्त्रस्पर्धेचे क्षेत्र आहे. चांगले generators डिटेक्टर्सना सुधारण्यास भाग पाडतात, आणि अधिक मजबूत डिटेक्टर्स synthetic-image tools ना ओळखता येतील असे ठसे काढून टाकण्यास प्रवृत्त करतात. तरीही, व्याख्यात्मकता जोडणारी आणि अनेक विश्लेषण पद्धती एकत्र करणारी साधने एका अरुंद signature वर आधारलेल्या प्रणालींपेक्षा अधिक टिकाऊ ठरू शकतात.

तांत्रिक कामासोबत धोरणात्मक दबावही वाढतो आहे

ही घोषणा वाढत्या धोरणात्मक हालचालींच्या पार्श्वभूमीवरही आली आहे. स्रोताने नमूद केले आहे की UK मंत्र्यांनी फोनवर मुलांना नग्न प्रतिमांचा संपर्क कमी करण्याच्या उद्देशाने कारवाई करण्याचे आश्वासन दिले आहे. हे मुद्द्याची तातडी दाखवते, पण धोरण उद्दिष्टे आणि तांत्रिक अंमलबजावणी यांमधील दरीही उघड करते. हानिकारक सामग्री तयार करणे किंवा शेअर करणे याविरुद्धचे नियम लागू करणे कठीण ठरते, जर प्लॅटफॉर्म्स आणि संस्थांकडे synthetic material जलद आणि सातत्याने ओळखण्याचे विश्वासार्ह मार्ग नसतील.

इथेच RealorRender सारख्या प्रणाली प्रयोगशाळेबाहेरही उपयुक्त ठरू शकतात. एक काम करणारा डिटेक्टर platform moderation, शाळा आणि कार्यस्थळ सुरक्षा प्रणाली, कायदा अंमलबजावणी triage, आणि forensic review pipelines यांना मदत करू शकतो. संशयास्पद media हाताळण्यासाठी चांगली अंतर्गत मानके तयार करण्यासही तो मदत करू शकतो, विशेषतः जेव्हा प्रश्न केवळ एखादी प्रतिमा बनावट आहे का एवढाच नसून कोणत्या प्रकारची manipulation झाली असावी हाही असतो.

तरीही, तैनातीबाबत प्रश्न राहतात. स्रोत मजकुरात benchmark comparisons, operating thresholds, किंवा मोठ्या प्रमाणावर field results दिलेले नाहीत. त्या तपशीलांशिवाय, वेगवेगळ्या image types, compression levels, editing pipelines, किंवा नव्याने उदयाला येणाऱ्या generation models वर RealorRender किती चांगले काम करतो हे ठरवणे अजून लवकर आहे. हीच घटक अनेकदा ठरवतात की आशादायक संशोधन साधन विश्वासार्ह operational tool बनते की नाही.

या विकासाचा अर्थ काय

RealorRender चे खोल महत्त्व असे की डीपफेक ओळख आता classification आणि reasoning aids एकत्र करणाऱ्या प्रणालींकडे वळत आहे. हे समस्येबद्दल अधिक परिपक्व समज दर्शवते. synthetic media ने भरलेल्या जगात लोकांना केवळ इशारा देणारी नव्हे, तर कारणमीमांसा स्पष्ट करणारी, नोंद ठेवणारी आणि निष्कर्षाचे समर्थन करणारी साधने हवी असतील.

Fraunhofer IOSB चे काम सूचित करते की ओळखीचा पुढचा टप्पा तांत्रिक काटेकोरपणा आणि मानवी-समजण्याजोगी व्याख्यात्मकता यांच्या संयोजनाने ठरू शकतो. जर हा दृष्टिकोन नियंत्रित परिस्थितीबाहेरही मजबूत ठरला, तर चुकीचे झाल्यास सामाजिक किंमत झपाट्याने वाढत असताना, बदललेल्या प्रतिमांना प्रतिसाद देण्याची संस्थांची क्षमता तो मजबूत करू शकतो.

हा लेख New Atlas च्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.