हगिंग फेस डीपफेक न्युडिफाय मॉडेल्सवर चौकशी वाढली

ओपन मॉडेल होस्टिंग वाढत्या डीपफेक गैरवापराच्या समस्येशी टकरावत आहे

हगिंग फेस कृत्रिम बुद्धिमत्तेतील सर्वात महत्त्वाच्या वितरण केंद्रांपैकी एक बनले आहे, विशेषतः ओपन-सोर्स आणि ओपन-वेट मॉडेल्ससाठी. पण The Verge ने उद्धृत केलेल्या एका नवीन अहवालात असा दावा केला आहे की हे प्लॅटफॉर्म संमतीशिवाय लैंगिकीकरण केलेल्या डीपफेकसाठीही कमी अडथळ्याचा मार्ग बनत आहे, ज्यात महिला आणि मुलांना लक्ष्य करणारा मजकूरही समाविष्ट आहे. या निष्कर्षामुळे, मॉडेल रिपॉझिटरीजना तटस्थ पायाभूत सुविधा मानायचे की पूर्वानुमेय गैरवापर मर्यादित करण्याची जबाबदारी असलेले सक्रिय द्वारपाल मानायचे, या व्यापक चर्चेला अधिक दबाव येतो.

युरोपीय स्वयंसेवी संस्था AI Forensics च्या अहवालानुसार, हगिंग फेसवर तपासलेल्या पहिल्या नऊ इमेज-एडिटिंग मॉडेल्सपैकी सात मॉडेल्सनी महिलांना “उघडे करणे” या उद्देशाचे प्रॉम्प्ट सहजपणे मान्य केले. समूहाने सांगितले की त्यांनी मॉडेल्समध्ये साधी, थेट विनंती वापरली, गुंतागुंतीच्या जाइलब्रेकिंग तंत्रांचा वापर केला नाही, तरीही प्रणालींनी अनेकदा मागितलेले आउटपुट तयार केले. हे महत्त्वाचे आहे, कारण समस्या केवळ अत्याधुनिक हल्लेखोरांपुरती मर्यादित नाही, हे यातून दिसते. साधा प्रॉम्प्ट जर काम करत असेल, तर गैरवापराची अडथळा इतकी कमी आहे की सर्वसामान्य गैरवापरही शक्य होतो.

अहवाल या वर्तनाची तुलना मोठ्या कंपन्यांच्या प्रमुख ग्राहक एआय प्रणालींमध्ये दिसणाऱ्या मजबूत सुरक्षा उपायांशी करतो. The Verge नुसार, Google Gemini आणि OpenAI ChatGPT सारखी मुख्य प्रवाहातील जनरेटिव्ह एआय उत्पादने सहसा वास्तविक लोकांना उघडे करण्याचा किंवा लैंगिकीकरण करण्याचा प्रयत्न करणारे प्रॉम्प्ट्स ब्लॉक करतात. याच्या तुलनेत, तपासलेल्या हगिंग फेस मॉडेल्समध्ये या क्षेत्रात प्लॅटफॉर्म-स्तरीय सुरक्षा कमकुवत किंवा जवळपास नसल्यासारखी दिसली.

AI Forensics च्या चाचणीत काय आढळले

स्वयंसेवी संस्थेच्या निष्कर्षांमधून दोन संबंधित चिंता समोर येतात: मॉडेलचे वर्तन आणि वापरकर्त्याची मागणी. मॉडेलच्या बाजूने, तपासलेल्या इमेज-एडिटिंग प्रणाली प्रतिमांमधून कपडे काढण्याच्या थेट सूचनांचे पालन करण्यास तयार होत्या, असे सांगितले जाते. मागणीच्या बाजूने, AI Forensics ने हगिंग फेसवर “हनीपॉट” इमेज-एडिटिंग Spaces तयार केले, जेणेकरून वापरकर्ते कोणत्या प्रकारचे प्रॉम्प्ट्स पाठवतात हे पाहता येईल, पण त्या Spaces ना विनंत्या पूर्ण करता येणार नाहीत अशा प्रकारे तयार केले होते.

सात दिवसांत, त्या हनीपॉट्सना 1,000 हून अधिक प्रॉम्प्ट्स आणि प्रतिमा मिळाल्या, असे संस्थेने सांगितले. त्यापैकी 73 टक्के लैंगिक स्वरूपाचे होते. लैंगिक विनंत्यांपैकी 83 टक्के प्रतिमेतल्या व्यक्तीचे कपडे काढण्याचा प्रयत्न करत होत्या, आणि त्या लक्ष्यांपैकी 95 टक्के महिला होत्या. The Verge ने दिलेल्या अहवालानुसार, लैंगिक विनंत्यांपैकी जवळपास 7 टक्के मुलांना लक्ष्य करत होत्या.

हे आकडे संपूर्ण प्लॅटफॉर्मवर गैरवापराचे एकूण प्रमाण सिद्ध करत नाहीत. पण अशी क्षमता असलेली साधने सहज उपलब्ध झाल्यावर वापरकर्त्याचा हेतू कुठे केंद्रित होतो, याचा स्पष्ट संकेत ते देतात. हा नमुना विशेषतः महत्त्वाचा आहे, कारण गैरवापर हा काही अपवादात्मक प्रकार नाही, हे ते दर्शवते. हनीपॉट Spaces कडे आलेल्या विनंत्या एका हानिकारक वापरावर केंद्रित होत्या: साध्या फोटोचे संमतीशिवाय लैंगिकीकरण केलेल्या डीपफेकमध्ये रूपांतर करणे.

ही केवळ मॉडेलची समस्या नाही, प्लॅटफॉर्मचीही समस्या आहे

अहवालातील सर्वात महत्त्वाचा दावा हा नाही की काही ओपन मॉडेल्सचा गैरवापर होऊ शकतो. हे बऱ्याच काळापासून ज्ञात आहे. अधिक तीक्ष्ण टीका अशी आहे की “प्लॅटफॉर्म स्तरावर अजिबात सुरक्षा उपाय राबवले जात नाहीत,” असे The Verge ने उद्धृत केले आहे. प्रत्यक्षात, यामुळे लक्ष वैयक्तिक मॉडेल विकसकांपासून होस्टिंग स्तराकडे वळते, जो वापरकर्त्यांना मॉडेल शोधायला, चालवायला, आणि शेअर करायला मदत करतो.

हगिंग फेस एआय परिसंस्थेत एक वेगळे स्थान राखते कारण ते एकाच वेळी रिपॉझिटरी आणि कार्यान्वयन वातावरण आहे. मॉडेल्स अपलोड करता येतात, बेंचमार्क करता येतात, आणि बऱ्याच प्रकरणांमध्ये Spaces नावाच्या ब्राउझर-आधारित डेमोंद्वारे थेट वापरून पाहता येतात. ही जोड वैध संशोधन आणि विकासासाठी अडथळा कमी करते, पण मॉडरेशन आणि प्रवेश नियंत्रण योग्य नसेल तर गैरवापरासाठीही अडथळा कमी करते.

म्हणून हा अहवाल एक धोरणात्मक प्रश्न उभा करतो जो एका कंपनीपलीकडेही प्रतिध्वनित होईल: गैरवापराचा नमुना स्पष्ट, पुन्हा पुन्हा होणारा, आणि सामाजिकदृष्ट्या हानिकारक असेल तर पायाभूत सुविधा पुरवणाऱ्यांवर कोणत्या जबाबदाऱ्या येतात? लैंगिक डीपफेकच्या बाबतीत हा मुद्दा विशेषतः गंभीर आहे, कारण नुकसान तात्काळ आणि परत दुरुस्त करणे अवघड असू शकते. एकदा असे साहित्य तयार होऊन पसरले की, ते प्रतिष्ठेला धक्का देऊ शकते, पीडितांना छळाला सामोरे जावे लागू शकते, आणि अल्पवयीनांचा समावेश असलेल्या प्रकरणांमध्ये गंभीर कायदेशीर आणि नैतिक परिणाम उद्भवू शकतात.

हे निष्कर्ष ओपन-मॉडेल चर्चाही कशी बदलत आहे ते दाखवतात. पूर्वीचा वाद हा होता की शक्तिशाली मॉडेल्स सोडल्याने नवकल्पना वेगाने होईल की जोखीम वाढेल. आता चिंता अधिक कार्यान्वित स्वरूपाची आहे: उघडपणा मौल्यवान असला तरी, फिल्टर्स, टाकडाऊन्स, वापर मर्यादा, आणि गैरवापर ओळखणे कुठे असावे? मॉडेल वेट्स मोठ्या प्रमाणावर उपलब्ध राहिले, तर प्लॅटफॉर्म इंटरफेस हे सुरक्षा अपेक्षा लागू करण्याचे मुख्य ठिकाण बनू शकते.

आता हे का महत्त्वाचे आहे

वेळही महत्त्वाची आहे, कारण अनेक अधिकारक्षेत्रांमधील नियामक आणि कायदेकर आता अमूर्त एआय-सुरक्षा चर्चांपासून विशिष्ट हानीकडे, जसे की ओळखचोरी, फसवणूक, आणि अंतरंग-प्रतिमा गैरवापर, वळत आहेत. The Verge ने या मुद्द्याला डीपफेकवरील व्यापक कारवाई आणि मुलांशी संबंधित लैंगिकीकरण केलेले साहित्य तयार करणाऱ्या इमेज सिस्टीम्सवरील अलीकडील लक्षाशी जोडले. त्या संदर्भात, इमेज-एडिटिंग टूल्स होस्ट करणाऱ्या रिपॉझिटरीज लवकरच धोरणात्मक लक्षापासून दूर राहणार नाहीत.

एआय उद्योगासाठी ही घटना पुन्हा एकदा आठवण करून देते की विश्वास केवळ मॉडेलच्या क्षमतेवर नाही, तर डिफॉल्ट्सवरही अवलंबून असतो. एखादी प्रणाली सहज उपलब्ध आणि वास्तववादी इमेज मॅनिप्युलेशनसाठी तयार असेल, तर तिला गंभीर हानी करण्यासाठी फ्रंटियर-स्तर बुद्धिमत्तेची गरज नसते. त्या अर्थाने, AI Forensics ने वर्णन केलेला गैरवापराचा मार्ग हा भविष्यातील काल्पनिक जोखमीपेक्षा सध्याच्या उत्पादन-रचना निर्णयांशी अधिक संबंधित आहे.

ओपन-सोर्स समुदायासाठीही प्रतिमेचा प्रश्न आहे. अनेक समर्थक योग्य कारणांसाठी म्हणतात की उघडा प्रवेश पारदर्शकता, स्वतंत्र ऑडिटिंग, आणि एआय विकासात व्यापक सहभागाला प्रोत्साहन देतो. पण जेव्हा उच्च-प्रोफाइल गैरवापराची उदाहरणे ओपन प्लॅटफॉर्मवर अधिक सोपी वाटतात, तुलनेने अधिक नियंत्रित व्यावसायिक प्रणालींपेक्षा, तेव्हा हे युक्तिवाद कमकुवत होतात. ओपन एआय शासानाची विश्वासार्हता अधिकाधिक यावर अवलंबून राहील की उघडपणा आणि अंमलात आणता येणारी सुरक्षा एकत्र नांदू शकतात हे सिद्ध केले जाईल.

पुढे काय पाहायचे

• अहवालाच्या प्रतिसादात Hugging Face मॉडेल-होस्टिंग किंवा Space-स्तरीय मॉडरेशनमध्ये बदल करते का.
• स्वयंसेवी संस्था, पत्रकार, किंवा नियामक त्याच साध्या प्रॉम्प्ट पद्धती वापरून निष्कर्ष पुन्हा सिद्ध करतात का.
• प्लॅटफॉर्म मॉडेल फाइल्स होस्ट करणे आणि धोकादायक इमेज-एडिटिंग टूल्सना ब्राउझर-आधारित ग्राहक प्रवेश देणे यामध्ये फरक करायला सुरुवात करतात का.
• धोरणकर्ते लैंगिक डीपफेक निर्मितीला केवळ वापरकर्ता-गैरवापराची समस्या न मानता प्लॅटफॉर्म-शासनाची समस्या म्हणूनही पाहतात का.

तातडीचा निष्कर्ष सोपा आहे. The Verge ने वर्णन केलेल्या अहवालानुसार, वेबवरील काही सर्वात दिसणाऱ्या ओपन एआय पायाभूत सुविधांचा वापर अतिशय कमी प्रयत्नात संमतीशिवाय लैंगिकीकरण केलेले डीपफेक तयार करण्यासाठी होऊ शकतो. हे निष्कर्ष व्यापक तपासणीत टिकले, तर रिपॉझिटरीज फक्त निष्क्रिय होस्ट आहेत हा युक्तिवाद टिकवणे अधिक कठीण होईल.

हा लेख The Verge च्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.