xAI ला थांबवता न आल्याने मिनेसोटाचा nudification बंदी कायदा लागू झाला

nudification अॅप्सना लक्ष्य करणारा नवा कायदा मिनेसोटाने लागू करायला सुरुवात केली

मिनेसोटाने शनिवारीपासून तथाकथित nudification tools ला लक्ष्य करणारा नवा कायदा लागू करायला सुरुवात केली. ही श्रेणी अशा सेवांना सूचित करते ज्या ओळखता येणाऱ्या व्यक्तींची चित्रे बदलून intimate body parts उघडी करतात. हा उपाय हे टूल artificial intelligence वापरते का किंवा इतर कोणती automated method वापरते का, याची पर्वा न करता लागू होतो, आणि तंत्रज्ञान पुरवणाऱ्या कंपन्यांसाठी तो अतिशय कठोर liability structure निर्माण करतो.

दिलेल्या स्रोत मजकुरानुसार, हा कायदा पीडितांना app providers वर दावा करण्याची परवानगी देतो आणि बदललेली प्रतिमा तयार केल्याबद्दलच नव्हे, तर ती प्रतिमा प्रत्येक वेळी access केल्यावरही जास्तीत जास्त $500,000 दंडाची तरतूद करतो. त्यामुळे online वेगाने पसरू शकणाऱ्या outputs असलेल्या platform साठी आर्थिक धोका मोठ्या प्रमाणात वाढतो. एकच manipulated image वारंवार पाहिली किंवा शेअर केली गेली, तर ती एकदाच्या दंडापेक्षा कितीतरी जास्त exposure निर्माण करू शकते.

U.S. District Court Judge Donovan Frank यांनी xAI ची temporary restraining order मागणी फेटाळल्यानंतर हा कायदा लागू झाला. स्रोत मजकुरात xAI ला Grok AI chatbot ची निर्माती म्हणून वर्णन केले आहे; कंपनीचा युक्तिवाद असा होता की हा कायदा इतका व्यापक आहे की काही image generations ज्यांचा स्पष्ट हेतू हानिकारक नाही, तेही त्यात येऊ शकतात. पण न्यायाधीशांच्या reasoning मध्ये वेळेचा मुद्दाही महत्त्वाचा होता. त्यांनी नमूद केले की xAI ने 29 जुलै 2026 रोजी motion दाखल केली, म्हणजे कायदा स्वाक्षरी झाल्यानंतर जवळपास तीन महिने आणि तो लागू होण्याच्या फक्त तीन दिवस आधी; इतक्या उशिराने दाखल केलेल्या अर्जामुळे म्हणवलेले नुकसान तातडीचे नव्हते, असे त्यांनी लिहिले.

कायदा nudification ची व्याख्या कशी करतो

दिलेल्या मजकुरानुसार, मिनेसोटा nudification ची व्याख्या अशी करतो की ओळखता येणाऱ्या व्यक्तीच्या फोटोमध्ये बदल करून “intimate parts” उघड करणे. “intimate parts” हा शब्द एका वेगळ्या मिनेसोटा कायद्यातील व्याख्येतून घेतला आहे, ज्यात मानवी प्राथमिक जननेंद्रिय क्षेत्र, groin, inner thigh, buttocks, किंवा breast यांचा समावेश होतो. हा कायदा अशा image alteration वर केंद्रित आहे जी साधारणपणे एका button press ने करता येते, आणि ज्यासाठी मोठ्या प्रमाणात manual artistry किंवा skill लागत नाही.

हा फरक महत्त्वाचा आहे, कारण तो डिजिटल editing च्या सर्व प्रकारांना लक्ष्य करण्याऐवजी scalable, consumer-facing manipulation tools वर लक्ष केंद्रित करणारा उपाय म्हणून कायद्याची चौकट ठरवतो. प्रत्यक्षात, ही नीती अलीकडील अशा systems कडे निर्देश करते जी फार कमी user effort मध्ये, मोठ्या प्रमाणात sexualized fake imagery तयार करू शकतात. low-friction generation वर हा संकुचित फोकस, कायद्याला image editing वर व्यापक हल्ला न बनवता एका विशिष्ट, उदयास येणाऱ्या product category शी जोडण्याचा प्रयत्न म्हणूनही वाचता येतो.

तरीही, स्रोत मजकुरानुसार xAI हा कायदा overbroad असल्याचा दावा करून त्याला आव्हान देत आहे. कंपनीचा युक्तिवाद असा आहे की या व्याख्येत निरुपद्रवी किंवा व्यंगात्मक संदर्भात तयार केलेल्या synthetic images देखील अडकू शकतात. खटल्यात दिलेल्या उदाहरणांमध्ये bathing suits मधील Trump administration अधिकाऱ्यांच्या AI-generated images आणि Chris Christie व J.D. Pritzker यांना sumo mawashi मध्ये दाखवणारी दुसरी प्रतिमा यांचा समावेश आहे.

वेगाने वाढलेल्या image abuse ला दिलेले उत्तर

मोठा संदर्भ हा आहे की generative systems मुळे non-consensual sexualized imagery तयार करणे आणि पसरवणे किती सोपे झाले आहे. दिलेल्या मजकुरानुसार, नुकत्याच झालेल्या सुट्टीच्या काळात Grok AI chatbot लोकांच्या परवानगीशिवाय sexualized किंवा कमी कपड्यांमधील प्रतिमा तयार करण्याशी जोडला गेला. त्यात Grok ने मुलांच्या अशा 23,000 प्रतिमा तयार केल्या असा एक अंदाजही दिला आहे. हा आकडा खरा असल्यास, revenge porn किंवा harassment frameworks वरच अवलंबून न राहता product-level liability कडे विधिमंडळे का वळत आहेत, हे समजते.

मिनेसोटाचा दृष्टिकोन महत्त्वाचा आहे, कारण तो जबाबदारी केवळ अंतिम वापरकर्त्यावर नाही तर साधन पुरवठादारावरही टाकतो असे दिसते. सध्याच्या AI बाजारात हे महत्त्वाचे आहे, कारण platform अनेकदा scale, speed, आणि easy access यांवर भर देतात. manipulated image च्या प्रत्येक access वर कठोर दंड लावू शकणारा कायदा प्रोत्साहनांची दिशा बदलतो. providers ना release आधी अधिक मजबूत safeguards, abuse आढळल्यानंतर जलद response systems, आणि prompts, uploads, public sharing features वर कडक मर्यादा घालाव्या लागू शकतात.

या वर्तनाला सक्षम करणाऱ्या क्षमता मर्यादित केल्या गेल्या असल्याचे X ने एक निवेदन देऊन सांगितले, असे स्रोत मजकुरात म्हटले आहे. याचा अर्थ काही platform operators आधीच moderation आणि product controls अपरिहार्य असल्याचे मान्य करत आहेत. पण मिनेसोटाचा कायदा हा तर्क पुढे नेत, safety failures ना थेट कायदेशीर आणि आर्थिक समस्या बनवतो.

हे प्रकरण मिनेसोटाच्या पलीकडेही का महत्त्वाचे ठरू शकते

तत्काळ परिणाम स्थानिक असला तरी, त्याचे परिणाम व्यापक आहेत. इतर राज्यांतील विधिमंडळे मोठ्या प्रमाणावर वास्तवदर्शी अपमानास्पद सामग्री तयार करू शकणाऱ्या generative tools वर नियंत्रण कसे ठेवावे, यावर काम करत आहेत. मिनेसोटाचा नमुना ठोस product definition, private enforcement, आणि मोठ्या civil penalties यांचे मिश्रण वाटते. भविष्यातील कायदेशीर आव्हानांना तो तगून राहिला, तर broad federal action पेक्षा जलद मार्ग शोधणाऱ्या इतर राज्यांसाठी तो एक आराखडा ठरू शकतो.

हा legal dispute AI governance मधील ओळखीचा ताणही दाखवतो. कंपन्या नेहमी असा युक्तिवाद करतात की खूप व्यापक नियम वैध expression, parody, किंवा experimentation ला देखील पकडू शकतात. मात्र, तंत्रज्ञानाची सामाजिक किंमत आता hypothetical राहिलेली नाही, विशेषतः जेव्हा systems फार कमी technical skill मध्ये सामान्य लोकांचा समावेश असलेली हानिकारक सामग्री तयार करू शकतात. मिनेसोटा किमान एवढे तरी सांगत आहे की automated nudification हे उच्च-जोखमीच्या regulatory bucket मध्ये येते.

पुढे काय होईल हे बहुधा litigation आणि compliance या दोन्हींवर अवलंबून असेल. कायदा लागू होण्यापूर्वी त्याला रोखण्यात xAI अपयशी ठरली, पण त्यामुळे व्यापक constitutional किंवा statutory संघर्ष संपला असे नाही. सध्या मात्र, मिनेसोटा चर्चेतून अंमलबजावणीकडे गेला आहे. अनेक सरकारे अजूनही या समस्येचा अभ्यास करत असलेल्या धोरण क्षेत्रात, हेच महत्त्वाचे आहे.

हा लेख Gizmodo च्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.