दावा: xAI ने Grok को child sexual abuse material पर प्रशिक्षित किया

xAI को Grok के training data को लेकर एक नई कानूनी चुनौती का सामना

xAI पर एक नए मुकदमे में child sexual abuse material, या CSAM, को Grok की image और video क्षमताओं से जुड़े data में इस्तेमाल करने का आरोप लगाया गया है। Ars Technica द्वारा 27 अगस्त 2026 को रिपोर्ट किए गए इस complaint का केंद्र Jane Doe नाम की एक plaintiff हैं, जिनका कहना है कि उनके abuse की images सालों पहले ऑनलाइन फैल गई थीं और बाद में उन systems का हिस्सा बन गईं जो ज्ञात अवैध material की पहचान करने के लिए इस्तेमाल होती हैं।

Source report के अनुसार, complaint में आरोप है कि xAI ने न केवल plaintiff को दर्शाने वाला AI-generated CSAM बनाने दिया, बल्कि उन outputs को संग्रहीत किया और Grok को आगे train करने के लिए भी इस्तेमाल किया। यदि यह आरोप सही साबित होता है, तो यह मामला AI कंपनियों द्वारा उस जोखिम को संभालने के तरीके की एक महत्वपूर्ण परीक्षा बन सकता है, जिसमें illegal या अत्यंत हानिकारक material training pipelines, model outputs, या दोनों में प्रवेश कर जाता है।

Complaint क्या कहता है

plaintiff का कहना है कि बचपन में preschool age पर उनके साथ abuse हुआ था और उस abuse की images ऑनलाइन बेची गई थीं। Ars Technica ने रिपोर्ट किया कि बाद में National Center for Missing and Exploited Children और Canadian Centre for Child Protection जैसी संस्थाओं ने उन images को hash किया, जिससे डिजिटल systems में ज्ञात material की पहचान करने का तरीका बना।

Complaint का कहना है कि बाद में plaintiff को Canadian Centre for Child Protection से सूचना मिली कि xAI पर AI-generated CSAM में उन्हें दर्शाया गया है। रिपोर्ट के अनुसार, इस सूचना ने उन्हें फिर से आघात पहुँचाया और एक नई चिंता पैदा की: क्या AI tools अब पुराने abuse material की उम्र बढ़ाकर, ज्ञात victims से जुड़े नए synthetic variants बना रहे हैं।

मुकदमा केवल output harm के आरोप तक सीमित नहीं है। इसमें कहा गया है कि xAI ने मूल abuse images और नए AI-generated versions, दोनों को Grok की ongoing training process का हिस्सा बनाया। Ars Technica ने नोट किया कि यह पहला मामला है जिसमें xAI पर विशेष रूप से CSAM पर training का आरोप लगाया गया है, और complaint में इस training-data दावे के समर्थन का तरीका बहुत विस्तार से नहीं बताया गया है।

Outputs, storage, और model development का मामला

Complaint का कानूनी महत्व सिर्फ यह नहीं है कि Grok ने कथित रूप से abusive imagery बनाई। व्यापक दावा यह है कि उसी system ने उस material को model development में भी शामिल किया होगा। यह अंतर महत्वपूर्ण है। AI कंपनियों पर training data sourcing, harmful content filtering, और क्या problematic outputs को बाद में product improvement के लिए रखा जाता है, इन बातों को लेकर पहले से दबाव है।

इस मामले में plaintiff का तर्क है कि xAI ने अपराधियों के लिए exploitative images बनाना आसान किया और अगर उन outputs को बाद में संग्रहीत कर पुनः उपयोग किया गया, तो नुकसान और बढ़ गया। इससे मामला सिर्फ content moderation का नहीं, बल्कि data governance और post-generation handling का भी बन जाता है।

Ars Technica की रिपोर्ट में online forum messages का उल्लेख है, जिनमें offenders ने plaintiff और अन्य ज्ञात victims के AI-generated CSAM बनाने पर चर्चा की थी। उपलब्ध source text के आधार पर, यह आरोप समझाता है कि plaintiff इसे सिर्फ एक generic safety failure क्यों नहीं मानतीं। चिंता targeted, repeated victimization की है, generative systems के माध्यम से।

क्या ज्ञात है और क्या नहीं

Source material training-data आरोप को लेकर अनिश्चितता को सावधानी से नोट करता है। Ars Technica कहता है कि यह संकेत नहीं है कि xAI ने पहले रिपोर्ट किए गए किसी विवादित dataset पर training की थी, जिसे researchers ने बाद में उसमें CSAM मिलने पर scrub कर दिया था। article यह भी कहता है कि complaint plaintiff की abuse images पर xAI ने training की, इस दावे का विस्तृत विवरण नहीं देता।

इससे आरोप की गंभीरता और article में वर्णित सार्वजनिक साक्ष्य के बीच एक अंतर रह जाता है। फिर भी, complaint कथित तौर पर इस दावे को इस तथ्य से जोड़ती है कि plaintiff की images NCMEC द्वारा maintained CSAM hash list में शामिल थीं, और plaintiff के lawyers का आरोप है कि वही material Grok की image और video generation capabilities बनाने के लिए उपयोग किए गए dataset का हिस्सा था।

इस स्तर पर ये filed complaint में लगाए गए आरोप हैं, अदालत के निष्कर्ष नहीं। लेकिन किसी भी ruling से पहले ही, यह मामला इस बात पर बढ़ती scrutiny में जुड़ता है कि क्या AI model builders के पास illegal material को training corpora में प्रवेश करने, outputs में फिर से उभरने, या feedback loops के माध्यम से पुनः ingest होने से रोकने के पर्याप्त controls हैं।

xAI से आगे इसका महत्व

यह complaint उस समय आई है जब regulators, courts, और law enforcement पहले से ही यह जांच रहे हैं कि generative AI systems का उपयोग exploitative material बनाने में कैसे हो सकता है। यह मामला उस समस्या को भी उजागर करता है जो model developers के लिए विशेष रूप से कठिन है: एक बार system derivative abusive content बना सकता है, तो नुकसान केवल original dataset में क्या था, इस पर निर्भर नहीं रह जाता। synthetic replication के जरिए यह फैल सकता है।

इससे उद्योग के लिए कई व्यावहारिक प्रश्न उठते हैं:

• कंपनियाँ training datasets को ज्ञात illegal material के लिए कैसे filter करती हैं।
• क्या generated outputs को model improvement के लिए रखा, समीक्षा किया, या पुनः उपयोग किया जाता है।
• जब hashes, victim reports, या watchdog alerts abusive content की पहचान करते हैं, तब platforms कैसे प्रतिक्रिया देती हैं।
• क्या safeguards ज्ञात लोगों की targeted synthetic victimization रोकने के लिए बनाए गए हैं।

ये मुद्दे केवल एक कंपनी या एक model family तक सीमित नहीं हैं। लेकिन xAI lawsuit उन्हें असामान्य रूप से स्पष्ट रूप में पेश करता है, क्योंकि यह ऐतिहासिक abuse material, AI-generated derivatives, और कथित retraining को नुकसान की एक ही श्रृंखला में जोड़ता है।

आगे क्या होगा

निकटतम अगला कदम संभवतः कानूनी और procedural होगा: xAI को आरोपों पर जवाब देने का अवसर मिलेगा, और अदालत की प्रक्रिया तय करेगी कि कितना साक्ष्य सार्वजनिक होगा। दिए गए source text के आधार पर, यह complaint पहला मामला है जिसमें xAI पर न्यायालय में विशेष रूप से CSAM पर Grok को train करने का आरोप लगाया गया है।

विस्तृत AI sector के लिए, यह case इस बात का एक और संकेत है कि content-safety debates अब काल्पनिक misuse scenarios से आगे बढ़ चुकी हैं। वे increasingly operational records, dataset provenance, और क्या कंपनियाँ साबित कर सकती हैं कि banned material को केवल public outputs से ही नहीं, बल्कि internal development workflows से भी बाहर रखा गया था, इन विवादों में बदल रही हैं।

यदि आरोपों को अदालत में तथ्यात्मक समर्थन मिलता है, तो परिणाम प्रतिष्ठा क्षति से कहीं आगे जा सकते हैं। वे dataset auditing, output retention, victim notification, और generative AI systems में legal liability के लिए भविष्य के standards को आकार दे सकते हैं।

यह लेख Ars Technica की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.