जज ने सोशल-मीडिया मुकदमे में AI-निर्मित जैसे कानूनी उद्धरणों पर सवाल उठाए

एक खारिज हो चुका मामला अदालत में AI को लेकर एक और चेतावनी बन गया है

कानूनी पेशा अभी भी यह तय करने की कोशिश कर रहा है कि generative AI दैनिक practice में कहाँ फिट बैठता है, लेकिन एक बात पहले से स्पष्ट है: fabricated citations तुरंत credibility crisis बन सकती हैं। इसका एक नया उदाहरण “Are We Dating the Same Guy” Facebook group से जुड़ी litigation में सामने आया, जहाँ एक जज ने कहा कि एक brief में ऐसी गलतियाँ और अस्तित्वहीन उद्धरण शामिल प्रतीत होते हैं, जो AI misuse से जुड़े लगते हैं।

स्रोत सामग्री के अनुसार, plaintiff Nikko D’Ambrosio ने 27 महिलाओं, एक पुरुष, और कई platforms पर मुकदमा दायर किया था, क्योंकि Chicago-आधारित एक Facebook group के उपयोगकर्ताओं ने उसे “clingy” और “psycho” जैसे शब्दों से वर्णित किया था। Meta के खिलाफ मामला खारिज कर दिया गया, क्योंकि जज ने सहायक citations की गुणवत्ता और प्रामाणिकता को लेकर चिंता जताई।

Judge David Hamilton ने लिखा कि filing में उन legislative findings का कोई citation नहीं था जिन पर उसने भरोसा करने का दावा किया था, और उसमें काल्पनिक उद्धरण भी शामिल थे। जज ने कहा कि ये गलतियाँ “generative artificial intelligence के दुरुपयोग के hallmarks” दिखाती हैं, जिससे यह विवाद AI-generated legal work पर तेजी से बढ़ती बहस के केंद्र में आ गया।

अदालत की समस्या AI नहीं, बल्कि असत्यापनीय output थी

Generative AI tools का उपयोग drafting, summarizing, और research support के लिए कई पेशों में बढ़ रहा है। कानून में इनकी appeal स्पष्ट है: ये जल्दी outlines बना सकते हैं, मुद्दों की पहचान कर सकते हैं, और formal दिखने वाली prose तैयार कर सकते हैं। लेकिन वही systems case law गढ़ने, उद्धरण बिगाड़ने, या ऐसे आत्मविश्वासी दिखने वाले references देने के लिए भी जाने जाते हैं जो बुनियादी verification में टूट जाते हैं।

यह मामला उसी केंद्रीय failure mode को उजागर करता है। अदालत को इससे फर्क नहीं पड़ता कि गलती किसी जल्दबाज़ associate से हुई, flawed search process से, या AI model से। उसे इस बात की परवाह है कि filing सटीक है या नहीं। जब citations fabricated हों, तो समस्या केवल लापरवाही तक सीमित नहीं रहती। यह न्यायिक प्रक्रिया की integrity तक जाती है, क्योंकि legal arguments traceable authority पर निर्भर होते हैं।

इसी वजह से हालिया AI-in-law विवादों ने इतना ध्यान खींचा है। यह तकनीक समय बचा सकती है, लेकिन completeness का खतरनाक भ्रम भी पैदा कर सकती है। एक brief polished और well sourced दिख सकता है, जबकि उसमें ऐसी authorities हो सकती हैं जो मौजूद ही नहीं हैं, या ऐसे कथन हो सकते हैं जो cited material में हैं ही नहीं।

एक व्यापक संस्थागत समस्या

D’Ambrosio मामला यह भी दिखाता है कि AI से जुड़ी समस्याएँ उन मामलों में भी प्रवेश कर रही हैं जो पहले से ही platform governance, online speech, और reputational harm के संगम पर हैं। Social-media litigation अक्सर सार्वजनिक रुचि का विषय होती है, क्योंकि यह user speech, moderation, और liability की सीमाओं की परीक्षा लेती है। जब उस परिदृश्य में AI-generated legal defects प्रवेश करते हैं, तो ध्यान मूल दावों से हटकर filing reliability पर चला जाता है।

अदालतों के लिए यह केवल नैतिक नहीं, बल्कि operational challenge भी है। Judges और clerks को ऐसी सामग्री की जाँच में समय लगाना पड़ता है जिसे submission से पहले check किया जाना चाहिए था। विरोधी पक्षों के लिए fabricated citations का मतलब अनावश्यक लागत हो सकता है, क्योंकि उन्हें nonexistent authority पर आधारित तर्कों का जवाब देना पड़ता है। और clients के लिए, यदि किसी मामले की कमजोरी टाली जा सकने वाली गलतियों के कारण हो, तो reputational और substantive नुकसान तुरंत हो सकता है।

यह घटना उस बात को भी मजबूत करती है जिसे कई अदालतें standing orders और warnings के माध्यम से पहले ही कह चुकी हैं: यदि वकील AI का उपयोग करते हैं, तो वे दायर की गई हर पंक्ति के लिए जिम्मेदार रहते हैं। Drafting का कुछ हिस्सा model को सौंपने का मतलब professional accountability को भी सौंप देना नहीं है।

विश्वास का आधार verification होगा, novelty नहीं

Generative AI संभवतः legal workflows का हिस्सा बना रहेगा, क्योंकि productivity incentives बहुत मजबूत हैं। लेकिन profession का adoption path एक सरल नियम की ओर सिमट रहा है: उपयोग स्वीकार्य या उपयोगी हो सकता है, लेकिन असत्यापित output नहीं।

यह ताज़ा घटना इसलिए महत्वपूर्ण है क्योंकि यह कोई काल्पनिक जोखिम नहीं है। जज ने सीधे filing में मौजूद काल्पनिक उद्धरणों और citation failures को AI misuse के hallmarks से जोड़ा। यह भाषा आगे चलकर sanctions, disclosure, और professional responsibility पर बहस में बार-बार उद्धृत की जा सकती है।

कानूनी प्रणाली के लिए सबक हर बार और स्पष्ट होता जा रहा है। AI ड्राफ्ट कर सकता है। वह अपने आप प्रमाणित नहीं कर सकता। कोई भी वकील generated text को final work product मान रहा है, वह केवल तकनीकी जोखिम नहीं, बल्कि courtroom risk भी ले रहा है।

यह लेख 404 Media की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.