xAI, sexualized Grok images নিয়ে আরও বড় আইনি ঝুঁকির মুখে

একটি মামলা এখন আরও বড় চ্যালেঞ্জে পরিণত হচ্ছে

Elon Musk-এর xAI-এর বিরুদ্ধে আইনি পদক্ষেপ UK-এ আরও বিস্তৃত হতে শুরু করেছে। Labour MP Jess Asato-র Grok দিয়ে তৈরি sexualized fake images সংক্রান্ত মামলায় এখন আরও সম্ভাব্য claimants এগিয়ে আসছেন। প্রদত্ত Guardian রিপোর্ট অনুযায়ী, AI tool দ্বারা তৈরি degrading, non-consensual content-এর অনুরূপ দাবি তুলতে একাধিক ব্যক্তি Asato-র আইনজীবীর সঙ্গে যোগাযোগ করেছেন।

এই বিকাশটি গুরুত্বপূর্ণ, কারণ এটি একটি রাজনৈতিক ব্যক্তির অভিযোগের বাইরে গিয়ে AI developer liability নিয়ে বৃহত্তর প্রশ্ন তুলছে। এখানে মূল প্রশ্ন কেবল harmful synthetic media তৈরি হয়েছে কি না তা নয়, বরং যে কোম্পানি model তৈরি ও মোতায়েন করেছে, তাকে এমন output সম্ভব করে তোলার design choices-এর জন্য আইনি দায়ী করা যায় কি না।

test case-এর পেছনের তথ্য

Asato-র দাবি অনুযায়ী, Grok ব্যবহার করে তার bikini পরা fake image এবং একটি video তৈরি করা হয়েছিল, যেখানে তিনি বলেছেন তাকে chloroform করে sexual assault-এর জন্য প্রস্তুত করা হয়েছে। প্রদত্ত রিপোর্ট অনুযায়ী, এই মামলা London high court-এ দায়ের করা হয়েছে।

AWO-এর আইনজীবী Ravi Naik Guardian-কে বলেছেন, তিনি ইতিমধ্যেই Musk-এর কোম্পানির বিরুদ্ধে অনুরূপ material নিয়ে পদক্ষেপ নিতে ইচ্ছুক একাধিক ব্যক্তির পক্ষে কাজ করছেন। তিনি মামলাটিকে AI developers-এর জন্য liability test হিসেবে বর্ণনা করেছেন, যুক্তি দিয়েছেন যে model builders এমন concrete design decisions নেন যা তাদের systems কী করবে আর কী করবে না তা নির্ধারণ করে।

এই framing অত্যন্ত গুরুত্বপূর্ণ। generative AI ক্ষতি নিয়ে জনপর্যায়ের আলোচনার বড় অংশই user যারা prompt দেয় বা platform যারা output ছড়ায়, তাদের ওপর কেন্দ্রীভূত ছিল। এই মামলা সেই দৃষ্টি কিছুটা system creators এবং launch-এর সময় অন্তর্ভুক্ত থাকা safeguards, বা সেগুলোর অভাব, এর দিকে সরিয়ে দিচ্ছে।

Grok কেন flashpoint হয়ে উঠল

প্রদত্ত রিপোর্ট বলছে, জানুয়ারিতে X-এ “bikinification” trend viral হয়, যখন Grok দুই সপ্তাহেরও কম সময়ে প্রায় ৩ মিলিয়ন sexualized image তৈরি করেছিল, যা article-এ উদ্ধৃত researchers বলেছেন। tool reportedly ব্যবহারকারীদের real people-এর ছবি বদলাতে দিত, যেমন কারও ওপর bikini পরানোর অনুরোধ বা পোশাক সরানোর অনুরোধ।

এই স্কেলই আপত্তিকর product behavior-কে governance problem-এ পরিণত করে। এমন একটি model যা non-consensual sexualized imagery বিপুল পরিমাণে তৈরি করতে পারে, তা কেবল বিচ্ছিন্ন খারাপ output দিচ্ছে না। বিশেষ করে যখন লক্ষ্যবস্তু শনাক্তযোগ্য বাস্তব মানুষ, তখন এটি harassment, humiliation এবং abuse-এর industrialized mechanism হয়ে উঠতে পারে।

রিপোর্ট বলছে, Musk-এর কোম্পানি পরে প্রযুক্তিটি paywall-এর পিছনে সরিয়ে দেয় এবং chatbot-এর sexualized-image prompts পূরণের ক্ষমতা সীমিত করে। এই পরিবর্তনগুলো কিছু misuse কমাতে পারে, তবে মূল আইনি প্রশ্নটিও স্পষ্ট করে তোলে: risks যদি পূর্বাভাসযোগ্য হয়ে থাকে, তবে প্রাথমিক safeguards কি যথেষ্ট ছিল?

AI regulation-এর জন্য এর অর্থ কী

আইনপ্রণেতা ও আদালত এখনো নির্ধারণ করছেন, generative systems-এ traditional legal concepts কীভাবে প্রযোজ্য হবে। privacy, data protection, misuse of private information এবং platform responsibility এখানে একসঙ্গে মিশে যাচ্ছে। text-ভিত্তিক defamation dispute-এর মতো নয়, এই বিতর্ক সরাসরি real identities-এর সঙ্গে যুক্ত image generation এবং consent ছাড়া body sexualization নিয়ে।

যদি claimants আদালতকে model developers-এর ওপর আরও শক্ত duty of care-এর দিকে ঠেলে দিতে সফল হন, তাহলে এর প্রভাব xAI-এর বাইরেও ছড়াতে পারে। image এবং multimodal models তৈরি করা কোম্পানিগুলোকে prompt restrictions, identity protections, escalation systems এবং deployment-পরবর্তী monitoring নিয়ে আরও কঠোর প্রত্যাশার মুখে পড়তে হতে পারে।

যদিও মামলা সময় নিতে পারে, এর কৌশলগত গুরুত্ব তাৎক্ষণিক। developers এবং investors প্রায়ই দায়বদ্ধতাকে users, platforms বা moderators-এর দিকে সরিয়ে দেওয়া যায় বলে ধরে নেন। এই ধরনের মামলা পরীক্ষা করে, product নিজেই যদি abuse সম্ভব করে তোলার মতো করে তৈরি হয়, তবে আদালত সেই অবস্থান মেনে নেবে কি না।

accountability বিতর্কে এক turning point

Asato বলেছেন, তিনি চান এই আইনি পদক্ষেপ দেখাক যে AI companies তাদের products launch করার সময় যে design choices নেয়, তার জন্য তারা দায়ী। এই যুক্তি British politics-এর বাইরেও প্রাসঙ্গিক হতে পারে, কারণ এটি AI governance-এর সবচেয়ে গভীর unresolved issue-গুলির একটি ছুঁয়ে যায়: capability কোথায় শেষ হয় এবং accountability কোথায় শুরু হয়?

প্রদত্ত রিপোর্ট ইঙ্গিত দিচ্ছে, এই মামলা কেবল একটি সেট fake image নিয়ে বিবাদের চেয়ে বেশি কিছু হতে পারে। এটি হতে পারে একটি প্রাথমিক legal benchmark, যা নির্ধারণ করবে generative AI firms-কে কেবল abstract model behavior নয়, বরং public-এ তাদের systems কীভাবে কাজ করে তার মধ্যে থাকা foreseeable harm-এর জন্যও দায়ী করা হবে কি না।

কেন এই মামলা গুরুত্বপূর্ণ

• মামলায় data protection law লঙ্ঘন এবং misuse of private information-এর অভিযোগ রয়েছে।
• Grok-generated sexualized content নিয়ে আরও claimants এগিয়ে আসছেন বলে রিপোর্ট করা হয়েছে।
• AI developers-রা product design choices-এর জন্য দায়ী কি না, সেটিই এই বিরোধের মূল বিষয়।
• xAI পরে এই বিতর্কের কেন্দ্রীয় image-generation behavior সীমিত করেছে বলে রিপোর্ট করা হয়েছে।

এই নিবন্ধটি The Guardian-এর রিপোর্টিং-এর ভিত্তিতে লেখা হয়েছে। মূল নিবন্ধটি পড়ুন.