ব্যক্তিগত ক্ষতির বাইরে
একজন আইনজীবী যিনি যুক্তরাষ্ট্রে কিছু প্রথম AI চ্যাটবট-সম্পর্কিত ক্ষতির মামলা যুক্তি দিয়েছেন, সতর্ক করছেন যে প্রযুক্তি এখন শুধুমাত্র দুর্বল ব্যক্তিদের জন্য ঝুঁকি নয়। মামলার একটি নতুন শ্রেণীর বিষয়ে প্রথমবারের জন্য প্রকাশ্যে কথা বলে, আইনজীবী বলেন যে AI চ্যাটবটগুলি সম্মিলিত ক্ষতির ঘটনাগুলির প্রসঙ্গে প্রদর্শিত হয়েছে, একটি উন্নয়ন যা AI সংস্থাগুলির জন্য আইনি এবং নিয়ন্ত্রক এক্সপোজার উল্লেখযোগ্যভাবে প্রসারিত করে।
বছরের পর বছর, AI চ্যাটবটগুলি ব্যক্তিগত ট্র্যাজেডির সাথে যুক্ত হয়েছে—এমন ক্ষেত্রে যেখানে একজন কিশোর বা সংকটাপন্ন যুবক ব্যক্তি AI এর সাথে দীর্ঘ কথোপকথন করেছিলেন, সমালোচকরা যুক্তি দেন যে বিফল উপযুক্ত সুরক্ষা প্রদান করতে বা মানব সহায়তার জন্য বৃদ্ধি পেতে। Character.AI এর বিরুদ্ধে অনেক উচ্চ-প্রোফাইল মামলা দায়ের করা হয়েছে, আত্মহত্যা-সম্পর্কিত মৃত্যুতে অবদান রাখার জন্য অভিযুক্ত। এখন একই আইনজীবী বলেন যে এই প্যাটার্নটি একাধিক শিকারদের জড়িত মামলায় সম্প্রসারিত হচ্ছে।
সুরক্ষা ফাঁক
কেন্দ্রীয় যুক্তি হল AI সংস্থাগুলি চ্যাটবটগুলি বিশাল আকারে স্থাপন করেছে—সম্ভবত দশ মিলিয়ন দৈনিক সক্রিয় ব্যবহারকারী—যখন নিরাপত্তা অবকাঠামো অনেক আরও ধীরে বিকশিত হয়েছে। একটি ফার্মাসিউটিকাল সংস্থার মতো নয় যা একটি নতুন ওষুধ চালু করে, AI চ্যাটবট ডেভেলপারদের স্থাপনার আগে ক্লিনিকাল নিরাপত্তা পরীক্ষা পরিচালনা করার প্রয়োজন নেই। একটি সোশ্যাল মিডিয়া প্ল্যাটফর্মের মতো নয়, তাদের প্রায়শই সামগ্রী মডারেশন এবং সংকট হস্তক্ষেপের চারপাশে কম নিয়ন্ত্রক বাধ্যবাধকতা রয়েছে।
আইনজীবীর মতে, ফলাফল হল যে সর্বোচ্চ এনগেজমেন্ট এবং কথোপকথনের জন্য ডিজাইন করা পণ্যগুলি মানসিক স্বাস্থ্যের অবস্থার সম্পূর্ণ বর্ণনা জুড়ে ব্যবহারকারীদের সাথে মিথস্ক্রিয়া করছে, উপযুক্ত প্রশিক্ষণ ছাড়াই যখন একটি কথোপকথন বিপদের দিকে যাচ্ছে তা স্বীকার করতে—এবং যখন এটি সঠিকভাবে করতে নির্ভরযোগ্য প্রক্রিয়া ছাড়াই।
শিল্প প্রতিক্রিয়া
AI সংস্থাগুলি নিরাপত্তায় নিষ্ক্রিয় নয়। Character.AI সংকট হস্তক্ষেপ সংস্থান, পপ-আপ সতর্কতা এবং বয়স যাচাইকরণ ব্যবস্থা যোগ করেছে। OpenAI এবং Anthropic বিস্তারিত নিরাপত্তা নীতি প্রকাশ করেছে এবং নিয়মিত লাল-দল অনুশীলন পরিচালনা করে। বেশিরভাগ প্রধান চ্যাটবট সরবরাহকারী এখন ব্যবহারকারীদের যারা আত্মহত্যার চিন্তা প্রকাশ করে তাদের সংকট হটলাইনের দিকে রুট করে।
কিন্তু সমালোচকরা যুক্তি দেন যে এই ব্যবস্থাগুলি প্রতিক্রিয়াশীল বরং প্রতিরোধমূলক নয়, এবং বাস্তব-বিশ্বের কথোপকথনে তাদের কার্যকারিতা—বিশেষত দীর্ঘ, আবেগগতভাবে অন্তরঙ্গ সেশনগুলি যা ইতিমধ্যে মামলাগুলির বৈশিষ্ট্য—অপ্রমাণিত থাকে। আইনজীবীর সতর্কতা পরামর্শ দেয় যে এমনকি এই উন্নতির সাথেও, গুরুতর ক্ষতির ক্ষেত্রে অব্যাহত উদীয়মান হচ্ছে।
আইনি এবং নিয়ন্ত্রক প্রভাব
সম্মিলিত ক্ষতির ফ্রেম উল্লেখযোগ্য আইনি ওজন বহন করে। যুক্তরাষ্ট্রে পণ্যের দায়বদ্ধতা আইন নির্মাতাদের জবাবদিহিতার জন্য কাঠামো স্থাপন করেছে যখন ত্রুটিপূর্ণ পণ্য বৃহৎ আকারে ক্ষতি করে। প্রশ্ন হল AI চ্যাটবট একটি পণ্য গঠন করে—এবং এর ডিজাইন থেকে অনুমানযোগ্য ক্ষতি এর ডেভেলপারদের কাছে অ্যাট্রিবিউট করা যায় কিনা—একাধিক চলমান মামলায় একটি জীবন্ত সমস্যা।
যোগাযোগ বিধি আইনের Section 230, যা ঐতিহাসিকভাবে ইন্টারনেট প্ল্যাটফর্মগুলিকে ব্যবহারকারী-উৎপন্ন সামগ্রীর জন্য দায়বদ্ধতা থেকে রক্ষা করেছে, AI মামলায় পরীক্ষা করা হচ্ছে। আদালতগুলি মোকাবেলা করছে যে AI-উৎপন্ন প্রতিক্রিয়া প্ল্যাটফর্ম-হোস্ট করা সামগ্রী বা একটি পণ্য আউটপুট গঠন করে কিনা, আইনি দায়বদ্ধতার জন্য একটি বৃহৎ পার্থক্য।
গতি সমস্যা
আইনজীবীর জনসমক্ষ বিবৃতি জুড়ে একটি পুনরাবৃত্ত থিম যাকে "গতি সমস্যা" বলা যায়: AI প্রযুক্তি নিয়ন্ত্রক কাঠামো খাপ খাইয়ে নিতে পারে তার চেয়ে দ্রুত উন্নতি এবং স্থাপন করছে। FDA ওষুধ অনুমোদনের জন্য কাঠামো বিকাশে দশক সময় নিয়েছে; AI সংস্থাগুলি মাসগুলিতে শত শত মিলিয়ন ব্যবহারকারীর কাছে প্রোটোটাইপ থেকে যেতে পারে।
বাধ্যতামূলক নিরাপত্তা পরীক্ষা, ঘটনা রিপোর্টিং প্রয়োজনীয়তা এবং AI পণ্যগুলিতে মানসিক স্বাস্থ্য সুরক্ষার ন্যূনতম মান জন্য ডাক কংগ্রেস এবং অ্যাডভোকেসি গোষ্ঠীতে জোরদার হচ্ছে। বেশ কয়েকটি বিল চালু করা হয়েছে, তবে কোনটিই আইনে পাস হয়নি। ইউরোপীয় ইউনিয়ন এর AI আইন AI সিস্টেমগুলির জন্য ঝুঁকি বিভাগ স্থাপন করে, তবে প্রয়োগ ব্যবস্থা এখনও অগ্রিম রয়েছে।
নিয়ন্ত্রকরা যা দেখছেন
ফেডারেল ট্রেড কমিশন AI ভোক্তা সুরক্ষা সমস্যায় আগ্রহ সংকেত দিয়েছে। রাষ্ট্র অ্যাটর্নি জেনারেল, তাদের অনেক ফেডারাল সমকক্ষদের তুলনায় প্রযুক্তি প্রবিধান আরও আক্রমণাত্মক, কথিত মামলার দৃশ্য সাবধানে দেখছেন। যদি সম্মিলিত ক্ষতির অভিযোগ AI সংস্থাগুলির বিরুদ্ধে আইনত কার্যকর প্রমাণিত হয়, তিনিয়মক এবং আর্থিক এক্সপোজার কীভাবে AI চ্যাটবটগুলি বিকশিত এবং স্থাপন করা হয় তা মৌলিকভাবে পরিবর্তন করতে পারে।
এখনের জন্য, প্রযুক্তি বিকশিত হতে থাকে। নতুন মডেলগুলি তাদের পূর্বসূরীগুলির চেয়ে আরও সক্ষম, আরও আবেগ বুদ্ধিমান এবং আরও নিযুক্ত—গুণগুলি যা তাদের অনেক ব্যবহারকারীর জন্য সত্যিই উপকারী করে তোলে, এবং যখন মিথস্ক্রিয়া ভুল হয় তখন সম্ভবত আরও প্রভাবশালী।
এই নিবন্ধটি TechCrunch দ্বারা রিপোর্টিংয়ের উপর ভিত্তি করে। মূল নিবন্ধ পড়ুন.
