ডিপফেকের অপব্যবহার সম্পাদিত ক্লিপ থেকে লাইভ পারফরম্যান্সে যাচ্ছে
404 Media-র বর্ণনায় উল্লেখিত একটি স্ট্রিমিং ঘটনা জেনারেটিভ মিডিয়ার অপব্যবহারের আরও বিপজ্জনক পর্যায় দেখায়: লাইভ দর্শকের সামনে রিয়েলটাইম ইমপারসোনেশন। প্রদত্ত সোর্স টেক্সট অনুযায়ী, এক স্ট্রিমার Delulu নামে একটি সফটওয়্যার ব্যবহার করে নিজেকে YouTube ক্রিয়েটর MrBeast হিসেবে উপস্থাপন করেন, যখন তিনি গ্রাফিক, সম্মতিহীন এবং সম্ভাব্যভাবে মানহানিকর মন্তব্য করছিলেন। প্রতিবেদনে বলা হয়েছে, স্ট্রিমটি Kick-এ হয়েছিল, যা প্রধান প্রতিদ্বন্দ্বীদের তুলনায় শিথিল মডারেশন মানদণ্ডের জন্য প্রায়ই সমালোচিত একটি প্ল্যাটফর্ম।
এই ঘটনার গুরুত্ব কেবল বিষয়বস্তুর মধ্যে নয়, ফরম্যাটেও। ডিপফেক প্রথমে মূলত পরে সম্পাদিত ভিডিও হিসেবে আলোচনা করা হয়েছিল। রিয়েলটাইম টুলস ঝুঁকির প্রোফাইল বদলে দেয়। এগুলো ইমপারসোনেশনের প্রযুক্তিগত বাধা কমায়, অপব্যবহারকে লাইভে ঘটতে দেয়, এবং হস্তক্ষেপকে কঠিন করে তোলে কারণ মডারেটরদের তখনই হেরফের চিহ্নিত করতে হয় যখন সম্প্রচার ইতিমধ্যেই ছড়িয়ে পড়ছে।
লাইভ পরিচয়-দুর্ব্যবহার এক ভিন্ন ধরনের প্ল্যাটফর্ম সমস্যা
প্রচলিত ভুয়া ভিডিও মামলায়, একটি প্ল্যাটফর্ম দ্রুত সাড়া দিতে ব্যর্থ হতে পারে, কিন্তু পর্যালোচনার বিষয়টি একটি পৃথক মিডিয়া-অবজেক্ট। লাইভ ডিপফেক পরিস্থিতিতে মডারেশন সিস্টেমকে চলমান লক্ষ্য সামলাতে হয়: একটি নকল মুখ, রিয়েলটাইম পারফরম্যান্স এবং তাৎক্ষণিক দর্শক-বৃদ্ধি। এতে হয়রানি, পরিচয় চুরি, মানহানি এবং সিন্থেটিক-মিডিয়া শনাক্তকরণ মিলিয়ে একটি হাইব্রিড সমস্যা তৈরি হয়।
প্রদত্ত সোর্স টেক্সট বলছে, এই সফটওয়্যারটি স্ট্রিমারদের জন্য বাজারজাত করা হয় এবং ব্যবহারকারীদের রিয়েলটাইমে অন্য ব্যক্তিতে রূপান্তর করতে পারে। এমন অবস্থানসম্পন্ন টুল যদি ব্যাপকভাবে সহজলভ্য হয়ে ওঠে, তবে সমস্যা একটি ক্রিয়েটর বা একটি প্ল্যাটফর্মের বাইরে ছড়িয়ে পড়বে। সেলিব্রিটি, সাংবাদিক, নির্বাহী, রাজনীতিবিদ এবং সাধারণ মানুষও লাইভ প্রেক্ষাপটে টার্গেট হতে পারেন, যেখানে মিথ্যা বক্তব্য সঙ্গে সঙ্গে পরিচিত মুখের সঙ্গে যুক্ত হয়ে যায়।
লাইভস্ট্রিমিং-এ স্বতঃস্ফূর্তভাবে সত্যতার একটি অনুমান থাকে বলেই বিষয়টি বিশেষভাবে গুরুতর। দর্শকরা বুঝতে পারেন যে সম্পাদিত ক্লিপে কারসাজি করা যায়, কিন্তু লাইভ ভিডিও ঐতিহাসিকভাবে এই শক্তিশালী ধারণা দেয় যে স্ক্রিনে থাকা ব্যক্তি আসলে যিনি বলে মনে হচ্ছে তিনিই। রিয়েলটাইম ফেস সাবস্টিটিউশন সরাসরি সেই ধারণাকে আঘাত করে।
নীতি, পণ্য এবং আইনি ব্যবস্থা সবই পিছিয়ে আছে
এ ঘটনাটি বর্তমান প্রতিরক্ষাগুলো কতটা খণ্ডিত তাও প্রকাশ করে। প্ল্যাটফর্ম নীতিমালা ইমপারসোনেশন বা হয়রানি নিষিদ্ধ করতে পারে, কিন্তু প্রয়োগ অনেক সময় প্রাক-সক্রিয় শনাক্তকরণের বদলে রিপোর্টিংয়ের ওপর নির্ভর করে। সিন্থেটিক-মিডিয়া টুলস ক্রমাগত উন্নত হচ্ছে, কিন্তু ট্রাস্ট-অ্যান্ড-সেফটি সিস্টেম প্ল্যাটফর্মভেদে অসংগত রয়ে গেছে। শিথিল মডারেশনের জন্য পরিচিত কোনো সেবা অপব্যবহারের জন্য বিশেষভাবে আকর্ষণীয় জায়গা হয়ে উঠতে পারে, কারণ অর্থবহ পর্যালোচনা শুরু হওয়ার আগেই সামাজিক ও সুনামগত ক্ষতি ঘটতে পারে।
এখানে একটি আইনি মাত্রাও আছে। প্রদত্ত সোর্স টেক্সট স্পষ্টভাবে কনটেন্টটিকে সম্ভাব্য মানহানিকর হিসেবে চিহ্নিত করেছে। এটি জেনারেটিভ AI টুলস এবং মিথ্যা বক্তব্য, ক্ষতি ও পরিচয়-দুর্ব্যবহার সম্পর্কিত বিদ্যমান নীতির মধ্যে বাড়তে থাকা সংঘাতের ইঙ্গিত দেয়। লাইভ সিন্থেটিক ইমপারসোনেশন প্রমাণগত জটিলতাও তৈরি করতে পারে, বিশেষ করে যদি ক্লিপগুলো প্রসঙ্গ ছেঁটে প্ল্যাটফর্ম জুড়ে পুনরায় পোস্ট করা হয়।
বিস্তৃত সাংস্কৃতিক বিষয়টি হলো ডিপফেক প্রযুক্তি আর নিছক পরীক্ষামূলক পর্যায়ে সীমাবদ্ধ নয়। এটি প্যাকেজড, ব্যবহারবান্ধব এবং ক্রিয়েটর ওয়ার্কফ্লোর সঙ্গে সামঞ্জস্যপূর্ণ হয়ে উঠছে। একবার সফটওয়্যারকে বিনোদন ও দর্শক-সম্পৃক্ততার আশেপাশে বিক্রি করা হলে, অপব্যবহার আর ব্যতিক্রমী ঘটনা থাকে না; বরং শুরু থেকেই সুরক্ষা ব্যবস্থা না থাকলে তা একটি পূর্বানুমেয় পণ্যের ফলাফল হয়ে যায়।
তাই এখানে বর্ণিত ঘটনাটি সংশ্লিষ্ট ব্যক্তিদের বাইরে গিয়েও গুরুত্বপূর্ণ। এটি দেখায় যে AI-সৃষ্ট পরিচয়-দুর্ব্যবহার স্ট্রিমিং প্ল্যাটফর্ম, টুল বিক্রেতা এবং নিয়ন্ত্রকদের জন্য একটি লাইভ সিস্টেম সমস্যা হয়ে উঠছে। কনটেন্ট মডারেশনের পরবর্তী ধাপ সম্ভবত কেবল ভুয়া মিডিয়া শনাক্ত করার ওপর নয়, বরং সাধারণ অংশগ্রহণ অসম্ভব না করে রিয়েলটাইমে মানব পরিচয় যাচাই করার ওপরও নির্ভর করবে।
- একজন স্ট্রিমার লাইভ সম্প্রচারের সময় MrBeast-এর অনুকরণ করতে রিয়েলটাইম ডিপফেক সফটওয়্যার ব্যবহার করেছেন বলে অভিযোগ রয়েছে।
- এই ঘটনা দেখায় যে লাইভস্ট্রিমিং ডিপফেক কীভাবে মডারেশন ও মানহানির ঝুঁকি বাড়ায়।
- ফেস-সোয়াপিং টুল ব্যবহার যত সহজ হচ্ছে, প্ল্যাটফর্মগুলোর ওপর পরিচয় যাচাই ও দ্রুত সাড়া দেওয়ার চাপও তত বাড়তে পারে।
এই নিবন্ধটি 404 Media-র রিপোর্টিং-এর ভিত্তিতে লেখা। মূল নিবন্ধ পড়ুন.
Originally published on 404media.co
