ডিপফেক শিল্ড সম্প্রসারণ
YouTube তার AI-চালিত ডিপফেক সনাক্তকরণ ক্ষমতা রাজনৈতিক ব্যক্তিত্বদের কভার করার জন্য প্রসারিত করার ঘোষণা দিয়েছে, এমন একটি পদক্ষেপ যা AI-উৎপাদিত সিন্থেটিক মিডিয়া ক্রমবর্ধমান পরিশীলিত এবং প্রামাণিক সামগ্রী থেকে আলাদা করা কঠিন হয়ে উঠছে। প্ল্যাটফর্মটি বলে যে আপডেট করা সিস্টেম স্বয়ংক্রিয়ভাবে হেরফেরযুক্ত ভিডিওগুলি চিহ্নিত এবং ফ্ল্যাগ করতে পারে যা রাজনীতিবিদদের এমন কথা বলতে বা করতে দেখায় যা তারা কখনো বলেনি বা করেনি।
এই সম্প্রসারণটি YouTube দ্বারা প্রকাশ্য ব্যক্তিত্বদের AI-উৎপাদিত সামগ্রী সনাক্ত করার জন্য মোতায়েন করা বিদ্যমান সরঞ্জামগুলির উপর ভিত্তি করে তৈরি। প্ল্যাটফর্মটি পূর্বে তার সনাক্তকরণ প্রচেষ্টাগুলিকে সেলিব্রিটি এবং নির্মাতাদের উপর ফোকাস করেছিল যাদের চেহারা সম্মতি ছাড়াই ব্যবহার করা হচ্ছিল। রাজনৈতিক ক্ষেত্রে সিন্থেটিক মিডিয়া একটি স্বতন্ত্র এবং সম্ভাব্যভাবে আরও বিপজ্জনক হুমকি যে এই ক্ষমতাগুলি প্রসারিত করা স্বীকৃতি প্রতিনিধিত্ব করে।
সনাক্তকরণ কীভাবে কাজ করে
YouTube এর ডিপফেক সনাক্তকরণ সিস্টেম সিন্থেটিক প্রজন্ম বা হেরফেরের লক্ষণগুলির জন্য ভিডিওগুলি বিশ্লেষণ করার জন্য একসাথে কাজ করে এমন একাধিক AI মডেল ব্যবহার করে। সিস্টেমটি মুখের গতিবিধি, ঠোঁট সিঙ্ক্রোনাইজেশন, অডিও বৈশিষ্ট্য এবং বর্তমান প্রজন্মের AI ভিডিও সরঞ্জামগুলির বৈশিষ্ট্যযুক্ত ভিজ্যুয়াল নিদর্শনগুলি পরীক্ষা করে।
যখন সিস্টেমটি একটি ভিডিওকে AI-উৎপাদিত বা হেরফেরযুক্ত হিসাবে সম্ভাব্য শনাক্ত করে, তখন এটি প্রসঙ্গের উপর নির্ভর করে বেশ কয়েকটি পদক্ষেপ নিতে পারে। YouTube এর প্রতারণামূলক অনুশীলন সম্পর্কে স্পষ্টভাবে অনুশীলনের লঙ্ঘন করে এমন ভিডিওগুলি সম্পূর্ণভাবে সরানো যেতে পারে। অন্যরা AI-উৎপাদিত সামগ্রী রয়েছে তা নির্দেশ করে এমন লেবেল পেতে পারে, দর্শকদের তারা যা দেখছে তা সম্পর্কে অবহিত সিদ্ধান্ত নিতে দেয়।
কোম্পানিটি বলে যে এটি তার মডেলগুলিকে পরিচিত ডিপফেক এবং প্রামাণিক রাজনৈতিক ফুটেজের একটি বড় ডেটাসেটে প্রশিক্ষিত করেছে, যদিও এটি তার পদ্ধতির নির্দিষ্ট প্রযুক্তিগত বিবরণ প্রকাশ করেনি। YouTube এছাড়াও বলেছে যে এটি দ্রুত উন্নত প্রজন্মের প্রযুক্তির সাথে তাল মিলিয়ে চলার জন্য ক্রমাগত তার মডেলগুলি আপডেট করছে, সনাক্তকরণ এবং সৃষ্টির মধ্যে একটি সশস্ত্র দৌড় যা তীব্র হতে সম্ভাব্য।
Trump প্রশ্ন
যখন সম্প্রসারিত সনাক্তকরণ বিশেষভাবে সাবেক রাষ্ট্রপতি Donald Trump কভার করে কিনা তা চাপ দেওয়া হয়, YouTube একটি সরাসরি উত্তর প্রদান করতে অস্বীকার করেছিল। কোম্পানিটি বলেছে যে তার সিস্টেমগুলি নির্দিষ্ট ব্যক্তিদের নাম না দিয়ে সমস্ত রাজনৈতিক ব্যক্তিত্বদের রক্ষা করার জন্য ডিজাইন করা হয়েছে। এই অ-উত্তরটি উভয় রাজনৈতিক শিবির থেকে সমালোচনা আকর্ষণ করেছে।
Trump AI-উৎপাদিত সামগ্রীর একটি ঘন ঘন লক্ষ্য হয়েছে, স্পষ্টভাবে উপহাসী হেরফেরথেকে আরও প্রামাণিক ডিপফেক পর্যন্ত যা বাস্তব ফুটেজ হিসাবে ভুলভাবে নেওয়া যেতে পারে। একটি প্রধান রাজনৈতিক ব্যক্তিত্ব এবং অনলাইন আলোচনার ঘন ঘন বিষয় হিসাবে তার অবস্থান ডিপফেক নির্মাতাদের জন্য একটি বিশেষভাবে উচ্চ-মূল্যের লক্ষ্য করে তোলে।
প্ল্যাটফর্মটি যে নির্দিষ্ট ব্যক্তিদের রক্ষা করে তা নাম করতে অনিচ্ছা রাজনৈতিক পক্ষপাতের উপলব্ধি এড়ানোর আকাঙ্ক্ষা প্রতিফলিত করতে পারে। একটি নির্দিষ্ট রাজনীতিবিদকে রক্ষা বা রক্ষা না করার বিষয়ে কোনো স্পষ্ট বিবৃতি YouTube একটি রাজনৈতিক অবস্থান নিচ্ছে হিসাবে ব্যাখ্যা করা যেতে পারে, যা কোম্পানিটি একটি ক্রমবর্ধমান রাজনীতিকীকৃত মিডিয়া পরিবেশে কাজ করে সত্ত্বেও সামঞ্জস্যপূর্ণভাবে এড়াতে চেয়েছে।
বিস্তৃত ডিপফেক হুমকি
সম্প্রসারণটি এমন একটি সময়ে আসে যখন AI-উৎপাদিত রাজনৈতিক সামগ্রী দ্রুত ছড়িয়ে পড়ছে। OpenAI, Google এবং বিভিন্ন ওপেন-সোর্স প্রকল্প সহ কোম্পানিগুলির ভিডিও প্রজন্ম মডেলগুলিতে অগ্রগতি ন্যূনতম প্রযুক্তিগত দক্ষতা এবং কার্যত শূন্য খরচে বিশ্বাসযোগ্য নকল ভিডিও তৈরি করা সম্ভব করেছে।
বিশ্বব্যাপী নির্বাচন চক্র জুড়ে, ডিপফেকগুলি রাজনীতিবিদদের প্রদাহজনক বিবৃতি তৈরি করতে, তারা বিরোধিতা করে এমন প্রার্থীদের সমর্থন করতে বা কুশ্রী আচরণে জড়িত থাকার জন্য ব্যবহার করা হয়েছে। অনেক দেশে, ভাইরাল ডিপফেকগুলি তাদের নকল হিসাবে চিহ্নিত করার আগে জনমত প্রভাবিত করেছে, হুমকির অ-প্রতিসম প্রকৃতি প্রদর্শন করে: একটি ডিপফেক মিনিটের মধ্যে ছড়িয়ে পড়তে পারে যখন ডিবাঙ্কিং দিন লাগে।
সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলি রাজনৈতিক ডিপফেকের প্রাথমিক বিতরণ চ্যানেল, প্ল্যাটফর্ম-স্তরের সনাক্তকরণ রক্ষার একটি গুরুত্বপূর্ণ লাইন করে তোলে। তবে, সনাক্তকরণ স্বাভাবিকভাবে প্রতিক্রিয়াশীল, এটি তৈরি এবং আপলোড করার পরেই নকল সামগ্রী চিহ্নিত করে। সবচেয়ে পরিশীলিত ডিপফেকগুলি সম্পূর্ণভাবে সনাক্তকরণ এড়াতে পারে, বিশেষ করে প্রজন্মের প্রযুক্তি সনাক্তকরণ ক্ষমতার চেয়ে দ্রুত উন্নত হওয়ায়।
নিয়ন্ত্রক চাপ
YouTube এর ডিপফেক সনাক্তকরণ সম্প্রসারণ AI-উৎপাদিত মিথ্যাবিষয়বস্তু সমাধান করতে প্ল্যাটফর্মগুলিতে ক্রমবর্ধমান নিয়ন্ত্রক চাপের বিপরীতে ঘটে। EU এর AI অ্যাক্ট সিন্থেটিক মিডিয়া লেবেলিং সম্পর্কিত বিধান অন্তর্ভুক্ত করে এবং বেশ কয়েকটি US রাষ্ট্য বা রাজনৈতিক ডিপফেকগুলি বিশেষভাবে সম্বোধন করে এমন আইন বিবেচনা করছে।
ফেডারেল স্তরে, AI-উৎপাদিত নির্বাচন হস্তক্ষেপ সম্পর্কে দ্বিপক্ষীয় উদ্বেগ একাধিক আইনি প্রস্তাব উৎপাদন করেছে, যদিও এখন পর্যন্ত কোনটি আইনে প্রণীত হয়নি। ব্যাপক ফেডারেল প্রবিধানের অভাব মানে প্ল্যাটফর্মগুলি তাদের ডিপফেক পদ্ধতিতে বড় আকারে আত্ম-নিয়ন্ত্রণ করছে, বিভিন্ন স্তরের কঠোরতা এবং স্বচ্ছতা সহ।
সমালোচকরা যুক্তি দেন যে প্ল্যাটফর্ম স্ব-নিয়ন্ত্রণ জড়িত ঝুঁকি দেওয়া অপর্যাপ্ত। একটি রাজনৈতিক নেতার একটি প্রশস্ত ডিপফেক তাত্ত্বিকভাবে একটি নির্বাচন প্রভাবিত করতে বা একটি ভৌগলিক সংকট স্ফুলিঙ্গ হতে পারে, সমস্যাটি পুলিশ করার জন্য ব্যক্তিগত কোম্পানিগুলির উপর নির্ভর করা জবাবদিহিতা ব্যবধান তৈরি করে। যদি YouTube এর সনাক্তকরণ সিস্টেম একটি গুরুত্বপূর্ণ ডিপফেক ধরতে ব্যর্থ হয় তবে প্ল্যাটফর্মটিকে জবাবদিহি করার কর্তৃত্ব রয়েছে এমন নিয়ন্ত্রক সংস্থা নেই।
পরবর্তী কী আসে
YouTube এর ডিপফেক সনাক্তকরণ সম্প্রসারণ সিন্থেটিক মিডিয়াকে আরও গুরুত্ব সহকারে নেওয়ার দিকে একটি বৃহত্তর শিল্প প্রবণতার অংশ। Google, যা YouTube মালিক করে, অন্যান্য প্ল্যাটফর্মগুলির জন্য সনাক্তকরণ সরঞ্জামগুলিও বিকাশ করছে এবং সামগ্রী উৎস এবং প্রমাণীকরণের জন্য শিল্প-বিস্তৃত মান অবদান রেখেছে।
Content Authenticity Initiative, Adobe, Microsoft এবং অন্যদের দ্বারা সমর্থিত, ডিজিটাল সামগ্রীতে প্রাভিডেন্স মেটাডেটা এম্বেড করার জন্য প্রযুক্তিগত মান বিকাশ করছে, একটি রক্ষণাবেক্ষণ শৃঙ্খল তৈরি করছে যা ভিডিওটি প্রামাণিক কিনা তা যাচাই করতে পারে। এই মানগুলি শুধুমাত্র নকলগুলি চিহ্নিত করার উপর নির্ভর করার পরিবর্তে প্রামাণিকতার একটি ইতিবাচক সংকেত প্রদান করে প্ল্যাটফর্ম-স্তরের সনাক্তকরণ পরিপূরক।
তবে, মৌলিক চ্যালেঞ্জটি রয়ে গেছে: AI প্রজন্মের প্রযুক্তি সনাক্তকরণ এবং প্রমাণীকরণ ক্ষমতার চেয়ে দ্রুত অগ্রসর হচ্ছে। YouTube এর সম্প্রসারিত সনাক্তকরণ একটি অর্থপূর্ণ পদক্ষেপ প্রতিনিধিত্ব করে, তবে এটি একটি চলমান সশস্ত্র দৌড়ে একটি পদক্ষেপ যা সামনে কোনো সংকেত নেই।
এই নিবন্ধটি Gizmodo দ্বারা রিপোর্টিং উপর ভিত্তি করে। মূল নিবন্ধটি পড়ুন।
