ডিপফেক শনাক্ত করতে জার্মান গবেষকদের একটি হাইব্রিড সিস্টেম উন্মোচন

Fraunhofer-এর নতুন ডিটেক্টর শুধু ভুয়া চিহ্নিত করাই নয়, তার চেয়েও বেশি কিছু করতে চায়

জার্মানির Fraunhofer Institute of Optronics, System Technologies, and Image Exploitation-এর গবেষকরা RealorRender নামে একটি সিস্টেম চালু করেছেন, যা আসল ছবি এবং AI-সৃষ্ট ডিপফেকের মধ্যে পার্থক্য করতে সাহায্য করার জন্য তৈরি। প্রকল্পটি এমন এক সময়ে এসেছে যখন বিকৃত ছবি মানুষের জন্য চোখে দেখে শনাক্ত করা কঠিন হয়ে উঠছে এবং বড় পরিসরে তৈরি করাও সহজ হচ্ছে। ফলে সরকার, প্ল্যাটফর্ম এবং নিরাপত্তা দলগুলোর ওপর এমন সরঞ্জাম খুঁজে বের করার চাপ বাড়ছে যা বাস্তব পরিস্থিতিতে নির্ভরযোগ্যভাবে কাজ করতে পারে।

ভালো শনাক্তকরণের প্রয়োজনীয়তা সোজাসাপ্টা। ঘোষণার ভিত্তি হিসেবে থাকা উৎস উপাদানটি ক্ষতিকর ব্যবহারের দ্রুত বাড়তে থাকা ধারা তুলে ধরে, যার মধ্যে harassment, grooming, sextortion, অপমান, প্রতারণা এবং অন্যান্য অপব্যবহার অন্তর্ভুক্ত। এতে UK সরকারের রিপোর্টিং এবং 2023 সালের একটি sexual deepfakes-সংক্রান্ত তদন্তের তথ্যও উদ্ধৃত করা হয়েছে, যা দেখায় যে সমস্যাটি কল্পনাভিত্তিক বা সীমিত পরিসরের নয়। সিন্থেটিক ইমেজ ইতিমধ্যেই এমনভাবে ব্যবহৃত হচ্ছে যা সরাসরি ব্যক্তিগত ক্ষতি করে, বিশেষ করে নারী ও মেয়েদের ক্ষেত্রে, পাশাপাশি ডিজিটাল প্রমাণের ওপর বৃহত্তর আস্থাও ক্ষয় করে।

এই বিস্তৃত আস্থার সমস্যা যেকোনো একক অপব্যবহার শ্রেণির মতোই গুরুত্বপূর্ণ। যখন বিশ্বাসযোগ্য ভুয়া তৈরি করা সহজ হয়ে যায়, তখন প্রতিটি ছবিই বিতর্কিত হয়ে উঠতে পারে। একটি আসল ছবি সিন্থেটিক বলে খারিজ হতে পারে, আবার একটি বানানো ছবি কেউ আপত্তি জানানোর আগেই জনমত গড়ে দেওয়ার মতো সময় ধরে ছড়িয়ে পড়তে পারে। এমন পরিবেশে, একটি শনাক্তকরণ ব্যবস্থার মূল্য শুধু এটি লেবেল দিতে পারে কি না তাতে নয়, বরং এটি তদন্তকারী, মডারেটর এবং ডেভেলপারদের বোঝাতে পারে কি না যে কেন এটি সেই সিদ্ধান্তে পৌঁছেছে।

একটি সাধারণ ক্লাসিফায়ারের বদলে হাইব্রিড পদ্ধতি

RealorRender-এর প্রধান পার্থক্য হলো এটি শুধু একটি শনাক্তকরণ কৌশলের ওপর নির্ভর করে না। Fraunhofer IOSB অনুযায়ী, সিস্টেমটি deep-learning classification-এর সঙ্গে এমন একটি মূল্যায়নকে একত্র করে যা দেখে একটি generative model পর্যালোচনাধীন ছবিটি কতটা ভালোভাবে পুনর্গঠন করতে পারে। বাস্তব অর্থে, ডিটেক্টরটি আগে AI image generator ব্যবহার করে ছবিটি পুনর্গঠন করার চেষ্টা করে। তারপর আরেকটি AI model ব্যবহার করে ফলাফলকে শ্রেণিবিন্যাস করে এবং পুনর্গঠন ত্রুটি গণনা করে, যার মাধ্যমে একটি আনুমানিক recognition accuracy শতাংশ হিসেবে পাওয়া যায়।

এই পদ্ধতিটি দুই কারণে উল্লেখযোগ্য। প্রথমত, এটি শনাক্তকরণকে black-box model থেকে আসা একটি সাধারণ হ্যাঁ-না রায় নয়, বরং একটি হাইব্রিড সমস্যা হিসেবে বিবেচনা করে। দ্বিতীয়ত, এটি নিজের সিদ্ধান্তের ব্যাখ্যা দেওয়ার জন্য তৈরি, যার মধ্যে এমন চিহ্নিত অঞ্চলও থাকে যেখানে সিস্টেম ডিপফেকের সঙ্গে সামঞ্জস্যপূর্ণ প্রমাণ পেয়েছে। এমন সরঞ্জাম প্রয়োগকারী দলগুলোর জন্য এই interpretability raw accuracy-এর মতোই গুরুত্বপূর্ণ হতে পারে, কারণ এটি ব্যর্থতার ধরন পর্যালোচনা করা এবং সময়ের সঙ্গে মডেল উন্নত করার পথ দেয়।

Fraunhofer-এর senior scientist Andreas Specker উৎস পাঠে workflow বর্ণনা করেছেন: ছবিটি পুনর্গঠন করা, classification চালানো, তারপর final calculation-এ পুনর্গঠন ত্রুটিকে অংশ হিসেবে ব্যবহার করা। এই বর্ণনা থেকে বোঝা যায়, সিস্টেমটি এমন সূক্ষ্ম অমিল খুঁজছে যা একটি generative model কীভাবে ছবিটি পুনরায় তৈরি করত এবং মূল ছবিতে বাস্তবে কী আছে তার মধ্যে দেখা যায়। যখন সেই অমিলের ধরন synthetic generation-এর সঙ্গে মিলে যায়, তখন ডিটেক্টর ছবিটিকে সেই অনুযায়ী স্কোর করতে পারে।

ডিপফেক শনাক্তকরণে ব্যাখ্যাযোগ্যতা কেন গুরুত্বপূর্ণ

AI security tools-এ ব্যাখ্যাযোগ্যতা এখন অন্যতম প্রধান চ্যালেঞ্জ। অনেক ডিটেক্টর confidence score দিতে পারে, কিন্তু শুধু একটি score-ই একজন মানব পর্যালোচককে পরের পদক্ষেপ কী হবে তা নির্ধারণে সবসময় সাহায্য করে না। যদি একটি সিস্টেম নির্দিষ্ট অঞ্চল শনাক্ত করতে পারে যেগুলো পরিবর্তিত বলে মনে হয়, তাহলে ডেভেলপাররা performance আরও কার্যকরভাবে audit করতে পারেন এবং ব্যবহারকারীরা ফলাফলের ওপর আরও আস্থা পেতে পারেন। সাংবাদিকতা, আইন প্রয়োগে সহায়তা, কনটেন্ট moderation, এবং digital forensics-এর মতো ক্ষেত্রে এটি বিশেষভাবে গুরুত্বপূর্ণ, যেখানে সিদ্ধান্তের আইনি বা সুনামগত প্রভাব থাকতে পারে।

এর একটি ব্যবহারিক সুবিধাও আছে। ডিপফেক তৈরির পদ্ধতি দ্রুত পরিবর্তিত হয়, এবং ডিটেক্টরগুলো প্রায়ই তখনই দুর্বল হয়ে পড়ে যখন তারা কেবল গতকালের artifact-এর ওপর অতিরিক্তভাবে প্রশিক্ষিত থাকে। আরও স্বচ্ছ একটি সিস্টেম এটি দেখিয়ে অভিযোজনকে সহজ করতে পারে যে এটি আসলে কোন pattern ব্যবহার করছে, একক probability output-এর মধ্যে সব যুক্তি লুকিয়ে না রেখে। RealorRender-কে সেই দিকেই স্থাপন করা হচ্ছে: শুধু একটি সতর্কবার্তা নয়, বরং সেই সতর্কবার্তার ভিত্তি অনুসন্ধানের একটি হাতিয়ার হিসেবে।

উৎস পাঠে বলা হয়নি যে RealorRender ডিপফেক সমস্যার পূর্ণ সমাধান, এবং এই সংযম গুরুত্বপূর্ণ। শনাক্তকরণ এখনো একটি অস্ত্র প্রতিযোগিতা। ভালো generator ডিটেক্টরকে উন্নত হতে বাধ্য করে, আর শক্তিশালী ডিটেক্টর synthetic-image tool-কে চেনা যায় এমন চিহ্ন মুছে ফেলতে ঠেলে দেয়। তবুও, যেসব সরঞ্জাম interpretability যোগ করে এবং একাধিক বিশ্লেষণী পদ্ধতি একত্র করে, সেগুলো একক সংকীর্ণ signature-ভিত্তিক সিস্টেমের তুলনায় বেশি টেকসই হতে পারে।

প্রযুক্তিগত কাজের পাশাপাশি নীতিগত চাপও বাড়ছে

ঘোষণাটি বাড়তে থাকা নীতিগত কার্যক্রমের মধ্যেও এসেছে। সূত্রটি জানায়, UK মন্ত্রীরা ফোনে শিশুদের নগ্ন ছবির সংস্পর্শ কমাতে লক্ষ্য করে পদক্ষেপ নেওয়ার অঙ্গীকার করেছেন। এটি সমস্যার জরুরিতাকে তুলে ধরে, তবে নীতিগত লক্ষ্য এবং প্রযুক্তিগত প্রয়োগের মধ্যকার ব্যবধানও দেখায়। ক্ষতিকর কনটেন্ট তৈরি বা শেয়ার করার বিরুদ্ধে নিয়ম কার্যকর করা কঠিন, যদি প্ল্যাটফর্ম এবং প্রতিষ্ঠানগুলোর কাছে synthetic material দ্রুত ও ধারাবাহিকভাবে শনাক্ত করার বিশ্বাসযোগ্য উপায় না থাকে।

সেখানেই RealorRender-এর মতো সিস্টেম ল্যাবের বাইরে প্রাসঙ্গিক হয়ে উঠতে পারে। একটি কার্যকর ডিটেক্টর platform moderation, স্কুল ও কর্মক্ষেত্রের নিরাপত্তা ব্যবস্থা, আইন প্রয়োগে triage, এবং forensic review pipeline-এ সহায়তা করতে পারে। এটি সন্দেহজনক media কীভাবে সামলাতে হবে সে বিষয়ে আরও ভালো internal standard তৈরি করতেও সাহায্য করতে পারে, বিশেষ করে যখন প্রশ্ন শুধু একটি ছবি ভুয়া কি না তা নয়, বরং কী ধরনের manipulation ঘটতে পারে সেটিও।

তবুও, deployment-সংক্রান্ত প্রশ্ন রয়ে গেছে। উৎস পাঠে benchmark comparison, operating threshold, বা বড় পরিসরের field result দেওয়া হয়নি। এসব তথ্য ছাড়া বিভিন্ন image type, compression level, editing pipeline, বা নতুন emerging generation model-এর ক্ষেত্রে RealorRender কতটা ভালো কাজ করে তা বিচার করা এখনও খুব তাড়াতাড়ি। অনেক সময় এই কারণগুলিই ঠিক করে দেয় যে একটি সম্ভাবনাময় গবেষণা টুল নির্ভরযোগ্য operational tool-এ রূপান্তরিত হতে পারে কি না।

এই উন্নয়ন কী ইঙ্গিত দেয়

RealorRender-এর গভীর তাৎপর্য হলো ডিপফেক শনাক্তকরণ এখন classification-এর সঙ্গে reasoning aid একত্র করা সিস্টেমের দিকে এগোচ্ছে। এটি সমস্যাটির আরও পরিপক্ব বোঝাপড়া প্রকাশ করে। সিন্থেটিক মিডিয়ায় ভরা দুনিয়ায় মানুষের এমন সরঞ্জাম প্রয়োজন হবে যা শুধু সতর্কবার্তা দেয় না, বরং ব্যাখ্যা, নথিভুক্তকরণ, এবং সিদ্ধান্তের পক্ষে যুক্তি দেখাতে সাহায্য করে।

Fraunhofer IOSB-এর কাজ ইঙ্গিত দেয় যে শনাক্তকরণের পরবর্তী ধাপ প্রযুক্তিগত কঠোরতা এবং মানব-পাঠযোগ্য ব্যাখ্যাযোগ্যতার এই সংমিশ্রণে নির্ধারিত হতে পারে। যদি এই পদ্ধতি নিয়ন্ত্রিত পরিবেশের বাইরেও স্থিতিশীল প্রমাণিত হয়, তাহলে ভুল হলে সামাজিক খরচ দ্রুত বাড়ছে এমন সময়ে, বিকৃত ছবির মোকাবিলায় প্রতিষ্ঠানগুলোর প্রতিক্রিয়া এটি শক্তিশালী করতে পারে।

এই নিবন্ধটি New Atlas-এর প্রতিবেদন অবলম্বনে লেখা। মূল নিবন্ধটি পড়ুন.