হাগিং ফেস ডিপফেক নুডিফাই মডেল নিয়ে তদন্তের মুখে

ওপেন মডেল হোস্টিং ক্রমবর্ধমান ডিপফেক অপব্যবহার সমস্যার সঙ্গে সংঘর্ষে পড়ছে

হাগিং ফেস কৃত্রিম বুদ্ধিমত্তায় সবচেয়ে গুরুত্বপূর্ণ বিতরণ কেন্দ্রগুলির একটি হয়ে উঠেছে, বিশেষ করে ওপেন-সোর্স ও ওপেন-ওয়েট মডেলের জন্য। কিন্তু The Verge উদ্ধৃত একটি নতুন প্রতিবেদন বলছে, প্ল্যাটফর্মটি এখন সম্মতিহীন যৌনায়িত ডিপফেকের জন্যও একটি কম-ঘর্ষণ পথ হয়ে উঠছে, যার মধ্যে নারী ও শিশুদের লক্ষ্য করে তৈরি বিষয়বস্তুও রয়েছে। এই অনুসন্ধান আরও বৃহৎ একটি বিতর্কে চাপ বাড়াচ্ছে: মডেল রিপোজিটরিগুলোকে কি নিরপেক্ষ অবকাঠামো হিসেবে দেখা হবে, নাকি এগুলোকে পূর্বানুমেয় অপব্যবহার সীমিত করার দায়িত্বসম্পন্ন সক্রিয় দ্বাররক্ষী হিসেবে গণ্য করা হবে?

ইউরোপীয় অলাভজনক সংস্থা AI Forensics-এর প্রতিবেদন অনুযায়ী, হাগিং ফেসে পরীক্ষিত শীর্ষ নয়টি ইমেজ-এডিটিং মডেলের মধ্যে সাতটি, নারীদের “উলঙ্গ” করার উদ্দেশ্যযুক্ত প্রম্পট সহজেই মেনে নিয়েছিল। দলটি বলেছে, তারা জটিল জেলব্রেকিং কৌশল নয়, বরং সরল অনুরোধ ব্যবহার করেছিল, তবু দেখেছে সিস্টেমগুলো প্রায়ই চাওয়া আউটপুট তৈরি করে। এটি গুরুত্বপূর্ণ, কারণ এতে বোঝা যায় সমস্যা কেবল অত্যন্ত দক্ষ আক্রমণকারীদের মধ্যে সীমাবদ্ধ নয়। একটি সাধারণ প্রম্পট যদি কাজ করে, তাহলে অপব্যবহারের বাধা এতটাই কম যে সাধারণ অপব্যবহারও সহজ হয়ে যায়।

প্রতিবেদনটি এই আচরণকে বড় কোম্পানিগুলোর প্রধান ভোক্তা এআই সিস্টেমে দেখা শক্তিশালী সুরক্ষার সঙ্গে তুলনা করেছে। The Verge জানায়, Google Gemini ও OpenAI ChatGPT-এর মতো মূলধারার জেনারেটিভ এআই পণ্য সাধারণত বাস্তব মানুষকে উলঙ্গ বা যৌনায়িত করার চেষ্টা করা প্রম্পট ব্লক করে। এর বিপরীতে, পরীক্ষিত হাগিং ফেস মডেলগুলোতে এই বিষয়ে প্ল্যাটফর্ম-স্তরের সুরক্ষা দুর্বল বা প্রায় অনুপস্থিত বলে মনে হয়েছে।

AI Forensics-এর পরীক্ষায় কী পাওয়া গেছে

অলাভজনক সংস্থার ফলাফল দুটি সম্পর্কিত উদ্বেগের দিকে ইঙ্গিত করে: মডেলের আচরণ এবং ব্যবহারকারীর চাহিদা। মডেল দিক থেকে, পরীক্ষিত ইমেজ-এডিটিং সিস্টেমগুলো নাকি ছবির থেকে পোশাক সরানোর সরাসরি নির্দেশ মেনে নিতে প্রস্তুত ছিল। চাহিদার দিক থেকে, AI Forensics হাগিং ফেসে “হানিপট” ইমেজ-এডিটিং Spaces তৈরি করে দেখে ব্যবহারকারীরা কী ধরনের প্রম্পট দিচ্ছেন, তবে সেই Spaces এমনভাবে বানানো ছিল যাতে তারা অনুরোধ পূরণ না করে।

সাত দিনের মধ্যে ওই হানিপটগুলোতে 1,000-এর বেশি প্রম্পট ও ছবি এসেছে বলে সংস্থাটি জানায়। এর 73 শতাংশ ছিল যৌন প্রকৃতির। যৌন অনুরোধগুলোর 83 শতাংশ ছবির মানুষকে উলঙ্গ করার চেষ্টা করেছে, আর তাদের মধ্যে 95 শতাংশ লক্ষ্য ছিল নারী। The Verge-এর প্রতিবেদনে বলা হয়েছে, যৌন অনুরোধের প্রায় 7 শতাংশ শিশুদের লক্ষ্য করে ছিল।

এই পরিসংখ্যানগুলো পুরো প্ল্যাটফর্ম জুড়ে অপব্যবহারের মোট মাত্রা প্রমাণ করে না। তবে এগুলো দেখায়, এমন সক্ষমতাসম্পন্ন টুল সহজলভ্য হলে ব্যবহারকারীর উদ্দেশ্য কোন দিকে কেন্দ্রীভূত হয়। এই ধারা বিশেষভাবে গুরুত্বপূর্ণ, কারণ এটি দেখায় অপব্যবহার কোনো প্রান্তিক ঘটনা নয়। হানিপট Spaces-এ আসা অনুরোধগুলো একটিমাত্র ক্ষতিকর ব্যবহারের দিকে কেন্দ্রীভূত ছিল: সাধারণ ছবিকে সম্মতি ছাড়া যৌনায়িত ডিপফেক-এ রূপান্তর করা।

এটি শুধু মডেলের সমস্যা নয়, প্ল্যাটফর্মেরও সমস্যা

প্রতিবেদনের সবচেয়ে গুরুত্বপূর্ণ দাবি কেবল এই নয় যে কিছু ওপেন মডেল অপব্যবহারযোগ্য। তা বহুদিন ধরেই জানা। আরও তীক্ষ্ণ সমালোচনা হলো, “প্ল্যাটফর্ম স্তরে একেবারেই কোনো সুরক্ষা প্রয়োগ করা হচ্ছে না,” যেমন The Verge উদ্ধৃত করেছে। বাস্তবে, এটি দৃষ্টি সরিয়ে ব্যক্তিগত মডেল নির্মাতাদের থেকে হোস্টিং স্তরের দিকে নিয়ে যায়, যে স্তর ব্যবহারকারীদের মডেল খুঁজে পেতে, চালাতে এবং ভাগ করতে সাহায্য করে।

হাগিং ফেস এআই ইকোসিস্টেমে বিশেষ অবস্থান রাখে, কারণ এটি একই সঙ্গে রিপোজিটরি এবং নির্বাহী পরিবেশ। মডেল আপলোড, বেঞ্চমার্ক করা যায়, এবং অনেক ক্ষেত্রে Spaces নামে ব্রাউজার-ভিত্তিক ডেমোর মাধ্যমে সরাসরি চেষ্টা করা যায়। এই সমন্বয় বৈধ গবেষণা ও উন্নয়নের বাধা কমায়, কিন্তু মডারেশন ও অ্যাক্সেস নিয়ন্ত্রণ ঠিক না থাকলে অপব্যবহারের বাধাও কমায়।

সুতরাং, এই প্রতিবেদন একটি নীতিগত প্রশ্ন তুলছে, যা এক কোম্পানির বাইরেও প্রতিধ্বনিত হতে পারে: অপব্যবহারের ধরণ যদি স্পষ্ট, পুনরাবৃত্তিযোগ্য এবং সামাজিকভাবে ক্ষতিকর হয়, তবে অবকাঠামো সরবরাহকারীদের কী দায়িত্ব আরোপিত হয়? যৌন ডিপফেকের ক্ষেত্রে এই প্রশ্নটি বিশেষভাবে গুরুতর, কারণ ক্ষতি তাৎক্ষণিক এবং ফিরিয়ে আনা কঠিন। এমন উপাদান একবার তৈরি ও ছড়িয়ে পড়লে তা সুনাম নষ্ট করতে পারে, ভুক্তভোগীদের হয়রানির মুখে ফেলতে পারে, এবং অপ্রাপ্তবয়স্কদের জড়িত ক্ষেত্রে গুরুতর আইনি ও নৈতিক পরিণতি ডেকে আনতে পারে।

এই ফলাফলগুলোও দেখায়, ওপেন-মডেল বিতর্ক কীভাবে বদলাচ্ছে। আগে আলোচনা ছিল, শক্তিশালী মডেল প্রকাশ করলে উদ্ভাবন ত্বরান্বিত হবে নাকি ঝুঁকি বাড়বে। এখন উদ্বেগ অনেক বেশি অপারেশনাল: ওপেননেস মূল্যবান হলেও, ফিল্টার, টেকডাউন, ব্যবহার-সীমা, অপব্যবহার-সনাক্তকরণ কোথায় থাকবে? মডেল ওয়েট ব্যাপকভাবে উন্মুক্ত থাকলে, প্ল্যাটফর্ম ইন্টারফেসই হতে পারে নিরাপত্তা প্রত্যাশা কার্যকর করার প্রধান জায়গা।

এখন কেন এটি গুরুত্বপূর্ণ

সময়ও এখানে গুরুত্বপূর্ণ, কারণ একাধিক অঞ্চলের নিয়ন্ত্রক ও আইনপ্রণেতারা এখন বিমূর্ত এআই-নিরাপত্তা আলোচনার বদলে পরিচয় জালিয়াতি, প্রতারণা, এবং অন্তরঙ্গ-চিত্র অপব্যবহারের মতো নির্দিষ্ট ক্ষতির দিকে এগোচ্ছেন। The Verge এই ইস্যুটিকে ডিপফেকের বিরুদ্ধে বৃহত্তর দমন অভিযান এবং শিশুদের জড়িত যৌনায়িত কন্টেন্ট তৈরি করা ইমেজ সিস্টেমের সাম্প্রতিক নজরদারির সঙ্গে যুক্ত করেছে। সেই প্রেক্ষাপটে, ইমেজ-এডিটিং টুল হোস্ট করা রিপোজিটরিগুলো নীতিগত দৃষ্টি থেকে দূরে থাকতে পারবে না।

এআই শিল্পের জন্য এই ঘটনা আবারও মনে করিয়ে দেয় যে বিশ্বাস কেবল মডেলের সক্ষমতা দিয়ে নয়, ডিফল্ট সেটিং দিয়েও তৈরি হয়। একটি সিস্টেমকে গুরুতর ক্ষতি করতে ফ্রন্টিয়ার-স্তরের বুদ্ধিমত্তার প্রয়োজন নেই, যদি সেটি সহজে পাওয়া যায় এবং বাস্তবসম্মত ইমেজ ম্যানিপুলেশনের জন্য টিউন করা থাকে। সেই অর্থে, AI Forensics যে অপব্যবহার পথের কথা বলছে, তা ভবিষ্যতের অনুমানভিত্তিক ঝুঁকির চেয়ে বর্তমান পণ্য-নকশার সিদ্ধান্তের সঙ্গেই বেশি সম্পর্কিত।

ওপেন-সোর্স সম্প্রদায়ের জন্যও এর একটি সুনামগত দিক আছে। অনেক সমর্থক, যথার্থ কারণেই, বলেন যে ওপেন অ্যাক্সেস স্বচ্ছতা, স্বাধীন অডিটিং, এবং এআই উন্নয়নে বিস্তৃত অংশগ্রহণকে সমর্থন করে। কিন্তু যখন উচ্চ-প্রোফাইল অপব্যবহারের ঘটনাগুলো ওপেন প্ল্যাটফর্মে বেশি সহজে ঘটতে দেখা যায়, তুলনায় বেশি নিয়ন্ত্রিত বাণিজ্যিক সিস্টেমে, তখন সেই যুক্তি দুর্বল হয়। ওপেন এআই শাসনের বিশ্বাসযোগ্যতা ক্রমশ নির্ভর করতে পারে এই প্রমাণ করার ওপর যে উন্মুক্ততা ও কার্যকর সুরক্ষা একসঙ্গে থাকতে পারে।

কী দেখবেন

• Hugging Face কি প্রতিবেদনের জবাবে মডেল-হোস্টিং বা Space-স্তরের মডারেশনে পরিবর্তন আনে কি না।
• অলাভজনক সংস্থা, সাংবাদিক, বা নিয়ন্ত্রকরা কি একই সহজ প্রম্পট পদ্ধতি ব্যবহার করে ফলাফল পুনরায় তৈরি করতে পারেন কি না।
• প্ল্যাটফর্মগুলো মডেল ফাইল হোস্ট করা এবং ঝুঁকিপূর্ণ ইমেজ-এডিটিং টুলের ব্রাউজার-ভিত্তিক ভোক্তা অ্যাক্সেস সক্ষম করার মধ্যে পার্থক্য করা শুরু করে কি না।
• নীতিনির্ধারকেরা যৌন ডিপফেক তৈরিকে শুধু ব্যবহারকারী-অপব্যবহারের বিষয় নয়, প্ল্যাটফর্ম-শাসনের বিষয় হিসেবেও দেখেন কি না।

তাৎক্ষণিক সারকথা সরল। The Verge বর্ণিত প্রতিবেদন বলছে, ওয়েবে সবচেয়ে দৃশ্যমান কিছু ওপেন এআই অবকাঠামো অতি সামান্য চেষ্টায় সম্মতিহীন যৌনায়িত ডিপফেক তৈরি করতে ব্যবহার করা যেতে পারে। যদি এই ফলাফলগুলো আরও বিস্তৃত পরীক্ষাতেও টিকে থাকে, তবে রিপোজিটরিগুলো কেবল নিষ্ক্রিয় হোস্ট—এই যুক্তি ধরে রাখা আরও কঠিন হয়ে যাবে।

এই নিবন্ধটি The Verge-এর প্রতিবেদনের ভিত্তিতে লেখা। মূল নিবন্ধটি পড়ুন.