কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে সম্মতিহীন অন্তরঙ্গ ছবি তৈরি করা অ্যাপ্লিকেশনগুলিকে আরও স্পষ্টভাবে লক্ষ্য করে Apple তার App Store-এর নিয়ম আপডেট করেছে। এই পরিবর্তনে এমন উপাদান ঠেকানো ও সরানোর দায়িত্ব ডেভেলপারদের ওপর আরও স্পষ্টভাবে দেওয়া হয়েছে। কোনও ডেভেলপার পর্যাপ্ত সুরক্ষা ব্যবস্থা চালু না করলে বা নোটিস পাওয়ার পর লঙ্ঘন সংশোধনে ব্যর্থ হলে অ্যাপ স্টোর থেকে সরিয়ে দেওয়া হতে পারে বলেও সতর্ক করা হয়েছে।
নীতির এই আপডেটটি সেই শ্রেণির অ্যাপকে লক্ষ্য করে, যেগুলিকে প্রায়ই “nudify” অ্যাপ বলা হয়: মানুষের সম্মতি ছাড়াই তাদের যৌনায়িত বা অন্তরঙ্গ দেখায় এমন ছবি তৈরির জন্য বানানো সফটওয়্যার। জেনারেটিভ-AI টুলের কারণে ভোক্তা সফটওয়্যারের মাধ্যমে ছবি বদলে ছড়িয়ে দেওয়া সহজ হয়ে ওঠার সময় Apple-এর সংশোধিত ভাষা এই নিষেধাজ্ঞাকে আরও সরাসরি তুলে ধরেছে।
আরও স্পষ্ট moderation দায়িত্ব
আপডেট করা নিয়ম অনুযায়ী, কনটেন্ট-moderation-এর দায়িত্বের অংশ হিসেবে ডেভেলপারদের সক্রিয়ভাবে সম্মতিহীন যৌন ছবি ঠেকাতে ও সরাতে হবে। এই ভাষা গুরুত্বপূর্ণ, কারণ এতে বিষয়টিকে কেবল একটি নির্দিষ্ট ফিচারের ওপর নিষেধাজ্ঞা হিসেবে দেখা হয়নি। যোগ্য অ্যাপের পরিচালকদের নিষিদ্ধ ব্যবহার শনাক্ত, মোকাবিলা ও বন্ধ করার কার্যকর ব্যবস্থা রাখতে হবে—এমন প্রত্যাশাও এতে তৈরি হয়েছে।
Apple বলছে, পর্যাপ্ত সুরক্ষা ব্যবস্থা না নেওয়া বা নোটিস পাওয়ার পর লঙ্ঘন মোকাবিলা না করা ডেভেলপারদের App Store থেকে সরিয়ে দেওয়া হতে পারে। ফলে যে ডেভেলপারদের পণ্য ব্যবহারকারীদের এই ধরনের ছবি তৈরি, হোস্ট বা প্রচার করতে দেয়, তাদের জন্য এই নীতি একটি compliance ঝুঁকি তৈরি করছে।
“bait-and-switch” অ্যাপের বিরুদ্ধেও Apple তার নিয়ম স্পষ্ট করেছে। কোম্পানির বক্তব্য, App Store অনুমোদনের পর এমনভাবে কোনও অ্যাপের কার্যকারিতা যোগ বা বদলানো যাবে না, যাতে nudification-সহ নিষিদ্ধ সক্ষমতা যুক্ত হয়। এই স্পষ্টীকরণ একটি বাস্তব প্রয়োগ-সমস্যাকে লক্ষ্য করছে: কোনও অ্যাপের ডেভেলপার সেটি চালু হওয়ার পর ফিচার বদলে দিলে, তার পরবর্তী আচরণ বোঝার ক্ষেত্রে প্রাথমিক পর্যালোচনার অবস্থা খুব নির্ভরযোগ্য নির্দেশক নাও হতে পারে।
Deepfake বিতর্কের পর চাপ
এই সংশোধনগুলি Apple-এর সমালোচনার পর এসেছে। চলতি বছরের শুরুতে X-এর ব্যবহারকারীরা Grok ব্যবহার করে সম্মতিহীন যৌন deepfake তৈরি করেছিলেন; এর মধ্যে অপ্রাপ্তবয়স্কদের জড়িত ছবি ছিল। Apple X বা Grok-কে App Store থেকে সরায়নি, যদিও তারা সেনেটরদের জানিয়েছিল যে Grok সরিয়ে দেওয়ার হুমকি দিয়েছিল।
জুনে Apple-এর Worldwide Developers Conference-এও জনচাপ প্রকাশ পায়। বিক্ষোভকারীরা Apple-কে App Store থেকে Grok, X এবং nudify প্রযুক্তি সরানোর আহ্বান জানান। জুলাইয়ে সান ফ্রান্সিসকোর এক সিটি অ্যাটর্নি Apple-কে ১৩টি nudify অ্যাপ সরানোর নির্দেশ দেন; Apple জানায়, তারা তা করেছে।
নতুন ভাষা ওই ঘটনার উত্থাপিত সব প্রশ্নের সমাধান করে না—বড় প্ল্যাটফর্ম ও AI পরিষেবার ক্ষেত্রে Apple কতটা বিস্তৃতভাবে নিয়ম প্রয়োগ করবে, তার প্রশ্নও এর মধ্যে রয়েছে। তবে কোম্পানির ঘোষিত মানদণ্ডটি এখন সহজে চিহ্নিত করা যায়: পর্যালোচনার সময় নিজেদের nudification টুল হিসেবে উপস্থাপন না করলেই অ্যাপের দায় শেষ হয় না। সম্মতিহীন অন্তরঙ্গ ছবি তৈরি ও ছড়িয়ে পড়া থেকেও তাদের সুরক্ষা দিতে হবে।
বিতরণ নিয়ন্ত্রণও নীতির অংশ
মানব পাচার বা শিশু শোষণে সহায়তা করা অ্যাপগুলি App Store থেকে সরিয়ে দেওয়া হবে এবং বিকল্প বিতরণ থেকেও ব্লক করা হবে—Apple-এর আপডেটে এ কথাও আরও স্পষ্টভাবে বলা হয়েছে। সফটওয়্যার কীভাবে ব্যবহারকারীদের কাছে পৌঁছায়, সে বিষয়ে Apple-এর বিস্তৃত নিয়ন্ত্রণের সঙ্গে সংশোধিত moderation ভাষাকে এই বিধান যুক্ত করেছে।
অ্যাপ নির্মাতাদের জন্য এই পরিবর্তন পণ্য নকশা ও চলমান পরিচালনার গুরুত্ব বাড়াচ্ছে। ছবি তৈরি, সামাজিক শেয়ারিং বা ব্যবহারকারীর আপলোড করা কনটেন্টের সুবিধা দেওয়া ডেভেলপারদের ভাবতে হবে, কীভাবে নিষিদ্ধ ব্যবহার ঠেকানো যায়, লঙ্ঘনকারী উপাদান সরানো যায় এবং Apple বা অন্য কোনও পক্ষ সমস্যা জানালে কীভাবে প্রতিক্রিয়া জানানো যায়। নীতির ভাষা বিশেষভাবে ডেভেলপারদের সক্রিয়ভাবে পদক্ষেপ নেওয়ার দায়িত্ব দিয়েছে।
ব্যবহারকারীদের জন্য, এই পরিবর্তন দেখায় যে AI-সক্ষম সম্মতিহীন অন্তরঙ্গ ছবিকে Apple App Store প্রয়োগের আরও স্পষ্ট একটি বিষয় হিসেবে দেখছে। কোম্পানির নিয়ম এখন ক্ষতিকর কনটেন্ট এবং একটি অ্যাপ কীভাবে compliance-এর বাইরে চলে যেতে পারে—দুটিই চিহ্নিত করছে: অপর্যাপ্ত সুরক্ষা ব্যবস্থা, অমীমাংসিত লঙ্ঘন বা অনুমোদনের পর এমন ফিচার পরিবর্তন, যা nudification চালু করে।
এই স্পষ্টীকরণ কেন গুরুত্বপূর্ণ
App stores ভোক্তা AI টুলের প্রধান প্রবেশদ্বার, এবং তাদের নিয়ম ঠিক করতে পারে কোন পণ্যগুলি ব্যাপকভাবে উপলভ্য থাকবে। Apple-এর আপডেট মূল প্রযুক্তি বা তার স্টোরের বাইরে অপব্যবহারের ঝুঁকি দূর করে না। তবে App Store-এ বিতরণ চাইছে এমন ডেভেলপারদের জন্য কোম্পানির প্রত্যাশা আরও নির্দিষ্ট করে।
এই পরিবর্তন আরও দেখায় যে AI নীতি বিমূর্ত নীতি থেকে কার্যকরী দায়িত্বের দিকে এগোচ্ছে। সম্মতিহীন যৌন ছবি অগ্রহণযোগ্য—Apple শুধু এটুকু বলছে না। তারা এই মানদণ্ডকে moderation-এর প্রয়োজনীয়তা, সংশোধনমূলক পদক্ষেপ, স্টোর থেকে সরানো এবং বিকল্প বিতরণে নিষেধাজ্ঞার সঙ্গে যুক্ত করছে।
এই নিয়ম কতটা জোরালোভাবে প্রয়োগ করা হবে, তার ওপরই বাস্তব প্রভাব নির্ভর করবে। তাৎক্ষণিক নীতিগত পরিবর্তনটি স্পষ্ট: যে ডেভেলপারদের অ্যাপ সম্মতিহীন অন্তরঙ্গ ছবি তৈরি বা বিতরণে ব্যবহার করা যায়, তাদের তা বন্ধ করার আরও স্পষ্ট দায়িত্ব রয়েছে; আর যারা তা করবে না, তাদের জন্য Apple আরও কঠোর পরিণতি নির্ধারণ করেছে।
এই প্রতিবেদনটি The Verge-এর রিপোর্টিংয়ের ওপর ভিত্তি করে লেখা। মূল প্রতিবেদন পড়ুন।
Originally published on theverge.com