গ্রোকের মডারেশন ব্যর্থতা নজরে আসার পর অ্যাপল হস্তক্ষেপ করে
অ-সম্মতিমূলক যৌন ডিপফেক নিয়ে অভিযোগ এবং সংবাদ প্রতিবেদন সামনে আসার পর, X এবং গ্রোকের পেছনের দলগুলিকে অ্যাপল ব্যক্তিগতভাবে সতর্ক করে যে কন্টেন্ট মডারেশন উন্নত করার একটি পরিকল্পনা দরকার। NBC News-এর উদ্ধৃত এবং The Verge-এর সারসংক্ষেপ করা প্রতিবেদনে বলা হয়েছে, কোম্পানিটি যুক্তরাষ্ট্রের সিনেটরদের জানিয়েছিল যে তারা জানুয়ারিতে উভয় ডেভেলপারের সঙ্গে যোগাযোগ করেছিল এবং পরিবর্তন দাবি করেছিল। সতর্কতাটি গুরুত্বপূর্ণ ছিল কারণ গ্রোক X-এর ভেতরেও এবং একটি স্বতন্ত্র অ্যাপ হিসেবেও উপলব্ধ ছিল, ফলে বাজারের সবচেয়ে দৃশ্যমান এআই পণ্যের একটি-এর ওপর অ্যাপলের সরাসরি চাপ প্রয়োগের সুযোগ ছিল।
মূল বিষয়টি অস্পষ্ট ছিল না। সেই সময়ে, গ্রোকের সুরক্ষাগুলো এতটাই দুর্বল বলে বর্ণনা করা হয়েছিল যে ব্যবহারকারীরা তুলনামূলক সহজে বাস্তব মানুষের যৌনায়িত ডিপফেক এবং তথাকথিত পোশাকহীন ছবি তৈরি ও শেয়ার করতে পারত। The Verge জানায়, এসব ছবি অসামঞ্জস্যভাবে নারীদের টার্গেট করছিল, এবং কিছুতে নাবালকও থাকতে পারে বলে মনে হয়েছিল। এই সমন্বয় সমস্যাটিকে এআই অপব্যবহার, অ্যাপ-স্টোর নীতি এবং শিশু-নিরাপত্তা উদ্বেগের সংযোগস্থলে নিয়ে যায়।
অ্যাপলের ভূমিকা মোবাইল ইকোসিস্টেমের একটি পুনরাবৃত্ত বিরোধও তুলে ধরে। অ্যাপ স্টোর প্রায়ই নিরাপত্তা ও কনটেন্ট নীতিতে কঠোর প্রহরী হিসেবে নিজেদের উপস্থাপন করে, তবে অপব্যবহারের সংকট ছড়িয়ে পড়ার সময় কোম্পানিটি প্রকাশ্যে নয়, নীরবে পদক্ষেপ নেয়। The Verge এই প্রতিক্রিয়াকে শিল্পের সবচেয়ে শক্তিশালী মধ্যস্থতাকারীদের একজনের ক্ষমতার মৃদু প্রয়োগ হিসেবে দেখায়। অন্তর্নিহিত আচরণ গুরুতর হওয়া সত্ত্বেও, এবং সংশ্লিষ্ট অ্যাপগুলো বিস্তৃত পৌঁছানওয়ালা বড় প্ল্যাটফর্ম হওয়া সত্ত্বেও, অ্যাপল তখন প্রকাশ্যে তার হস্তক্ষেপের কথা জানায়নি।
X অ্যাপলের জন্য যথেষ্ট উন্নতি করেছিল, কিন্তু গ্রোক করেনি
The Verge-এ বর্ণিত চিঠিতে অ্যাপল জানায়, তারা X এবং গ্রোক উভয়ের প্রস্তাবিত পরিবর্তন পর্যালোচনা করেছে। তারা সিদ্ধান্তে আসে যে X তার লঙ্ঘনগুলো উল্লেখযোগ্যভাবে সমাধান করেছে, কিন্তু গ্রোক এখনও অননুগত রয়েছে। এরপর অ্যাপল ডেভেলপারকে জানায়, আরও পরিবর্তন দরকার হবে, নইলে অ্যাপটিকে অ্যাপ স্টোর থেকে সরিয়ে দেওয়া হতে পারে। এই পার্থক্য গুরুত্বপূর্ণ, কারণ এটি ইঙ্গিত দেয় যে অ্যাপল মূল প্ল্যাটফর্ম এবং এআই পণ্যকে একই মডারেশন কেস হিসেবে দেখেনি, যদিও বাস্তবে তারা ঘনিষ্ঠভাবে যুক্ত ছিল।
এই ঘটনাটি দেখায় যে এআই পণ্য প্রচলিত সামাজিক বৈশিষ্ট্যের চেয়ে দ্রুত প্ল্যাটফর্ম শাসনবিধির সঙ্গে সংঘর্ষে পড়তে পারে। একটি চ্যাটবট যা কৃত্রিম মিডিয়া তৈরি করতে পারে, তা তাৎক্ষণিক, বড় পরিসরের এবং অত্যন্ত ব্যক্তিগত ঝুঁকি তৈরি করে। সুরক্ষা ব্যর্থ হলে, অ্যাপ স্টোরের মতো বিতরণ চ্যানেলগুলো প্রয়োগের কেন্দ্রবিন্দু হয়ে ওঠে। তাই অপসারণের হুমকি সাধারণ ডেভেলপার প্রতিক্রিয়ার চেয়ে বেশি কিছু ছিল। এটি স্বীকার করে যে জেনারেটিভ এআই টুল এমন ক্ষতি তৈরি করতে পারে যা স্টোর অপারেটরের কাছে থাকা সবচেয়ে কঠোর শাস্তি, অর্থাৎ সরাসরি অপসারণ, ছাড়া আর কিছু দিয়ে সামলানো যায় না।
Google, যা Google Play-এর মাধ্যমে এসব অ্যাপ বিতরণ করে লাভ করে, জানা গেছে এ বিষয়ে প্রকাশ্যে মন্তব্য করেনি। সেই নীরবতা শিল্পের বৃহত্তর ধারা প্রতিফলিত করে। কোম্পানিগুলো দ্রুত বেড়ে ওঠা এআই পণ্যের প্রবেশ, হোস্টিং বা দৃশ্যমানতা থেকে অর্থ উপার্জন করে, কিন্তু কোনো সিদ্ধান্ত অনিবার্য না হওয়া পর্যন্ত তারা প্রয়োগ নিয়ে আলোচনা করতে অনিচ্ছুক থাকে। ফলে, সরকারি প্রকাশের বদলে বাইরের প্রতিবেদনই জনসাধারণের জন্য এই সিস্টেমগুলো কীভাবে শাসিত হয় তার প্রধান জানালা হয়ে ওঠে।
