Anthropic অগ্রগামী AI ধীর করার কথা তুলেছে, তবে পূর্ণ দাবিতে যায়নি

Anthropic ব্রেক টেনেছে, কিন্তু পুরোপুরি নয়

কার্যকরভাবে বাস্তবায়ন করা সম্ভব হলে frontier AI উন্নয়নের গতি অর্থপূর্ণভাবে কমানো বুদ্ধিমানের কাজ হতে পারে বলে যুক্তি দিয়ে Anthropic আবারও এই বিতর্ক উসকে দিয়েছে। Gizmodo বর্ণিত একটি কোম্পানি blog post-এ, ল্যাবটি তার নিজস্ব অভ্যন্তরীণ তথ্যের দিকে ইঙ্গিত করে সতর্ক করেছে যে উন্নত systems এমন এক বিন্দুর কাছাকাছি পৌঁছাতে পারে, যাকে “recursive self-improvement” বলা হয়, যেখানে AI systems মানুষের loop ছাড়াই নিজেদের ক্ষমতা আরও উন্নত করে।

মূল বার্তাটি যথেষ্ট স্পষ্ট ছিল যে তা নজর কেড়েছে: self-improving AI-যুক্ত একটি বিশ্ব বিজ্ঞান, স্বাস্থ্যসেবা ও অন্যান্য ক্ষেত্রে বড় সুবিধা আনতে পারে, কিন্তু একই সঙ্গে মানুষ সেই systems-এর নিয়ন্ত্রণ হারানোর ঝুঁকিও বাড়াতে পারে। একই সময়ে, Anthropic pause-এর জন্য সরাসরি কোনো operational demand দেয়নি। সূত্রের মতে, তাদের ভাষা ছিল উল্লেখযোগ্যভাবে শর্তযুক্ত।

শর্তসাপেক্ষে সাজানো সতর্কতা

কোম্পানিটি AI অগ্রগতি ধীর করার ধারণাকে Cold War-যুগের disarmament ও non-proliferation প্রচেষ্টার সঙ্গে তুলনা করেছে, ইঙ্গিত দিয়েছে যে উন্নয়নের ওপর সীমা আরোপ করলে ক্রমশ শক্তিশালী systems-এর প্রভাব মোকাবিলায় সমাজকে সাহায্য করতে পারে। কিন্তু তাদের শব্দচয়ন স্পষ্ট action call পর্যন্ত পৌঁছায়নি। লেখকরা লিখেছেন, যদি কার্যকরভাবে উন্নয়ন ধীর করে আরও সময় কেনা সম্ভব হয়, তবে তা সম্ভবত ভালোই হবে।

এই phrasing গুরুত্বপূর্ণ। এটি Anthropic-কে এমন একটি lab হিসেবে স্থাপন করে, যারা সংযম নিয়ে আলোচনা করতে প্রস্তুত, কিন্তু নিজেদের বা প্রতিদ্বন্দ্বীদের কাজ বন্ধ করা উচিত এমন সহজ, তাৎক্ষণিকভাবে যাচাইযোগ্য দাবি করতে এড়িয়ে যায়। Gizmodo-র ব্যাখ্যা হলো, কোম্পানিটি কার্যত একটি প্রস্তাব দিচ্ছে, পূর্ণ pause campaign-এ প্রতিশ্রুতিবদ্ধ হচ্ছে না।

সময় কেন গুরুত্বপূর্ণ

প্রতিবেদনটি এই বিবৃতিকে বৃহত্তর বাণিজ্যিক প্রেক্ষাপটে রাখে। Anthropic একটি বহুল প্রতীক্ষিত IPO-এর দিকে এগোচ্ছে বলে বর্ণনা করা হয়েছে, যা safety-first পরিচয় এবং ভবিষ্যৎ শেয়ারহোল্ডারদের প্রত্যাশার মধ্যে স্পষ্ট টানাপোড়েন তৈরি করে। প্রতিষ্ঠার পর থেকে Anthropic নিজেকে এমন একটি কোম্পানি হিসেবে আলাদা করতে চেয়েছে, যা AI ঝুঁকিকে গুরুত্বের সঙ্গে নেয় এবং প্রয়োজনে প্রতিদ্বন্দ্বীদের তুলনায় আরও সতর্কভাবে এগোতে রাজি।

এই অবস্থান তার জনপরিচয় নির্ধারণে সাহায্য করেছে। কিন্তু public-market-এ রূপান্তর growth, competitive positioning, এবং model progress-এর ওপর চাপও বাড়াবে। সেই দৃষ্টিকোণ থেকে, ধীরগতির পক্ষে hedged call-টি দুইভাবে পড়া যায়: একদিকে systems-এর সক্ষমতা নিয়ে substantiate করা সতর্কবার্তা, অন্যদিকে এখনও প্রতিযোগিতায় থাকা একটি কোম্পানির সাবধানে পরিমাপ করা public statement।

Recursive self-improvement-এর সীমারেখা

সূত্র Anthropic-এর অন্তর্নিহিত প্রযুক্তিগত প্রমাণ বিস্তারিতভাবে দেয়নি, তাই কোম্পানির দাবির গুরুত্ব মূলত এই যে তারা এমন দাবি করছে। Recursive self-improvement দীর্ঘদিন ধরে AI risk আলোচনায় একটি threshold scenario হিসেবে বিবেচিত, কারণ এতে এমন একটি feedback loop বোঝায় যেখানে systems মানবিক গতি বা নজরদারি ছাড়াই নিজেদের কর্মক্ষমতা উন্নত করে।

সেই অবস্থার দিকে আংশিক অগ্রগতিও governance-এর জন্য গুরুত্বপূর্ণ হবে। নিয়ন্ত্রক, lab, এবং গ্রাহকদের evaluation, control, deployment boundaries, এবং আন্তর্জাতিক সমন্বয় নিয়ে প্রশ্নের মুখোমুখি হতে হবে। Anthropic-এর যুক্তি হলো, governance challenge আরামদায়ক প্রতিষ্ঠানগুলো যত দ্রুত আশা করছে, তার চেয়েও আগে এসে যেতে পারে।

2023 pause বিতর্কের প্রতিধ্বনি

এই post 2023 সালে প্রধানত আলোচিত যুক্তিগুলোকেও ফিরিয়ে আনে, যখন Future of Life Institute সবচেয়ে শক্তিশালী নতুন models training-এর ওপর ছয় মাসের pause চেয়ে একটি open letter প্রচার করেছিল। সেই চিঠি AI risk-কে মূলধারার public debate-এ নিয়ে আসতে সাহায্য করেছিল, তবে তা বাধ্যতামূলক নীতিতে পরিণত হয়নি। সূত্রটি উল্লেখ করে, এর signatories-দের একজন Elon Musk শিগগিরই নিজের প্রতিদ্বন্দ্বী AI startup শুরু করেন।

Anthropic-এর হস্তক্ষেপের সুর ভিন্ন। সরাসরি collective demand তোলার বদলে, এটি ইঙ্গিত দিচ্ছে যে রাজনৈতিক বা বাস্তবিকভাবে কঠিন পরিস্থিতিতেও ধীর হওয়া উপকারী হতে পারে। এতে বিবৃতিটি rhetorically সমর্থন করা সহজ, কিন্তু operationally বাস্তবায়ন করা কঠিন হয়ে যায়।

এই বিবৃতি আসলে কী বদলায়

তাৎক্ষণিক প্রভাব কোনো policy shift নয়। সরবরাহকৃত উপাদানে এমন কোনো প্রমাণ নেই যে Anthropic বা বৃহত্তর শিল্প প্রকৃতপক্ষে উন্নয়ন থামিয়ে দিচ্ছে। প্রায়োগিক প্রভাবটি যুক্তির স্তরে। একটি বড় AI lab আবার প্রকাশ্যে বলছে যে race dynamics নিরাপদ governance-এর সঙ্গে অসামঞ্জস্যপূর্ণ হতে পারে।

এটি গুরুত্বপূর্ণ, কারণ সূত্র Anthropic-কে এমন বড় labs-এর মধ্যে রাখছে যেগুলো সবচেয়ে বেশি সতর্কতার সঙ্গে যুক্ত। এমন একটি কোম্পানি যখন বলে ধীর হওয়া ভালো হতে পারে, তখন এই ধারণা জোরালো হয় যে সবচেয়ে গুরুতর সতর্কতাগুলো শুধু বাইরে থেকে আসা সমালোচকদের কাছ থেকে আসছে না। সেগুলো শিল্পের ভেতরের অংশগ্রহণকারীদের কাছ থেকেও আসছে।

• Anthropic বলছে, সম্ভব হলে উন্নত AI বিকাশ ধীর করা উপকারী হতে পারে।
• কোম্পানিটি recursive self-improvement নিয়ে উদ্বেগের কথা বলছে।
• তার ভাষা তাৎক্ষণিক pause-এর সরাসরি দাবি নয়, বরং স্পষ্টভাবে শর্তাধীন।
• বিবৃতিটি প্রতিযোগিতা, নিরাপত্তা, এবং সম্ভাব্য IPO নিয়ে বৃহত্তর প্রশ্নের সঙ্গে এসেছে।

ফলে এটি এমন একটি বার্তা, যা অসম্পূর্ণ বলেই গুরুত্বপূর্ণ। Anthropic প্রতিযোগিতা বন্ধ করার কথা বলছে না। তারা শিল্পকে মনে করিয়ে দিচ্ছে যে এই দৌড়ের জন্য বাজারের বর্তমান ব্যবস্থার চেয়ে আরও কঠোর সীমা লাগতে পারে।

এই নিবন্ধটি Gizmodo-এর প্রতিবেদনের ওপর ভিত্তি করে। মূল নিবন্ধ পড়ুন.