ক্লাউডফ্লেয়ারের ক্লেফ ডিসিশন মডেল এজেন্টদের জন্য দ্রুত এআই প্রতিশ্রুতি দিচ্ছে, মানব হস্তক্ষেপ ছাড়াই

ক্লাউডফ্লেয়ারের ক্লেফ এজেন্ট সিদ্ধান্ত স্তরকে লক্ষ্য করছে

ক্লাউডফ্লেয়ার ক্লেফ এবং ক্লেফ-ফ্ল্যাশ প্রকাশ করেছে, যা এআই এজেন্টদের জন্য তৈরি দুটি ডিসিশন মডেল এবং সরাসরি টাইপসেফ এআই-এর জেভ-কে লক্ষ্য করে। কোম্পানির মূল প্রস্তাব হলো গতি। দীর্ঘ প্রাকৃতিক ভাষার উত্তর তৈরির বদলে ক্লেফ সংক্ষিপ্ত শ্রেণীবিভাগ ফেরত দেয় যার সাথে সম্ভাব্যতা সংযুক্ত থাকে। এই সম্ভাব্যতাগুলো ডাউনস্ট্রিম কোডকে সুনির্দিষ্টভাবে কাজ করার সুযোগ দেয়, তা সাপোর্ট টিকিট রাউটিং হোক, এস্কালেশন ট্রিগার করা হোক, বা কোনো কেস মানব অপারেটরের কাছে পাঠানো হোক।

ক্লাউডফ্লেয়ারের বক্তব্য স্পষ্ট: এই ধরনের মডেলের সাথে, "এজেন্টিক সিদ্ধান্তের জন্য আর মানবকে অবশ্যই লুপে থাকতে হবে না।" তাদের বর্ণনায়, এজেন্টরা প্রোগ্রাম্যাটিকভাবে প্রেক্ষাপট সংগ্রহ করতে, সিদ্ধান্ত নিতে এবং কাজ সম্পাদন করতে পারে, তবে পরিস্থিতির প্রয়োজন হলে এখনও মানুষের কাছে সিদ্ধান্ত ছেড়ে দিতে পারে। এটি স্বায়ত্তশাসন সম্পর্কে একটি গুরুত্বপূর্ণ দাবি, এবং এটি ক্লাউডফ্লেয়ারকে এমন একটি মডেলের সাথে প্রতিযোগিতায় নামায় যা ইতিমধ্যেই এই শ্রেণীতে অগ্রণী হিসেবে প্রতিষ্ঠিত।

একটি ডিসিশন মডেল আসলে কী করে

"ডিসিশন মডেল" শব্দটি এমন একটি সিস্টেম বোঝায় যা সাধারণ-উদ্দেশ্য ভাষা মডেল এবং প্রচলিত ক্লাসিফায়ারের মাঝখানে অবস্থান করে। এটি প্রবন্ধ লেখে না বা কথোপকথন করে না। বরং, এটি একটি ইনপুট সম্পর্কে পূর্বনির্ধারিত প্রশ্নের সেটের উত্তর দেয় এবং প্রতিটি সম্ভাব্য উত্তরের জন্য একটি সম্ভাব্যতা ফেরত দেয়।

ক্লাউডফ্লেয়ারের একটি ব্যবহারিক উদাহরণে একটি গ্রাহক সাপোর্ট বার্তা রয়েছে। এমন একটি বার্তা পেলে, ক্লেফ মূল্যায়ন করতে পারে এটি কতটা জরুরি এবং কোন দল এটি পরিচালনা করা উচিত। ডাউনস্ট্রিম সিস্টেম সেই উত্তরগুলো পড়ে এবং কাজ করে: টিকিট সঠিক কিউতে রাউটিং করা, এস্কালেট করা, বা কোনো মানুষের কাছে পাঠানো। মডেলকে নিজে কখনো উত্তর রচনা করতে হয় না।

নামটি সংগীত থেকে এসেছে, যেখানে একটি ক্লেফ স্টাফের রেখাগুলোতে পিচ নির্ধারণ করে। ক্লাউডফ্লেয়ার এই উপমা ব্যবহার করে বোঝায় যে একটি ডিসিশন মডেল পরবর্তী কার্যক্রমের কাঠামো নির্ধারণ করে। জেভ-এর সাথে ধ্বনিগত মিল সম্ভবত আকস্মিক নয়।

গতিই প্রধান সংখ্যা

ক্লাউডফ্লেয়ার তার পার্থক্যকারী হিসেবে লেটেন্সির উপর জোর দিচ্ছে। ৪৩টি বেঞ্চমার্কে, কোম্পানি বলছে ক্লেফ এবং ছোট ক্লেফ-ফ্ল্যাশ সব প্রাসঙ্গিক প্রতিযোগী ডিসিশন মডেলের চেয়ে দ্রুত। রিপোর্ট করা মিডিয়ান প্রতিক্রিয়া সময় ক্লেফ-ফ্ল্যাশের জন্য প্রায় ৩৯ মিলিসেকেন্ড এবং ক্লেফের জন্য প্রায় ২০৯ মিলিসেকেন্ড। তুলনায়, ক্লাউডফ্লেয়ার জেভ-কে ৫২৪ মিলিসেকেন্ডের কিছু বেশি বলে উল্লেখ করেছে।

• ক্লেফ-ফ্ল্যাশ: প্রায় ৩৯ মিলিসেকেন্ড মিডিয়ান লেটেন্সি।
• ক্লেফ: প্রায় ২০৯ মিলিসেকেন্ড মিডিয়ান লেটেন্সি।
• জেভ: ক্লাউডফ্লেয়ারের তুলনা অনুযায়ী, ৫২৪ মিলিসেকেন্ডের কিছু বেশি।

এগুলো স্ব-প্রতিবেদিত সংখ্যা, এবং ক্লাউডফ্লেয়ারের এগুলো অনুকূলভাবে উপস্থাপনে স্পষ্ট স্বার্থ রয়েছে। তবুও, তারা যে ব্যবধান বর্ণনা করেছে তা যথেষ্ট বড় যাতে এমন সিস্টেমে গুরুত্বপূর্ণ হয় যেখানে পরপর অনেক ছোট সিদ্ধান্ত ঘটে। প্রতিক্রিয়া সময়ে দশগুণ পার্থক্য নির্ধারণ করতে পারে একটি এজেন্ট সাড়াদায়ী মনে হবে নাকি ধীরগতির, এবং এটি নির্ধারণ করতে পারে একটি পাইপলাইন ব্যবহারকারীর বিলম্ব লক্ষ্য করার আগে কত ধাপ নিতে পারে।

ক্লাউডফ্লেয়ার আরও উল্লেখ করেছে যে উভয় মডেল সরাসরি তাদের নিজস্ব অবকাঠামোতে চলে। কোম্পানি বলছে এটি তাদের এজ ডেটা সেন্টারগুলোর নৈকট্য থেকে সুবিধা পেতে দেয়, যা সিদ্ধান্ত ফেরত আসার আগে ডেটা যে দূরত্ব অতিক্রম করে তা কমাতে পারে।

কোয়েন-এর উপর নির্মিত, জেভ-এর সাথে সামঞ্জস্যপূর্ণ

ক্লাউডফ্লেয়ার অনুযায়ী, ক্লেফ এবং ক্লেফ-ফ্ল্যাশ উভয়ই কোয়েন-এর উপর নির্মিত, এবং উভয়ই টেক্সট ও ছবি সমর্থন করে। এই মাল্টিমোডাল সক্ষমতা এজেন্ট ওয়ার্কফ্লোর জন্য গুরুত্বপূর্ণ যেখানে স্ক্রিনশট, স্ক্যান করা ডকুমেন্ট বা অন্যান্য ভিজ্যুয়াল ইনপুট টেক্সটের পাশাপাশি ব্যাখ্যা করতে হয়।

গ্রহণের জন্য সমান গুরুত্বপূর্ণ, ক্লাউডফ্লেয়ার API সম্পূর্ণভাবে জেভ-এর সাথে সামঞ্জস্যপূর্ণ রেখেছে। যেসব গ্রাহক ইতিমধ্যে টাইপসেফ এআই-এর মডেল ব্যবহার করছেন তারা তাদের ইন্টিগ্রেশন পুনর্লিখন ছাড়াই সুইচ করতে পারেন। এই সামঞ্জস্য একটি চিরাচরিত প্রতিযোগিতামূলক পদক্ষেপ: এটি বিকল্প চেষ্টার খরচ কমায় এবং গতির তুলনাকে সিদ্ধান্তের প্রধান চলকে পরিণত করে।

ভাষা মডেল এবং ক্লাসিফায়ারের মধ্যবর্তী শূন্যতা পূরণ

ক্লাউডফ্লেয়ার ক্লেফ-কে এমন একটি নিশে অবস্থান করছে যা পূরণ করা অস্বস্তিকর ছিল। বড় ভাষা মডেল একটি সমস্যা সম্পর্কে যুক্তি করতে এবং টুল কল করতে পারে, কিন্তু তাদের আউটপুট প্রতিবার পরিবর্তিত হয়, এবং তারা ধীর হতে পারে। প্রচলিত ক্লাসিফায়ার দ্রুত, কিন্তু নতুন শ্রেণী প্রবর্তনের সময় সাধারণত পুনঃপ্রশিক্ষণ প্রয়োজন। একটি ডিসিশন মডেল ক্লাসিফায়ারের গতি ও পূর্বানুমেয়তা নেওয়ার লক্ষ্য রাখে, একই সাথে এজেন্টিক সিস্টেমের প্রয়োজনীয় নমনীয়তা বজায় রাখে।

এই প্রযুক্তি কোথায় মানানসই তা ভাবার সময় এই পার্থক্য কার্যকর:

• ভাষা মডেল হলো সাধারণ-উদ্দেশ্য যুক্তিকারী যাদের আউটপুট নমনীয় কিন্তু পরিবর্তনশীল এবং তুলনামূলকভাবে ধীর।
• প্রচলিত ক্লাসিফায়ার দ্রুত ও সামঞ্জস্যপূর্ণ কিন্তু অনমনীয়, প্রতিটি নতুন শ্রেণীর জন্য পুনঃপ্রশিক্ষণ প্রয়োজন।
• ডিসিশন মডেল পূর্বনির্ধারিত বিকল্পের উপর সম্ভাব্যতা ফেরত দেয়, গতি, কাঠামো এবং এজেন্ট পাইপলাইনের জন্য যথেষ্ট নমনীয়তার লক্ষ্য রাখে।

এজেন্ট তৈরি করা দলগুলোর জন্য, আকর্ষণ সরল। একটি এজেন্ট যাকে বারবার সিদ্ধান্ত নিতে হয় এস্কালেট, রাউট, ট্যাগ বা বিরতি দেবে কিনা, তার প্রতিবার সম্পূর্ণ জেনারেটিভ উত্তর প্রয়োজন নেই। তার প্রয়োজন একটি দ্রুত সংকেত যা সে কাজ করার জন্য যথেষ্ট বিশ্বাস করতে পারে।

লুপে মানুষ, নাকি বেঞ্চে

ক্লাউডফ্লেয়ারের বার্তার সবচেয়ে উসকানিমূলক অংশ হলো এই ইঙ্গিত যে প্রতিটি এজেন্টিক সিদ্ধান্তের জন্য মানব তদারকি আর বাধ্যতামূলক ধাপ নয়। ক্লাউডফ্লেয়ার এমন একটি ব্যবস্থা বর্ণনা করে যেখানে এজেন্টরা প্রেক্ষাপট সংগ্রহ করে, সিদ্ধান্ত নেয় এবং প্রোগ্রাম্যাটিকভাবে কাজ করে, একই সাথে প্রয়োজনে মানুষের কাছে সিদ্ধান্ত ছেড়ে দেওয়ার বিকল্প রাখে।

সেই বাক্যাংশ, "প্রয়োজনে," অনেক কাজ করছে। একটি ডিসিশন মডেল যা সম্ভাব্যতা ফেরত দেয় তা স্বয়ংক্রিয় কার্যক্রম সমর্থন করতে পারে, কিন্তু একজন ব্যক্তি ছাড়া কাজ করার থ্রেশহোল্ড হলো সিস্টেম নির্মাতার নেওয়া একটি ডিজাইন সিদ্ধান্ত। উচ্চ-আত্মবিশ্বাসের রাউটিং সিদ্ধান্ত স্বয়ংক্রিয় করা নিরাপদ হতে পারে; একজন বিরক্ত গ্রাহক, নিরাপত্তা সমস্যা, বা আর্থিক প্রতিশ্রুতি জড়িত একটি এস্কালেশন মডেল আত্মবিশ্বাসী হলেও পর্যালোচনার প্রয়োজন হতে পারে। প্রযুক্তি দ্রুত স্বয়ংক্রিয়করণ সম্ভব করে, কিন্তু এটি নিজে থেকে সীমারেখা কোথায় টানতে হবে তা নির্ধারণ করে না।

সম্ভাব্যতা আউটপুটও নিশ্চয়তার সমান নয়। একটি শ্রেণীবিভাগ ভুল হতে পারে, এবং একটি দ্রুত ভুল উত্তর একটি ধীর উত্তরের চেয়ে দ্রুত একটি পাইপলাইনে ছড়িয়ে পড়তে পারে। তাই একটি ডিসিশন মডেলের মূল্য কেবল লেটেন্সির উপর নয়, ক্যালিব্রেশন এবং আশেপাশের সিস্টেম অনিশ্চয়তা কতটা সুন্দরভাবে সামলায় তার উপরও নির্ভর করে।

ক্লেফ চালু হওয়ার সময় কী দেখতে হবে

ক্লাউডফ্লেয়ারের দাবিগুলো সুনির্দিষ্ট ও পরিমাপযোগ্য, যা সেগুলোকে পরীক্ষাযোগ্য করে। স্বাধীন বেঞ্চমার্ক গুরুত্বপূর্ণ হবে, বিশেষত ক্লাউডফ্লেয়ার যে ৪৩টি বেঞ্চমার্ক উল্লেখ করেছে এবং ভেন্ডর টেস্ট স্যুট থেকে ভিন্ন বাস্তব-বিশ্বের ওয়ার্কলোডে। জেভ তুলনাও পরীক্ষা করা হবে, কারণ টাইপসেফ এআই-এর মডেল হলো সেই প্রতিষ্ঠিত প্রতিদ্বন্দ্বী যাকে ক্লেফ স্পষ্টভাবে আকৃষ্ট করার চেষ্টা করছে।

ক্লেফ এজেন্ট নির্মাতাদের জন্য ডিফল্ট পছন্দ হবে কিনা তা কয়েকটি প্রশ্ন নির্ধারণ করবে:

• স্বাধীন পরীক্ষা কি লেটেন্সি সুবিধা পুনরুৎপাদন করে, বিশেষত উৎপাদন লোডে?
• মডেলগুলো এজ কেস, অস্পষ্ট ইনপুট এবং পূর্বানুমান না করা শ্রেণীগুলো কত ভালো সামলায়?
• এজ নৈকট্য কি বিশ্বব্যাপী বিতরণ করা অ্যাপ্লিকেশনের জন্য অর্থপূর্ণ লাভে রূপান্তরিত হয়?
• সামঞ্জস্যপূর্ণ API দেওয়া, দলগুলো কত সহজে বিদ্যমান জেভ ইন্টিগ্রেশন স্থানান্তর করতে পারে?

ক্লাউডফ্লেয়ার ক্লেফ-কে সেই মুহূর্ত হিসেবে উপস্থাপন করেছে যখন এজেন্টদের প্রতিটি সিদ্ধান্তের জন্য আর লুপে মানুষের প্রয়োজন হয় না। আরও সঠিক পাঠ হতে পারে যে এটি সেই পছন্দকে সস্তা ও দ্রুত করে তোলে। স্বায়ত্তশাসন প্রসারিত হবে কিনা তা মডেলের উপর কম এবং দলগুলো তার চারপাশে যে গার্ডরেল তৈরি করে তার উপর বেশি নির্ভর করবে।

এই নিবন্ধটি দ্য ডিকোডারের প্রতিবেদনের উপর ভিত্তি করে। মূল নিবন্ধ পড়ুন।