Cloudflare के Clef निर्णय मॉडल मानव की भागीदारी के बिना तेज़ AI एजेंट का वादा करते हैं

Cloudflare का Clef एजेंट निर्णय परत को लक्षित करता है

Cloudflare ने Clef और Clef-flash जारी किए हैं, जो AI एजेंट के लिए बनाए गए निर्णय मॉडल की एक जोड़ी है और सीधे TypeSafe AI के Jev को निशाना बनाते हैं। कंपनी का मुख्य प्रस्ताव गति है। लंबा प्राकृतिक-भाषा उत्तर देने के बजाय, Clef संभाव्यताओं के साथ एक संक्षिप्त वर्गीकरण लौटाता है। ये संभाव्यताएँ डाउनस्ट्रीम कोड को कार्रवाई करने के लिए ठोस आधार देती हैं, चाहे वह सपोर्ट टिकट को रूट करना हो, एस्केलेशन ट्रिगर करना हो, या किसी मामले को मानव ऑपरेटर को सौंपना हो।

Cloudflare का ढाँचा स्पष्ट है: इस तरह के मॉडल के साथ, "एजेंटिक निर्णयों के लिए अब जरूरी नहीं कि कोई मानव लूप में शामिल हो।" अपने विवरण में, एजेंट प्रोग्रामेटिक रूप से संदर्भ जुटा सकते हैं, निर्णय ले सकते हैं और कार्यों पर कार्रवाई कर सकते हैं, जबकि स्थिति की मांग होने पर किसी व्यक्ति को भी शामिल कर सकते हैं। यह स्वायत्तता के बारे में एक महत्वपूर्ण दावा है, और यह Cloudflare को उस मॉडल के साथ प्रतिस्पर्धा में खड़ा करता है जो इस श्रेणी में पहले से ही अग्रणी के रूप में स्थापित है।

निर्णय मॉडल वास्तव में क्या करता है

"निर्णय मॉडल" शब्द उस प्रणाली को दर्शाता है जो सामान्य-उद्देश्य वाले भाषा मॉडल और पारंपरिक क्लासिफायर के बीच स्थित होती है। यह निबंध नहीं लिखता या बातचीत नहीं करता। इसके बजाय, यह किसी इनपुट के बारे में पूर्वनिर्धारित प्रश्नों के एक समूह का उत्तर देता है और प्रत्येक संभावित उत्तर के लिए एक संभाव्यता लौटाता है।

Cloudflare का एक व्यावहारिक उदाहरण ग्राहक सपोर्ट संदेश से जुड़ा है। ऐसे संदेश को देखते हुए, Clef यह आकलन कर सकता है कि यह कितना जरूरी है और इसे किस टीम को संभालना चाहिए। डाउनस्ट्रीम सिस्टम इन उत्तरों को पढ़ता है और कार्रवाई करता है: टिकट को सही कतार में भेजना, उसे एस्केलेट करना, या किसी मानव को सौंपना। मॉडल को स्वयं कोई उत्तर लिखने की जरूरत नहीं होती।

यह नाम संगीत से आया है, जहाँ एक क्लेफ स्टाफ की पंक्तियों को पिच सौंपता है। Cloudflare इस उपमा का उपयोग यह संकेत देने के लिए करता है कि एक निर्णय मॉडल आगे होने वाली कार्रवाइयों के लिए ढाँचा तय करता है। Jev से ध्वन्यात्मक समानता संभवतः संयोग नहीं है।

गति ही मुख्य आँकड़ा है

Cloudflare अपने अंतर के रूप में लेटेंसी पर जोर दे रहा है। 43 बेंचमार्क पर, कंपनी का कहना है कि Clef और छोटा Clef-flash सभी प्रासंगिक प्रतिस्पर्धी निर्णय मॉडलों से तेज़ हैं। रिपोर्ट किए गए माध्यिक प्रतिक्रिया समय Clef-flash के लिए लगभग 39 मिलीसेकंड और Clef के लिए लगभग 209 मिलीसेकंड हैं। तुलना में, Cloudflare Jev को 524 मिलीसेकंड से कुछ अधिक पर रखता है।

• Clef-flash: लगभग 39 मिलीसेकंड माध्यिक लेटेंसी।
• Clef: लगभग 209 मिलीसेकंड माध्यिक लेटेंसी।
• Jev: Cloudflare की तुलना के अनुसार, 524 मिलीसेकंड से कुछ अधिक।

ये स्वयं-रिपोर्ट किए गए आँकड़े हैं, और Cloudflare का इन्हें अनुकूल रूप में प्रस्तुत करने में स्पष्ट हित है। फिर भी, जो अंतर यह बताता है वह उन प्रणालियों में मायने रखने लायक बड़ा है जहाँ क्रम में कई छोटे निर्णय होते हैं। प्रतिक्रिया समय में दस गुना अंतर यह तय कर सकता है कि कोई एजेंट उत्तरदायी लगता है या सुस्त, और यह आकार दे सकता है कि उपयोगकर्ता को देरी का एहसास होने से पहले कोई पाइपलाइन कितने चरण ले सकती है।

Cloudflare यह भी नोट करता है कि दोनों मॉडल सीधे उसके अपने इंफ्रास्ट्रक्चर पर चलते हैं। कंपनी का कहना है कि इससे उन्हें एज डेटा सेंटरों की निकटता का लाभ मिलता है, जिससे निर्णय वापस आने से पहले डेटा की तय की जाने वाली दूरी कम हो सकती है।

Qwen पर आधारित, Jev के साथ संगत

Cloudflare के अनुसार, Clef और Clef-flash दोनों Qwen पर आधारित हैं, और दोनों टेक्स्ट और इमेज का समर्थन करते हैं। यह मल्टीमॉडल क्षमता उन एजेंट वर्कफ़्लो के लिए मायने रखती है जिन्हें टेक्स्ट के साथ-साथ स्क्रीनशॉट, स्कैन किए गए दस्तावेजों या अन्य दृश्य इनपुट की व्याख्या करनी होती है।

अपनाने के लिए उतना ही महत्वपूर्ण यह है कि Cloudflare ने API को Jev के साथ पूरी तरह संगत रखा है। TypeSafe AI के मॉडल का पहले से उपयोग करने वाले ग्राहक अपने इंटीग्रेशन फिर से लिखे बिना स्विच कर सकते हैं। यह संगतता एक क्लासिक प्रतिस्पर्धी चाल है: यह किसी विकल्प को आजमाने की लागत कम करती है और गति की तुलना को निर्णय का मुख्य चर बना देती है।

भाषा मॉडल और क्लासिफायर के बीच की खाई भरना

Cloudflare Clef को उस जगह पर रखता है जिसे भरना मुश्किल रहा है। बड़े भाषा मॉडल किसी समस्या पर तर्क कर सकते हैं और टूल कॉल कर सकते हैं, लेकिन उनके आउटपुट हर बार बदलते रहते हैं, और वे धीमे हो सकते हैं। पारंपरिक क्लासिफायर तेज़ होते हैं, लेकिन नई श्रेणी आने पर उन्हें आमतौर पर फिर से प्रशिक्षित करना पड़ता है। एक निर्णय मॉडल का लक्ष्य क्लासिफायर की गति और पूर्वानुमेयता लेना है, साथ ही एजेंटिक प्रणालियों की जरूरत वाला लचीलापन बनाए रखना है।

यह अंतर यह सोचने में उपयोगी है कि यह तकनीक कहाँ फिट बैठती है:

• भाषा मॉडल सामान्य-उद्देश्य वाले तर्ककर्ता हैं जिनके आउटपुट लचीले लेकिन परिवर्तनशील और अपेक्षाकृत धीमे होते हैं।
• पारंपरिक क्लासिफायर तेज़ और सुसंगत होते हैं लेकिन कठोर, हर नई श्रेणी के लिए फिर से प्रशिक्षण की जरूरत होती है।
• निर्णय मॉडल पूर्वनिर्धारित विकल्पों पर संभाव्यताएँ लौटाते हैं, जिनका लक्ष्य गति, संरचना और एजेंट पाइपलाइनों के लिए पर्याप्त लचीलापन होता है।

एजेंट बनाने वाली टीमों के लिए आकर्षण सीधा है। जिस एजेंट को बार-बार यह तय करना होता है कि एस्केलेट करना है, रूट करना है, टैग करना है या रोकना है, उसे हर बार पूरा जनरेटिव उत्तर नहीं चाहिए। उसे एक तेज़ संकेत चाहिए जिस पर वह कार्रवाई करने लायक भरोसा कर सके।

लूप में मानव, या बेंच पर

Cloudflare के संदेश का सबसे उत्तेजक हिस्सा यह सुझाव है कि हर एजेंटिक निर्णय के लिए मानवीय निगरानी अब अनिवार्य चरण नहीं है। Cloudflare ऐसी व्यवस्था का वर्णन करता है जिसमें एजेंट संदर्भ जुटाते हैं, निर्णय लेते हैं और प्रोग्रामेटिक रूप से कार्रवाई करते हैं, जबकि जरूरत पड़ने पर किसी मानव को शामिल करने का विकल्प भी बनाए रखते हैं।

यह वाक्यांश, "जरूरत पड़ने पर," बहुत कुछ कहता है। संभाव्यताएँ लौटाने वाला निर्णय मॉडल स्वचालित कार्रवाई का समर्थन कर सकता है, लेकिन किसी व्यक्ति के बिना कार्रवाई करने की सीमा उस प्रणाली को बनाने वाले का डिज़ाइन विकल्प होती है। उच्च-विश्वास वाला रूटिंग निर्णय स्वचालित करने के लिए सुरक्षित हो सकता है; किसी नाराज ग्राहक, सुरक्षा मुद्दे या वित्तीय प्रतिबद्धता से जुड़ा एस्केलेशन तब भी समीक्षा योग्य हो सकता है जब मॉडल आश्वस्त हो। यह तकनीक तेज़ स्वचालन संभव बनाती है, लेकिन यह स्वयं यह तय नहीं करती कि रेखा कहाँ खींची जानी चाहिए।

संभाव्यता आउटपुट भी गारंटी के समान नहीं होते। कोई वर्गीकरण गलत हो सकता है, और एक तेज़ गलत उत्तर धीमे उत्तर की तुलना में पाइपलाइन में अधिक तेज़ी से फैल सकता है। इसलिए निर्णय मॉडल का मूल्य केवल लेटेंसी पर नहीं, बल्कि कैलिब्रेशन पर और इस पर भी निर्भर करता है कि आसपास की प्रणाली अनिश्चितता को कितनी सहजता से संभालती है।

Clef के रोलआउट के साथ क्या देखना है

Cloudflare के दावे विशिष्ट और मापनीय हैं, जिससे वे परीक्षण योग्य बनते हैं। स्वतंत्र बेंचमार्क मायने रखेंगे, विशेष रूप से Cloudflare द्वारा उद्धृत 43 बेंचमार्क पर और विक्रेता के परीक्षण सूट से अलग वास्तविक दुनिया के वर्कलोड पर। Jev से तुलना की भी जाँच होगी, क्योंकि TypeSafe AI का मॉडल वह मौजूदा विकल्प है जिसे Clef स्पष्ट रूप से लुभाने की कोशिश कर रहा है।

कई प्रश्न यह तय करेंगे कि Clef एजेंट बनाने वालों के लिए डिफ़ॉल्ट विकल्प बनता है या नहीं:

• क्या स्वतंत्र परीक्षण लेटेंसी लाभ को दोहराते हैं, विशेष रूप से प्रोडक्शन लोड के तहत?
• मॉडल एज केस, अस्पष्ट इनपुट और ऐसी श्रेणियों को कितनी अच्छी तरह संभालते हैं जिनका पहले अनुमान नहीं था?
• क्या एज निकटता वैश्विक रूप से वितरित अनुप्रयोगों के लिए सार्थक लाभ में बदलती है?
• संगत API को देखते हुए, टीमें मौजूदा Jev इंटीग्रेशन को कितनी आसानी से स्थानांतरित कर सकती हैं?

Cloudflare ने Clef को उस क्षण के रूप में प्रस्तुत किया है जब एजेंट को हर निर्णय के लिए मानव की भागीदारी की जरूरत खत्म हो जाती है। अधिक सटीक पाठ यह हो सकता है कि यह उस विकल्प को चुनना सस्ता और तेज़ बनाता है। स्वायत्तता का विस्तार होगा या नहीं, यह मॉडल पर कम और टीमों द्वारा उसके चारों ओर बनाए गए गार्डरेल पर अधिक निर्भर करेगा।

This article is based on reporting by The Decoder. Read the original article.