Cloudflare-இன் Clef முடிவெடுக்கும் மாதிரிகள் மனிதர் தலையீடு இல்லாமல் வேகமான AI முகவர்களை உறுதியளிக்கின்றன

Cloudflare-இன் Clef முகவர் முடிவெடுக்கும் அடுக்கை இலக்காகக் கொள்கிறது

Cloudflare நிறுவனம் Clef மற்றும் Clef-flash ஆகியவற்றை வெளியிட்டுள்ளது. AI முகவர்களுக்காக உருவாக்கப்பட்ட இந்த முடிவெடுக்கும் மாதிரிகள், TypeSafe AI-இன் Jev-ஐ நேரடியாக இலக்காகக் கொண்டுள்ளன. நிறுவனத்தின் மையக் கவர்ச்சி வேகம். நீண்ட இயற்கை மொழி பதிலை உருவாக்குவதற்குப் பதிலாக, Clef நிகழ்தகவுகளுடன் கூடிய ஒரு சிறிய வகைப்பாட்டை வழங்குகிறது. அந்த நிகழ்தகவுகள், ஆதரவு டிக்கெட்டை வழிமாற்றுவது, தீவிரப்படுத்தலைத் தூண்டுவது, அல்லது ஒரு வழக்கை மனித ஆபரேட்டரிடம் ஒப்படைப்பது என எதுவாக இருந்தாலும், கீழ்நிலை குறியீட்டிற்கு உறுதியான ஒன்றைச் செயல்பட வழங்குகின்றன.

Cloudflare-இன் விளக்கம் நேரடியானது: இந்த வகையான மாதிரியுடன், "முகவர் முடிவுகளுக்கு மனிதர் அவசியம் தலையீடு செய்ய வேண்டிய அவசியமில்லை." அதன் விவரிப்பில், முகவர்கள் சூழலை நிரல்பூர்வமாகச் சேகரித்து, முடிவுகளை எடுத்து, பணிகளில் நடவடிக்கை எடுக்க முடியும், அதே நேரத்தில் நிலைமை அதைக் கோரும் போது ஒரு நபரிடம் ஒப்படைக்கவும் முடியும். இது தன்னாட்சி பற்றிய குறிப்பிடத்தக்க கூற்று, மேலும் இது Cloudflare-ஐ, ஏற்கனவே இந்தப் பிரிவில் முன்னணியில் நிலைபெற்ற ஒரு மாதிரியுடன் போட்டியில் வைக்கிறது.

முடிவெடுக்கும் மாதிரி உண்மையில் என்ன செய்கிறது

"முடிவெடுக்கும் மாதிரி" என்ற சொல், பொது நோக்கத்திற்கான மொழி மாதிரிகளுக்கும் வழக்கமான வகைப்படுத்திகளுக்கும் இடையில் அமர்ந்திருக்கும் ஒரு அமைப்பை விவரிக்கிறது. இது கட்டுரைகளை எழுதுவதில்லை அல்லது உரையாடல்களை நடத்துவதில்லை. அதற்குப் பதிலாக, ஒரு உள்ளீடு பற்றிய முன்வரையறுக்கப்பட்ட கேள்விகளின் தொகுப்பிற்குப் பதிலளித்து, ஒவ்வொரு சாத்தியமான பதிலுக்கும் ஒரு நிகழ்தகவை வழங்குகிறது.

Cloudflare-இலிருந்து ஒரு நடைமுறை உதாரணம் வாடிக்கையாளர் ஆதரவு செய்தியை உள்ளடக்கியது. அத்தகைய செய்தியைக் கொடுக்கும்போது, Clef அது எவ்வளவு அவசரமானது என்பதை மதிப்பிடவும், எந்தக் குழு அதைக் கையாள வேண்டும் என்பதைக் கண்டறியவும் முடியும். கீழ்நிலை அமைப்பு அந்தப் பதில்களைப் படித்து செயல்படுகிறது: டிக்கெட்டை சரியான வரிசைக்கு வழிமாற்றுவது, அதைத் தீவிரப்படுத்துவது, அல்லது அதை ஒரு மனிதரிடம் அனுப்புவது. மாதிரி ஒருபோதும் ஒரு பதிலைத் தானே இயற்ற வேண்டியதில்லை.

இந்தப் பெயர் இசையிலிருந்து வருகிறது, அங்கு ஒரு clef ஒரு ஊழியின் வரிகளுக்கு சுரங்களை ஒதுக்குகிறது. அதைத் தொடரும் செயல்களுக்கான கட்டமைப்பை ஒரு முடிவெடுக்கும் மாதிரி அமைக்கிறது என்பதைக் குறிக்க Cloudflare இந்த ஒப்புமையைப் பயன்படுத்துகிறது. Jev உடனான ஒலியியல் ஒற்றுமை, பெரும்பாலும் தற்செயலானது அல்ல.

வேகமே தலைப்புச் செய்தி எண்

Cloudflare தனது வேறுபாட்டுக் காரணியாக தாமதத்தை பெரிதும் நம்பியுள்ளது. 43 அளவுகோல்களில், Clef மற்றும் சிறிய Clef-flash ஆகியவை அனைத்து தொடர்புடைய போட்டி முடிவெடுக்கும் மாதிரிகளையும் விட வேகமானவை என்று நிறுவனம் கூறுகிறது. அறிவிக்கப்பட்ட இடைநிலை பதில் நேரங்கள் Clef-flash-க்கு தோராயமாக 39 மில்லி விநாடிகள் மற்றும் Clef-க்கு சுமார் 209 மில்லி விநாடிகள். ஒப்பீட்டளவில், Cloudflare Jev-ஐ 524 மில்லி விநாடிகளுக்கு சற்று மேல் வைக்கிறது.

• Clef-flash: சுமார் 39 மில்லி விநாடிகள் இடைநிலை தாமதம்.
• Clef: சுமார் 209 மில்லி விநாடிகள் இடைநிலை தாமதம்.
• Jev: Cloudflare-இன் ஒப்பீட்டின்படி, 524 மில்லி விநாடிகளுக்கு சற்று மேல்.

இவை சுயமாக அறிவிக்கப்பட்ட புள்ளிவிவரங்கள், மேலும் Cloudflare அவற்றை சாதகமாக வழங்குவதில் வெளிப்படையான ஆர்வம் கொண்டுள்ளது. இருப்பினும், அது விவரிக்கும் இடைவெளி, பல சிறிய முடிவுகள் தொடர்ச்சியாக நிகழும் அமைப்புகளில் முக்கியத்துவம் வாய்ந்ததாக இருக்கும் அளவுக்குப் பெரியது. பதில் நேரத்தில் பத்து மடங்கு வேறுபாடு, ஒரு முகவர் பதிலளிக்கக்கூடியதாக அல்லது மந்தமாக உணரப்படுகிறதா என்பதைத் தீர்மானிக்க முடியும், மேலும் ஒரு பயனர் தாமதத்தைக் கவனிக்கும் முன் ஒரு பைப்லைன் எத்தனை படிகளை எடுக்க முடியும் என்பதை வடிவமைக்க முடியும்.

இரண்டு மாதிரிகளும் நேரடியாக அதன் சொந்த உள்கட்டமைப்பில் இயங்குகின்றன என்றும் Cloudflare குறிப்பிடுகிறது. இது அவற்றை எட்ஜ் தரவு மையங்களுக்கு அருகாமையிலிருந்து பயனடைய அனுமதிக்கிறது என்று நிறுவனம் கூறுகிறது, இது ஒரு முடிவு திரும்பி வருவதற்கு முன் தரவு பயணிக்கும் தூரத்தைக் குறைக்கலாம்.

Qwen-இல் கட்டப்பட்டது, Jev உடன் இணக்கமானது

Clef மற்றும் Clef-flash இரண்டும் Qwen-இல் கட்டப்பட்டவை என்று Cloudflare கூறுகிறது, மேலும் இரண்டும் உரை மற்றும் படங்களை ஆதரிக்கின்றன. அந்த பல்வகை திறன், ஸ்கிரீன்ஷாட்கள், ஸ்கேன் செய்யப்பட்ட ஆவணங்கள் அல்லது பிற காட்சி உள்ளீடுகளை உரையுடன் சேர்த்து விளக்க வேண்டிய முகவர் பணிப்பாய்வுகளுக்கு முக்கியமானது.

தத்தெடுப்புக்கு அதே அளவு முக்கியமானது, Cloudflare API-ஐ Jev உடன் முழுமையாக இணக்கமாக வைத்துள்ளது. ஏற்கனவே TypeSafe AI-இன் மாதிரியைப் பயன்படுத்தும் வாடிக்கையாளர்கள், தங்கள் ஒருங்கிணைப்புகளை மீண்டும் எழுதாமல் மாறலாம். அந்த இணக்கம் ஒரு உன்னதமான போட்டி நடவடிக்கை: இது ஒரு மாற்றை முயற்சிப்பதற்கான செலவைக் குறைத்து, வேக ஒப்பீட்டை முடிவெடுப்பதில் முக்கிய மாறியாக மாற்றுகிறது.

மொழி மாதிரிகளுக்கும் வகைப்படுத்திகளுக்கும் இடையிலான இடைவெளியை நிரப்புதல்

Cloudflare Clef-ஐ நிரப்புவதற்கு சங்கடமாக இருந்த ஒரு பிரத்யேக இடத்தில் நிலைநிறுத்துகிறது. பெரிய மொழி மாதிரிகள் ஒரு சிக்கலைப் பற்றி சிந்திக்கவும் கருவிகளை அழைக்கவும் முடியும், ஆனால் அவற்றின் வெளியீடுகள் ஒவ்வொரு இயக்கத்திலும் மாறுபடும், மேலும் அவை மெதுவாக இருக்கலாம். பாரம்பரிய வகைப்படுத்திகள் வேகமானவை, ஆனால் ஒரு புதிய வகை அறிமுகப்படுத்தப்படும் போதெல்லாம் அவை பொதுவாக மறுபயிற்சி தேவைப்படும். ஒரு முடிவெடுக்கும் மாதிரி, முகவர் அமைப்புகளுக்குத் தேவையான நெகிழ்வுத்தன்மையைத் தக்கவைத்துக்கொண்டே ஒரு வகைப்படுத்தியின் வேகத்தையும் முன்கணிப்புத்திறனையும் எடுக்க இலக்காகக் கொள்கிறது.

இந்தத் தொழில்நுட்பம் எங்கு பொருந்துகிறது என்பதைப் பற்றி சிந்திக்கும்போது அந்த வேறுபாடு பயனுள்ளதாக இருக்கும்:

• மொழி மாதிரிகள் பொது நோக்கத்திற்கான பகுத்தறிவாளர்கள், அவற்றின் வெளியீடுகள் நெகிழ்வானவை ஆனால் மாறுபடக்கூடியவை மற்றும் ஒப்பீட்டளவில் மெதுவானவை.
• பாரம்பரிய வகைப்படுத்திகள் வேகமானவை மற்றும் நிலையானவை ஆனால் கடினமானவை, ஒவ்வொரு புதிய வகைக்கும் மறுபயிற்சி தேவைப்படுகிறது.
• முடிவெடுக்கும் மாதிரிகள் முன்வரையறுக்கப்பட்ட விருப்பங்களின் மீது நிகழ்தகவுகளை வழங்குகின்றன, முகவர் பைப்லைன்களுக்கு வேகம், கட்டமைப்பு மற்றும் போதுமான நெகிழ்வுத்தன்மையை இலக்காகக் கொண்டுள்ளன.

முகவர்களை உருவாக்கும் குழுக்களுக்கு, கவர்ச்சி நேரடியானது. தீவிரப்படுத்துவது, வழிமாற்றுவது, குறியிடுவது அல்லது இடைநிறுத்துவது என்பதை மீண்டும் மீண்டும் முடிவு செய்ய வேண்டிய ஒரு முகவருக்கு ஒவ்வொரு முறையும் ஒரு முழு உருவாக்கும் பதில் தேவையில்லை. அது செயல்பட போதுமான நம்பிக்கையுடன் ஒரு வேகமான சமிக்ஞை தேவை.

சுழற்சியில் மனிதர்கள், அல்லது பெஞ்சில்

Cloudflare-இன் செய்தியின் மிகவும் தூண்டுதல் பகுதி, ஒவ்வொரு முகவர் முடிவுக்கும் மனித மேற்பார்வை இனி கட்டாயப் படியாக இருக்காது என்ற பரிந்துரை. முகவர்கள் சூழலைச் சேகரித்து, முடிவு செய்து, நிரல்பூர்வமாகச் செயல்படும் ஒரு அமைப்பை Cloudflare விவரிக்கிறது, அதே நேரத்தில் தேவைப்படும்போது ஒரு மனிதரிடம் ஒப்படைக்கும் விருப்பத்தைத் தக்கவைத்துக்கொள்கிறது.

அந்தச் சொற்றொடர், "தேவைப்படும்போது," நிறைய வேலை செய்கிறது. நிகழ்தகவுகளை வழங்கும் ஒரு முடிவெடுக்கும் மாதிரி தானியங்கி நடவடிக்கையை ஆதரிக்க முடியும், ஆனால் ஒரு நபர் இல்லாமல் செயல்படுவதற்கான வரம்பு, அமைப்பை உருவாக்குபவர் எடுக்கும் ஒரு வடிவமைப்புத் தேர்வாகும். அதிக நம்பிக்கையுடன் கூடிய வழிமாற்று முடிவு தானியங்குபடுத்துவதற்கு பாதுகாப்பாக இருக்கலாம்; விரக்தியடைந்த வாடிக்கையாளர், பாதுகாப்பு சிக்கல் அல்லது நிதி உறுதிமொழி சம்பந்தப்பட்ட ஒரு தீவிரப்படுத்தல், மாதிரி நம்பிக்கையுடன் இருந்தாலும் மறுஆய்வு தேவைப்படலாம். இந்தத் தொழில்நுட்பம் வேகமான தானியங்குபடுத்தலை சாத்தியமாக்குகிறது, ஆனால் அது எங்கு கோடு வரையப்பட வேண்டும் என்பதைத் தானே தீர்மானிக்காது.

நிகழ்தகவு வெளியீடுகள் உத்தரவாதங்களுக்கு சமமானவை அல்ல. ஒரு வகைப்பாடு தவறாக இருக்கலாம், மேலும் ஒரு வேகமான தவறான பதில் ஒரு மெதுவானதை விட வேகமாக ஒரு பைப்லைன் வழியாக பரவலாம். எனவே ஒரு முடிவெடுக்கும் மாதிரியின் மதிப்பு தாமதத்தை மட்டுமல்ல, அளவுத்திருத்தம் மற்றும் சுற்றியுள்ள அமைப்பு நிச்சயமற்ற தன்மையை எவ்வளவு நேர்த்தியாகக் கையாளுகிறது என்பதையும் பொறுத்தது.

Clef வெளியிடப்படும்போது கவனிக்க வேண்டியவை

Cloudflare-இன் கூற்றுகள் குறிப்பிட்டவை மற்றும் அளவிடக்கூடியவை, இது அவற்றைச் சோதிக்கக்கூடியதாக ஆக்குகிறது. சுயாதீன அளவுகோல்கள் முக்கியமானதாக இருக்கும், குறிப்பாக Cloudflare குறிப்பிடும் 43 அளவுகோல்கள் மற்றும் விற்பனையாளர் சோதனைத் தொகுப்புகளிலிருந்து வேறுபடும் நிஜ உலக பணிச்சுமைகளில். Jev ஒப்பீடும் ஆராயப்படும், ஏனெனில் TypeSafe AI-இன் மாதிரியே Clef வெளிப்படையாகக் கவர முயற்சிக்கும் தற்போதைய முன்னணி.

Clef முகவர் உருவாக்குபவர்களுக்கு இயல்புநிலைத் தேர்வாக மாறுமா என்பதைப் பல கேள்விகள் வடிவமைக்கும்:

• சுயாதீன சோதனைகள் தாமத நன்மையை மீண்டும் உருவாக்குகின்றனவா, குறிப்பாக உற்பத்தி சுமையின் கீழ்?
• எல்லை நிகழ்வுகள், தெளிவற்ற உள்ளீடுகள் மற்றும் எதிர்பார்க்கப்படாத வகைகளை மாதிரிகள் எவ்வளவு சிறப்பாகக் கையாளுகின்றன?
• எட்ஜ் அருகாமை உலகளவில் விநியோகிக்கப்பட்ட பயன்பாடுகளுக்கு அர்த்தமுள்ள ஆதாயங்களாக மாறுகிறதா?
• இணக்கமான API கொடுக்கப்பட்டால், குழுக்கள் ஏற்கனவே உள்ள Jev ஒருங்கிணைப்புகளை எவ்வளவு எளிதாக நகர்த்த முடியும்?

ஒவ்வொரு முடிவுக்கும் முகவர்களுக்கு ஒரு மனிதர் சுழற்சியில் தேவைப்படுவதை நிறுத்தும் தருணமாக Cloudflare Clef-ஐ வடிவமைத்துள்ளது. இது அந்தத் தேர்வை மலிவாகவும் வேகமாகவும் செயல்படுத்த உதவுகிறது என்பதே மிகவும் துல்லியமான வாசிப்பாக இருக்கலாம். தன்னாட்சி விரிவடையுமா என்பது மாதிரியை விட, குழுக்கள் அதைச் சுற்றி உருவாக்கும் பாதுகாப்பு வேலிகளைப் பொறுத்தது.

இந்தக் கட்டுரை The Decoder-இன் செய்தியறிக்கையை அடிப்படையாகக் கொண்டது. அசல் கட்டுரையைப் படிக்கவும்.