Google ने Gemini Decisions API सादर केले आहे. खुले, तयार केलेले responses देण्याऐवजी जलद आणि मर्यादित निर्णयांची गरज असलेल्या applications साठी हा नवीन Gemini API endpoint तयार करण्यात आला आहे. Text, images, audio, video आणि PDFs मधील candidate options score करण्यासाठी तयार केलेले model, Gemini Decision 1, या service ला power करते.

मोठ्या software workflows मध्ये operational choices घेऊ शकणाऱ्या AI systems ची वाढती गरज या launch मधून दिसते: tools निवडणे, requests route करणे, policy rules तपासणे, alternatives rank करणे किंवा context grade करणे. अशा परिस्थितीत developer ला स्पष्टीकरणाच्या paragraph पेक्षा probability आणि confidence score अधिक उपयुक्त ठरू शकतो.

Closed-set choices साठी डिझाइन

Google या API चे वर्णन yes-or-no questions, multiple-choice decisions आणि rubric-based scoring साठी tool म्हणून करते. Developer एक multimodal input submit करून एकाच request मध्ये त्याबद्दल 1,000 independent questions पर्यंत विचारू शकतो.

System text, images, audio, video आणि PDFs मधील inputs ला support करते आणि contexts 256,000 tokens पर्यंत असू शकतात. प्रत्येक media type साठी स्वतंत्र decision pipelines तयार करण्याची गरज न पडता एकाच service ला विविध प्रकारच्या सामग्रीचे मूल्यांकन करता यावे, हा या संयोजनाचा उद्देश आहे.

Google ने दिलेल्या examples मध्ये tool selection, policy checks, model routing आणि context grading यांचा समावेश आहे. एखादा system दुसऱ्या model किंवा service ला call करण्यापूर्वी endpoint चा gatekeeper म्हणून वापर करू शकतो, किंवा पुढील action कोणता असावा हे ठरवण्यासाठी scoring layer म्हणून वापरू शकतो.

Generated answers ऐवजी probabilities

मुख्य technical distinction असा आहे की Gemini Decision 1 एका single forward pass मध्ये candidate options score करते. Conversational model ज्या पद्धतीने token by token answer generate करते, त्या पद्धतीने हे model answer generate करत नाही.

Google च्या मते endpoint probabilities आणि confidence scores परत करते. त्यामुळे defined choice घ्यायची असलेल्या आणि model त्या choice बाबत किती निश्चित आहे हेही जाणून घ्यायचे असलेल्या applications साठी अधिक structured output मिळतो.

Production AI systems साठी हा confidence signal महत्त्वाचा ठरू शकतो. Developers ना thresholds सेट करणे, uncertain cases review साठी पाठवणे किंवा model score आवश्यक पातळीपर्यंत पोहोचला नाही तर fallback route निवडणे यासाठी तो मदत करू शकतो. API evaluation ची गरज दूर करत नाही; मात्र या tasks शी अधिक थेट जुळणारा decision-oriented primitive देते.

Latency आणि pricing चे दावे

Google म्हणते की Gemini Decision 1 ची model-compute latency 50 ते 100 milliseconds आणि end-to-end latency 150 ते 250 milliseconds आहे. Multimodal inputs आणि 16,000 tokens पर्यंतच्या contexts वर काम करताना, एका request मधील questions ची संख्या एक ते 100 असली तरी ही performance जवळपास flat राहते, असे कंपनीचे म्हणणे आहे.

कंपनीची pricing प्रति million input tokens $0.10 आहे आणि billed output tokens नाहीत. Model options score करते, conventional text response emit करत नाही; त्यामुळे output-token generation हे मुख्य task नसलेल्या workload साठी ही pricing structure तयार केली आहे.

Shared benchmark suite मध्ये Interactions API सह Gemini 3.5 Flash-Lite पेक्षा Decisions API जवळपास पाच पट स्वस्त असल्याचेही Google म्हणते. सर्व vendor benchmark claims प्रमाणे, एखाद्या deployment चा प्रत्यक्ष परिणाम inputs, questions, evaluation rules आणि आसपासच्या system design वर अवलंबून असेल.

Calibration हे product feature बनते

Google नवीन model चे central feature म्हणून calibration ला स्थान देते. Calibrated system चे उद्दिष्ट confidence values meaningful करणे आहे: low-confidence answers पेक्षा high-confidence answers बरोबर असण्याची शक्यता अधिक असावी. AI output चा वापर workflow trigger करण्यासाठी, rule enforce करण्यासाठी किंवा user request route करण्यासाठी होत असेल, तर ही property विशेषतः महत्त्वाची ठरते.

Agent routing, reasoning, ranking आणि multimodal understanding या benchmark suite मधील सर्व क्षेत्रांत Gemini Decision 1 आघाडीवर असून त्याचा calibration error सर्वात कमी असल्याचे कंपनीचे म्हणणे आहे. Developers ने स्वतःच्या data आणि edge cases ची चाचणी करणे आवश्यकच राहते; मात्र raw answer accuracy सोबत decision quality वरही Google देत असलेल्या भराचा हा announcement संकेत देतो.

Developers साठी practical question फक्त model option निवडू शकते का, हा नाही. Automation ला support करण्याइतपत त्याचे scores विश्वासार्हपणे वापरता येतात का, हा खरा प्रश्न आहे. Alternatives rank करू शकणारे पण uncertainty स्पष्टपणे दर्शवू न शकणारे model consequential workflow मध्ये सुरक्षितपणे वापरणे अधिक कठीण असते.

AI agents साठी नवीन building block

कंपन्या अनेक specialized components एकत्र करून AI agents तयार करत असताना हा API आला आहे. अशा systems मध्ये language model request interpret करू शकते, decision model पुढील tool निवडू शकते आणि दुसरी service action करू शकते. त्यामुळे decision layer कडून user ला model response कधीच दिसत नसला तरी fast scoring उपयुक्त ठरू शकते.

Google ची offering Google AI Studio मध्ये Gemini API द्वारे उपलब्ध आहे. तेथे developers API key आणि Python, JavaScript तसेच REST साठी documentation access करू शकतात. Closed-set multimodal decisions साठी हा launch developers ना purpose-built option देतो, विशेषतः response speed, cost आणि confidence reporting यांना fluent text generation इतकेच महत्त्व असताना.

वास्तविक workloads मध्ये promised calibration आणि latency टिकतात की नाही यावर त्याचे महत्त्व अवलंबून असेल. मात्र product framing स्पष्ट आहे: प्रत्येक AI task कडे conversation म्हणून पाहण्याऐवजी Google अनेक छोटी, स्पष्ट decisions वेगाने घेण्यासाठी तयार केलेला model endpoint देत आहे.

हा लेख Google AI Blog मधील reporting वर आधारित आहे. मूळ लेख वाचा.

Originally published on blog.google