Google agentic AI యుగానికి లక్ష్యంగా రెండు ఎనిమిదో తరం TPU డిజైన్‌లను విడుదల చేసింది

Google తన TPU వ్యూహాన్ని inference మరియు training మధ్య విభజిస్తోంది

Google రెండు ప్రత్యేకమైన ఎనిమిదో తరం TPU డిజైన్‌లను పరిచయం చేసింది. AI infrastructure తదుపరి దశను, తర్కం చేసి, ప్రణాళిక వేసి, బహుళ-దశల పనులను అమలు చేసే స్వతంత్ర agents ఆకారమిస్తాయని సంస్థ వాదిస్తోంది. Google blogలోని పోస్ట్‌లో, TPU 8i AI agents పనిని మంచి user experience‌ను నిలుపుకునేంత వేగంగా పూర్తి చేయడంలో సహాయపడేందుకు ప్రత్యేకంగా నిర్మించబడిందని, TPU 8t training కోసం ఆప్టిమైజ్ చేయబడి, ఒకే భారీ memory pool‌పై అత్యంత సంక్లిష్ట models‌ను నడపగలదని కంపెనీ చెబుతోంది.

ఈ ప్రకటన కొత్త chips విడుదల కావడంవల్ల మాత్రమే కాదు, ఒక కొత్త workload narrative చుట్టూ వాటిని స్పష్టంగా క్రమబద్ధీకరించడంవల్ల కూడా గమనించదగ్గది. సంవత్సరాలుగా AI accelerator చర్చలు training మరియు inference మధ్య ఉన్న సంప్రదాయ విభజన చుట్టూనే తిరిగాయి. Google ఆ భేదాన్ని కొనసాగిస్తూనే, inference వైపు的一 భాగాన్ని conventional model serving కాకుండా agents చుట్టూ తిరిగి ఫ్రేమ్ చేస్తోంది. భవిష్యత్ డిమాండ్ వేరు వేరు prompt-response పరస్పర చర్యలపై తక్కువగా, వినియోగదారుల తరఫున చర్యల శ్రేణిని నిర్వహించే systems‌పై ఎక్కువగా ఆధారపడుతుందని కంపెనీ భావిస్తున్నట్లు ఈ framing సూచిస్తోంది.

ఎందుకు రెండు ప్రత్యేక TPUలు

Google వివరణ ఒక సరళమైన premise‌పై నిలుస్తుంది: agentic AI యొక్క infrastructure అవసరాలు frontier model training అవసరాలతో సమానం కావు. Agents‌కు responsiveness అవసరం. వారు పనులపై reasoning చేయాలి, tools call చేయాలి, workflows పూర్తి చేయాలి అనుకుంటే, latency అనుభవం ఉపయోగకరంగా అనిపిస్తుందా లేదా అన్నదాన్ని నిర్ణయించడంలో కీలకం అవుతుంది. Google ప్రకారం TPU 8i ఆ అవసరానికి సరిపోతుంది. ఆ పరస్పర చర్యలు ప్రాయోగిక deployment‌ను మద్దతు ఇవ్వడానికి తగినంత వేగంగా ఉండేలా ఇది రూపుదిద్దుకుంది.

TPU 8t మరో సమస్యను పరిష్కరిస్తుంది. ఆధునిక models training చేయడం ఇప్పుడు raw compute మాత్రమే కాకుండా, పెద్ద మరియు మరింత సంక్లిష్ట systems‌ను accommodate చేయగల memory capacity‌ను కూడా కోరుతోంది. TPU 8t ఈ పాత్రకు అనుగుణంగా ట్యూన్ చేయబడిందని, ఒకే భారీ memory pool‌పై చాలా సంక్లిష్ట models‌ను నడపగలదని Google చెబుతోంది. ఇది infrastructure‌ను అధికంగా విభజించకుండా scale‌ను పెంచాలనుకునే developers మరియు organizations‌కు ఈ chip‌ను ఒక tool‌గా నిలబెడుతుంది.

పెద్ద stack కూడా సందేశంలో భాగమే

Google ఈ chips‌ను తన full-stack infrastructure కథనంలో జాగ్రత్తగా ఉంచుతోంది. blog post కొత్త TPUs‌ను networking, data centers, energy-efficient operations‌తో అనుసంధానిస్తుంది; ఆ విస్తృత system‌ను అత్యంత responsive agentic AI‌ను mass audience‌కు తీసుకువచ్చే engine‌గా వివరిస్తోంది. ఈ framing ముఖ్యమైనది, ఎందుకంటే AI infrastructureలో పోటీ ఇక chip మీద మాత్రమే లేదు. అది silicon, software, networking, power efficiencyలను ఒక platform‌గా సమగ్రపరచడం, దాన్ని పెద్ద స్థాయిలో కొనుగోలు చేసి అమలు చేయడం గురించినదిగా మారింది.

Googleకు ఇది దీర్ఘకాలంగా హైలైట్ చేయాలని చూసిన ఒక strategic advantage. కంపెనీ accelerator access‌ను మాత్రమే అమ్మడం లేదు. custom chips‌ను cloud services మరియు సంవత్సరాలుగా పెద్ద స్థాయి machine learning systems నడిపిన అంతర్గత అనుభవంతో జతచేసిన vertically integrated environment‌ను ప్రదర్శిస్తోంది.

ప్రాక్టికల్‌గా “agentic” ఏమి సూచిస్తోంది

“agentic era” అనే పదప్రయోగమే revealing. AI companies increasingly promote systems that can do more than generate text or images on request. The aspiration is software that can plan, decide and execute across multiple steps, often with access to tools or enterprise workflows. Whether or not every marketed “agent” lives up to that description, infrastructure providers clearly see the category as commercially important enough to shape hardware roadmaps.

TPU 8iని agents కోసం chip‌గా పేరుపెట్టడం ద్వారా, Google సంక్లిష్ట, బహుళ-దశల workloads‌లో responsiveness ఒక నిర్వచనాత్మక performance metric‌గా మారుతుందనే దానిపై essentially bet వేస్తోంది. అది peak benchmark numbers जितनीగా ముఖ్యమైనదై ఉండొచ్చు. నిజమైన ఉపయోగంలో, నెమ్మదిగా పనిచేసే లేదా chained tasksలో ఆగిపోతున్న ఒక agent, underlying model బలంగా ఉన్నా కూడా, broken‌గా అనిపించవచ్చు.

ఈ launch ఎందుకు ముఖ్యము

సాధారణ-purpose GPU demand సంభాషణను ఆధిపత్యం చేసిన కాలం తరువాత, AI hardware మళ్లీ వేగంగా ప్రత్యేకీకృతమవుతోందని ఈ ప్రకటన నిర్ధారిస్తోంది. మార్కెట్ ఇప్పుడు వేర్వేరు అవసరాల చుట్టూ విభజిస్తోంది: giant models training, వాటిని తక్కువ ఖర్చుతో serving చేయడం, multimodal workloads‌ను నిర్వహించడం, interactive agent systems‌ను సాధ్యం చేయడం. Google కొత్త TPU జంట ఈ fragmentation‌ను ప్రతిబింబిస్తుంది.

ఇది infrastructure messaging ఎలా అభివృద్ధి చెందిందో కూడా చూపిస్తుంది. Chip launches ఇక speedups లేదా throughput gains ఆధారంగా మాత్రమే ప్రస్తావించబడవు. AI ఎలా ఉపయోగించబడుతుందనే నిర్దిష్ట దృశ్యాలకు అవి అనుసంధానించబడుతున్నాయి. ఈ సందర్భంలో, agents వినియోగదారుల తరఫున చర్యలు తీసుకునే, ఆ systems training‌కూ వాటి వేగవంతమైన real-time execution‌కూ infrastructure purpose-built‌గా ఉన్న ప్రపంచాన్ని Google కస్టమర్లు ఊహించాలని కోరుతోంది.

ఆ దృక్పథం నిజమైతే, TPU 8i మరియు TPU 8t సాధారణ generation update కంటే, AI demand తదుపరి ఏ దిశలో వెళ్తుందనే దానిపై architectural statement అవుతాయి.

ఈ వ్యాసం Google AI Blog నివేదిక ఆధారంగా ఉంది. మూల వ్యాసాన్ని చదవండి.