Anthropic, Claude Codeను మరింత స్వయంచాలక వినియోగం వైపు నడిపిస్తోంది
Anthropic, ఆగస్టు 14 నుంచి ఎక్కువ చెల్లింపు వినియోగదారుల కోసం Auto Modeను డిఫాల్ట్ సెట్టింగ్గా చేసి, Claude Codeతో డెవలపర్లు ఎలా పరస్పరం చేస్తారో మార్చుతోంది. మూల పదార్థం ప్రకారం, ఈ మార్పు Pro, Max, మరియు Team ప్లాన్లకు వర్తిస్తుంది; Enterprise కస్టమర్లు మాత్రం ఇంకా విడిగా opt in చేయాలి. ప్రాయోగికంగా, దీని అర్థం Claude Code ఇప్పుడు ప్రతి ఒక్క వ్యక్తిగత దశకు మానవ అనుమతి కోసం ఆగకుండా ఎక్కువసార్లు పనిచేస్తుంది, మరియు దాని safety system ఒక చర్య ప్రమాదకరంగా లేదా తిరిగి మార్చలేనిదిగా కనిపించినప్పుడు మాత్రమే ఆగుతుంది.
ఇది ఒక చిన్న product tweak కంటే ఎక్కువ. కోడింగ్ సహాయకులను ఒక ప్రధాన AI కంపెనీ ఎలా చూడుతుందో చెప్పే ప్రకటన ఇది: కేవలం autocomplete tools లేదా chat interfacesగా కాదు, పరిమిత పర్యవేక్షణలో విస్తృత development workను నిర్వహించగల semi-autonomous agentsగా. Anthropic ఈ మార్పును oversight తగ్గింపుగా కాకుండా safety improvementగా చూపిస్తోంది; manual approvalsను ఒక్కొక్కటిగా చేయడం కంటే తన classifier ప్రమాదకరమైన commandsను మరింత స్థిరంగా గుర్తించగలదని సంస్థ వాదిస్తోంది.
Auto Mode ఎందుకు సురక్షితమని Anthropic అంటోంది
సంస్థ యొక్క వాదన source textలో చేర్చిన కొన్ని reported test resultsపై ఆధారపడి ఉంది. 1,053 paid testersతో జరిగిన ఒక controlled studyలో, human reviewers ప్రమాదకరమైన commandsలో 13.6 percent మాత్రమే పట్టుకున్నారు, Auto Mode 89 percent పట్టుకుంది. అంతర్గత red-teamingలో Auto Mode కనీసం manual approvalsంత సురక్షితంగా, తరచుగా దానికన్నా మెరుగ్గా పనిచేసిందని కూడా Anthropic చెప్పింది. Auto Modeను ఉపయోగించిన teams సుమారు 25 percent ఎక్కువ pull requests రూపొందించాయని, అధిక autonomy ఎక్కువ outputగా కూడా మారిందని సంస్థ జోడించింది.
వివరించిన mechanism భావనాత్మకంగా సూటిగా ఉంది. ప్రతి దశలో అనుమతి అడగడం బదులు, Claude Code నిరంతరంగా పనిచేస్తూ, ఒక చర్య ఎప్పుడు ఆపి confirmation తీసుకోవాలో classifier ద్వారా నిర్ణయిస్తుంది. ఒక చర్య ప్రమాదకరంగా లేదా తిరిగి మార్చలేనిదిగా కనిపించినప్పుడు ఈ system జోక్యం చేసుకోవాల్సిందిగా రూపొందించబడింది. classifier itself వినియోగదారుడికి token charges చేర్చదని Anthropic చెబుతోంది, అయితే విస్తృత workflow ఎక్కువ, మరింత ఉత్పాదక coding sessionsను సాధ్యం చేయడం ద్వారా మొత్తం వినియోగాన్ని పెంచవచ్చు.
అది ముఖ్యమైనది, ఎందుకంటే approval fatigue agentic software toolsలో నిజమైన సమస్య. దాదాపు ప్రతి commandను approve చేయమని వినియోగదారులను అడిగితే, చాలామంది అలవాటుగా click through చేస్తారు లేదా safeguardsను పూర్తిగా ఆపేస్తారు. blanket approval prompts కంటే selective intervention మరింత వాస్తవికమని, model-assisted filter పునరావృత review పరిస్థితుల్లో human vigilanceను మించగలదని Anthropic భావిస్తోంది.
Prompt injection ఇప్పటికీ ప్రధాన ఆందోళన
మూల పదార్థంలోని ముఖ్యమైన వాదనల్లో ఒకటి, prompt injection attacks నుంచి రక్షణకు కూడా Auto Mode సహాయపడాలన్న ఉద్దేశముంది. ఈ attacks, పని చేస్తూ agent ఎదుర్కొనే code, files, లేదా ఇతర పదార్థాల్లో నిక్షిప్తమైన సూచనల ద్వారా AI agentను manipulate చేయడానికి ప్రయత్నిస్తాయి. agentic coding environmentలో ఈ ప్రమాదం passive chatbot కంటే తీవ్రమైనది, ఎందుకంటే systemకు commands, repositories, processes, మరియు కొన్ని సందర్భాల్లో sensitive data అందుబాటులో ఉండొచ్చు.
Anthropic, Trajectory Labs చేసిన ఒక independent auditను ప్రస్తావించింది; ఇందులో 72 attack scenarios ఉండగా, ప్రతి దాన్ని 10 సార్లు నడిపారు. మూలం ప్రకారం, ఆ 720 attemptsలో ఏదీ Auto Modeలో Claude యొక్క current modelsపై విజయవంతం కాలేదు. OpenAI యొక్క GPT-5.6 Sol in Codex Auto-Review mode కోసం పేర్కొన్న benchmarkతో కూడా source పోల్చింది, అక్కడ 5.83 percent ప్రయత్నాలు దాటిపోయాయని తెలిపింది. ఇచ్చిన టెక్స్ట్లో ఉన్నదానికంటే ఎక్కువగా methodologyను Developments Today నిర్ధారించలేం, కానీ ఈ పోలిక vendors ఇప్పుడు coding quality మీద మాత్రమే కాక agent safety మీద కూడా ఎంత తీవ్రంగా పోటీ పడుతున్నారో చూపిస్తుంది.
Anthropic stakesను చూపించడానికి internal examplesను కూడా ఇచ్చింది. Auto Mode, Claude confidential dataను public pageకు upload చేయకుండా అడ్డుకుందని, అలాగే ఒక దీర్ఘ session సమయంలో కొనసాగుతున్న GPU training jobsను దెబ్బతీసే అవకాశం ఉన్న సుమారు 2,000 processesను ఆపిందని సంస్థ తెలిపింది. ఈ ఉదాహరణలు, security, uptime, మరియు ఖరీదైన compute workloadsపై ప్రభావం చూపగల నిజమైన development మరియు infrastructure environmentsలో ఈ systemsను కంపెనీ పరీక్షిస్తున్నదని సూచిస్తున్నాయి.
అధిక output, కానీ developers పాత్ర మారుతోంది
Productivity claim ముఖ్యమైనది, ఎందుకంటే అది software workలో విస్తృత మార్పును సూచిస్తుంది. Auto Mode ఉపయోగిస్తున్న teams ఎక్కువ pull requests ఉత్పత్తి చేస్తే, developer పాత్ర కూడా దానితో మారుతుంది. source text స్పష్టంగా పేర్కొన్నది ఏమిటంటే, పాత్ర active line-by-line coding నుండి మరింత దూరంగా వెళ్లి, AI-generated outputను supervise చేయడం, review చేయడం, validate చేయడం వైపు కదులుతోంది.
దీని వల్ల human judgment అవసరం తొలగిపోదు. classifier riskను తగ్గిస్తుందని కానీ పూర్తిగా తొలగించదని Anthropic స్వయంగా హెచ్చరిస్తోంది. production infrastructureలో high-stakes changes కోసం Claude చర్యలను వినియోగదారులు తామే review చేయాలని సంస్థ ఇంకా సూచిస్తోంది. ఆ caveat ముఖ్యమైనది. సాధారణ development workflowsలో Auto Modeకు బలమైన వాదన ఉండొచ్చు; అక్కడ ఆలస్యం ఖర్చు ఎక్కువగా ఉంటుంది, ఏ ఒక్క చర్య ప్రమాదం మాత్రం సంబంధితంగా పరిమితంగా ఉంటుంది. ఒక తప్పు command dataను బహిర్గతం చేయగల, production systemsను చెడగొట్టగల, లేదా తిరిగి మార్చలేని operational damage కలిగించగల environmentsలో ఈ వాదన బలహీనంగా ఉంటుంది.
ఆ దృక్కోణంలో చూస్తే, Anthropic ప్రకటన product rollout కూడా, behavioral nudge కూడా. Auto Modeను defaultగా చేయడం ద్వారా, coding agentsను ఎక్కువ సేపు స్వతంత్రంగా నడవనివ్వాలి అన్న భావనను సంస్థ సాధారణం చేస్తోంది. Defaults ముఖ్యం. మరింత స్వయంచాలక settingను ముందుగా enable చేయని చాలా మంది వినియోగదారులు, ఇప్పుడు దాన్ని సాధారణ tool behaviorగా అనుభవిస్తారు.
AI coding marketకు దీని అర్థం
ఈ మార్పు coding assistant market పరిపక్వత దశను కూడా ప్రతిబింబిస్తుంది. పోటీ ఇకపై ఎవరూ ఉత్తమ snippet రాస్తారు లేదా అత్యంత శుభ్రమైన refactorను వివరిస్తారు అన్నదానిపైనే కాదు. autonomyను సురక్షితంగా నిర్వహించగలవారు ఎవరు అన్నదానిపై increasingly ఆధారపడుతోంది: ఎప్పుడు చర్య తీసుకోవాలి, ఎప్పుడు ఆగాలి, మరియు execution సమయంలో ఎదురయ్యే దురుద్దేశ్యపూరిత లేదా అనుకోని సూచనలను ఎలా నిరోధించాలి అన్నదానిపై.
ఈ operational judgment layer ఒక core differentiatorగా మారుతుందని Anthropic పందెం వేస్తున్నట్లు కనిపిస్తోంది. ఆ పందెం నిజమైతే, AI coding tools యొక్క తదుపరి దశ prompt నుండి codeను ఎంత తరచుగా సృష్టించగలవన్నదానికంటే, messy real-world repositoriesలో నష్టం కలగకుండా ఎంత నమ్మకంగా పనిచేయగలవన్నదాని ద్వారా ఎక్కువగా కొలవబడుతుంది. Auto Mode డిఫాల్ట్ కావడం, పరిశ్రమ ఇప్పుడు ఆ దిశగా కదులుతోందని చూపించే స్పష్టమైన సంకేతం.
ఈ వ్యాసం The Decoder రిపోర్టింగ్పై ఆధారపడింది. అసలు వ్యాసాన్ని చదవండి.
Originally published on the-decoder.com
