అమెజాన్ యొక్క 'టోకెన్మ్యాక్సింగ్' సమస్యలోకి

AI స్వీకరణ లక్ష్యాలు ప్రవర్తనను ప్రభావితం చేయడం ప్రారంభించినప్పుడు

అమెజాన్ ఉద్యోగులు కంపెనీ యొక్క AI సిస్టమ్స్‌ను తాము ఉపయోగిస్తున్నట్లుగా చూపించడానికి అవసరం లేని పనులను ఆటోమేట్ చేసే ఒక అంతర్గత AI టూల్‌ను ఉపయోగిస్తున్నారని సమాచారం. Financial Times నుంచి Ars Technicaలో వెలువడిన నివేదికలో, కంపెనీ లోపల ఈ పద్ధతిని “టోకెన్మ్యాక్సింగ్” అని అంటున్నారని చెప్పారు. పేరు హాస్యంగా ఉన్నప్పటికీ, దాని వెనుక ఉన్న సమస్య తీవ్రమైనది: మేనేజ్‌మెంట్ AI స్వీకరణను ఒక మెట్రిక్‌గా ప్రాధాన్యం ఇస్తే, ప్రజలు ఉపయోగకరమైన పనికన్నా ఆ మెట్రిక్‌ను ఆప్టిమైజ్ చేయడానికి మొగ్గుచూపుతారు.

ఆ నివేదిక ప్రకారం, అమెజాన్ MeshClaw అనే ఒక అంతర్గత ఉత్పత్తిని విస్తృతంగా అమలు చేస్తోంది, ఇది ఉద్యోగులు పనిస్థల సాఫ్ట్‌వేర్‌కు అనుసంధానమైన AI ఏజెంట్లను సృష్టించి, వాటితో వినియోగదారుడి తరఫున పనులు చేయించుకునేలా చేస్తుంది. టోకెన్ వినియోగాన్ని, అంటే మోడళ్ల ద్వారా ప్రాసెస్ అయ్యే డేటా యూనిట్లను, పెంచడం కోసం సహచరులు ఆ వ్యవస్థను అదనపు, అవసరం లేని AI కార్యకలాపం సృష్టించడానికి ఉపయోగిస్తున్నారని పలువురు ఉద్యోగులు చెప్పారు.

ఈ ప్రవర్తన వెనుక ఉన్న ప్రోత్సాహకాలు

ఈ సంవత్సరం ప్రారంభంలో 80 శాతం కంటే ఎక్కువ డెవలపర్లు ప్రతి వారం AI ఉపయోగించాలని లక్ష్యాలు పెట్టినట్లు, అలాగే అంతర్గత లీడర్‌బోర్డులపై AI టోకెన్ వినియోగాన్ని ట్రాక్ చేయడం ప్రారంభించినట్లు ఆ వ్యాసం చెబుతోంది. టోకెన్ గణాంకాలను పనితీరు మూల్యాంకనాల్లో ఉపయోగించమని లేదని అమెజాన్ ఉద్యోగులకు చెప్పినట్లు సమాచారం ఉన్నప్పటికీ, మేనేజర్లు ఆ డేటాను చూసేవారని పలువురు సిబ్బంది భావించారని చెప్పారు.

అలాంటి అస్పష్టతే ప్రదర్శనాత్మక వినియోగాన్ని పెంచుతుంది. కొలిచే ప్రవర్తన తమ స్థితిని ప్రభావితం చేయవచ్చని ఉద్యోగులు భావిస్తే, మూల కార్యకలాపానికి తక్కువ లేదా ఎలాంటి విలువ లేకపోయినా కూడా, కనిపించే సంకేతాన్ని గరిష్ఠం చేయడానికి ప్రయత్నిస్తారు. ఈ సందర్భంలో, ఆర్థం AI ని ఆటోమేట్ చేయాల్సిన అవసరం లేని పనుల కోసం ఉపయోగించడం లేదా మెట్రిక్‌లో పాల్గొన్నట్లు కనిపించడానికి మాత్రమే కార్యకలాపాన్ని సృష్టించడం కావచ్చు.

ఆ నివేదికలో ఒక ఉద్యోగి టూల్స్ ఉపయోగించాలనే “చాలా ఒత్తిడి” ఉందని చెప్పినట్లు, మరో ఉద్యోగి మేనేజర్లు వినియోగ డేటాను చూస్తున్నారని చెప్పినట్లు ఉటంకించింది. ఆ గణాంకాలు అధికారికంగా సమీక్షలను ప్రభావితం చేస్తాయో లేదో పక్కన పెడితే, అవి ముఖ్యం అని భావించడం మాత్రమే పని ప్రవర్తనను మార్చడానికి సరిపోతుంది. ఒక మెట్రిక్ అధికారిక పనితీరు ప్రమాణం కాకపోయినా, అది అనౌపచారిక శక్తి సంకేతంగా మారగలదు.

అమెజాన్‌కు మించి ఇది ఎందుకు ముఖ్యం

కంపెనీ-నిర్దిష్ట వివరాలు ముఖ్యమైనవే, కానీ విస్తృత సమస్య ఒక్క యజమానిని మించి ఉంటుంది. టెక్నాలజీ రంగం అంతటా, కంపెనీలు పెద్ద AI పెట్టుబడులకు ఫలితాలు చూపించేందుకు ప్రయత్నిస్తూనే, జనరేటివ్ టూల్స్‌ను రోజువారీ వర్క్‌ఫ్లోలలో మరింత లోతుగా నెట్టేస్తున్నాయి. ఆ వాతావరణంలో, స్వీకరణ సంఖ్యలు వ్యూహాత్మక వేగానికి ప్రతీకగా మారవచ్చు.

సమస్య ఏమిటంటే, స్వీకరణ మరియు ఉత్పాదకత ఒకటి కాదు. ఒక వర్క్‌ఫోర్స్ ఆకర్షణీయమైన వినియోగ గణాంకాలను సృష్టించగలదు, కానీ అవుట్‌పుట్, నాణ్యత లేదా వేగంలో తగినంత లాభం ఇవ్వకపోవచ్చు. నిజానికి, ఉద్యోగులు టోకెన్ సంఖ్యలను పెంచేందుకు తక్కువ విలువైన పనులను ఆటోమేట్ చేయడం ప్రారంభిస్తే, ఆ డేటా నాయకత్వాన్ని తప్పుదారి పట్టించవచ్చు; ఎందుకంటే టూల్ ఎంగేజ్‌మెంట్ వాస్తవానికి కన్నా ఆరోగ్యంగా కనిపిస్తుంది.

MeshClaw మరియు ఏజెంటిక్ కార్యాలయ సాఫ్ట్‌వేర్ వృద్ధి

అమెజాన్ యొక్క MeshClaw అనేది ఉద్యోగులు AI ఏజెంట్లను నిర్మించేందుకు అనుమతించే వ్యవస్థగా వర్ణించబడింది; అవి పనిస్థల సాఫ్ట్‌వేర్‌కు కనెక్ట్ అయి వినియోగదారుడి తరఫున పని చేయగలవు. ఇది ఏజెంటిక్ ఎంటర్‌ప్రైజ్ టూల్స్ వైపు జరుగుతున్న పెద్ద మార్పులో భాగం, ఇందులో మోడళ్ళు కేవలం ప్రశ్నలకు సమాధానాలు ఇవ్వడమే కాదు, చర్యలను ప్రారంభిస్తాయి, వ్యవస్థల మధ్య సమాచారాన్ని కదిలిస్తాయి, మరియు ఆపరేషనల్ పనులను నిర్వహిస్తాయి.

ఈ టూల్స్ ఆకర్షణ స్పష్టమే. అవి లెవరేజ్‌ను వాగ్దానం చేస్తాయి: తక్కువ మాన్యువల్ దశలు, వేగవంతమైన పని పూర్తి, మరియు పునరావృత డిజిటల్ పనిని అప్పగించే సామర్థ్యం. కానీ అవి సంస్థల లోపల ఒక కొత్త రిపోర్టింగ్ ఉపరితలాన్ని కూడా సృష్టిస్తాయి. ప్రతి చర్యను లెక్కించగలిగితే, ప్రతి ఉద్యోగిని ర్యాంక్ చేయగలిగితే, మరియు ప్రతి టోకెన్‌ను ట్రేస్ చేయగలిగితే, AI వినియోగం కూడా ఒక మేనేజీరియల్ వస్తువుగా మారడం ప్రారంభిస్తుంది.

అమెజాన్ ఇటీవల టీమ్-వైడ్ గణాంకాల ప్రాప్తిని పరిమితం చేసిందని నివేదిక చెబుతోంది, తద్వారా ఆ డేటాను ఉద్యోగులు మరియు మేనేజర్లు మాత్రమే చూడగలుగుతారు. ఈ మార్పు, దృశ్యమానత ప్రవర్తనపై ఎలా ప్రభావం చూపుతుందో కంపెనీ ఇప్పటికే సర్దుబాటు చేయడానికి ప్రయత్నిస్తోందని సూచిస్తుంది. అంతర్గత AI టూలింగ్ చుట్టూ లీడర్‌బోర్డ్ సంస్కృతి ఏర్పడిన వెంటనే, నిజమైన ప్రయోగం మరియు స్కోరు-వేటను వేరు చేయడం కష్టం అవుతుంది.

ఖరీదైన పర్యావరణంలోని అంతర్గత ఒత్తిడి

ఈ ప్రోత్సాహం భారీ ఖర్చుల నేపథ్యంలో జరుగుతోంది. ఈ సంవత్సరం అమెజాన్ మూలధన వ్యయంపై 200 బిలియన్ డాలర్లు ఖర్చు చేస్తుందని నివేదిక చెబుతోంది, అందులో పెద్దభాగం AI మరియు డేటా-సెంటర్ మౌలిక సదుపాయాలకే వెళ్తుంది. ఇలాంటి ఆర్థిక కట్టుబాటు సహజంగానే వినియోగాన్ని చూపించాలనే ఒత్తిడిని పెంచుతుంది. ఖరీదైన మౌలిక సదుపాయం ఖాళీగా లేదని నాయకత్వం సాక్ష్యం కోరుకుంటుంది.

ఆ దృష్టిలో, టోకెన్ సంఖ్యలు ఆకర్షణీయంగా ఉంటాయి. అవి వెంటనే లభిస్తాయి, పరిమాణాత్మకంగా ఉంటాయి, మరియు పోల్చడం సులభం. కానీ అవి ఒక ఉపరితల సూచీ మాత్రమే. అధిక టోకెన్ మొత్తం ఉత్పాదక కోడింగ్ సహాయం, వృథా ప్రయోగం, నకిలీ పనులు, లేదా పూర్తిగా టోకెన్మ్యాక్సింగ్‌ను ప్రతిబింబించవచ్చు. బలమైన ఫలిత-ఆధారిత కొలమానాలు లేకుండా, వినియోగ డేటా నమ్మకంగా అనిపించే కానీ అపూర్ణమైన కథను చెప్పగలదు.

మేనేజ్‌మెంట్ పాఠం

ఇక్కడ అత్యంత ముఖ్యమైన పాఠం ఉద్యోగులు ఒక మెట్రిక్‌ను ఆటపట్టించారనే కాదు. ప్రోత్సాహకాలు అలా చేయడాన్ని తర్కబద్ధంగా మార్చినప్పుడు ఉద్యోగులు మెట్రిక్స్‌ను ఆటపట్టిస్తారు. అసలు పాఠం ఏమిటంటే సంస్థలు తాము ఏమిని బహుమతిచేస్తున్నారో స్పష్టంగా ఉండాలి. లక్ష్యం మెరుగైన సాఫ్ట్‌వేర్, వేగవంతమైన డెలివరీ, లేదా ఉన్నత నాణ్యత గల అంతర్గత కార్యకలాపాలు అయితే, ఆ ఫలితాలను సాధ్యమైనంత నేరుగా కొలవాలి. కొలవబడే లక్ష్యం కేవలం “AI ని ఎక్కువగా వాడు” మాత్రమే అయితే, ఉద్యోగులు అదే చేయడానికి మార్గం కనుగొంటారు.

అది వినియోగ డేటా పనికిరాదని అర్థం కాదు. టూల్స్ ఎక్కడ కనుగొనబడుతున్నాయి, రోల్‌అవుట్ ఎక్కడ అసమానంగా ఉంది, లేదా ఏ టీమ్‌లకు మద్దతు అవసరమో అది చూపించగలదు. కానీ దృశ్యమానత మరియు ఒత్తిడి, విలువపై స్పష్టత కంటే వేగంగా పెరిగితే, మెట్రిక్ ఒక ఆటగా మారుతుంది. “టోకెన్మ్యాక్సింగ్” అనే పదం ఆ వైఫల్య-రూపానికి సరైన హెచ్చరిక లేబుల్.

AI లో తదుపరి కార్యాలయ ఉద్రిక్తతకు సంకేతం

ఏళ్ల పాటు, పనిలో AI పై చర్చ ఉద్యోగులు టూల్స్‌ను నిజంగా స్వీకరిస్తారా లేదా అన్నదానిపై నిలిచింది. అమెజాన్ సంఘటన తర్వాతి దశ వేరుగా ఉండవచ్చని సూచిస్తోంది: అధిక స్వీకరణ నాటకం, ఉపరితల వినియోగ ప్రోత్సాహకాలు, మరియు అంతర్గత డాష్‌బోర్డులు ప్రవర్తనను వక్రీకరించకుండా ఎలా నిలువరించాలి అన్నదే అది. కంపెనీలు AI పెట్టుబడులు ఫలిస్తున్నాయనే రుజువు కోసం పరిగెడుతున్నప్పుడు, వినియోగాన్ని కొలవడం సులభమైన భాగమని తెలుసుకునే అవకాశం ఉంది. ఉపయోగకరమైన వినియోగాన్ని కొలవడం కష్టం.

ఎంటర్‌ప్రైజ్ AI సాధారణమవుతున్న కొద్దీ ఆ తేడా మరింత ముఖ్యం అవుతుంది. దాన్ని బాగా నిర్వహించే సంస్థలు అతిపెద్ద టోకెన్ సంఖ్యలున్నవే కావు. నిజమైన లెవరేజ్ మరియు ఖరీదైన శబ్దం మధ్య తేడా చెప్పగలవే అవి.

ఈ వ్యాసం Ars Technica నివేదిక ఆధారంగా ఉంది. మూల వ్యాసాన్ని చదవండి.