अॅमेझॉनच्या 'टोकनमॅक्सिंग' समस्येच्या आत

AI स्वीकृतीची उद्दिष्टे वर्तन घडवू लागतात तेव्हा

अॅमेझॉनचे कर्मचारी कंपनीच्या AI प्रणालींचा आपला वापर वाढवून दाखवण्यासाठी, आवश्यक नसलेली कामे स्वयंचलित करणाऱ्या एका अंतर्गत AI साधनाचा वापर करत असल्याचे कळते. Financial Times कडून Ars Technica मध्ये प्रसिद्ध झालेल्या अहवालात, या प्रथेला कंपनीमध्ये “टोकनमॅक्सिंग” असे म्हटले जात आहे. नाव जरी विनोदी वाटत असले, तरी त्यामागील समस्या गंभीर आहे: व्यवस्थापन AI स्वीकृतीला एक मेट्रिक म्हणून जास्त महत्त्व देत असेल, तर लोक उपयुक्त कामाऐवजी त्या मेट्रिकचेच ऑप्टिमायझेशन करतील.

अहवालानुसार, अॅमेझॉन MeshClaw नावाचे एक अंतर्गत उत्पादन मोठ्या प्रमाणावर वापरत आहे, जे कर्मचाऱ्यांना कामाच्या सॉफ्टवेअरशी जोडलेले AI एजंट तयार करू देते आणि त्यांच्याकडून वापरकर्त्याच्या वतीने काम करवून घेते. अनेक कर्मचाऱ्यांनी सांगितले की सहकारी या प्रणालीचा वापर अतिरिक्त, अनावश्यक AI क्रियाकलाप निर्माण करण्यासाठी करत होते, जेणेकरून टोकन वापर वाढेल, म्हणजेच मॉडेल्सद्वारे प्रक्रिया होणाऱ्या डेटाच्या एककांची संख्या वाढेल.

या वर्तनामागील प्रेरणा

लेखात म्हटले आहे की अॅमेझॉनने आठवड्याला 80 टक्क्यांहून अधिक विकसकांनी AI वापरावा अशी उद्दिष्टे ठरवली होती आणि वर्षाच्या सुरुवातीला अंतर्गत लीडरबोर्डवर AI टोकन वापराचा मागोवा घ्यायला सुरुवात केली होती. जरी अॅमेझॉनने कर्मचाऱ्यांना सांगितले असेल की टोकन आकडेवारी कामगिरीच्या मूल्यांकनात वापरली जाणार नाही, तरी अनेक कर्मचाऱ्यांनी म्हटले की व्यवस्थापक तरीही तो डेटा पाहत असल्याचे त्यांना वाटत होते.

हीच ती प्रकारची अस्पष्टता आहे, जी केवळ दाखवण्यासाठीचा वापर निर्माण करते. जर कर्मचाऱ्यांना असे वाटले की मोजले जाणारे वर्तन त्यांच्या स्थानावर परिणाम करू शकते, तर ते सहसा दिसणारा सिग्नल वाढवण्याचा प्रयत्न करतात, जरी मूळ कृतीत फारसा किंवा काहीच मूल्य नसले तरी. या प्रकरणात, त्याचा अर्थ AI चा वापर अशा कामांसाठी करणे होऊ शकतो, ज्यांना स्वयंचलित करण्याची गरज नव्हती, किंवा फक्त मेट्रिकमध्ये सहभाग दिसावा म्हणून क्रियाकलाप निर्माण करणे.

अहवालात एका कर्मचाऱ्याचे म्हणणे उद्धृत केले आहे की साधने वापरण्याचा “खूप दबाव” होता, आणि दुसऱ्याने सांगितले की व्यवस्थापक वापराचा डेटा पाहत होते. ती आकडेवारी औपचारिकपणे मूल्यांकनांवर परिणाम करते की नाही, हे वेगळे; पण त्यांना महत्त्व आहे अशी भावना पुरेशी असू शकते कामाच्या वर्तनात बदल घडवण्यासाठी. एखादा मेट्रिक औपचारिक कामगिरी निकष नसला, तरी तो अनौपचारिक सत्तासंकेत बनू शकतो.

अॅमेझॉनपलीकडे हे का महत्त्वाचे आहे

कंपनीविशिष्ट तपशील लक्षात घेण्यासारखे आहेत, पण व्यापक समस्या एकाच नियोक्त्यापुरती मर्यादित नाही. तंत्रज्ञान क्षेत्रात कंपन्या मोठ्या AI गुंतवणुकीचे परतावे दाखवण्याचा प्रयत्न करत आहेत, आणि त्याचवेळी जनरेटिव्ह साधने दैनंदिन कामप्रवाहात अधिक खोलवर नेत आहेत. अशा वातावरणात, स्वीकृतीचे आकडे धोरणात्मक गतीचे प्रतीक बनू शकतात.

समस्या अशी की स्वीकृती आणि उत्पादकता एकच गोष्ट नाहीत. एखादी कार्यसंघ प्रभावी वापर-आकडे निर्माण करू शकते, पण आउटपुट, गुणवत्ता किंवा वेगात त्या प्रमाणात फायदा नसेल. खरं तर, कर्मचारी टोकन संख्या वाढवण्यासाठी कमी-मूल्याची कामे स्वयंचलित करू लागले, तर तो डेटा नेतृत्वाला दिशाभूल करू शकतो, कारण त्यामुळे टूलचा सहभाग प्रत्यक्षापेक्षा अधिक निरोगी दिसेल.

MeshClaw आणि एजेंटिक ऑफिस सॉफ्टवेअरचा वाढता प्रभाव

अॅमेझॉनचे MeshClaw हे असे प्रणाली म्हणून वर्णन केले जाते, जे कर्मचाऱ्यांना AI एजंट तयार करू देते; हे एजंट कामाच्या सॉफ्टवेअरशी जोडून वापरकर्त्याच्या वतीने काम करू शकतात. हा एजेंटिक एंटरप्राइझ साधनांकडे होणाऱ्या व्यापक बदलाचा भाग आहे, ज्यात मॉडेल्स फक्त प्रश्नांची उत्तरे देत नाहीत, तर कृती सुरू करतात, प्रणालींमध्ये माहिती हलवतात, आणि ऑपरेशनल कामे हाताळतात.

अशा साधनांचे आकर्षण स्पष्ट आहे. ती लीव्हरेजचे आश्वासन देतात: कमी मॅन्युअल पायऱ्या, जलद काम पूर्णता, आणि वारंवार होणारे डिजिटल काम सोपवण्याची क्षमता. पण त्याचबरोबर ती संस्थांच्या आत एक नवीन अहवाल पृष्ठभागही तयार करतात. जर प्रत्येक क्रिया मोजता आली, प्रत्येक कर्मचाऱ्याला क्रमांक देता आला, आणि प्रत्येक टोकनचा मागोवा घेता आला, तर AI वापर स्वतःच व्यवस्थापनाचा विषय बनतो.

अहवालात नमूद केले आहे की अॅमेझॉनने अलीकडे टीम-व्यापी आकडेवारीचा प्रवेश मर्यादित केला, जेणेकरून तो डेटा फक्त कर्मचारी आणि व्यवस्थापक पाहू शकतील. हा बदल सूचित करतो की दृश्यमानता वर्तनावर कशी परिणाम करते हे कंपनी आधीच जुळवून पाहत असावी. अंतर्गत AI साधनांभोवती एकदा लीडरबोर्ड संस्कृती निर्माण झाली, की खरा प्रयोग आणि गुणांसाठी धावणे यांत फरक करणे कठीण होते.

महागड्या पार्श्वभूमीतील अंतर्गत दडपण

हे दडपण प्रचंड खर्चाच्या पार्श्वभूमीवर येत आहे. या वर्षी अॅमेझॉन भांडवली खर्चावर 200 अब्ज डॉलर खर्च करेल, ज्यातील बहुतांश AI आणि डेटा-सेंटर पायाभूत सुविधांकडे जाईल, असे अहवालात म्हटले आहे. असा आर्थिक बांधिलकीचा स्तर नैसर्गिकरित्या वापर दाखवण्याचा दबाव वाढवतो. महागडी पायाभूत सुविधा रिकामी बसून नाहीत याचा पुरावा नेतृत्वाला हवा असतो.

त्या दृष्टिकोनातून टोकन संख्या आकर्षक वाटतात. त्या त्वरित मिळतात, संख्यात्मक असतात, आणि तुलना करणे सोपे असते. पण त्या वरवरच्या मोजमाप आहेत. जास्त टोकन संख्या उपयुक्त कोडिंग मदत, वाया जाणारे प्रयोग, पुनरावृत्त कामे, किंवा थेट टोकनमॅक्सिंग यांचे प्रतिबिंब असू शकते. अधिक मजबूत परिणामाधारित मेट्रिक्सशिवाय, वापराचा डेटा आत्मविश्वासपूर्ण पण अपूर्ण कथा सांगू शकतो.

व्यवस्थापनाचा धडा

इथे सर्वात महत्त्वाचा धडा हा नाही की कर्मचाऱ्यांनी मेट्रिक खेळवला. प्रोत्साहने तसे करणे तर्कसंगत ठरवतात तेव्हा कर्मचारी मेट्रिक्स खेळतातच. खरा धडा असा आहे की संस्थांनी नेमके काय बक्षीस देत आहेत याबाबत स्पष्ट असले पाहिजे. उद्दिष्ट चांगले सॉफ्टवेअर, जलद वितरण, किंवा उच्च-गुणवत्तेचे अंतर्गत संचालन असेल, तर ती परिणामे शक्य तितकी थेट मोजली पाहिजेत. मोजलेले लक्ष्य फक्त “AI अधिक वापरा” असेल, तर कर्मचारी तेच करतील.

याचा अर्थ वापराचा डेटा निरुपयोगी आहे असे नाही. तो साधने कुठे शोधली जात आहेत, रोलआउट कुठे असमान आहे, किंवा कोणत्या टीमना मदतीची गरज आहे हे दाखवू शकतो. पण दृश्यमानता आणि दबाव हे मूल्याविषयीच्या स्पष्टतेपेक्षा वेगाने वाढले, तर मेट्रिक एका खेळात बदलतो. “टोकनमॅक्सिंग” हा शब्द त्या अपयश प्रकारासाठी उपयुक्त इशारा आहे.

AI मधील पुढील कार्यस्थळ तणावाचे चिन्ह

वर्षानुवर्षे, कामाच्या ठिकाणी AI बाबतची चर्चा कर्मचारी साधने स्वीकारतील की नाही यावर केंद्रित होती. अॅमेझॉनची घटना सूचित करते की पुढचा टप्पा वेगळा असू शकतो: अतिस्वीकृतीचे नाट्य, वरवरचे वापर प्रोत्साहन, आणि अंतर्गत डॅशबोर्ड वर्तन बिघडवण्यापासून कसे रोखायचे. कंपन्या AI गुंतवणुकीचे फळ मिळत असल्याचा पुरावा शोधत असताना, त्यांना कदाचित जाणवेल की वापर मोजणे सोपा भाग आहे. उपयुक्त वापर मोजणे कठीण आहे.

एंटरप्राइझ AI सामान्य होत जाईल तसा हा फरक अधिक महत्त्वाचा होईल. जे संस्थान ते चांगल्या प्रकारे हाताळतील त्या सर्वात मोठ्या टोकन संख्यांच्या नसतील. त्या असतील ज्या खरा लीव्हरेज आणि महागडा गोंधळ यात फरक ओळखू शकतात.

हा लेख Ars Technica च्या अहवालावर आधारित आहे. मूळ लेख वाचा.