AI स्वीकृतीची उद्दिष्टे वर्तन घडवू लागतात तेव्हा
अॅमेझॉनचे कर्मचारी कंपनीच्या AI प्रणालींचा आपला वापर वाढवून दाखवण्यासाठी, आवश्यक नसलेली कामे स्वयंचलित करणाऱ्या एका अंतर्गत AI साधनाचा वापर करत असल्याचे कळते. Financial Times कडून Ars Technica मध्ये प्रसिद्ध झालेल्या अहवालात, या प्रथेला कंपनीमध्ये “टोकनमॅक्सिंग” असे म्हटले जात आहे. नाव जरी विनोदी वाटत असले, तरी त्यामागील समस्या गंभीर आहे: व्यवस्थापन AI स्वीकृतीला एक मेट्रिक म्हणून जास्त महत्त्व देत असेल, तर लोक उपयुक्त कामाऐवजी त्या मेट्रिकचेच ऑप्टिमायझेशन करतील.
अहवालानुसार, अॅमेझॉन MeshClaw नावाचे एक अंतर्गत उत्पादन मोठ्या प्रमाणावर वापरत आहे, जे कर्मचाऱ्यांना कामाच्या सॉफ्टवेअरशी जोडलेले AI एजंट तयार करू देते आणि त्यांच्याकडून वापरकर्त्याच्या वतीने काम करवून घेते. अनेक कर्मचाऱ्यांनी सांगितले की सहकारी या प्रणालीचा वापर अतिरिक्त, अनावश्यक AI क्रियाकलाप निर्माण करण्यासाठी करत होते, जेणेकरून टोकन वापर वाढेल, म्हणजेच मॉडेल्सद्वारे प्रक्रिया होणाऱ्या डेटाच्या एककांची संख्या वाढेल.
या वर्तनामागील प्रेरणा
लेखात म्हटले आहे की अॅमेझॉनने आठवड्याला 80 टक्क्यांहून अधिक विकसकांनी AI वापरावा अशी उद्दिष्टे ठरवली होती आणि वर्षाच्या सुरुवातीला अंतर्गत लीडरबोर्डवर AI टोकन वापराचा मागोवा घ्यायला सुरुवात केली होती. जरी अॅमेझॉनने कर्मचाऱ्यांना सांगितले असेल की टोकन आकडेवारी कामगिरीच्या मूल्यांकनात वापरली जाणार नाही, तरी अनेक कर्मचाऱ्यांनी म्हटले की व्यवस्थापक तरीही तो डेटा पाहत असल्याचे त्यांना वाटत होते.
हीच ती प्रकारची अस्पष्टता आहे, जी केवळ दाखवण्यासाठीचा वापर निर्माण करते. जर कर्मचाऱ्यांना असे वाटले की मोजले जाणारे वर्तन त्यांच्या स्थानावर परिणाम करू शकते, तर ते सहसा दिसणारा सिग्नल वाढवण्याचा प्रयत्न करतात, जरी मूळ कृतीत फारसा किंवा काहीच मूल्य नसले तरी. या प्रकरणात, त्याचा अर्थ AI चा वापर अशा कामांसाठी करणे होऊ शकतो, ज्यांना स्वयंचलित करण्याची गरज नव्हती, किंवा फक्त मेट्रिकमध्ये सहभाग दिसावा म्हणून क्रियाकलाप निर्माण करणे.
अहवालात एका कर्मचाऱ्याचे म्हणणे उद्धृत केले आहे की साधने वापरण्याचा “खूप दबाव” होता, आणि दुसऱ्याने सांगितले की व्यवस्थापक वापराचा डेटा पाहत होते. ती आकडेवारी औपचारिकपणे मूल्यांकनांवर परिणाम करते की नाही, हे वेगळे; पण त्यांना महत्त्व आहे अशी भावना पुरेशी असू शकते कामाच्या वर्तनात बदल घडवण्यासाठी. एखादा मेट्रिक औपचारिक कामगिरी निकष नसला, तरी तो अनौपचारिक सत्तासंकेत बनू शकतो.





