जब AI अपनाने के लक्ष्य व्यवहार को आकार देने लगते हैं

कथित तौर पर अमेज़न के कर्मचारी कंपनी के AI सिस्टम के अपने उपयोग को बढ़ा-चढ़ाकर दिखाने के लिए गैर-जरूरी कामों को स्वचालित करने वाले एक आंतरिक AI टूल का उपयोग कर रहे हैं। Financial Times से Ars Technica में प्रकाशित रिपोर्टिंग में वर्णित इस प्रथा को कंपनी के भीतर “टोकनमैक्सिंग” कहा जा रहा है। नाम भले मज़ाकिया हो, लेकिन इसके पीछे की समस्या गंभीर है: जब प्रबंधन AI अपनाने को एक मापदंड की तरह महत्व देता है, तो लोग उपयोगी काम के बजाय उसी मापदंड को अनुकूलित करने लगते हैं।

रिपोर्ट के अनुसार, अमेज़न एक आंतरिक उत्पाद MeshClaw को व्यापक रूप से तैनात कर रहा है, जो कर्मचारियों को कार्यस्थल सॉफ़्टवेयर से जुड़े AI एजेंट बनाने और उनसे उपयोगकर्ता की ओर से काम करवाने की सुविधा देता है। कई कर्मचारियों ने बताया कि सहकर्मी सिस्टम का उपयोग अतिरिक्त, अनावश्यक AI गतिविधि पैदा करने के लिए कर रहे थे, ताकि टोकन खपत बढ़े, यानी मॉडल द्वारा संसाधित डेटा की इकाइयाँ बढ़ें।

इस व्यवहार के पीछे के प्रोत्साहन

लेख में कहा गया है कि अमेज़न ने सप्ताह में 80 प्रतिशत से अधिक डेवलपरों के लिए AI का उपयोग करने के लक्ष्य तय किए थे और वर्ष की शुरुआत में आंतरिक लीडरबोर्ड पर AI टोकन खपत को ट्रैक करना शुरू किया था। हालांकि अमेज़न ने कथित तौर पर कर्मचारियों से कहा कि टोकन आँकड़ों का प्रदर्शन मूल्यांकन में उपयोग नहीं होगा, कई कर्मचारियों ने कहा कि उन्हें लगा मैनेजर फिर भी उस डेटा को देख रहे थे।

यह ठीक उसी तरह की अस्पष्टता है जो दिखावटी उपयोग को जन्म देती है। यदि कर्मचारियों को लगता है कि कोई मापा गया व्यवहार उनके स्थान को प्रभावित कर सकता है, तो वे अक्सर दिखने वाले संकेत को अधिकतम करने की कोशिश करते हैं, भले ही मूल गतिविधि में थोड़ा या कोई मूल्य न हो। इस मामले में, इसका मतलब AI का उपयोग उन कार्यों के लिए करना हो सकता है जिन्हें स्वचालित करने की ज़रूरत ही नहीं थी, या ऐसी गतिविधि उत्पन्न करना जो मुख्यतः इसलिए हो ताकि मीट्रिक भागीदारी दिखाए।

रिपोर्ट में एक कर्मचारी के हवाले से कहा गया कि टूल्स का उपयोग करने का “बहुत दबाव” था, और दूसरे ने कहा कि मैनेजर उपयोग-डेटा देख रहे थे। चाहे वे आँकड़े औपचारिक रूप से समीक्षाओं को प्रभावित करें या नहीं, यह धारणा कि वे मायने रखते हैं, कामकाजी व्यवहार को बदलने के लिए पर्याप्त हो सकती है। मीट्रिक को औपचारिक प्रदर्शन-मानदंड होने की ज़रूरत नहीं होती ताकि वह अनौपचारिक शक्ति-संकेत बन जाए।