Quando metas de adoção de IA começam a moldar o comportamento
Segundo relatos, funcionários da Amazon estão usando uma ferramenta interna de IA para automatizar tarefas não essenciais com o objetivo de aumentar seu aparente uso dos sistemas de IA da empresa. A prática, descrita em uma reportagem publicada por Ars Technica com base no Financial Times, é chamada internamente de “tokenmaxxing”. O nome é jocoso, mas o problema subjacente é sério: quando a gestão enfatiza a adoção de IA como métrica, as pessoas podem otimizar para a métrica em vez de otimizar para o trabalho útil.
De acordo com a reportagem, a Amazon vem implantando amplamente um produto interno chamado MeshClaw, que permite aos funcionários criar agentes de IA conectados a softwares de trabalho e fazê-los executar tarefas em nome do usuário. Vários funcionários disseram que colegas estavam usando o sistema para gerar atividade adicional e desnecessária de IA, a fim de aumentar o consumo de tokens, as unidades de dados processadas pelos modelos.
Os incentivos por trás do comportamento
O artigo diz que a Amazon introduziu metas para que mais de 80% dos desenvolvedores usem IA toda semana e começou a acompanhar o consumo de tokens de IA em rankings internos no início do ano. Embora a Amazon tenha informado aos funcionários, segundo relatos, que as estatísticas de tokens não seriam usadas em avaliações de desempenho, vários membros da equipe disseram acreditar que os gerentes observavam os dados de qualquer forma.
Esse é exatamente o tipo de ambiguidade que gera uso performático. Se os trabalhadores acham que um comportamento medido pode influenciar sua posição, muitas vezes tentarão maximizar o sinal visível, mesmo quando a atividade subjacente agrega pouco ou nenhum valor. Nesse caso, isso pode significar usar IA para tarefas que não precisavam de automação ou gerar atividade principalmente para que as métricas reflitam participação.
A reportagem cita um funcionário dizendo que havia “muita pressão” para usar as ferramentas, e outro afirmando que os gerentes estavam olhando os dados de uso. Quer essas estatísticas afetem formalmente as avaliações ou não, a percepção de que elas importam pode ser suficiente para remodelar o comportamento no trabalho. Métricas não precisam ser critérios oficiais de desempenho para se tornarem sinais informais de poder.
