Lei da Califórnia contra Chefes Robôs devolve aos humanos as decisões de demissão por IA

Califórnia traça limite para decisões automatizadas no trabalho

A inteligência artificial está se tornando parte da engrenagem por trás de contratações, avaliações de desempenho, reestruturações e demissões. Agora, a Califórnia decidiu limitar um de seus usos mais relevantes: permitir que um software determine, na prática, se alguém continuará empregado.

O governador Gavin Newsom sancionou recentemente a SB 947, chamada de “Lei contra Chefes Robôs”. A lei proíbe empregadores de terceirizar integralmente decisões disciplinares e de demissão para sistemas automatizados de decisão. Ela entra em vigor em 1º de julho de 2027.

A política não proíbe o uso de IA nos processos de trabalho. Em vez disso, estabelece um limite que importa na prática: uma saída automatizada não pode ser a autoridade final para uma punição ou demissão. Os empregadores devem revisar recomendações geradas por IA, e os trabalhadores devem receber uma descrição dos motivos por trás de uma decisão disciplinar ou de demissão.

Essa explicação inclui os dados usados pelo sistema, como arquivos funcionais, avaliações, produtos do trabalho, avaliações de colegas e entrevistas com testemunhas. Se o empregador não puder corroborar a saída automatizada, ou se um revisor humano considerar que ela é imprecisa, incompleta ou enganosa, o empregador não poderá usá-la para tomar uma decisão disciplinar ou de demissão.

Por que a legislação importa

As decisões de emprego já estão sendo moldadas por ferramentas algorítmicas. Uma pesquisa com 1.000 profissionais de RH realizada pela MyPerfectResume constatou que 73% disseram usar IA para tomar decisões de contratação. Cinquenta e dois por cento disseram que a IA orienta reestruturações e o planejamento de funções, enquanto 51% afirmaram usá-la para sinalizar candidatos considerados de risco. Apenas 26% disseram não usar IA para tomar decisões de demissão.

Esses números não mostram que todas as decisões são totalmente automatizadas. Eles mostram, porém, que a IA está ultrapassando a assistência rotineira de bastidores e entrando em sistemas capazes de determinar quem recebe uma oportunidade, uma advertência ou um aviso de demissão.

Essa mudança cria uma difícil questão de responsabilidade. Sistemas de IA podem processar grandes volumes de informação, mas suas saídas dependem dos dados recebidos e das premissas incorporadas ao seu projeto. Uma recomendação pode parecer objetiva por chegar na forma de uma pontuação, classificação ou sinalização. Ainda assim, ela pode ser incompleta, enganosa ou sem respaldo nos fatos específicos do trabalho de um funcionário.

A SB 947 enfrenta esse risco ao tornar a revisão humana mais do que uma aprovação meramente formal. O padrão da lei está ligado à corroboração. Um revisor não pode simplesmente aceitar uma recomendação automatizada quando ela não pode ser sustentada, ou quando conclui que a saída do sistema está errada ou materialmente incompleta.

Uma mudança prática para os empregadores

Para os empregadores, a medida cria a necessidade de examinar como as ferramentas automatizadas são usadas ao longo do ciclo de vida do funcionário. Os sistemas mais óbvios incluem ferramentas que pontuam o desempenho, identificam riscos de conduta, recomendam medidas disciplinares, classificam trabalhadores durante reestruturações ou sinalizam funcionários para possível demissão.

As organizações que usam essas ferramentas precisarão de um processo para documentar a base não automatizada de uma decisão. Também precisarão identificar as informações que influenciaram o sistema automatizado e estar preparadas para descrevê-las ao trabalhador afetado.

O foco da lei nas fontes de dados é significativo. Arquivos funcionais e avaliações podem refletir registros formais do trabalho, enquanto produtos do trabalho, avaliações de colegas e entrevistas com testemunhas podem ser mais contextuais e subjetivos. Um sistema automatizado pode combinar essas entradas de maneiras difíceis de enxergar ou contestar sem divulgação.

Fornecer motivos e identificar as entradas relevantes não resolve todas as questões de justiça. Mas oferece ao funcionário e ao revisor humano um ponto de partida mais claro para examinar se uma recomendação se baseou nas circunstâncias reais daquela pessoa.

Um modelo que outras jurisdições podem observar

A regulamentação da IA no emprego continua sendo, em grande medida, uma iniciativa estadual nos Estados Unidos. Ainda assim, a medida da Califórnia pode influenciar o debate em outros lugares porque se concentra em um princípio direto: os sistemas podem ajudar as pessoas, mas não devem tomar de forma independente a decisão final de puni-las ou demiti-las.

A abordagem é mais restrita do que uma proibição ampla da IA no trabalho. Ela reconhece que os empregadores podem usar sistemas automatizados, reservando a decisão final a uma pessoa capaz de avaliar o contexto, verificar as evidências e rejeitar um resultado não confiável.

Essa distinção pode se tornar mais importante à medida que as ferramentas de IA sejam incorporadas mais profundamente às plataformas de recursos humanos. A tecnologia costuma ser divulgada como uma forma de tornar as decisões de trabalho mais rápidas e consistentes. A nova lei da Califórnia enfatiza que velocidade e escala não eliminam a necessidade de julgamento responsável quando o sustento de uma pessoa está em jogo.

O que muda em 2027

Quando a SB 947 entrar em vigor, a questão central para os empregadores não será simplesmente saber se a IA esteve envolvida. Será saber se ocorreu uma revisão humana real, se a recomendação automatizada podia ser corroborada e se o funcionário recebeu uma descrição significativa da base da decisão.

Para os trabalhadores, a lei oferece proteção contra um resultado disciplinar ou de demissão puramente automatizado. Para empregadores e fornecedores de tecnologia, ela eleva o padrão de governança da IA no trabalho. E, para os formuladores de políticas, oferece um teste inicial sobre se a supervisão humana aplicável pode acompanhar a expansão dos sistemas automatizados de decisão no trabalho.

Este artigo é baseado em uma reportagem da ZDNET. Leia o artigo original.