La loi californienne « No Robo Bosses » remet les humains au cœur des décisions de licenciement prises avec l’IA

La Californie fixe une limite aux décisions automatisées sur le lieu de travail

L’intelligence artificielle s’intègre progressivement aux processus de recrutement, d’évaluation des performances, de restructuration et de licenciement. La Californie vient désormais de limiter l’un de ses usages les plus lourds de conséquences : permettre à un logiciel de décider, en pratique, si une personne conserve son emploi.

Le gouverneur Gavin Newsom a récemment signé la SB 947, surnommée la « loi No Robo Bosses ». Le texte interdit aux employeurs d’externaliser entièrement les décisions disciplinaires et de licenciement à des systèmes automatisés de décision. Il entrera en vigueur le 1er juillet 2027.

La politique n’interdit pas aux employeurs d’utiliser l’IA dans les processus professionnels. Elle établit plutôt un seuil déterminant en pratique : un résultat automatisé ne peut constituer l’autorité finale pour une sanction ou un licenciement. Les employeurs doivent examiner les recommandations produites par l’IA, et les salariés doivent recevoir une description des motifs d’une décision disciplinaire ou de licenciement.

Cette explication doit inclure les données utilisées par le système, comme les dossiers du personnel, les évaluations, les productions professionnelles, les avis des collègues et les entretiens avec des témoins. Si l’employeur ne peut pas corroborer le résultat automatisé, ou si un examinateur humain le juge inexact, incomplet ou trompeur, l’employeur ne peut pas l’utiliser pour prendre une décision disciplinaire ou de licenciement.

Pourquoi cette législation compte

Les décisions d’emploi sont déjà influencées par des outils algorithmiques. Une enquête menée par MyPerfectResume auprès de 1 000 professionnels des ressources humaines a révélé que 73 % d’entre eux déclaraient utiliser l’IA pour prendre des décisions de recrutement. Cinquante-deux pour cent ont déclaré que l’IA intervenait dans les restructurations et la planification des postes, tandis que 51 % l’utilisaient pour signaler les candidats considérés comme présentant un risque. Seuls 26 % ont déclaré ne pas utiliser l’IA pour prendre des décisions de licenciement.

Ces chiffres ne montrent pas que chaque décision est entièrement automatisée. Ils montrent toutefois que l’IA dépasse l’assistance administrative de routine et entre dans des systèmes capables de déterminer qui reçoit une opportunité, un avertissement ou une notification de licenciement.

Cette évolution soulève une question complexe de responsabilité. Les systèmes d’IA peuvent traiter de grandes quantités d’informations, mais leurs résultats dépendent des données reçues et des hypothèses intégrées à leur conception. Une recommandation peut sembler objective parce qu’elle se présente sous la forme d’un score, d’un classement ou d’un signalement. Elle peut pourtant rester incomplète, trompeuse ou dépourvue de fondement dans les faits propres au travail d’un salarié.

La SB 947 répond à ce risque en faisant de l’examen humain davantage qu’une simple validation formelle. La norme prévue par la loi est liée à la corroboration. Un examinateur ne peut pas accepter mécaniquement une recommandation automatisée lorsqu’elle ne peut être étayée, ou lorsqu’il conclut que le résultat du système est erroné ou substantiellement incomplet.

Un changement pratique pour les employeurs

Pour les employeurs, la mesure impose d’examiner la manière dont les outils automatisés sont utilisés tout au long du parcours professionnel des salariés. Les systèmes les plus évidents comprennent les outils qui évaluent les performances, identifient les risques de comportement, recommandent des sanctions, classent les travailleurs lors de restructurations ou signalent les salariés susceptibles d’être licenciés.

Les organisations qui utilisent ces outils devront mettre en place un processus documentant le fondement non automatisé d’une décision. Elles devront également identifier les informations ayant influencé le système automatisé et être prêtes à les décrire au salarié concerné.

L’attention portée par la loi aux sources de données est importante. Les dossiers du personnel et les évaluations peuvent refléter des documents professionnels formels, tandis que les productions professionnelles, les avis des collègues et les entretiens avec des témoins peuvent être davantage liés au contexte et subjectifs. Un système automatisé peut combiner ces données d’une manière difficile à comprendre ou à contester pour un salarié sans divulgation.

Fournir les motifs et identifier les données pertinentes ne règle pas toutes les questions d’équité. Mais cela donne au salarié et à l’examinateur humain un point de départ plus clair pour déterminer si une recommandation reposait sur les circonstances réelles de la personne.

Un modèle que d’autres juridictions pourraient suivre

La réglementation de l’IA dans l’emploi demeure largement un projet mené au niveau des États aux États-Unis. L’initiative californienne pourrait néanmoins influencer le débat ailleurs, car elle s’appuie sur un principe simple : les systèmes peuvent aider les personnes, mais ils ne devraient pas décider seuls, en dernier ressort, de les sanctionner ou de les licencier.

L’approche est plus ciblée qu’une interdiction générale de l’IA au travail. Elle reconnaît que les employeurs peuvent utiliser des systèmes automatisés tout en réservant le jugement final à une personne capable d’évaluer le contexte, de vérifier les éléments de preuve et de rejeter un résultat peu fiable.

Cette distinction pourrait devenir plus importante à mesure que les outils d’IA s’intègrent davantage aux plateformes de ressources humaines. La technologie est souvent présentée comme un moyen de rendre les décisions professionnelles plus rapides et plus cohérentes. La nouvelle loi californienne souligne que la rapidité et l’échelle ne suppriment pas la nécessité d’un jugement responsable lorsque les moyens de subsistance d’une personne sont en jeu.

Ce qui change en 2027

Lorsque la SB 947 entrera en vigueur, la question centrale pour les employeurs ne sera pas simplement de savoir si l’IA est intervenue. Il faudra déterminer si un véritable examen humain a eu lieu, si la recommandation automatisée pouvait être corroborée et si le salarié a reçu une description suffisamment précise du fondement de la décision.

Pour les travailleurs, la loi offre une protection contre une sanction ou un licenciement entièrement automatisé. Pour les employeurs et les fournisseurs de technologies, elle relève le niveau d’exigence en matière de gouvernance de l’IA au travail. Pour les responsables publics, elle constitue un premier test visant à déterminer si une supervision humaine opposable peut suivre l’essor des systèmes automatisés de décision dans le monde professionnel.

Cet article s’appuie sur un reportage de ZDNET. Lire l’article original.