California traza una línea para las decisiones laborales automatizadas
La inteligencia artificial se está convirtiendo en parte de la maquinaria detrás de la contratación, las evaluaciones de desempeño, las reestructuraciones y los despidos. California ha decidido limitar ahora uno de sus usos más trascendentales: permitir que el software determine, en la práctica, si alguien conserva su empleo.
El gobernador Gavin Newsom firmó recientemente la SB 947, conocida como la “Ley contra los jefes robot”. La ley prohíbe a los empleadores externalizar por completo las decisiones disciplinarias y de despido a sistemas automatizados de decisión. Entrará en vigor el 1 de julio de 2027.
La política no prohíbe que los empleadores utilicen IA en los procesos laborales. En cambio, establece un umbral relevante en la práctica: un resultado automatizado no puede ser la autoridad final para imponer una sanción o despedir. Los empleadores deben revisar las recomendaciones generadas por IA y los trabajadores deben recibir una descripción de los motivos de la decisión disciplinaria o de despido.
La explicación incluye los datos utilizados por el sistema, como expedientes personales, evaluaciones, productos de trabajo, revisiones de colegas y entrevistas con testigos. Si un empleador no puede corroborar el resultado automatizado, o si un revisor humano considera que es inexacto, incompleto o engañoso, no podrá utilizarlo para tomar una decisión disciplinaria o de despido.
Por qué importa la legislación
Las decisiones laborales ya están siendo moldeadas por herramientas algorítmicas. Una encuesta de 1.000 profesionales de recursos humanos realizada por MyPerfectResume reveló que el 73% dijo utilizar IA para tomar decisiones de contratación. El 52% afirmó que la IA informa la reestructuración y la planificación de puestos, mientras que el 51% dijo usarla para señalar a candidatos considerados de riesgo. Solo el 26% afirmó no utilizar IA para decidir despidos.
Estas cifras no demuestran que todas las decisiones estén totalmente automatizadas. Sí muestran que la IA está superando la asistencia rutinaria de oficina y entrando en sistemas capaces de determinar quién recibe una oportunidad, una advertencia o una notificación de despido.
Ese cambio plantea una difícil cuestión de responsabilidad. Los sistemas de IA pueden procesar grandes volúmenes de información, pero sus resultados dependen de los datos que reciben y de los supuestos incorporados a su diseño. Una recomendación puede parecer objetiva porque llega en forma de puntuación, clasificación o alerta. Sin embargo, puede seguir siendo incompleta, engañosa o carecer de respaldo en los hechos específicos del trabajo de un empleado.
La SB 947 aborda ese riesgo haciendo que la revisión humana sea algo más que una aprobación ceremonial. El estándar de la ley está vinculado a la corroboración. Un revisor no puede aceptar simplemente una recomendación automatizada cuando no puede respaldarse, o cuando concluye que el resultado del sistema es erróneo o materialmente incompleto.
Un cambio práctico para los empleadores
Para los empleadores, la medida obliga a examinar cómo se utilizan las herramientas automatizadas durante todo el ciclo de vida del empleado. Los sistemas más evidentes incluyen herramientas que puntúan el desempeño, identifican riesgos de conducta, recomiendan sanciones, clasifican trabajadores durante reestructuraciones o señalan empleados para un posible despido.
Las organizaciones que utilicen estas herramientas necesitarán un proceso para documentar la base no automatizada de una decisión. También tendrán que identificar la información que influyó en el sistema automatizado y estar preparadas para describírsela al trabajador afectado.
El énfasis de la ley en las fuentes de datos es significativo. Los expedientes y las evaluaciones pueden reflejar registros laborales formales, mientras que los productos de trabajo, las revisiones de colegas y las entrevistas con testigos pueden ser más contextuales y subjetivos. Un sistema automatizado puede combinar esas entradas de maneras difíciles de conocer o cuestionar para un empleado sin divulgación.
Dar razones e identificar las entradas relevantes no resuelve todas las cuestiones de equidad. Pero ofrece al empleado y al revisor humano un punto de partida más claro para examinar si una recomendación se basó en las circunstancias reales de la persona.
Un modelo que otras jurisdicciones podrían observar
La regulación de la IA en el empleo sigue siendo, en gran medida, un proyecto estatal en Estados Unidos. Aun así, la medida de California podría influir en el debate en otros lugares porque se centra en un principio sencillo: los sistemas pueden ayudar a las personas, pero no deberían tomar de forma independiente la decisión final de sancionarlas o despedirlas.
El enfoque es más limitado que una prohibición general de la IA en el lugar de trabajo. Reconoce que los empleadores pueden utilizar sistemas automatizados, al tiempo que reserva el juicio final para una persona capaz de evaluar el contexto, verificar las pruebas y rechazar un resultado poco fiable.
Esa distinción puede cobrar mayor importancia a medida que las herramientas de IA se integren más profundamente en las plataformas de recursos humanos. La tecnología suele comercializarse como una forma de hacer que las decisiones laborales sean más rápidas y coherentes. La nueva ley de California subraya que la velocidad y la escala no eliminan la necesidad de un juicio responsable cuando está en juego el sustento de una persona.
Qué cambia en 2027
Cuando entre en vigor la SB 947, la pregunta central para los empleadores no será simplemente si intervino la IA. Será si se produjo una revisión humana real, si la recomendación automatizada podía corroborarse y si el empleado recibió una descripción significativa de la base de la decisión.
Para los trabajadores, la ley ofrece protección frente a un resultado disciplinario o de despido puramente automatizado. Para los empleadores y proveedores tecnológicos, eleva el nivel exigido para gobernar la IA laboral. Y para los responsables políticos, ofrece una primera prueba de si la supervisión humana exigible puede seguir el ritmo de la expansión de los sistemas automatizados de decisión en el trabajo.
Este artículo se basa en información de ZDNET. Leer el artículo original.
Originally published on zdnet.com