加州为自动化工作场所决策划定界限
人工智能正逐渐成为招聘、绩效评估、重组和裁员背后的工作机制之一。如今，加州开始限制其中一项影响最重大的用途：允许软件实质上决定一个人是否能够保住工作。
州长Gavin Newsom近日签署了SB 947，也被称为“禁止机器人老板法”。该法禁止雇主将纪律处分和解雇决定完全外包给自动化决策系统。法律将于2027年7月1日生效。
这项政策并不禁止雇主在工作场所流程中使用人工智能。相反，它设定了一个具有实际意义的门槛：自动化输出不能成为纪律处分或解雇的最终依据。雇主必须审查人工智能驱动的建议，员工也必须获得有关纪律处分或解雇决定理由的说明。
这种说明包括系统使用的数据，例如人事档案、评估、工作成果、同事评价和证人访谈。如果雇主无法 corroborate 自动化输出，或者人工审查者认为该输出不准确、不完整或具有误导性，雇主不得据此作出纪律处分或解雇决定。
这项立法为何重要
就业决定已经在受到算法工具的影响。MyPerfectResume对1,000名人力资源专业人士开展的调查发现，73%的人表示会使用人工智能作出招聘决定。52%的人表示人工智能会影响重组和岗位规划，51%的人表示会用它标记被认为存在风险的候选人。只有26%的人表示不会使用人工智能作出裁员决定。
这些数字并不表明每项决定都完全自动化。但它们显示，人工智能正在超越日常后台辅助，进入能够决定谁获得机会、警告或解雇通知的系统。
这种转变带来了一个棘手的问责问题。人工智能系统能够处理大量信息，但其输出取决于接收的数据以及设计中内置的假设。建议以分数、排名或标记的形式出现时，可能看起来很客观。然而，它仍可能不完整、具有误导性，或缺乏对特定员工实际工作情况的事实支持。
SB 947通过让人工审查不再只是象征性签字来应对这一风险。法律标准与佐证相挂钩。当自动化建议无法得到支持，或审查者认定系统输出错误或存在重大遗漏时，审查者不能简单接受该建议。
对雇主的实际影响
对雇主而言，这项措施要求他们审视自动化工具在员工生命周期各阶段的使用方式。最明显的系统包括评估绩效、识别行为风险、建议处分、在重组期间对员工排序，或标记可能被解雇员工的工具。
使用此类工具的组织需要建立流程，记录决定所依据的非自动化基础。他们还需要确定哪些信息影响了自动化系统，并准备向受影响员工说明这些信息。
法律对数据来源的关注具有重要意义。人事档案和评估可能反映正式的工作记录，而工作成果、同事评价和证人访谈可能更具情境性和主观性。自动化系统可能以员工难以了解或质疑的方式组合这些输入，除非相关信息得到披露。
说明理由并明确相关输入，并不能解决关于公平性的所有问题。但这能为员工和人工审查者提供更清晰的起点，以判断建议是否基于该员工的实际情况。
其他司法辖区可能关注的模式
在美国，就业领域的人工智能监管仍主要由州层面推进。不过，加州的行动可能影响其他地区的讨论，因为它聚焦于一项简单原则：系统可以协助人类，但不应独立作出对员工进行处分或解雇的最终决定。
这一做法比全面禁止工作场所人工智能更加狭窄。它承认雇主可以使用自动化系统，同时将最终判断权留给能够评估背景、核实证据并拒绝不可靠结果的人。
随着人工智能工具更深入地嵌入人力资源平台，这一区分可能变得更加重要。相关技术通常被宣传为让工作场所决策更快、更一致的手段。加州的新法强调，当一个人的生计受到影响时，速度和规模并不能消除对可问责判断的需求。
2027年将发生什么变化
SB 947生效后，雇主面临的核心问题将不再只是人工智能是否参与其中，而是是否进行了真正的人工审查、自动化建议是否能够得到佐证，以及员工是否获得了对决定依据的实质性说明。
对员工而言，该法提供了一层保护，避免其遭遇纯粹自动化的纪律处分或解雇结果。对雇主和技术提供商而言，它提高了工作场所人工智能治理的要求。对政策制定者而言，它则提供了一项早期检验：可执行的人工监督能否跟上自动化决策系统在工作场所不断扩大的作用。
本文根据ZDNET的报道编写。阅读原文。
Originally published on zdnet.com
