Kalifornien zieht eine Grenze bei automatisierten Entscheidungen am Arbeitsplatz
Künstliche Intelligenz wird zunehmend Teil der Systeme hinter Einstellungen, Leistungsbeurteilungen, Umstrukturierungen und Entlassungen. Kalifornien beschränkt nun eine der folgenreichsten Anwendungen: dass Software praktisch entscheidet, ob jemand seinen Arbeitsplatz behält.
Gouverneur Gavin Newsom unterzeichnete kürzlich SB 947, das als „No Robo Bosses Act“ bezeichnet wird. Das Gesetz verbietet Arbeitgebern, Disziplinar- und Kündigungsentscheidungen vollständig an automatisierte Entscheidungssysteme auszulagern. Es tritt am 1. Juli 2027 in Kraft.
Die Regelung verbietet Arbeitgebern nicht, KI in betrieblichen Abläufen einzusetzen. Stattdessen legt sie eine praktisch entscheidende Schwelle fest: Ein automatisiertes Ergebnis darf nicht die letzte Instanz bei einer Disziplinar- oder Kündigungsentscheidung sein. Arbeitgeber müssen KI-gestützte Empfehlungen prüfen, und Beschäftigte müssen eine Beschreibung der Gründe für eine Disziplinar- oder Kündigungsentscheidung erhalten.
Diese Erklärung umfasst die vom System verwendeten Daten, etwa Personalakten, Beurteilungen, Arbeitsergebnisse, Bewertungen durch Kollegen und Zeugengespräche. Wenn ein Arbeitgeber das automatisierte Ergebnis nicht bestätigen kann oder ein menschlicher Prüfer es als ungenau, unvollständig oder irreführend bewertet, darf der Arbeitgeber es nicht für eine Disziplinar- oder Kündigungsentscheidung verwenden.
Warum die Gesetzgebung wichtig ist
Beschäftigungsentscheidungen werden bereits durch algorithmische Werkzeuge geprägt. Eine von MyPerfectResume durchgeführte Befragung von 1.000 HR-Fachleuten ergab, dass 73 % angaben, KI für Einstellungsentscheidungen zu nutzen. 52 % sagten, KI fließe in Umstrukturierungen und die Planung von Rollen ein, während 51 % sie nutzten, um als riskant eingestufte Kandidaten zu markieren. Nur 26 % erklärten, dass sie KI nicht für Entlassungsentscheidungen einsetzen.
Diese Zahlen zeigen nicht, dass jede Entscheidung vollständig automatisiert ist. Sie zeigen jedoch, dass KI über routinemäßige Unterstützung im Backoffice hinaus in Systeme vordringt, die bestimmen können, wer eine Chance, eine Verwarnung oder eine Kündigungsmitteilung erhält.
Dieser Wandel wirft eine schwierige Frage der Verantwortlichkeit auf. KI-Systeme können große Informationsmengen verarbeiten, doch ihre Ergebnisse hängen von den Daten ab, die sie erhalten, und von den Annahmen, die in ihr Design eingebaut sind. Eine Empfehlung kann objektiv wirken, weil sie als Punktzahl, Rangfolge oder Warnsignal erscheint. Dennoch kann sie unvollständig, irreführend oder nicht durch die konkreten Fakten der Arbeit eines bestimmten Beschäftigten gestützt sein.
SB 947 begegnet diesem Risiko, indem menschliche Prüfung mehr als eine bloße Formsache wird. Der gesetzliche Maßstab ist an eine Bestätigung der Ergebnisse geknüpft. Ein Prüfer darf eine automatisierte Empfehlung nicht einfach akzeptieren, wenn sie nicht belegt werden kann oder wenn er zu dem Schluss kommt, dass das Systemergebnis falsch oder wesentlich unvollständig ist.
Eine praktische Veränderung für Arbeitgeber
Für Arbeitgeber schafft die Maßnahme die Notwendigkeit zu prüfen, wie automatisierte Werkzeuge über den gesamten Beschäftigungszyklus hinweg eingesetzt werden. Zu den naheliegendsten Systemen gehören Werkzeuge, die Leistungen bewerten, Verhaltensrisiken erkennen, Disziplinarmaßnahmen empfehlen, Beschäftigte bei Umstrukturierungen einordnen oder Mitarbeiter für eine mögliche Kündigung markieren.
Organisationen, die solche Werkzeuge einsetzen, benötigen ein Verfahren, um die nicht automatisierte Grundlage einer Entscheidung zu dokumentieren. Außerdem müssen sie ermitteln, welche Informationen das automatisierte System beeinflusst haben, und in der Lage sein, diese einem betroffenen Beschäftigten zu erläutern.
Die Konzentration des Gesetzes auf Datenquellen ist bedeutsam. Personalakten und Beurteilungen können formale Arbeitsplatzaufzeichnungen widerspiegeln, während Arbeitsergebnisse, Bewertungen durch Kollegen und Zeugengespräche stärker vom Kontext abhängen und subjektiver sein können. Ein automatisiertes System kann diese Eingaben auf eine Weise kombinieren, die ein Beschäftigter ohne Offenlegung nur schwer erkennen oder anfechten kann.
Die Gründe darzulegen und relevante Eingaben zu benennen, beantwortet nicht jede Frage der Fairness. Es gibt Beschäftigten und menschlichen Prüfern jedoch einen klareren Ausgangspunkt, um zu untersuchen, ob eine Empfehlung auf den tatsächlichen Umständen der betreffenden Person beruhte.
Ein Modell, das andere Rechtsräume beobachten könnten
Die Regulierung von KI im Beschäftigungsbereich ist in den Vereinigten Staaten weiterhin weitgehend ein Projekt auf Ebene der Bundesstaaten. Kaliforniens Vorgehen könnte die Debatte dennoch andernorts beeinflussen, weil es sich auf ein einfaches Prinzip konzentriert: Systeme dürfen Menschen unterstützen, sollten aber nicht eigenständig die endgültige Entscheidung treffen, sie zu disziplinieren oder zu entlassen.
Der Ansatz ist enger gefasst als ein umfassendes Verbot von KI am Arbeitsplatz. Er erkennt an, dass Arbeitgeber automatisierte Systeme einsetzen dürfen, während das endgültige Urteil einer Person vorbehalten bleibt, die den Kontext bewerten, Belege überprüfen und ein unzuverlässiges Ergebnis zurückweisen kann.
Diese Unterscheidung könnte wichtiger werden, je tiefer KI-Werkzeuge in Personalplattformen eingebettet werden. Die Technologie wird oft als Möglichkeit vermarktet, Entscheidungen am Arbeitsplatz schneller und einheitlicher zu machen. Kaliforniens neues Gesetz betont, dass Geschwindigkeit und Skalierbarkeit die Notwendigkeit verantwortlicher Beurteilung nicht beseitigen, wenn der Lebensunterhalt eines Menschen auf dem Spiel steht.
Was sich 2027 ändert
Wenn SB 947 in Kraft tritt, wird die zentrale Frage für Arbeitgeber nicht einfach lauten, ob KI beteiligt war. Entscheidend wird sein, ob tatsächlich eine menschliche Prüfung stattgefunden hat, ob die automatisierte Empfehlung bestätigt werden konnte und ob der Beschäftigte eine aussagekräftige Beschreibung der Entscheidungsgrundlage erhalten hat.
Für Beschäftigte bietet das Gesetz Schutz vor einem rein automatisierten Disziplinar- oder Kündigungsergebnis. Für Arbeitgeber und Technologieanbieter erhöht es die Anforderungen an die Governance von KI am Arbeitsplatz. Für politische Entscheidungsträger ist es ein früher Test dafür, ob durchsetzbare menschliche Aufsicht mit der wachsenden Rolle automatisierter Entscheidungssysteme bei der Arbeit Schritt halten kann.
Dieser Artikel basiert auf einer Berichterstattung von ZDNET. Originalartikel lesen.
Originally published on zdnet.com