カリフォルニア州、職場の自動判断に一線
人工知能は、採用、業績評価、組織再編、レイオフを支える仕組みの一部になりつつある。カリフォルニア州は今回、その中でも特に重大な用途の一つ、つまりソフトウェアが実質的に従業員の雇用継続を決めることを制限する方向に動いた。
Gavin Newsom知事は最近、SB 947に署名した。この法案は「No Robo Bosses Act」と呼ばれている。同法は、雇用主が懲戒や解雇の判断を自動意思決定システムに全面的に委ねることを禁じる。施行日は2027年7月1日だ。
この政策は、雇用主が職場のプロセスでAIを使うこと自体を禁じるものではない。実務上重要なのは、自動化された出力を懲戒や解雇の最終的な根拠にできないという基準を設けた点だ。雇用主はAIによる勧告を審査し、従業員には懲戒または解雇の理由の説明を提供しなければならない。
その説明には、人事記録、評価、成果物、同僚による評価、目撃者への聞き取りなど、システムが使用したデータが含まれる。雇用主が自動化された出力を裏付けられない場合、または人間の審査担当者がそれを不正確、不完全、もしくは誤解を招くものと判断した場合、雇用主はそれを懲戒や解雇の判断に使うことができない。
なぜこの法律が重要なのか
雇用に関する判断は、すでにアルゴリズムツールの影響を受けている。MyPerfectResumeが1,000人の人事担当者を対象に実施した調査では、73%が採用判断にAIを使っていると回答した。52%は組織再編や職務計画にAIを活用し、51%はリスクがあるとみなした候補者の特定に使っていると答えた。レイオフの判断にAIを使っていないと答えたのは26%にとどまった。
これらの数字は、すべての判断が完全に自動化されていることを示すものではない。ただ、AIが日常的なバックオフィス支援を越え、誰が機会や警告、解雇通知を受けるかを決め得るシステムに入り込んでいることは示している。
この変化は、難しい説明責任の問題を生む。AIシステムは大量の情報を処理できるが、その出力は受け取ったデータと設計に組み込まれた前提に左右される。勧告がスコアや順位、フラグの形で示されると、客観的に見えることがある。しかし、特定の従業員の仕事に関する事実によって裏付けられず、不完全または誤解を招く可能性は残る。
SB 947は、人間による審査を形だけの承認以上のものにすることで、このリスクに対応する。法律の基準は裏付けの有無に結び付いている。自動化された勧告を支持できない場合や、システムの出力が誤っている、または重大な部分で不完全だと審査担当者が判断した場合、単純に受け入れることはできない。
雇用主にとっての実務上の変化
雇用主にとって、この措置は従業員のライフサイクル全体で自動化ツールがどう使われているかを見直す必要を生む。代表的なのは、業績を採点し、行動上のリスクを特定し、懲戒を勧告し、組織再編時に従業員を順位付けし、解雇候補者にフラグを立てるツールだ。
こうしたツールを使う組織は、判断の非自動化された根拠を記録するプロセスを整える必要がある。また、自動化システムに影響を与えた情報を特定し、対象となる従業員に説明できるようにしなければならない。
データソースに法律が注目している点は重要だ。人事記録や評価は正式な職場記録を反映する一方、成果物、同僚による評価、目撃者への聞き取りは、より文脈依存で主観的になり得る。自動化システムがこうした入力を、開示なしには従業員が把握したり異議を唱えたりしにくい形で組み合わせる可能性もある。
理由を示し、関連する入力情報を明らかにしても、公平性をめぐるあらゆる問題が解決するわけではない。それでも、従業員と人間の審査担当者が、勧告が本人の実際の状況に基づいていたかを検討するための、より明確な出発点になる。
他の地域が注目する可能性のあるモデル
米国では、雇用分野のAI規制は依然として州レベルの取り組みが中心だ。それでもカリフォルニア州の対応は、他地域の議論に影響を与える可能性がある。焦点が明快な原則にあるからだ。システムは人を支援できるが、懲戒や解雇の最終判断を独立して下すべきではない。
このアプローチは、職場でのAIを一律に禁止するものより限定的だ。雇用主が自動化システムを使うことを認めつつ、文脈を評価し、証拠を確認し、信頼できない結果を退けられる人間に最終判断を委ねる。
AIツールが人事プラットフォームにより深く組み込まれるにつれ、この区別はさらに重要になる可能性がある。技術は、職場の判断をより迅速かつ一貫したものにする手段として売り込まれることが多い。カリフォルニア州の新法は、人の生計がかかる場面では、速度や規模によって説明責任のある判断が不要になるわけではないと強調している。
2027年に変わること
SB 947が施行されると、雇用主にとっての中心的な問いは、AIが関与したかどうかだけではなくなる。実際に人間による審査が行われたか、自動化された勧告を裏付けられたか、そして従業員に判断の根拠について意味のある説明が与えられたかが問われる。
従業員にとって、この法律は完全に自動化された懲戒や解雇の結果から守る手段となる。雇用主や技術提供者にとっては、職場のAIをどう統治すべきかについての基準が引き上げられる。政策立案者にとっては、実効性のある人間の監督が、職場で自動意思決定システムの役割が拡大するスピードに追いつけるかを測る初期テストとなる。
この記事はZDNETの報道に基づいている。原文を読む。
Originally published on zdnet.com