قانون كاليفورنيا «لا رؤساء روبوت» يعيد البشر إلى قرارات الفصل المدعومة بالذكاء الاصطناعي

كاليفورنيا ترسم خطاً فاصلاً بشأن القرارات الآلية في مكان العمل

أصبح الذكاء الاصطناعي جزءاً من المنظومة التي تقف وراء التوظيف وتقييم الأداء وإعادة الهيكلة وتسريح العمال. وقد تحركت كاليفورنيا الآن للحد من أحد أكثر استخداماته تأثيراً: السماح للبرمجيات بأن تقرر فعلياً ما إذا كان شخص ما سيحتفظ بوظيفته.

وقّع الحاكم Gavin Newsom مؤخراً على SB 947، المعروف باسم «قانون لا رؤساء روبوت». ويحظر القانون على أصحاب العمل إسناد قرارات التأديب وإنهاء الخدمة بالكامل إلى أنظمة اتخاذ القرار الآلية. ويدخل حيز التنفيذ في 1 يوليو 2027.

لا تحظر السياسة استخدام أصحاب العمل للذكاء الاصطناعي في إجراءات العمل. وبدلاً من ذلك، تضع حداً عملياً مهماً: لا يمكن أن يكون المخرج الآلي صاحب السلطة النهائية في قرار التأديب أو الفصل. ويجب على أصحاب العمل مراجعة التوصيات التي ينتجها الذكاء الاصطناعي، كما يجب أن يتلقى العاملون وصفاً لأسباب قرار التأديب أو إنهاء الخدمة.

ويشمل ذلك الوصف البيانات التي استخدمها النظام، مثل ملفات الموظفين والتقييمات وناتج العمل ومراجعات الزملاء ومقابلات الشهود. وإذا لم يتمكن صاحب العمل من إثبات صحة المخرج الآلي، أو رأى المراجع البشري أنه غير دقيق أو ناقص أو مضلل، فلا يجوز استخدامه لاتخاذ قرار تأديبي أو قرار بإنهاء الخدمة.

لماذا يهم التشريع

تتأثر قرارات التوظيف بالفعل بأدوات خوارزمية. ووجد استطلاع شمل 1,000 من المتخصصين في الموارد البشرية وأجرته MyPerfectResume أن 73% قالوا إنهم يستخدمون الذكاء الاصطناعي لاتخاذ قرارات التوظيف. وقال 52% إن الذكاء الاصطناعي يوجّه قرارات إعادة الهيكلة وتخطيط الوظائف، بينما قال 51% إنهم يستخدمونه لتحديد المرشحين الذين يُعتبرون محفوفين بالمخاطر. وقال 26% فقط إنهم لا يستخدمون الذكاء الاصطناعي لاتخاذ قرارات تسريح العمال.

لا تثبت هذه الأرقام أن كل قرار آلي بالكامل. لكنها تُظهر أن الذكاء الاصطناعي يتجاوز المساعدة الروتينية في المكاتب الخلفية ويدخل في أنظمة يمكنها تحديد من يحصل على فرصة أو تحذير أو إشعار بإنهاء الخدمة.

ويخلق هذا التحول سؤالاً صعباً حول المساءلة. تستطيع أنظمة الذكاء الاصطناعي معالجة كميات كبيرة من المعلومات، لكن مخرجاتها تعتمد على البيانات التي تتلقاها والافتراضات المضمنة في تصميمها. وقد تبدو التوصية موضوعية لأنها تأتي في صورة درجة أو ترتيب أو علامة. لكنها قد تظل ناقصة أو مضللة أو غير مدعومة بوقائع العمل الخاصة بموظف معين.

يعالج SB 947 هذا الخطر بجعل المراجعة البشرية أكثر من مجرد توقيع شكلي. ويرتبط معيار القانون بإثبات صحة النتيجة. فلا يستطيع المراجع قبول توصية آلية ببساطة عندما لا يمكن دعمها، أو عندما يخلص إلى أن مخرج النظام خاطئ أو ناقص بشكل جوهري.

تغيير عملي لأصحاب العمل

تفرض هذه الخطوة على أصحاب العمل فحص كيفية استخدام الأدوات الآلية طوال دورة حياة الموظف. وتشمل الأنظمة الأكثر وضوحاً الأدوات التي تقيّم الأداء، وتحدد مخاطر السلوك، وتقترح العقوبات، وترتب العاملين أثناء إعادة الهيكلة، أو تضع علامات على الموظفين المحتمل فصلهم.

وستحتاج المؤسسات التي تستخدم هذه الأدوات إلى إجراء لتوثيق الأساس غير الآلي للقرار. كما ستحتاج إلى تحديد المعلومات التي أثرت في النظام الآلي والاستعداد لوصفها للعامل المتضرر.

ويكتسب تركيز القانون على مصادر البيانات أهمية خاصة. فقد تعكس ملفات الموظفين والتقييمات سجلات رسمية في مكان العمل، بينما قد تكون نتائج العمل ومراجعات الزملاء ومقابلات الشهود أكثر ارتباطاً بالسياق وذاتية. وقد يجمع النظام الآلي هذه المدخلات بطرق يصعب على الموظف رؤيتها أو الطعن فيها من دون الإفصاح عنها.

لا يؤدي تقديم الأسباب وتحديد المدخلات ذات الصلة إلى حسم كل الأسئلة المتعلقة بالإنصاف. لكنه يمنح الموظف والمراجع البشري نقطة بداية أوضح لفحص ما إذا كانت التوصية تستند إلى ظروف الشخص الفعلية.

نموذج قد تراقبه ولايات قضائية أخرى

لا يزال تنظيم الذكاء الاصطناعي في التوظيف مشروعاً يُدار إلى حد كبير على مستوى الولايات في الولايات المتحدة. ومع ذلك، قد يؤثر تحرك كاليفورنيا في النقاش خارجها لأنه يركز على مبدأ واضح: يمكن للأنظمة مساعدة البشر، لكنها لا ينبغي أن تتخذ بشكل مستقل القرار النهائي بتأديبهم أو فصلهم.

وهذا النهج أضيق من فرض حظر شامل على الذكاء الاصطناعي في مكان العمل. فهو يقر بإمكانية استخدام أصحاب العمل للأنظمة الآلية، مع إبقاء الحكم النهائي لشخص يستطيع تقييم السياق والتحقق من الأدلة ورفض النتيجة غير الموثوقة.

وقد تصبح هذه التفرقة أكثر أهمية مع اندماج أدوات الذكاء الاصطناعي بعمق أكبر في منصات الموارد البشرية. وغالباً ما تُسوّق التكنولوجيا باعتبارها وسيلة لجعل قرارات مكان العمل أسرع وأكثر اتساقاً. ويؤكد قانون كاليفورنيا الجديد أن السرعة والنطاق لا يلغيَان الحاجة إلى حكم خاضع للمساءلة عندما يكون مصدر رزق شخص ما على المحك.

ما الذي سيتغير في 2027

عندما يدخل SB 947 حيز التنفيذ، لن يكون السؤال المركزي لأصحاب العمل هو ببساطة ما إذا كان الذكاء الاصطناعي قد شارك. بل سيكون ما إذا كانت مراجعة بشرية فعلية قد حدثت، وما إذا كان بالإمكان إثبات صحة التوصية الآلية، وما إذا مُنح الموظف وصفاً ذا معنى لأساس القرار.

وبالنسبة للعاملين، يوفر القانون حماية من الخضوع لنتيجة تأديبية أو قرار إنهاء خدمة آلي بالكامل. وبالنسبة لأصحاب العمل ومزودي التكنولوجيا، يرفع القانون مستوى المتطلبات المتعلقة بحوكمة الذكاء الاصطناعي في مكان العمل. أما صانعو السياسات، فيقدم لهم اختباراً مبكراً لمعرفة ما إذا كانت الرقابة البشرية القابلة للإنفاذ تستطيع مواكبة الدور المتوسع لأنظمة اتخاذ القرار الآلية في العمل.

يستند هذا المقال إلى تقرير نشرته ZDNET. اقرأ المقال الأصلي.