تحذّر دراسة من أن الذكاء الاصطناعي قد يخترع تحيزات جديدة في التوظيف بدلًا من مجرد وراثة القديمة

قد تُنتج نماذج اللغة الكبيرة صورها النمطية الخاصة في مهام التوظيف

تركز التحذيرات المتعلقة بالذكاء الاصطناعي في التوظيف عادةً على خطر مألوف: إذا دُرِّب نموذج على بيانات تاريخية منحازة، فقد يعيد إنتاج تلك التحيزات ويضخمها. وتشير دراسة جديدة أبرزها موقع Gizmodo إلى احتمال أكثر إزعاجًا. قد لا تكتفي نماذج اللغة الكبيرة بعكس تحيزات البشر، بل قد تُنشئ تحيزات اجتماعية جديدة من تلقاء نفسها في بعض الظروف.

أجرى هذه الدراسة باحثون من جامعة برينستون وجامعة شيكاغو، واختبروا نماذج اللغة في لعبة توظيف مضبوطة استُخدمت سابقًا مع مشاركين بشريين. وقد أزال الإعداد الفئات العرقية الواقعية واستبدلها بمجموعات خيالية، ما أتاح للباحثين ملاحظة كيفية تشكل الصور النمطية عندما لا توجد فروق حقيقية أساسية بين المجموعات.

وبحسب ملخص الدراسة، أظهرت النماذج اللغوية في كثير من الأحيان تحيزات أقوى من تلك التي أظهرها المشاركون البشر. وتكمن أهمية هذه النتيجة في أنها تغيّر النقاش المتعلق بالسياسات. فإذا كانت المشكلة تقتصر على البيانات التاريخية الملوثة، فقد يجادل المطورون بأن تحسين اختيار البيانات أو إزالة التحيز أو تدقيق مجموعات التدريب سيحل معظم المشكلة. لكن إذا كانت النماذج تُنتج أيضًا أنماطًا تمييزية من خلال سلوكها الساعي إلى المكافأة في مهام القرار، فإن تحدي الحوكمة يصبح أوسع بكثير.

اختبار مضبوط بمجموعات ديموغرافية مخترعة

في التجربة، وُزِّع المرشحون على واحدة من أربع مجموعات عرقية خيالية: Tufa أو Aima أو Reku أو Weki. وكان احتمال نجاحهم متساويًا في كل دور بحسب التصميم. وكان على المشاركين، سواء كانوا بشرًا أم آلات، أن يوزعوا المتقدمين على الوظائف ثم يتلقوا ملاحظات حول ما إذا كان قرار التوظيف ناجحًا.

إن حلقة التغذية الراجعة هذه بالغة الأهمية. فبمجرد أن يتلقى أحد المشاركين نتيجة سيئة بعد وضع فرد من مجموعة خيالية معينة في دور محدد، يصبح غالبًا أقل ميلًا إلى تكرار الاقتران نفسه. وقد أظهر البشر في النسخة السابقة من اللعبة هذا الميل، وأحيانًا كانوا ينقلون تلك التحيزات المكتسبة حتى بعد انتهاء اللعبة.

وقد تصرفت نماذج اللغة بطريقة مشابهة، لكن بشكل أكثر حدة. ويقول ملخص الدراسة إن النماذج أظهرت معدلات تحيز أعلى من البشر، ويمكنها أن تُكوِّن تلقائيًا صورًا نمطية اجتماعية حول مجموعات مصطنعة بالكامل. وبما أن المجموعات خيالية والمرشحين متكافئو الكفاءة حسب التصميم، فلا يمكن تفسير التمييز الملحوظ باختلافات حقيقية بين المجموعات.

وهذا يمنح النتيجة قوة غير معتادة. فهو يشير إلى أن النموذج يمكن أن ينتقل من التغذية الراجعة المحدودة إلى افتراضات ثابتة قائمة على الفئة حتى عندما لا تستند تلك الافتراضات إلى أي أساس واقعي. عمليًا، قد ينزلق نظام مُحسَّن لاتخاذ قرارات متكررة بشأن الأفراد نحو تكوين أنماط بدائية لأنه اختصار فعّال في ظل عدم اليقين.

لماذا تهم مفاضلة “الاستكشاف والاستغلال”

يربط الباحثون هذه النتيجة بمبدأ كلاسيكي في علم القرار يُعرف بمفاضلة الاستكشاف والاستغلال. ففي المواقف غير المؤكدة، يمكن للفاعل إما أن يستكشف، أي يجرّب خيارات يعرف عنها أقل، أو أن يستغل، أي يلتزم بالخيارات التي يبدو أنها نجحت من قبل.

يفعل البشر ذلك باستمرار. لكن الناس يجلبون أيضًا المعايير الأخلاقية والتردد والقيود الاجتماعية إلى قراراتهم، وهي عوامل قد تُخفف السلوك القائم على تعظيم المكافأة وحده. وتقول الدراسة إن أنظمة الذكاء الاصطناعي أقل انخراطًا في الاستكشاف وأكثر ميلًا إلى التحسين بناءً على أي قدر محدود من التغذية الراجعة يبدو أنه يحقق نتائج أفضل. وهذا يفتح الطريق أمام تشكّل الصور النمطية.

بمجرد أن يستنتج النموذج أن فئة ما قد ترتبط بالنجاح أو الفشل في دور معين، قد يواصل استغلال هذا الافتراض بدلًا من تحديه. والخطر لا يكمن فقط في أن هذا الافتراض قد يكون خاطئًا، بل في أن النظام يمكنه تحويل العشوائية إلى قاعدة ثم يتصرف كما لو أن تلك القاعدة ذات معنى.

ولهذا آثار واضحة على برامج التوظيف، وأدوات فرز السيرة الذاتية، ومساعدي الذكاء الاصطناعي المستخدمين في تلخيص المرشحين أو ترتيبهم. وحتى إذا حذف المصممون الإشارات الصريحة إلى العرق أو الجنس أو غيرها من السمات المحمية، فقد لا تزال النماذج تُكوِّن أنماطًا بديلة عندما تظهر الفئات أو المتغيرات البديلة في سير العمل. وتشير الدراسة إلى أن التحيز قد ينشأ من عملية اتخاذ القرار نفسها، لا من أرشيف التدريب فحسب.

النماذج الأقوى لم تكن بالضرورة أكثر أمانًا

من النقاط البارزة الأخرى في ملخص المصدر أن الباحثين اختبروا 15 نموذجًا من مزودين كبار، من بينهم OpenAI وAnthropic وDeepSeek وMeta وGoogle وAlibaba. وكان من أكثر النتائج إثارة للانتباه أن النماذج الأحدث والأكبر ذات قدرات الاستدلال الأقوى تميل إلى إنتاج نتائج أكثر تحيزًا داخل العائلة النموذجية نفسها.

ويتعارض هذا مع سرد شائع مفاده أن النماذج الأكثر تقدمًا تصبح تلقائيًا أكثر موثوقية في المجالات الحساسة. فالأفضل في الاستدلال يمكن أن يحسن أداء كثير من المهام، لكن هذه الدراسة توحي بأنه قد يجعل النموذج أيضًا أكثر كفاءة في التشبث باستراتيجيات ضيقة تعظّم المكافأة ثم تتصلب لتتحول إلى سلوك تمييزي.

ويذكر الملخص تحديدًا أن نموذج الاستدلال o3 من OpenAI صنّف المتقدمين الخياليين بشكل أشد من بين الأنظمة التي شملها الاختبار. وهذا وحده لا يحسم كيف سيتصرف أي نموذج بعينه داخل منتج توظيف فعلي. لكنه يبرز درسًا أوسع: إن مكاسب المقاييس والأداء في الاستدلال لا تغني عن اختبار العدالة في ظروف اتخاذ القرار الواقعية.

ما الذي ينبغي أن تستخلصه الشركات والجهات التنظيمية

بالنسبة إلى أصحاب العمل، الخلاصة المباشرة هي أن “المساعدة بالذكاء الاصطناعي” لا تعني انعدام التحيز. فادعاء البائع بأن النظام يتجنب التحيز البشري الصريح معيار ضيق جدًا إذا كان النموذج قادرًا على اختراع تفضيلات فئوية عبر حلقات تغذية راجعة متكررة. وعلى فرق الشراء أن تسأل كيف يتصرف النموذج مع مرور الوقت، وكيف يحدّث الأنماط أو يعززها، وما إذا كان يُستخدم في مجال يمكن أن تؤثر فيه التعميمات الخاطئة مباشرة على فرص الناس.

أما بالنسبة إلى الجهات التنظيمية، فتدعم الدراسة التحول بعيدًا عن الاعتماد على التدقيقات الثابتة وحدها. فاختبار لمرة واحدة على مجموعة بيانات مجمدة قد لا يلتقط نظامًا يصبح أكثر تمييزًا كلما تفاعل مع النتائج أو مع مطالبات المستخدمين أو مع إشارات التحسين اللاحقة. وقد تحتاج الرقابة إلى تضمين اختبارات ضغط قائمة على المحاكاة، ومراقبة مستمرة، وقواعد أوضح بشأن متى ينبغي استبعاد الذكاء الاصطناعي من الفرز عالي المخاطر تمامًا.

والمشكلة الأكبر مفهومية. فقد صوّر النقاش العام تحيز الذكاء الاصطناعي غالبًا بوصفه بقايا تاريخية: كان المجتمع غير عادل، وسجّلت البيانات تلك اللاعدالة، ثم ورثتها النماذج. تشير هذه الدراسة إلى أن بعض الأنظمة قد تكون أيضًا آلات لإنتاج ظلم جديد، تجمع الصور النمطية من إشارات ضعيفة لأن ذلك مفيد وظيفيًا داخل المهمة.

وينبغي أن يضيّق هذا الاحتمال حالات الاستخدام المقبولة لنماذج اللغة في التوظيف. وعلى الأقل، فهو يبرر مراجعة بشرية أشد كثيرًا وشكًا أكبر في الترتيب الآلي. وفي أسوأ الحالات، قد يعني أن بعض قرارات التوظيف حساسة للغاية لدرجة لا ينبغي تسليمها إلى أنظمة يمكنها تحويل الضوضاء إلى حكم اجتماعي.

هذه المقالة مبنية على تقرير من Gizmodo. اقرأ المقال الأصلي.