مخفي في سلسلة التوريد

تحقيق أجرته Rest of World كشف أن عمال العمل بالقطعة عبر أفريقيا الذين تم توظيفهم من خلال منصة Appen لوسم البيانات لتنفيذ مهام وسم روتينية - تحديد الكائنات في الصور، نسخ الصوت، تصنيف النصوص - كانوا يساهمون دون علم منهم في أنظمة الذكاء الاصطناعي المستخدمة من قبل الجيش الأمريكي. العمال، الكثير منهم دُفعت لهم أجور بضعة دولارات في الساعة، لم يكونوا يعرفون أن عملهم كان يدخل تطبيقات الدفاع والاستخبارات.

يكشف هذا الاكتشاف جانباً مقلقاً من سلسلة توريد الذكاء الاصطناعي: القوى العاملة الضخمة من واسمي البيانات البشريين الذين يعتبر عملهم ضرورياً لتدريب أنظمة machine learning يتم إبقاؤهم عن قصد في الظلام حول كيفية استخدام عملهم في نهاية المطاف. الفجوة بين الأشخاص الذين يسمون البيانات والمنظمات التي تنشر أنظمة الذكاء الاصطناعي الناتجة تثير أسئلة أخلاقية جادة حول الموافقة المستنيرة، وممارسات العمل، والبنية التحتية البشرية المخفية للتكنولوجيا العسكرية.

كيف يعمل وسم البيانات للجيش

أنظمة الذكاء الاصطناعي الحديثة، خاصة تلك المستخدمة للتعرف على الصور، ومعالجة اللغة الطبيعية، ودعم القرار، تتطلب كميات ضخمة من بيانات التدريب الموسومة. يجب على شخص ما أن ينظر إلى آلاف الصور الفضائية ويرسم صناديق حول المركبات. يجب على شخص ما أن يستمع إلى ساعات من الصوت وينسخ ما يسمعه. يجب على شخص ما أن يقرأ النص ويصنفه حسب الموضوع أو المشاعر أو النية.

يتم عادة استعانة هذا العمل بالمصادر الخارجية من خلال سلسلة من الوسطاء. قد توظف شركة دفاع متعاقدة شركة تكنولوجيا لتطوير نظام الذكاء الاصطناعي. قد تقوم تلك الشركة بالمقاولة من الباطن لوسم البيانات إلى منصة مثل Appen، والتي بدورها توزع العمل على مستقلين حول العالم، الكثير منهم في دول حيث تكاليف العمل هي جزء بسيط مما هي عليه في الولايات المتحدة أو أوروبا.

في كل خطوة من هذه السلسلة، يصبح الاستخدام النهائي للبيانات أكثر غموضاً. عمال العمل بالقطعة في قاع الهرم يرون مهام فردية - سم هذه الصورة، انسخ هذا المقطع الصوتي - دون سياق حول النظام الأوسع الذي يساعدون في بنائه. غالباً ما تحظر شروط الخدمة واتفاقيات عدم الكشف عن الهوية الخاصة بـ Appen العمال من معرفة هوية العميل النهائي، فضلاً عن التطبيق الذي يدعمه عملهم.

ما كان يسميه العمال

وجد التحقيق أن عمال العمل بالقطعة الأفارقة كانوا يقومون بمجموعة متنوعة من مهام الوسم التي تتسق مع تطبيقات الذكاء الاصطناعي العسكرية المعروفة. شملت هذه تحديد وتصنيف الكائنات في الصور الجوية والفضائية - وهي قدرة أساسية لأنظمة المراقبة والاستهداف العسكرية. كان العمال يشاركون أيضاً في نسخ وتصنيف بيانات الاتصالات، وفي وسم الميزات الجغرافية المكانية في الصور الخاصة بالخرائط.

لم يتم إخبار أي من العمال الذين أجرت معهم Rest of World مقابلات أن عملهم كان مرتبطاً بتطبيقات عسكرية أو استخبارية. أعرب العديد منهم عن صدمة وعدم ارتياح عند تعلمهم الاستخدام النهائي لعملهم، حيث قال البعض إنهم لم يكونوا سيقبلون العمل لو كانوا يعرفون.

التداعيات الأخلاقية حادة بشكل خاص نظراً للسياق الجيوسياسي. يقع بعض العمال في دول شهدت عمليات عسكرية أمريكية أو لديها علاقات معقدة مع السياسة الخارجية الأمريكية. كانت فكرة أن عملهم يمكن أن يساهم في القدرات العسكرية الموجهة نحو مناطق مشابهة لمجتمعاتهم الخاصة مزعجة للغاية لعدة من العمال الذين تم إجراء مقابلات معهم.

  • تم توظيف عمال العمل بالقطعة في أفريقيا من خلال Appen لوسم البيانات التي دخلت أنظمة الذكاء الاصطناعي العسكرية الأمريكية
  • دُفعت للعمال أجور بجزء بسيط من الأجور الغربية وليس لديهم معرفة بالاستخدام العسكري النهائي
  • سلسلة المقاولة من الباطن متعددة الطبقات تحجب عن قصد الاستخدام النهائي لعمل وسم البيانات
  • أعرب العمال عن صدمة وعدم ارتياح عند تعلمهم كيفية استخدام عملهم

دور Appen في سلسلة توريد الذكاء الاصطناعي

Appen، وهي شركة أسترالية كانت ذات مرة واحدة من أكبر منصات وسم البيانات في العالم، كانت تعمل منذ فترة طويلة كوسيط حاسم في سلسلة توريد الذكاء الاصطناعي. حافظت الشركة على قوة عاملة عالمية من أكثر من مليون متعاقد في ذروتها، وتوفير بيانات موسومة لشركات التكنولوجيا والوكالات الحكومية ومقاولي الدفاع.

واجهت الشركة صعوبات مالية في السنوات الأخيرة حيث أصبحت صناعة وسم البيانات أكثر تنافسية وحيث نقلت بعض شركات الذكاء الاصطناعي عمل الوسم إلى الداخل. لكن عقودها التاريخية مع عملاء الدفاع والاستخبارات تعني أن كميات كبيرة من البيانات الموسومة من قبل قوتها العاملة العالمية قد تم بالفعل دمجها في أنظمة الذكاء الاصطناعي العسكرية.

يحتج دعاة Appen بأن الشركة تعمل ضمن القانون وأن عقودها مع العملاء تتضمن أحكاماً مناسبة لأمان البيانات والسرية. يرد النقاد بأن أحكام السرية التي تمنع العمال من معرفة ما يعملون عليه هي استغلالية بطبيعتها، خاصة عندما ينطوي العمل على تطبيقات عسكرية قد يجد العمال اعتراضات أخلاقية عليها.

أخلاقيات العمل غير المرئي

يسلط التحقيق الضوء على تحدٍ أخلاقي أوسع في صناعة الذكاء الاصطناعي. كان قطاع التكنولوجيا فعالاً بشكل ملحوظ في جعل العمل البشري الكامن وراء أنظمة الذكاء الاصطناعي غير مرئي. عندما يحدد نظام الذكاء الاصطناعي العسكري بشكل صحيح هدفاً في صورة فضائية، يذهب الفضل إلى الخوارزمية والمهندسين الذين صممونها. نادراً ما يتم الاعتراف بآلاف واسمي البيانات البشريين الذين جعل عملهم النظام ممكناً، ناهيك عن استشارتهم حول كيفية استخدام النظام.

دعا مناصرو حقوق العمل إلى مزيد من الشفافية في سلسلة توريد الذكاء الاصطناعي، بما في ذلك المتطلبات التي يجب إبلاغ عمال وسم البيانات بشأن الفئة العامة للتطبيق الذي يدعمه عملهم. اقترح البعض مخططات شهادة، مماثلة لتسميات التجارة العادلة، التي ستتحقق من أن بيانات تدريب الذكاء الاصطناعي تم إنتاجها في ظل ظروف عمل أخلاقية مع الموافقة المستنيرة للعمال.

الآثار المترتبة على حوكمة الذكاء الاصطناعي

للاكتشاف أيضاً آثار مترتبة على النقاش الدولي المتنامي حول حوكمة الذكاء الاصطناعي. مع تطوير الحكومات أطر عمل لتنظيم أنظمة الذكاء الاصطناعي، لم تحصل مسألة كيفية الحصول على بيانات التدريب وتسميتها على اهتمام كبير نسبياً مقارنة بقضايا مثل التحيز الخوارزمي واختبار السلامة.

قد يصبح استخدام العمال الأجانب غير المدركين لتدريب أنظمة الذكاء الاصطناعي العسكرية نقطة احتكاك في المفاوضات الدولية حول حوكمة الذكاء الاصطناعي، خاصة مع دفع الدول النامية للحصول على اعتراف أكبر بدورها في - واستفادة أكبر من - الاقتصاد العالمي للذكاء الاصطناعي. إذا لم يكن العمال الذين يجعلون الذكاء الاصطناعي ممكناً يعرفون حتى ما يبنونه، فإن أساس صناعة الذكاء الاصطناعي يقوم على عدم تماثل أخلاقي مزعج.

بالنسبة لعمال العمل بالقطعة في أفريقيا الذين اكتشفوا الطبيعة الحقيقية لعملهم، كانت التجربة تجسد وعياً متزايداً بأن الاقتصاد العالمي للذكاء الاصطناعي يعتمد على عملهم لكنه لا يشعر بالالتزام بإدراجهم في القرارات المتعلقة بكيفية استخدام عملهم.

يعتمد هذا المقال على التقارير من Rest of World. اقرأ المقال الأصلي.