आपूर्ति श्रृंखला में छिपा हुआ

Rest of World द्वारा किए गए एक जांच से पता चलता है कि अफ्रीका के गिग वर्कर्स जिन्हें Appen डेटा-लेबलिंग प्लेटफॉर्म के माध्यम से नियुक्त किया गया था - छवियों में वस्तुओं की पहचान करना, ऑडियो को ट्रांसक्राइब करना, पाठ को वर्गीकृत करना - अनजाने में संयुक्त राज्य सैन्य द्वारा उपयोग किए जाने वाले AI सिस्टम में योगदान दे रहे थे। ये वर्कर्स, जिनमें से कई को प्रति घंटे कुछ डॉलर दिए जाते थे, को पता नहीं था कि उनका श्रम रक्षा और बुद्धिमत्ता अनुप्रयोगों को खिला रहा था।

यह खुलासा AI आपूर्ति श्रृंखला के एक परेशान करने वाले पहलू को उजागर करता है: मानव एनोटेटरों की विशाल कार्यबल जिनका श्रम मशीन लर्निंग सिस्टम को प्रशिक्षित करने के लिए आवश्यक है, अक्सर उनके काम का अंतिम उपयोग कैसे किया जाता है इस बारे में जानबूझकर अंधेरे में रखा जाता है। जो लोग डेटा लेबल करते हैं और जो संगठन परिणामी AI सिस्टम को तैनात करते हैं, उनके बीच यह विच्छेद सूचित सहमति, श्रम प्रथाओं और सैन्य प्रौद्योगिकी के छिपे हुए मानव बुनियादी ढांचे के बारे में गंभीर नैतिक प्रश्न उठाता है।

सैन्य के लिए डेटा लेबलिंग कैसे काम करती है

आधुनिक AI सिस्टम, विशेष रूप से छवि पहचान, प्राकृतिक भाषा प्रसंस्करण और निर्णय समर्थन के लिए उपयोग किए जाने वाले, बड़ी मात्रा में लेबल किए गए प्रशिक्षण डेटा की आवश्यकता होती है। किसी को हजारों उपग्रह चित्रों को देखना होगा और वाहनों के चारों ओर बॉक्स बनाने होंगे। किसी को घंटों की ऑडियो सुननी होगी और उन्हें ट्रांसक्राइब करना होगा। किसी को पाठ पढ़ना होगा और इसे विषय, भावना या इरादे के आधार पर वर्गीकृत करना होगा।

यह काम आमतौर पर मध्यस्थताकारों की एक श्रृंखला के माध्यम से आउटसोर्स किया जाता है। एक रक्षा ठेकेदार AI सिस्टम विकसित करने के लिए एक प्रौद्योगिकी कंपनी को नियुक्त कर सकता है। वह कंपनी डेटा लेबलिंग को Appen जैसे प्लेटफॉर्म को सौंप सकती है, जो बदले में दुनिया भर के फ्रीलांसर्स को काम वितरित करता है, जिनमें से कई ऐसे देशों में हैं जहां श्रम लागत संयुक्त राज्य या यूरोप की तुलना में एक अंश है।

इस श्रृंखला में प्रत्येक चरण पर, डेटा का अंतिम अनुप्रयोग और अधिक अस्पष्ट हो जाता है। पिरामिड के नीचे के गिग वर्कर्स को व्यक्तिगत कार्य दिखाई देते हैं - इस छवि को लेबल करें, इस ऑडियो क्लिप को ट्रांसक्राइब करें - बिना इसके व्यापक संदर्भ के कि वे किस प्रणाली को बनाने में मदद कर रहे हैं। Appen की सेवा की शर्तें और गैर-प्रकटीकरण समझौते अक्सर वर्कर्स को अंतिम क्लाइंट की पहचान जानने से प्रतिबंधित करते हैं।

वर्कर्स क्या लेबल कर रहे थे

जांच में पाया गया कि अफ्रीकी गिग वर्कर्स विभिन्न प्रकार के एनोटेशन कार्य कर रहे थे जो ज्ञात सैन्य AI अनुप्रयोगों के साथ संरेखित हैं। इनमें हवाई और उपग्रह इमेजरी में वस्तुओं की पहचान और वर्गीकरण शामिल था - सैन्य निगरानी और लक्ष्यीकरण प्रणाली के लिए केंद्रीय क्षमता। वर्कर्स संचार डेटा को ट्रांसक्राइब करने और वर्गीकृत करने, और मानचित्रण इमेजरी में भू-स्थानिक सुविधाओं को लेबल करने में भी शामिल थे।

Rest of World द्वारा साक्षात्कार लिए गए किसी भी वर्कर को यह नहीं बताया गया कि उनका काम सैन्य या बुद्धिमत्ता अनुप्रयोगों से जुड़ा था। कई लोगों ने अपने श्रम के अंतिम उपयोग को जानने पर आश्चर्य और असुविधा व्यक्त की, कुछ ने कहा कि अगर उन्हें पता होता तो वे काम स्वीकार नहीं करते।

नैतिक निहितार्थ भू-राजनीतिक संदर्भ को देखते हुए विशेष रूप से तीव्र हैं। कुछ वर्कर्स ऐसे देशों में स्थित हैं जिन्होंने U.S. सैन्य संचालन का अनुभव किया है या जिनका अमेरिकी विदेश नीति के साथ जटिल संबंध है। यह विचार कि उनका श्रम अपनी समुदायों के समान क्षेत्रों में निर्देशित सैन्य क्षमताओं में योगदान दे सकता है, साक्षात्कार लिए गए कई वर्कर्स के लिए गहराई से परेशान करने वाला था।

  • अफ्रीका में गिग वर्कर्स को Appen के माध्यम से U.S. सैन्य AI सिस्टम में जाने वाले डेटा को लेबल करने के लिए नियुक्त किया गया था
  • वर्कर्स को पश्चिमी वेतन का एक अंश दिया गया था और उन्हें सैन्य अंतिम उपयोग का कोई ज्ञान नहीं था
  • बहु-स्तरीय उप-ठेकेदारी श्रृंखला जानबूझकर डेटा लेबलिंग कार्य के अंतिम अनुप्रयोग को अस्पष्ट करती है
  • वर्कर्स को सीखने पर आश्चर्य और असुविधा व्यक्त की गई कि उनके श्रम का उपयोग कैसे किया जा रहा था

AI आपूर्ति श्रृंखला में Appen की भूमिका

Appen, एक ऑस्ट्रेलियाई कंपनी जो कभी दुनिया के सबसे बड़े डेटा एनोटेशन प्लेटफॉर्म में से एक थी, लंबे समय से AI आपूर्ति श्रृंखला में एक महत्वपूर्ण मध्यस्थता के रूप में कार्य करती आई है। कंपनी ने अपने शिखर पर दस लाख से अधिक ठेकेदारों का एक वैश्विक कार्यबल बनाए रखा, प्रौद्योगिकी कंपनियों, सरकारी एजेंसियों और रक्षा ठेकेदारों को लेबल किया गया डेटा प्रदान किया।

हाल के वर्षों में कंपनी को वित्तीय कठिनाइयों का सामना करना पड़ा है क्योंकि डेटा लेबलिंग उद्योग अधिक प्रतिस्पर्धी हो गया है और कुछ AI कंपनियों ने एनोटेशन कार्य को घर के अंदर स्थानांतरित कर दिया है। लेकिन रक्षा और बुद्धिमत्ता क्लाइंट के साथ इसके ऐतिहासिक अनुबंधों का मतलब है कि इसके वैश्विक कार्यबल द्वारा लेबल किया गया महत्वपूर्ण मात्रा में डेटा पहले से ही सैन्य AI सिस्टम में शामिल किया जा चुका है।

Appen के समर्थकों का तर्क है कि कंपनी कानून के भीतर काम करती है और इसके क्लाइंट के साथ अनुबंध डेटा सुरक्षा और गोपनीयता के लिए उपयुक्त प्रावधान शामिल हैं। आलोचकों का जवाब है कि गोपनीयता प्रावधान जो वर्कर्स को यह जानने से रोकते हैं कि वे किस पर काम कर रहे हैं, वे स्वाभाविक रूप से शोषक हैं, विशेष रूप से जब काम सैन्य अनुप्रयोगों में शामिल होता है जो वर्कर्स को नैतिक रूप से आपत्तिजनक लग सकते हैं।

अदृश्य श्रम की नैतिकता

यह जांच AI उद्योग में एक व्यापक नैतिक चुनौती को उजागर करती है। प्रौद्योगिकी क्षेत्र AI सिस्टम के पीछे मानव श्रम को अदृश्य बनाने में उल्लेखनीय रूप से प्रभावी रहा है। जब एक सैन्य AI सिस्टम सही तरीके से उपग्रह छवि में एक लक्ष्य की पहचान करता है, तो क्रेडिट एल्गोरिदम और इसे डिजाइन करने वाले इंजीनियरों को जाता है। हजारों मानव एनोटेटर जिनके श्रम ने सिस्टम को संभव बनाया है, को शायद ही कभी स्वीकार किया जाता है।

श्रम अधिकार वकील AI आपूर्ति श्रृंखला में अधिक पारदर्शिता के लिए बुलाते आए हैं, जिसमें आवश्यकता शामिल है कि डेटा लेबलिंग वर्कर्स को सूचित किया जाए कि उनका काम किस आवेदन की श्रेणी का समर्थन करता है। कुछ ने प्रमाणन योजनाएं प्रस्तावित की हैं, न्यायसंगत व्यापार लेबल के समान, जो यह सत्यापित करेंगी कि AI प्रशिक्षण डेटा सूचित वर्कर सहमति के साथ नैतिक श्रम स्थितियों के तहत उत्पादित किया गया था।

AI शासन के लिए निहितार्थ

यह खुलासा AI शासन के बारे में बढ़ती अंतर्राष्ट्रीय बहस के लिए भी निहितार्थ रखता है। जैसे-जैसे सरकारें AI सिस्टम को विनियमित करने के लिए ढांचे विकसित करती हैं, प्रशिक्षण डेटा कैसे प्राप्त और लेबल किया जाता है, इस सवाल को एल्गोरिथम पूर्वाग्रह और सुरक्षा परीक्षण जैसे मुद्दों की तुलना में अपेक्षाकृत कम ध्यान मिला है।

सैन्य AI सिस्टम को प्रशिक्षित करने के लिए अनजान विदेशी श्रम के उपयोग को AI शासन पर अंतर्राष्ट्रीय बातचीत में एक फ्लैश पॉइंट बन सकता है, विशेष रूप से जैसे ही विकासशील राष्ट्र वैश्विक AI अर्थव्यवस्था में अपनी भूमिका की अधिक मान्यता और अधिक लाभ के लिए धक्का देते हैं। अगर जो वर्कर्स AI को संभव बनाते हैं, उन्हें यह भी पता नहीं है कि वे क्या बना रहे हैं, तो AI उद्योग की नींव एक परेशान करने वाले नैतिक असमरूपता पर टिकी हुई है।

अफ्रीका में गिग वर्कर्स जिन्होंने अपने काम की सच्चाई की खोज की, अनुभव ने एक बढ़ती जागरूकता को स्फटिक किया कि वैश्विक AI अर्थव्यवस्था उनके श्रम पर निर्भर है लेकिन उस श्रम का उपयोग कैसे किया जाता है इस बारे में निर्णयों में उन्हें शामिल करने के लिए बाध्य नहीं महसूस करती है।

यह लेख Rest of World द्वारा रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें।