Pekerja Gig Afrika Tanpa Sadar Membantu Melatih Sistem AI Militer A.S.

Tersembunyi dalam Rantai Pasokan

Sebuah investigasi oleh Rest of World telah mengungkapkan bahwa pekerja gig di seluruh Afrika yang dipekerjakan melalui platform pelabelan data Appen untuk melakukan tugas anotasi rutin — mengidentifikasi objek dalam gambar, mentranskripsikan audio, mengkategorikan teks — tanpa sadar berkontribusi pada sistem AI yang digunakan oleh militer Amerika Serikat. Para pekerja, banyak di antaranya dibayar beberapa dolar per jam, tidak tahu bahwa tenaga kerja mereka menunjang aplikasi pertahanan dan intelijen.

Pengungkapan ini mengungkap aspek yang mengganggu dari rantai pasokan AI: tenaga kerja manusia yang luas dari anotator yang kerjanya penting untuk melatih sistem machine learning sering kali dengan sengaja dijaga dalam kegelapan tentang bagaimana pekerjaan mereka pada akhirnya digunakan. Putusnya hubungan antara orang-orang yang melabeli data dan organisasi yang menggunakan sistem AI yang dihasilkan menimbulkan pertanyaan etika serius tentang persetujuan yang terinformasi, praktik tenaga kerja, dan infrastruktur manusia yang tersembunyi dari teknologi militer.

Bagaimana Pelabelan Data untuk Militer Bekerja

Sistem AI modern, khususnya yang digunakan untuk pengenalan gambar, pemrosesan bahasa alami, dan dukungan keputusan, memerlukan jumlah besar data pelatihan berlabel. Seseorang harus melihat ribuan gambar satelit dan menggambar kotak di sekitar kendaraan. Seseorang harus mendengarkan berjam-jam audio dan mentranskripsikan apa yang mereka dengar. Seseorang harus membaca teks dan mengkategorikannya berdasarkan topik, sentimen, atau niat.

Pekerjaan ini biasanya dilakukan melalui rantai perantara. Kontraktor pertahanan mungkin menyewa perusahaan teknologi untuk mengembangkan sistem AI. Perusahaan itu mungkin mengsubkontrak pelabelan data ke platform seperti Appen, yang pada gilirannya mendistribusikan pekerjaan kepada freelancer di seluruh dunia, banyak di antaranya di negara-negara di mana biaya tenaga kerja adalah sebagian kecil dari yang ada di Amerika Serikat atau Eropa.

Di setiap langkah dalam rantai ini, penggunaan akhir data menjadi lebih kabur. Para pekerja gig di dasar piramida melihat tugas-tugas individu — labeli gambar ini, transkripsikan klip audio ini — tanpa konteks tentang sistem yang lebih luas yang mereka bantu bangun. Syarat layanan dan perjanjian kerahasiaan Appen sering kali melarang pekerja mengetahui identitas klien akhir, apalagi aplikasi yang didukung pekerjaan mereka.

Apa yang Dilabeli Oleh Para Pekerja

Investigasi menemukan bahwa pekerja gig Afrika melakukan berbagai tugas anotasi yang selaras dengan aplikasi AI militer yang dikenal. Ini termasuk mengidentifikasi dan mengklasifikasikan objek dalam citra udara dan satelit — kemampuan yang sentral untuk sistem pengawasan dan penargetan militer. Para pekerja juga terlibat dalam mentranskripsikan dan mengkategorikan data komunikasi, dan dalam melabeli fitur geospasial dalam citra pemetaan.

Tidak ada satu pun dari pekerja yang diwawancarai oleh Rest of World yang diberitahu bahwa pekerjaan mereka terhubung dengan aplikasi militer atau intelijen. Beberapa mengungkapkan kejutan dan ketidaknyamanan setelah mengetahui penggunaan akhir dari tenaga kerja mereka, dengan beberapa mengatakan bahwa mereka tidak akan menerima pekerjaan itu jika mereka mengetahuinya.

Implikasi etika sangat jelas mengingat konteks geopolitik. Beberapa pekerja berbasis di negara-negara yang telah mengalami operasi militer A.S. atau yang memiliki hubungan rumit dengan kebijakan luar negeri Amerika. Gagasan bahwa tenaga kerja mereka dapat berkontribusi pada kemampuan militer yang diarahkan pada wilayah serupa dengan komunitas mereka sendiri sangat mengganggu bagi beberapa pekerja yang diwawancarai.

• Pekerja gig di Afrika dipekerjakan melalui Appen untuk melabeli data yang menunjang sistem AI militer A.S.
• Pekerja dibayar sebagian kecil dari upah Barat dan tidak memiliki pengetahuan tentang penggunaan akhir militer
• Rantai subkontrak berlapis dengan sengaja mengaburkan aplikasi akhir dari pekerjaan pelabelan data
• Para pekerja mengungkapkan kejutan dan ketidaknyamanan setelah mengetahui bagaimana tenaga kerja mereka digunakan

Peran Appen dalam Rantai Pasokan AI

Appen, sebuah perusahaan Australia yang pernah menjadi salah satu platform anotasi data terbesar di dunia, telah lama berfungsi sebagai perantara kritis dalam rantai pasokan AI. Perusahaan mempertahankan tenaga kerja global lebih dari satu juta kontraktor pada puncaknya, menyediakan data berlabel kepada perusahaan teknologi, lembaga pemerintah, dan kontraktor pertahanan.

Perusahaan telah menghadapi kesulitan keuangan dalam beberapa tahun terakhir karena industri pelabelan data menjadi lebih kompetitif dan beberapa perusahaan AI telah memindahkan pekerjaan anotasi secara internal. Namun kontrak historisnya dengan klien pertahanan dan intelijen berarti bahwa jumlah data yang signifikan yang dilabeli oleh tenaga kerja globalnya telah dimasukkan ke dalam sistem AI militer.

Para pembela Appen berpendapat bahwa perusahaan beroperasi sesuai hukum dan bahwa kontraknya dengan klien mencakup ketentuan yang sesuai untuk keamanan data dan kerahasiaan. Para kritikus berpendapat bahwa ketentuan kerahasiaan yang mencegah pekerja mengetahui apa yang mereka kerjakan secara inheren eksploitatif, khususnya ketika pekerjaan melibatkan aplikasi militer yang mungkin dianggap tidak dapat diterima secara moral oleh pekerja.

Etika Tenaga Kerja Tak Terlihat

Investigasi menyoroti tantangan etika yang lebih luas dalam industri AI. Sektor teknologi telah sangat efektif dalam membuat tenaga kerja manusia di balik sistem AI menjadi tidak terlihat. Ketika sistem AI militer dengan benar mengidentifikasi target dalam gambar satelit, kredit diberikan kepada algoritma dan para insinyur yang merancangnya. Ribuan anotator manusia yang kerjanya membuat sistem ini mungkin jarang diakui, apalagi dikonsultasikan tentang bagaimana sistem tersebut digunakan.

Para advokat hak tenaga kerja telah mendesak transparansi yang lebih besar dalam rantai pasokan AI, termasuk persyaratan bahwa pekerja pelabelan data diinformasikan tentang kategori umum aplikasi yang didukung pekerjaan mereka. Beberapa telah mengusulkan skema sertifikasi, mirip dengan label perdagangan yang adil, yang akan memverifikasi bahwa data pelatihan AI diproduksi dalam kondisi tenaga kerja etis dengan persetujuan pekerja yang terinformasi.

Implikasi untuk Tata Kelola AI

Pengungkapan ini juga memiliki implikasi untuk debat internasional yang berkembang tentang tata kelola AI. Ketika pemerintah mengembangkan kerangka kerja untuk mengatur sistem AI, pertanyaan tentang bagaimana data pelatihan bersumber dan dilabeli telah menerima perhatian yang relatif sedikit dibandingkan dengan isu-isu seperti bias algoritmik dan pengujian keselamatan.

Penggunaan tenaga kerja asing yang tidak menyadari untuk melatih sistem AI militer dapat menjadi titik kritis dalam negosiasi internasional tentang tata kelola AI, terutama karena negara-negara berkembang mendorong pengakuan yang lebih besar atas peran mereka dalam — dan manfaat yang lebih besar dari — ekonomi AI global. Jika para pekerja yang membuat AI mungkin bahkan tidak tahu apa yang mereka bangun, fondasi industri AI berada di atas asimetri moral yang mengganggu.

Bagi pekerja gig di Afrika yang menemukan sifat sebenarnya dari pekerjaan mereka, pengalaman ini mengkristalkan kesadaran yang berkembang bahwa ekonomi AI global tergantung pada tenaga kerja mereka namun merasa tidak berkewajiban untuk memasukkan mereka dalam keputusan tentang bagaimana tenaga kerja itu digunakan.

Artikel ini berdasarkan pelaporan oleh Rest of World. Baca artikel asli.