Tedarik Zincirinde Gizli
Rest of World tarafından yapılan bir araştırma, veri etiketleme platformu Appen aracılığıyla işe alınan Afrika'daki gig çalışanların — görüntülerde nesne tanımlama, ses transkripsiyon, metin kategorize etme — rutin açıklama görevlerini yerine getirirken bilinçsizce Birleşik Devletler ordusunun kullandığı AI sistemlerine katkıda bulunduğunu ortaya koymıştır. Saatte birkaç dolar ödenen işçilerin çoğu, emeklerinin savunma ve istihbarat uygulamalarına beslendiğini bilmiyorlardı.
Bu açıklama, AI tedarik zincirinin rahatsız edici bir yönünü ortaya koymaktadır: makine öğrenmesi sistemlerini eğitmek için emekleri gerekli olan muazzam insan açıklayıcı işçü gücü, çalışmalarının nihai olarak nasıl kullanıldığı konusunda kasıtlı olarak karanlıkta tutulmaktadır. Verileri etiketleyen insanlar ile ortaya çıkan AI sistemlerini dağıtan kuruluşlar arasındaki bağlantı, bilgili onay, emek uygulamaları ve askeri teknolojinin gizli insan altyapısı hakkında ciddi etik sorular gündeme getirmektedir.
Askeri Amaçlar için Veri Etiketleme Nasıl Çalışır
Modern AI sistemleri, özellikle görüntü tanıma, doğal dil işleme ve karar desteği için kullanılanlar, muazzam miktarda etiketlenmiş eğitim verilerine ihtiyaç duymaktadır. Birisi binlerce uydu görüntüsüne bakmalı ve araçların etrafına kutular çizmelidir. Birisi saatlerce ses dinlemeli ve duyduğunu transkript etmelidir. Birisi metni okumalı ve bunu konu, duygu veya amaç açısından kategorize etmelidir.
Bu çalışma tipik olarak bir ara kişi zinciri aracılığıyla dışarıya çıkarılır. Bir savunma müteahhidi, AI sistemi geliştirmek için bir teknoloji şirketi işe alabilir. Bu şirket veri etiketlemeyi Appen gibi bir platforma alt yükleyebilir ve bu platform daha sonra çalışmayı dünya çapındaki serbest çalışanlara dağıtabilir; bunların çoğu, emek maliyetlerinin Birleşik Devletler veya Avrupa'daki maliyetlerin bir kısmı olduğu ülkelerdedir.
Bu zincirdeki her adımda, verilerin nihai kullanımı daha da belirsizleşir. Piramidin dibindeki gig çalışanları, yapılandırmaya yardımcı olduğu daha geniş sistem hakkında bağlam olmaksızın bireysel görevleri görür — bu görüntüyü etiketleyin, bu ses klibini transkript edin. Appen'in hizmet şartları ve gizlilik anlaşmaları genellikle işçilerin son müşterinin kimliğini, bir yana da çalışmalarının destekledikleri uygulamayı bilmelerini yasaklar.
İşçiler Ne Etiketliyorlardı
Araştırma, Afrika'daki gig çalışanların bilinen askeri AI uygulamalarıyla uyumlu çeşitli açıklama görevlerini yerine getirdiğini ortaya koymıştır. Bunlar, hava ve uydu görüntülerindeki nesneleri tanımlama ve sınıflandırmayı içermektedir — askeri gözetim ve hedefleme sistemlerinin merkezinde olan bir yetenek. Çalışanlar ayrıca haberleşme verilerini transkript etme ve kategorize etme ile harita görüntülerinde coğrafi özellikler etiketleme konusunda yer almışlardır.
Rest of World tarafından görüşülen hiçbir işçi, çalışmalarının askeri veya istihbarat uygulamalarına bağlı olduğu söylenmemişti. Emeklerinin nihai kullanımını öğrendiklerinde birçoğu şok ve rahatsızlık ifade etti; bazıları bilselerdi işi kabul etmeyeceklerini söyledi.
Etik çıkarımlar, jeopolitik bağlam göz önüne alındığında özellikle keskindir. İşçilerin bazıları, ABD askeri operasyonları yaşamış veya Amerikan dış politikası ile karmaşık ilişkilere sahip ülkelerde bulunmaktadırlar. Emeklerinin, kendi topluluklarına benzer bölgelere yönelik askeri yeteneklerine katkıda bulunabileceği fikri, görüşülen işçilerin birçoğunu derinden rahatsız etti.
- Afrika'daki gig çalışanlar, ABD askeri AI sistemlerine beslenecek verileri etiketlemek için Appen aracılığıyla işe alındı
- Çalışanlar Batı ücretlerinin bir kısmı kadar ödendi ve askeri nihai kullanım hakkında bilgiye sahip değildi
- Çok katmanlı alt yüklenici zinciri, veri etiketleme çalışmasının nihai uygulamasını kasıtlı olarak gizler
- Çalışanlar, emeklerinin nasıl kullanıldığını öğrendiklerinde şok ve rahatsızlık ifade ettiler
AI Tedarik Zincirinde Appen'in Rolü
Dünyada bir zamanlar en büyük veri açıklama platformlarından biri olan Avustralya şirketi Appen, uzun süredir AI tedarik zincirinde kritik bir ara kişi olarak hizmet etmiştir. Şirket, en yüksek seviyesinde bir milyondan fazla yüklenicinin küresel bir işçü gücünü korumuş ve teknoloji şirketlerine, devlet kurumlarına ve savunma müteahhitlerine etiketlenmiş veriler sağlamıştır.
Şirket, veri etiketleme endüstrisi daha rekabetçi hale geldiğinde ve bazı AI şirketleri açıklama çalışmasını kendi içine taşıdığında, son yıllarda finansal zorluklar yaşamıştır. Ancak savunma ve istihbarat müşterileriyle yapılan tarihsel sözleşmeleri, küresel işçü gücü tarafından etiketlenmiş önemli miktarda verilerin zaten askeri AI sistemlerine dahil edildiği anlamına gelmektedir.
Appen'in savunucuları, şirketin yasalar çerçevesinde faaliyet gösterdiğini ve müşterilerle yaptığı sözleşmelerin veri güvenliği ve gizlililik için uygun hükümler içerdiğini savunmaktadırlar. Eleştirmenler, işçilerin ne üzerinde çalıştıklarını bilmelerini önleyen gizlilik hükümlerinin, özellikle çalışma ahlak açısından itiraz edilebilir askeri uygulamalar içerdiğinde, doğal olarak sömürücü olduğunu ileri sürmektedirler.
Görünmez Emeğin Etiği
Araştırma, AI endüstrisinde daha geniş bir etik zorluk vurgulamaktadır. Teknoloji sektörü, AI sistemlerinin arkasındaki insan emeğini görünmez hale getirmede dikkat çekici derecede etkili olmuştur. Bir askeri AI sistemi bir uydu görüntüsünde bir hedefi doğru bir şekilde tanımladığında, kredi algoritma ve onu tasarlayan mühendislere gider. Sistemi mümkün kılan emekleri olan binlerce insan açıklayıcı nadiren tanınırlar, bir yana da sistem nasıl kullanıldığı hakkında danışılırlar.
İşçi hakları savunucuları, veri etiketleme işçilerinin çalışmalarının destekledikleri uygulamanın genel kategorisi hakkında bilgilendirilmeleri gereksinimleri de dahil olmak üzere, AI tedarik zincirinde daha fazla şeffaflık çağırmışlardır. Bazıları, adil ticaret etiketlerine benzer sertifika düzenleri önermiştir; bunlar AI eğitim verilerinin bilgili işçi onayı ile etik emek koşulları altında üretildiğini doğrular.
AI Yönetişimi için Çıkarımlar
Açıklama ayrıca AI yönetişimi hakkında büyüyen uluslararası tartışma için sonuçlara sahiptir. Hükümetler AI sistemlerini düzenlemek için çerçeveler geliştirirken, eğitim verilerinin nasıl kaynak yapıldığı ve etiketlendiği sorusu, algoritmik önyargı ve güvenlik testi gibi konularla karşılaştırıldığında nispeten az dikkat çekmiştir.
Askeri AI sistemlerini eğitmek için bilgisiz yabancı emeğin kullanılması, AI yönetişimi hakkında uluslararası müzakerelerde, özellikle gelişmekte olan ülkeler küresel AI ekonomisindeki rol tanınması ve fayda sağlanması konusunda daha fazla baskı yaptığında bir çatışma noktası haline gelebilir. AI'yi mümkün kılan işçiler ne yapılandıklarını bilmiyorsa, AI endüstrisinin temeli rahatsız edici bir ahlak asimetrisine dayanmaktadır.
Afrika'daki çalışmalarının gerçek doğasını keşfeden gig çalışanlar için, deneyim, küresel AI ekonomisinin emeklerine bağlı olduğu ancak bu emeğin nasıl kullanıldığı konusundaki kararlara onları dahil etme konusunda yükümlü hissetmeyen artan bir farkındalığı kristalleştirmiştir.
Bu makale Rest of World tarafından yapılan habere dayanmaktadır. Orijinal makaleyi okuyun.
