Escondido na Cadeia de Suprimentos

Uma investigação pela Rest of World revelou que trabalhadores informais em toda a África que foram contratados pela plataforma de rotulação de dados Appen para executar tarefas de anotação rotineira — identificar objetos em imagens, transcrever áudio, categorizar texto — estavam contribuindo inadvertidamente para sistemas de IA usados pelas forças armadas dos Estados Unidos. Os trabalhadores, muitos dos quais eram pagos alguns dólares por hora, não tinham ideia de que seu trabalho estava alimentando aplicações de defesa e inteligência.

A revelação expõe um aspecto perturbador da cadeia de suprimentos de IA: a vasta força de trabalho de anotadores humanos cuja mão de obra é essencial para o treinamento de sistemas de machine learning frequentemente é mantida deliberadamente no escuro sobre como seu trabalho é finalmente usado. A desconexão entre as pessoas que rotulam os dados e as organizações que implantam os sistemas de IA resultantes levanta questões éticas sérias sobre consentimento informado, práticas trabalhistas e a infraestrutura humana oculta da tecnologia militar.

Como Funciona a Rotulação de Dados para Aplicações Militares

Sistemas de IA modernos, particularmente aqueles usados para reconhecimento de imagens, processamento de linguagem natural e suporte à decisão, requerem enormes quantidades de dados de treinamento rotulados. Alguém deve examinar milhares de imagens de satélite e desenhar caixas ao redor de veículos. Alguém deve ouvir horas de áudio e transcrever o que ouve. Alguém deve ler texto e categorizá-lo por tópico, sentimento ou intenção.

Este trabalho é geralmente terceirizado através de uma cadeia de intermediários. Um contratante de defesa pode contratar uma empresa de tecnologia para desenvolver um sistema de IA. Essa empresa pode subcontratar a rotulação de dados para uma plataforma como Appen, que por sua vez distribui o trabalho para freelancers em todo o mundo, muitos deles em países onde os custos de mão de obra são uma fração do que são nos Estados Unidos ou Europa.

Em cada etapa dessa cadeia, o uso final dos dados se torna mais obscuro. Os trabalhadores informais no fundo da pirâmide veem tarefas individuais — rotule esta imagem, transcreva este clipe de áudio — sem contexto sobre o sistema mais amplo que estão ajudando a construir. Os termos de serviço e acordos de não-divulgação da Appen frequentemente proíbem os trabalhadores de saber a identidade do cliente final, muito menos a aplicação que seu trabalho suporta.

O Que os Trabalhadores Estavam Rotulando

A investigação descobriu que trabalhadores informais africanos estavam executando uma variedade de tarefas de anotação que se alinham com aplicações militares de IA conhecidas. Estas incluíam identificar e classificar objetos em imagens aéreas e de satélite — uma capacidade central para sistemas de vigilância e direcionamento militares. Os trabalhadores também estavam envolvidos em transcrever e categorizar dados de comunicações, e em rotular recursos geoespaciais em imagens de mapeamento.

Nenhum dos trabalhadores entrevistados pela Rest of World foi informado de que seu trabalho estava conectado a aplicações militares ou de inteligência. Vários expressaram choque e desconforto ao aprender o uso final de seu trabalho, com alguns dizendo que não teriam aceitado o trabalho se soubessem.

As implicações éticas são particularmente acentuadas dado o contexto geopolítico. Alguns dos trabalhadores estão baseados em países que experimentaram operações militares dos EUA ou que têm relacionamentos complicados com a política externa americana. A ideia de que seu trabalho poderia estar contribuindo para capacidades militares direcionadas a regiões similares às suas próprias comunidades era profundamente perturbadora para vários dos trabalhadores entrevistados.

  • Trabalhadores informais na África foram contratados através da Appen para rotular dados que alimentaram sistemas de IA militares dos EUA
  • Os trabalhadores foram pagos uma fração dos salários ocidentais e não tinham conhecimento do uso final militar
  • A cadeia de subcontratação em múltiplas camadas deliberadamente obscurece a aplicação final do trabalho de rotulação de dados
  • Os trabalhadores expressaram choque e desconforto ao aprender como seu trabalho estava sendo usado

O Papel da Appen na Cadeia de Suprimentos de IA

Appen, uma empresa australiana que já foi uma das maiores plataformas de anotação de dados do mundo, tem servido como um intermediário crítico na cadeia de suprimentos de IA há muito tempo. A empresa mantinha uma força de trabalho global de mais de um milhão de contratados em seu auge, fornecendo dados rotulados para empresas de tecnologia, agências governamentais e contratantes de defesa.

A empresa enfrentou dificuldades financeiras nos últimos anos à medida que a indústria de rotulação de dados se tornou mais competitiva e algumas empresas de IA moveram o trabalho de anotação para dentro da empresa. Mas seus contratos históricos com clientes de defesa e inteligência significam que quantidades significativas de dados rotulados por sua força de trabalho global já foram incorporadas em sistemas de IA militares.

Os defensores de Appen argumentam que a empresa opera dentro da lei e que seus contratos com clientes incluem disposições apropriadas para segurança de dados e confidencialidade. Os críticos contra-argumentam que disposições de confidencialidade que impedem os trabalhadores de saber em que estão trabalhando são inerentemente exploradoras, particularmente quando o trabalho envolve aplicações militares que os trabalhadores acham moralmente questionáveis.

A Ética do Trabalho Invisível

A investigação destaca um desafio ético mais amplo na indústria de IA. O setor de tecnologia tem sido notavelmente eficaz em tornar invisível o trabalho humano por trás dos sistemas de IA. Quando um sistema de IA militar identifica corretamente um alvo em uma imagem de satélite, o crédito vai para o algoritmo e os engenheiros que o projetaram. Os milhares de anotadores humanos cujo trabalho tornou o sistema possível raramente são reconhecidos, muito menos consultados sobre como o sistema é usado.

Defensores dos direitos trabalhistas têm pedido maior transparência na cadeia de suprimentos de IA, incluindo requisitos de que trabalhadores de rotulação de dados sejam informados sobre a categoria geral de aplicação que seu trabalho suporta. Alguns propuseram esquemas de certificação, similares aos rótulos de comércio justo, que verificariam que dados de treinamento de IA foram produzidos sob condições de trabalho éticas com consentimento informado dos trabalhadores.

Implicações para Governança de IA

A revelação também tem implicações para o crescente debate internacional sobre governança de IA. À medida que os governos desenvolvem estruturas para regular sistemas de IA, a questão de como os dados de treinamento são originados e rotulados recebeu relativamente pouca atenção em comparação com questões como viés algorítmico e testes de segurança.

O uso de mão de obra estrangeira involuntária para treinar sistemas de IA militares pode se tornar um ponto de inflexão em negociações internacionais sobre governança de IA, particularmente à medida que nações em desenvolvimento pressionam por maior reconhecimento de seu papel em — e maior benefício de — a economia de IA global. Se os trabalhadores que tornam a IA possível nem sequer sabem o que estão construindo, o fundamento da indústria de IA repousa sobre uma assimetria moral perturbadora.

Para os trabalhadores informais na África que descobriram a verdadeira natureza de seu trabalho, a experiência cristalizou uma consciência crescente de que a economia global de IA depende de seu trabalho, mas não se sente obrigada a incluí-los nas decisões sobre como esse trabalho é usado.

Este artigo é baseado em reportagem da Rest of World. Leia o artigo original.