非洲零工在不知情的情况下训练美国军方AI

隐藏在供应链中

Rest of World进行的一项调查揭示，通过数据标注平台Appen聘请的非洲各地零工执行常规标注任务——识别图像中的物体、转录音频、分类文本——他们在不知情的情况下贡献了美国军方使用的AI系统。这些工作者中许多每小时仅获得几美元的报酬，对自己的劳动正在被输入国防和情报应用一无所知。

这一揭露暴露了AI供应链中令人不安的一个方面：标注数据的人类标注员的庞大劳动力对训练机器学习系统至关重要，但他们经常被故意蒙在鼓里，不知道自己的工作最终如何被使用。标注数据的人与部署所得AI系统的组织之间的脱节引发了关于知情同意、劳动实践和军事技术隐性人力基础的严肃伦理问题。

现代AI系统，特别是用于图像识别、自然语言处理和决策支持的系统，需要大量带标签的训练数据。必须有人查看数千张卫星图像并在车辆周围绘制框。必须有人听取数小时的音频并转录他们听到的内容。必须有人阅读文本并按主题、情感或意图对其进行分类。

这项工作通常通过一系列中介外包。国防承包商可能会聘请一家科技公司来开发AI系统。该公司可能将数据标注外包给Appen等平台，该平台反过来将工作分配给世界各地的自由职业者，其中许多人来自劳动成本仅为美国或欧洲一小部分的国家。

在这条链的每一步，数据的最终用途都变得更加模糊。处于金字塔底部的零工看到的是单个任务——标注这张图像、转录这段音频——没有关于他们正在帮助构建的更大系统的背景信息。Appen的服务条款和保密协议经常禁止工作者了解最终客户的身份，更不用说他们的工作支持的应用了。

调查发现，非洲零工执行的各种标注任务与已知的军方AI应用相一致。这些包括识别和分类航拍和卫星图像中的物体——这是军事监视和瞄准系统的核心能力。工作者还参与转录和分类通信数据，以及在地图图像中标记地理空间特征。

Rest of World采访的工作者中没有人被告知他们的工作与军事或情报应用有关。有几人在了解到自己劳动的最终用途后表示震惊和不适，有些人说如果事先知道就不会接受这份工作。

鉴于地缘政治背景，伦理影响尤其明显。一些工作者来自经历过美国军事行动或与美国外交政策关系复杂的国家。他们的劳动可能有助于针对与自己社区相似的地区的军事能力这一想法，对几位受采访的工作者来说是极其令人不安的。

Appen是一家澳大利亚公司，曾是世界上最大的数据标注平台之一，长期以来一直是AI供应链中的关键中介。该公司在其鼎盛时期维持了超过100万承包商的全球劳动力，为科技公司、政府机构和国防承包商提供标注数据。

近年来，该公司面临财务困难，因为数据标注行业的竞争加剧，一些AI公司已将标注工作内包。但其与国防和情报客户的历史合同意味着其全球劳动力标注的大量数据已被纳入军事AI系统。

Appen的支持者辩称，该公司在法律框架内运营，其与客户的合同包含适当的数据安全和机密性条款。批评人士反驳说，阻止工作者了解他们所从事工作的机密性条款本身就是剥削，特别是当工作涉及工作者可能认为在道德上反对的军事应用时。

调查突出了AI行业更广泛的伦理挑战。科技部门在隐形AI系统后面的人力劳动方面表现出色。当军事AI系统正确识别卫星图像中的目标时，功劳归功于算法和设计它的工程师。数千名使该系统成为可能的人类标注员很少被认可，更不用说就系统如何使用被咨询了。

劳动权利倡导者呼吁在AI供应链中增加透明度，包括要求数据标注工作者被告知其工作支持的应用的一般类别。一些人提议了认证方案，类似于公平贸易标签，可验证AI训练数据是在伦理劳动条件下以及获得知情工作者同意的情况下生产的。

这一揭露还对AI治理的日益增长的国际辩论产生了影响。随着政府制定AI系统监管框架，训练数据的来源和标注方式问题相比算法偏见和安全测试等问题获得的关注相对较少。

使用不知情的外国劳动力来训练军事AI系统可能成为关于AI治理的国际谈判中的一个焦点，特别是当发展中国家推动更大地认识自己在全球AI经济中的角色并从中获得更大收益时。如果制造AI成为可能的工作者甚至不知道他们在构建什么，AI产业的基础就建立在令人不安的道德不对称之上。

对于发现自己工作真实性质的非洲零工来说，这一经历明确了人们日益增长的认识，即全球AI经济依赖于他们的劳动，但无需将他们纳入关于如何使用该劳动的决策中。

本文基于Rest of World的报道。阅读原始文章。