Скрыто в цепочке поставок
Расследование Rest of World показало, что гиг-работники по всей Африке, нанятые через платформу разметки данных Appen для выполнения рутинных задач аннотации — определение объектов на изображениях, транскрипция аудио, категоризация текста — неосознанно способствовали развитию AI систем, используемых военным ведомством Соединенных Штатов. Многие из этих работников получали всего несколько долларов в час и не знали, что их труд поступает в оборонные и разведывательные приложения.
Это открытие обнажает тревожный аспект цепочки поставок AI: огромное количество людей-аннотаторов, чей труд необходим для обучения machine learning систем, часто намеренно держат в неведении о том, как в конечном итоге используется их работа. Разрыв между людьми, которые разметают данные, и организациями, развертывающими результирующие AI системы, вызывает серьёзные этические вопросы о информированном согласии, трудовых практиках и скрытой человеческой инфраструктуре военных технологий.
Как работает разметка данных для военных целей
Современные AI системы, особенно используемые для распознавания изображений, обработки естественного языка и поддержки принятия решений, требуют огромного количества размеченных данных для обучения. Кто-то должен просмотреть тысячи спутниковых снимков и обвести рамками вокруг транспортных средств. Кто-то должен прослушать часы аудио и транскрибировать услышанное. Кто-то должен прочитать текст и категоризировать его по теме, настроению или намерению.
Эта работа обычно передается на аутсорсинг через цепочку посредников. Оборонный подрядчик может нанять технологическую компанию для разработки AI системы. Эта компания может передать разметку данных на аутсорсинг платформе, такой как Appen, которая, в свою очередь, распределяет работу среди фрилансеров по всему миру, многие из которых находятся в странах, где трудозатраты составляют долю от стоимости в Соединенных Штатах или Европе.
На каждом этапе этой цепочки конечное использование данных становится более неясным. Гиг-работники в нижней части пирамиды видят отдельные задачи — разметить это изображение, транскрибировать этот аудиоклип — без контекста о более широкой системе, которую они помогают создавать. Условия обслуживания Appen и соглашения о неразглашении часто запрещают работникам узнать личность конечного клиента, не говоря уже о приложении, которое их работа поддерживает.
Что размечали работники
Расследование показало, что африканские гиг-работники выполняли различные задачи по аннотации, соответствующие известным военным AI приложениям. Они включали выявление и классификацию объектов на аэрофотоснимках и спутниковых снимках — возможность, центральная для военных систем наблюдения и нацеливания. Работники также участвовали в транскрипции и категоризации данных коммуникаций, а также в разметке геопространственных признаков в картографических изображениях.
Ни одному из работников, с которыми разговаривала Rest of World, не было сказано, что их работа связана с военными или разведывательными приложениями. Несколько выразили шок и дискомфорт, узнав о конечном использовании их труда, некоторые сказали, что не согласились бы на работу, если бы знали.
Этические последствия особенно острые, учитывая геополитический контекст. Некоторые из работников находятся в странах, которые испытали американские военные операции или имеют сложные отношения с американской внешней политикой. Идея того, что их труд может способствовать военным возможностям, направленным на регионы, похожие на их собственные сообщества, была очень тревожной для нескольких интервьюированных работников.
- Гиг-работники в Африке были наняты через Appen для разметки данных, которые поступали в AI системы американской армии
- Работники получали доли западных зарплат и не знали о военном применении
- Многоуровневая цепочка субподрядчиков намеренно скрывает конечное применение работ по разметке данных
- Работники выразили шок и дискомфорт, узнав, как используется их труд
Роль Appen в цепочке поставок AI
Appen, австралийская компания, когда-то входившая в число крупнейших платформ по аннотации данных в мире, давно служит критически важным посредником в цепочке поставок AI. Компания поддерживала глобальную рабочую силу более одного миллиона подрядчиков в пиковый период, предоставляя размеченные данные технологическим компаниям, государственным учреждениям и оборонным подрядчикам.
Компания столкнулась с финансовыми трудностями в последние годы, так как индустрия аннотации данных стала более конкурентной и некоторые AI компании переместили работу по разметке внутрь. Но её исторические контракты с оборонными и разведывательными клиентами означают, что значительное количество данных, размеченных её глобальной рабочей силой, уже включено в военные AI системы.
Защитники Appen утверждают, что компания действует в рамках закона и что её контракты с клиентами включают надлежащие положения о безопасности данных и конфиденциальности. Критики возражают, что положения о конфиденциальности, которые препятствуют рабочим узнать, над чем они работают, по своей сути эксплуатативны, особенно когда речь идет о военных приложениях, которые рабочие могут считать морально неприемлемыми.
Этика невидимого труда
Расследование подчеркивает более широкую этическую проблему в AI индустрии. Технологический сектор был замечательно эффективен в том, чтобы сделать человеческий труд, стоящий за AI системами, невидимым. Когда военная AI система правильно определяет цель на спутниковом снимке, честь отдается алгоритму и инженерам, которые его разработали. Тысячи людей-аннотаторов, чей труд сделал систему возможной, редко признаются, не говоря уже о том, чтобы их консультировали о том, как используется система.
Защитники прав трудящихся призвали к большей прозрачности в цепочке поставок AI, включая требования, чтобы работники по разметке данных были информированы об общей категории приложения, которое их работа поддерживает. Некоторые предложили схемы сертификации, похожие на этикетки справедливой торговли, которые бы проверяли, что данные обучения AI производились в этических условиях труда с информированным согласием работников.
Последствия для управления AI
Открытие также имеет последствия для растущих международных дебатов об управлении AI. Когда правительства разрабатывают основы для регулирования AI систем, вопрос о том, как получаются и размечаются данные обучения, привлекал относительно мало внимания по сравнению с вопросами, такими как алгоритмическая предвзятость и тестирование безопасности.
Использование труда неосознающих иностранных рабочих для обучения военных AI систем может стать точкой конфликта в международных переговорах об управлении AI, особенно поскольку развивающиеся страны требуют большего признания своей роли в глобальной AI экономике и большей выгоды от неё. Если рабочие, которые делают AI возможным, даже не знают, что они строят, то фундамент AI индустрии покоится на тревожной моральной асимметрии.
Для гиг-работников в Африке, которые обнаружили истинную природу своей работы, этот опыт кристаллизовал растущее осознание того, что глобальная AI экономика зависит от их труда, но не чувствует себя обязанной включать их в решения о том, как этот труд используется.
Эта статья основана на репортаже Rest of World. Прочитайте оригинальную статью.
