アフリカのギグワーカーが気付かないうちにU.S.軍のAIシステムの訓練に協力

サプライチェーンに隠された真実

Rest of Worldによる調査により、データラベリングプラットフォームAppenを通じて雇用されたアフリカ全域のギグワーカーが、日常的な注釈作業（画像内のオブジェクトの識別、音声の転写、テキストの分類）を行いながら、気付かないうちにアメリカ軍が使用するAIシステムに貢献していたことが明らかになった。時給数ドルで雇用されたこれらのワーカーの多くは、自分たちの労働が防衛・情報アプリケーションに供給されていることに全く気付いていなかった。

この明かされた事実は、AIサプライチェーンの厄介な側面を浮き彫りにしている。機械学習システムの訓練に不可欠な人間のアノテーターの膨大な労働力は、自分たちの仕事がどのように最終的に使用されるかについて、意図的に暗黙のうちに置き去りにされることが多い。データにラベルを付ける人々と、結果として生じるAIシステムを配備する組織との間のこの断絶は、インフォームド・コンセント、労働慣行、および軍事技術の隠れた人間インフラストラクチャに関する深刻な倫理的問題を提起する。

軍事用データラベリングの仕組み

特に画像認識、自然言語処理、意思決定支援に使用されるモダンなAIシステムには、膨大な量のラベル付き訓練データが必要である。誰かが数千の衛星画像を見て、車の周りにボックスを描く必要がある。誰かが数時間の音声を聞いて、聞いたことを文字に起こす必要がある。誰かがテキストを読んで、トピック、センチメント、インテントによって分類する必要がある。

この作業は、通常、仲介者のチェーンを通じてアウトソースされる。防衛請負業者は、AIシステムを開発するためにテクノロジー企業を雇用する可能性がある。その企業は、データラベリングをAppenのようなプラットフォームに下請けに出す可能性があり、その後、プラットフォームはアメリカやヨーロッパの労働費用のほんの一部に過ぎない国の多くの労働者を含む、世界中のフリーランサーに仕事を配分する。

このチェーンの各段階で、データの最終的な使用目的はさらに曖昧になる。ピラミッドの底にあるギグワーカーは、個々のタスク（この画像にラベルを付ける、この音声クリップを文字に起こす）を見ているが、自分たちが構築するのを助けているより広いシステムについてのコンテキストはない。Appenの利用規約と非開示契約は、ワーカーが最終顧客の身元を知ることを禁じることが多く、ましてや自分たちの仕事がサポートするアプリケーションを知ることはない。

ワーカーが何をラベリングしていたのか

調査により、アフリカのギグワーカーが既知の軍事AI応用と一致する様々な注釈作業を実行していたことが判明した。これには、航空および衛星画像内のオブジェクトの識別と分類が含まれていた。これは軍事監視および標的システムの中心となる能力である。ワーカーはまた、通信データの転写と分類、およびマッピング画像の地理空間特性のラベリングに関与していた。

Rest of Worldにインタビューされた労働者の誰も、自分たちの仕事が軍事または情報応用に関連していることを告げられていなかった。何人かは、自分たちの労働の最終的な使用目的を知った時にショックと不快感を表明し、知っていたら仕事を受け入れなかったと言う者もいた。

地政学的コンテキストを考慮すると、倫理的な影響は特に指摘されている。一部のワーカーは、米軍の軍事作戦を経験した国または米国の外交政策との複雑な関係を持つ国に拠点を置いている。自分たちの労働が、自分たちのコミュニティに似た地域を対象とした軍事能力に貢献する可能性があるという考えは、インタビューされた何人かのワーカーにとって非常に困惑させるものであった。

• アフリカのギグワーカーはAppenを通じて雇用され、U.S.軍のAIシステムに供給されるデータにラベルを付けた
• ワーカーは西側諸国の賃金の一部で雇用され、軍事用の最終用途については知識がなかった
• 多層的な下請けチェーンは、データラベリング作業の最終的なアプリケーションを意図的に曖昧にしている
• ワーカーは、自分たちの労働がどのように使用されているかを学んだとき、ショックと不快感を表明した

AIサプライチェーンにおけるAppenの役割

オーストラリアの企業Appenは、かつて世界最大のデータアノテーションプラットフォームの一つであり、長くAIサプライチェーンの重要な仲介者として機能してきた。同社は最盛期に100万人以上の請負業者からなるグローバルな労働力を維持し、テクノロジー企業、政府機関、防衛請負業者にラベル付きデータを提供していた。

データラベリング業界がより競争的になり、一部のAI企業が注釈作業を社内に移したため、同社は近年、経済的な困難に直面している。しかし、防衛・情報クライアントとの歴史的契約により、グローバルな労働力によってラベル付けされたデータの大量の量が既に軍事AIシステムに組み込まれていることを意味している。

Appenの擁護者は、同社が法律の範囲内で運営されており、クライアントとの契約には適切なデータセキュリティと機密保持の条項が含まれていると主張している。批評家は、ワーカーが何に取り組んでいるかを知ることができないようにする機密保持条項は、本質的に搾取的であり、特にワーカーが道徳的に問題があると感じるかもしれない軍事応用を含む場合に当てはまると反論している。

見えない労働の倫理

この調査は、AI業界における広範な倫理的課題を浮き彫りにしている。テクノロジー部門は、AIシステムの背後にある人間労働を見えなくすることに非常に効果的であった。軍事AIシステムが衛星画像内のターゲットを正しく識別する場合、クレジットはアルゴリズムとそれを設計したエンジニアに与えられる。システムを可能にした数千の人間のアノテーターの労働は、めったに認識されず、システムの使用方法についても相談されることはない。

労働権の擁護者は、AIサプライチェーンにおける大きな透明性を求めており、データラベリングワーカーが自分たちの仕事がサポートするアプリケーションの一般的なカテゴリーについて知らされる必要があることを含んでいる。一部の人々は、AI訓練データが倫理的な労働条件の下で、インフォームド・コンセント付きで生産されたことを検証する、フェアトレードラベルに類似した認定スキームを提案している。

AI統治への影響

この明かされた事実は、AI統治に関する成長する国際的な議論にも影響を及ぼす。政府がAIシステムを規制するためのフレームワークを開発する際、訓練データがどのように入手され、ラベル付けされるかという問題は、アルゴリズムバイアスと安全性テストなどの問題と比較して、相対的に少ない注目を受けている。

軍事AIシステムを訓練するために気付かない外国人労働を使用することは、AI統治に関する国際的な交渉における焦点になる可能性がある。特に開発途上国がグローバルAI経済における自分たちの役割のより大きな認識とより大きな利益を求めている場合に当てはまる。AIを可能にするワーカーが何を構築しているかさえも知らない場合、AI業界の基盤は困惑させる道徳的な非対称性に基づいている。

アフリカのギグワーカーが自分たちの仕事の真の性質を発見した場合、その経験は、グローバルAI経済が彼らの労働に依存しているが、その労働がどのように使用されるかについての決定に彼らを含める義務を感じていないという成長する認識を結晶化させた。

この記事はRest of Worldによる報告に基づいている。オリジナル記事を読む.