Ẩn trong Chuỗi Cung Cấp

Một cuộc điều tra của Rest of World đã tiết lộ rằng các công nhân gig trên khắp Châu Phi được thuê qua nền tảng ghi nhãn dữ liệu Appen để thực hiện các nhiệm vụ chú thích thường xuyên — xác định các đối tượng trong hình ảnh, phiên âm âm thanh, phân loại văn bản — đã vô tình đóng góp cho các hệ thống AI được sử dụng bởi quân đội Hoa Kỳ. Những công nhân này, nhiều người được trả chỉ vài đô la mỗi giờ, không biết rằng lao động của họ đang được sử dụng cho các ứng dụng quốc phòng và tình báo.

Cuộc tiết lộ này phơi bày một khía cạnh đáng lo ngại của chuỗi cung cấp AI: lực lượng lao động khổng lồ của những người chú thích dữ liệu mà lao động của họ là điều cần thiết để huấn luyện các hệ thống machine learning thường bị cố ý giữ trong bóng tối về cách công việc của họ được sử dụng. Sự ngắt kết nối giữa những người ghi nhãn dữ liệu và các tổ chức triển khai các hệ thống AI do đó tạo ra đặt ra những câu hỏi đạo đức nghiêm túc về sự đồng ý có hiểu biết, thực tiễn lao động, và cơ sở hạ tầng con người ẩn giấu của công nghệ quân sự.

Cách Ghi Nhãn Dữ Liệu Cho Quân Đội Hoạt Động

Các hệ thống AI hiện đại, đặc biệt là những hệ thống được sử dụng để nhận dạng hình ảnh, xử lý ngôn ngữ tự nhiên, và hỗ trợ quyết định, yêu cầu lượng khổng lồ dữ liệu huấn luyện được ghi nhãn. Ai đó phải xem hàng nghìn hình ảnh vệ tinh và vẽ hộp quanh các phương tiện. Ai đó phải lắng nghe hàng giờ âm thanh và phiên âm những gì họ nghe. Ai đó phải đọc văn bản và phân loại nó theo chủ đề, cảm tính, hoặc ý định.

Công việc này thường được ngoài nguồn thông qua một chuỗi các trung gian. Một nhà thầu quốc phòng có thể thuê một công ty công nghệ để phát triển hệ thống AI. Công ty đó có thể ký hợp đồng phụ công việc ghi nhãn dữ liệu cho một nền tảng như Appen, nên lần lượt phân phối công việc cho các freelancer trên khắp thế giới, nhiều người trong số họ ở các quốc gia nơi chi phí lao động chỉ bằng một phần nhỏ so với chi phí ở Hoa Kỳ hoặc Châu Âu.

Ở mỗi bước trong chuỗi này, mục đích sử dụng cuối cùng của dữ liệu trở nên kém rõ ràng hơn. Những công nhân gig ở dưới cùng của kim tự tháp chỉ thấy các nhiệm vụ riêng lẻ — ghi nhãn hình ảnh này, phiên âm đoạn âm thanh này — mà không có bối cảnh về hệ thống rộng lớn hơn mà họ đang giúp xây dựng. Điều khoản dịch vụ của Appen và các thỏa thuận bảo mật thường cấm các công nhân biết danh tính của khách hàng cuối cùng, chứ đừng nói đến ứng dụng mà công việc của họ hỗ trợ.

Những Gì Các Công Nhân Đang Ghi Nhãn

Cuộc điều tra phát hiện ra rằng các công nhân gig Châu Phi đã thực hiện một loạt các nhiệm vụ chú thích phù hợp với các ứng dụng AI quân sự đã biết. Những điều này bao gồm xác định và phân loại các đối tượng trong hình ảnh trên không và vệ tinh — một khả năng trung tâm đối với các hệ thống giám sát và nhắm mục tiêu quân sự. Các công nhân cũng tham gia vào việc phiên âm và phân loại dữ liệu truyền thông, và trong việc ghi nhãn các đặc trưng địa lý trong hình ảnh bản đồ.

Không một trong những công nhân nào được Rest of World phỏng vấn được thông báo rằng công việc của họ được liên kết với các ứng dụng quân sự hoặc tình báo. Một số bày tỏ sự sốc và bất thoải mái khi biết mục đích sử dụng cuối cùng của lao động của họ, với một số nói rằng họ sẽ không chấp nhận công việc nếu họ biết.

Các tác động đạo đức đặc biệt sắc nét khi xem xét bối cảnh địa chính trị. Một số công nhân có trụ sở tại các quốc gia đã trải qua các hoạt động quân sự của Hoa Kỳ hoặc có những mối quan hệ phức tạp với chính sách ngoại giao của Mỹ. Ý tưởng rằng lao động của họ có thể đóng góp cho khả năng quân sự được hướng vào các khu vực tương tự như các cộng đồng của họ là vô cùng bất an đối với một số công nhân được phỏng vấn.

  • Các công nhân gig ở Châu Phi được thuê qua Appen để ghi nhãn dữ liệu được sử dụng cho hệ thống AI quân sự Hoa Kỳ
  • Các công nhân được trả một phần nhỏ so với tiền lương phương Tây và không biết về mục đích quân sự
  • Chuỗi ký hợp đồng phụ đa lớp cố ý che giấu ứng dụng cuối cùng của công việc ghi nhãn dữ liệu
  • Các công nhân bày tỏ sự sốc và bất thoải mái khi biết cách lao động của họ được sử dụng

Vai Trò Của Appen Trong Chuỗi Cung Cấp AI

Appen, một công ty của Úc từng là một trong những nền tảng ghi nhãn dữ liệu lớn nhất thế giới, lâu nay đã phục vụ như một trung gian quan trọng trong chuỗi cung cấp AI. Công ty duy trì một lực lượng lao động toàn cầu hơn một triệu nhà thầu ở đỉnh điểm của nó, cung cấp dữ liệu được ghi nhãn cho các công ty công nghệ, cơ quan chính phủ, và nhà thầu quốc phòng.

Công ty đã phải đối mặt với những khó khăn tài chính trong những năm gần đây khi ngành ghi nhãn dữ liệu trở nên cạnh tranh hơn và khi một số công ty AI đã chuyển công việc chú thích vào nội bộ. Nhưng các hợp đồng lịch sử của nó với các khách hàng quốc phòng và tình báo có nghĩa là lượng dữ liệu được ghi nhãn bởi lực lượng lao động toàn cầu của nó đã được kết hợp thành các hệ thống AI quân sự.

Những người bảo vệ Appen lập luận rằng công ty hoạt động trong khuôn khổ pháp luật và rằng các hợp đồng của nó với các khách hàng bao gồm các quy định thích hợp cho bảo mật dữ liệu và bảo mật. Các nhà phê bình lập luận rằng các quy định bảo mật ngăn các công nhân biết những gì họ đang làm việc là vốn có khai thác, đặc biệt là khi công việc liên quan đến các ứng dụng quân sự mà các công nhân có thể cảm thấy có vấn đề về đạo đức.

Đạo Đức của Lao Động Vô Hình

Cuộc điều tra làm nổi bật một thách thức đạo đức rộng lớn hơn trong ngành công nghệ AI. Lĩnh vực công nghệ đã rất hiệu quả trong việc làm cho lao động con người đằng sau các hệ thống AI trở nên vô hình. Khi một hệ thống AI quân sự chính xác xác định một mục tiêu trong một hình ảnh vệ tinh, công lao được tính cho thuật toán và các kỹ sư đã thiết kế nó. Hàng nghìn người chú thích dữ liệu mà lao động của họ làm cho hệ thống có thể hiếm khi được công nhân, chứ đừng nói đến được tham khảo ý kiến về cách hệ thống được sử dụng.

Các nhà bảo vệ quyền lao động đã kêu gọi sự minh bạch lớn hơn trong chuỗi cung cấp AI, bao gồm các yêu cầu rằng các công nhân ghi nhãn dữ liệu được thông báo về loại hình ứng dụng chung mà công việc của họ hỗ trợ. Một số đã đề xuất các sơ đồ chứng nhận, tương tự như các nhãn thương mại công bằng, sẽ xác minh rằng dữ liệu huấn luyện AI được tạo ra trong các điều kiện lao động đạo đức với sự đồng ý của công nhân có hiểu biết.

Ý Nghĩa Đối Với Quản Trị AI

Cuộc tiết lộ cũng có ý nghĩa đối với cuộc tranh luận quốc tế ngày càng phát triển về quản trị AI. Khi các chính phủ phát triển các khung để điều chỉnh các hệ thống AI, câu hỏi về cách dữ liệu huấn luyện được lấy nguồn và ghi nhãn đã nhận được tương đối ít chú ý so với các vấn đề như sai lệch thuật toán và thử nghiệm an toàn.

Việc sử dụng lao động nước ngoài không hay biết để huấn luyện các hệ thống AI quân sự có thể trở thành điểm nổ nổi lên trong các đàm phán quốc tế về quản trị AI, đặc biệt là khi các quốc gia đang phát triển nhấn mạnh để công nhân nhận ra hơn vai trò của họ trong — và lợi ích lớn hơn từ — nền kinh tế AI toàn cầu. Nếu những công nhân làm cho AI trở thành có thể thậm chí không biết những gì họ đang xây dựng, nền tảng của ngành công nghiệp AI dựa trên một bất đối xứng đạo đức đáng lo ngại.

Đối với những công nhân gig ở Châu Phi người phát hiện ra bản chất thực sự của công việc của họ, trải nghiệm đã tinh chế một nhận thức ngày càng tăng rằng nền kinh tế AI toàn cầu phụ thuộc vào lao động của họ nhưng cảm thấy không bắt buộc phải đưa họ vào các quyết định về cách sử dụng lao động đó.

Bài viết này dựa trên báo cáo của Rest of World. Đọc bài viết gốc.