Tướng Hegseth của Pentagon sẽ gặp CEO Anthropic khi cuộc tranh luận về AI quân sự leo thang

Một Cuộc Trò Chuyện Có Nhiều Suy Luận

Bộ trưởng Quốc phòng Pete Hegseth được lên lịch gặp CEO Anthropic Dario Amodei, một cuộc gặp nhấn mạnh cuộc tranh luận ngày càng sâu sắc về cách trí tuệ nhân tạo nên được sử dụng bởi quân đội Mỹ. Cuộc gặp này diễn ra khi Bộ Quốc phòng tăng tốc độ cố gắng triển khai AI trên một loạt các ứng dụng quân sự, từ phân tích tình báo đến logistics cho đến các hệ thống vũ khí tự động.

Anthropic, công ty an toàn AI đứng sau dòng sản phẩm Claude, đã định vị mình như một giọng nói thận trọng trong ngành AI, nhấn mạnh tầm quan trọng của nghiên cứu an toàn và triển khai có trách nhiệm. Sự sẵn sàng của công ty trong việc tham gia trực tiếp với Pentagon đại diện cho một sự phát triển đáng chú ý trong phương pháp tiếp cận quan hệ đối tác với chính phủ của nó, và cuộc gặp với Hegseth có thể định hình các điều khoản của sự tham gia đó trong nhiều năm tới.

Tham Vọng AI của Pentagon

Bộ Quốc phòng đã đầu tư nặng nề vào trí tuệ nhân tạo trong vài năm qua, nhưng tốc độ đã tăng nhanh chóng dưới chính quyền hiện tại. Văn phòng Kỹ thuật số và Trí tuệ nhân tạo Chính phủ của Pentagon (CDAO) đã được giao nhiệm vụ mở rộng việc áp dụng AI trên tất cả các dịch vụ quân sự, và bộ đã trao hàng tỷ đô la trong các hợp đồng cho các công ty công nghệ để thực hiện công việc liên quan đến AI.

Các lĩnh vực tập trung chính bao gồm bảo trì dự phòng cho thiết bị quân sự, phân tích tình báo tự động của hình ảnh vệ tinh và dữ liệu tín hiệu, các công cụ hỗ trợ quyết định cho các chỉ huy chiến trường, và — gây tranh cãi nhất — các hệ thống vũ khí tự động có thể xác định và tham gia các mục tiêu với mức độ giám sát của con người khác nhau.

Hegseth đã nói rõ quan điểm của mình rằng Hoa Kỳ phải chuyển nhanh hơn để triển khai AI trong các ứng dụng quân sự hoặc rủi ro bị tụt lại so với Trung Quốc, đã biến chiến tranh hỗ trợ AI thành một trụ cột trung tâm của chiến lược hiện đại hóa quân sự của nó. Quan điểm của anh ta phản ánh một mối quan tâm rộng hơn trong các cơ quan quốc phòng rằng sự thận trọng quá mức về an toàn AI có thể tạo ra một khoảng cách năng lực nguy hiểm.

Hành Động Cân Bằng của Anthropic

Đối với Anthropic, cuộc gặp với Hegseth đại diện cho một hành động cân bằng tinh tế. Công ty được thành lập năm 2021 bởi các nhà nghiên cứu cũ của OpenAI đã rời bỏ một phần vì lo ngại về tốc độ và an toàn của phát triển AI. Danh tính doanh nghiệp của nó được xây dựng xung quanh khái niệm AI có trách nhiệm, và nó đã công bố nghiên cứu rộng rãi về căn chỉnh AI, các tiêu chí an toàn, và những rủi ro của việc triển khai các hệ thống AI mạnh mẽ mà không có đủ các biện pháp bảo vệ.

Đồng thời, Anthropic là một công ty thương mại đã huy động hơn 10 tỷ đô la vốn và đối mặt với áp lực tạo ra doanh thu. Hợp đồng chính phủ đại diện cho một cơ hội kinh doanh đáng kể, và các cơ quan quốc phòng và tình báo là những khách hàng được tài trợ tốt nhất cho các khả năng AI tiên tiến.

Công ty đã thực hiện các bước hướng tới công việc của chính phủ. Các mô hình của Anthropic có sẵn thông qua GovCloud của Amazon Web Services, và công ty đã tham gia với các cơ quan chính phủ khác nhau về an toàn AI và đánh giá. Tuy nhiên, nó đã thận trọng hơn một số đối thủ cạnh tranh về các quan hệ đối tác quân sự rõ ràng, và chính sách sử dụng được chấp nhận của nó đặt ra các hạn chế đối với những ứng dụng nhất định của công nghệ của nó.

Sự Chia Rẽ Rộng Hơn của Ngành

Cuộc gặp Hegseth-Amodei phản ánh một sự chia rẽ rộng hơn trong ngành công nghệ trên AI quân sự. Một số công ty, như Palantir, Anduril và Shield AI, đã xây dựng các doanh nghiệp của họ xung quanh các ứng dụng quốc phòng và đã chấp nhận Pentagon là một khách hàng chính. Những công ty khác, bao gồm cả một số phòng thí nghiệm AI lớn, đã có thái độ phiến vị hơn, cân bằng các cơ hội thương mại với những rủi ro về danh tiếng của sự liên kết với các ứng dụng quân sự.

Google nổi tiếng đã rút khỏi Project Maven, một chương trình của Pentagon để áp dụng AI vào phân tích hình ảnh drone, sau những cuộc phản đối của nhân viên năm 2018. Công ty sau đó đã đảo ngược hướng đi và kể từ đó đã giành được các hợp đồng quốc phòng đáng kể. Microsoft đã duy trì một lập trường liên tục về sự tham gia với quân đội, lập luận rằng các quốc gia dân chủ nên có quyền truy cập vào công nghệ tốt nhất có sẵn.

• Pentagon đang tăng tốc độ việc áp dụng AI trên tình báo, logistics và vũ khí tự động
• Các quan chức quốc phòng lập luận rằng Hoa Kỳ phải chuyển nhanh hơn để theo kịp các chương trình AI quân sự của Trung Quốc
• Những người ủng hộ an toàn AI lo lắng về việc triển khai các hệ thống mạnh mẽ trong bối cảnh quân sự có nhiều suy luận mà không có đủ các biện pháp bảo vệ
• Một số công ty AI lớn đã mở rộng công việc chính phủ và quốc phòng mặc dù có sự do dự trước đó

Những Gì Đang Bị Đe Dọa

Cuộc tranh luận về AI quân sự không chỉ là học thuật. Các quyết định được đưa ra trong những tháng và năm sắp tới về cách các hệ thống AI được tích hợp vào các hoạt động quân sự có thể có những hậu quả sâu sắc đối với bản chất của chiến tranh, rủi ro của sự leo thang, và bảo vệ dân thường trong các vùng xung đột.

Những người ủng hộ triển khai nhanh chóng lập luận rằng AI có thể làm cho các hoạt động quân sự chính xác hơn và giảm thiểu thương vong dân thường bằng cách cải thiện độ chính xác nhắm mục tiêu và nhận thức về tình huống. Những nhà phê bình phản bác rằng công nghệ này chưa đủ đáng tin cậy cho các quyết định sống chết, và việc triển khai các hệ thống vũ khí AI có thể hạ thấp ngưỡng sử dụng vũ lực bằng cách làm cho hành động quân sự có vẻ ít tốn kém hơn.

Cuộc gặp giữa Hegseth và Amodei không có khả năng giải quyết những căng thẳng này, nhưng nó có thể giúp xác định các tham số của sự tham gia của Anthropic với cơ quan quốc phòng. Nếu một trong những công ty có ý thức an toàn nhất của ngành AI có thể tìm thấy một khuôn khổ khả thi cho hợp tác quân sự, nó có thể thiết lập một mẫu cho những người khác theo dõi. Nếu các cuộc đàm phán sụp đổ vì những khác biệt không thể hòa giải về các tiêu chuẩn an toàn, nó có thể làm sâu sắc hơn sự chia rẽ giữa ngành công nghệ và Pentagon vào lúc cả hai bên nói rằng hợp tác là điều cần thiết.

Một Khoảnh Khắc Quyết Định

Đối với ngành AI nói chung, sự tích hợp ngày càng tăng của trí tuệ nhân tạo vào các hệ thống quân sự đại diện cho một khoảnh khắc quyết định. Công nghệ được ủ mầm trong các phòng thí nghiệm nghiên cứu học thuật và được thương mại hóa thông qua các chatbot của người tiêu dùng hiện đang được yêu cầu thực hiện một số công việc hậu quả nhất có thể tưởng tượng được. Cách mà quá trình chuyển đổi đó được quản lý — và bởi ai — sẽ định hình không chỉ tương lai của chiến tranh, mà còn tương lai của ngành AI.

Bài viết này dựa trên báo cáo của C4ISRNET. Đọc bài viết gốc.