Percakapan Bertaruh Tinggi

Sekretaris Pertahanan Pete Hegseth dijadwalkan untuk bertemu dengan CEO Anthropic Dario Amodei, sebuah pertemuan yang menyoroti intensifikasi perdebatan mengenai bagaimana kecerdasan buatan harus digunakan oleh militer Amerika. Pertemuan ini datang saat Departemen Pertahanan mempercepat upayanya untuk menerapkan AI di berbagai aplikasi militer, dari analisis intelijen hingga logistik hingga sistem senjata otonom.

Anthropic, perusahaan keselamatan AI di balik keluarga model Claude, telah memposisikan diri sebagai suara yang hati-hati dalam industri AI, menekankan pentingnya penelitian keselamatan dan penerapan yang bertanggung jawab. Kesediaan perusahaan untuk terlibat langsung dengan Pentagon mewakili evolusi yang signifikan dalam pendekatannya terhadap kemitraan pemerintah, dan pertemuan dengan Hegseth dapat membentuk syarat keterlibatan tersebut selama bertahun-tahun mendatang.

Ambisi AI Pentagon

Departemen Pertahanan telah berinvestasi besar dalam kecerdasan buatan selama beberapa tahun, tetapi kecepatannya telah meningkat secara dramatis di bawah administrasi saat ini. Kantor Chief Digital dan Artificial Intelligence Pentagon (CDAO) telah diberi tugas untuk meningkatkan skala adopsi AI di semua layanan militer, dan departemen telah memberikan miliaran dolar dalam kontrak kepada perusahaan teknologi untuk pekerjaan terkait AI.

Area fokus utama mencakup pemeliharaan prediktif untuk peralatan militer, analisis intelijen otomatis gambar satelit dan data sinyal, alat dukungan keputusan untuk komandan medan perang, dan — paling kontroversial — sistem senjata otonom yang dapat mengidentifikasi dan melibatkan target dengan berbagai tingkat pengawasan manusia.

Hegseth telah vokal tentang pandangannya bahwa Amerika Serikat harus bergerak lebih cepat untuk menerapkan AI dalam aplikasi militer atau berisiko tertinggal dari China, yang telah menjadikan perang berbasis AI sebagai pilar sentral strategi modernisasi militernya. Posisinya mencerminkan kekhawatiran yang lebih luas dalam lembaga pertahanan bahwa kehati-hatian berlebihan tentang keselamatan AI dapat menciptakan kesenjangan kemampuan yang berbahaya.

Keseimbangan Anthropic

Bagi Anthropic, pertemuan dengan Hegseth mewakili keseimbangan yang halus. Perusahaan didirikan pada 2021 oleh peneliti OpenAI mantan yang keluar sebagian atas kekhawatiran tentang kecepatan dan keselamatan pengembangan AI. Identitas korporatnya dibangun di sekitar konsep AI yang bertanggung jawab, dan telah menerbitkan penelitian ekstensif tentang penyelarasan AI, tolok ukur keselamatan, dan risiko penerapan sistem AI yang kuat tanpa perlindungan yang memadai.

Pada saat yang sama, Anthropic adalah perusahaan komersial yang telah mengumpulkan lebih dari $10 miliar dalam pendanaan dan menghadapi tekanan untuk menghasilkan pendapatan. Kontrak pemerintah mewakili peluang bisnis yang signifikan, dan lembaga pertahanan dan intelijen berada di antara pelanggan yang paling bersemangat dan terberdana untuk kemampuan AI canggih.

Perusahaan telah mengambil langkah-langkah menuju pekerjaan pemerintah. Model Anthropic tersedia melalui GovCloud Amazon Web Services, dan perusahaan telah terlibat dengan berbagai lembaga pemerintah tentang keselamatan dan evaluasi AI. Namun, telah lebih hati-hati daripada beberapa pesaing tentang kemitraan militer eksplisit, dan kebijakan penggunaan yang dapat diterima menempatkan pembatasan pada aplikasi tertentu dari teknologinya.

Perpecahan Industri yang Lebih Luas

Pertemuan Hegseth-Amodei mencerminkan perpecahan yang lebih luas dalam industri teknologi atas AI militer. Beberapa perusahaan, seperti Palantir, Anduril, dan Shield AI, telah membangun bisnis mereka di sekitar aplikasi pertahanan dan telah merangkul Pentagon sebagai pelanggan utama. Yang lain, termasuk beberapa lab AI utama, telah lebih ambigu, menyeimbangkan peluang komersial terhadap risiko reputasi asosiasi dengan aplikasi militer.

Google terkenal menarik diri dari Project Maven, program Pentagon untuk menerapkan AI pada analisis gambar drone, setelah protes karyawan pada 2018. Perusahaan kemudian membalikkan arah dan sejak itu telah memenangkan kontrak pertahanan yang signifikan. Microsoft telah mempertahankan postur keterlibatan yang konsisten dengan militer, berpendapat bahwa negara-negara demokratis harus memiliki akses ke teknologi terbaik yang tersedia.

  • Pentagon mempercepat adopsi AI di seluruh intelijen, logistik, dan senjata otonom
  • Pejabat pertahanan berpendapat bahwa Amerika Serikat harus bergerak lebih cepat untuk mengikuti program AI militer China
  • Para pendukung keselamatan AI khawatir tentang penerapan sistem yang kuat dalam konteks militer bertaruh tinggi tanpa perlindungan yang memadai
  • Beberapa perusahaan AI utama telah memperluas pekerjaan pemerintah dan pertahanan meskipun keraguan sebelumnya

Apa yang Dipertaruhkan

Perdebatan atas AI militer bukan sekadar akademis. Keputusan yang dibuat dalam berbulan-bulan dan bertahun-tahun mendatang tentang bagaimana sistem AI terintegrasi ke dalam operasi militer dapat memiliki konsekuensi mendalam bagi sifat peperangan, risiko eskalasi, dan perlindungan warga sipil di zona konflik.

Para pendukung penerapan cepat berpendapat bahwa AI dapat membuat operasi militer lebih presisi dan mengurangi korban sipil dengan meningkatkan akurasi penargetan dan kesadaran situasional. Kritikus membantah bahwa teknologi belum cukup andal untuk keputusan hidup-dan-mati, dan bahwa penerapan sistem senjata AI dapat menurunkan ambang batas penggunaan kekuatan dengan membuat tindakan militer tampak lebih murah.

Pertemuan antara Hegseth dan Amodei tidak mungkin menyelesaikan ketegangan ini, tetapi dapat membantu mendefinisikan parameter keterlibatan Anthropic dengan lembaga pertahanan. Jika salah satu perusahaan AI yang paling sadar terhadap keselamatan dalam industri dapat menemukan kerangka kerja yang dapat diterapkan untuk kerjasama militer, itu dapat menetapkan template bagi yang lain untuk diikuti. Jika pembicaraan gagal atas perbedaan yang tidak dapat didamaikan tentang standar keselamatan, itu dapat memperdalam perpecahan antara industri teknologi dan Pentagon pada saat ketika kedua belah pihak mengatakan kerjasama sangat penting.

Momen yang Menentukan

Bagi industri AI secara keseluruhan, integrasi kecerdasan buatan yang berkembang ke dalam sistem militer mewakili momen yang menentukan. Teknologi yang dikembangkan di lab penelitian akademis dan dikomersialkan melalui chatbot konsumen sekarang diminta untuk melakukan beberapa tugas paling konsekuensial yang dapat dibayangkan. Bagaimana transisi itu dikelola — dan oleh siapa — akan membentuk tidak hanya masa depan peperangan, tetapi masa depan industri AI itu sendiri.

Artikel ini berdasarkan laporan oleh C4ISRNET. Baca artikel asli.