Tenggat Waktu Jumat dan Perang Dingin atas Etika AI

Anthropic, perusahaan keselamatan AI di balik keluarga model bahasa Claude, menghadapi konfrontasi luar biasa dengan Departemen Pertahanan AS. Menurut laporan, Pentagon telah menuntut agar Anthropic melonggarkan pembatasannya terhadap aplikasi militer teknologi AI-nya — khususnya larangan penggunaan dalam sistem senjata otonomi dan pengawasan massal. Anthropic telah menolak, dan Departemen Pertahanan merespons dengan ancaman untuk menerapkan Defense Production Act, undang-undang era Perang Dingin yang memungkinkan pemerintah untuk memaksa perusahaan swasta memprioritaskan produksi pertahanan nasional.

Perusahaan telah diberi waktu hingga hari Jumat untuk mematuhi. Jika Anthropic tetap menolak, Pentagon dapat secara hukum memaksa perusahaan untuk memberikan akses ke kemampuan AI-nya untuk tujuan militer, menyiapkan konfrontasi hukum dan etis tanpa preseden yang jelas dalam industri AI.

Apa yang Telah Dibatasi Anthropic

Sejak pendiriannya, Anthropic telah mempertahankan kebijakan penggunaan yang dapat diterima yang secara eksplisit melarang penggunaan model AI-nya untuk senjata otonomi, pengawasan massal, dan aplikasi lain yang perusahaan anggap tidak sesuai dengan misinya mengembangkan AI dengan aman. Pembatasan ini tidak biasa dalam industri AI — sebagian besar perusahaan AI besar memiliki kebijakan serupa — tetapi Anthropic sangat vokal tentang komitmennya terhadap keselamatan AI sebagai prinsip organisasi inti.

Perusahaan didirikan oleh mantan peneliti OpenAI Dario dan Daniela Amodei, sebagian karena kekhawatiran tentang kecepatan dan tata kelola pengembangan AI. Identitas mereknya dibangun di sekitar pengembangan AI yang bertanggung jawab, dan penelitiannya tentang penyelarasan AI dan interpretabilitas telah memposisikannya sebagai pemimpin dalam pendekatan keselamatan-dulu untuk kecerdasan buatan. Mundur dari pembatasan militer akan merusak narasi fundamental perusahaan.

Ancaman Defense Production Act

Defense Production Act, yang ditandatangani menjadi undang-undang pada tahun 1950 selama Perang Korea, memberikan presiden otoritas luas untuk mengarahkan industri swasta memprioritaskan kontrak dan pesanan yang dianggap perlu untuk pertahanan nasional. Undang-undang ini telah diterapkan secara berkala untuk berbagai tujuan — paling baru selama pandemi COVID-19 untuk memaksa produksi perlengkapan medis — tetapi menggunakannya untuk memaksa perusahaan AI memberikan teknologinya untuk aplikasi militer akan mewakili penerapan undang-undang yang belum pernah terjadi sebelumnya.

Para ahli hukum terbagi dalam pendapat apakah invokasi semacam itu akan bertahan dari pengawasan yudisial. DPA dirancang untuk manufaktur barang fisik — baja, amunisi, peralatan medis — bukan untuk memaksa perusahaan perangkat lunak mengubah persyaratan layanannya. Pertanyaan tentang apakah akses model AI merupakan "produk" yang dapat dirampas berdasarkan undang-undang tersebut mengangkat pertanyaan hukum baru yang belum ditangani oleh pengadilan.

  • Pentagon menuntut Anthropic menghapus pembatasan penggunaan AI dalam senjata otonomi dan pengawasan
  • Anthropic telah menolak, mengutip komitmen mendasarnya terhadap prinsip keselamatan AI
  • Departemen Pertahanan mengancam penerapan Defense Production Act pada hari Jumat
  • Para ahli hukum mempertanyakan apakah DPA dapat memaksa perusahaan perangkat lunak mengubah kebijakannya
  • Kebuntuan dapat menetapkan preseden untuk otoritas pemerintah atas perusahaan AI

Implikasi Industri

Konfrontasi antara Anthropic dan Pentagon mengirimkan gelombang kejut melalui industri AI yang telah menavigasi hubungan yang semakin kompleks dengan lembaga keamanan nasional. Google, Microsoft, Amazon, dan OpenAI semuanya memiliki kontrak pertahanan yang signifikan, dan masing-masing telah menghadapi tekanan internal dan eksternal atas aplikasi militer dari teknologi mereka. Google terkenal menarik diri dari Project Maven, program AI Pentagon, setelah protes karyawan pada tahun 2018, meskipun perusahaan telah memperluas pekerjaan pertahanannya sejak itu.

Jika Defense Production Act berhasil digunakan terhadap Anthropic, itu akan menetapkan preseden bahwa perusahaan AI apa pun yang beroperasi di Amerika Serikat dapat dipaksa untuk memberikan teknologinya untuk tujuan militer terlepas dari pedoman etis mereka sendiri. Prospek tersebut dapat menghambat penelitian keselamatan AI, mendorong perusahaan yang berfokus pada keselamatan untuk pindah di luar yurisdiksi AS, atau membuat industri bercabang dua tempat perusahaan harus memilih antara kontrak pemerintah dan komitmen keselamatan.

Sebaliknya, jika Anthropic berhasil menolak perintah — baik melalui tantangan hukum atau negosiasi politik — dapat memperkuat prinsip bahwa perusahaan AI memiliki hak untuk menetapkan batas etis tentang bagaimana teknologi mereka digunakan, bahkan ketika pelanggan adalah pemerintah AS.

Ketegangan yang Lebih Luas

Kebuntuan mencerminkan ketegangan fundamental yang telah berkembang sejak model bahasa besar dan sistem AI canggih lainnya mulai menunjukkan kemampuan dengan aplikasi militer yang jelas. Pemerintah AS memandang dominasi AI sebagai penting untuk keamanan nasional, khususnya dalam persaingan dengan Cina, yang menuangkan sumber daya ke dalam aplikasi AI militer dengan batasan etis yang lebih sedikit. Dari perspektif Pentagon, memungkinkan perusahaan AI terkemuka untuk tidak berpartisipasi dalam aplikasi pertahanan adalah kemewahan yang tidak dapat dijangkau bangsa.

Dari perspektif Anthropic, pembatasan ada karena perusahaan percaya bahwa aplikasi militer tanpa batas dari sistem AI yang kuat menimbulkan risiko bencana — risiko yang tidak dihilangkan semata-mata karena pengguna mengenakan seragam Amerika. Posisi perusahaan adalah bahwa beberapa aplikasi AI terlalu berbahaya untuk diaktifkan, terlepas dari siapa yang bertanya.

Bagaimana kebuntuan ini terselesaikan kemungkinan akan membentuk hubungan antara industri AI dan pemerintah AS selama bertahun-tahun mendatang. Ini adalah kasus uji untuk mengetahui apakah komitmen keselamatan AI dapat bertahan dalam tarikan gravitasi imperatif keamanan nasional — dan apakah pemerintah akan menggunakan alat hukum paling kuat untuk memastikan mereka tidak dapat.

Artikel ini berdasarkan laporan oleh The Decoder. Baca artikel asli.