Alat Perang Dingin untuk Era Teknologi Baru
Hubungan antara Departemen Pertahanan AS dan salah satu perusahaan kecerdasan buatan terkemuka di dunia telah mencapai titik putus. Sekretaris Pertahanan Pete Hegseth telah mengeluarkan ultimatum tegas kepada Anthropic: setuju untuk memungkinkan penggunaan militer tanpa batas terhadap teknologi AI-nya pada hari Jumat, atau menghadapi pengusiran penuh dari rantai pasokan Pentagon.
Ancaman datang selama pertemuan yang tegang di Washington pada hari Selasa, di mana Hegseth memanggil CEO Anthropic Dario Amodei untuk apa yang digambarkan sumber sebagai diskusi konfrontasional tentang penolakan perusahaan untuk memberikan akses tanpa henti kepada militer terhadap model AI-nya untuk operasi terklasifikasi. Di antara tuntutan paling kontroversial adalah ketentuan untuk kemampuan pengawasan domestik dan misi otomatis mematikan tanpa pengawasan manusia langsung.
Mungkin yang paling mencolok adalah invokasi Hegseth terhadap Undang-Undang Produksi Pertahanan, sebuah undang-undang era Perang Dingin yang memberikan kepada presiden kewenangan luas untuk memaksa industri domestik melayani prioritas pertahanan nasional. Awalnya dirancang untuk memastikan pabrik dapat berubah ke produksi perang, hukum tidak pernah digunakan untuk memaksa perusahaan AI menyerahkan teknologinya — menjadikan ancaman ini tanpa preseden dalam sejarah kebijakan teknologi Amerika.
Posisi Keselamatan Pertama Anthropic di Bawah Tekanan
Anthropic telah lama membedakan dirinya dalam industri AI melalui penekanan pada penelitian keselamatan dan penerapan yang bertanggung jawab. Perusahaan, didirikan oleh peneliti OpenAI sebelumnya Dario dan Daniela Amodei, telah membangun mereknya di sekitar konsep AI konstitusional — sistem yang dirancang dengan penjaga etika bawaan yang dimaksudkan untuk mencegah penyalahgunaan.
Filosofi yang berpusat pada keselamatan ini telah menempatkan perusahaan pada jalur tabrakan dengan nafsu yang berkembang dari Pentagon untuk integrasi AI di seluruh operasi militer. Sementara Anthropic tidak menentang semua kontrak pertahanan, perusahaan telah menarik garis tegas di sekitar aplikasi tertentu, khususnya yang melibatkan kekuatan mematikan otonom tanpa kontrol manusia yang bermakna dan program pengawasan massal yang menargetkan populasi domestik.
Posisi perusahaan mencerminkan perdebatan yang lebih luas dalam industri AI tentang di mana garis batas etika harus ditarik. Perusahaan AI besar lainnya, termasuk OpenAI dan Google, juga telah bergulat dengan kontrak militer, meskipun sebagian besar lebih bersedia untuk menegosiasikan syarat keterlibatan dengan lembaga pertahanan. Garis lebih keras yang Anthropic ambil telah menjadikannya pusat kilat dalam dorongan Washington yang semakin agresif untuk menjadi senjata AI.
Undang-Undang Produksi Pertahanan: Senjata Tidak Biasa
Undang-Undang Produksi Pertahanan ditandatangani menjadi undang-undang pada tahun 1950, selama tahap awal Perang Korea. Tujuan aslinya sederhana: memastikan bahwa industri Amerika dapat dengan cepat mengalihkan produksi untuk mendukung kebutuhan militer. Selama beberapa dekade, telah dipanggil untuk segalanya mulai dari manufaktur semikonduktor hingga rantai pasokan medis pandemi.
Tetapi menerapkan DPA untuk memaksa perusahaan AI memberikan akses ke modelnya mewakili jenis intervensi yang secara fundamental berbeda. Tidak seperti barang fisik, model AI adalah kekayaan intelektual yang kemampuan dan risikonya sangat terkait erat. Memaksa perusahaan untuk menghapus penjaga keselamatan dari teknologinya mengangkat pertanyaan yang jauh melampaui sengketa pengadaan tradisional.
Para ahli hukum telah mencatat bahwa penggunaan DPA seperti itu kemungkinan akan menghadapi tantangan pengadilan segera. Undang-undang dirancang untuk prioritas produksi dan rantai pasokan, bukan untuk mengesampingkan kebijakan keselamatan internal perusahaan tentang bagaimana teknologinya diterapkan. Setiap upaya untuk memanggilnya dapat menetapkan preseden dengan implikasi luas untuk seluruh sektor teknologi.
Reaksi Industri dan Implikasi Lebih Luas
Kebuntuan telah mengirim gelombang kejut melalui Silicon Valley. Perusahaan AI lainnya sedang memperhatikan dengan cermat, menyadari bahwa hasilnya dapat membangun norma baru untuk cara pemerintah berinteraksi dengan sektor AI swasta. Beberapa pemimpin industri secara pribadi telah menyatakan kekhawatiran bahwa tunduk pada tuntutan Pentagon dapat merusak penelitian keselamatan yang banyak orang anggap penting untuk mencegah penyalahgunaan AI yang katastropik.
Respons Kongres telah bercampur. Elang di komite Layanan Bersenjata telah mendukung posisi Hegseth, berpendapat bahwa keamanan nasional harus diutamakan daripada preferensi keselamatan perusahaan. Yang lain, khususnya anggota Komite Perdagangan Senat, telah memperingatkan bahwa memaksa perusahaan AI dapat mendorong bakat dan inovasi ke luar negeri, pada akhirnya melemahkan posisi kompetitif Amerika.
Uni Eropa juga telah memperhatikan. Pejabat UE telah menunjuk pada konfrontasi sebagai bukti yang mendukung pendekatan regulasi mereka sendiri yang lebih terhadap pemerintahan AI, dengan salah satu diplomat senior mencatat bahwa episode ini menggarisbawahi risiko meninggalkan keputusan keselamatan AI pada kehendak pejabat yang ditunjuk secara politis.
Apa yang Terjadi Selanjutnya
Batas waktu Jumat looming besar. Jika Anthropic menolak untuk mematuhi, Hegseth dapat melanjutkan dengan ancamannya untuk menghapus perusahaan dari saluran pengadaan pertahanan, memotong aliran pendapatan yang signifikan dan mengirim pesan kepada perusahaan AI lainnya. Opsi Undang-Undang Produksi Pertahanan tetap di meja tetapi akan mewakili eskalasi yang jauh lebih dramatis dengan hasil hukum yang tidak pasti.
Bagi Anthropic, perhitungannya adalah eksistensial. Menyerah dapat merusak prinsip keselamatan yang mendefinisikan identitas perusahaannya dan menggoyahkan kepercayaan dengan karyawan yang bergabung khusus karena komitmen etis perusahaan. Menolak dapat biaya perusahaan tidak hanya kontrak pemerintah tetapi juga niat baik politik pada waktu ketika regulasi AI sedang dibentuk secara aktif di Washington.
Apapun hasilnya, konfrontasi telah membuat satu hal jelas: bulan madu antara perusahaan AI dan pemerintah sudah berakhir. Era kolaborasi sopan tentang kebijakan AI memberi jalan kepada negosiasi hardball di mana taruhannya diukur bukan dalam pendapatan triwulanan tetapi dalam pertanyaan fundamental tentang bagaimana teknologi paling kuat dalam sejarah manusia akan diperintah.
Artikel ini didasarkan pada laporan oleh Ars Technica. Baca artikel asli.
