Whistleblowing Menjadi Global
Dalam beberapa minggu terakhir, industri AI menyaksikan gelombang perbedaan pendapat publik yang semakin besar dari dalam barisannya sendiri. Mantan pekerja keamanan dan peneliti di beberapa perusahaan AI paling terkemuka di dunia, termasuk OpenAI dan Anthropic, telah secara terbuka menyuarakan kekhawatiran tentang bagaimana perusahaan mereka menangani pengujian keamanan, menerapkan model, dan merespons peringatan internal tentang potensi risiko. Pengungkapan ini telah memicu perdebatan intens tentang kecukupan praktik keamanan AI dan apakah laju pengembangan industri yang cepat melampaui kemampuannya untuk memastikan sistem yang kuat diterapkan secara bertanggung jawab.
Kini sebuah inisiatif baru mencoba memformalkan dan melindungi jenis pelaporan internal ini dalam skala global. Psst, platform pelaporan aman digital, memungkinkan pekerja AI di mana saja di dunia mendokumentasikan dan mengirimkan kekhawatiran keamanan melalui saluran aman, bahkan di yurisdiksi yang tidak memiliki undang-undang perlindungan whistleblower yang kuat. Anggota dewan pendiri platform, pengacara Mary Inman, mengatakan tujuannya adalah memastikan pekerja di perusahaan AI dapat berbicara tentang potensi bahaya tanpa takut pembalasan, terlepas dari di mana mereka berada.
Mengapa Geografi Penting
Perlindungan whistleblower sangat bervariasi antar negara. Di Amerika Serikat, undang-undang federal dan negara bagian memberikan perlindungan tertentu bagi karyawan yang melaporkan pelanggaran, meskipun efektivitas dan ruang lingkupnya masih menjadi bahan perdebatan. Di Uni Eropa, direktif whistleblower yang diadopsi pada 2019 memberikan tingkat dasar perlindungan di semua negara anggota, meskipun implementasinya tidak merata.
Tetapi pengembangan AI adalah aktivitas global. Laboratorium AI utama beroperasi di kantor penelitian dan merekrut bakat di puluhan negara, banyak di antaranya memiliki sedikit atau tidak ada undang-undang perlindungan whistleblower. Seorang peneliti keamanan di Singapura, India, atau Uni Emirat Arab yang menemukan praktik mengkhawatirkan pada majikannya mungkin tidak memiliki jalan hukum untuk melaporkan kekhawatiran tersebut tanpa mempertaruhkan karier mereka — atau yang lebih buruk.
Psst dirancang untuk mengisi celah ini dengan menyediakan solusi berbasis teknologi untuk masalah tata kelola. Dengan menawarkan saluran pelaporan terenkripsi dan anonim yang dapat diakses dari negara mana pun, platform ini bertujuan menciptakan jaring pengaman yang beroperasi secara independen dari kerangka hukum nasional mana pun. Laporan yang dikirimkan melalui platform dapat diarahkan ke badan regulasi yang tepat, peneliti akademis, atau organisasi kepentingan publik tergantung pada sifat dan tingkat keparahan kekhawatiran.
Gelombang Pengungkapan Keamanan AI
Waktu kemunculan Psst sangat signifikan. Tahun lalu menyaksikan volume pengungkapan publik yang belum pernah terjadi sebelumnya oleh karyawan saat ini dan mantan dari perusahaan AI terkemuka. Kepergian Mrinank Sharma dari Anthropic dan pernyataan publiknya selanjutnya tentang praktik keamanan menarik perhatian luas, begitu pula beberapa mantan karyawan OpenAI yang mempertanyakan apakah tekanan komersial perusahaan mengompromikan komitmen keamanannya.
Pengungkapan ini biasanya datang dari individu dengan keamanan finansial, status imigrasi, dan reputasi profesional untuk menanggung biaya pribadi berbicara terbuka. Mayoritas pekerja AI yang memiliki kekhawatiran serupa tidak memiliki perlindungan ini dan tetap diam. Tesis Psst adalah bahwa kekhawatiran yang terungkap hanya mewakili puncak gunung es, dan bahwa mekanisme pelaporan aman dapat mengungkap gambaran yang jauh lebih luas tentang masalah keamanan di seluruh industri.
Tantangan Verifikasi
Salah satu tantangan mendasar yang dihadapi platform whistleblower adalah verifikasi. Laporan anonim, meski melindungi pelapor, sulit dikuatkan dan mudah diabaikan. Perusahaan yang dituduh melakukan kelalaian keamanan dapat berargumen bahwa klaim anonim kurang kredibel, sementara tidak adanya penuduh bernama membuat regulator atau jurnalis lebih sulit melakukan investigasi.
Psst mencoba mengatasi ini dengan membangun hubungan dengan perantara tepercaya yang dapat mengevaluasi kredibilitas laporan tanpa mengekspos identitas pelapor. Platform ini juga mendorong pekerja untuk mengirimkan dokumentasi — email internal, hasil pengujian, catatan rapat, dokumen kebijakan — yang dapat membuktikan kekhawatiran mereka secara independen dari kesaksian pribadi mereka.
Respons Industri dan Regulator
Reaksi perusahaan AI terhadap gerakan whistleblower yang berkembang telah beragam. Beberapa perusahaan secara publik berkomitmen untuk melindungi karyawan yang mengangkat kekhawatiran keamanan melalui saluran internal, sementara yang lain menggunakan perjanjian non-pengungkapan dan instrumen hukum lain yang menurut para kritikus memiliki efek mendinginkan terhadap perbedaan pendapat internal.
Regulator memperhatikan dengan seksama. UU AI Uni Eropa mencakup ketentuan terkait transparansi dan akuntabilitas yang dapat menciptakan saluran formal untuk pelaporan keamanan. Di Amerika Serikat, dengar pendapat kongres tentang keamanan AI telah menyentuh kebutuhan perlindungan whistleblower khusus untuk industri AI, meskipun belum ada undang-undang komprehensif yang disahkan.
Apa Artinya Ini Bagi Pengembangan AI
Kemunculan infrastruktur whistleblower AI yang berdedikasi mencerminkan kematangan debat keamanan AI dari diskusi filosofis abstrak ke pertanyaan tata kelola praktis. Ketika sistem AI menjadi lebih kuat dan lebih dalam terintegrasi ke dalam infrastruktur kritis, layanan kesehatan, keuangan, dan aplikasi pertahanan, konsekuensi dari praktik keamanan yang tidak memadai menjadi semakin serius.
Psst dan inisiatif serupa mewakili pengakuan bahwa tata kelola AI yang efektif tidak dapat hanya mengandalkan perusahaan untuk mengawasi diri sendiri atau pemerintah untuk mengatur dari luar. Diperlukan mekanisme yang memberdayakan orang-orang yang paling dekat dengan teknologi — para peneliti dan insinyur yang membangun sistem ini — untuk membunyikan alarm ketika mereka melihat masalah, tanpa menghancurkan karier mereka sendiri dalam prosesnya.
Apakah platform semacam itu dapat secara bermakna mempengaruhi perilaku industri masih harus dilihat. Tetapi di era ketika laju pengembangan AI secara konsisten melampaui laju regulasi AI, platform whistleblower dapat berfungsi sebagai sistem peringatan dini yang penting, mengungkap kekhawatiran yang mungkin tetap tersembunyi sampai terwujud sebagai bahaya nyata.
Artikel ini berdasarkan laporan oleh Rest of World. Baca artikel aslinya.
