Yüksek Bahisli Bir Konuşma

Savunma Bakanı Pete Hegseth, Anthropic CEO'su Dario Amodei ile bir toplantı gerçekleştirmek üzere planlanıyor; bu buluşma, Amerikan ordusunun yapay zekayı nasıl kullanması gerektiği konusundaki yoğunlaşan tartışmayı vurgulayan bir oturumdan ibarettir. Bu toplantı, Savunma Bakanlığı'nın AI'ı askeri uygulamalar arasında geniş bir yelpazede öğrenme ve istihbarat analizinden lojistiğe ve otonom silah sistemlerine kadar dağıtma çabalarını hızlandırırken gerçekleşmektedir.

Claude model ailesinin arkasındaki AI güvenliği şirketi Anthropic, kendisini AI endüstrisinde dikkatli bir ses olarak konumlandırmış, güvenlik araştırmasının önemi ve sorumlu dağıtımı vurgulamıştır. Şirketin Pentagon ile doğrudan temas kurma istekliliği, hükümet ortaklıklarına yönelik yaklaşımında kayda değer bir evrimi temsil etmektedir ve Hegseth ile yapılacak toplantı, yıllarca boyunca bu temas için şartları şekillendirerek ihtiyaç duyulan sonuçları ortaya çıkarabilir.

Pentagon'un AI Hedefleri

Savunma Bakanlığı, birkaç yıldan beri yapay zekaya yoğun yatırım yapmaktadır, ancak mevcut yönetim altında hız dramatik olarak hızlanmıştır. Pentagon'un Baş Dijital ve Yapay Zeka Ofisi (CDAO), tüm askeri hizmetler arasında AI benimsenmesini ölçeklendirmek üzere görevlendirilmiş ve departman, AI ile ilgili iş için teknoloji şirketlerine milyarlarca dolar sözleşme vermiştir.

Odak alanları, askeri ekipmanlar için tahmine dayalı bakım, uydu görüntüleri ve sinyal verilerinin otomasyonlu istihbarat analizi, saha komutanları için karar destek araçları ve en tartışmalı olanı — insan gözetimi farklı derecelerde hedefleri tanıyabilecek ve saldırabilen otonom silah sistemlerini içermektedir.

Hegseth, Amerika Birleşik Devletleri'nin askeri uygulamalarda AI'ı dağıtmak için daha hızlı hareket etmesi gerektiğine veya Çin'in arkasında kalmakta olduğunu söylemiştir; Çin, askeri modernizasyon stratejisinin merkez pilini AI özellikli savaşa yapmıştır. Onun duruşu, savunma kuruluşu içindeki AI güvenliği hakkında aşırı temkinliliğin tehlikeli bir yetenek açığını yaratabileceği konusunda daha geniş bir endişeyi yansıtmaktadır.

Anthropic'in Dengeli İşi

Anthropic için, Hegseth ile yapılacak toplantı, hassas bir denge işlemini temsil etmektedir. Şirket, 2021'de kısmen AI geliştirmesinin hızı ve güvenliği konusunda endişelerden dolayı ayrılan eski OpenAI araştırmacıları tarafından kurulmuştur. Kurumsal kimliği sorumlu AI konseptinin etrafına inşa edilmiştir ve AI hizalama, güvenlik karşılaştırmaları ve uygun güvenlikler olmaksızın güçlü AI sistemlerini dağıtmanın risklerine ilişkin kapsamlı araştırma yayımlamıştır.

Aynı zamanda, Anthropic 10 milyar doların üzerinde finansman toplamış ve gelir elde etme baskısı ile karşı karşıya olan ticari bir şirkettir. Hükümet sözleşmeleri önemli bir iş fırsatını temsil etmektedir ve savunma ve istihbarat ajansları, gelişmiş AI yetenekleri için en istekli ve iyi fonlanan müşterilerdir.

Şirket zaten hükümet işine yönelik adımlar atmıştır. Anthropic'in modelleri Amazon Web Services'in GovCloud aracılığıyla mevcuttur ve şirket, çeşitli devlet kurumları ile AI güvenliği ve değerlendirmesi hakkında temas halinde olmuştur. Ancak, açık askeri ortaklıklar konusunda bazı rakipleri kadar cesur olmamıştır ve kabul edilebilir kullanım politikası teknolojisinin belirli uygulamalarına kısıtlamalar getirmektedir.

Daha Geniş Endüstri Bölünmesi

Hegseth-Amodei toplantısı, teknoloji endüstrisinde askeri AI hakkında daha geniş bir bölünmeyi yansıtmaktadır. Palantir, Anduril ve Shield AI gibi bazı şirketler, işletmelerini savunma uygulamalarının etrafına inşa etmiş ve Pentagon'u birincil müşteri olarak kabul etmiştir. Diğerleri, başlıca AI laboratuvarları dahil olmak üzere, ticari fırsatları askeri uygulamalarla ilişkilendirme konusunda halk ilişkileri riskleri karşısında daha belirsiz olmuştur.

Google, 2018'de çalışan protestolarından sonra drone görüntü analizi için AI'ı uygulamak üzere tasarlanan Pentagon programı olan Project Maven'dan ünlü bir şekilde çekildi. Şirket daha sonra geri döndü ve o zamandan beri önemli savunma sözleşmelerine galip geldi. Microsoft, askeri ile tutarlı bir duruş korumuş, demokratik ulusların mevcut en iyi teknolojiye erişimi olması gerektiğini öne sürmüştür.

  • Pentagon, istihbarat, lojistik ve otonom silahlar arasında AI benimsenmesini hızlandırmaktadır
  • Savunma yetkilileri, ABD'nin Çin'in askeri AI programlarının hızına yetişmek için daha hızlı hareket etmesi gerektiğini savunmaktadırlar
  • AI güvenliği savunucuları, yeterli güvenlikler olmaksızın yüksek riskli askeri ortamlarda güçlü sistemler dağıtmaktan endişe duymaktadırlar
  • Birkaç büyük AI şirketi, daha önceki tereddütlere rağmen hükümet ve savunma işini genişletmiştir

İssatta Neler Var

Askeri AI hakkındaki tartışma, yalnızca akademik değildir. Gelecek aylarda ve yıllarda AI sistemlerinin askeri operasyonlara nasıl entegre edileceği konusunda alınan kararlar, savaşın doğası, tırmanma riski ve çatışma bölgelerinde sivil halkın korunması için derin sonuçlar doğurabilir.

Hızlı dağıtım savunucuları, AI'ın askeri operasyonları daha kesin hale getirebileceğini ve hedefleme doğruluğunu ve durumsal farkındalığı iyileştirerek sivil kayıpları azaltabileceğini savunmaktadırlar. Eleştirmenler, teknolojinin henüz yaşam-ölüm kararları için yeterince güvenilir olmadığını ve AI silah sistemlerini dağıtmanın askeri eylemi daha az maliyetli hale getirerek güç kullanımının eşiğini düşürebileceğini karşı çıkmaktadırlar.

Hegseth ve Amodei arasındaki toplantı, bu gerilimi çözmesi pek olası değildir, ancak Anthropic'in savunma kuruluşu ile olan temas için parametreleri tanımlamaya yardımcı olabilir. AI endüstrisinin en güvenlik bilinçli şirketlerinden birinin, askeri işbirliği için çalışabilir bir çerçeve bulabilirse, diğerlerinin izlemesi için bir şablon belirleyebilir. Görüşmeler güvenlik standartları konusunda uzlaştırılamaz farklılıklar üzerine çöküsse, her iki tarafın da işbirliğinin gerekli olduğunu söylediği bir zamanda teknoloji endüstrisi ile Pentagon arasındaki bölünmeyi derinleştirebilir.

Tanımlayıcı Bir An

AI endüstrisi genelinde, yapay zekasının askeri sistemlere entegrasyonu, tanımlayıcı bir anı temsil etmektedir. Akademik araştırma laboratuvarlarında ve tüketici sohbet robotları aracılığıyla ticarileştirilen teknoloji, şimdi hayal edilebilecek en önemli görevlerden birkaçını gerçekleştirmek istenmektedir. Bu geçişin nasıl yönetileceği ve tarafından kim yönetileceği — sadece savaşın geleceğini değil, aynı zamanda AI endüstrisinin geleceğini de şekillendireceğini.

Bu makale C4ISRNET tarafından yapılan raporlamaya dayanmaktadır. Orijinal makaleyi okuyun.