Savunma Girişimi Genelinde AI Standardizasyonu

Pentagon, büyüyen yapay zeka sağlayıcıları listesini, yetkililerin "aynı temel" olarak tanımladığı şeyin etrafına hizalamak için koordineli çabalar göstermektedir ve ordudaki AI sistemlerinin nasıl geliştirileceği, test edileceği, konuşlandırılacağı ve yönetileceği için ortak standartlar oluşturmaktadır. Savunma Bakanlığı'nın araştırma başkanı tarafından ana hatlarıyla belirtilen bu girişim, düzinelerce şirketi, birden çok askeri hizmeti ve lojistik optimizasyonundan savaş alanı karar desteğine kadar geniş bir uygulama yelpazesini kapsayan genişleyen bir AI ekosistemini yönetmenin zorluk çalışmalarını yansıtmaktadır.

DOD son birkaç yıl içinde AI benimsenişini hızlandırdıkça, Lockheed Martin ve Raytheon gibi büyük savunma müteahhitlerinden Palantir ve Anduril gibi Silikon Vadisi firmalarına küçük uzmanlaşmış AI startuplarına kadar çeşitli teknoloji sağlayıcılarıyla sözleşme yapması yapılmıştır. Bu şirketlerin her biri kendi geliştirme uygulamaları, test metodolojileri ve güvenlik ile etik yaklaşımlarını getirmektedir. Sonuç olarak, ordudaki AI ortamı teknik olarak heterojen ve bazı durumlarda tutarlı bir şekilde yönetilmesi zor durumdadır.

Uygulamada "Aynı Temel" Ne Anlama Gelir

Standardizasyon çabaları AI geliştirme ve konuşlandırmanın birden fazla boyutunu kapsamaktadır.

  • Test ve Değerlendirme: DOD, tüm AI sağlayıcılarının sistemlerinin performansını, güvenilirliğini ve arıza modlarını test etmek için karşılaştırılabilir yöntemler kullanmasını istemektedir. Buna, standartlaştırılmış ölçüt görevleri, ortak değerlendirme metrikleri ve farklı sistemlerin eşit bazda karşılaştırılmasını sağlayan paylaşılan test altyapısı dahildir.
  • Güvenlik ve Sağlamlık: Askeri bağlamlarda konuşlandırılan AI sistemleri, düşmanca saldırılara karşı direnç, eğitim dağılımının dışında kalan girdiler için zarif performans düşüşü ve askeri operasyonları karakterize eden uç koşullar altında öngörülebilir davranış için minimum standartları karşılaması gerekir.
  • Veri Yönetimi: Girişim, eğitim verilerinin sağlayıcılar arasında nasıl elde edileceği, etiketleneceği, depolanacağı ve paylaşılacağı için standartları içermektedir. Veri kalitesi, AI sistem performansının kritik bir belirleyicisidir ve sağlayıcılar arasında tutarsız veri uygulamaları tutarsız sonuçlara yol açabilir.
  • Birlikte Çalışabilirlik: Askeri AI sistemleri giderek birbirleriyle ve mevcut komuta kontrol altyapısıyla iletişim kurmak zorundadır. Ortak arabirim standartları ve veri formatları, bu entegrasyonu etkinleştirmek için gereklidir.
  • Belgeler ve Denetlenebilirlik: Sağlayıcılardan, sistemlerinin nasıl eğitildiği, hangi verilerin kullanıldığı, hangi testlerin yapıldığı ve hangi sınırlamalar tanımlandığı hakkında ayrıntılı kayıtlar tutması beklenmektedir. Bu belgeleme, operasyonel güven ve yasal sorumluluk için çok önemlidir.

Etik Boyut

Pentagon'un AI standardizasyon çabasının en yakından izlenen yönlerinden biri, bölümün AI etik ilkeleriyle olan kesişimidir. DOD, 2020'de AI etik ilkelerini benimsedi ve beş taahhütü kurdu: AI sistemleri sorumlu, adil, izlenebilir, güvenilir ve yönetilebilir olmalıdır. Bu ilkeler, bazıları tarafından sorumlu askeri AI için anlamlı bir çerçeve olarak övülmüş ve diğerleri tarafından fiili geliştirme ve konuşlandırma kararlarını kısıtlamak için çok muğlak olarak eleştirilmiştir.

DOD araştırma başkanı, standardizasyon çabasının bu ilkeleri uygulamaya koyma amacında olduğunu vurgulamıştır, bunları değiştirmek için değil. Tüm sağlayıcılarının karşılaması gereken test, belgeler ve güvenlik için somut standartlar oluşturarak, bölüm etik taahhütlerine pratik güç vermeyi amaçlamaktadır. Fikir, "izlenebilirlik" gibi soyut ilkelerin, günlük kaydı, denetim ve AI sistem kararlarının açıklanması için spesifik gereksinimlere çevrildiğinde anlamlı hale geldiğidir.

Ordu, daha önemli sonuçlara sahip AI uygulamalarına doğru hareket ettikçe bu özellikle önemlidir. Tedarik zinciri lojistiğini optimize eden AI sistemleri, hedefleri tanımlamak veya güç kullanımını önermek için AI sistemlerinden farklı etik endişeler gündeme getirmektedir. Standardizasyon çabası, yönetişim çerçevesinin uygulamanın hisselerine uygun şekilde ölçeklendirilmesini sağlamayı amaçlamaktadır.

Standardizasyonun Zorlukları

Savunma girişimi genelinde ortak AI standartları oluşturmak birçok nedenle zorlu bir zorluktur. Teknoloji kendisi hızla gelişmektedir ve bugün uygun olan standartlar birkaç yıl içinde eski olabilir. Ordu içindeki AI uygulamalarının çeşitliliği, tek boyut yaklaşımının muhtemelen işe yaramayacağı anlamına gelir; istihbaarat raporlarını özetleyen doğal dil işleme sistemi için standartlar, otonom araçları yönlendiren bilgisayarla görme sistemi standartlarından zorunlu olarak farklıdır.

Standardizasyon ve inovasyon arasında da gerginlik vardır. Savunma AI topluluğu, farklı şirketlerin farklı yaklaşımlar getirdiği ve bu çeşitliliğin inovasyonu yürütüğü için sağlayıcıların çeşitli bir ekosistemini kasıtlı olarak geliştirmiştir. Aşırı katı standartlar, atılım yeteneklerini üreten deneyleri boğabilirken, aşırı gevşek standartlar, askeri bağlamlarda AI konuşlandırmanın gerçek risklerini ele almayabilir.

Bu gerginliğin üstesinden gelmek, DOD'un güvenlik ve sorumluluk sağlamak için yeterince katı, ancak AI geliştirmenin hızlı hızına uyum sağlamak için yeterince esnek olan bir standartlar çerçevesi benimsemesini gerektirir. Yetkililer, tüm AI sistemlerine uygulanan temel gereksinimler ve uygulama duyarlılığı ve sonucu ile ölçeklenen ek gereksinimlerle katmanlı bir yaklaşım izlediklerini göstermektedir.

Endüstri Tepkisi

Savunma AI endüstrisinin standardizasyon çabasına tepkisi genel olarak olumlu, ancak ön yargısız değildir. Kapsamlı düzenleyici gereksinimlere alışkın büyük savunma müteahhitler, açık standartlar belirsizliği azalttığı ve uyumlu olmak için kaynaklara sahip şirketler için rekabet avantajı sağladığı için açık standartları genellikle bağlamaktadır. Ancak daha küçük startuplar, zahmetli uyum gereksinimleri daha küçük firmaları orantısız şekilde etkileyebileceği ve inovasyonun hızını yavaşlatabileceği konusunda endişe duymuşlardır.

DOD, standartlar çerçevesinin geliştirilmesinde endüstri girdisi aradığını göstermiş, tek taraflı yukarıdan aşağıya standartların işbirliğiyle geliştirilen standartlardan daha az etkili olması olasılığının olduğunu kabul etmiştir. Önerilen test metodolojileri, belge gereksinimleri ve güvenlik kıyaslamalarına ilişkin geri bildirim sağlamak için birden fazla endüstri çalışma grubu oluşturulmuştur.

Bu standardizasyon çabasının sonucu, ordu çerçevesinin ötesinde çıkarımlar taşıyacaktır. Amerika Birleşik Devletleri'nin en büyük tek AI teknoloji tüketicisi olarak, DOD'un standartlar kararları, AI şirketlerinin ürünlerini nasıl geliştirdiğini ve daha geniş teknoloji endüstrisinin AI güvenliğine ve yönetişimine nasıl yaklaştığını etkileyecektir. Doğru yapmak sadece ulusal güvenlik için değil, AI gelişiminin bütün yörüngesi için de önemlidir.

Bu makale Defense One'ın raporlamasına dayanmaktadır. Orijinal makaleyi okuyun.