Otonom askeri sistemlerin savaş alanındaki kontrolsüz yayılımı, uluslararası güvenlik mekanizmalarını alarma geçirdi. Yapay zekâlı silahlarda insan denetiminin şart olduğu yönündeki çağrılar, artan diplomatik ve teknik raporlarla birlikte yeniden masaya yatırıldı.
Hızlı Özet
- Otonom mühimmat teknolojisindeki ilerleme, küresel ölçekte etik ve hukuki tartışmaları hızlandırdı.
- Raporlar, yapay zekâ kararlarıyla hedef seçen sistemlerde son kararın insanda kalmasını savunuyor.
- Mevcut uluslararası hukuk çerçevesinin bu tür makinelerin hata payını denetlemede yetersiz kalabileceği belirtiliyor.
Sistemler hedefleri nasıl seçiyor?
Yapay zekâ algoritmalarıyla donatılan askeri mühimmatlar, gelen verileri saniyeler içinde işleyerek insan müdahalesine gerek kalmadan hedef tespiti yapabiliyor. Geleneksel silahlardan farklı olarak bu yazılımlar, sensörlerden gelen görüntü ve sinyalleri kendi veri tabanlarıyla eşleştiriyor. Algoritmanın yanılma payı veya çevresel faktörlerden etkilenme ihtimali ise sahadaki sivil kayıp riskini doğrudan artırıyor.
Yazılım mimarisi ve karar mekanizmaları
Askeri yapay zekâ sistemleri, derin öğrenme modelleri ve sinir ağları üzerine kuruludur. Bu mimariler, milyonlarca saatlik tatbikat verisi ve simülasyonla eğitilir. Ancak pratik sahada karşılaşılan hava koşulları, kamufle edilmiş hedefler veya kasıtlı sinyal bozma (jamming) taktikleri, algoritmanın eğitim verisinde bulunmayan durumlarla karşılaşmasına yol açar. Bu tür uç senaryolarda sistem, mantıksal bir hata yaparak sivil unsurları askeri hedef olarak etiketleyebilir.
Kimler için ne anlama geliyor?
Bu uyarılar doğrudan savunma sanayii üreticilerini, uluslararası politika yapıcıları ve ordu komuta kademelerini ilgilendiriyor. Yazılım geliştiriciler için etik kodlama standartları zorunluluk haline gelirken, devletler arası anlaşmalarda öldürücü otonom silahlar için yeni kırmızı çizgilerin çizilmesi gündemde. Yazılımın kararlarını denetleyecek bir mekanizma kurulmaması, savaş suçları sorumluluğunun makinede mi yoksa komutanda mı kalacağı sorusunu yanıtsız bırakıyor.
Hangi riskler henüz netleşmedi?
Mevcut teknolojinin en büyük dezavantajı, yapay zekâ modellerinin karar verme süreçlerinin tamamen şeffaf olmaması. Mühendisler dahi karmaşık sinir ağlarının belirli bir hedefi neden seçtiğini her zaman tam olarak geri izleyemiyor. Sahadaki orduların bu sistemleri entegre ederken hangi güvenlik açıklarına karşı önlem alacağı veya uluslararası denetimlerin bu yazılımları nasıl güncelleyeceği konuları henüz netlik kazanmadı.
Hukuki sorumluluk ve uluslararası denetim boşluğu
Mevcut Cenevre Sözleşmeleri ve uluslararası insancıl hukuk kuralları, savaş ortamındaki orantılılık ve ayrım gözetme ilkelerini insan faillere göre tanımlar. Bir algoritma hata yapıp sivil bir yapıyı vurduğunda, uluslararası mahkemelerin kimi sorumlu tutacağı belirsizdir. Yazılımcı mı, komutan mı, yoksa silahı üreten şirket mi suçu üstlenecektir? Hukukçular, kod satırlarının mahkeme salonlarında yargılanamayacağına dikkat çekerek otonom silahlarda “human-in-the-loop” (çevrimdeki insan) prensibinin yasal bir zorunluluk haline getirilmesini talep ediyor.
Askeri operasyonlarda yapay zekâ kullanımının artması karşısında atılacak somut adım, bağlayıcı uluslararası sözleşmelerin hızla imzalanması ve sistemlerin yazılım mimarisine insan onay tuşu entegre edilmesinin zorunlu kılınması olarak görülüyor.
Kaynak: Google Haberler (Yapay Zeka)
