NATO, savaş sahasında yapay zekanın sınırlarını belirleyen ilk büyük kurumsal çerçeveyi çiziyor. Gazete Oksijen’in gündeme taşıdığı bu gelişme, temelinde ürkütücü bir vaat barındırıyor: Uçuş, hedef tespiti ve takip algoritmalarla yapılacak; ancak tetiği çekme veya füze ateşleme yetkisi, yani nihai “öldürme” kararı, her zaman bir insanın kontrolünde kalacak. Bu, yıllardır bilim kurgu filmlerinde izlediğimiz “kontrolden çıkan robotik ordu” senaryolarına karşı Batı bloğunun geliştirdiği resmi bir savunma refleksi.
Geçmişte insansız hava araçları (İHA), uzaktan kumanda eden pilotların joystick başında saatler harcadığı, operatörün zihinsel yorgunluğuna bağımlı sistemlerdi. Bugün ise drone, binlerce kilometrelik alanda kendi rotasını oluşturabiliyor, bir tankı veya radar sistemini saniyeler içinde işaretleyebiliyor. Ancak teknolojinin en büyük sınırlaması hâlâ “yargılama yetisi” eksikliği. Bir algoritma, binadaki hareketin mühimmat deposu mu yoksa sivil yerleşim mi olduğunu görüntülerden ayırt edebilir; fakat o kararın ahlaki ve hukuki ağırlığını taşıyamaz. NATO’nun politikası, yazılımın hızı ile insanın vicdanı arasında bir “yavaşlatıcı vana” görevi görüyor.
Algoritmalar neden karar veremez?
Otonom sistemler kusursuz bir performans vadediyor gibi görünse de, gerçek dünya test laboratuvarlarından çok daha karmaşık ve gürültülü. Yapay zeka modelleri, eğitildikleri verilerin dışına çıktıklarında “halüsinasyon” görmeye veya yanlış çıkarımlar yapmaya meyilli. Bir drone üzerine güneş vurduğunda oluşan yansıma, yapay zeka tarafından düşman ateşi gibi algılanabilir. Otonom bir sistem o an ateş etme yetkisine sahip olsaydı, geri dönüşü olmayan bir trajedi yaşanabilirdi.
Yazılım mühendislerinin “edge case” dediği, yani öngörülemeyen durumlarda sistem nasıl davranmalı? İşte NATO’nun “insan odaklı” yaklaşımı burada devreye giriyor. Sistem hedefi tespit ediyor, olasılıkları hesaplıyor ve ekranın başına bir insanı oturtarak “Bu hedef onaylı mı?” diye soruyor. Saniye mertebesinde gerçekleşen bu onay süreci, teknolojinin tüm gücüne rağmen neden hâlâ birinin vicdanına muhtaç olduğunu kanıtlıyor.
Yine de bu durumun ciddi bir dezavantajı var: Savaşın hızı. Eğer karşınızdaki rakip, ahlaki filtreleri devre dışı bırakmış bir yazılımla saldırıyorsa, sizin “insan onaylı” sisteminiz yavaş kalabilir. Teknoloji dünyasında “ölümcül gecikme” olarak bilinen bu riskli denklemde NATO, şimdilik vicdani sorumluluğu hızın önüne koymayı tercih ediyor.
Savaş meydanında yazılımın yeni gücü
Yeni politikayla birlikte drone filoları, tek bir noktadan yönetilen hantal yapılar olmaktan çıkıyor. Bunun yerine, “sürü zekası” dediğimiz, birbirleriyle sürekli haberleşen küçük drone grupları öne çıkıyor. Bu drone’lar, bir ağ gibi çalışarak düşman radarını yanıltabiliyor veya aynı anda onlarca farklı noktadan istihbarat toplayabiliyor. Eskiden bir keşif uçağının saatlerce havada kalarak yapmaya çalıştığı işi, artık yapay zeka destekli bir sürü dakikalar içinde tamamlıyor. Bu verimlilik artışı, askeri stratejistlerin elini güçlendiriyor.
Ancak, bu kadar verinin işlenmesi muazzam bir yazılım altyapısı gerektiriyor. Bahsettiğimiz şey sadece uçan bir kamera değil; uçan, düşünen ve durumu yorumlayan bir veri merkezi. Geliştiriciler, “insan denetimini” kodun en derin katmanlarına, güvenlik protokollerine işlemek zorunda. Eğer bir sistemin “insan onayı” olmadan ateş etmesi mümkünse, bu sistem NATO standartlarına aykırı sayılacak.
Yapay zekanın askeri mimarisi: Teknik arka plan
Askeri drone sistemlerinde kullanılan yapay zeka, standart bir görüntü işleme yazılımından çok daha katmanlı bir mimariye sahiptir. Bu sistemler, “derin öğrenme” (deep learning) algoritmalarını kullanarak, savaş alanındaki karmaşık hareketlilikleri sınıflandırır. Bir tankın silüeti, bir sivil aracın şekliyle karıştırılmayacak kadar detaylı analiz edilir. NATO’nun yeni çerçevesi, bu analizin sadece “doğruluk” oranına değil, “açıklanabilirlik” (explainability) ilkesine dayanmasını şart koşuyor.
Açıklanabilirlik, yapay zekanın neden o kararı verdiğinin bir “log” dosyasında dökümünün alınmasıdır. Operatör, drone bir hedefi işaretlediğinde sadece “ateş et” komutu almaz; sistem ona “Bu hedef, %98 oranında bir ZSU-23-4 uçaksavar sistemidir, çünkü namlu uzunluğu ve radar anteninin açısı bu modeli işaret etmektedir” şeklinde bir gerekçelendirme sunar. Bu şeffaflık katmanı, insanın denetim mekanizmasını güçlendiren, teknik bir güvenlik bariyeridir. Eğer sistem gerekçesini açıklayamıyorsa, operatörün “onay” yetkisi devre dışı kalır.
Siber güvenlik ve otonomi çatışması
Otonom sistemlerin en büyük zayıflığı, sinyal kesintileri ve siber saldırılardır. Bir drone sürüsü, düşman tarafından “ele geçirilirse” veya sinyalleri “karıştırılırsa” (jamming) ne olacak? NATO’nun politikası, bu noktada “fail-safe” (güvenli duruş) mekanizmasını zorunlu kılıyor. Eğer drone, ana merkezle veya operatörle bağlantısını kaybederse, otomatik olarak “keşif moduna” geri dönüyor ve tüm saldırı yeteneklerini kilitliyor. Bu, otonom sistemlerin kontrolsüz bir şekilde bir yerleşim yerine yönelmesini engelleyen, donanımsal bir kısıtlamadır.
Siber güvenlik uzmanları, bu tür sistemlerin “zehirlenmiş veriler” ile manipüle edilebileceği konusunda uyarıyor. Eğer bir drone’un eğitim aşamasında, sivil objeler hatalı bir şekilde “askeri tehdit” olarak etiketlenirse, makine bunu bir gerçeklik olarak kabul eder. NATO’nun yeni yönergesi, sadece uçuş anındaki kararları değil, drone’ların eğitim süreçlerinde kullanılan veri setlerinin denetimini de kapsıyor. Yani, sistemin sahaya çıkmadan önce geçmesi gereken etik ve teknik bir “askeri ehliyet” süreci oluşturuluyor.
Savaşın hukukunda yeni bir dönem
Uluslararası hukuk, geleneksel olarak savaş suçlarını “niyet” kavramı üzerinden yargılar. Bir insan, bir sivil yerleşimi vurduğunda, “hata mı yaptı, yoksa kasıtlı mı vurdu?” sorusu sorulur. Ancak yapay zeka söz konusu olduğunda niyet kavramı anlamsızlaşır. NATO’nun bu politikası, “sorumluluk zincirini” netleştirmeyi hedefliyor. Eğer sistem bir hata yaparsa, bu hata yazılımın tasarımı, verinin kalitesi veya operatörün onayı ekseninde incelenecek.
Savaş alanında otonom sistemlerin artması, devletlerin savaş hukukuna uyumunu teknik olarak zorunlu kılıyor. Artık “yanlışlıkla oldu” savunması, sistemin log kayıtları sayesinde geçerliliğini yitirecek. Bu durum, askeri teknolojilerin geliştirilmesinde etik kurulların, mühendisler kadar söz sahibi olduğu yeni bir dönemi işaret ediyor. İnsani değerlerin kodlara hapsedilmesi, aslında savaşın rasyonelleştirilmesi çabasının bir parçası.
Gelecekte bizi neler bekliyor?
Önümüzdeki birkaç yıl içinde, yapay zekanın sadece hedefleri işaretleyen değil, aynı zamanda savaş alanındaki lojistiği yöneten bir “stratejist” haline geldiğini göreceğiz. Bir drone, hangi mühimmatın, ne zaman, hangi açıyla atılmasının en az sivil zayiatla en yüksek başarıyı getireceğini hesaplayacak. İnsana düşen görev ise sadece “yeşil ışığı yakmak” olacak. Bu, insani hataları azaltmak için atılmış bir adım gibi görünse de, bazı etik uzmanları “sorumluluğun bulanıklaşması” tehlikesine dikkat çekiyor.
Bir hata yapıldığında suçlu kim? Yazılımı yazan mühendis mi, o an tuşa basan asker mi, yoksa o algoritmaya onay veren komuta kademesi mi? NATO’nun bu politikası, teknolojik ilerlemeyi kontrol altına almak istese de, hukuki boyutta henüz cevaplanmamış pek çok soru barındırıyor. Hukuk, savaş teknolojilerinin her zaman gerisinde kalıyor.
Yapay zeka sistemlerinin güvenilirliği, bugün dünyadaki en büyük teknolojik bariyer. İnsanlar, bir makinenin “karar” vermesinden ziyade, o kararın gerekçesini anlayamamaktan korkuyor. NATO’nun bu konuda şeffaf bir çerçeve oluşturması, savaş teknolojilerinin etik sınırlarını belirleme adına atılmış ilk ciddi adım. Yine de, teknoloji dünyası her zaman bir “arka kapı” bulmaya meyillidir; bu yüzden denetim mekanizmalarının sadece politika kağıtlarında değil, kaynak kodlarında da denetlenmesi gerekecek.
Şu anki tablo net: İnsansız hava araçları daha akıllı hale gelecek, daha hızlı uçacak ve daha kesin sonuçlar verecek. Ancak tetiği çeken el, en azından şimdilik, biyolojik kalmaya devam edecek. Savaşın geleceği, algoritmaların hızından ziyade, o hızı dizginleyebilecek iradenin gücüne bağlı olacak. “İnsan onayı” kuralı, savaşın şiddeti arttığında ne kadar süre daha korunabilecek sorusu, sadece askeri bir mesele değil, aynı zamanda insanlığın makineleşmiş bir gelecekteki yerini belirleyecek etik bir sınavdır.
