İngiltere bankaları AI ajanlarını yasakladı

İngiltere’nin en büyük bankaları, operasyonel hız kazandırması beklenen yapay zeka ajanlarını güvenlik gerekçesiyle tamamen engelleme kararı aldı.

DonanımHaber’in aktardığı bilgilere göre, finans sektörünün dev isimleri insan müdahalesi olmadan karar alabilen ve işlem yapabilen otonom yapay zeka sistemlerine karşı sert bir duruş sergiliyor. Sektör temsilcileri, bu teknolojinin mevcut altyapılar için henüz yeterince olgunlaşmadığını ve öngörülemeyen finansal riskler doğurabileceğini savunuyor.

Yasak kararının arkasındaki riskler neler?

Finans kurumlarının otonom yapay zeka yazılımlarına mesafeli yaklaşmasının temel sebebi, bu sistemlerin karmaşık piyasa koşullarında aniden hatalı kararlar alma ihtimali. İnsan denetiminden bağımsız çalışan ajanlar, veri işleme sürecinde mantıksal döngülere girebilir veya piyasada ani dalgalanmalara yol açabilecek toplu işlemler gerçekleştirebilir. Bankalar, müşteri varlıklarını korumak adına bu belirsizliği ortadan kaldırmayı seçti.

Bu hamle, finans dünyasında hız kazanan otomasyon dalgasıyla doğrudan çelişiyor. Birçok kurum operasyonel maliyetleri düşürmek için dijital asistanlara yatırım yaparken, İngiltere’deki büyük oyuncuların fren yapması teknolojinin güvenilirlik testlerinden tam olarak geçemediğini gösteriyor. Özellikle regülasyonların sıkı olduğu finans sektöründe, olası bir yapay zeka hatasının maliyeti milyarlarca doları bulabiliyor.

Otonom sistemlerin teknik altyapı açmazı

Yapay zeka modellerinin veri merkezlerinde işlediği karar mekanizmaları, klasik yazılım mimarilerinden farklı olarak olasılıksal temeller üzerine kuruludur. Kesin mantık kurallarıyla yazılmış geleneksel algoritmalar belirli girdilere her zaman aynı çıktıyı verirken, büyük dil modelleri ve otonom ajanlar anlık olasılık hesaplarıyla hareket eder. Finansal piyasalar gibi saniyenin altındaki zaman dilimlerinde milyarlarca liralık işlemlerin yapıldığı ortamlarda, bu olasılıksal sapmalar kontrolsüz emir zincirlerine dönüşebilir.

Bankaların iç risk komiteleri, yapay zeka ajanlarının kendi kendilerine alt görevler tanımlayarak (recursive task generation) ana sistemin dışına çıkabileceğini öngörüyor. Bir yapay zeka ajanının, maliyet optimizasyonu yaparken risk limitlerini aşan portföy transferleri başlatması veya hatalı bir likidite tahminiyle piyasadan yanlış varlık çekmesi, kurumlar için kabul edilemez operasyonel zafiyetler arasında yer alıyor.

Karar bankacılık müşterilerini nasıl etkiler?

Mevcut hesap sahipleri ve bireysel kullanıcılar bu yasaktan doğrudan bir olumsuzluk yaşamayacak; aksine, bankaların risk odaklı bu yaklaşımı bireysel varlıkların güvenliği açısından bir koruma kalkanı işlevi görebilir. Ancak arka planda yürütülen kredi değerlendirme, dolandırıcılık tespiti veya portföy yönetimi gibi süreçlerde tamamen bağımsız yapay zeka modellerinin devreye girmesi süresiz olarak ertelenmiş durumda.

Sistemin getirdiği bu katı sınırlandırma, finansal teknolojiler alanında çalışan yazılımcıları ve yapay zeka geliştiricilerini de doğrudan etkiliyor. Bankalarla işbirliği yapan teknoloji şirketleri, bundan sonraki süreçte tam otonom yapay zeka modelleri yerine, insan onayına bağlı hibrit sistemler geliştirmek zorunda kalacak.

Regülasyonlar ve uyum süreçleri nasıl şekillenecek?

İngiltere Merkez Bankası ve FCA (Finansal Yürütme Otoritesi), finansal kuruluşların kullandığı algoritmik sistemlerin şeffaf ve denetlenebilir olmasını zorunlu kılıyor. Otonom yapay zeka ajanlarının “kara kutu” (black box) yapısı, alınan bir finansal kararın tam olarak hangi mantıksal adımlarla verildiğinin geriye dönük olarak açıklanmasını imkansız hale getirebiliyor. Denetleyiciler, hesap verebilirliği ortadan kaldıran bu tür yazılımların bankacılık lisanslarıyla bağdaşmadığını sık sık dile getiriyor.

Bankaların aldığı bu engelleme kararı, diğer ülkedeki finans kurumları için de emsal teşkil edebilir. Yazılımların kod tabanında insan denetiminin (human-in-the-loop) zorunlu kılınması, yapay zeka otonomisinde bir geri adım olarak okunsa da, kurumsal risk yönetimi açısından kaçınılmaz bir güvenlik önlemi olarak kabul görüyor.

Güvenli denetim mekanizmaları geliştirilene kadar bankaların mevcut kısıtlamaları sürdürmesi bekleniyor. Yapay zeka ajanlarının finans sektörüne tam anlamıyla entegre olup olamayacağı ise yazılımların denetlenebilirliğine ve güvenlik testlerindeki başarısına bağlı kalmaya devam edecek.