Hızlı Özet
- Anthropic, California Valisi Gavin Newsom’a gönderdiği mektupta riskli yapay zeka modelleri için mahkeme engeli getirilmesini önerdi.
- Öneri kapsamında, bağımsız denetçilerin risk raporlarını başsavcılığa sunması ve mahkeme kararıyla durdurma mekanizması kurulması isteniyor.
- Şirket, tek başına kapatma tuşlarının yetersiz kalacağını savunarak daha dar kapsamlı adımları destekliyor.
- Rakip OpenAI ise Newsom’a sunduğu önerilerde mahkeme kararı yetkisine karşı çıkarken, denetçi ve kapatma kontrollerini destekliyor.
Yapay zeka güvenliği konusundaki denetim tartışmaları derinleşirken, sektörün önde gelen oyuncularından Anthropic, California Valisi Gavin Newsom’a ilettiği resmi mektupta mahkemelerin riskli modelleri durdurma yetkisine sahip olması gerektiğini savundu. 15 Ekim tarihli bu çıkış, Eylül ayında eyalet sınırları içindeki yapay zeka güvenlik yasalarını güçlendirmek amacıyla imzalanan kararnamenin ardından geldi.
California’daki Güvenlik Kararnamesi Neyi Hedefliyor?
Vali Gavin Newsom’un Eylül ayında imzaladığı idari emir, eyaletin yapay zeka güvenlik yasalarının sertleştirilmesi için iki ay içinde öneriler sunacak bir çalışma grubu kurulmasını öngörüyordu. Bu süreçte geliştiricilerin modellerini acil durumlarda kapatma zorunluluğu bulunup bulunmadığı en kritik başlıklardan biri olarak masaya yatırıldı. Newsom’un ofisi konuya ilişkin henüz bir yanıt vermezken, Anthropic sözcüsü mektubun içeriğini doğruladı.
Politico tarafından ilk kez kamuoyuna duyurulan mektupta Anthropic, eyalet incelemeleri sonucunda ciddi tehlike arz ettiği belirlenen modeller için hükümetin mahkemeye başvurabilmesi gerektiğini vurguladı. Bu mekanizma hayata geçerse, bağımsız değerlendiriciler riskleri California Başsavcılığına bildirecek ve yakın vadede felaket senaryoları barındıran sistemler için hukuki durdurma talep edilebilecek. Verilen bir mahkeme kararı, ilgili modelin yayınlanmasını, şirket içinde kullanılmasını veya geliştirme çalışmalarını tamamen durdurabilecek.
Şirket İçi Denetimler ve Risk Raporları Nasıl İşleyecek?
Anthropic’in sunduğu öneri seti yalnızca mahkeme süreçleriyle sınırlı kalmıyor; aynı zamanda büyük yapay zeka geliştiricilerinin iç yapısında dış güvenlik denetçilerinin konumlandırılmasını da kapsıyor. Şirketler bu denetçilerin maaşını doğrudan ödemek yerine, devlet tarafından işletilen ortak bir fona katkı sağlayacak. Böylece denetim mekanizmasının bağımsızlığı güvence altına alınırken, büyük ölçekli geliştiricilerin en az altı ayda bir kapsamlı risk raporları yayımlaması zorunlu kılınacak.
Acil kapatma düğmeleri konusunda Anthropic, her lider yapay zeka şirketinin modellerini hızla devre dışı bırakabilmesi gerektiğini kabul ediyor. Ancak yalnızca bu özelliğe odaklanan bir yasanın yanlış bir güvenlik hissi yaratabileceği uyarısında bulunuyor. Şirket bunun yerine, tüm sistemi kapatmak yerine tek bir yapay zeka ajanını susturmak veya belirli bir müşterinin erişimini kesmek gibi daha nokta atışı adımların atılmasını savunuyor.
Rakiplerin Pozisyonları ve Washington’daki Yansımalar Neler?
Sektör içindeki bu regülasyon tartışmalarında OpenAI’ın izlediği yol haritası Anthropic’ten farklılık gösteriyor. 20 Ekim’de Newsom’a kendi önerilerini ileten OpenAI, şirket içi denetçileri ve kapatma kontrollerini desteklerken mahkemeler aracılığıyla modellerin engellenmesi fikrine mesafeli yaklaşıyor.
California ile sınırlı kalmayan bu regülasyon savaşı Washington DC’ye de taşınmış durumda. Anthropic’in dolaşıma soktuğu federal yasa tasarısı taslağı, Ticaret Bakanlığı’na belirli durumlarda federal mahkemelerden bir modelin piyasaya çıkışını engellemesini isteme yetkisi tanıyor. Benzer şekilde Temsilciler Meclisi üyeleri de yetkililerin tehlikeli modelleri kapatma emri vermesini sağlayacak bir yasa teklif etmiş durumda.
Valilik ve federal düzeyde atılacak adımlar, yapay zeka geliştiricilerinin hukuki denetime nasıl adapte olacağını belirleyecek.
Kaynak: TNW (The Next Web)
