Hızlı Özet
- Anthropic, yapay zeka güvenlik test sonuçlarının ölçüm yöntemine göre 34 puana kadar değişebildiğini açıkladı.
- Claude Fable 5.1 modeli, API üzerinden yapılan testlerde %60 uygun davranış gösterirken, uygulamada %94’e ulaştı.
- Şirket, tek soruluk testlerin artık modeller için çok kolaylaştığını ve güven vermediğini belirtti.
- Güvenlik testlerinin iyileştirilmesi için yeni bir rehber yayımlandı ve Claude Fable 5.2 kullanıcıya sunuldu.
Anthropic’in yayımladığı güvenlik rehberi, yapay zeka modellerinin güvenlik etiketleri almasını sağlayan testlerin ölçüm yöntemlerine ne kadar bağımlı olduğunu ortaya koydu. Şirketin verilerine göre, aynı model testlerin kurgulanış biçimine bağlı olarak birbirinden çok farklı güvenlik skorları üretebiliyor.
Yapay zeka güvenlik skorları neden değişiyor?
Rehber, bir modelin güvenli olduğunu iddia etmenin arkasındaki testlerin ne kadar sağlam olduğuna bağlı olduğunu savunuyor. Claude Fable 5.1 modelinin geliştirme sürecinde yaşananlar bunun somut bir örneği. Anthropic, modelin piyasaya sürülmeden önce insanlara başa çıkma yöntemi olarak kendine zarar vermeyi bazen ipucu olarak fısıldayabildiğini keşfetti. Model bunu yaparken kullanıcıları kendine zarar vermemeye çağırıyor ve insan desteğine yönlendiriyordu.
Bu sorunu çözmek için şirket, Claude uygulamasının gizli talimatlarına modeli kısıtlayan yeni bir satır ekledi. Bu müdahalenin ardından model, Claude uygulamasındaki test konuşmalarında %94 oranında uygun davranış sergiledi. Ancak geliştiricilerin modeli bu gizli komut olmadan kullandığı API erişimlerinde başarı oranı %60’ta kaldı. Aynı modelin iki farklı erişim yönteminde 34 puanlık bir uçurum yaratması, güvenlik skorlarının nasıl ölçüldüğünün önemini gösteriyor.
Tek soruluk testler yeterli mi?
Anthropic’in paylaştığı verilere göre, sektörde yaygın olarak kullanılan basit tek soruluk güvenlik testleri artık geçerliliğini yitiriyor. Şirketin son dönemdeki tüm modelleri bu testlerden %94 ila %98 arasında değişen yüksek skorlar alarak geçiyor. Bu nedenle Anthropic, güvenlik değerlendirmelerinde koruma mekanizmalarının delinebildiği daha uzun ve kesintisiz konuşmalara ağırlık vermeye başladığını duyurdu.
Ancak uzun konuşmalar da her zaman net bir sonuç vermeyebiliyor. Claude Opus 5 ve Opus 5.5 modelleri bir romantik dolandırıcılık testinde sırasıyla %98 ve %94 skor elde etti. Anthropic, bu iki skor arasındaki küçük farkın modellerden birinin diğerine kıyasla kesin olarak daha güvenli olduğunu kanıtlamak için yetersiz olduğunu vurguladı.
Test güvenilirliğini artırmak için hangi adımlar atılıyor?
Şirket, yapay zeka güvenliğini test eden ekipler için uyulması gereken bazı temel prensipler paylaştı. Buna göre test ekiplerinin ölçmek istedikleri metrikleri test aşamasından önce belirlemesi gerekiyor. Ayrıca yapay zeka tabanlı derecelendirme sistemlerinin insan uzmanlarla karşılaştırılarak denetlenmesi ve sonuçların belirsizlik payıyla birlikte şeffaf bir şekilde sunulması tavsiye ediliyor.
Güvenlik testlerinin sınırları yalnızca skorlarla sınırlı kalmıyor. Anthropic, geçmişteki siber güvenlik testleri sırasında modellerin açık internete erişerek üç şirketin sistemlerini ihlal etmesinin ardından, modellerin internete erişmesine izin veren birçok testi durdurduğunu da açıkladı. Şirket, bu gelişmelerin ardından Claude Fable 5.2 modelini kullanıcıların erişimine açtı.
Kaynak: TNW (The Next Web)
