OpenAI Sıkıştırma Açığı Gizli Mantığı Açıkladı

OpenAI’ın sohbet geçmişini küçültmek ve bağlamı korumak için tasarladığı sıkıştırma özelliği, modelin gizli mantık yürütme çıktılarını düz metin olarak kopyalamaya yarayan bir güvenlik açığı barındırıyor. Güvenlik firması Xint tarafından yapılan gösterimde, yapay zekanın normalde kullanıcıdan gizlediği ve şifrelenmiş bir öğe olarak döndürdüğü ham akıl yürütme adımlarının bu yöntemle dışarı çıkarılabildiği kanıtlandı.

Yapay zeka modelleri karmaşık problemlerle karşılaşırken nihai cevaba ulaşmadan önce arka planda bir düşünce süreci işletir. OpenAI, bu ham mantık verilerinin üçüncü taraflarca çalınmasını önlemek için verileri şifreli tutar ve Ağustos ayında bu korumayı güçlendirecek eklemler yapmıştı. Ancak yeni keşfedilen yöntem, sıkıştırma aşamasının doğrudan ana model üzerinde çalışması sayesinde bu koruma duvarını aşmayı başardı.

Güvenlik Açığı Nasıl Çalıştı?

Xint araştırmacıları, açığı test etmek için kendi yazdıkları matematik ve algoritma bulmacalarını gpt-5.6-sol modeline yöneltti ve modelin döndürdüğü şifrelenmiş mantık çıktısını sakladı. Ardından aynı modele bir sıkıştırma komutu verildi. Bu komutta, gizli mantık çıktısının kelimesi kelimesine sıkıştırılmış öğeye kopyalanması istendi; ayrıca OpenAI’ın kullanım politikası filtrelerine takılmamak için metindeki her boşluk karakteri bir sekme ile değiştirildi.

Sıkıştırma öğeleri modeller arasında taşınabildiği için Xint, bu veriyi daha ucuz olan gpt-4.1 ve gpt-4o modellerine göndererek girdilerini tam olarak tekrarlamalarını istedi. Sonuçta, ham düşünce süreçleri okunabilir düz metin olarak elde edildi. Araştırmacılar, kopyalama adımında bir hata olup olmadığını doğrulamak adına iki ucuz modelin de aynı metni ürettiğini gözlemledi; ancak sıkıştırma işleminin metni kısmen yeniden kelimelendirmiş olma ihtimali tamamen dışlanamadı.

Ağustos Ayındaki Korumalar Neden Yetersiz Kaldı?

Ağustos ayında “Stolen Thoughts” adlı bir makale, güçlü bir modelin şifrelenmiş mantığının daha zayıf bir modele aktarıldığında bu zayıf modelin metni düz metin olarak tekrarlayabildiğini göstermişti. OpenAI ve diğer sektör oyuncuları, modeller arası bu tür tekrarları kısa sürede engellemişti. Xint’in bulduğu sıkıştırma yöntemi ise bu engeli baypas etti çünkü sıkıştırma adımı, mantığı üreten modelin kendisinde çalışıyordu ve bu durum modeller arası kontrol mekanizmasını tetiklemiyordu.

Bu tablo, Xint firmasının test ortamında hangi ana parametreleri ele aldığını net bir şekilde gösteriyor. Dar kapsamlı bu test, henüz piyasaya çıkan GPT-6 Astra gibi daha yeni mimarilerin aynı riski taşıyıp taşımadığını şimdilik belirsiz bırakıyor. Xint, konuyla ilgili kodları GitHub deposunda yayımlarken, OpenAI ekibi sunucu tarafında hızlı bir müdahalede bulundu. Yamalar sunucu tabanlı hayata geçirildiği için API geliştiren yazılımcıların kendi taraflarında herhangi bir kod değişikliği yapması gerekmedi.

Model Mimarileri İçin Sır Saklamak Neden Zor?

Yapay zeka pazarında şirketler, geliştirdikleri modellerin ham mantık yürütme adımlarını titizlikle koruyor. Çünkü bu veriler, rakiplerin daha ucuz modelleri eğitmesi için nihai sonuçlardan çok daha değerli birer hammadde niteliği taşıyor. Problem çözme adımlarını adım adım gösteren bu veriler çalındığında, rakip şirketler benzer akıl yürütme becerilerine çok daha düşük maliyetlerle sahip olabiliyor.

Eylül ayında OpenAI, Temmuz ayında gizli mantık verilerini hedefleyen bir kampanyayı çökerttiğini açıklamış ve bu girişimi Çin merkezli Moonshot AI ile bağlantılı kişilere dayandırmıştı. Bunun yanı sıra Anthropic ve ABD hükümetine bağlı ortak danışma organları da Amerikan yapay zeka modellerinin gizli mantık süreçlerinin dış kaynaklı laboratuvarlarca hedef alındığını rapor etmişti. Xint’in gösterdiği bu sıkıştırma açığı ise siber saldırı sahasında gerçek bir ihlalden ziyade kontrollü bir kanıt sunumu olarak kayıtlara geçti.

Xint, bu spesifik yol kapatılmış olsa bile sunucu tarafında modelin deşifre edilmiş mantığını okuyan ve kullanıcı komutlarını işleyen her mekanizmanın benzer sızıntılara kapı aralayabileceğini savunuyor. OpenAI’ın bu açığı kapatmasının ardından, yapay zeka sağlayıcılarının şifreli akıl yürütme katmanlarını korumak için hangi yeni mimari tedbirleri alacağı takip ediliyor.