Tencent baş yapay zeka bilim insanı Yao Shunyu, yapay zeka modellerinin siber güvenlikte olduğu gibi çok yakında biyoloji alanında da zarar verme kapasitesine ulaşacağını duyurdu. Hong Kong’daki bir bilim etkinliğinde konuşan 29 yaşındaki yönetici, özellikle herkesin indirip değiştirebileceği açık kaynaklı modellerin güvenlik açıklarını sıkı bir şekilde denetlemesi gerektiğini vurguladı.
Hızlı Özet
- Yao Shunyu, yapay zekanın biyolojik tehdit eşiğine yaklaştığını belirtti.
- Hy4 modeli, siber saldırı verileri hariç tutularak eğitildi.
- Biyolojik risklerin siber risklere kıyasla daha zor yönetilebileceği ifade edildi.
- Yao, açık ve kapalı model dengesinin savunuculara yardımcı olabileceğini savundu.
Tencent Hy4 modeli nasıl eğitildi?
Tencent, 4 Kasım tarihinde yeni amiral gemisi modeli Hy4’ü kullanıcılarla buluşturdu. Şirket, bu modelin eğitim sürecinde yazılım açıklarının nasıl kötüye kullanılacağına dair materyallere yer vermediğini açıkladı. Bunun yerine model, tamamen savunmacı güvenlik verileriyle eğitildi. Açıklanan detaylara göre Hy4, temel biyoloji bilgisine sahip olsa da deney tasarlama konusunda lider modellerin gerisinde kalıyor.
Şirketin paylaştığı bilgilere göre Hy4, yapay zeka değerlendirme firması Artificial Analysis kıyaslamalarında en iyi ikinci Çinli model olarak konumlanıyor. Tencent, modelin eğitim verilerini oluştururken ofansif siber güvenlik materyallerini bilinçli olarak dışarıda bıraktı. Bunun yerine sisteme defensive security verileri yüklendi. Tencent, modelin ağırlıklarını ve güvenlik testi raporunu önümüzdeki günlerde paylaşmayı planlıyor.
Yapay zeka güvenliği sektörde tartışılmaya devam ediyor.
Yao Shunyu, Anthropic gibi ABD merkezli yapay zeka şirketlerinin en güçlü modelleri kapalı kaynak tutma kararını güçlü bir gerekçeye dayandırıyor. Ancak tamamen kapalı sistemlerin savunucular için de dezavantaj yarattığını belirterek açık ve kapalı modellerin dengeli bir karışımının en iyi sonucu vereceğini savundu. Açık modellerin savunmacılara da erişim sağladığı biliniyor.
Açık kaynaklı yapay zeka modelleri ne tür riskler barındırıyor?
Yapay zeka modellerinin siber yeteneklerinin tehlikeli bir sınıra ulaştığını belirten Yao, biyolojik risklerin siber tehditlerden çok daha karmaşık olabileceği konusunda uyarıyor. Açık kaynak ekosisteminin kötü niyetli aktörler tarafından manipüle edilmesi, tehlikeli maddelerin üretimi veya biyolojik ajanların tasarımı konusunda denetlenmesi zor boşluklar yaratabilir. Şirketlerin bu süreçte şeffaf güvenlik raporları sunması savunma mekanizmaları açısından önem taşıyor.
Yao, daha önce OpenAI bünyesinde bir yıl çalıştıktan sonra geçen yıl Tencent’e katıldı. Açık modellerin herkes tarafından indirilebilir ve üzerinde değişiklik yapılabilir olması, güvenlik denetimlerini daha da zorlaştırıyor. Şirketlerin modelleri piyasaya sürmeden önce hangi veri setleriyle eğittiklerini açıklaması, endüstri standartlarının belirlenmesinde rol oynuyor.
Kaynak: TNW (The Next Web)
