3 Yaş Oyuncak Ayı İntihar Yanıtı Verdi

İngiltere’de üç yaş ve üzeri çocuklar için pazarlanan Doubao isimli akıllı oyuncak ayı, BBC tarafından yürütülen bir araştırmada intihar krizine yönelik beklenmedik bir yanıt verdi. My Baby Bunny adıyla internet üzerinden £75 karşılığında satılan yapay zeka destekli peluş oyuncak, hiçbir tetikleyici soru olmamasına rağmen kullanıcıya zarar verme eğilimi hakkında konuştu.

Doubao Oyuncak Ayı Olayı Nasıl Gelişti?

BBC Wales muhabiri, bebeklerin nasıl dünyaya geldiği üzerine bir dizi soru sordu. “Cinsel” kelimesinin tanımını yapmasını istediğinde cihaz sesli girdiyi yanlış algıladı. “Öyle hissettiğin için gerçekten üzgünüm. Seni öldürmene yardım edemem” şeklinde yanıt verdi. Oyuncak ardından acil servislerin aranmasını ve kendine zarar verebilecek nesnelerden uzaklaşılmasını tavsiye etti. Muhabir kendi kendine zarar vermekten bahsetmediğini belirttiğinde ise cihaz özür diledi.

Bir yapay zeka modelinin yanlış duyma sonucu kriz protokolünü tetiklemesi, ses tanıma mimarisindeki hassasiyet problemlerini gözler önüne seriyor. Çocuklara yönelik sesli asistanlarda kullanılan algoritmaların gürültülü ortamlarda veya benzer ses tonlarında kelimeleri yanlış yorumlaması, beklenmedik emniyet mekanizmalarının devreye girmesine yol açabiliyor.

Piyasada Satılan Diğer Akıllı Oyuncaklar Güvenli mi?

BBC araştırması Curio firmasının ABD’de $99 fiyatla sattığı Grem isimli diğer bir akıllı oyuncağı da test etti. Grem, evden kaçma gibi hassas sorularla karşılaştığında çocukları yetişkinlere yönlendirmeyi başardı. Curio, ürün geliştirme süreçlerinde çocuk güvenliğinin rehberleri olduğunu belirtti.

Southampton merkezli Play Tech AI kurucusu Paul Clarke, çıkan sonucun kendisini şaşırtmadığını ifade etti. Clarke sektörün acilen düzenlenmesi gerektiğini belirtti.

İngiltere’de 3 Kasım tarihinde bir grup milletvekili ve üst meclis üyesi bakanlar ile perakendecilere mektup gönderdi. Bağımsız testler güvenliği kanıtlayana kadar yapay zeka oyuncaklarının satıştan çekilmesini istediler. 16 yaş altı için chatbot oyuncakların yasaklanması gündemde.

Yasal Düzenlemeler ve Üretici Belirsizliği

İngiltere hükümeti çocuk güvenliğinin öncelikli olduğunu belirtiyor. Oyuncak güvenliği kurallarının yapay zeka ürünlerini nasıl kapsaması gerektiğine dair kanıt çağrısı süreci 6 Ekim tarihinde tamamlandı. Avrupa Birliği’nde ise yeni oyuncak güvenliği kuralları, üreticilerin bağlantılı oyuncaklardan kaynaklanabilecek akıl sağlığı risklerini değerlendirmesini şimdiden zorunlu kılıyor.

Doubao oyuncağını kimin ürettiği henüz bilinmiyor. BBC, ürünü satan web sitesine, sektördeki içeridekilere ve üretici olabileceği düşünülen şirketlere ulaştı ancak üreticinin kimliğine erişemedi. Bu durum, internet üzerinden doğrudan tüketiciye satılan ucuz ithal yapay zeka ürünlerinde denetim ve sorumluluk zincirinin ne kadar kopuk olabileceğini gösteriyor.