Bu olay hızla unutulacak bir teknik hata gibi görünse de, aslında çok daha yaygın bir yanılgıyı gün yüzüne çıkardı: “hesabım herkese açık, demek ki fotoğraflarımı kullanabilirler” düşüncesi. Bu düşünce yanlış, ve bunun neden yanlış olduğunu anlamak, sadece Instagram için değil, önümüzdeki dönemde karşımıza çıkacak benzer araçlar için de önemli.
Meta’nın özelliği tam olarak ne yapıyordu?
Meta Superintelligence Labs’in geliştirdiği Muse Image modeli, salı günü büyük bir tanıtımla kullanıma açıldı. Model, yazılı komutlardan sıfırdan görsel üretebiliyordu; buraya kadar sorun yoktu, benzer araçlar zaten piyasada. Asıl tartışmayı yaratan özellik farklıydı: kullanıcılar, herhangi bir herkese açık Instagram hesabını “@” ile etiketleyerek, o hesabın profil fotoğraflarını yeni görsellerde referans olarak kullanabiliyordu.
Yani sen hiçbir şey yapmasan, hesabını hiç değiştirmesen bile, seni tanımayan biri, sadece herkese açık profilini bulup etiketleyerek senin yüzünle yeni içerikler üretebiliyordu. Bu özellik varsayılan olarak açık geliyordu; kapatmak isteyenlerin ayarların derinliklerine girip bunu manuel olarak kapatması gerekiyordu.
Tepkiler neden bu kadar hızlı büyüdü?
Creative Artists Agency gibi sanatçıları temsil eden kurumlar, rıza olmadan bir kişinin görüntüsünün kullanılmasının etik bir sorun olduğunu savundu. SAG-AFTRA sendikası ve Public Citizen gibi kuruluşlar da benzer endişelerini dile getirdi. Meta, ilk tepkiler karşısında 18 yaş altı kullanıcıların ve gizli hesapların sistem dışında tutulduğunu belirterek savunmaya geçti, ama bu açıklama yeterli olmadı; çünkü mesele yaş sınırı değil, rıza sınırıydı.
Cuma günü, yani özelliğin duyurulmasından sadece üç gün sonra, Meta geri adım attı. Şirket açıklamasında, insanlara kendi herkese açık içeriklerinin bu şekilde referans alınıp alınamayacağı konusunda kontrol hakkı vermek istediklerini, ancak gelen geri bildirimlerin bu beklentiyi karşılamadığını gösterdiğini belirtti.
“Herkese açık” ile “kullanıma açık” farklı şeyler
Buradaki asıl kavram kargaşasını çözmek gerekiyor. Bir Instagram hesabını herkese açık yapman, o hesaptaki fotoğrafları herkesin görebileceği anlamına gelir. Ama bu, o fotoğrafların bir yapay zeka modelinin eğitim verisi ya da üretim materyali olarak kullanılmasına izin verdiğin anlamına gelmez. Görünürlük ile kullanım izni, hukuki ve etik olarak birbirinden ayrı iki kavram.
Bu ayrım, fiziksel dünyadaki bir örnekle daha net anlaşılabilir: bir caddede yürürken herkes seni görebilir, bu görünür olduğun anlamına gelir. Ama biri bu görüntüyü alıp reklamında kullanamaz, çünkü görünür olmak, kullanılmayı otomatik olarak onaylamak değildir. Muse Image tartışmasının özü de tam olarak buydu.
Bu sadece Meta’ya özgü bir sorun değil
Yapay zeka görsel araçlarının çoğu, büyük miktarda görsel veriyle eğitiliyor ve bu verinin bir kısmı sosyal medyada paylaşılmış fotoğraflardan geliyor. Muse Image’ı diğerlerinden ayıran, bu süreci arka planda, görünmez bir eğitim adımı olarak değil, kullanıcının doğrudan tetikleyebileceği bir özellik haline getirmesiydi. Yani birinin yüzünü kullanarak yeni bir görsel üretmek, bir düğmeye basmak kadar kolaylaşmıştı.
Bu da meselenin neden bu kadar hızlı büyüdüğünü açıklıyor. Soyut bir “verilerimiz eğitimde kullanılıyor” endişesi ile “biri şu an benim yüzümle yeni bir görsel üretebiliyor” somut gerçeği, insanların zihninde çok farklı bir tehdit algısı yaratıyor.
Sen ne yapabilirsin?
Bu olay geride kalmış olsa da, benzer özellikler farklı platformlarda karşına çıkmaya devam edecek. Birkaç somut adım fark yaratabilir:
- Hesap ayarlarındaki “yapay zeka ile ilgili izinler” ya da “veri kullanımı” bölümlerini düzenli olarak kontrol etmek, yeni bir özellik sessizce açıldığında bunu fark etmeni sağlar.
- Profilini tamamen herkese açık tutmak yerine, takipçi onayı gerektiren bir yapı kullanmak, bu tür otomatik referans sistemlerinin çoğunu baştan devre dışı bırakır.
- Bir platform yeni bir yapay zeka özelliği duyurduğunda, özelliğin varsayılan olarak açık mı yoksa kapalı mı geldiğini öğrenmek işe yarar; varsayılan olarak açık gelen özellikler, kullanıcı sayısını hızlı büyütmek isteyen şirketlerin tercih ettiği bir yöntem.
Asıl mesele hız, rıza değil
Meta’nın bu özelliği bu kadar hızlı geri çekmesi aslında iyi bir haber gibi görünüyor, ama madalyonun öbür yüzüne de bakmak gerekiyor: özellik, milyonlarca kullanıcıya sunulduktan sonra geri çekildi, önce değil. Yani hasar, tepki oluşana kadar zaten gerçekleşmişti.
Bu da teknoloji şirketlerinin genel çalışma biçimine dair bir şey gösteriyor: yeni bir yapay zeka özelliğini önce büyük ölçekte yayınlayıp, tepkiye göre geri adım atmak, önce kullanıcıya soru sorup sonra yayınlamaktan çok daha yaygın bir tercih haline geldi. Bir dahaki sefer telefonunda yeni bir özellik bildirimi gördüğünde, belki de “bu özellik açık mı, ben mi açtım?” diye bir kere kontrol etmek işine yarayabilir.
