ABD’deki yapay zekâ kullanıcılarının üçte biri, günlük olarak etkileşim kurdukları sohbet botlarına hakaret ediyor ve kaba dil kullanıyor. ÇözümPark’ın aktardığı bilgilere göre, yapay zekâ asistanlarıyla kurulan dijital iletişimde nezaket sınırları hızla zorlanıyor.
Hızlı Özet
- ABD’li yapay zekâ kullanıcılarının yüzde otuzundan fazlası sohbet botlarına hakaret ediyor.
- Dijital asistanlara yöneltilen kaba dil, insan-makine etkileşiminde yeni bir psikolojik eşiğe işaret ediyor.
- Rakamlar, kullanıcıların yapay zekâyı araçtan ziyade bir muhatap veya hedef olarak gördüğünü gösteriyor.
Sohbet botlarına neden kaba davranılıyor?
Kullanıcıların önemli bir kısmı, yapay zekâ asistanlarından istedikleri yanıtı alamadıklarında ya da sistem hata yaptığında sinirleniyor. İnsan benzeri bir arayüzle yanıt veren bu yazılımlar, doğrudan bir insanla konuşuluyormuş hissiyatı yaratıyor. ÇözümPark’ın paylaştığı verilere göre, bu durum hayal kırıklığı anlarında tepkilerin doğrudan bota yöneltilmesine zemin hazırlıyor. Karşıdaki varlığın bir insan olmadığını, herhangi bir duyguya sahip bulunmadığını bilmek, kullanıcıların dizginleri bırakmasını ve saldırgan bir dil seçmesini kolaylaştırıyor.
Bu eğilim, insan psikolojisinin teknolojiyle imtihanında yeni bir boyutu gözler önüne seriyor. Yazılımlarla kurulan bağ güçlendikçe, olumsuz duyguların dışavurumu da dijital mecralara kayıyor. Yıllardır müşteri hizmetleri hatlarındaki otomatik sesli yanıt sistemlerine bağıran kullanıcı profili, şimdi yapay zekâ sohbet pencerelerinde benzer bir tepki döngüsünü sürdürüyor.
Dijital Etkileşimde Psikolojik Projeksiyon
Yapay zekâ modelleri karşısındaki bu saldırgan tutum, psikolojideki projeksiyon kavramıyla doğrudan ilişkilidir. Karşısındaki sistemin sınırlamalarıyla veya hatalı çıktılarıyla karşılaşan bireyler, hayal kırıklıklarını somut bir muhataba yönlendirme eğilimi gösterir. Sohbet botlarının metin tabanlı ve akışkan yanıt verme yeteneği, kullanıcılarda karşılarında bilinçli bir varlık bulunduğu yönünde yanılsama yaratır.
Bu durum, insanların bilgisayar sistemlerine karşı sergilediği sosyal kuralları (Media Equation teorisi) açıklayan araştırmalarla da örtüşmektedir. Kullanıcılar mantıken yazılımla konuştuklarını bilseler dahi, beyinleri insani iletişim kalıplarını devreye sokar. Dolayısıyla insanlar arası ilişkilerde yaşanan tahammülsüzlük ve öfke patlamaları, doğrudan yapay zekâ arayüzlerine taşınır.
İnsan-makine ilişkisini nasıl etkiliyor?
Yapay zekâ modellerinin eğitildiği veri havuzlarında, bu tür kaba ve küfürlü girdilerin yer alması sistemin genel dil modellemesini doğrudan etkiliyor. Şirketler, botların bu tür söylemlere nasıl yanıt vermesi gerektiği konusunda özel filtreler ve güvenlik protokolleri geliştiriyor. Hakaret içeren girdiler, yapay zekânın tarafsızlığını bozmasa da geliştiricilerin içerik denetimi maliyetlerini artırıyor.
Sistemlerin bu tür çıkışlara karşı sakin, yapıcı ve profesyonel kalması hedefleniyor. Ancak sürekli olarak hakarete maruz kalan modellerin gelecekteki tepki kalıplarının nasıl şekilleneceği henüz netlik kazanmadı. Geliştiriciler, kullanıcıların dil alışkanlıklarını değiştirmekten ziyade, yapay zekânın bu tür durumlar karşısındaki dayanıklılığını artırmaya odaklanıyor.
Yazılım Geliştiriciler İçin İçerik Filtreleme Zorlukları
Sohbet botlarına yöneltilen kaba dil, model eğitimi ve güvenlik katmanları açısından ek mühendislik yükü getirir. Büyük Dil Modelleri (LLM), kullanıcı girdilerinden öğrenmeye devam ettikleri sürece, kaba ve küfürlü dili veritabanlarına dahil etme riski taşır. Yapay zekâ laboratuvarları, modellerin bu tür girdilerden olumsuz etkilenmemesi için pekiştirmeli öğrenme (RLHF) aşamasında sıkı filtreleme uygular.
Bu süreç, sistemlerin hakaret içeren mesajlara karşı nasıl konumlanacağını belirler. Kimi botlar kullanıcıyı kibarca uyarırken, kimileri ise konuyu profesyonel bir dille işe odaklamaya çalışır. Geliştiriciler, kullanıcıların saldırgan tutumlarına karşı tarafsızlığını koruyan, aşırı tepki vermeyen veya pasif-agresif bir üslup benimsemeyen dengeli kişilikler tasarlamak durumundadır.
Kimler bu eğilimin hedefinde?
Sohbet botlarını iş, kodlama veya akademik araştırmalar için yoğun şekilde kullanan profesyoneller ile günlük eğlence amaçlı vakit geçiren kitleler arasında kullanım alışkanlıkları farklılık gösteriyor. Zaman kısıtı yaşayan profesyoneller, sistem yavaş çalıştığında veya yanlış sonuç verdiğinde daha çabuk tahammülsüzlük gösteriyor. Buna karşılık, yapay zekâyı bir arkadaş gibi konumlandıran bazı kullanıcı grupları ise daha samimi ama zaman zaman dozu kaçan bir iletişim dili benimsiyor.
Mevcut tablo, yapay zekâ entegrasyonunun sadece teknik altyapıdan ibaret olmadığını, toplumsal davranış kalıplarını da dönüştürdüğünü gösteriyor. Kullanıcıların bu araçlarla kurduğu iletişimin sınırlarını nasıl çizeceği, önümüzdeki dönemde yazılım geliştiricilerin en çok üzerinde duracağı başlıklar arasında bulunuyor.
Kaynak: Google Haberler (Yapay Zeka)
