İngiltere’de işe alım süreçlerinde kullanılan yapay zeka destekli yazılımlar, özellikle etnik azınlık mensubu adayları “orantısız şekilde” dezavantajlı duruma düşürüyor; süreç tamamen tarafsız işlediği iddia edilirken arka planda bambaşka bir ayrımcılık tablosu örülüyor. İş arama sürecinde zaten binbir güçlükle boğuşan adaylar, bir de kod satırlarının yarattığı önyargılara karşı görünmez bir duvarla karşılaşıyor.
Hızlı Özet
- İngiltere’deki işe alım algoritmaları etnik azınlıkları arka plana itiyor.
- Sistemlerin geçmiş verileri öğrenmesi, insan önyargısını dijital dünyaya taşıyor.
- İnsan kaynakları departmanları hız uğruna adaleti göz ardı etme riskiyle yaşıyor.
Algoritmik karar mekanizmalarının iş dünyasındaki bu karanlık yüzü, teknolojinin her zaman adil bir hakem olmadığını gözler önüne seriyor. İnsan kaynakları profesyonelleri işe alım maliyetlerini düşürmek ve süreci hızlandırmak için bu araçlara sarılırken, havuzun dışına itilen kesimlerin sesini kimse duymuyor.
İşe alım algoritmaları neden etnik azınlıklara karşı önyargılı?
Makine öğrenmesi modelleri boşluktan var olmaz; geçmiş yılların insan eliyle yapılmış işe alım verileriyle beslenirler. Şirketlerin on yıllar boyunca biriktirdiği işe giriş kayıtlarında halihazırda var olan dezavantajlı gruplar aleyhindeki eğilimler, kodlar için birer “başarı kriteri” haline gelir. Yani algoritma geçmişte başarılı bulunan profilleri kopyalarken, o profillere uymayan etnik kökenleri sessizce sistem dışına iter.
Teknik açıdan bakıldığında, milyonlarca özgeçmişi saniyeler içinde tarayan bu nöral ağlar, yüz ifadesi analiz eden mülakat yazılımları veya kelime öbeği tarayıcıları, belirlenen metrikleri kusursuz bir matematiksel tutarlılıkla uygular. Ama iş arayan bir azınlık mensubu için durum tam bir kabustur; aday, hangi kriter yüzünden reddedildiğini asla bilemez, çünkü “uygunsuz” etiketi yapıştırılıp geçilir.
Bu durum hangi sektörleri ve çalışan gruplarını etkiliyor?
Finans, teknoloji ve danışmanlık gibi yüksek nitelikli personel arayan sektörler, otomatik filtreleme araçlarını en yoğun kullanan alanların başında geliyor. Yüz binlerce başvurunun geldiği bu devasa kurumsal yapılarda insan gözü ilk aşamada tamamen devre dışı bırakılıyor.
| Sektör / Alan | Etkilenen Grup | Algoritmik Risk Faktörü |
|---|---|---|
| Finans ve Bankacılık | Göçmen kökenli yeni mezunlar | Geçmiş çalışan profili kıstasları |
| Yazılım ve Teknoloji | Etnik azınlık yazılımcılar | Eski veri setlerindeki cinsiyet ve ırk dengesizliği |
| Perakende ve Lojistik | Saatlik ücretli çalışanlar | Video mülakatlarda mikro mimik analizi |
Tabloda görülen sektörler, dijital dönüşümün en hızlı yaşandığı alanlar olmalarına rağmen adalet terazisini kurmada en çok çuvallayan yerlerdir. Özgeçmişinde yabancı kökenli bir isim taşıyan ya da belirli azınlık mahallelerinden gelen adres bilgisine sahip adaylar, yazılımın “riskli” kategorilendirmesine takılıp mülakat masasına bile oturamaz.
Kodların arkasındaki veri seti körlüğü
Yapay zeka modellerinin eğitildiği veri havuzları genellikle homojen kitleleri yansıtır. İngiltere genelindeki iş gücü demografisi çeşitlilik gösterse de, kurumsal şirketlerin geçmişteki üst düzey kadroları belirli bir sosyal ve etnik profilin tekelinde kalmıştır. Model, başarıyı bu profile endekslediğinde, farklı kültürel arka planlardan gelen özgeçmişlerdeki standart dışı kelime seçimlerini, okul isimlerini veya kariyer boşluklarını hata olarak algılar. Adayın yeteneği ne kadar yüksek olursa olsun, algoritmanın sözlük karşılığı olmayan bu varyasyonlar adayın sistem tarafından doğrudan elenmesine yol açar.
Video tabanlı mülakat analiz yazılımlarında durum daha da karmaşıklaşır. Yapay zeka, adayın konuşma hızı, tonlaması, göz teması ve yüz mimiklerini analiz ederek bir “uygunluk puanı” üretir. Ancak bu modellerin temellendirildiği standartlar genellikle Batı kültürünün iletişim normlarına göre tasarlanmıştır. Farklı kültürlerde göz teması kurma biçimleri, jestler veya ses tonu değişkendir; yapay zeka bu kültürel çeşitliliği okuyamadığı için yabancı kökenli adayların samimiyetini veya özgüvenini yanlış yorumlar.
Hukuki sorumluluk ve denetim mekanizmalarındaki boşluklar
İngiltere yasalarına göre iş yerinde ayrımcılık suçtur ancak söz konusu algoritma olduğunda sorumlunun kim olduğu belirsizleşir. İnsan kaynakları departmanı kararı yazılıma atar, yazılım şirketi ise sorumluluğun veriyi sağlayan kuruma ait olduğunu savunur. Bu hukuki gri alan, şirketlerin algoritmalara dayalı ayrımcılığı sürdürmesine zemin hazırlar. Yazılımların iç işleyişinin birer “kara kutu” olması, dışarıdan denetlenmelerini neredeyse imkansız kılarken, mağdur adayların mahkemede hak aramasını zorlaştırır.
Şirketler maliyetleri düşürürken insan hayatını harcıyor; peki bu yazılımların denetimi için daha ne kadar beklenmesi gerekiyor? Önümüzdeki dönemde düzenleyici kurumların bu algoritmik ayrımcılığa karşı sert cezalar getirmesi kaçınılmaz görünüyor. Yoksa dijital adalet adı altında kurulan bu sistemler, toplumsal eşitsizliği sadece silikon temelli bir boyuta taşıyacak.
Kaynak: Google Haberler (Yapay Zeka)
