Yapay zekâ teknolojileri ilk kez ortaya çıktığında, pek çok kişi bu sistemlerin insan önyargılarından sıyrılarak daha adil bir dünya yaratacağını öngörüyordu. İnsanların cinsiyet, yaş, ırk, sınıf veya sosyal statü gibi alanlardaki önyargılarının yerini; veriye dayalı, nesnel ve tarafsız karar mekanizmalarının alacağı savunuluyordu.

Ancak günümüzde, gerçeklerin çok daha karmaşık olduğu anlaşılmaktadır.

Yapay zekâ, insanlık için önemli bir teknolojik atılım olarak tanımlanmakta; fakat bu atılımda kadınlar sık sık arka planda kalmakta ve bazı durumlarda sistematik olarak hedef alınmaktadır.

Yapay zekâ (YZ), sağlıktan eğitime, istihdamdan güvenliğe kadar toplumsal yaşamın her alanında hızla belirleyici bir güç haline gelmektedir. Küresel ölçekte yapay zekânın en ağır bedelini ödeyenlerin başında kadınlar bulunmaktadır.

Ancak bu sistemler, geliştirildikleri toplumların önyargılarından bağımsız değildir. Yapay zekâ sistemleri geçmiş verilerle eğitilir. Eğer bu veriler, yıllarca süren toplumsal cinsiyet eşitsizliklerinin izlerini taşıyorsa, yapay zekâ da bu eşitsizlikleri öğrenir, tekrarlar ve çoğu zaman daha sistematik bir hale getirir.

Başka bir deyişle, yapay zekâ kendi başına cinsiyetçi olmayabilir; ancak cinsiyetçi bir dünyanın verileriyle eğitildiğinde, geçmişin ayrımcılığını geleceğin teknolojisine entegre edebilir.

Bu nedenle, karşı karşıya olduğumuz sorun yalnızca teknik bir mesele değil. Sorun, teknolojinin kimin verileriyle eğitildiği, kimin ihtiyaçlarına göre tasarlandığı, hangi denetim mekanizmalarından geçtiği ve sonuçta kimin güçlendirildiği ya da dışlandığı ile ilgilidir.

Algoritmik önyargı: Makine öğreniyor, ama neyi öğreniyor?

Yapay zekâ sistemleri genellikle “tarafsız” makineler olarak tanıtılmaktadır. Ancak bu tarafsızlık büyük ölçüde yanıltıcıdır. Çünkü algoritmalar, geçmişte toplanan verilerden öğrenir. Geçmişte kadınlar belirli alanlardan dışlanmış, karar verici pozisyonlarda daha az temsil edilmiş ve daha düşük ücret almışsa, yapay zekâ bu eşitsizlikleri “normal” olarak algılayabilir.

Bu durumun en çok tartışılan örneklerinden biri işe alım algoritmalarıdır.

Amazon’un 2018 yılında ortaya çıkan otomatik işe alım sistemi, özgeçmişleri değerlendirirken kadın adaylara sistematik olarak daha düşük puanlar vermesi nedeniyle kapatılmıştır. Sistem, teknoloji sektöründeki geçmiş işe alım verileriyle eğitildiği için, yapay zekâ “başarılı çalışan” profilini erkeklerle ilişkilendirmiştir. Sonuç olarak, kadın adayların özgeçmişlerinde yer alan bazı ifadeler, hatta “kadın” kelimesinin geçtiği bölümler, sistem tarafından olumsuz değerlendirilmiştir.

Bu örnek, yapay zekânın işleyişini anlamak açısından oldukça öğreticidir. Algoritma açıkça “kadınları ele” dememiştir. Ancak geçmişin erkek egemen verileriyle beslendiği için, erkekleri daha uygun aday olarak görmeyi öğrenmiştir.

Benzer sorunlar başka şirketlerin işe alım sistemlerinde de yaşanmıştır. Dünya Ekonomik Forumu’nun 2024 verilerine göre, yapay zekâ destekli işe alım araçları kullanan şirketlerde kadın adayların mülakat aşamasına geçme oranı erkeklere kıyasla yüzde 35 daha düşük olabilmektedir.

Bu durum, klasik cam tavanın dijitalleşmiş yeni bir biçimini temsil etmektedir.

Geçmişte kadınların yükselmesini engelleyen görünmez kurumsal duvarlar bulunuyordu. Bugün bu duvarların yanına algoritmik filtreler eklenmektedir. Kadınlar, çoğu zaman neden elendiklerini bile bilmeden, sistemlerin görünmez kararlarıyla dışarıda bırakılmaktadır.

Finansal algoritmalar ve ekonomik dışlanma

Yapay zekâ kaynaklı eşitsizlik yalnızca işe alım süreçleriyle sınırlı kalmamaktadır. Kredi notlama sistemleri, finansal hizmetler ve risk analizleri de kadınlar aleyhine sonuçlar doğurabilmektedir.

ABD’de Apple Card’ın Goldman Sachs tarafından yönetilen kredi algoritması, 2019 yılında ciddi tartışmalara yol açmıştır. Aynı finansal profile sahip eşler arasında erkeklere kadınlardan çok daha yüksek kredi limitleri tanındığı iddia edilmiş ve konu soruşturma konusu olmuştur.

Bu tür sistemlerdeki temel sorun, kadınların tarihsel olarak daha düşük gelir elde etmeleri, doğum nedeniyle kariyerlerine ara vermeleri, part-time çalışma oranlarının daha yüksek olması veya ev içindeki ücretsiz emeğin finansal kayıtlarda görünmemesinin algoritmalar tarafından “risk” göstergesi olarak değerlendirilmesidir.

Sonuç olarak, toplumsal bir eşitsizlik finansal bir dezavantaja dönüşmektedir. Kadının ekonomik bağımsızlığının önüne görünmez bir dijital engel konulmaktadır.

Açıkça ifade etmek gerekirse, geçmişte kadınların ekonomik yaşama eşit biçimde katılamamış olmaları, gelecekte de krediye, yatırıma ve finansal fırsatlara daha sınırlı erişimlerine neden olabilir. Yapay zekâ burada eşitsizliği düzeltmek yerine, bunu otomatikleştirme riski taşımaktadır.

Yüz tanıma sistemleri: En çok kim yanlış tanınıyor?

Yapay zekâdaki cinsiyet eşitsizliğinin bir başka çarpıcı örneği yüz tanıma teknolojileridir.

MIT araştırmacıları Joy Buolamwini ve Timnit Gebru’nun “Gender Shades” çalışması, piyasada bulunan büyük yüz tanıma sistemlerinin özellikle koyu tenli