Olay
Meta Platforms Ireland, Facebook'u ve reklam hizmetini Avrupa'da sunmaktadır; hangi reklamın hangi kullanıcıya gösterileceğine bir algoritma karar verir. Global Witness'ın 2022 ve 2023'te yaptığı araştırma, kadınlarla özdeşleştirilen meslekler için verilen iş ilanlarının ağırlıklı olarak kadınlara, erkeklerle özdeşleştirilenlerin ise erkeklere gösterildiğini ortaya koydu. Örneğin resepsiyon görevlisi ilanı 2022'de yüzde 96, 2023'te yüzde 97 oranında kadın kullanıcılara, teknisyen ilanı ise iki yılda da yüzde 96 oranında erkek kullanıcılara gösterilmişti. Haziran 2023'te Global Witness ve Stichting Bureau Clara Wichmann, Meta Platforms Inc., Meta Ireland ve Facebook Netherlands'ın Hollanda'daki kullanıcılara iş ilanı gösterirken cinsiyet ve yaşa dayalı yasak ayrım yapıp yapmadığını incelemesi için Kurum'a başvurdu.
Hukuki soru
Kurum önce, yalnızca İrlanda hukukunun uygulanacağını savunan Meta Ireland karşısında yetkili olup olmadığını ve başvurucuların başvuru yapıp yapamayacağını belirlemeliydi. Esas yönünden sorular şunlardı: Facebook'ta iş ilanı gösterilmesi Hollanda eşit muamele mevzuatının kapsamına giriyor muydu, Global Witness verileri reklam algoritmasının ayrım yaptığı yönünde bir karine oluşturuyor muydu ve Meta Ireland bu karineyi çürütebilir ya da dolaylı ayrımı meşru bir amaçla, elverişli ve gerekli araçlarla haklı gösterebilir miydi?
Karar
Kurum yalnızca Meta Ireland'ı karşı taraf saydı ve ayrımcılık yasağı bütün AB üye devletlerini bağladığı için yetkili olduğuna karar verdi. İngiliz hukukuna göre kurulmuş Global Witness başvuru yapamazdı; Clara Wichmann ise yalnızca cinsiyet yönünden başvurabilirdi. Ücret karşılığında iş ilanlarını kullanıcılara ulaştıran bir platform sunmak, eşit muamele mevzuatı anlamında hizmet sunumuydu. Araştırma bir ayrım karinesi oluşturdu ve Meta bunu çürütemedi: algoritma tıklama davranışından öğreniyor, cinsiyet bir veri noktası olabiliyor ve izlenmezse kalıp yargıları güçlendirebiliyordu. Reklamverene ve kullanıcıya iyi hizmet amacı meşru, algoritma da elverişli bir araçtı; ancak gerekli değildi. Meta'nın algoritmayı izlemesi ve kalıp yargıları gidermesi beklenirdi ve bunu yaptığı gösterilemedi.
Neden önemli
Kurum, açık bir cinsiyet hedeflemesi içermeyen bir reklam gösterim sistemine dolaylı ayrımcılık kurallarını uyguladı ve dış testlerden elde edilen sonuç verilerine dayanarak ispat yükünü platforma çevirdi. Öğrenen bir algoritmanın etkilerini izleme ve düzeltme yükümlülüğünü de sistemi işleten şirkete yükledi. Kurum, bireysel ayrımcılık başvuruları üzerine verdiği kararları kendi sitesinde bağlayıcı olmayan kararlar olarak tanımlıyor; aynı başvuruya ilişkin bir mahkeme kararına rastlanmadı.
İlgili aşamalar
Dosya numaraları 2023-0425, 2023-0426 ve 2023-0270; duruşma 30 Mayıs 2024'te yapıldı. Başvuru yaşa dayalı ayrımı da kapsıyordu; ancak Clara Wichmann yalnızca cinsiyet yönünden başvurabildiği için bu iddia incelenmedi. İş dağıtımında algoritmik ayrımcılık için bkz. deliveroo-rider-ranking-bologna ve mobley-v-workday.
Sitedeki ilgili yazılar
- Otomatik Ayrımcılık: Yapay Zekânın İnsan Kaynaklarındaki Gizli Riskleri
- İnsan Kaynaklarında Algoritmik Ayrımcılık: Türkiye ve Orta Doğu'da Etik ve Hukuki Mayın Tarlasında Gezinmek
- EU AI Act'te hangi risk kademesindesiniz?
- Yalnızca Algoritmayla İşten Çıkarma Yok: Kaliforniya'nın Yeni İşyeri Yapay Zekâ Yasaları ve Yabancı İşverenler