Olay
ABD Federal Ticaret Komisyonu'nun (Federal Trade Commission, FTC) şikâyetine göre eczane zinciri Rite Aid, 2012-2020 yılları arasında yüzlerce mağazasında hırsızlık yapabileceğini düşündüğü müşterileri belirlemek için yapay zekâ tabanlı yüz tanıma teknolojisi kullandı. Sistem hatalı eşleşmeler üretti; bazı eşleşmeler binlerce mil uzaktaki olaylar nedeniyle veri tabanına kaydedilmiş kişilere dayanıyordu. Bu uyarılar üzerine çalışanlar müşterileri mağazada takip etti, üstlerini aradı, mağazadan çıkarttı, polis çağırdı ve bazen yakınlarının önünde hırsızlıkla suçladı. Rite Aid müşterilere bu teknolojiyi kullandığını bildirmedi. FTC ayrıca şirketin 2010 tarihli bir FTC veri güvenliği kararını ihlal ettiğini ileri sürdü.
Hukuki soru
FTC'nin şikâyetine göre Rite Aid'in yüz tanıma teknolojisini tüketicilere zarar vermesini önleyecek makul önlemler almadan kullanması, FTC Kanunu anlamında haksız bir uygulamaydı. Şikâyet, şirketin öngörülebilir zararları önlemek için makul prosedürler uygulamadığı ve müşterileri bilgilendirmediği iddialarına dayanıyordu. Şikâyette ayrıca yanlış eşleşmelerin, nüfusun çoğunluğunu siyahların ve Asyalıların oluşturduğu bölgelerdeki mağazalarda, beyazların çoğunlukta olduğu bölgelere göre daha sık görüldüğü ileri sürüldü; bu da davaya ayrımcılık boyutu kattı. Dava taraflarca kabul edilen bir uzlaşma kararıyla sonuçlandığı için bu iddialar mahkemece karara bağlanmadı; Rite Aid iddiaları ne kabul ne de inkâr etti.
Karar
FTC, şikâyeti önerilen bir uzlaşma kararıyla (stipulated order) birlikte ABD Pennsylvania Doğu Bölgesi Federal Bölge Mahkemesine sundu; Komisyon bu başvuruyu 3-0 oyla onayladı. Bir yargılama sonucunda verilmeyen, taraflarca kabul edilen bu uzlaşma kararı Şubat 2024'te mahkemece onaylanarak kayda geçti. Karar, Rite Aid'in beş yıl süreyle gözetim amacıyla yüz tanıma teknolojisi kullanmasını yasaklar. Şirket topladığı görüntüleri ve bunlardan geliştirilen algoritmaları silmek, biyometrik verisi bir veri tabanına kaydedilen ya da aleyhine kullanılan tüketicileri bilgilendirmek, şikâyetlere yazılı yanıt vermek ve mağazalarda yüz tanıma gözetimi hakkında açık uyarılar asmak zorundadır. Biyometrik veriler en fazla beş yıl saklanabilir. Şirket ayrıca bağımsız denetimlere tabi bir bilgi güvenliği programı uygulayacak ve genel müdür her yıl uyumu yazılı olarak teyit edecektir.
Neden önemli
FTC bu davada haksız uygulama yetkisini bir perakendecinin yüz tanıma programına karşı kullandı ve ayrımcı hata oranlarını tüketici zararının bir parçası olarak ele aldı. Öngörülen tedbirler yapısaldır; teknolojinin belirli bir süre yasaklanmasını, toplanan görüntülerden türetilen modellerin silinmesini ve gelecekte otomatik biyometrik sistemlerin kullanılması için koşullar içerir. Bu koşullar, biyometrik gözetim kullanan işletmelerden FTC'nin beklediği test ve izleme düzeyini gösterir.
İlgili aşamalar
Rite Aid iflas (Chapter 11) sürecinde olduğundan uzlaşma kararı önce New Jersey Federal İflas Mahkemesince 23 Ocak 2024'te onaylandı. Pennsylvania Doğu Bölgesi Federal Mahkemesi'nden Yargıç Kelley B. Hodge kararı 23 Şubat 2024'te imzaladı; karar 26 Şubat 2024'te dosyaya işlendi (Dkt. 19). FTC, 5 Mart 2024'te 2010 tarihli veri güvenliği kararını yeniledi. Rite Aid, 5 Mayıs 2025'te ikinci kez Chapter 11 iflas başvurusunda bulundu; şirket daha sonra tüm mağazalarını kapattı.