Olay
Sistem Risk Göstergesi (Systeem Risico Indicatie, SyRI), Hollanda hükümetinin sosyal yardım, ödenek ve vergi dolandırıcılığını tespit etmek için kullandığı yasal bir araçtı. Sistem, farklı kamu kurumlarının veri tabanlarındaki kişisel verileri bir risk modeli aracılığıyla eşleştiriyor ve dolandırıcılık riski taşıdığı değerlendirilen kişiler hakkında risk raporları üretiyordu. Dayanağı, SUWI Kanunu'nun 65. maddesi ve SUWI Yönetmeliği'nin 5a bölümüydü. Hollanda Hukukçular Komitesi (NJCM), Privacy First ve başka sivil toplum kuruluşları ile iki kişi, SyRI'nin insan haklarını ihlal ettiği gerekçesiyle devlete karşı dava açtı; Hollanda Sendikalar Konfederasyonu (FNV) davaya davacılar yanında katıldı.
Hukuki soru
Mahkeme, SyRI mevzuatının Hollanda'yı bağlayan uluslararası hukuka, özellikle Avrupa İnsan Hakları Sözleşmesi'nin (AİHS) özel hayata saygı hakkını düzenleyen 8. maddesinin 2. fıkrasına uygun olup olmadığını inceledi. Bu hüküm, mevzuatın hizmet ettiği toplumsal menfaat ile mevzuattan etkilenen kişilerin özel hayatına saygı hakkı arasında adil bir denge kurulmasını gerektirir. Davacılar ayrıca risk raporlarının GDPR m.22'de yasaklanan otomatik bireysel karar niteliğinde olduğunu ileri sürdü.
Karar
Mahkeme, AİHS m.8 uyarınca yeni teknolojileri uygulayan devletin, bu teknolojilerin yararları ile özel hayata müdahale arasında doğru dengeyi kurma konusunda özel bir sorumluluğu bulunduğunu vurguladı. Dolandırıcılıkla mücadele amacını meşru kabul etmekle birlikte, SyRI mevzuatının gereken adil dengeyi kurmadığı ve sistemin uygulanmasının yeterince şeffaf ve denetlenebilir olmadığı sonucuna vardı. Bu nedenle SUWI Kanunu'nun 65. maddesinin ve SUWI Yönetmeliği'nin 5a bölümünün AİHS m.8/2'ye aykırı olduğuna ve bağlayıcı etkisinin bulunmadığına hükmetti. Bu tespitin bağlayıcılığı davacılar ve onların temsil ettiği kişilerle sınırlıdır. Bazı davacıların talepleri usulden reddedildi ve devlet yargılama giderlerine mahkûm edildi.
Neden önemli
SyRI kararı, kamu idaresinin algoritmik risk profillemesini insan hakları ölçütleriyle denetleyen ilk önemli yargı kararlarından biridir. Mahkeme, risk modeli ve göstergeler hakkında şeffaflık bulunmamasını, ilgili kişilerin sistemin işleyişini anlayıp denetleyememesi nedeniyle belirleyici saydı. Karar, kamu kurumlarının sosyal yardım uygunluğunu değerlendirmek ve dolandırıcılığı tespit etmek için kullandığı sistemlere ilişkin tartışmalarda ve AB Yapay Zekâ Yasası'nın bu tür sistemleri yüksek riskli saymasının arka planında sıkça anılmaktadır.
İlgili aşamalar
Hollanda hükümeti 23 Nisan 2020'de karara karşı istinaf yoluna başvurmayacağını açıkladı. Devlet kanun yoluna başvurmadığı için karar kesinleşti.