사실관계
SyRI(Systeem Risico Indicatie)는 네덜란드 정부가 사회보장급여, 수당, 세금 관련 부정을 적발하기 위해 사용한 법적 수단이었다. 이 시스템은 여러 공공기관 데이터베이스의 개인정보를 위험 모델로 연계해 부정 위험이 있다고 평가된 사람에 대한 위험 보고서를 생성했다. 근거 법령은 SUWI법 제65조와 SUWI 시행령 제5a장이었다. 국제법률가위원회 네덜란드 지부(NJCM), Privacy First 등 시민단체와 개인 2명은 SyRI가 인권을 침해한다며 국가를 상대로 소송을 제기했고, 네덜란드 노동조합연맹(FNV)이 원고 측에 참가했다.
쟁점
법원은 SyRI 법령이 네덜란드를 구속하는 국제법, 특히 유럽인권협약(ECHR) 제8조 제2항에 부합하는지를 심사했다. 이 조항은 법령이 추구하는 공동체의 이익과 법령의 영향을 받는 개인의 사생활 존중권 사이에 공정한 균형을 요구한다. 원고들은 위험 보고서가 GDPR 제22조가 금지하는 자동화된 개별 결정에 해당한다고도 주장했다.
판단
법원은 유럽인권협약 제8조에 따라 새로운 기술을 도입하는 국가는 기술의 이점과 사생활 침해 사이에서 올바른 균형을 맞출 특별한 책임을 진다고 강조했다. 부정 방지라는 목적의 정당성은 인정하면서도, SyRI 법령이 요구되는 공정한 균형을 이루지 못했고 SyRI의 운용이 충분히 투명하지도 검증 가능하지도 않다고 판단했다. 이에 따라 SUWI법 제65조와 SUWI 시행령 제5a장은 유럽인권협약 제8조 제2항에 반하여 구속력이 없다고 선언했다. 이 선언의 구속력은 원고들과 그들이 대표하는 사람들에게 한정된다. 일부 원고의 청구는 각하되었고, 국가에 소송비용 부담이 명령되었다.
의의
SyRI 판결은 행정기관의 알고리즘 위험 프로파일링을 인권 기준으로 심사한 초기의 중요한 판결 가운데 하나다. 법원은 위험 모델과 지표에 관한 투명성이 없어 당사자가 시스템의 작동 방식을 이해하거나 검증할 수 없다는 점을 결정적으로 보았다. 이 판결은 공공기관의 복지 수급 자격 심사와 부정 탐지 시스템에 관한 논의, 그리고 EU 인공지능법(AI Act)이 이러한 시스템을 고위험으로 분류한 배경에서 자주 언급된다.
관련 절차
네덜란드 정부는 2020년 4월 23일 항소하지 않겠다고 발표했다. 국가가 항소하지 않았으므로 판결은 확정되었다.