사실관계
Meta Platforms Ireland는 유럽에서 페이스북과 광고 서비스를 제공하며, 어떤 광고를 어떤 이용자에게 보여 줄지는 알고리즘이 정한다. Global Witness가 2022년과 2023년에 수행한 조사에 따르면 전형적으로 여성의 직업으로 여겨지는 채용광고는 주로 여성에게, 그 반대의 광고는 주로 남성에게 노출되었다. 접수원 채용광고는 2022년 96%, 2023년 97%가 여성 이용자에게, 정비공 채용광고는 두 해 모두 96%가 남성 이용자에게 노출되었다. 2023년 6월 Global Witness와 네덜란드 재단 Stichting Bureau Clara Wichmann은 Meta Platforms Inc., Meta Ireland, Facebook Netherlands가 네덜란드 이용자에게 채용광고를 노출하면서 성별과 연령에 따른 금지된 차별을 했는지 판단해 달라고 인권기구에 신청했다.
쟁점
인권기구는 먼저 아일랜드법만 적용된다는 Meta Ireland의 주장에 비추어 자신에게 판단 권한이 있는지, 신청인들이 신청할 자격이 있는지를 정해야 했다. 신청은 연령에 따른 차별도 문제 삼았으므로, 각 신청인이 어느 차별 사유에 관해 신청할 수 있는지도 판단 대상이었다. 본안 쟁점은 페이스북의 채용광고 노출이 네덜란드 평등대우법의 적용 대상인지, Global Witness의 자료가 광고 알고리즘의 차별을 추정하게 하는지, 그리고 Meta Ireland가 그 추정을 깨거나 간접차별을 정당한 목적과 적절하고 필요한 수단으로 정당화할 수 있는지였다.
판단
인권기구는 Meta Ireland만을 상대방으로 보았고, 차별금지 원칙이 모든 EU 회원국을 구속하므로 판단 권한이 있다고 했다. 영국법에 따라 설립된 Global Witness는 신청 자격이 없고, Clara Wichmann은 성별에 관해서만 신청할 수 있었다. 대가를 받고 채용광고를 이용자에게 노출하는 플랫폼 제공은 평등대우법상 서비스 제공에 해당한다. 조사 결과는 차별을 추정하게 했고 Meta는 이를 깨지 못했다. 알고리즘은 이용자의 클릭 행태로 학습하고, 성별이 데이터 항목이 될 수 있으며, 감시하지 않으면 고정관념을 강화할 수 있기 때문이다. 광고주와 이용자에게 좋은 서비스를 제공한다는 목적은 정당하고 알고리즘은 적절한 수단이지만 필요한 수단은 아니었다. Meta는 알고리즘을 감시하고 고정관념 효과를 상쇄할 것으로 기대되는데, 그렇게 하고 있음을 보이지 못했다.
의의
인권기구는 명시적인 성별 타기팅이 없는 광고 노출 시스템에 간접차별 법리를 적용했고, 외부 테스트로 얻은 결과 자료를 근거로 증명책임을 플랫폼에 넘겼다. 학습하는 알고리즘의 효과를 감시하고 바로잡을 의무도 그 시스템을 운영하는 기업에 지웠다. 인권기구는 개별 차별 신청에 대한 자신의 판단을 구속력 없는 결정이라고 스스로 설명하고 있으며, 같은 사안에 관한 법원 판결은 확인되지 않았다.
관련 절차
사건번호는 2023-0425, 2023-0426, 2023-0270이고 심문은 2024년 5월 30일에 열렸다. 신청은 연령 차별도 포함했지만 Clara Wichmann은 성별에 관해서만 신청할 수 있어 판단되지 않았다. 업무 배정과 채용에서의 알고리즘 차별은 deliveroo-rider-ranking-bologna와 mobley-v-workday를 참고할 수 있다.