글로벌 인재 풀을 관리하고 복잡한 채용 환경을 헤쳐 나가기 위해 다국적 기업들은 AI 기반 지원자 추적 시스템(ATS)과 알고리즘 기반 HR 소프트웨어에 점점 더 많이 의존하고 있다. 이러한 도구들은 신속성과 객관성을 약속한다. 그러나 실제로는 제거하고자 했던 바로 그 편견을 은연중에 재현하거나 심지어 증폭시킬 수도 있다.
편향이 시스템에 스며드는 방식
AI 채용 도구는 과거 데이터를 통해 학습합니다. 과거 채용 과정에서 특정 대학, 우편번호, 성별 또는 경력 경로를 우대했다면, 모델은 이러한 패턴을 성공의 신호로 간주합니다. 그 결과 대리 차별이 발생합니다. 즉, 시스템은 보호 대상 특성을 직접 인식하지는 않지만, 이를 대신하는 특징들을 학습하게 되는 것입니다. 이력서 심사 모델은 육아 휴직을 사용했거나, 여성 전용 대학을 다녔거나, 비원어민식 이름을 가진 지원자의 평가를 낮출 수 있는데, 이는 누구도 의도하지 않은 결과입니다.
이 문제가 이제 단순한 윤리적 문제가 아닌 법적 위험 요소가 된 이유
EU AI법에 따르면, 채용, 후보자 선별 및 고용 결정에 사용되는 AI 시스템은 명백히 고위험 범주(부속서 III)에 속합니다. 이에 따라 위험 관리, 데이터 거버넌스, 투명성, 인간 감독, 로그 기록 및 문서화에 대한 의무가 부과됩니다. 이와 동시에, 개인에게 중대한 영향을 미치는 자동화된 처리는 GDPR 및 터키의 KVKK에 따른 의무를 유발합니다. 여기에는 합법적 근거, 투명성, 그리고 정의된 상황에서 전적으로 자동화된 결정의 대상이 되지 않을 권리가 포함됩니다.
다음 채용 주기 전에 고용주가 취해야 할 조치
- 도구를 파악하십시오. 의도적으로 활성화하지 않았을 수도 있는 공급업체 기능을 포함하여, 채용과 관련된 모든 AI 또는 점수 산정 시스템을 식별하십시오.
- 문서화를 요구하십시오. 공급업체에 시스템의 의도된 목적, 훈련 데이터 설명, 편향성 테스트, 그리고 사람의 감독을 위한 설계에 대해 문의하고, 이를 문서로 보관하십시오.
- 의도가 아닌 결과를 테스트하십시오. 보호 대상 그룹 전반에 걸쳐 부정적 영향 분석을 수행하십시오. 도구는 설계상 중립적일 수 있지만 실제 효과는 차별적일 수 있습니다.
- 인간의 개입을 유지하십시오. 자격을 갖춘 담당자가 결정을 검토하고, 번복하며, 설명할 수 있도록 보장하십시오. 또한 이것이 형식적인 절차가 아닌 실질적인 절차임을 확인하십시오.
- 지원자에게 알리십시오. 자동화된 처리에 대한 실질적인 정보를 공개하고, 결정에 이의를 제기할 수 있는 절차를 제공하십시오.
신중하게 사용된다면 AI는 채용 과정을 더 공정하고 신속하게 만들 수 있습니다. 무분별하게 사용될 경우, AI는 채용 담당자의 재량권을 아무도 볼 수 없고, 설명할 수 없으며, 이의를 제기할 수도 없는 숨겨진 규칙으로 바꿔버립니다. 그리고 바로 그 지점에 현재 법적 책임이 자리 잡고 있습니다.
