다국적 기업들은 글로벌 인재 풀을 관리하고 복잡한 채용 환경에 대응하려고 AI 기반 지원자 추적 시스템(ATS)과 알고리즘 기반 HR 소프트웨어에 점점 더 많이 의존하고 있습니다. 이런 도구는 빠르고 객관적인 판단을 내세웁니다. 그러나 실제로는 없애려던 바로 그 편견을 은연중에 되풀이하거나 오히려 키울 수도 있습니다.

편향이 시스템에 스며드는 방식

AI 채용 도구는 과거 데이터로 학습합니다. 과거 채용에서 특정 대학, 우편번호, 성별, 경력 경로를 우대했다면 모델은 이런 패턴을 성공의 신호로 받아들입니다. 그 결과 대리 차별이 생깁니다. 시스템이 보호 대상 특성을 직접 인식하지는 않지만, 그 특성을 대신하는 특징을 학습하는 것입니다. 이력서 심사 모델은 육아휴직을 썼거나 여자대학을 나왔거나 외국식으로 들리는 이름을 가진 지원자를 낮게 평가할 수 있습니다. 누구도 의도하지 않은 결과입니다.

이 문제가 윤리를 넘어 법적 위험이 된 이유

EU AI법상 채용, 후보자 선별, 고용 결정에 쓰이는 AI 시스템은 명시적으로 고위험 범주(부속서 III)에 속합니다. 이에 따라 위험 관리, 데이터 거버넌스, 투명성, 인간 감독, 로그 기록, 문서화 의무가 부과됩니다. 동시에 개인에게 중대한 영향을 미치는 자동화된 처리에는 GDPR과 튀르키예 KVKK상의 의무도 따릅니다. 적법한 처리 근거, 투명성, 그리고 일정한 경우 완전히 자동화된 결정의 대상이 되지 않을 권리가 여기에 포함됩니다.

다음 채용 주기 전에 고용주가 취해야 할 조치

  • 도구를 파악하십시오. 직접 켜지 않았을 수도 있는 공급업체 기능까지 포함해, 채용에 관여하는 모든 AI 또는 점수 산정 시스템을 확인하십시오.
  • 문서화를 요구하십시오. 공급업체에 시스템의 의도된 목적, 훈련 데이터 설명, 편향성 테스트 결과, 사람의 감독을 위한 설계를 문의하고, 답변을 문서로 보관하십시오.
  • 의도가 아닌 결과를 테스트하십시오. 보호 대상 집단 전체에 대해 불리한 영향 분석을 실시하십시오. 도구가 설계상으로는 중립적이어도 실제로는 차별적인 효과를 낳을 수 있습니다.
  • 인간의 개입을 유지하십시오. 자격을 갖춘 담당자가 결정을 검토하고 번복하며 설명할 수 있어야 합니다. 그리고 이 절차가 형식에 그치지 않고 실제로 작동하는지 확인하십시오.
  • 지원자에게 알리십시오. 자동화된 처리에 관한 의미 있는 정보를 제공하고, 결정에 이의를 제기할 수 있는 절차를 마련하십시오.

신중하게 쓰면 AI는 채용 과정을 더 공정하고 빠르게 만들 수 있습니다. 그러나 무분별하게 쓰면 채용 담당자의 재량을 아무도 볼 수 없고 설명할 수도 없으며 이의를 제기할 수도 없는 숨은 규칙으로 바꿔 버립니다. 오늘날 법적 책임이 생기는 곳이 바로 그 지점입니다.