고용은 EU AI법의 고위험 분야 중 하나입니다. 그러나 진짜 문제는 분류보다 앞서 시작됩니다: 차별은 의도가 아니라 시스템의 효과에서 생기며, 효과를 한 번도 측정하지 않은 회사는 요구받았을 때 보여줄 것이 없습니다.
템플릿 다운로드 온라인 상담 예약하기대부분의 채용 도구는 성별·연령·인종을 직접 쓰지 않으며, 회사는 이로써 위험을 없앴다고 결론짓습니다. 하지만 차별은 시스템의 효과에서 생기지 의도에서 생기지 않습니다.
보호 속성을 보지 않고도 시스템은 그 대리변수를 통해 같은 결과에 이를 수 있습니다:
시스템이 과거 채용 결정으로 학습되었다면, 그 안의 불균형을 학습했을 수 있습니다. 그러면 도구는 기존 패턴을 효율적으로 재생산하는데, 회사는 그 결과를 "객관적 측정"으로 읽습니다.
이 중 어느 것도 시스템 코드를 읽어서는 탐지되지 않습니다. 집단 간 합격률 차이를 측정하고 그 측정을 일자와 함께 기록해야 탐지됩니다. 측정이 없으면 진정을 받은 회사는 보여줄 것이 없습니다: "차별하지 않았다"는 주장은 뒷받침 없는 주장으로 남습니다.
아래 양식은 그 측정과 그 주변의 의무를 한 문서에 모읍니다: 위험 등급, 데이터 보호, 차별 점검, 사람의 감독, 지원자 고지.
| 조항 | 주제 | 실무상 의미 |
|---|---|---|
| AI법 부속서 III(4) | 고위험 | 고용 및 근로자 관리 |
| AI법 제6조(3) | 예외 | 프로파일링이 있으면 적용 불가 |
| AI법 제26조 | 배포자 의무 | 감독·입력 품질·로그·정보 |
| AI법 제26조(7) | 근로자 정보 제공 | 영향받는 자와 그 대표에게 고지 |
| AI법 제27조 | FRIA | 기본권 영향평가 |
| GDPR 제22조 | 자동화 결정 | 사람의 개입과 이의제기권 |
| GDPR 제35조 | DPIA | 고위험 처리에 필요 |
| GDPR 제13–14조 | 정보 제공 의무 | 지원자에게 데이터 처리 방식 고지 |
| GDPR 제9조 | 특별범주 | 간접 추론의 위험 |
| 평등법 | 평등 대우 | 의도가 아니라 효과 기준 |
조항은 이 페이지 작성 시점의 문언을 반영하며 시행 버전과 대조해야 합니다.
아래 텍스트를 복사하거나 마크다운으로 다운로드하세요. 회원 가입 불필요.
# 채용 AI — 차별 위험 평가와 지원자 고지
문서 코드: AIA-HR-05 · 버전 1.0 · 분류: 내부용
평가: ……/……/20…… 갱신: 매년, 그리고 모델 변경 시마다
파트 A — 시스템 기록
A.1 시스템/도구 명칭: [……]
A.2 공급자: [……]
A.3 절차상 위치: ( ) 이력서 선별 ( ) 순위화 ( ) 영상 분석
( ) 시험 채점 ( ) 기타
A.4 결정에 대한 영향: ( ) 결정적 ( ) 조언적 ( ) 준비적
A.5 연간 처리 지원자 수: [……]
A.6 EU 소재 지원자 존재: ( ) 예 ( ) 아니오
A.7 귀사 역할: ( ) 배포자 ( ) 공급자 ( ) 간주 공급자(제25조)
파트 B — 위험 등급과 의무
B.1 고용 및 근로자 관리는 부속서 III에 속하며 원칙적으로 고위험이다.
B.2 예외(제6조(3)) — 시스템이 결과에 실질적 영향을 주지 않는 경우에만
주장 가능. 그러나 시스템이 지원자를 프로파일링하면 예외는 적용되지
않는다. 상당수의 이력서 순위화·점수화가 프로파일링이다.
B.2.A 시스템이 지원자를 프로파일링하는가? ( ) 예 -> 예외 없음 ( ) 아니오
B.2.B 예외에 의존한다면 서면 근거를 첨부했는가? ( ) Y ( ) N
B.3 배포자 의무(제26조):
B.3.A 이용지침에 따른 사용 ( )
B.3.B 역량 있고 훈련된 사람의 감독 배정 ( )
B.3.C 관련성 있고 충분히 대표성 있는 입력 데이터 ( )
B.3.D 시스템 로그 보관 ( )
B.3.E 영향받는 근로자와 그 대표에게 정보 제공 ( )
B.3.F 중대 사고와 위험 보고 ( )
B.4 기본권 영향평가(FRIA — 제27조):
( ) 필요 ( ) 불필요 — 근거: [……]
파트 C — 데이터 보호
C.1 법적 근거: [……]
(고용에서 동의는 다툼이 있다. 자유롭게 주어졌는지 다툴 수 있다.)
C.2 지원자에게 AI 사용과 그 단계를 고지하는가?
( ) Y ( ) N (GDPR 제13–14조)
C.3 완전 자동화된 결정이 있는가? ( ) 예 ( ) 아니오
있다면 GDPR 제22조: 사람의 개입, 견해 표명, 이의제기.
C.4 시스템이 건강·장애·인종을 간접 추론하는가?
( ) Y ( ) N (영상·음성 분석에 이 위험이 있음)
C.5 지원자 데이터 보관기간: [……]
C.6 DPIA 수행? ( ) Y ( ) N
파트 D — 차별 위험 테스트
D.1 평등 대우: 차별은 시스템의 의도가 아니라 효과에서 생긴다.
D.2 간접 차별 — 보호 속성의 대리변수:
D.2.A 주소/우편번호 ( ) 사용 중
D.2.B 출신 학교 ( ) 사용 중
D.2.C 경력 공백(육아휴직) ( ) 사용 중
D.2.D 사진·영상·음성 ( ) 사용 중
D.2.E 이름 ( ) 사용 중
D.2.F 연령 또는 졸업 연도 ( ) 사용 중
D.3 결과 차이 측정(합격률):
집단 구분 | 지원 | 합격 | 비율 | 차이
[……] | | | |
[……] | | | |
D.3.A 측정 기간: [……]
D.3.B 유의한 차이 발견 시 취한 조치: [……]
D.4 과거 채용 결정으로 학습되었다면 과거 불균형을 학습했을 수 있다.
확인? ( ) Y ( ) N
파트 E — 사람의 감독
E.1 최종 결정을 하는 사람: [……]
E.2 그 사람이 권고를 번복할 수 있는가? ( ) Y ( ) N
E.3 최근 [기간] 동안 번복된 사례: [……]
(0에 가까운 수치는 감독이 명목적이 되었음을 시사한다.)
E.4 감독자가 시스템의 한계에 대해 훈련받았는가? ( ) Y ( ) N
E.5 탈락 지원자의 서류를 사람이 보는가? ( ) Y ( ) N
파트 F — 지원자 고지(예시)
"귀하의 지원서 초기 선별 단계에서 AI 보조 [시스템 유형]을 사용합니다. 이는
[기준]에 따라 지원서를 평가하여 권고를 산출합니다. 최종 결정은 [부서]가
하며 권고만으로 결정되지 않습니다. 귀하의 개인정보는 [법적 근거]에 따라
처리되어 [기간] 보관됩니다. 귀하는 사람에 의한 검토를 요구하고, 견해를
표명하며, 결정에 이의를 제기할 권리가 있습니다. 문의: [……]"
F.1 채용 공고/지원서에 게시? ( ) Y ( ) N
파트 G — 결정과 서명
G.1 ( ) 승인 ( ) 조건부 승인 ( ) 불승인
G.2 조건/근거(필수): [……]
G.3 차기 검토일: [……]
서명: 평가자(HR) / 개인정보 보호책임자 / 법률 검토 / 승인자
이 양식은 일반적이며 법률 자문을 구성하지 않습니다.
고용 및 근로자 관리는 부속서 III에 속하므로 그 분야에 쓰이는 시스템은 원칙적으로 고위험입니다. 제6조(3)은 협소한 예외를 두지만, 시스템이 지원자를 프로파일링하면 예외가 닫힙니다 — 상당수의 이력서 순위화·점수화가 이에 해당합니다.
투명성 의무상 지원자는 데이터가 어떻게 처리되는지, AI가 관여하는지와 어느 단계인지 알아야 합니다. 배포자 의무는 추가로 영향받는 근로자와 그 대표에게 정보 제공을 요구합니다.
있을 수 있습니다. 차별은 효과에서 생깁니다. 우편번호·학교·경력 공백·사진·이름이 보호 속성을 간접 반영할 수 있으므로, 집단 간 합격률 차이를 측정해야 합니다.
감독이 실질적일 때만 그렇습니다. 실무에서 권고가 결코 번복되지 않는다면 감독이 명목적이라고 평가될 수 있습니다 — 그래서 양식이 번복 횟수를 묻습니다.
고위험 의무의 적용일은 연기되었습니다. 그러나 데이터 보호와 고용법 의무는 오늘 적용되며 실질적으로 같은 기록을 요구하므로, 준비까지 연기되는 것은 아닙니다.
20분 사전 상담에서 사용하는 도구를 보고 프로파일링 판단과 측정 구분을 정합니다. 노출이 낮다면 그 점도 분명히 말씀드립니다.
온라인 상담 예약하기 상담은 온라인 · 템플릿은 어느 쪽이든 무료