알고리즘 공정 채용 및 결과 기반 신호

2026년 4월 11일

Dev

AI 채용은 더 이상 규제되지 않은 최전선이 아닙니다. 뉴욕시 지역 법 144는 자동화된 고용 결정 도구에 대한 독립적인 편향 감사를 요구합니다. EU AI 법은 고용 AI를 고위험으로 분류하고 투명성, 인간 감독 및 감사 가능성을 요구합니다. 캘리포니아, 일리노이, 콜로라도는 관련 법안을 도입했습니다.

레거시 ATS 플랫폼을 사용하는 회사들은 점점 더 노출되고 있습니다. AI 채용이 본질적으로 안전하지 않아서가 아니라, 대부분의 레거시 도구가 감사 가능하도록 설계되지 않았기 때문입니다.

왜 키워드 매칭이 현대 규정을 실패하게 하는가

모든 레거시 ATS(Greenhouse, Lever, Workable, Ashby, Manatal)는 키워드 기반 매칭의 형태를 사용합니다. 부울 토큰 추출, TF-IDF 평가 또는 임베딩 기반 의미 유사성. 이 세 가지 방법 모두 근본적인 문제를 공유합니다: 결정이 불투명하다.

키워드 기반 ATS가 하나의 후보가 72점, 다른 후보가 58점이라고 말할 때, 그 이유는 부동 소수점 벡터와 토큰 가중치에 있습니다. 채용 담당자는 그 차이를 쉽게 설명할 수 없습니다. 감사자는 통계적으로 샘플링할 수 있습니다. 후보자는 왜 거절되었는지 설명받을 수 없습니다.

현대의 규정 준수는 설명 가능성을 기대합니다. NYC 지역 법 144는 고용주 알림 및 대체 프로세스를 요구합니다. EU AI 법은 고위험 고용 AI에 대한 투명성 요구 사항을 언급합니다. 블랙 박스 키워드 필터는 구조적으로 이러한 요구 사항을 충족할 수 없습니다.

적대적 취약성

키워드 매칭은 두 번째 규정 준수 문제를 가지고 있습니다: 구조적으로 적대적 이력서 오염에 취약합니다. 필터 규칙을 아는 후보자는 숨겨진 흰색 텍스트, 반복된 글머리 기호 또는 가짜 기술 섹션에 키워드를 주입하여 점수를 조작합니다. 이는 시스템을 숙지한 후보자에게 결과를 편향시키며, 실제로 일을 한 후보자를 편향시킵니다.

보호 계층 분석이 키워드로 오염된 후보 풀에서 실행될 때, 잘못된 결과를 얻게 됩니다. 시스템은 모든 사람이 이를 조작할 수 있는 동일한 기회를 가지므로 공정해 보이지만, 성공하는 후보는 게임을 잘 아는 후보자들입니다. 이것은 다른, 더 미묘한 불공정함입니다.

결과 기반 AI가 규정 준수 그림을 어떻게 변화시키는가

결과 기반 AI는 키워드 존재가 아니라 측정 가능한 결과를 위해 이력서를 읽습니다. Curriculo의 모델은 네 가지 신호 카테고리를 평가합니다:

모든 후보에 대해, CurriculoATS는 두 개의 결과물을 생성합니다: 0-100 적합 점수와 전체 서면 이유 단락. 이 단락은 어떤 결과가 직무 요구사항과 일치했으며, 후보가 어디서 부족했는지를 명시적으로 언급합니다.

샘플: “후보는 84점을 받았습니다. ‘전송된 시스템’ 신호에 강한 정렬: 초당 200만 이벤트를 처리하는 사기 탐지 파이프라인의 마이그레이션을 주도했습니다. ‘팀 스코프’에 대해 부분 정렬: 18개월 동안 3명의 직속 보고자를 관리했습니다. 수익 영향에 대한 명확한 증거가 없습니다. 최근 역할에 대한 구체성이 부족하여 점수가 제한되었습니다.”

이 아키텍처는 블랙 박스 키워드 매칭이 실패하는 세 가지 구조적 요구 사항을 충족합니다:

1. 설명 가능성

모든 결정에는 서면 설명이 있습니다. 채용담당자는 이를 읽을 수 있습니다. 감사자는 이에 대한 샘플을 볼 수 있습니다. 후보자는 점수가 매겨진 이유를 설명받을 수 있습니다. NYC 지역 법 144가 후보자에게 AI 스크리닝 및 대안을 제공해야 한다고 요구할 때, 서면 이유는 그 대화를 가능하게 만듭니다.

2. 감사 가능성

결과 기반 시스템에 대한 통계적 편향 감사는 점수와 이유를 모두 검토할 수 있습니다. 감사자는 보호된 계층 인구에 걸쳐 100개의 이유 단락을 읽고 AI가 각 그룹에 대해 동일한 신호 카테고리를 인용하고 있는지 검증할 수 있습니다. 키워드 기반 감사에서 “설명되지 않은 점수 변동”으로 나타나는 편향은 결과 기반 감사에서 “다른 그룹을 위한 다른 신호를 참조하는 이유”로 가시화됩니다.

3. 적대적 저항

숨겨진 흰색 텍스트 키워드 덤프는 결과 기반 모델에 신호를 추가하지 않습니다. 자신의 실제 결과를 특정하고 정확하게 설명한 후보자는 좋은 점수를 받습니다. 필터를 조작하려고 시도하는 후보자는 점수를 잘 받지 않습니다. 이는 레거시 ATS 필터를 조작하는 법을 배운 후보자에게 유리한 특정한 불공정함을 줄입니다.

알아야 할 구체적인 법

NYC 지역 법 144 (2023)

NYC 직업을 위해 후보자를 스크리닝하는 자동화된 고용 결정 도구(AEDT)를 사용하는 모든 고용주에게 적용됩니다. 요구 사항:

• 독립 감사인에 의한 연례 편향 감사
• 감사 요약의 공개 발표
• AI 사용에 대한 후보자 알림 (AEDT 사용 전 최소 10영업일)
• 요청하는 후보자에게 대체 프로세스 제공

집행: NYC 소비자 및 노동자 보호부. 위반당 벌금은 500달러에서 시작하여 증가합니다.

EU AI 법 (2024)

EU 후보자 또는 EU에서 운영 중인 고용주에게 영향을 미치는 고용 결정에 사용되는 모든 AI 시스템에 적용됩니다. 고용 AI를 고위험으로 분류하며, 요구 사항:

• 수명 주기 전반에 걸친 위험 관리 시스템
• 고품질 훈련 데이터
• 사용자와 영향을 받는 인원에 대한 투명성 및 설명 가능성
• 결정에 대한 인간 감독
• robustness, 정확성 및 사이버 보안

집행: 2025-2027년 동안 단계적으로 시행됩니다. 벌금은 전 세계 연간 매출액의 최대 7% 또는 3,500만 유로, 둘 중 높은 금액입니다.