法律が実際に要求すること
NYCローカル法144は2023年7月に施行されました。これは、NYCの職に応募者をスクリーニングするための自動化された雇用決定ツールを使用するすべての雇用主に適用されます。リモートロールがNYCオフィスに関連している場合も含まれます。この法律は、独立した監査人による年次バイアス監査、雇用主のウェブサイトでの監査結果の公表、AIが使用されていることの候補者への通知、そして要求があった場合の候補者のための代替プロセスを義務付けています。消費者と労働者の保護局がこれを施行し、違反ごとに、1日あたり500ドルから1,500ドルの民事罰が科されます。
EU AI法は2024年に確定し、雇用AIを附属書IIIの下で「高リスク」と分類しています。高リスクシステムは、技術文書基準を満たし、意味のある人間の監視を可能にし、精度と堅牢性のベンチマークを達成し、展開前に労働者の代表者に通知する必要があります。附属書IIIシステムの完全な義務は2026年8月2日に施行されます。
両法は一つの核心的な要求を共有しています: AIの決定は説明可能で監査可能でなければなりません。特定の候補者について、AIがどのようにスコアを与えたのかを説明できる必要があります。それが、ほとんどのレガシーATSプラットフォームが満たせない基準です。
なぜレガシーATSは説明可能性テストに失敗し続けるのか
ほとんどのレガシーATSプラットフォーム - Greenhouse、Lever、Workable、Ashby、Manatal - は、内部で何らかの形式のキーワードベースのマッチングを使用しています。ブールトークンの抽出、TF-IDFスコアリング、埋め込みベースのセマンティック類似性。これらの手法は計算的に簡単です。また、平易な英語で監査するのは難しいです。
ATSが候補者Aが82ポイント、候補者Bが47ポイントと伝えても、どちらのシステムもその理由を人間の言葉で説明できません。理由は浮動小数点のベクトルや重み付けされたキーワードのマッチにあります。候補者が「なぜ私は選考から外されたのか」と尋ねると、正当な回答はありません。監査人が「この保護されたクラスの決定ロジックを見せて」と尋ねると、統計的にサンプリングすることしかできません。
レガシーATSを監査に対して脆弱にする3つの構造的失敗があります:
- ブラックボックススコア。 物語のない数値は説明ではありません。候補者はそれに異議を唱えることができず、監査人はそれを検証できません。
- ボキャブラリードリフトバイアス。 キーワードマッチングは、JDとは異なる語彙を使用する履歴書の候補者を体系的に罰します - これは非伝統的な背景や代表されていないグループと相関します。
- 決定ごとの監査トレイルがない。 ほとんどのシステムはスコアが生成されたことを記録しますが、何がそれを駆動したのかは記録しません。そのギャップがコンプライアンス問題の核心です。
説明可能なランク付けについてAmazonで学んだこと
2024年にCurriculoATSを設立する前に、私たちの創設者Devは、Amazonで検索と推奨のためのランキングシステムを構築しました - これは履歴書スクリーニングと同じ問題のクラスです。CurriculoATSの構築方法を形作った教訓は、説明可能なAIがバズワードになる何年も前に、Amazonの推奨チームが追求した研究方向から来ました: なぜランク付けされたのかを説明できないランカーは、最終的には間違ったランクを付けることになり、それを捕まえることはできません。
その解決策は、化粧的なものではなく構造的なものです。全てのスコアは、人間が数秒で読んで基盤となる証拠に照らし合わせて確認できる理由の段落とペアにならなければなりません。採用において、その段落はモデルが確認した定量化された実績、重視した経験関連の信号、特定したキャリア軌道パターン、そして見つけたスキルの整合性の証拠を名前で示します。また、何が欠けていたのかも記載されます。当社のインパクトスコアリングビューで段落を読む採用マネージャーは、10秒で誤った判断を覆すことができます。集団をレビューする監査人は、各決定が合法の職務関連の信号に基づいて行われたことを確認でき、保護された属性の代理ではありません。これは、NYCローカル法144とEU AI法附属書IIIが実際に要求するアーキテクチャです。ほとんどのレガシーATSプラットフォームは、キーワードパイプラインの上にAIを取り付けましたが、私たちはスコアリング自体に説明可能性を組み込みました。
実際のNYCローカル法144監査のコストと内容
創業者は、バイアス監査が必要であると気づくと、2つの質問をします: それはどれくらいのコストがかかるのか、監査人は実際に何を見るのか。NYCにおけるAEDTに対する独立したバイアス監査は通常5,000ドルから25,000ドルの範囲で、ツールの複雑さ、候補者データセットのサイズ、および監査人がレガシーATSからカスタムログを取り込む必要があるかどうかによって異なります。
監査は、AEDTが決定に影響を与えた各ステージ（初期スクリーニング、スコアリング、面接への進展）での保護されたカテゴリー（人種、民族、性別）にわたる選択率を調査します。監査人は影響比率を計算し、選択率が最も高いスコアリンググループの80%未満に落ち込むグループをフラグ付けします - これは1978年からEEOCが雇用決定に適用している標準の「四分の五のルール」です。
監査報告書は、雇用主が自社のウェブサイトに掲載しなければならない公的文書となり、候補者にはAEDTが使用される前に通知が提供されます。監査に失敗した場合、自動的に罰則が発生するわけではありませんが、雇用主には、異なる影響を是正するか、そのツールの使用を停止する義務があります。私たちがレビューした2024-2025年の公表された監査のほとんどは、法的に許容される範囲内の影響比率を見つけましたが、重要なサブセットは、ベンダーが内部QAで見逃した技術的役割のスクリーニングにおける性別に基づく格差を示しました。
構造的な修正は、説明可能性が要求するものと同じです: 決定ごとのログ記録を行い、監査人が集団をサンプリングし、特定のスコア入力に対する影響を追跡できるようにします。理由付けがない集計スコアのみを生成するツールは、分析を完了することができないことが多く、これは本身が失敗モードです。
この四半期に創業者がすべきこと
NYCの候補者を採用するか、2026年8月以降にEUの候補者を採用する予定がある場合、コンプライアンスを年間レビューの項目ではなく90日プロジェクトとして扱ってください。具体的な5つのステップ:
- AIサーフェスのインベントリーを作成する。 候補者スコア、ランキング、または推薦を生成するすべてのツールをリストにしてください: ATS、ソーシングツール、評価プラットフォーム、AI面接者。そのすべてが対象です。
- 説明可能性を確認する。 各ツールについて、ベンダーに尋ねてください: 特定の候補者が特定の方法でスコアを付けられた理由を、人間が読める形で要求に応じて生産できますか？「それはアルゴリズムにあります」は回答ではありません。
- バイアス監査をスケジュールする。 NYCでAEDTを使用している場合、法律により独立した監査人による年次監査が要求されます。監査コストは通常5,000ドルから25,000ドルの範囲で、ツールの複雑さとデータセットのサイズによって異なります。予算を組んでください。
- 候補者への通知と代替プロセスを追加する。 通知は、応募ページに単一の文で提供できます: 「この役割では初期レビューの支援のために自動化ツールを使用します。」代替プロセスは、候補者が人間のみのレビューを要求するために使用できる連絡先メールが含まれます。
- 人間の介入を文書化する。 両法は、形式的な承認ではなく意味のある人間の監視を期待しています。採用マネージャーが各AI推薦を受け入れるまたは覆す瞬間をキャプチャしてください。CurriculoATSはデフォルトでこれをログに記録します; レガシーATSの場合、これを追加する必要があるかもしれません。