算法公正招聘与基于结果的信号

2026年4月11日

开发

招聘 AI 已不再是一个无监管的前沿。纽约市地方法第144条要求对自动化就业决策工具进行独立的偏见审计。欧盟 AI 法案将就业 AI 分类为高风险，并要求透明度、人为监督和可审计性。加利福尼亚州、伊利诺伊州和科罗拉多州均已引入相关立法。

使用传统 ATS 平台的公司正面临日益增加的风险。这不是因为招聘中的 AI 本质上不安全，而是因为大多数传统工具并不是为了可审计而设计的。

关键词匹配为何无法满足现代合规性

每个传统 ATS（Greenhouse、Lever、Workable、Ashby、Manatal）在底层都使用某种形式的基于关键词的匹配。布尔标记提取、TF-IDF 评分或基于嵌入的语义相似性。这三种方法都有一个基本问题：决策是不透明的。

当基于关键词的 ATS 告诉您一位候选人得分72而另一位得分58时，其推理存在于浮点向量和标记权重中。招聘人员无法用简单的英语解释差异。审计人员只能进行统计抽样。候选人无法得知他们被拒绝的原因。

现代合规性期望可解释性。纽约市地方法第144条要求雇主通知和替代流程。欧盟 AI 法案列出了高风险就业 AI 的透明度要求。黑箱关键词过滤器从结构上无法满足这些要求。

对抗性脆弱性

关键词匹配还存在第二个合规性问题：它在结构上容易受到对抗性简历污染的影响。了解过滤规则的候选人会在隐藏的白色文本、重复的项目符号或虚假的技能部分中注入关键词，以操控分数。这使得结果偏向于那些了解系统的候选人，而不是那些履行工作的候选人。

当对一个被关键词污染的候选池进行保护类别分析时，您会得到误导性的结果。系统看起来是公平的，因为每个人都有相同的机会去操控，但成功的候选人是那些弄清楚游戏规则的人。这是一种不同且更微妙的不公正。

基于结果的 AI 如何改变合规局面

基于结果的 AI 阅读简历以获得可衡量的结果，而不是关键词的存在。Curriculo 的模型评估四类信号：

对于每位候选人，CurriculoATS 产生两个文档：一个0-100的适配分数和一个 完整的书面推理段落。该段落明确指出哪些结果符合工作要求，以及候选人在哪些方面不符合。

示例：“候选人得分84。在‘交付的系统’信号上强烈匹配：领导了处理每秒200万个事件的欺诈检测管道迁移。‘团队范围’上部分匹配：管理了3个直接报告，持续18个月。没有明确的收入影响证据。简历缺乏对最近角色的具体阐述，因此分数受限。”

这种架构满足了黑箱关键词匹配未能满足的三个结构要求：

1. 可解释性

每个决策都有书面解释。招聘人员可以阅读。审计人员可以进行抽样。候选人可以被告知他们为何被评分。当纽约市地方法第144条要求候选人知晓 AI 筛选并提供替代方案时，书面推理使得这一对话成为可能。

2. 可审计性

基于结果的系统的统计偏见审计可以检查得分和推理。审计人员可以在保护类别人群中阅读100个推理段落，验证 AI 为每组引用了相同的信号类别。在基于关键词的审计中显示为“未解释得分差异”的偏见，在基于结果的审计中表现为“对不同组引用不同信号的推理”。

3. 对抗性抵抗

隐藏的白色文本关键词投放对基于结果的模型毫无信号贡献。写出具体、准确描述实际结果的候选人会得高分。试图操控过滤器的候选人则不会。这减少了有利于那些学会操控传统 ATS 过滤器的候选人的特定不公。

您应该了解的具体法律

纽约市地方法第144条（2023）

适用于任何使用自动化就业决策工具（AEDTs）筛选纽约市工作的雇主。要求：

• 由独立审计员进行年度偏见审计
• 公开审计摘要
• 候选人通知使用 AI 的情况（在使用 AEDT 前至少10个工作日）
• 为请求的候选人提供替代流程

执法：纽约市消费者与工人保护部门。每次违规的罚款从 500 美元起，并逐步增加。

欧盟 AI 法案（2024）

适用于所有影响欧盟候选人或在欧盟运营的雇主的 AI 系统。将就业 AI 分类为 高风险，要求：

• 整个生命周期的风险管理系统
• 高质量的培训数据
• 向用户和受影响人员提供透明度和可解释性
• 对决策进行人工监督
• 坚固性、准确性和网络安全

执法：在2025-2027年期间逐步实施。罚款高达全球年营业额的7%或3500万欧元，以较高者为准。

我们不声称具体的监管认证。合规性始终需要在每次部署背景下进行独立审计，且每年更新。我们可以说的是，该架构旨在通过审计而非对抗。

CurriculoATS 如何设计以满足可审计性

• 每个分数都有书面理由。每个 0-100 的适配分数都有一个简单英文的段落进行解释。默认情况下创建审计踪迹。
• 基于结果的信号类别。该模型接受训练以评估四个结构化类别（收入、团队、系统、问题），而非任意的标记权重。审计人员可以验证模型正在使用期望的信号。
• 内置人工监督。CurriculoATS 增强招聘人员的决策，而不是取代他们。招聘人员可以看到分数和推理，并可以覆盖任何一项。该 ATS 从未独立做出招聘决定。
• 候选人通知支持。书面推理可以与询问为何被评分的候选人分享。

您应该实际做什么

如果您在纽约市、加利福尼亚州、伊利诺伊州、马里兰州、科罗拉多州或针对欧盟候选人招聘，您需要一个招聘中的 AI 合规计划。核心步骤：

1. 清点您使用的每个启用 AI 的招聘工具。大多数 ATS 平台使用某种形式的自动评分。
2. 通过第三方合规公司安排独立的偏见审计。纽约市地方法第144条要求每年进行。
3. 在需要的地方发布审计摘要。
4. 通知候选人 AI 筛选的情况，并在申请时提供替代流程。
5. 确保决策中内置人工监督。绝不要单靠 AI 分数来拒绝候选人。

对于新的 ATS 决策，基于结果的系统和书面推理在结构上比基于关键词的系统更容易审计。CurriculoATS 为此而构建。免费计划 可用，无需信用卡，所以您可以在做出任何承诺之前自行评估 AI 推理在您候选人中的表现。

相关资源

• AI 简历筛选，基于信号的方法论
• 影响评分，0-100 分数的生成方式
• 基于信号的招聘，深入方法论
• ATS 筛选中的 AI 偏见