O que as leis realmente exigem
A Lei Local 144 de NYC entrou em vigor em julho de 2023. Ela se aplica a qualquer empregador que utilize ferramentas de decisão de emprego automatizadas para filtrar candidatos a empregos em NYC, incluindo funções remotas vinculadas a um escritório de NYC. A lei exige uma auditoria de viés anual por um auditor independente (fornecedores não podem auditar suas próprias ferramentas), divulgação pública dos resultados da auditoria no site do empregador, notificação ao candidato de que IA está sendo usada e um processo alternativo para candidatos que solicitarem um. O Departamento de Proteção ao Consumidor e ao Trabalhador a faz cumprir, com penalidades civis de $500 a $1.500 por violação, por dia.
A Lei de IA da UE, finalizada em 2024, classifica a IA de emprego como "de alto risco" sob o Anexo III. Sistemas de alto risco devem atender a padrões de documentação técnica, permitir supervisão humana significativa, alcançar benchmarks de precisão e robustez, e informar os representantes dos trabalhadores antes da implementação. As obrigações completas para sistemas do Anexo III tornam-se aplicáveis em 2 de agosto de 2026.
Ambas as leis compartilham um requisito central: a decisão da IA deve ser explicável e auditável. Você precisa ser capaz de dizer, para qualquer candidato específico, por que a IA o avaliou daquela forma. Esse é o padrão que a maioria das plataformas ATS legadas não consegue atender.
Por que as ATS legadas continuam falhando no teste de explicabilidade
A maioria das plataformas ATS legadas — Greenhouse, Lever, Workable, Ashby, Manatal — usa alguma forma de correspondência baseada em palavras-chave. Extração de tokens booleanos, pontuação TF-IDF, similaridade semântica baseada em embeddings. Esses métodos são computacionalmente simples. Eles também são difíceis de auditar em linguagem simples.
Se sua ATS lhe diz que o Candidato A recebeu 82 e o Candidato B recebeu 47, nenhum sistema pode lhe dizer em linguagem humana o porquê. O raciocínio vive em vetores de ponto flutuante e correspondências de palavras-chave ponderadas. Quando um candidato pergunta "por que fui eliminado", não há resposta defensável. Quando um auditor pergunta "mostre-me a lógica de decisão para esta classe protegida", você só pode fazer uma amostragem estatística.
Três falhas estruturais tornam as ATS legadas frágeis em auditorias:
- Resultados de caixa-preta. Um número sem narrativa não é uma explicação. O candidato não pode contestá-lo; o auditor não pode validá-lo.
- Viés de desvio de vocabulário. A correspondência de palavras-chave penaliza sistematicamente candidatos cujos currículos usam um vocabulário diferente do JD — o que está correlacionado com origens não tradicionais e grupos sub-representados.
- Sem trilha de auditoria por decisão. A maioria dos sistemas registra que uma pontuação foi produzida, não quais evidências a impulsionaram. Essa lacuna é o coração do problema de conformidade.
O que aprendemos na Amazon sobre classificação explicável
Antes de fundar o CurriculoATS em 2024, nosso fundador Dev construiu sistemas de classificação na Amazon para busca e recomendações — a mesma classe de problemas que a triagem de currículos. A lição que moldou como construímos o CurriculoATS veio de uma direção de pesquisa que as equipes de recomendação da Amazon perseguiram anos antes de "IA explicável" se tornar uma palavra da moda: um classificador que não pode lhe dizer por que classificou algo acabará classificando erroneamente, e você não perceberá.
A solução é estrutural, não cosmética. Cada pontuação deve ser acompanhada de um parágrafo de raciocínio que um humano possa ler em segundos e verificar contra as evidências subjacentes. Para contratações, esse parágrafo nomeia as conquistas quantificadas que o modelo viu, os sinais de relevância da experiência que ponderou, o padrão de trajetória de carreira que identificou e as evidências de alinhamento de habilidades que encontrou. Ele também indica o que estava faltando. Um gerente de contratação que lê o parágrafo em nossa visualização de Impact Scoring pode substituir uma decisão errada em 10 segundos. Um auditor que revisa uma população pode verificar se cada decisão foi baseada em sinais legítimos relacionados ao trabalho — não em proxies para atributos protegidos. Essa é a arquitetura que tanto a Lei Local 144 de NYC quanto o Anexo III da Lei da IA da UE realmente exigem. A maioria das plataformas ATS legadas acoplou a IA a pipelines de palavras-chave. Nós incorporamos a explicabilidade na própria pontuação.
O que uma auditoria real da Lei Local 144 de NYC custa e contém
Os fundadores fazem duas perguntas quando percebem que precisam de uma auditoria de viés: quanto custa e o que o auditor realmente analisa. Auditorias de viés independentes para AEDTs em NYC geralmente variam de $5.000 a $25.000, dependendo da complexidade da ferramenta, do tamanho do conjunto de dados de candidatos e se o auditor precisa ingerir logs personalizados de uma ATS legada.
A auditoria examina taxas de seleção em categorias protegidas (raça, etnia, gênero) em cada etapa em que o AEDT influenciou uma decisão: triagem inicial, pontuação, avanço para entrevista. O auditor calcula as taxas de impacto e sinaliza qualquer grupo cuja taxa de seleção fique abaixo de 80% do grupo com a maior pontuação — o padrão da "regra dos quatro quintos" que a EEOC aplica a decisões de emprego desde 1978.
O relatório da auditoria torna-se um documento público que o empregador deve publicar em seu site, com aviso ao candidato fornecido antes de qualquer AEDT ser utilizado. Auditorias falhadas não acionam automaticamente penalidades, mas obrigam o empregador a remediar o impacto dispar ou parar de usar a ferramenta. A maioria das auditorias publicadas de 2024-2025 que revisamos encontrou taxas de impacto na faixa legalmente aceitável, mas um subconjunto significativo mostrou disparidades baseadas em gênero na triagem de papéis técnicos que os fornecedores não capturaram na QA interna.
A correção estrutural é a mesma que a explicabilidade exige: registro por decisão que permite ao auditor amostrar populações e traçar o impacto a entradas específicas de pontuação. Ferramentas que produzem apenas pontuações agregadas sem raciocínio por decisão muitas vezes não podem concluir a análise, o que é uma falha em si.
O que os fundadores devem fazer neste trimestre
Se você contrata candidatos de NYC ou espera contratar candidatos da UE após agosto de 2026, trate a conformidade como um projeto de 90 dias, não como um item de revisão anual. Cinco etapas concretas:
- Faça um inventário da sua superfície de IA. Liste todas as ferramentas que produzem uma pontuação, classificação ou recomendação de candidatos: ATS, ferramentas de sourcing, plataformas de avaliação, entrevistadores de IA. Todas elas estão no escopo.
- Verifique a explicabilidade. Para cada ferramenta, pergunte ao fornecedor: você pode produzir, sob demanda, uma explicação legível por humanos de por que um candidato específico foi pontuado de uma determinada maneira? "Está no algoritmo" não é uma resposta.
- Agende a auditoria de viés. Se você usar AEDTs em NYC, a lei exige uma auditoria anual por um auditor independente. O custo da auditoria varia normalmente de $5.000 a $25.000, dependendo da complexidade da ferramenta e do tamanho do conjunto de dados. Orce isso.
- Adicione aviso ao candidato e processo alternativo. O aviso pode ser uma única frase na sua página de aplicação: "Esta função usa ferramentas automatizadas para auxiliar na revisão inicial." O processo alternativo é um email de contato que os candidatos podem usar para solicitar uma revisão apenas humana.
- Documente o humano no loop. Ambas as leis esperam supervisão humana significativa, não apenas carimbagem. Captura o momento em que um gerente de contratação aceita ou substitui cada recomendação de IA. O CurriculoATS registra isso por padrão; para ATS legadas, pode ser necessário adicionar isso.