Lo que realmente requieren las leyes
La Ley Local 144 de NYC entró en vigor en julio de 2023. Se aplica a cualquier empleador que utilice herramientas automatizadas de decisión de empleo para evaluar candidatos a trabajos en NYC, incluyendo roles remotos vinculados a una oficina de NYC. La ley requiere una auditoría anual de sesgo por un auditor independiente (los proveedores no pueden auditar sus propias herramientas), divulgación pública de los resultados de la auditoría en el sitio web del empleador, notificación a los candidatos de que se está utilizando IA, y un proceso alternativo para los candidatos que lo soliciten. El Departamento de Protección al Consumidor y al Trabajador la hace cumplir, con sanciones civiles de $500–$1,500 por violación, por día.
La Ley de IA de la UE, finalizada en 2024, clasifica la IA de empleo como "de alto riesgo" bajo el Anexo III. Los sistemas de alto riesgo deben cumplir con estándares de documentación técnica, permitir supervisión humana significativa, alcanzar estándares de precisión y solidez, e informar a los representantes de los trabajadores antes de su implementación. Las obligaciones completas para los sistemas del Anexo III serán exigibles el 2 de agosto de 2026.
Ambas leyes comparten un requisito central: la decisión de la IA debe ser explicable y auditable. Debes poder decir, para cualquier candidato específico, por qué la IA les otorgó la puntuación que les dio. Ese es el estándar que la mayoría de las plataformas ATS heredadas no pueden cumplir.
Por qué los ATS heredados siguen fallando en la prueba de explicabilidad
La mayoría de las plataformas ATS heredadas — Greenhouse, Lever, Workable, Ashby, Manatal — utilizan algún tipo de coincidencia basada en palabras clave bajo el capó. Extracción de tokens booleanos, puntuación TF-IDF, similitud semántica basada en embeddings. Estos métodos son computacionalmente sencillos. También son difíciles de auditar en un lenguaje sencillo.
Si tu ATS te dice que el Candidato A obtuvo 82 y el Candidato B obtuvo 47, ninguno de los sistemas puede decirte en un lenguaje humano por qué. El razonamiento vive en vectores de punto flotante y coincidencias de palabras clave ponderadas. Cuando un candidato pregunta "¿por qué fui descartado?", no hay respuesta defensible. Cuando un auditor pregunta "muéstrame la lógica de decisión para esta clase protegida", solo puedes muestrear estadísticamente.
Tres fallas estructurales hacen que los ATS heredados sean frágiles para la auditoría:
- Calificaciones de caja negra. Un número sin narrativa no es una explicación. El candidato no puede impugnarlo; el auditor no puede validarlo.
- Sesgo de desalineación de vocabulario. La coincidencia de palabras clave penaliza sistemáticamente a los candidatos cuyos currículos utilizan un vocabulario diferente al del JD — lo que se correlaciona con antecedentes no tradicionales y grupos subrepresentados.
- Sin rastro de auditoría por decisión. La mayoría de los sistemas registran que se produjo una puntuación, no qué evidencia la condujo. Esa brecha es el corazón del problema de cumplimiento.
Lo que aprendimos en Amazon sobre clasificación explicable
Antes de fundar CurriculoATS en 2024, nuestro fundador Dev construyó sistemas de clasificación en Amazon para búsqueda y recomendaciones — la misma clase de problemas que la evaluación de currículos. La lección que dio forma a cómo construimos CurriculoATS provino de una dirección de investigación que los equipos de recomendación de Amazon persiguieron años antes de que "IA explicable" se convirtiera en una palabra de moda: un clasificador que no puede decirte por qué clasificó algo eventualmente clasificará mal, y no lo notarás.
La solución es estructural, no cosmética. Cada puntuación debe estar acompañada de un párrafo de razonamiento que un humano pueda leer en segundos y verificar contra la evidencia subyacente. Para la contratación, ese párrafo nombra los logros cuantificados que el modelo vio, las señales de relevancia de la experiencia que ponderó, el patrón de trayectoria profesional que identificó, y la evidencia de alineación de habilidades que encontró. También dice qué faltaba. Un gerente de contratación que lee el párrafo en nuestra vista de Puntuación de Impacto puede anular una decisión incorrecta en 10 segundos. Un auditor que revisa una población puede verificar que cada decisión se tomó con señales legítimas y relacionadas con el trabajo — no en proxies de atributos protegidos. Esa es la arquitectura que realmente exigen tanto la Ley Local 144 de NYC como el Anexo III de la Ley de IA de la UE. La mayoría de las plataformas ATS heredadas añadieron IA encima de los conductos de palabras clave. Nosotros incorporamos la explicabilidad en la puntuación misma.
Lo que cuesta y contiene una auditoría real de la Ley Local 144 de NYC
Los fundadores hacen dos preguntas cuando se dan cuenta de que necesitan una auditoría de sesgo: ¿cuánto cuesta y qué analiza realmente el auditor? Las auditorías independientes de sesgo para AEDTs en NYC generalmente oscilan entre $5,000 y $25,000 dependiendo de la complejidad de la herramienta, el tamaño del conjunto de datos de candidatos y si el auditor necesita ingerir registros personalizados de un ATS heredado.
La auditoría examina las tasas de selección en categorías protegidas (raza, etnicidad, género) en cada etapa donde el AEDT influyó en una decisión: cribado inicial, puntuación, avance a entrevista. El auditor calcula relaciones de impacto y señala cualquier grupo cuya tasa de selección caiga por debajo del 80% del grupo con la puntuación más alta — el estándar de "regla de cuatro quintos" que la EEOC ha aplicado a las decisiones de empleo desde 1978.
El informe de la auditoría se convierte en un documento público que el empleador debe publicar en su sitio web, con notificación a los candidatos proporcionada antes de que se utilice cualquier AEDT. Las auditorías fallidas no desencadenan automáticamente sanciones, pero obligan al empleador a remediar el impacto dispar o dejar de usar la herramienta. La mayoría de las auditorías publicadas de 2024-2025 que hemos revisado encontraron relaciones de impacto en el rango legalmente aceptable, pero un subconjunto significativo mostró disparidades de género en la selección de roles técnicos que los proveedores no detectaron en la QA interna.
La solución estructural es la misma que requiere la explicabilidad: registro de decisiones por cada decisión que permita al auditor muestrear poblaciones y rastrear el impacto a entradas de puntuación específicas. Las herramientas que producen solo puntuaciones agregadas sin razonamiento por decisión a menudo no pueden completar el análisis en absoluto, lo cual es un modo de falla en sí mismo.
Lo que los fundadores deberían hacer este trimestre
Si contratas candidatos de NYC o esperas contratar candidatos de la UE después de agosto de 2026, trata el cumplimiento como un proyecto de 90 días, no como un artículo de revisión anual. Cinco pasos concretos:
- Haz un inventario de tu superficie de IA. Enumera cada herramienta que produce una puntuación de candidato, clasificación o recomendación: ATS, herramientas de búsqueda, plataformas de evaluación, entrevistadores de IA. Todas están dentro del alcance.
- Verifica la explicabilidad. Para cada herramienta, pregunta al proveedor: ¿pueden producir, bajo demanda, una explicación legible por humanos de por qué se puntuó a un candidato específico de una manera específica? "Está en el algoritmo" no es una respuesta.
- Programa la auditoría de sesgo. Si usas AEDTs en NYC, la ley requiere una auditoría anual por un auditor independiente. El costo de la auditoría suele estar entre $5,000 y $25,000 dependiendo de la complejidad de la herramienta y del tamaño del conjunto de datos. Presupuéstate.
- Agrega notificación a los candidatos y proceso alternativo. La notificación puede ser una sola frase en tu página de solicitud: "Este papel utiliza herramientas automatizadas para ayudar con la revisión inicial." El proceso alternativo es un correo electrónico de contacto que los candidatos pueden usar para solicitar una revisión solo humana.
- Documenta la intervención humana. Ambas leyes esperan supervisión humana significativa, no un visto bueno automático. Captura el momento en que un gerente de contratación acepta o anula cada recomendación de IA. CurriculoATS registra esto por defecto; para los ATS heredados, es posible que debas integrarlo.