Contratación Justa Algorítmica y Señales Basadas en Resultados

11 de abril de 2026

Dev

Contratar con IA ya no es una frontera no regulada. La Ley Local 144 de la ciudad de Nueva York requiere auditorías de sesgo independientes para herramientas automatizadas de decisión de empleo. La Ley de IA de la UE clasifica la IA en el empleo como de alto riesgo y exige transparencia, supervisión humana y auditabilidad. California, Illinois y Colorado han introducido legislación relacionada.

Las empresas que utilizan plataformas ATS heredadas están cada vez más expuestas. No porque la IA en la contratación sea inherentemente insegura, sino porque la mayoría de las herramientas heredadas no fueron diseñadas para ser auditables.

Por qué la coincidencia de palabras clave falla en el cumplimiento moderno

Cada ATS heredado (Greenhouse, Lever, Workable, Ashby, Manatal) utiliza alguna forma de coincidencia basada en palabras clave en su funcionamiento interno. Extracción de tokens booleanos, puntuación TF-IDF o similitud semántica basada en embeddings. Los tres métodos comparten un problema fundamental: la decisión es opaca.

Cuando un ATS basado en palabras clave te dice que un candidato obtuvo 72 y otro 58, el razonamiento vive en vectores de punto flotante y pesos de tokens. Los reclutadores no pueden explicar la diferencia en términos sencillos. Los auditores solo pueden muestrear estadísticamente. No se puede decir a los candidatos por qué fueron rechazados.

El cumplimiento moderno espera explicabilidad. La Ley Local 144 de NYC requiere notificación al empleador y procesos alternativos. La Ley de IA de la UE menciona requisitos de transparencia para la IA en el empleo de alto riesgo. Los filtros de palabras clave de caja negra no pueden cumplir con estos requisitos estructuralmente.

La vulnerabilidad adversarial

La coincidencia de palabras clave tiene un segundo problema de cumplimiento: es estructuralmente vulnerable al envenenamiento de currículos adversariales. Los candidatos que conocen las reglas del filtro inyectan palabras clave en texto blanco oculto, puntos de viñeta repetidos o secciones de habilidades falsas para manipular la puntuación. Esto sesga los resultados hacia candidatos que han aprendido el sistema, no hacia candidatos que han hecho el trabajo.

Cuando un análisis de clase protegida se realiza sobre un conjunto de candidatos envenenados por palabras clave, obtienes resultados confusos. El sistema parece justo porque todos tienen la misma oportunidad de manipularlo, pero los candidatos que tienen éxito son aquellos que han descubierto el truco. Esta es una injusticia diferente y más sutil.

Cómo la IA basada en resultados cambia el panorama del cumplimiento

La IA basada en resultados lee currículos en busca de resultados medibles en lugar de la presencia de palabras clave. El modelo de Curriculo evalúa cuatro categorías de señales:

Para cada candidato, CurriculoATS produce dos artefactos: una puntuación de ajuste de 0 a 100 y un párrafo de razonamiento escrito completo. El párrafo menciona explícitamente qué resultados coincidieron con los requisitos del trabajo y dónde el candidato no cumplió.

Muestra: “El candidato obtuvo 84. Fuerte alineación en la señal de ‘sistemas enviados’: lideró la migración del canal de detección de fraude manejando 2M eventos/seg en producción. Alineación parcial en ‘alcance del equipo’: administró 3 informes directos durante 18 meses. No hay evidencia clara del impacto en ingresos. El currículum carece de especificidad sobre el papel reciente, lo cual limitó la puntuación.”

Esta arquitectura satisface tres requisitos estructurales que la coincidencia de palabras clave de caja negra no cumple:

1. Explicabilidad

Cada decisión tiene una explicación escrita. Los reclutadores pueden leerla. Los auditores pueden muestrearla. Se puede informar a los candidatos por qué fueron puntuados de la manera en que lo fueron. Cuando la Ley Local 144 de NYC requiere que se informe a los candidatos sobre la selección por IA y se les ofrezcan alternativas, el razonamiento escrito hace posible esa conversación.

2. Auditabilidad

Una auditoría de sesgo estadístico en un sistema basado en resultados puede examinar tanto las puntuaciones COMO el razonamiento. Los auditores pueden leer 100 párrafos de razonamiento a través de una población de clase protegida y verificar que la IA cite las mismas categorías de señales para cada grupo. El sesgo que aparece como “varianza de puntuación inexplicada” en una auditoría basada en palabras clave se vuelve visible como “razonamiento que hace referencia a señales diferentes para distintos grupos” en una auditoría basada en resultados.

3. Resistencia adversarial

Los volcaduras de palabras clave en texto blanco oculto añaden cero señal a los modelos basados en resultados. Los candidatos que escriben descripciones específicas y precisas de sus resultados reales obtienen buenas puntuaciones. Los candidatos que intentan manipular el filtro no lo logran. Esto reduce el tipo específico de injusticia que beneficia a los candidatos que aprendieron a manipular los filtros ATS heredados.

Las leyes específicas que debes conocer

Ley Local 144 de NYC (2023)

Se aplica a cualquier empleador que utilice herramientas automatizadas de decisión de empleo (AEDTs) para seleccionar candidatos para trabajos en NYC. Requiere:

• Auditorías anuales de sesgo por un auditor independiente
• Divulgación pública del resumen de la auditoría
• Notificación al candidato de que se está utilizando IA (mínimo 10 días hábiles antes del uso de AEDT)
• Procesos alternativos para los candidatos que lo soliciten

Cumplimiento: Departamento de Protección al Consumidor y Trabajador de NYC. Las multas comienzan en $500 por violación y aumentan.

Ley de IA de la UE (2024)

Se aplica a cualquier sistema de IA utilizado para decisiones de contratación que afecten a candidatos de la UE o a empleadores que operen en la UE. Clasifica la IA en el empleo como de alto riesgo, exigiendo:

• Sistemas de gestión de riesgos a lo largo del ciclo de vida
• Datos de entrenamiento de alta calidad
• Transparencia y explicabilidad para los usuarios y las personas afectadas
• Supervisión humana de las decisiones
• Robustez, precisión y ciberseguridad

Cumplimiento: fase de implementación entre 2025-2027. Multas de hasta el 7% de la facturación anual global o €35 millones, lo que sea mayor.

No afirmamos tener certificaciones regulatorias específicas. El cumplimiento siempre requiere una auditoría independiente en el contexto de cada implementación, renovada anualmente. Lo que podemos decir es que la arquitectura está diseñada para pasar una auditoría en lugar de luchar contra una.

Cómo CurriculoATS está diseñado para la auditabilidad

• Razonamiento escrito para cada puntuación. Cada puntuación de ajuste de 0 a 100 viene con un párrafo en inglés sencillo que lo explica. Crea un rastro de auditoría por defecto.
• Categorías de señales basadas en resultados. El modelo está entrenado para evaluar cuatro categorías estructuradas (ingresos, equipo, sistemas, problemas) en lugar de pesos de tokens arbitrarios. Los auditores pueden verificar que el modelo esté utilizando señales esperadas.
• Supervisión humana incorporada. CurriculoATS aumenta las decisiones de los reclutadores, no las reemplaza. Los reclutadores ven la puntuación y el razonamiento, y pueden anular cualquiera de los dos. El ATS nunca toma una decisión de contratación de manera autónoma.
• Soporte para notificación al candidato. El razonamiento escrito puede ser compartido con los candidatos que preguntan por qué fueron puntuados de la manera en que lo fueron.

Lo que realmente deberías hacer

Si contratas en NYC, California, Illinois, Maryland, Colorado, o para candidatos de la UE, necesitas un plan de cumplimiento de IA en contrataciones. Pasos clave:

1. Inventaria cada herramienta de contratación habilitada por IA que uses. La mayoría de las plataformas ATS utilizan alguna forma de puntuación automatizada.
2. Organiza una auditoría de sesgo independiente a través de una firma de cumplimiento de terceros. Anualmente para la Ley Local 144 de NYC.
3. Publica el resumen de la auditoría donde se requiera.
4. Notifica a los candidatos sobre la selección por IA y proporciona procesos alternativos cuando se soliciten.
5. Asegúrate de que se incorpore la supervisión humana en las decisiones. Nunca dependas únicamente de las puntuaciones de IA para rechazar candidatos.

Para nuevas decisiones de ATS, un sistema basado en resultados con razonamiento escrito es estructuralmente más fácil de auditar que uno basado en palabras clave. CurriculoATS fue construido para esto. El plan gratuito está disponible sin necesidad de tarjeta de crédito, para que puedas evaluar el razonamiento de IA sobre tus propios candidatos antes de hacer cualquier compromiso.

Recursos relacionados

• Selección de Currículos por IA, la metodología basada en señales
• Puntuación de Impacto, cómo se generan las puntuaciones de 0 a 100
• Contratación Basada en Señales, metodología en profundidad
• Sesgo de IA en la Selección por ATS