Recrutement algorithmique équitable & signaux basés sur les résultats

11 avril 2026

Dev

L'IA de recrutement n'est plus une frontière non réglementée. La loi locale 144 de la ville de New York exige des audits de biais indépendants pour les outils automatisés de décision d'embauche. La loi de l'UE sur l'IA classe l'IA d'emploi comme hautement risquée et exige transparence, supervision humaine et auditabilité. La Californie, l'Illinois et le Colorado ont tous introduit une législation similaire.

Les entreprises qui utilisent des plateformes ATS héritées sont de plus en plus exposées. Non pas parce que l'IA dans le recrutement est intrinsèquement dangereuse, mais parce que la plupart des outils hérités n'ont pas été conçus pour être auditables.

Pourquoi la correspondance de mots-clés échoue face à la conformité moderne

Chaque ATS hérité (Greenhouse, Lever, Workable, Ashby, Manatal) utilise une certaine forme de correspondance basée sur les mots-clés sous le capot. Extraction de jetons booléens, scoring TF-IDF ou similarité sémantique par plongements. Les trois méthodes partagent un problème fondamental : la décision est opaque.

Quand un ATS basé sur les mots-clés vous indique qu'un candidat a obtenu 72 et un autre 58, le raisonnement réside dans des vecteurs à virgule flottante et des poids de jetons. Les recruteurs ne peuvent pas expliquer la différence en termes simples. Les auditeurs ne peuvent que l'échantillonner statistiquement. Les candidats ne peuvent pas se voir expliquer pourquoi ils ont été rejetés.

La conformité moderne exige de l'explicabilité. La loi locale 144 de New York exige la notification de l'employeur et des processus alternatifs. La loi de l'UE sur l'IA énonce des exigences de transparence pour l'IA d'emploi à haut risque. Les filtres de mots-clés à boîte noire ne peuvent pas satisfaire structurellement ces exigences.

La vulnérabilité adversariale

La correspondance de mots-clés a un second problème de conformité : elle est structurellement vulnérable à l'empoisonnement adversarial des CV. Les candidats qui connaissent les règles du filtre injectent des mots-clés dans du texte blanc caché, des puces répétées ou de fausses sections de compétences pour manipuler le score. Cela biaise les résultats en faveur des candidats qui ont appris le système, pas des candidats qui ont fait le travail.

Quand une analyse par classe protégée s'exécute sur un vivier de candidats empoisonné par mots-clés, vous obtenez des résultats trompeurs. Le système paraît équitable parce que tout le monde a la même opportunité de le manipuler, mais les candidats qui réussissent sont ceux qui ont compris le jeu. C'est une injustice différente, plus subtile.

Comment l'IA basée sur les résultats change la situation de conformité

L'IA basée sur les résultats lit les CV pour des résultats mesurables plutôt que pour la présence de mots-clés. Le modèle de Curriculo évalue quatre catégories de signaux :

Pour chaque candidat, CurriculoATS produit deux artefacts : un score d'adéquation de 0 à 100 et un paragraphe de raisonnement rédigé complet. Le paragraphe indique explicitement quels résultats correspondaient aux exigences du poste et où le candidat est resté court.

Exemple : « Candidat noté 84. Forte adéquation sur le signal "systèmes livrés" : a dirigé la migration d'un pipeline de détection de fraude traitant 2M d'événements/sec en production. Adéquation partielle sur "périmètre d'équipe" : a géré 3 collaborateurs directs pendant 18 mois. Aucune preuve claire d'impact sur le chiffre d'affaires. Le CV manque de précision sur le rôle récent, ce qui a limité le score. »

Cette architecture satisfait trois exigences structurelles auxquelles la correspondance de mots-clés à boîte noire échoue :

1. Explicabilité

Chaque décision a une explication rédigée. Les recruteurs peuvent la lire. Les auditeurs peuvent l'échantillonner. Les candidats peuvent se voir expliquer pourquoi ils ont été notés comme ils l'ont été. Quand la loi locale 144 de New York exige que les candidats soient informés du tri par IA et se voient offrir des alternatives, le raisonnement rédigé rend cette conversation possible.

2. Auditabilité

Un audit statistique de biais sur un système basé sur les résultats peut examiner à la fois les scores ET le raisonnement. Les auditeurs peuvent lire 100 paragraphes de raisonnement au sein d'une population de classe protégée et vérifier que l'IA cite les mêmes catégories de signaux pour chaque groupe. Un biais qui apparaît comme « variance de score inexpliquée » dans un audit basé sur les mots-clés devient visible comme « raisonnement qui référence des signaux différents pour des groupes différents » dans un audit basé sur les résultats.

3. Résistance adversariale

Les dumps de mots-clés en texte blanc caché n'ajoutent aucun signal aux modèles basés sur les résultats. Les candidats qui écrivent des descriptions spécifiques et précises de leurs résultats réels obtiennent de bons scores. Les candidats qui essaient de manipuler le filtre, non. Cela réduit le type spécifique d'injustice qui avantage les candidats ayant appris à manipuler les filtres ATS hérités.

Les lois spécifiques que vous devriez connaître

Loi locale 144 de New York (2023)

S'applique à tout employeur utilisant des outils automatisés de décision d'embauche (AEDT) pour trier des candidats à des postes à New York. Exige :

• Des audits de biais annuels par un auditeur indépendant
• La divulgation publique du résumé d'audit
• La notification aux candidats de l'utilisation de l'IA (minimum 10 jours ouvrables avant l'utilisation de l'AEDT)
• Des processus alternatifs pour les candidats qui en font la demande

Application : Département de la protection des consommateurs et des travailleurs de New York. Les amendes commencent à 500 $ par infraction et augmentent.

Loi de l'UE sur l'IA (2024)

S'applique à tout système d'IA utilisé pour les décisions de recrutement affectant des candidats de l'UE ou des employeurs opérant dans l'UE. Classe l'IA d'emploi comme hautement risquée, exigeant :

• Des systèmes de gestion des risques tout au long du cycle de vie
• Des données d'entraînement de haute qualité
• De la transparence et de l'explicabilité envers les utilisateurs et les personnes affectées
• La supervision humaine des décisions
• Robustesse, précision et cybersécurité

Application : déploiement progressif sur 2025-2027. Amendes allant jusqu'à 7 % du chiffre d'affaires annuel mondial ou 35 millions €, le montant le plus élevé s'appliquant.

Nous ne revendiquons pas de certifications réglementaires spécifiques. La conformité exige toujours un audit indépendant dans le contexte de chaque déploiement, renouvelé annuellement. Ce que nous pouvons dire, c'est que l'architecture est conçue pour réussir un audit plutôt que pour le combattre.

Comment CurriculoATS est conçu pour l'auditabilité

• Raisonnement rédigé pour chaque score. Chaque score d'adéquation de 0 à 100 est accompagné d'un paragraphe en termes simples l'expliquant. Crée une piste d'audit par défaut.
• Catégories de signaux basées sur les résultats. Le modèle est entraîné pour évaluer quatre catégories structurées (revenus, équipe, systèmes, problèmes) plutôt que des poids de jetons arbitraires. Les auditeurs peuvent vérifier que le modèle utilise les signaux attendus.
• Supervision humaine intégrée. CurriculoATS augmente les décisions des recruteurs, il ne les remplace pas. Les recruteurs voient le score et le raisonnement, et peuvent passer outre l'un ou l'autre. L'ATS ne prend jamais de décision d'embauche de manière autonome.
• Support de notification des candidats. Le raisonnement rédigé peut être partagé avec les candidats qui demandent pourquoi ils ont été notés comme ils l'ont été.

Ce que vous devriez réellement faire

Si vous recrutez à New York, en Californie, en Illinois, au Maryland, au Colorado ou pour des candidats de l'UE, vous avez besoin d'un plan de conformité de l'IA dans le recrutement. Étapes clés :

1. Inventoriez chaque outil de recrutement activé par l'IA que vous utilisez. La plupart des plateformes ATS utilisent une certaine forme de notation automatisée.
2. Organisez un audit de biais indépendant via un cabinet de conformité tiers. Annuellement pour la loi locale 144 de New York.
3. Publiez le résumé d'audit lorsque cela est exigé.
4. Informez les candidats du tri par IA et fournissez des processus alternatifs sur demande.
5. Assurez-vous que la supervision humaine est intégrée aux décisions. Ne vous appuyez jamais uniquement sur les scores d'IA pour rejeter des candidats.

Pour de nouvelles décisions d'ATS, un système basé sur les résultats avec raisonnement rédigé est structurellement plus facile à auditer qu'un système basé sur les mots-clés. CurriculoATS a été construit pour cela. L'offre gratuite est disponible sans carte de crédit, afin que vous puissiez évaluer le raisonnement de l'IA sur vos propres candidats avant tout engagement.

Ressources associées

• Tri de CV par IA, la méthodologie basée sur les signaux
• Notation d'Impact, comment les scores 0-100 sont générés
• Recrutement basé sur les signaux, la méthodologie en profondeur
• Les biais de l'IA dans le tri ATS