ما الذي تتطلبه القوانين فعليًا
القانون المحلي لمدينة نيويورك 144 دخل حيز التنفيذ في يوليو 2023. وهو ينطبق على أي صاحب عمل يستخدم أدوات اتخاذ القرار التلقائية لفرز المرشحين للوظائف في مدينة نيويورك، بما في ذلك الأدوار عن بُعد المرتبطة بمكتب في مدينة نيويورك. يتطلب القانون مراجعة سنوية للتحيز بواسطة مدقق مستقل (لا يمكن للبائعين تدقيق أدواتهم الخاصة)، إفصاح عام عن نتائج التدقيق على موقع صاحب العمل، إشعار للمرشحين بأن الذكاء الاصطناعي يُستخدم، وعملية بديلة للمرشحين الذين يطلبون واحدة. تقوم إدارة حماية المستهلك والعمال بإنفاذه، مع عقوبات مدنية تتراوح بين 500 دولار إلى 1500 دولار لكل انتهاك، يوميًا.
قانون الذكاء الاصطناعي للاتحاد الأوروبي، الذي تم الانتهاء منه في 2024، يصنف الذكاء الاصطناعي في مجال التوظيف على أنه "عالي المخاطر" بموجب الملحق الثالث. يجب أن تلبي الأنظمة عالية المخاطر معايير الوثائق الفنية، وتمكن من إشراف بشري ذي مغزى، وتحقق معايير الدقة والصلابة، وإبلاغ ممثلي العمال قبل النشر. تصبح الالتزامات الكاملة للأنظمة المدرجة في الملحق الثالث قابلة للتنفيذ في 2 أغسطس 2026.
تتشارك كلا القوانين في مطلب أساسي واحد: يجب أن يكون قرار الذكاء الاصطناعي قابلًا للتفسير والتدقيق. تحتاج إلى أن تكون قادرًا على أن تقول، بالنسبة لأي مرشح محدد، لماذا سجل الذكاء الاصطناعي لهم بهذه الطريقة. هذا هو المعيار الذي لا تستطيع معظم منصات نظام تتبع المتقدمين القديمة الوفاء به.
لماذا تستمر أنظمة تتبع المتقدمين القديمة في الفشل في اختبار القابلية للتفسير
تستخدم معظم منصات نظام تتبع المتقدمين القديمة - Greenhouse وLever وWorkable وAshby وManatal - شكلًا ما من المطابقة المعتمدة على الكلمات الرئيسية تحت السطح. استخراج الرموز المنطقية، تسجيل TF-IDF، تشابه دلالي قائم على التضمين. هذه الطرق بسيطة حسابيًا. كما أنها صعبة التدقيق بلغة إنجليزية واضحة.
إذا أخبرك نظام تتبع المتقدمين بأن المرشح A سجل 82 والمرشح B سجل 47، فلا يمكن لأي نظام إخبارك بلغة بشرية لماذا. العقلانية موجودة في متجهات الأعداد العائمة ومطابقات الكلمات الرئيسية الموزونة. عندما يسأل مرشح "لماذا تم استبعادي"، لا يوجد جواب يمكن الدفاع عنه. عندما يسأل مدقق "أرني منطق القرار لهذه الفئة المحمية"، يمكنك فقط أخذ عينة إحصائيًا.
ثلاثة إخفاقات هيكلية تجعل أنظمة تتبع المتقدمين القديمة هشة تدقيقها:
- الدرجات غير الشفافة. الرقم الذي لا يحتوي على سرد ليس تفسيرًا. لا يمكن للمرشح الاعتراض عليه؛ لا يمكن للمدقق التحقق منه.
- انحياز تباين المفردات. المطابقة بالكلمات الرئيسية تُعاقب بشكل منهجي المرشحين الذين تستخدم سيرهم الذاتية مفردات مختلفة عن الوصف الوظيفي - وهو ما يرتبط بالخلفيات غير التقليدية والمجموعات الممثلة تمثيلاً ناقصًا.
- لا يوجد أثر تدقيق لكل قرار. تسجل معظم الأنظمة أنه تم إنتاج نتيجة، وليس ما الأدلة التي أثرتها. تلك الفجوة هي جوهر مشكلة الامتثال.
ما تعلمناه في أمازون حول الترتيب القابل للتفسير
قبل تأسيس CurriculoATS في 2024، قام مؤسسنا Dev ببناء أنظمة ترتيب في أمازون للبحث والتوصيات - نفس فئة المشكلة مثل فرز السيرة الذاتية. الدرس الذي شكل كيفية بناء CurriculoATS جاء من اتجاه بحث استمر فيه فرق التوصيات في أمازون سنوات قبل أن يصبح "الذكاء الاصطناعي القابل للتفسير" كلمة طنانة: المنظم الذي لا يمكنه إخبارك لماذا رتّب شيئًا ما سيُخطئ في النهاية، ولن تلتقط ذلك.
الإصلاح هيكلي، وليس تجميلي. يجب أن يتم إقران كل درجة بفقرات توضيحية يمكن للبشر قراءتها في ثوانٍ والتحقق منها ضد الأدلة الأساسية. بالنسبة للتوظيف، تحمل تلك الفقرة اسم الإنجازات الكمية التي رآها النموذج، وإشارات الملاءمة للخبرة التي وزنها، ونمط المسار الوظيفي الذي حدده، وأدلة التوافق على المهارات التي اكتشفها. كما أنها توضح ما كان مفقودًا. يمكن لمدير التوظيف الذي يقرأ الفقرة في عرض تأثير الدرجات تجاوز قرار خاطئ في 10 ثوانٍ. يمكن للمدقق الذي يستعرض مجموعة سكانية التحقق من أن كل قرار قد تم اتخاذه بناءً على إشارات وظيفية مشروعة - وليس بناءً على عوامل تمثيلية للسمات المحمية. هذه هي البنية التي تتطلبها كل من قانون مدينة نيويورك المحلي 144 وقانون الذكاء الاصطناعي للاتحاد الأوروبي في الملحق الثالث. معظم منصات نظام تتبع المتقدمين القديمة قامت بإضافة الذكاء الاصطناعي فوق أنابيب الكلمات الرئيسية. نحن بنينا القابلية للتفسير في الدرجات نفسها.
ما تكلفه مراجعة قانون مدينة نيويورك المحلي 144 وما تحتويه
يطرح المؤسسون سؤالين عندما يدركون أنهم بحاجة إلى تدقيق للتحيز: ما تكلفته، وما الذي ينظر إليه المدقق فعليًا. عادةً ما تكلف التدقيقات المستقلة للتحيز لأدوات اتخاذ القرار في مدينة نيويورك من 5,000 دولار إلى 25,000 دولار، اعتمادًا على تعقيد الأداة، وحجم مجموعة المرشحين، وما إذا كان المدقق بحاجة إلى استيعاب سجلات مخصصة من نظام تتبع المتقدمين القديم.
تراجع التدقيق معدلات الاختيار عبر الفئات المحمية (العرق، العرقية، الجنس) في كل مرحلة حيث أثر نظام اتخاذ القرار الآلي على قرار: الفرز الأولي، التسجيل، التقدم للمقابلة. يحسب المدقق نسب التأثير ويعلام أي مجموعة تنخفض معدلات اختيارها عن 80% من أعلى مجموعة مسجلة - وهو معيار "قاعدة الأربعة أخماس" التي طبقها EEOC على قرارات التوظيف منذ عام 1978.
تتحول تقارير التدقيق إلى مستند عام يجب أن ينشره صاحب العمل على موقعه الإلكتروني، مع إخطار المرشحين قبل استخدام أي أداة اتخاذ قرار آلي. لا تؤدي التدقيقات الفاشلة تلقائيًا إلى فرض عقوبات، لكنها تلزم صاحب العمل إما بإصلاح التأثير المتباين أو التوقف عن استخدام الأداة. وجدت معظم التقارير المنتشرة للتدقيقات في 2024-2025 التي راجعناها نسب تأثير في النطاق المقبول قانونًا، لكن مجموعة ذات مغزى أظهرت تباينات في الدور الفني استنادًا إلى الجنس لم تكتشفها البائعون في ضمان الجودة الداخلي.
الإصلاح الهيكلي هو نفس ما يتطلبه التفسير: تسجيل قرار لكل واحد يسمح للمدقق بأخذ عينات من المجموعات السكانية وتتبع التأثير إلى مدخلات التسجيل المحددة. غالبًا ما لا يمكن للأدوات التي تنتج فقط درجات إجمالية بدون تفسير لكل قرار إكمال التحليل على الإطلاق، وهو ما يُعد نفسه وضعًا فاشلًا.
ما يجب أن تفعله المؤسسون في هذا الربع
إذا كنت توظف مرشحين من مدينة نيويورك أو تتوقع توظيف مرشحين من الاتحاد الأوروبي بعد أغسطس 2026، اعتبر الامتثال مشروعًا لمدة 90 يومًا، وليس عنصر مراجعة سنوي. خمس خطوات ملموسة:
- جرد مساحة الذكاء الاصطناعي الخاصة بك. قم بإدراج كل أداة تنتج درجة مرشح أو ترتيب أو توصية: نظام تتبع المتقدمين، أدوات المصادر، منصات التقييم، مقابلات الذكاء الاصطناعي. جميعها ضمن النطاق.
- تحقق من القابلية للتفسير. بالنسبة لكل أداة، اسأل البائع: هل يمكنك إنتاج، عند الطلب، تفسيرًا يُقرأ بشريًا لسبب تسجيل مرشح معين بهذه الطريقة المحددة؟ "إنه في الخوارزمية" ليس جوابًا.
- جدول تدقيق التحيز. إذا كنت تستخدم أدوات اتخاذ القرار الآلي في مدينة نيويورك، يتطلب القانون إجراء تدقيق سنوي بواسطة مدقق مستقل. تكلفة التدقيق عادةً ما تكون من 5,000 دولار إلى 25,000 دولار اعتمادًا على تعقيد الأداة وحجم مجموعة البيانات. ضع ميزانية لذلك.
- أضف إشعارًا للمرشحين وعملية بديلة. يمكن أن يكون الإشعار جملة واحدة على صفحة طلبك: "هذه الوظيفة تستخدم أدوات آلية للمساعدة في المراجعة الأولية." العملية البديلة هي بريد إلكتروني يمكن للمرشحين استخدامه لطلب مراجعة بشرية فقط.
- وثق وجود العنصر البشري في هذا. تتوقع كلا القانونين إشرافًا بشريًا ذا مغزى، وليس مجرد موافقة. سجل اللحظة التي يقبل فيها مدير التوظيف أو يتجاوز كل توصية للذكاء الاصطناعي. يقوم CurriculoATS بتسجيل هذا بشكل افتراضي؛ بالنسبة لنظام تتبع المتقدمين القديم، قد تحتاج إلى إضافته.
Ready to hire with precision?
Start free, invite your whole team, and see your first scored candidate in 15 minutes.