تحيّز الذكاء الاصطناعي في التوظيف: كيفية الحد من التحيّز في التوظيف باستخدام أدوات ذكاء اصطناعي عادلة

قبل تقييم تحيّز الذكاء الاصطناعي في التوظيف، من الجدير تحديد الأساس: التوظيف البشري متحيّز بشكل منهجي، وقد كان كذلك منذ عقود.

توثّق الأبحاث باستمرار هذه الآليات:

• تأثير الهالة — الانطباع الأول القوي في أول دقيقتين من المقابلة يلوّن كل حكم لاحق
• تحيّز الألفة — يقيّم القائمون على المقابلات المرشحين بشكل أكثر إيجابية عندما يشتركون في الجامعة أو مسقط الرأس أو الهواية
• تحيّز العزو — يُفسَّر الانقطاع المهني المتطابق على أنه "رعاية أسرية" لدى النساء و"نقص في الطموح" لدى الرجال
• إرهاق نهاية اليوم — يحصل المرشحون الذين تُجرى معهم المقابلات بعد الغداء على درجات أقل إحصائيًا من الذين تُجرى معهم في الصباح، مع ضبط جميع المتغيرات الأخرى

كان وعد الذكاء الاصطناعي في التوظيف بسيطًا: استبدال الحكم البشري غير المتسق بمعيار خوارزمي متسق. تبيّن أن ذلك الوعد أكثر تعقيدًا مما اعترف به المورّدون.

تحيّز الذكاء الاصطناعي في التوظيف حقيقي. ويبقى المثال الأكثر استشهادًا به هو أداة فحص السير الذاتية التجريبية من Amazon، التي أُوقفت بهدوء في عام 2018 بعد أن اكتشف المهندسون أنها كانت تخفّض بشكل منهجي السير الذاتية التي تحتوي على كلمة "women's" — كما في "women's chess club" أو "women's college" — لأنها دُرّبت على عشر سنوات من السير الذاتية المقدَّمة في الغالب من الرجال.

وجدت أبحاث أحدث من Washington University (VoxDev، 2024) أن نماذج الذكاء الاصطناعي الرائدة في التوظيف تُظهر أنماطًا تقاطعية معقدة: فضّل GPT-3.5 المرشحات من النساء بشكل عام بينما عاقب في الوقت نفسه المرشحين الرجال السود بمقدار 1.4 نقطة مئوية — واختيرت السير الذاتية التي تحمل أسماء مرتبطة بمرشحين بيض في 85% من الحالات مقابل 10% للأسماء المرتبطة بمرشحين سود.

الآلية متسقة عبر الحالات: يعيد الذكاء الاصطناعي إنتاج التحيّزات المضمّنة في بيانات تدريبه. فإذا دُرّب النموذج على قرارات متحيّزة تاريخيًا، يتعلّم النموذج تكرار تلك القرارات — بكفاءة، وعلى نطاق واسع، وبمظهر من الموضوعية يجعل من الصعب الطعن في التحيّز.

هذا ما يسمّيه MIT Sloan "هالة الحياد": الافتراض بأن الخوارزمية عادلة بطبيعتها لأنها ليست بشرية. هذا الافتراض خطير.

يساعد فهم الآلية التقنية قادة الموارد البشرية على طرح الأسئلة الصحيحة على أي مورّد للذكاء الاصطناعي.

تحيّز بيانات التدريب: يتعلّم النموذج من قرارات التوظيف التاريخية. فإذا كانت تلك القرارات تفضّل بشكل منهجي فئات ديموغرافية معينة، فسيرمّز النموذج ذلك التفضيل بوصفه إشارة على "الجودة".

تحيّز المتغيرات الوكيلة: حتى عند استبعاد البيانات الديموغرافية صراحةً، قد يستخدم النموذج وكلاء مترابطين — الرمز البريدي، واسم الجامعة، وعتبات سنوات الخبرة — ترتبط بالخصائص المحمية.

تحيّز القياس: قد يؤدي تحليل تعابير الوجه وتقييم أنماط الكلام إلى الإضرار بالمرشحين ذوي اللهجات الإقليمية، أو أساليب التواصل المختلفة عصبيًا، أو الأعراف الثقافية المتعلقة بالتواصل البصري التي تختلف عن الفئة المستخدمة في التدريب.

تحيّز حلقة التغذية الراجعة: عندما يُوظَّف المرشحون الذين اختارهم الذكاء الاصطناعي ويُقيَّمون على أنهم ناجحون، تعزّز تلك التقييمات معايير الاختيار الأصلية للنموذج — بما في ذلك أي معايير متحيّزة منها.

لا تتطلب أي من هذه الآليات نيّة خبيثة. فهي تنشأ من البيانات، وتستمر إلى أن يدقّق فيها أحد بشكل فعّال.

يبني مورّدو الذكاء الاصطناعي المسؤولون الحد من التحيّز داخل البنية نفسها، لا كفكرة لاحقة. إليك كيف يبدو التخفيف الحقيقي للتحيّز في الممارسة العملية:

الفحص الأعمى

خوارزميات تحجب عمدًا الاسم والصورة والعمر والجنس ومكانة الجامعة عن طبقة التقييم. يقيّم النظام ما فعله المرشح، لا من يكون.

الربط بالكفاءات السلوكية

يرتبط التقييم بمؤشرات سلوكية محددة وقابلة للملاحظة — كيف نظّم المرشح إجابته، وما الأدلة التي قدّمها، وكيف تعامل مع الغموض — بدلًا من الوكلاء الديموغرافيين أو الانطباعات الذاتية.

تقييم موحّد لجميع المرشحين

يُطبَّق نموذج الكفاءات نفسه، ومعايير التقييم نفسها، والمؤشرات السلوكية نفسها على كل مرشح للدور نفسه، بغض النظر عمّن أجرى المقابلة أو متى.

المراقبة المستمرة للتكافؤ الديموغرافي

تتتبّع المنصات المسؤولة معدلات الاجتياز حسب الفئة الديموغرافية وتُبلّغ عن الفروقات ذات الدلالة الإحصائية للمراجعة. تدقيق التحيّز عملية مستمرة، لا شهادة تُمنح مرة واحدة.

مخرجات قابلة للتفسير

كل درجة مدعومة بأدلة محددة — اقتباس من المقابلة، أو نمط سلوكي جرى تحديده في النص المفرّغ — بحيث يمكن لأي مقيّم التحقق من أساس التقييم.

القابلية للتفسير ليست ميزة إضافية اختيارية في أدوات الذكاء الاصطناعي للتوظيف. إنها متطلب قانوني وأخلاقي.

يصنّف EU AI Act (2024) أنظمة الذكاء الاصطناعي المستخدمة في قرارات التوظيف على أنها عالية المخاطر، ويشترط الشفافية والإشراف البشري وقدرة الأفراد المتأثرين على تلقّي تفسير ذي معنى للقرارات المتخذة بشأنهم. ويلزم قانون New York City Local Law 144 بإجراء عمليات تدقيق سنوية للتحيّز لأي أداة ذكاء اصطناعي تُستخدم في قرارات التوظيف، مع إتاحة النتائج للعموم.

إلى جانب الامتثال، تؤدي القابلية للتفسير وظيفة عملية: فهي تتيح لفرق التوظيف الثقة في المخرجات. عندما يشير تقرير TalentMind إلى أن مرشحًا حصل على 72% في حل المشكلات، تكون تلك الدرجة مصحوبة باقتباسات محددة من المقابلة أنتجتها. يمكن للمسؤول عن التوظيف قراءة الأدلة، والموافقة أو الاعتراض، واتخاذ قرار مستنير — بدلًا من الخضوع لرقم لا يستطيع مساءلته.

التقييم بالصندوق الأسود — حيث يحصل المرشح على درجة دون تفسير لكيفية توليدها — يفشل في هذا الاختبار تمامًا. فهو ينقل غموض التحيّز البشري اللاواعي إلى غموض خوارزمية لا يمكن تدقيقها. التحيّز لا يختفي؛ بل يصبح أصعب في الرؤية.

قبل نشر أي أداة ذكاء اصطناعي في سير عمل التوظيف، استخدم هذه القائمة لتقييم بنية العدالة الخاصة بها:

بشأن بيانات التدريب:

• ما مجموعات البيانات التي استُخدمت لتدريب النموذج؟
• هل يوفّر المورّد بيانات التوزيع الديموغرافي لمجموعة التدريب؟
• هل أُعيد تدريب النموذج منذ النشر الأولي، وعلى أي بيانات؟

بشأن اختبار التحيّز:

• هل ينشر المورّد نتائج التكافؤ الديموغرافي (معدلات الاجتياز حسب الجنس والعمر والعرق)؟
• هل دقّق طرف ثالث مستقل الأداة بحثًا عن الأثر المتباين؟
• هل تُبلّغ الأداة تلقائيًا عن الفروقات الديموغرافية ذات الدلالة الإحصائية؟

بشأن القابلية للتفسير:

• هل يمكن تتبّع كل درجة مرشح إلى أدلة محددة من المقابلة أو السيرة الذاتية؟
• هل معيار التقييم موثّق ومتاح للموارد البشرية والمرشحين؟
• هل يفي النظام بمتطلبات القابلية للتفسير في EU AI Act أو NYC Local Law 144؟

بشأن الحوكمة:

• هل توجد خطوة مراجعة بشرية قبل إبلاغ أي قرار مبني على الذكاء الاصطناعي إلى المرشح؟
• هل تُسجَّل القرارات المدعومة بالذكاء الاصطناعي وتكون قابلة للتدقيق؟
• هل يمكن للمرشحين طلب مراجعة القرارات المتخذة بشأنهم؟

يستند نهج TalentMind للحد من التحيّز في التوظيف إلى مبدأ واحد: تقييم ما حدث في المحادثة، لا من يكون المرشح.

يُبنى كل تقييم على أدلة سلوكية مستخرجة من تسجيل المقابلة الفعلي. يفرّغ الذكاء الاصطناعي الكلام، ويحدّد الأنماط السلوكية المرتبطة بمؤشرات كفاءة محددة مسبقًا، ويُنشئ تقريرًا منظمًا حيث يُربط كل استنتاج باقتباس مباشر من المرشح.

ما يعنيه ذلك عمليًا:

• مكانة الجامعة، وأصل الاسم، والعمر، والمظهر ليست متغيرات في نموذج التقييم
• يُقيَّم كل مرشح للدور نفسه وفق إطار الكفاءات نفسه، وبالمؤشرات السلوكية نفسها، بغض النظر عمّن أجرى المقابلة
• ينتج القائمون على المقابلات من مناطق مختلفة، وبأساليب تواصل مختلفة، وعلى مستويات أقدمية مختلفة، بياناتٍ قابلة للمقارنة ومعايَرة
• يتلقى مدير التوظيف تقريرًا حيث تكون كل درجة — القيادة، والتواصل، وحل المشكلات، والقدرة على التكيّف، والذكاء العاطفي، والعمل الجماعي — مدعومة بالكلمات المحددة التي استخدمها المرشح

النتيجة ليست عملية خالية من التحيّز. لا يمكن لأي عملية أن تدّعي ذلك. النتيجة هي عملية يكون فيها التحيّز مرئيًا وموثّقًا وقابلًا للطعن — وهو المعيار الوحيد الذي يتطلبه فعليًا الامتثال والأخلاقيات وممارسات التوظيف الجيدة.

تحيّز الذكاء الاصطناعي في التوظيف مشكلة حقيقية وموثّقة. لكن الرد ليس التخلي عن الذكاء الاصطناعي في التوظيف — بل المطالبة بذكاء اصطناعي أفضل: أدوات مبنية على أدلة سلوكية، ومدقَّقة من أجل التكافؤ الديموغرافي، ومصمَّمة مع القابلية للتفسير من الأساس.

البديل — العودة إلى الحكم البشري غير المنظَّم — لا يحدّ من التحيّز. بل يجعل التحيّز أصعب في القياس ومستحيل التحسين.

المؤسسات التي ستبني فرقًا أقوى وأكثر تنوعًا هي تلك التي تتعامل مع الذكاء الاصطناعي كأداة للمساءلة، لا للأتمتة. السؤال ليس ما إذا كان ينبغي استخدام الذكاء الاصطناعي في التوظيف. بل ما إذا كان الذكاء الاصطناعي الذي تستخدمه قادرًا على إظهار عمله.

1. 1MIT Sloan Management Review — AI Is Reinventing Hiring with the Same Old Biases (2024)
2. 2VoxDev / Washington University — AI Hiring Tools Exhibit Complex Gender and Racial Biases (2024)
3. 3EU AI Act — Annex III, High-Risk AI Systems in Employment Contexts (2024)
4. 4New York City Local Law 144 — Automated Employment Decision Tools (2023)