ما هي أشكال الانحياز التي تتسبب فيها خوارزميات التوظيف؟

شارك

استمع الى المقالة الآن هذه الخدمة تجريبية

هل تمنع خوارزميات التوظيف الانحياز، أم تزيده؟ لقد برز هذا السؤال الجوهري كنقطة توتر بين مؤيدي التقنية والمشككين بها، ولكن التوصل إلى جواب أكثر تعقيداً مما قد يبدو عليه الأمر.

نادراً ما يكون التوظيف قراراً فردياً، وإنما هو نتيجة لسلسلة من قرارات متتالية أصغر، وتلعب الخوارزميات أدواراً مختلفة عبر مراحل العملية التالية: توجه بعض الخوارزميات إعلانات الوظائف نحو مرشحين معينين في حين تضع خوارزميات أخرى علامات على المرشحين الخامدين. ثم تقوم البرامج التنبؤية بتحليل السير الذاتية وإحصائها وتساعد المدراء في تقييم كفاءات المرشحين بطرق جديدة من خلال استخدام البيانات التقليدية والجديدة.

يأمل الكثيرون أن تتمكن الخوارزميات من مساعدة البشر صانعي القرار في تفادي انحيازهم الشخصي عن طريق إضافة الاتساق إلى عملية التوظيف. ولكنّ الخوارزميات تحمل مخاطر جديدة خاصة بها، إذ يمكنها تكرار الانحيازات المؤسسية والتاريخية، وبذلك تزيد من المساوئ الكامنة في نقاط البيانات كالجامعات التي درس المرشحون فيها أو نتائج تقييم أدائهم. وحتى إن تمكنت الخوارزميات من إزالة شيء من ذاتية عملية التوظيف، يبقى الدور الذي يمارسه البشر في قرارات التوظيف النهائية كبيراً. ولكن الحجج التي تصف الخوارزميات “الموضوعية” بأنها أكثر إنصافاً ودقة من البشر غير المعصومين لا تعترف تماماً بوجود دور لكل منهما.

لكي نتمكن من فهم الانحياز في خوارزميات التوظيف وطرق الحدّ منه، يجب علينا استكشاف كيفية عمل التقنيات التنبؤية في كل خطوة من عملية التوظيف. رغم أن جميع المراحل ترتكز على التعلم الآلي ذاته، إلا أن البرامج التي تستخدم في المراحل الأولى من العملية قد تكون مختلفة جوهرياً عن التي تستخدم في المراحل اللاحقة. وحتى البرامج التي تؤدي المهمة ذاتها ظاهرياً قد تعتمد على أنواع مختلفة تماماً من البيانات أو قد تقدم التوقعات بطرق مختلفة كثيراً.

يساعد تحليلنا للبرامج التنبؤية عبر مراحل عملية التوظيف في توضيح ما تفعله “خوارزميات التوظيف” تماماً، ومكان دخول الانحياز إلى العملية وطريقته. وللأسف، وجدنا أن معظم خوارزميات التوظيف ستنجرف نحو الانحياز بصورة تلقائية. صحيح أنه لا ينبغي علينا الاستخفاف بقدرة هذه الخوارزميات على تقليص الانحياز بين الأشخاص، إلا أن البرامج التي يمكنها معالجة الفروقات الأعمق وحدها قادرة على إمدادنا بالأمل بأن تتمكن التقنية التنبؤية من مساعدتنا على تعزيز الإنصاف لا تقويضه.

تشكيل مجموعة المرشحين

تبدأ عملية التوظيف قبل أن يقدم الباحث عن العمل طلبه بزمن طويل. وأثناء مرحلة التوظيف أو ما يسمى “البحث عن المصادر”، تساعد التقنيات التنبؤية على الإعلان عن الشواغر وإعلام الباحثين عن العمل بشأن المناصب المحتملة المناسبة، وإبراز المرشحين المحتملين لدى من يقوم بعملية التوظيف من أجل تحقيق الانتشار الفاعل.

وتستعين الكثير من جهات التوظيف بمنصات الإعلان القائمة على الخوارزميات واللوحات الخاصة بإعلانات العمل من أجل جذب المتقدمين للوظائف والوصول إلى من لهم “الصلة” الأكبر. وتعِد هذه النظم جهات التوظيف باستخدام ميزانيات التوظيف بكفاءة أكبر، إلا أنها غالباً ما تقدم توقعات سطحية للغاية. فهي لا تتنبأ بمن سينجح في الوظيفة وإنما بصاحب الاحتمالات الأكبر للنقر على إعلان الوظيفة.

كما أنها تؤدي إلى إيصال إعلانات الوظائف بطرق تعزز الصور النمطية العرقية والجنسية حتى إذا لم تكن لدى جهات التوظيف النية لذلك. وفي بحث أجريناه مؤخراً برفقة زملاء لنا من جامعة “نورث وسترن” و”جامعة جنوب كاليفورنيا” الأميركيتين، وجدنا مثلاً أن الإعلانات الموجهة إلى شريحة واسعة على موقع “فيسبوك” عن توفر عدد من وظائف المحاسبين (الكاشير) للعمل في المتاجر، قد ظهرت لجمهور يتألف من النساء بنسبة 85% في حين أن الإعلانات عن وظائف لدى شركات سيارات الأجرة ظهرت لجمهور يتألف من أصحاب البشرة السمراء بنسبة تقارب 75%. وهذه الحالة هي خير مثال لقيام الخوارزميات بتكرار الانحياز الموجود في العالم الواقعي من دون تدخل البشر.

وفي الوقت ذاته، نجد أن لوحات إعلانات الوظائف المخصصة مثل “زيب ريكروتر” (ZipRecruiter) تهدف إلى معرفة تفضيلات رب العمل تلقائياً واستخدام هذه التنبؤات من أجل جذب المتقدمين المطابقين لها. وكما هو الحال في فيسبوك، تكون نظم التزكية هذه قائمة على الهدف من أجل إيجاد الأنماط في سلوك المستخدم واستنساخها، في الوقت الذي تقوم فيه بتحديث التوقعات بصورة حيوية من خلال تفاعل جهات التوظيف والباحثين عن الوظائف. وإذا لاحظ النظام أن جهات التوظيف تتفاعل أكثر مع الرجال البيض، سيقوم غالباً بالعثور عما يمثل هذه السمات، مثلامتلاك اسم شائع لدى البيض أو ممارسة لعبة يختصون بها في المدرسة كلعبة لاكروس مثلاً، وتكرار هذا النمط . يحدث هذا النوع من الآثار العكسية دون توجيه صريح، والأسوأ أنه يحدث دون إدراك أحد له.

لذلك قد لا تكون خوارزميات البحث عن المصادر هي أول ما يتبادر لأذهان الأغلبية عندما يفكرون “بخوارزميات التوظيف”. ولكن القرارات التي تتخذها الآلة في هذه المراحل المبكرة من قمع التوظيف منتشرة بصورة واسعة. خذ مثلاً برنامج “أمازون” الذي بحث عن النساء اللاتي يعانين من العسرة، فهو لم يكن برنامج اختيار لتقييم متقدمات موجودات فعلاً، وإنما برنامج مساعدة للكشف عن المرشحات الخامدات كي تتمكن جهات التوظيف من الوصول إليهنّ.

قد لا تقوم خوارزميات البحث عن المصادر برفض المتقدمين علناً، ولكن بحسب قول الباحثة القانونية “بولين كيم”: “إن عدم إعلام الناس بشأن فرصة عمل هو عائق فعال للغاية” بالنسبة للباحثين عن الوظائف. قد لا تشكل هذه البرامج دائماً حلاً للواقع البائس، ولكنها تلعب دوراً حاسماً في تحديد من يمتلك حق الوصول إلى عملية التوظيف أساساً.

تضييق القمع

ما أن تبدأ طلبات المتقدمين بالتدفق، تحاول جهات التوظيف التركيز على أقوى المرشحين. وفي حين أن الخوارزميات المستخدمة في هذه المرحلة موضوعة غالباً في إطار وسائل مساعدة للمدراء من أجل اتخاذ قرارات التعيين، إلا أن بإمكانها في الواقع رفض نسبة كبيرة من المرشحين تلقائياً.

فبعض خوارزميات الفرز هذه تتكون ببساطة من تقنيات قديمة متنكرة بحلة التقنيات الجديدة. فقد طرحت جهات التوظيف لزمن طويل أسئلة تعتبر بمثابة “ضربة قاضية” من أجل معرفة ما إذا كان المرشحون يتمتعون بالحد الأدنى من المؤهلات. والآن، تقوم روبوتات الدردشة التفاعلية (شات بوت) وبرامج تحليل السير الذاتية بهذه المهمة. وثمة برامج أخرى تقوم بأكثر من ذلك من خلال استخدام تعلم الآلة لوضع التوقعات بناء على قرارات الفحص السابقة وتوفير وقت جهات التوظيف، والتقليل من تأثير الانحياز البشري حسبما هو مفترض. وللوهلة الأولى، قد يبدو من الطبيعي أن تحتذي برامج الفحص بقرارات التوظيف السابقة. ولكن غالباً ما تعكس هذه القرارات الأنماط ذاتها التي تسعى العديد من جهات التوظيف بجد لتغييرها عن طريق مبادرات التنوع والشمول.

وتتضمن برامج الاختيار الأخرى تعلم الآلة من أجل التنبؤ بالمتقدم الذي سيكون “ناجحاً” في العمل، وغالباً ما يكون ذلك عن طريق قياسه بواسطة إشارات تتعلق بمدة الخدمة والإنتاجية، أو الأداء (أو بواسطة غياب إشارات مثل التأخر والإجراءات التأديبية). أما البرامج الجديدة في هذا المجال فهي تزعم أنها تساعد جهات التوظيف على استخدام إشارات أكثر دقة لوضع تنبؤاتها، كالألعاب أو تحليل مقاطع الفيديو.
والجدير بالذكر أن هذه الأنواع من إجراءات الاختيار تخضع للقوانين التقليدية في الولايات المتحدة. فجهات التوظيف ملزمة بتفقد الآثار السلبية لبرامج التقييم لديها على المجموعات السكانية الفرعية، ويمكن محاسبتها على استخدام إجراءات تبالغ بتفضيل مجموعة معينة من المتقدمين. يقدِّم عديد من بائعي برامج التقييم وصفاً مفصلاً للخطوات التي يتخذونها “لاجتثاث التحيز” في خوارزمياتهم، ويصادف أن هذه الخطوات هي ذاتها التي تضمن أن يكون عملاؤهم خاضعين للقانون.

ولكن التفريق بين أصحاب الأداء العالي وأصحاب الأداء المنخفض بحد ذاته غالباً ما يعكس التقييم الذاتي الذي يعتبر مصدراً سيئ السمعة للتحيز ضمن أماكن العمل. وإذا كانت بيانات الأداء الأساسي ملوثة بالآثار المتبقية من التمييز الجنسي أو العنصري أو غيرها من أشكال التحيز الهيكلي، سيكون اجتثاث التحيز من خوارزمية التوظيف المبنية على تلك البيانات مجرد إسعافات أولية لجرح متقيح. وإذا كان بإمكان رب العمل إثبات أن أداة الاختيار في الخوارزمية المستخدمة يحقق فائدة تجارية ملموسة، وهو أدنى مستوى مطلوب نسبياً، عندئذ سيتمكن من تبرير استخدام خوارزمية اختيار تؤدي إلى نتائج غير منصفة. إن بعض علماء النفس الصناعي التنظيمي، الذين غالباً ما يشاركون في تطوير إجراءات التوظيف، يشككون في الاكتفاء بالعلاقات المتبادلة اللانظرية كأساس لأدوات الاختيار الجديدة، ولكن ليس هناك شيء في المبادئ التوجيهية التنظيمية الحالية تطالب جهات التوظيف بفعل أكثر من ذلك بكثير.

وأخيراً، ما أن يختار رب العمل مرشحاً للتعيين تسعى برامج تنبؤية أخرى لمساعدة رب العمل على تقديم عرض من المرجح أن يقبله المرشح. ويمكن لبرامج كهذه تخريب قوانين تمنع جهات التوظيف من طلب تاريخ أجور الموظف بصورة مباشرة، مما يؤدي إلى الإبقاء على أنماط قديمة جداً من تفاوت الأجور أو على الأقل يزيد من صعوبة تصحيحها.

توجيه خوارزميات التوظيف نحو الإنصاف

على الرغم من أن القوانين القائمة في الولايات المتحدة تفرض بعض القيود على جهات التوظيف فيما يخص استخدام برامج التوظيف التنبؤية، إلا أنها غير مجهزة لمعالجة المخاطر المتطورة المتمثلة ببرامج التوظيف التي يعززها التعلم الآلي.

إذن، كيف يمكننا ضمان أن تقوم خوارزميات التوظيف بتعزيز المساواة؟ من المؤكد أن كلاً من القانون (الذي يعاني من البطء) وأفضل الإجراءات في القطاع بأكمله (التي لا تزال ناشئة) يمارسان دوراً محدداً. في هذه الأثناء، يجب على كل من الباعة الذين يبنون برامج توظيف تنبؤية وجهات التوظيف التي تستخدم هذه البرامج أن يتعدوا في تفكيرهم متطلبات الامتثال الدنيا. ويجب أن يفكروا بوضوح ما إن كانت الخوارزميات تؤدي في الواقع إلى نتائج توظيف أكثر إنصافاً. وقبل تطبيق أي أداة تنبؤية، ينبغي عليهم تقييم كيفية تشكيل معايير النجاح الذاتية لتوقعات الأداة بصورة سلبية عبر الزمن. ولن يكفي أن يقوم رب العمل بالتحقق من وجود تأثير سلبي في مرحلة الاختيار فحسب، وإنما عليه مراقبة مساره من البداية حتى النهاية لكشف الأماكن التي يكمن فيها التحيز الخفي أو التي يظهر فيها من جديد.

وإذا لم يقم من يروجون لقدرة خوارزمياتهم على الحدّ من التحيز في برامج التوظيف باختيار بناء برامجهم واختبارها بفعالية مع وضع هذا الهدف نصب أعينهم، فإن هذه التقنية ستواجه صعوبات في تحقيق ما تعد به في أفضل الأحوال، وستقوضه على أسوأ تقدير.