استخدام الخوارزميات لفهم التحيزات في مؤسستك

نالت عملية الاستعانة بقرارات الخوارزميات لفهم التحيزات مؤخراً الكثير من السخط لإنتاجها قرارات متحيِّزة، إذ شعر الناس بالغضب لقيام "أمازون" بتطوير خوارزمية توظيف تُغفل طلبات التوظيف المقدّمة من إناث، وأيضاً بسبب التصرفات التنبؤية البوليسية وعملية إصدار الأحكام التنبؤية التي تعاقب الأشخاص الملونين بشكل غير مناسب؛ والأهم من ذلك أنّ أموراً أخرى مثل العرق والجنس لم تُدرج كمدخلات في أي من هذه الخوارزميات.

هل يمكننا التفكير في الخوارزميات لفهم التحيزات بالمؤسسات؟ هل يجب علينا أن نشعر بالغضب من التحيز الناتج في مخرجات الخوارزمية؟ أجل. ولكن الطريقة التي تستجيب بها المؤسسات لخوارزمياتها تحدد ما إذا كانت تتخذ خطوات ملموسة في الحد من التمييز من قراراتها أو تزيد من إدامة اتخاذ القرارات المتحيزة.

وما يحدث حتى الآن هو قيام وسائل إعلام بفحص الخوارزميات لفهم التحيزات والإعلان عن وجود خطب فيها، لتقدّم الشركة استجابة تتمثل في إزالة تلك الخوارزمية وإعادة عملية اتخاذ القرارات إلى البشر. إلا أن هذا النهج في تحديد التحيز ومعالجته يعتبر نهجاً خاطئاً، إذ يجب على المؤسسات بدلاً من ذلك استخدام الخوارزميات الإحصائية لتوفير نظرة أكبر تجاه الأمور قيد النظر بالفعل، فالخوارزميات يمكنها أن تجمع بيانات متفرقة فردية تساعد على اكتشاف أنماط يصعب على البشر عادةً اكتشافها. فعندما تقوم الخوارزميات بتحيز ما، يجب على الشركات اغتنام هذا "الفشل" كفرصة لمعرفة متى يحدث هذا التحيز وكيف. وستكون المؤسسة بهذه الطريقة مجهّزة بشكل أفضل لإزالة التحيز من ممارساتها الحالية وتحسين عملية اتخاذ القرارات بشكل عام.

المشكلة في إلقاء اللوم على الخوارزميات

يتسبب نعت الخوارزميات بالتحيز في إضفاء طابع بشري عليها. فلننظر مثلاً إلى عناوين من قبيل "لماذا من غير المفاجئ بالمرة تحيّز الذكاء الاصطناعي في "أمازون" ضد المرأة" و"إلغاء "أمازون" لأداة توظيف سرية معتمدة على الذكاء الاصطناعي أظهرت تحيزاً ضد النساء" و"لا تزال خوارزمية التوظيف المتحيزة جنسياً لدى "أمازون" أفضل من الإنسان". حتى أن الباحثين أنفسهم يطرحون أسئلة تنسب التمييز إلى الخوارزمية نفسها على غرار، "لماذا يقوم الذكاء الاصطناعي بالتمييز؟" ويصفون المخرجات على أنها صنيعة "تحيز الآلة" و"تحيز الخوارزمية". قد تبدو مشكلة الصياغة بسيطة وغير ملحوظة، لكنها تتسبب في إلقاء اللوم على الخوارزمية نفسها، وهو في نهاية المطاف يخفف المساءلة ضد صُنّاع القرار الفعليين. (في التعلم الآلي، تعني كلمة "تحيز" أمراً مختلفاً؛ لكن المشكلة هنا هي أن للمصطلح نفسه معنى أكثر شيوعاً).

وصُناع القرار الفعليين هم الأشخاص الذين يتخذون قرارات التوظيف. صب غضبنا على المكان الخطأ يعني إعفاءهم من تحمُّل مسؤولية حل المشكلات التي اكتشفتها تلك الخوارزميات بالفعل. وتألفت بيانات المدخلات الخاصة بخوارزمية "أمازون" من بيانات تاريخية تمثّل قرارات توظيف سابقة اتخذها أولئك الأشخاص، والتي بسببها نشأ التحيّز في المقام الأول، وتمثل تلك القرارات المكان الواجب على المؤسسات تركيز جهودها عليه لمعالجة هذا التحيز. أما لوم الخوارزمية فيعطي نتائج عكسية، ويشبه لوم الخوارزمية لإنتاجها مخرجات متحيزة لوم مرآة لإبرازها كدمة على جبينك. فتحطيم المرآة وإلقاء اللوم عليها لن يُشفي الكدمة، لكنه يطيل الوقت الذي يستغرقه حل المشكلة واكتشاف مشاكل مستقبلية أخرى.

لن تُحل المشكلة بإعادة عملية صنع القرار إلى البشر

عندما تستجيب هذه الشركات لسخط الناس وتلغي هذه الخوارزميات، فإنها تعود إلى عمليات صنع القرار الأصلية الخاطئة فيها. واعتمدت المؤسسات تاريخياً، بالنسبة لمعظم قراراتها، على البشر. وتُظهر سنوات من الأبحاث بدورها أن الحكم الإنساني غالباً ما يكون متحيزاً بشكل متوقع.

فمن ناحية، يعتبر الأشخاص غير متسقين (في أمر ينظر إليه الباحثون على أنه "موثوقية منخفضة")، فضلاً عن أن انتباههم يتشتت في العادة بمعلومات لا صلة لها بالقضية موضع النقاش (أي "صلاحية تنبؤية منخفضة"). ولنأخذ موضوعي التوظيف والترقيات: فحتى بعد إزالة الجنس والعمر، وجد الباحثون أن الأشخاص الأكثر طولاً يجنون مالاً أكثر، مع نيل كل بوصة (2.5 سم) 789 دولاراً إضافية في الراتب في كل عام. ومن غير المرجح أن تكون نية المدراء إجراء عمليات التوظيف أو الترقية استناداً إلى طول المرشّح، ولكن يبدو أن هذه المعلومة تؤثر على حُكمهم. وبالإضافة إلى ذلك، فإنك معالجة المعلومات الغزيرة يتعبنا مما يزيد من احتمالية ارتكاب الأخطاء

وإذا لم يكن ما سبق كافياً، ثمّة أيضاً أمر آخر يتمثل في أن عملية الفكر الإنساني نفسها هي مبهمة بشكل محبط. اطلب من مدير أن يصف لك كيف يقوم بتوظيف موظفين ذوي أداء متميّز وستكون إجابته شرحاً لبحثه عن "لاعبي فريق". ولكن ماذا يعني ذلك بالضبط؟ قد يقول إنه يبحث عن شخص يعمل بشكل جيد مع الآخرين. ولكن ما هي المعلومات التي يبحث عنها في السيرة الذاتية أو أثناء المقابلة للإشارة إلى ذلك؟ قد يعتمد الناس على معايير ذاتية لاتخاذ القرارات ولا يدركون ذلك حتى يحاولوا شرح عملية التفكير الخاصة بهم. ويؤدي ما سبق إلى صعوبة إنشاء عملية قرار شفافة، مما يجعل الاتساق شبه مستحيل. ويفسّر كل ما ذُكر أعلاه سبب خطورة الابتعاد عن الخوارزميات لصالح الحكم الإنساني، إذ إنها تتسبب في نهاية المطاف بدفن تحيزاتنا بشكل أعمق، مما يجعل اكتشافها أمراً غايةً في الصعوبة.

القضية فيما يتعلق بالخوارزميات

يشعر الناس بالتعب ويتشتت انتباههم، بينما لا يحدث ذلك للخوارزميات، إذ أنها تقوم - بحسب تعريفها - بتنفيذ معادلات رياضية حسب القواعد التي وُضعت إليها. وقراراتها تبقى متسقة. ولهذا فإنه – غالباً - ما تكون أبسط الخوارزميات أكثر دقة من الخبراء.

وبينما يجد الناس في الغالب صعوبة في شرح عمليات التفكير الخاصة بهم، تكون الخوارزميات في معظمها شفافة - على الأقل لمنشئها. فبالنسبة إلى خوارزمية الانحدارات الخطية البسيطة، يحتاج الشخص إلى تحديد وزن أو أهمية كل متغير داخل في المعادلة. وتتطلب المعادلة متغيرات داخلة وخارجة موضوعية بما يكفي لتحديدها كميّاً. وبالتالي، تقدّم الأرقام شفافيةً في عملية اتخاذ القرار. (وتُستثنى من ذلك بعض أشكال التعلم الآلي، حيث يصعب على تلك الخوارزمية المدربة تفسير قواعد القرار الخاصة بها بسهولة رغم أن الشخص هو من يقرر أي مجموعة بيانات يجب استخدامها).

بالطبع، هناك مخاوف مشروعة بشأن تأييد قرارات الخوارزميات بشكل أعمى، بغض النظر عن أي ظروف، على اعتبار أن الخوارزميات قادرة على تعزيز فعالية التحيز الموجود في البيانات التي زُودت بها لكونها ستقوم بتعظيم أي أنماط موجودة في بيانات الإدخال. بالتالي، إذا كان ثمّة تحيز موجود في تلك البيانات، ستبرزه الخوارزمية بدورها أيضاً.

ومن غير المفاجئ عدم إعطاء المؤسسات هذا الأمر أهمية رغم تأثيره الشديد على التحيّز. كما أن المؤسسة لا تقوم باختبار الخوارزمية بما يكفي قبل وضعها موضع التطبيق. والحكم البشري ضروري لتقييم دقة الخوارزمية، فضلاً عن أن الخوارزميات بحاجة إلى تلقي الملاحظات ليتحسن عملها. وقد تسببت رغبة المؤسسات في الاستثمار في الخوارزميات من دون إدراج الملاحظات كجزء من العملية في ظهور ذاك السخط وتلك الدعوة إلى المحاسبة.

وفي الواقع، عملت "أمازون" بالفعل على التحقق من مخرجات خوارزمياتها، وقامت لاحقاً - ولحسن الحظ - بمشاركة إخفاقاتها مع الآخرين. وقدّمت لنا تلك المخرجات معلومات محددة بشكل مدهش حيال سبب وجود التحيّز في عمليات التوظيف تلك داخل الشركة. واستخدمت "أمازون" 500 نموذج لتحديد الإشارات التي تتنبأ بالنجاح، وتحدد إن كان يجب توظيف ذاك الشخص في الشركة أم لا. وعندما اكتشفت الشركة وجود تحيّز، اكتشفت أيضاً أصله ومن أين جاء. فقد تصادف أن أغلب مستخدمي كلمات محددة ضمن السير الذاتية لهم، وهي أفعال تعبّر عن الثقة وتصف كيفية تنفيذ مهام معينة مثل "نفّذت" و"طبّقت" هم من الذكور. بالتالي إحصائياً كانت تلك الكلمات مترافقة مع جنس محدد.

وسمحت هذه الاستنتاجات التي حصلت عليها "أمازون" بتحديد مكمن التحيّز في قرارات التوظيف السابقة لديها. ومن المرجح أن مدراء التوظيف وقتها كانوا غير مدركين لتأثير هذه الكلمات عليهم، أو ربما نظروا إليها على أنها تعكس ثقة الشخص. وربما قد اعتمدوا على ذلك أكثر من المعلومات الأخرى الموجودة في السير الذاتية، في إيمان منهم أن الثقة هي مؤشر مفيد أكثر للكفاءة مما هو عليه في الواقع.

ويتيح اكتشاف هذا النوع من العلاقات للشركة تحسين ممارسات التوظيف الحالية لديها. فعلى سبيل المثال، يمكن لـ "أمازون" إزالة هذه الكلمات من السير الذاتية قبل مراجعتها إذا كانت تعرف أنها مستخدمة من جنس واحد ولا تأثير لها على طلب التوظيف. بالإضافة إلى ذلك، يمكن للمبرمجين أخذ ذاك الأمر في الاعتبار وإدراجه في الخوارزمية بحيث لا تستخدم تلك الكلمات كإشارة تنبؤية لنجاح المرء مهنياً.

استخدام الخوارزميات لفهم التحيزات وكعدسات مكبرة

كما يمكن للمؤسسات استخدام الخوارزميات لتكبير التحيزات المحتملة عمداً بهدف تحديد تلك التحيّزات ثم معالجتها، إذ يعتبر الاكتشاف الخطوة الأولى في حل أي مشكلة. فعندما تقوم الخوارزميات بتحيزات، يكون لدى الشركات معرفة بما حدث في عمليات اتخاذ القرارات السابقة، وما الأمور التي تسببت بهذه التحيزات، وأي معلومات أخرى أدت إلى عدم رؤية المعلومات المفيدة. ويمكن للشركات تطبيق استراتيجية العدسة المكبرة على أي عملية قرار مهمة تتضمن تنبؤات، من التوظيف إلى الترقيات.

ويمكن أن يوفر الاستفادة من الخوارزميات كعدسات مكبرة وقت المؤسسات. فعلى سبيل المثال، إذا عيّن أحد أقسام الشركة موظفين كل عام، قد يستغرق الأمر بعض الوقت لإدراك أن القسم المكون من عشرة أفراد يضم امرأة واحدة فقط. ولكن عندما تقوم الخوارزمية بتجميع تلك القرارات غير المتواترة، ستجد أنماطاً لم نرها منذ سنوات. فإن إبراز التحيز بوضوح يمنح المؤسسات فرصة معالجة المشكلة. أما الحل البديل فيكمن في استمرار المؤسسات في عملها السابق، ما يجعل التحيز يتسرب فعلياً إلى كل توظيف أو ترقية.

وحالما تكتشف المؤسسة قراراً متحيزاً، يمكنها تصحيحه بواحدة من ثلاثة طرق رئيسة. الأولى والأكثر صعوبة، جعل بيانات المدخلات الخاصة بالخوارزمية أفضل، حيث تبدأ بتغيير ممارسات التوظيف الحالية. أما الثانية، فهي متابعة استخدام نفس البيانات التاريخية ولكن مع إنشاء قواعد جديدة للخوارزمية، مثل إدراج متغير يحدد التنوع. والثالثة تتمثل في دراسة كيف تُحدِث متغيرات المدخلات الحالية تحيزاً أو النظر في متغيرات إدخال جديدة أكثر ملاءمة. وللحصول على قائمة مراجعة مفصلة حول كيفية الاستفادة من الخوارزميات كعدسة مكبرة، راجع "اقرأ المزيد" أعلاه.

اسأل "ما البديل؟"

لا توجد خوارزمية مثالية، ولا بشر مثاليون. ولو كنا مثاليين، لكنا عرفنا المستقبل. وعندما يصدف ونرى خوارزمية غير مثالية، قد يرغب الواحد منا في التخلص منها تماماً.

وخلال المناقشات في صفي "علم نفس البيانات الضخمة"، أعطي طلابي مثالاً عن خوارزمية تم إنشاؤها للتنبؤ بالطلاب الأكثر احتمالاً للتسرب من الكلية، وكانت الخوارزمية دقيقة بنسبة 85%. ونبدأ النقاش هنا عما إذا ما كان يجب علينا الوثوق بنتائج أقل من مثالية. وأشجعهم على التفكير في البديل لدى محاولتهم تقييم إن كان عليهم الوثوق في تلك الخوارزمية أم لا. فما مدى قدرة أي شخص على توقع نفس النتيجة؟ هل يمكنه حتى الوصول إلى دقة 60%؟ بالمقارنة مع مقياس دقة 60%، تبدو نسبة 85% نسبة أفضل كثيراً.

ولدى المقارنة المباشرة بين الخوارزمية والبشر، تكون الغلبة دائماً للخوارزميات فيما يتعلق بالتحديد الدقيق لأي أمر مهما كانت خبرة الطرف البشري المقابل. ولهذا السبب، فإننا بحاجة إلى التفكير في بديل مقارنةً بإطلاق الأحكام على الخوارزمية. وفي الواقع، وضمن البحث الذي قمت به مع جوليا مينسون من "جامعة هارفارد" ودون مور من "جامعة كاليفورنيا بركلي"، وجدنا أن الخبراء الذين يتجاهلون نصيحة الخوارزمية يقدمون تنبؤات أقل دقة مقارنة بأشخاص عاديين تصرفوا بناء على نصيحة الخوارزمية.

وفي النهاية نقول إن قرارات الخوارزميات لفهم التحيزات هي أدوات يصنعها أشخاص وتحدد ما إذا كانت مخرجاتهم دقيقة، وتقرر متى وكيف يمكن التصرف بناء على هذه المخرجات. ويمكن أن توفر البيانات رؤى ثاقبة، ولكن الأشخاص مسؤولون في النهاية عن القرارات المتخذة بناءً عليها.