هل تدعم خوارزمياتك معايير الإنصاف لديك؟

شارك

استمع الى المقالة الآن هذه الخدمة تجريبية

في أعقاب فضائح تحيز الذكاء الاصطناعي الأخيرة البارزة، بدأت الشركات في إدراك أنّ عليها إعادة النظر في استراتيجيتها الخاصة بالذكاء الاصطناعي ليس لتشتمل على إنصاف ذكاء اصطناعي فحسب، إنما أيضاً على “إنصاف خوارزمي” (Algorithmic Fairness) أوسع نطاقاً كدعامة أساسية لهذا الذكاء. في شركة “براغماتك إنستتيوت” (Pragmatic Institute)، نقوم بتعليم شركات قائمة “فورتشن 500” عن علم البيانات والذكاء الاصطناعي. وقد اكتشفنا من خلال عملنا أنّ الكثير من الشركات تواجه صعوبة في تكوين مفهوم واضح للإنصاف الخوارزمي لمؤسستها. ومع عدم وجود تعريف واضح، تضعف مبادرات الإنصاف ذات النوايا الطيبة في عالم النوايا الطيبة ولا تحقق أي أثر ملموس على الإطلاق. لكن تعريف الإنصاف ليس سهلاً كما يبدو. ويسلط مثالان الضوء على مدى الصعوبة التي قد يتسم بها هذا الأمر.

أولاً، خذ بعين الاعتبار ما حدث في شركة “أمازون” في عام 2016، عندما أطلقت الشركة خدمة التسليم اليومي “برايم” (Prime) في 27 منطقة حضرية، حيث واجهت الشركة الكثير من الانتقادات عندما أظهرت “بلومبرغ” أنّ الأحياء الأفريقية الأميركية على مدار الزمن مثل حي “برونكس” في مدينة نيويورك أو منطقة “ساوث سايد” في شيكاغو جرى استثناؤهما من الأحياء المؤهلة للاستفادة من الخدمة. كان 96% من السكان البيض في مدينة أتلانتا عاصمة ولاية جورجيا الأميركية يسكنون في منطقة تسليم يومي، بينما عاش فيها 41% من السكان السود فقط. كان هذا المثال مزعجاً على نحو خاص حيث أعاد ذكريات مؤلمة عن “الخط الأحمر”، وهو مصطلح يُطلق على ممارسة حدثت في ثلاثينات القرن الماضي حيث حُدِّدت الأحياء التي تسكنها أغلبية من الأقليات على أنها “خطرة” بالإشارة إليها بالحبر الأحمر على خرائط رسمتها “شركة قروض مالكي المنازل” الاتحادية (Home Owners’ Loan Corporation)، وهي ممارسة عنصرية حُظرت قبل أكثر من نصف قرن. وفي الحالة الأميركية، تطلب الأمر حشد تأييد نواب الكونغرس والمسؤولين في المدينة كي تبدأ شركة “أمازون” بتضمين أحياء كثيرة من تلك التي استثنتها سابقاً في المناطق المشمولة بخدمة التسليم اليومي “برايم”.

وقالت الشركة التي تعمل في مجال البيع بالتجزئة عبر الإنترنت، ومقرها في مدينة سياتل الأميركية، لشركة “بلومبرغ” إنّ أحد الاعتبارات الرئيسة التي استخدمتها في الخوارزمية لاتخاذ هذا القرار يتمثل في تركز أعضاء “برايم”. يعتبر استخدام تركز عضوية “برايم” كمؤشر أداء رئيس لهم بالتأكيد موفراً للتكلفة من منظور لوجستي، وقد يبدو في ظاهر الأمر غير متحيز ومنصف. لكن نظراً للأنماط التاريخية لعدم المساواة العرقية، يمكن أن تُظهر المقاييس التي تركز على الربحية تحيزاً صارخاً ضد الأقليات. وفي الواقع، يحظر قانون الحقوق المدنية الأميركي لعام 1964 على المستفيدين من التمويل الاتحادي استخدام ممارسات “محايدة ظاهرياً” لها آثار سلبية غير مبررة على أعضاء فئة محمية. وحتى إذا لم يكن القانون قابلاً للتطبيق بشكل مباشر بالنسبة للكثير من الشركات التي لا تحصل على تمويل اتحادي، فإنه يمثل دليلاً جيداً للتوقعات المجتمعية.

يجب على الشركات التي تسعى إلى تجنب الفضائح ليس فقط أن تتجنب المعاملة المتفاوتة (معاملة الفئات المحمية بطريقة عكسية على نحو واضح)، بل أن تراعي أيضاً الأثر المتفاوت لأنشطتها.

ويأتي المثال الثاني من عام 2016، عندما نشرت مؤسسة “برو بابليكا” الإخبارية (ProPublica) تقريراً عن تحيز الآلة، وادّعت أنّ إحدى الخوارزميات المستخدمة في المحاكم للمساعدة في اتخاذ قرارات الإفراج بكفالة كانت منحازة ضد المتهمين السود. وتخرج الخوارزمية “نتيجة خطر” للمتهمين الأفراد الذين قدّرت فرصة عودتهم إلى ارتكاب الجرائم. ووجدت المؤسسة الإخبارية غير الربحية أنّ من بين المتهمين الذين لم يعودوا في نهاية المطاف إلى ارتكاب الجرائم، فقط 24% من المتهمين البيض وصفتهم الخوارزمية عن طريق الخطأ على أنهم ذوي خطورة عالية، في مقابل 45% للمتهمين السود. هؤلاء المتهمين الذين لم يعودوا في نهاية المطاف إلى ارتكاب الجرائم كانوا على الأرجح محرومين من الإفراج عنهم بكفالة حتى موعد المحاكمة المنتظرة، وأكثر ميلاً للحصول على عقوبات بمدة أطول نظراً لأنّ الخوارزمية قيّمتهم بدرجة خطورة عالية.

وعلى أي حال، توصل مجموعة من الباحثين المستقلين من مدينتي ستانفورد وبيركلي إلى نتيجة مختلفة من خلال دراسة البيانات نفسها، عبر النظر إلى مقياس مختلف. ووجدوا أنّ المتهمين الذين حكمت عليهم الخوارزمية بامتلاك نتائج خطر متشابهة كان لديهم نفس أرجحية العودة إلى ارتكاب الجرائم، بغض النظر عن عرقهم. وقد يبدو ذلك مبطلاً للتحليل الذي أجرته “برو بابليكا”، لكن هاتين النتيجتين صحيحتان في الوقت ذاته مع الاختلاف الشديد في تفسيراتهما. قياس البيانات من خلال عودة المتهم إلى الإجرام في نهاية المطاف (كما فعلت “برو بابليكا”) في مقابل نتائج خطر المتهمين (كما فعل الباحثون) يمكن أن يؤدي إلى تفسيرات مختلفة جداً حول إنصاف خوارزمية قرارات الإفراج بكفالة. وفي الحقيقة، بيّن باحثون في جامعة شيكاغو وجامعة كورنيل أنّ المقاييس التي استخدمتها “برو بابليكا” وباحثو ستانفورد وبيركلي متناقضة حتماً. وبشكل أكثر تحديداً، نظراً للطبيعة غير المثالية لمعاودة الإجرام المتوقعة وتاريخ عدم المساواة التنظيمية الذي أدى إلى معدلات سجن أعلى في أوساط الأميركيين من أصول أفريقية، فإنّ من المستحيل رياضياً تبرير إنصاف هذين المقياسين.

وبعبارة أخرى، يُختزل تعريف الإنصاف في المقياس الذي نختار أن نستخدمه.

تبين هاتان الحالتان أنّ على قادة الشركات تثقيف أنفسهم حول قياس الإنصاف حتى يكونوا قادرين على اتخاذ قرارات ذكية حول كيفية تعريف الإنصاف بالنسبة لمؤسساتهم. كما يعني ذلك دمج الإجراء المختار كمؤشر أداء رئيس ليجري استخدامه إلى جانب مقاييس الأعمال التقليدية مثل الإيرادات أو الربحية. ما زالت الشركات تعاني من هذه التعريفات وتأثيراتها بالضبط، وهذه محادثات مهمة يجب البدء بإجرائها الآن. يؤدي الذكاء الاصطناعي والخوارزميات دوراً مركزياً في اقتصاد القرن الحادي والعشرين، ويمكن أن يكون لفشل القادة في فهم تأثيرات الإنصاف الخاصة بالذكاء الاصطناعي أو الخوارزميات عواقب وخيمة. وفي النهاية، يقع على عاتق هؤلاء القادة تحديد ما يعنيه الإنصاف بالنسبة لمؤسساتهم. ويجب على الشركات أن تبدأ بالتفكير في المسائل الشائكة المتصلة بالإنصاف الخوارزمي اليوم إذا كانت تأمل أن تشق غمار مستقبلنا المعقد القائم على الذكاء الاصطناعي.