نحن على أبواب ثورة هادئة. ولكن على نقيض ما ينشره الإعلام عن الذكاء الاصطناعي، هذه الثورة لا تتعلق بنهوض جيش من روبوتات الأندرويد الواعية. حيث تتميز هذه الثورة بزيادة مطردة في أتمتة عمليات اتخاذ القرارات التي اعتاد البشر القيام بها في جميع المؤسسات في جميع أنحاء البلاد. وفي حين تتصدر تطورات مثل برمجية ألفاغو زيرو (AlphaGo Zero) المتفوقة في لعبة الشطرنج العناوين المثيرة للاهتمام، فإن الأساليب التقليدية في التعلم الآلي والتقنيات الإحصائية، مثل المربعات الصغرى العادية والانحدار اللوجستي وأشجار القرارات، هي التي تضيف قيمة حقيقية إلى الدخل الصافي للعديد من الشركات. وتتراوح التطبيقات في العالم الحقيقي من التشخيصات الطبية والحكم القضائي إلى التوظيف المهني وتخصيص الموارد في الهيئات والمصالح العامة.

هل تبشر هذه الثورة بالخير؟ يبدو أن هناك مجموعة تزداد اتساعاً من المؤلفين والأكاديميين والصحفيين الذين سيجيبون بالنفي. وتشمل عناوين الكتب التي تنحو في هذا الاتجاه "أسلحة دمار الرياضيات" (Weapons of Math Destruction) و"أتمتة عدم المساواة" (Automating Inequality) و"مجتمع الصندوق الأسود"(The Black Box Society). ونُشرت كذلك مجموعة من المقالات الطويلة الشبيهة بالعمل البحثي تحت عناوين مثل "تحيز الآلة" (Machine Bias) "تقشف الخوارزمية" (Austerity Is an Algorithm) و"هل تبني الخوارزميات بنية تحتية جديدة للعنصرية؟" (Are Algorithms Building the New Infrastructure of Racism?). وتعبر كل هذه الكتب والمقالات عن القلق من أن تكون الخوارزميات في أكثر الأحيان مبهمة ومنحازة وغير خاضعة للمساءلة ومن أنها تستخدم لصالح تعزيز نفوذ الشركات والمؤسسات. فهل ينبغي أن نقلق بشأن الصعود الحديث للخوارزميات؟

تحمل هذه الانتقادات والتحقيقات في أكثر الأحيان رؤى متبصرة وتلقي الضوء على مسائل مهمة، وقد فعلت ذلك في تخليصنا من فكرة أن الخوارزميات موضوعية تماماً. ولكن هناك نمطاً سائداً لدى هؤلاء النقاد وهو أنهم نادراً ما يسألون إلى أي مدى ستؤدي الأنظمة التي يحللونها عملها في غياب الخوارزميات. وذاك هو السؤال الأكثر أهمية بالنسبة للممارسين وصانعي السياسات: كيف يمكن مقارنة التحيز وأداء الخوارزميات بالوضع الراهن؟ بدلاً من أن نسأل ببساطة إذا كانت الخوارزميات معابة، يجب أن نسأل كيف تُقارن عيوبها بعيوب البشر.

ماذا تقول الأبحاث؟

هناك مجموعة كبيرة من الأبحاث حول الاستعانة بالخوارزميات لاتخاذ القرار يرجع تاريخها إلى عدة عقود. وجميع الدراسات الحالية حول هذا الموضوع توصلت إلى استنتاج مماثل بشكل ملحوظ: الخوارزميات أقل تحيزاً وأكثر دقة من البشر الذين تحل محلهم. فيما يلي عينة من الأبحاث حول ما يحدث عندما يتم إعطاء الخوارزميات السيطرة على المهام التي يقوم بها البشر عادة (التشديد في النص من وضعي):

    • في عام 2002، درس فريق من الاقتصاديين تأثير خوارزميات التأمين الآلي في قطاع القروض العقارية. وكانت النتائج الرئيسة التي توصلوا إليها هي أن "أنظمة التأمين الآلي تتنبأ بشكل أدق باحتمال التخلف عن السداد مقارنة بموظفي التأمين الذين يفعلون ذلك يدوياً" و"أن هذه الزيادة في الدقة تؤدي إلى ارتفاع معدلات الموافقة على المقترضين، وخصوصاً المتقدمين الذين قلما يحصلون على قروض". بدلاً من تهميش مشتري المنازل الذين ليس لديهم حظ عادة في الحصول على قرض، أفادت هذه الفئة من المستهلكين من النظام الخوارزمي أكثر من غيرها.
  • توصل بو كوغويل من كلية كولومبيا للأعمال إلى استنتاج مماثل عندما درس أداء خوارزمية لفرز المتقدمين للوظائف في شركة برمجيات (بحث قادم). عندما بدأت الشركة باستخدام الخوارزمية لاختيار المتقدمين الذين يجب أن يحصلوا على مقابلات، فضلت البرمجية بالفعل المرشحين "غير التقليديين" أكثر بكثير مما فعل البشر المكلفون بالمهمة ذاتها. مقارنة بالبشر، أظهرت الخوارزمية تحيزاً أقل بكثير ضد المرشحين الذين لا يجدون عادة فرصة للدخول إلى الشركة (مثل أولئك الذين ليس لديهم إحالات شخصية أو ليسوا حاصلين على شهادات من جامعات مرموقة).
  • في سياق جلسات الاستماع للخروج بكفالة السابقة على المحاكمة في مدينة نيويورك، توصل فريق من علماء الكمبيوتر والاقتصاديين البارزين إلى أن الخوارزميات لديها القدرة على التوصل إلى قرارات أكثر إنصافاً بشكل ملحوظ من القضاة الذين يتخذون قرارات الكفالة حالياً مع "خفض معدلات السجن" بما يصل إلى 41.9% من دون زيادة في معدلات الجريمة". ووجدوا أيضاً أنه في نموذجهم "جميع فئات الجريمة، بما في ذلك جرائم العنف، تظهر انخفاضاً في معدلات السجن؛ وأنه يمكن تحقيق هذه المكاسب مع تقليل الفوارق العرقية في الوقت نفسه".
  • نشرت مجلة نيويورك تايمز مؤخراً مقالاً مطولاً للإجابة عن سؤال: "هل يمكن أن تتعرف الخوارزمية على الخطر المحدق بالأطفال؟ واتضح أن الإجابة هي "نعم"، وأن الخوارزميات يمكنها أداء هذه المهمة بدقة أكبر من البشر. بدلاً من مفاقمة التحيزات العنصرية الخبيثة المرتبطة ببعض الخدمات الحكومية، "تقترح تجربة أليغيْني Allegheny أن أداتها للفرز أقل سوءاً في وزن التحيزات مقارنة بالبشر الذين يتولون الفرز".
  • أخيراً ، من خلال الاطلاع على البيانات التاريخية عن الشركات المتداولة في البورصة، بدأ فريق من أساتذة المالية ببناء خوارزمية لاختيار أفضل من ينضم لعضوية مجلس إدارة شركة معينة. لم يتوصل الباحثون فحسب إلى أن الشركات ستعمل بشكل أفضل لدى اختيار الخوارزميات أعضاء مجلس الإدارة، ولكن بالمقارنة مع الخوارزمية التي اقترحوها، وجدوا "أن الشركات من دون خوارزميات تميل إلى اختيار أعضاء مجلس الإدارة أكثر بين الرجال وممن لديهم شبكة اتصالات كبيرة وخبرة كبيرة كأعضاء مجلس إدارة وينتمون إلى مجالس إدارة أخرى ولديهم خلفية مالية".

في كل من دراسات الحالة هذه، فعل علماء البيانات ما قد يبدو مقلقاً: لقد دربوا خوارزمياتهم على بيانات سابقة منحازة بصورة مؤكدة ومحملة بأفكار مسبقة فعلية. إذن، ما الذي يحدث هنا؟ كيف يمكن للخوارزميات في العديد من المجالات المختلفة، مثل طلبات الحصول على قروض وفرز المتقدمين للوظائف والعدالة الجنائية وتخصيص الموارد العامة وحوكمة الشركات، أن تقلل من التحيز في حين يخبرنا العديد من المعلقين أن الخوارزميات تفعل العكس؟

البشر هم من يتخذون قرارات رديئة

لا يخفى على أحد أن الخوارزميات الوارد ذكرها أعلاه هي في الواقع منحازة. لكن البشر الذين تحل محلهم أكثر تحيزاً منها بشكل ملحوظ. في الأساس، من أين يأتي التحيز المؤسسي إن لم يكن من البشر الذين كانوا تقليدياً في موقع المسؤولية؟

لا يمكن للبشر أن يكونوا بهذا السوء، أليس كذلك؟ نعم، قد نكون متحيزين، لكن من المؤكد أن هناك قدراً من الأداء الذي نبرع فيه في اتخاذ القرارات. لسوء الحظ، أظهرت عقود من البحث النفسي في مجال الحكم وصنع القرار مراراً وتكراراً أن البشر رديئون عندما يُطلب منهم الحكم في مجموعة واسعة من السياقات. بفضل العمل الرائد الذي قام به بول ميهل (والمتابعة التي قام بها روبن دوز)، عرفنا منذ خمسينيات القرن الماضي على الأقل أن النماذج الرياضية البسيطة للغاية تتفوق على الخبراء المفترضين في التنبؤ بنتائج صحية مهمة في الإعدادات السريرية.

في جميع الأمثلة المذكورة أعلاه، كان البشر الذين اعتادوا على اتخاذ القرارات رديئين بشكل ملحوظ لدرجة أن استبدالهم بالخوارزميات زاد من الدقة وقلل كذلك التحيزات المؤسسية. هذا ما يسميه الاقتصاديون تحسين باريتو (Pareto improvement) وهو تغيير في إعادة توزيع الموارد يمثل تحسناً بالنسبة لفرد أو أكثر في مجتمع ما دون الإساءة إلى أي فرد آخر، وحيث تتفوق سياسة واحدة على أخرى بديلة في كل النتائج التي نهتم بتحقيقها. بينما يطيب للعديد من النقاد الإشارة إلى أن الشركات الحديثة تسعى إلى تحقيق الكفاءة التشغيلية وزيادة الإنتاجية على حساب العدالة والإنصاف، تشير جميع الأدلة المتوفرة في هذه السياقات إلى أن الأمور لا يتم حسابها على أساس المقايضة بين هذه وتلك: الخوارزميات تحقق نتائج أكثر كفاءة وأكثر إنصافاً. وإذا كان هناك ما ينبغي أن يثير القلق، فيجب أن يكون أن الكثير من القرارات المهمة يتخذها بشر نعرف أنهم غير متسقين ومتحيزون وصانعو قرار رديئون إلى حد كبير.

تحسين الوضع الراهن

بالطبع ، يجب أن نبذل قصارى جهدنا للقضاء على التحيز المؤسسي وتأثيره الضار على خوارزميات صنع القرار. كانت الانتقادات الموجهة للاستعانة بالخوارزميات في اتخاذ القرارات وراء موجة جديدة وفيرة من البحوث حول التعلم الآلي تأخذ بصورة أكبر على محمل الجد العواقب الاجتماعية والسياسية للخوارزميات. هناك تقنيات جديدة ناشئة في الإحصائيات والتعلم الآلي مصممة خصيصاً لمعالجة المخاوف من التمييز المتصل بالخوارزميات. حتى أن مؤتمراً أكاديمياً يعقد سنوياً يناقش فيه الباحثون التحديات الأخلاقية والاجتماعية للتعلم الآلي ويعرضون نماذج وأساليب جديدة لضمان التأثير الإيجابي للخوارزميات على المجتمع. من المحتمل أن يصبح هذا العمل أكثر أهمية مع الانتشار المتزايد للخوارزميات الأقل شفافية مثل التعلم العميق.

ولكن حتى وإن لم تتمكن التكنولوجيا من حل المشاكل الاجتماعية المتمثلة في التحيز المؤسسي والتمييز المجحف، فإن الأدلة التي تمت مراجعتها هنا تشير إلى أنه من الناحية العملية، يمكنها أن تؤدي دوراً صغيراً ولكنه قابل للقياس في تحسين الوضع الراهن. هذه ليست حجة هدفها الترويج للتفوق المطلق للخوارزميات أو الإيمان الأعمى في قوة الإحصاءات. إذا وجدنا في بعض الحالات أن الخوارزميات تبدي درجة عالية غير مقبولة من التحيز مقارنة بعمليات صنع القرار الحالية، لن يحدث ضرر من الأخذ بالأدلة والحفاظ على النموذج الحالي. لكن الالتزام باتباع الأدلة يسير في الاتجاهين، ويجب أن نكون مستعدين لقبول أن الخوارزميات ستكون، في بعض الحالات، جزءاً من الحل للحد من التحيزات المؤسسية. لذلك عندما تقرؤون في المرة المقبلة عنواناً حول مخاطر تحيز الخوارزميات، تذكروا أن تنظروا في المرآة وتتذكروا أن مخاطر التحيز البشري قد تكون أسوأ.

تنويه: يمكنكم مشاركة أي مقال من هارفارد بزنس ريفيو من خلال نشر رابط المقال أو الفيديو على أي من شبكات التواصل أو إعادة نشر تغريداتنا، لكن لا يمكن نسخ نص المقال نفسه ونشر النص في مكان آخر نظراً لأنه محمي بحقوق الملكية الدولية. إن نسخ نص المقال بدون إذن مسبق يعرض صاحبه للملاحقة القانونية دولياً.

ﺟﻣﯾﻊ اﻟﺣﻘوق ﻣﺣﻔوظﺔ ﻟﺷرﻛﺔ ھﺎرﻓﺎرد ﺑزﻧس ﺑﺑﻠﯾﺷﻧﻎ، ﺑوﺳطن، اﻟوﻻﯾﺎت اﻟﻣﺗﺣدة اﻷﻣﯾرﻛﯾﺔ - 2019

error: المحتوى محمي !!