لماذا نحتاج إلى تدقيق الخوارزميات قبل اتخاذ القرار؟

شارك

استمع الى المقالة الآن هذه الخدمة تجريبية

تنطوي عملية صنع القرار والذكاء الاصطناعي المرتكز على الخوارزميات على إمكانات هائلة وواعدة بحيث يُتوقع أن تمثل قوة اقتصادية كبيرة، لكننا نشعر بالقلق من أن الضجيج المثار حول الخوارزميات سيؤدي بالكثير من الناس إلى التغاضي عن المشكلات الجدية المتمثلة في إدخال الخوارزميات إلى قطاع الأعمال والمجتمع. في الواقع، نرى الكثير يرضخون لما تسميه كيت كراوفورد من شركة مايكروسوفت “التعصب للبيانات” – وهي الفكرة القائلة أن مجموعات البيانات الضخمة هي عبارة عن مستودعات تُنتج حقائق موثوقة وموضوعية إذا تمكنا من استخراجها باستخدام أدوات التعلم الآلي. ونرى أن هناك حاجة إلى تكوين رؤية أدق. فمن الواضح تماماً الآن أن خوارزميات الذكاء الاصطناعي المدخلة في التقنيات الرقمية والاجتماعية، قادرة لو تركت دون مراقب، أن تشفّر التحيزات المجتمعية، وتسرّع انتشار الشائعات والمعلومات المضللة، وقادرة على تضخيم صدى الرأي العام، والاستحواذ على انتباهنا، وإضعاف صحتنا العقلية.

سيتطلب ضمان انعكاس القيم المجتمعية في الخوارزميات وتكنولوجيا الذكاء الاصطناعي قدراً من الإبداع والعمل الجاد والابتكار لا يقل بأي حال عن تطوير تقنيات الذكاء الاصطناعي نفسها. ولدينا هنا اقتراح بشأن مكان يصلح أن يكون نقطة انطلاق: المراجعة والتدقيق. لطالما كانت الشركات مطالبة بإصدار بيانات مالية مدققة نزولاً عند طلب الأسواق المالية وأصحاب المصلحة الآخرين. ذلك لأن العمليات الداخلية للشركات – مثل الخوارزميات – تُعد بمثابة “صناديق سوداء” لمن هم خارجها. وهذا يعطي المدراء ميزة معرفية متقدمة على الجمهور المستثمر الذي يمكن أن يكون ضحية جهات ضعيفة الأخلاق في حال قررت أذيته. إنّ مطالبة المدراء بالإبلاغ دورياً عن عملياتهم يوفر فرصة مراقبة تلك الميزة. ولتعزيز الثقة بهذه التقارير، يُستعان بمدققين مستقلين للاطمئنان إلى حد معقول بأن التقارير الواردة من “الصندوق الأسود” خالية من الأخطاء المادية. أفلا يجدر بنا أن نُخضع “صندوق الخوارزميات الأسود” ذا التأثير الاجتماعي لتدقيق مماثل؟

في الواقع ، بدأ بعض المشرعين الرواد باستكشاف هذه الإمكانية. على سبيل المثال، يتطلب قانون حماية البيانات العامة للاتحاد الأوروبي، أن تكون الشركات قادرة على شرح قراراتها الخوارزمية. وشكلت مدينة نيويورك مؤخراً فرقة عمل لدراسة التحيز المحتمل في أنظمة اتخاذ القرارات الخوارزمية. ومن المعقول أن نتوقع أن التشريعات المنظمة الناشئة قد تدفع إلى أن تُسحب من السوق الخدمات التي تنطوي على مساءلة متصلة بعمل الخوارزميات.

ما الذي قد يبدو عليه اختصاص التدقيق الخوارزمي؟ أولا، يجب أن يتبنى وجهة نظر شاملة. ستكون علوم الكمبيوتر وأساليب التعلم الآلي ضرورية ولكن من المحتمل ألا تكون أسساً كافية لممارسة التدقيق الخوارزمي. إذ سيكون أيضاً من المطلوب امتلاك فكر استراتيجي، إضافة إلى الحكم المهني على أساس فهم السياق، وخبرة في الاتصالات، والمنهجية العلمية.

نتيجة لذلك، يجب أن يكون التدقيق الخوارزمي متعدد التخصصات حتى ينجح. وينبغي أن يدمج الشك المهني مع منهجية ومفاهيم العلوم الاجتماعية من مجالات مثل علم النفس والاقتصاديات السلوكية والتصميم المرتكز على الإنسان والأخلاقيات. لا يكفي العالم الاجتماعي أن يسأل: “كيف يمكنني على النحو الأمثل نمذجة واستخدام الأنماط في هذه البيانات؟”. ولكنه سيسأل أيضاً: “هل تمثل هذه العينة من البيانات بشكل مناسب الواقع الأساسي؟”، وقد يذهب عالم الأخلاقيات أبعد من ذلك إلى طرح السؤال التالي: “هل التوزيع المعتمد على واقع الحال اليوم هو التوزيع المناسب لاستخدامه؟”. لنفترض على سبيل المثال أن توزيع الموظفين الناجحين في المراتب الأعلى في شركة اليوم يميل لصالح الذكور. قد يؤدي التدريب العفوي لخوارزمية التوظيف على البيانات التي تمثل هذه الفئة إلى تفاقم المشكلة بدلاً من تحسينها.

يجب على المدقق طرح أسئلة أخرى أيضا: هل الخوارزمية شفافة بشكل مناسب للمستخدمين النهائيين؟ هل ستستخدم على الأرجح بطريقة مقبولة اجتماعياً؟ هل يمكن أن تُحدث تأثيرات نفسية غير مرغوبة أو تستغل نقاط ضعف طبيعية لدى البشر عن غير قصد؟ هل تُستخدم الخوارزمية لغرض الخداع؟ هل هناك دليل على التحيز أو عدم الكفاءة الداخلية في تصميمها؟ هل تبلغ بشكل مناسب عن كيفية وصولها إلى توصياتها وتشير إلى مستوى الثقة؟

حتى في حال ممارسته بصورة متأنية، لا بد أن يطرح التدقيق الخوارزمي أسئلة صعبة لا يستطيع سوى المجتمع الإجابة عنها من خلال ممثليه المنتخبين والجهات المنظمة للتشريعات والقوانين. لنأخذ على سبيل المثال التحقيق الذي يجريه موقع “بروبابليكا” الإخباري المستقل (ProPublica) في خوارزمية مستخدمة لتقرير ما إذا كان يجب الإفراج قبل المحاكمة عن شخص متهم بارتكاب جريمة. وجد صحفيو “بروبابليكا” أن أصحاب البشرة السمراء الذين لم يكرروا الجرم أو الجنحة حصلوا على درجات متوسطة أو عالية المخاطر أكثر من أصحاب البشرة البيضاء الذين لم يكرروا الجرم أو الجنحة. إذاً وبشكل بديهي، تشير المعدلات الإيجابية الزائفة المختلفة إلى حالة واضحة من التحيز العنصري الخوارزمي. ولكن تبين أن الخوارزمية قد استوفت بالفعل مفهوماً مهماً آخر “للإنصاف”: وهو أن الدرجة العالية تعني تقريباً أرجحية مماثلة في تكرار الجرم، بغض النظر عن العرق. وبينت الأبحاث الأكاديمية اللاحقة أنه من المستحيل عموماً مراعاة كلاً من معياري الإنصاف في الوقت نفسه. وبالتالي، يوضح هذا المثال، أن الصحفيين والنشطاء يؤدون دوراً حيوياً في إعلام الأكاديميين والمواطنين وصناع القرار أثناء قيامهم بالتحقيق في مثل هذه القضايا وتقييمها. ولكن يجب أن تبقى المراجعة والتدقيق الخوارزمي عمليات متميزة عن هذه الأنشطة (الأساسية).

ومهمة المدقق في الواقع ينبغي أن تكون الأكثر روتينية في ضمان توافق أنظمة الذكاء الاصطناعي مع الاتفاقيات المتداولة والمحددة على المستوى المجتمعي والحكومي. لهذا السبب، يجب أن يصبح التدقيق الخوارزمي في نهاية المطاف اختصاصاً مهنياً يتطلب درجة عالية من التعليم والأخلاق (علم البيانات) مع معايير اعتماد مناسبة، ومعايير الممارسة والإجراءات التأديبية والعلاقات مع الأوساط الأكاديمية والتعليم المستمر والتدريب على الأخلاقيات والتشريعات والأنظمة والكفاءة المهنية. ويمكن تشكيل هيئات مستقلة اقتصادياً للتداول وإصدار معايير التصميم والإبلاغ والسلوك. يمثل هذا النهج القائم على أسس علمية وأخلاقية في تدقيق الخوارزميات جزءاً مهماً من التحدي الأوسع المتمثل في إنشاء أنظمة موثوقة لحوكمة الذكاء الاصطناعي والتدقيق وإدارة المخاطر والتحكم.

مع انتقال الذكاء الاصطناعي من مختبرات البحث إلى بيئات اتخاذ القرارات في العالم الحقيقي، ينتقل من كونه تحدياً في علوم الكمبيوتر إلى أن يصبح تحدياً تجارياً واجتماعياً. قبل عقود، ساعد اعتماد أنظمة الحوكمة والتدقيق في ضمان أن تتبنى الشركات القيم المجتمعية على نطاق واسع. فلنحاول تكرار هذا النجاح في مجال الذكاء الاصطناعي.