إدارة التحيز والمخاطر في كل خطوات عملية بناء الذكاء الاصطناعي

ثمة سيناريو شائع بين المؤسسات التي تطبق مفهوم تعلم الآلة في أساليب عملها، حيث تتوافق كل من فرق الأعمال والفرق التقنية على بيان المشكلة العامة لإحدى مهمات تعلم الآلة. الجميع متحمس، حتى إن الفريق التقني يعكف لبضعة أشهر على إجراء التجارب على البيانات المتاحة باستخدام الخوارزميات المختلفة، حتى ينجحوا أخيراً في التوصل إلى إحدى الخوارزميات التي يظنون أنها تحقق أعلى مستويات الأداء وفق المقاييس المتفق عليها. ويعرضون النتائج بكل فخر على إدارة الشركة لدمجها في أحد أساليب عملها، أو لاعتمادها كسمة في أحد منتجات البرمجيات.
إعلان: لا تدع حائط الدفع يفصلك عن أهم المهارات والخبرات الإدارية. استفد اليوم من الاشتراك الترحيبي بدءاً من 30 ريال/درهم (8 دولار).

ولكن قبل تعميم نموذجهم الخوارزمي، لا بد من مراجعته بمعرفة فريق الحوكمة للتأكد من استيفائه متطلبات إدارة المخاطر، حيث يشترط فريق الحوكمة توثيقاً دقيقاً للمتطلبات التي لم يأخذها الفريق التقني بعين الاعتبار على الإطلاق: هل يمكننا أن نفسر لماذا تستمد الخوارزمية مخرجاتها من مدخلاتها؟ وما الضوابط التي يستخدمها النظام لحماية خصوصية العميل؟ وما مدى ثبات البيانات المدخلة على مدى فترات زمنية طويلة، لاسيما إذا كنا لا نخطط للاحتفاظ بالنموذج سوى لمرة واحدة في الشهر، أو