اجعل "العدل في التصميم" جزءاً أساسياً من التعلم الآلي

يستخدم التعلم الآلي بشكل متزايد للتنبؤ بمواقف الأفراد وسلوكياتهم وتفضيلاتهم عبر مجموعة من التطبيقات، بدءاً من التسويق الشخصي إلى الطب الدقيق. ولم يكن مستغرباً (نظراً إلى تزايد سرعة تغير وتعقيد هذه البرمجيات) أن يشهد العالم في الفترة الأخيرة العديد من الحالات البارزة التي "فشل" فيها التعلم الآلي في تحقيق النتائج المرجوة.
أوقِف تشغيل روبوت الدردشة (تشاتبوت) المدرب على استخدام تويتر بعد يوم واحد فقط من إطلاقه بسبب تغريداته غير اللائقة والتهجمية. وتواجه نماذج التعلم الآلي المستخدمة في محرك بحث شهير صعوبة في تمييز صور البشر من صور الغوريلا وتعرض على المتصفحات النساء وظائف ذات أجر أكثر انخفاضاً مقارنة بالمستخدمين الرجال. في الآونة الأخيرة، قارنت دراسة بين أداة تحليل مخاطر