هل فرط الشفافية في الخوارزميات يمكن أن يأتي بنتائج عكسية؟

في العام 2013، تعرض كليفورد ناس ـ الأستاذ في جامعة ستانفورد، لثورة من جانب الطلاب. زعم طلاب كليفورد أنّ الزملاء في أحد الأقسام التي تدرس دورة واجهة التقنية التي يقوم بتدريسها كليفورد حصلوا على درجات في الامتحان النهائي أعلى من نظرائهم في امتحان آخر. ولسوء الحظ، كان هؤلاء الطلاب على حق: فقد قام مدرسان مساعدان بتصحيح وتقييم امتحانات الأقسام المختلفة، وكان أحد هذين المساعدين أكثر مرونة وتساهلاً من الآخر. وترتب على ذلك حصول الطلاب ممن كانت إجاباتهم مماثلة على درجات مختلفة.
إعلان: لا تدع حائط الدفع يفصلك عن أهم المهارات والخبرات الإدارية. استفد اليوم من الاشتراك الترحيبي بدءاً من 30 ريال/درهم (8 دولار).

أدرك كليفورد، عالم الكمبيوتر، عدم الإنصاف ووضع حلاً تقنياً للمشكلة: وهو نموذج إحصائي بسيط لتعديل الدرجات، حيث حصل الطلاب على رفع بنسبة مئوية معينة على درجاتهم النهائية عند تصحيح أوراقهم في الامتحانات من جانب مدرس مساعد معين معروف عنه أنه يعطي درجات أقل من المتوسط. وبروح من الصراحة، قام كليفورد بإرسال رسائل بريد إلكتروني إلى طلابه في الصف مع شرح كامل للخوارزمية التي وضعها. وانهالت عليه المزيد من الشكاوى، بل إنّ بعضها كان أكثر غضباً من ذي قبل. أين كان مكمن الخطأ الذي وقع فيه؟
يزداد اعتماد الشركات والحكومات على