كيف يدفعنا تعلم الآلة إلى تحديد معنى العدالة؟

يعتبر التحيز الخطيئة الأولى عند تعلم الآلة، إذ هو جزء أصيل في جوهر تعلم الآلة، وذلك لأن النظام يستمد تعليمه من خلال البيانات، ومن ثم فهو مُعرض للإصابة بعدوى التحيزات البشرية التي تمثلها البيانات، فمن المرجح، على سبيل المثال، أن "يتعلم" نظام توظيف قائم على تعلم الآلة ومدرب على نظام العمالة الأميركية الحالية أن المرأة لا تشغل منصب الرئيس التنفيذي إلا فيما ندر.
إعلان: لا تدع حائط الدفع يفصلك عن أهم المهارات والخبرات الإدارية. استفد اليوم من الاشتراك الترحيبي بدءاً من 30 ريال/درهم (8 دولار).

وقد يكون تنقيح البيانات بشكل دقيق بحيث لا يكتشف النظام أي علاقات خفية أو ضارة أمراً بالغ الصعوبة، وحتى مع توجيه أكبر قدر من العناية قد يجد نظام تعلم الآلة أنماط تحيز على درجة كبيرة من الدقة والتعقيد تجعلها محجوبة عن أنظار المراقب حسن النية. ومن هنا تأتى أهمية تركيز علماء الكمبيوتر وواضعي السياسات وكل من يهتم بتحقيق العدالة الاجتماعية على كيفية خلو