شارك
الرئيسية
4 دقائق 
منذ أعوام، ذكرت طالبة ماجستير في إدارة الأعمال تدعى بوني كامونا أنّ بحثاً عن صور "تسريحات شعر غير مهنية للعمل" في جوجل أنتج مجموعة من الصور كانت كلها تقريباً لنساء ذوات بشرة ملونة على وجه الحصر. في المقابل، أظهر بحثها عن "شعر مهني" صوراً لنساء بيض. بعد شهرين، ذكر مستخدم تويتر، علي كبير، أنّ بحثاً أجراه عن صور لـ"ثلاثة مراهقين سود" أدى إلى إظهار قدر كبير من الصور الفوتوغرافية للمراهقين أصحاب البشرة الملونة بعد توقيفهم، في حين أنّ بحثاً لـ"ثلاثة مراهقين بيض" أنتج صوراً لشباب يلهون.
هذه القصص تتوافق مع مجموعة متزايدة من البحوث حول التحيّز في محركات البحث.
وخير مثال على ما ذكرت هو عمل ماثيو كاي وسينثيا ماتوزك وشون مونسون، الذي درسوا فيه ميزة التفتيش عن الصور في جوجل للاستعلامات المتعلقة بالمهن. لقد قارنوا التوزيع بين الجنسين في الصور المتعلقة بمهنة معينة مع تلك الموثقة في إحصاءات العمالة في الولايات المتحدة. على سبيل المثال، كانت النتائج للبحث عن "الأطباء" قد استرجعت صور رجال أكثر مما هو متوقع بكثير نظراً لعدد الرجال الذين يعملون في هذه المهنة. وكان العكس هو الصحيح في البحث عن "عمال في مهنة التمريض". بعبارة أخرى، أظهر الباحثون أنّ محركات البحث تقوم بالمبالغة فى القوالب النمطية القائمة على نوع الجنس فيما يتعلق بالمهن.
وفي مشروع مع زملائي من جامعة شيفيلد للمعلومات، جو بيتس وبول كلوف، أجرينا تجارباً لقياس ما إذا كانت محركات البحث عن الصور تديم صوراً نمطية أكثر عمومية بين الجنسين.
هذه خلفية الموضوع: في أي يوم من الأيام بينما نحن منطلقين في العالم، يتحتم علينا التفاعل مع الناس في كثير من مناحي الحياة؛ وبالتالي، يجب أن نصدر أحكامنا على الآخرين بسرعة وبدقة. الباحثون في مجال "تصوّر الشخص" قاموا بتصنيف هذه الأحكام على بعدين: "الدفء" و"الكفاءة". الناس الدافئة لديهم نوايا موالية للاجتماعية وأولئك لا يشعروننا بالتهديد، على الرغم من أنّ الصفات الدافئة يمكن أن تكون إما إيجابية أو سلبية. على سبيل المثال، الصفات مثل "عاطفي"، "لطيف"، "لا يشعر بالأمان"، أو "متفهم" كلها تدل على "الدفء". أما البعد الآخر يضم أولئك الذين لديهم الكفاءة لتنفيذ أهدافهم ورغباتهم والصفات المنسوبة إليهم مثل "ذكي"، و"عقلاني"، و"حازم".
ويعتقد علماء النفس أنّ الأنماط الاجتماعية مبنية أساساً على مزيج من هذين البعدين. في حين تفترض القوالب النمطية السائدة بين الجنسين أنه من المتوقع أن يكون الدفء عالياً لدى النساء والكفاءة منخفضة. وبعكس ذلك، تفترض أنّ الرجال يتميزون بالكفاءة لكن ليس بالدفء. الأفراد الذين لا يتلاءمون مع هذه الصور النمطية يعانون من ردة فعل اجتماعية واقتصادية من أقرانهم. على سبيل المثال، في السياقات التنظيمية غالباً ما يتم التجاوز عن النساء صاحبات الكفاءة والرجال الدافئين في المناصب القيادية. آخذين هذا الإطار في الحسبان، قمنا بتنفيذ تجارب على محرك البحث بينغ (Bing)، من أجل معرفة ما إذا كان توزيع الصور فيه حسب نوع الجنس، عند تصور الدافئ مقابل صاحب الكفاءة، يديم شيوع القوالب النمطية القائمة على نوع الجنس. قدّمنا في بينغ استعلامات واستفسارات تستند إلى 68 صفة شخصية (على سبيل المثال، شخص عاطفي، شخص ذكي)، وقمنا بتحليل الألف صورة الأولى في كل استعلام. لأن نتائج محركات البحث يتم إضافة الطابع الشخصي إليها عادة، ولأن موقع المستخدم الجغرافي هو السمة الرئيسية المستخدمة في التخصيص، جمعنا النتائج من أربع مناطق كبيرة ناطقة بالإنجليزية (الولايات المتحدة وبريطانيا والهند وجنوب أفريقيا) عن طريق تشغيل الاستفسارات لدينا من خلال الكمبيوترات الخوادم الإقليمية ذات الصلة. ثم قمنا بتجميع الصفات الشخصية على أساس نسبة الصور التي تم استردادها والتي صورت النساء فقط ثم الرجال فقط أو مزيج من الاثنين، من أجل معرفة ما إذا كان بينغ من شأنه أن يصور الصفات الشخصية الدافئة على أنها عائدة لصور النساء، والصفات المتعلقة بالكفاءة لصور الرجال.
وقد أكدت نتائجنا إلى حد كبير أنّ نتائج البحث عن الصور تُعزّز إدامة الصور النمطية بين الجنسين. في حين كانت هناك بعض الصفات الشخصية الدافئة التي عادت بمجموعة من الصور المتوازنة بين الجنسين (على سبيل المثال، الرعاية، والتواصل). كان هذا صحيحاً فقط في حالة الصفات التي لها أصداء إيجابية، وهي الصفات التي في الواقع تساعدنا على تحقيق أهدافنا بينما هي صفات دافئة. من ناحية أخرى، كانت الصفات الدافئة مع الدلالات السلبية (على سبيل المثال، خجول، لا يشعر بالأمان) دائماً أكثر عرضة لاسترداد صور النساء. وبالإضافة إلى ذلك، في حين أنّ أجهزة الحاسوب الخوادم الإقليمية التابعة لبينغ لا تعطي حتى نفس الصور في ردها على استفسار معين (متوسط التداخل بين أية منطقتين كان نحو النصف)، فإنّ أنماط التوزيع بين الجنسين في الصور التي ظهرت في البحث عن الصفات الدافئة مقابل الصفات ذات الكفاءة كانت متسقة تماماً. بعبارة أخرى، لم يقتصر التحيز الجندري في نتائج البحث عن الصور على سوق إقليمية معينة.
بعد أن تم توثيق التحيز الجندري المتأصل في خوارزميات البحث عن الصور، ماذا يمكننا أن نفعل؟ نأمل أن يلهم عملنا المبرمجين المطورين ويحثّهم على التفكير النقدي حول كل مرحلة من مراحل عملية الهندسة وكيف ولماذا يمكن أن يدخل التحيز فيها. ونحن نعتقد أيضاً أنّ المبرمجين الذين يستخدمون واجهات برمجة التطبيقات مثل بينغ (الذي استخدمناه في بحثنا) عليهم أن يدركوا أنّ أي تحيز حالي سيتم تنزيله في مصب إبداعاتهم. كما نعتقد أيضاً أنه يمكن تطوير أساليب آلية لكشف التحيز، مثل استخدام تقنيات التعرف على الصور للتحقق ممّن سيكون أو من لن يكون ممثلاً في مجموعة من النتائج. يجب على شركات محركات البحث مثل جوجل ومايكروسوفت جعل هذا العمل من الأولويات، كما ينبغي ذلك على الصحفيين والباحثين والناشطين.
وأخيراً، يمكن للمستخدمين الاستفادة من كونهم أكثر "دراية بأمور التحيز" في تفاعلاتهم مع خوارزميات البحث. كما أننا نعمل حالياً على اختبار سبل لتحريك وعي المستخدمين خلال التفاعل مع خدمات البحث. يحتاج المستخدمون أن يكونوا على علم ليس فقط بالمشاكل المحتملة مع النتائج الحسابية، ولكن أيضاً ببعض الأفكار عن كيفية عمل هذه الخوارزميات.
الأقوال أسهل من الأفعال، و هذا أمر يصعب تطبيقه. في الواقع أظهرت الكثير من البحوث أنّ المستخدمين المتفاعلين مع نظام الكمبيوتر يميلون إلى التعامل معه كما يفعلون مع أي ممثل بشري. وهذا يعني أنّ الناس يطبقون التوقعات الاجتماعية على نظام مثل جوجل. إنّ البحث عن الصور في جوجل، بطبيعة الحال، لا يتضمن إنساناً في حلقة عملية البحث يقوم باختيار صور ذات صلة رداً على استفسارنا، ويدرك الحاجة إلى تقديم نتائج غير نمطية بشكل صارخ. في الحقيقة ما يحرك قرارات محرك البحث الحديث هي مجموعة معقدة من الخوارزميات التي تم تطويرها عن طريق تعلم الآلة. إنّ المستخدمة تعرف هذا. ومع ذلك، عند إيجاد نتائج غير متوقعة أو مهينة، تدفعها التوقعات الاجتماعية للسؤال إذا كانت الخوارزميات الكامنة "عنصرية" أو "متحيزة جنسياً".
ولكن غريزتنا تُخول هذه الأنظمة لتكون ذات كفاءة، وتفترض أنها مثلنا، ما يعيق قدرتنا على تغييرها. الخوارزميات مثلنا، يمكن أن تكون متحيزة. والأسباب يمكن أن تكون معقدة مثل بيانات تدريب سيئة أو منحازة أو الاعتماد على الوسطاء أو ردود فعل مستخدم منحازة، وسبل معالجتها تبدو مثل الطرق التي نعالج فيها التحيز في أنفسنا.