كيف عالجت شركة "نكست دور" خطاب العنصرية في منصتها؟

في 3 مارس/آذار من العام 2015، أعلنت الشبكة الاجتماعية المحلية نكست دور (Nextdoor) أنها جمعت ما قدره 110 مليون دولار من استثمارات رأس المال المغامر (أو استثمارات رأس المال الجريء). وجعلت هذه الصفقة تقييم الشركة الإجمالي يصل إلى 1 مليار دولار، ما يجعلها توصف بـ"اليونيكورن" كما هو متعارف عليه. لا بدّ أنها كانت لحظة رائعة ومذهلة للرئيس التنفيذي نيراف توليا ومؤسسيه الشركاء ديفيد ويزين وبراكاش جاناكيرامان وسارا ليري. ولكن بعد ثلاثة أسابيع فقط، أضحى كل ذلك الاحتفال بالنجاح وكأنه ذكرى من زمن بعيد.

وذلك بسبب أنّ موقع فيوجن (Fusion) للأخبار نشر مقالة أبرز فيها كيف أنّ منصة شركة نكست دور "أصبحت موطناً للخطاب العنصري". وفي ذلك المقال شرح المراسل بندارفيس هارشو كيف كان أعضاء المنصة البِيض يستخدمون منتدى الجريمة والأمان في موقع نكست دور للإبلاغ عن نشاطات "مشبوهة" يقوم بها الأميركيون ذوي الأصول الأفريقية واللاتينية. تابعت الصحافية جينفر مدينا من صحيفة نيويورك تايمز الموضوع، وذكرت أنه "مع نمو منصة نكست دور، بدأ المستخدمون يشتكون من أنّ الموقع أصبح مغناطيس جذب للخطاب العنصري، ما أدى إلى رؤية الأميركيين ذوي الأصول الأفريقية واللاتينية كمقيمين "مشتبه بهم" في أحيائهم التي يقطنون بها".

ومثلما استعرضتُ الأمر في كتابي "التحليلات: الطريقة الرشيقة" (The Agile Way Analytics:) كيف أنّ استجابة شركة نكست دور لا تقتصر فقط على توضيح أهمية الاستجابة السريعة للأزمات فحسب، بل توضح كذلك إلى أي مدى تصل إليه فائدة استخدام المنهجية الرشيقة (نظام الإدارة الرشيق) المستندة على البيانات.

تستفيد الفرق التي تعمل بنظام الإدارة الرشيق (الفرق الرشيقة) من عدة مهارات وخبرات وزوايا نظر، وهكذا قام الشركاء المؤسسون للمنصة بجمع فريق صغير ومتنوع لمعالجة هذه المشكلة. ضم هذا الفريق أعضاء مثل كبيرة مدراء المنتج ماريم موهيت، ومديرة العلاقات العامة كيلزي غرادي، وأحد مدراء المنتجات ومصمماً وعالم بيانات، انضم إليهم في وقت لاحق مهندس برمجيات.

وفي ما يتعلق بالبيانات، نجد أنّ الكثير من بيانات منصة نكست دور هي نصوص غير مرتبة. وبالنسبة لهذا النوع من البيانات، ولا سيما في البداية، نجد أنّ تحليلها ليس عملية سهلة مقارنة بتحليل البيانات المرتبة. تتضاعف هذه الصعوبة عندما نحاول التعامل مع قضية شائكة مثل "خطاب العنصرية العِرقية". وهكذا تم تعيين خمسة موظفين ليقرأوا آلاف المشاركات التي نشرها المستخدمون على المنصة.

وفي النهاية، ظهر نتيجة كل هذا الجهد حلاً ثلاثي المحاور يتمثل في: جعل فريق نكست دور المختص بعمليات الأحياء ينخرط في تدريب حول التنوع العرقي؛ وإجراء تحديث لشروط وسياسات مجتمع منصة نكست دور، معها تدوينة إلكترونية تشرحها؛ وإعادة تصميم للتطبيق. وفي هذا السياق، تبين أنّ الخطوة الأخيرة أصعب الخطوات.

كانت منصة نكست دور منذ فترة طويلة تتيح للمستخدمين أن يُبلّغوا عن المنشورات غير اللائقة، بناء على المحتوى أو المكان الجغرافي. على سبيل المثال، لا يجب أن توجد المنشورات التجارية الترويجية في الأقسام غير التجارية من الموقع. أدركت شركة نكست دور أنّ النظام الثنائي (إما أن تبلغ عن المنشور أو لا تبلغ) لم يعد كافياً بعد الآن. وتمثلت أول محاولة للشركة لإصلاح هذه المشكلة في إضافة زر للإبلاغ عن "الخطابات العنصرية العِرقية". إلا أنّ العديد من المستخدمين لم يفهموا هذه الميزة الجديدة. وبهذا الصدد تقول موهيت "بدأ مستخدمو منصة نكست دور يبلغون عن كل أنواع الإهانات الشخصية والمنشورات التي لا تتعلق بالعنصرية على أنها منشورات عنصرية عرقية. على سبيل المثال، قام أحد المستخدمين بالتبليغ عن جارته لأنها كتبت كلاماً سيئاً عن كلاب البيتبول على أنه إهانة عنصرية".

قام فريق نسكتدور بإصلاح هذا الأمر بتطوير ست ميزات مختلفة في تطبيق المنصة وشرعوا في تجريب جدواها. وهذا ما ساعد الشركة على معرفة الإجابة عن أسئلة جوهرية مثل:

– إذا كان التطبيق ينبه المستخدمين قبل نشر منشوراتهم في ما يخص أنّ آرائهم قد تكون متحيزة عنصرياً وعِرقياً، هل سيغير ذلك من سلوكيات المستخدمين؟

– عملية وصف الأشخاص ليست أمراً سهلاً. كيف يستطيع التطبيق حث مستخدميه على تقديم أوصاف عادلة وكاملة عن الآخرين، بدل مجرد وصفهم بناء على العِرق فقط؟

– عند وصف شخص مشبوه، كم عدد الصفات التي تعتبر كافية لوصفه؟ ما هي الصفات المعينة الأكثر أهمية من غيرها؟

وباستخدام المنهجيات الرشيقة، قام فريق نكست دور بإجراء سلسلة من اختبارات إيه بي (A/B). ولحسن حظها بوجود قاعدة مستخدمين كبيرة بما يكفي، أطلقت نكست دور تجاربها للتعرف على الإجابات الصحيحة لهذه الأسئلة. على سبيل المثال، فكّر في مجموعتين من 25,000 مستخدم مقسمة إلى فئات (A وB). سترى كل مجموعة نسخة من تطبيق نكست دور مع تغييرات طفيفة لكنها مهمة تشمل طريقة صياغة الأسئلة وترتيبها والحقول المطلوبة وما شابه ذلك.

وبعد فترة ثلاثة أشهر من سير التجربة، أوضحت التغييرات المختلفة التي أجرتها نكست دور أنّ بعض نسخ التطبيق أبلت حسناً أفضل من غيرها. وبحلول أغسطس/آب من العام 2015 ، أصبح الفريق مستعداً لإطلاق نظام جديد للنشر في قسم الجريمة والأمان من منصة نكست دور. وهكذا أصبحت المنصة والتطبيق تطلب من المستخدمين الذين يذكرون "العِرق" عند النشر في منتديات "الجريمة والأمان" تزويدهم بالمزيد من المعلومات مثل نوع الشعر والملابس والأحذية، وما إلى ذلك.

لاحظ أنّ مجرد إضافة تفاصيل جديدة وجعل المستخدم يقدم أوصافاً أكثر لم يقض بشكل نهائي على المنشورات التي يقدمها الناس البلداء والعنصريون الذين كانوا يستخدمون الميزة بأنانية. لكن باستخدام منهجية رشيقة قائمة على البيانات في تصميم منتجاتها، ذكرت شركة نكست دور أنها قلصت خطاب العنصرية العِرقية بنسبة 75%.

هكذا استطاعت شركة نكست دور معالجة من هذه المشكلة في وقت قصير نسبياً. ولو كان الأمر متعلقاً بشركة أخرى، لأعلنت أنها "ستدرس المشكلة" ولكن المشكلة ذاتها ستظل تتفاقم بمرور الوقت. لكن نكست دور اتخذت منهجية مختلفة، والبرهان في ما حققته من نتائج ملموسة.