شارك
الرئيسية
4 دقائق 
يجب أن تراعي أي دراسة للتحيز ضد المرأة في مجال الذكاء الاصطناعي أن أوجه التحيز هذه تنشأ أساساً من أوجه التحيز البشرية المتأصلة، وبالتالي فإن النماذج والأنظمة التي نبتكرها وندربها ما هي إلا انعكاس لنا نحن. فكيف يمكن معالجة مشكلة التحيز ضد المرأة بشكل جذري؟
ليس من المستغرب أن نجد أن الذكاء الاصطناعي يتعلم التحيز بين الجنسين من البشر. على سبيل المثال: ثبت أن معالجة اللغات الطبيعية (NLP) – وهي أحد المكونات الحاسمة لأنظمة الذكاء الاصطناعي الشائعة مثل "أليكسا" (Alexa) التي تمتلكها شركة "أمازون"، و"سيري" التي تمتلكها شركة "آبل" وغيرهما من الأنظمة – تعكس أوجه تحيز ضد المرأة، وهذه ليست بحادثة فردية. فقد كان هناك الكثير من الحالات البارزة للتحيز ضد المرأة، بما في ذلك أنظمة رؤية حاسوبية مخصصة للتعرف على الجنسين أفادت التقارير بأنها ترتكب الأخطاء بمعدلات أكبر عند التعرف على السيدات، خاصة ذوات البشرة السمراء. ومن أجل إنتاج تكنولوجيا أكثر إنصافاً، يجب تضافر جهود الباحثين وفرق تعلم الآلة على مستوى الصناعة بأكملها لإصلاح هذا الخلل. ولحسن الحظ، فقد بدأنا نرى أعمالاً جديدة تدرس كيفية تحقيق هذه الغاية.
اقرأ أيضاً: بالأرقام: استمرار غياب المرأة عن المناصب الإدارية العليا في كثير من الشركات العالمية
تجدر الإشارة بصورة خاصة إلى أبحاث التحيز التي تُجرى للتعرف على كل ما يخص "تضمين الكلمات" (word-embeddings)، وهي عملية تُعنَى بتحويل الكلمات إلى بيانات رقمية، ثم تُستخدم كمدخلات في نماذج معالجة اللغات الطبيعية. ويُعنى "تضمين الكلمات" بتمثيل المفردات في صورة تسلسل أو شعاع رقمي. فإذا كان لكلمتين معنى متشابه، فإن تضميناتهما المرتبطة بهما ستكونان متشابهتين بدورهما – بالمعنى الرياضي. وتقوم التضمينات بترميز هذه المعلومات عن طريق تقييم السياق الذي ترتبط به الكلمة، على سبيل المثال: يمتلك الذكاء الاصطناعي القدرة على ملء الفراغ بصورة موضوعية بكلمة مثل "ملكة" في جملة منقوصة مثل "الرجل ملك، والمرأة ...". وتبرز المشكلة الأساسية في الحالات التي يكمل فيها الذكاء الاصطناعي جُملاً مثل "الوالد طبيب، والأم ممرضة"، فالتحيز المتأصل ضد المرأة في هذا البيان يعكس تصوراً بالياً في مجتمعنا لا يستند لا إلى الحقيقة أو المساواة.
وتطرقت بضع دراسات إلى تقييم أثر التحيز ضد المرأة في الكلام المرتبط بالعاطفة، علماً بأن الذكاء الاصطناعي للعواطف بدأ يلعب دوراً أكثر بروزاً في مستقبل العمل والتسويق، وفي كل القطاعات التي يمكن أن تخطر على بالك تقريباً. ويحدث التحيز لدى البشر حين يسيء الإنسان تفسير عواطف فئة ديموغرافية أكثر مما يفعل مع غيرها، كالاعتقاد خطأ بأن أحد الجنسين أكثر عرضة للشعور بالغضب من الجنس الآخر في معظم الأحيان. ويمكن ملاحظة هذا التحيز الآن في الآلات وفي تصنيفها الخاطئ للمعلومات ذات الصلة بالعواطف. ولكي نفهم سبب هذه الظاهرة، وسبل إصلاح هذا الخلل، لا بد أن ننظر أولاً إلى أسباب تحيز الذكاء الاصطناعي.
ما الذي يسبب تحيز الذكاء الاصطناعي؟
في سياق تعلم الآلة، قد يعني التحيز وجود مستوى أعلى من الخطأ تجاه فئات ديموغرافية معينة. ونظراً لعدم وجود سبب جذري لهذا النوع من التحيز، فهناك الكثير من المتغيرات التي يجب على الباحثين مراعاتها عند تطوير نماذج تعلم الآلة وتدريبها، وتشتمل هذه المتغيرات على عدد من العوامل من بينها:
- نقصان معطيات التدريب أو انحرافها: يحدث هذا عند خلو بيانات التدريب من فئات ديموغرافية معينة، وعندئذ قد تخفق النماذج التي يتم تطويرها استناداً إلى هذه البيانات في تقديم قياسات صحيحة عند تطبيقها على بيانات جديدة تضم تلك الفئات المفقودة. على سبيل المثال: إذا كان الصوت النسائي يشكل نسبة 10% فقط من بيانات التدريب، فسوف تزداد احتمالات خطأ نموذج تعلم الآلة المدرب عند تطبيقه على الإناث.
- التصنيفات المستخدمة في التدريب: تستخدم معظم أنظمة الذكاء الاصطناعي التجارية أسلوب تعلم الآلة الخاضع للإشراف البشري، بمعنى أن بيانات التدريب تكون مصنّفة بهدف تعليم النموذج كيفية التصرف والاستجابة. وفي أغلب الأحيان، توضع هذه التصنيفات بمعرفة العنصر البشري، ونظراً لأن البشر متحيزون بطبيعتهم (سواء عن وعي أو دون وعي منهم)، فقد تتسلل هذه التحيزات بغير قصد إلى برمجة نماذج تعلم الآلة الناتجة. وبما أن نماذج التعلم الآلي مصممة للأخذ بهذه التصنيفات، فسوف يتسلل الخطأ في التصنيف والإجحاف تجاه أحد الجنسين، إلى برمجة النموذج، ما يؤدي إلى التحيز.
- الميزات وتقنيات النمذجة: من الوارد أيضاً أن تتسبب القياسات المستخدمة كمدخلات لنماذج تعلم الآلة، أو عملية تدريب النماذج ذاتها، في التحيز. على سبيل المثال: على مدار عقود طويلة من الزمن، كان أداء المتحدثات من الإناث متواضعاً مقارنة بأداء المتحدثين من الذكور في مجالات مثل "تخليق الكلام" – ويقصد به تقنية تحويل النص المكتوب إلى كلام منطوق (كصوت ستيفن هوكينغ) والتعرف التلقائي على الكلام – ويقصد به تقنية تحويل الكلام المنطوق إلى نص مكتوب (كالنسخ النصي) – وتُعزى هذه الظاهرة إلى حقيقة أن الطريقة التي يتم بها تحليل الكلام ونمذجته كانت أكثر دقة للمتحدثين طوال القامة الذين يمتلكون أحبالاً صوتية طويلة وصوتاً منخفض النبرة. ونتيجة لذلك، كانت تقنية الكلام أكثر دقة بالنسبة للمتحدثين الذين يحملون هذه الصفات، ومعظمهم من الذكور، وأقل دقة بالنسبة للمتحدثين ذوي الأصوات عالية النبرة، ومعظمهم من الإناث.
أفضل أربعة أساليب يمكن لفرق تعلم الآلة اتباعها من أجل معالجة مشكلة التحيز ضد المرأة
كأي شيء في الحياة، تُعد أسباب تحيز الذكاء الاصطناعي وحلول تلك المشكلة مسألة نسبية، فحتى كلمة "إنصاف" نفسها يجب إخضاعها للمقاييس الكمية، وذلك من أجل التخفيف من آثار أوجه التحيز البغيضة. وبالنسبة للمسؤولين التنفيذيين المهتمين بالاستفادة من إمكانات الذكاء الاصطناعي ولكن يساورهم القلق إزاء التحيز، فعليهم أن يعملوا بالنصائح التالية على مستوى فرق تعلم الآلة لديهم:
-
احرص على تحقيق التنوع في عينات التدريب
(كأن تساوي بين عدد العينات الصوتية لكلّ من الإناث والذكور في بيانات التدريب).
-
احرص على أن تكون العناصر البشرية التي تصنّف العينات الصوتية ذات خلفيات متباينة من أجل معالجة مشكلة التحيز ضد المرأة
-
شجع فرق تعلم الآلة على قياس مستويات الدقة بصورة منفصلة للفئات الديموغرافية المختلفة ورصد أي معاملة سلبية لإحدى هذه الفئات
-
جد حلاً لمشكلة الإجحاف عن طريق تجميع كم أكبر من بيانات التدريب المرتبطة بالمجموعات الحساسة
ومن هذا المنطلق، طبق الأساليب الحديثة للتخلص من آفة التحيز في تعلم الآلة والتي تقدم طرقاً لفرض عقوبات ليس فقط على الأخطاء في التعرف على المتغير الأساسي، وإنما تنطوي أيضاً على عقوبات إضافية عند تقديم نواتج مجحفة.
اقرأ أيضاً: النساء أقدر على التجاوب مع ضغوط المنافسة
وعلى الرغم من أن فحص هذه الأسباب والحلول يُعد خطوة أولى مهمة، فلا يزال هناك الكثير من الأسئلة التي تحتاج إلى إجابة. وإلى جانب التدريب على تعلم الآلة، يحتاج القطاع إلى تطوير أساليب أكثر شمولية تعالج الأسباب الرئيسية الثلاثة للتحيز، على النحو المبين أعلاه. بالإضافة إلى ذلك، يجب أن تراعي الأبحاث المستقبلية البيانات ذات التمثيل الأوسع للمتغيرات بين الجنسين، مثل المتحولين جنسياً واللامنتمين للثنائية الجنسية، إلخ، وذلك من أجل المساعدة في تعزيز فهمنا لكيفية التعامل مع التنوع المتزايد.
إننا ملزمون بابتكار تكنولوجيا فاعلة ومنصفة للجميع من أجل معالجة مشكلة التحيز ضد المرأة بشكل جذري. وأؤمن بأن فوائد الذكاء الاصطناعي ستفوق مخاطره إذا استطعنا التعاطي معها بصورة جماعية. الأمر متروك لكافة المختصين والقادة في ذلك المجال للتعاون وإجراء الأبحاث وتطوير الحلول التي من شأنها أن تحد من ظهور التحيز في أنظمة الذكاء الاصطناعي.
اقرأ أيضاً: