خطورة استخدام الذكاء الاصطناعي لترجمة العواطف الإنسانية

ما الذي يشعر به الموظفون حقاً؟

لم تكن معرفة هذا الأمر سهلة قطّ على الشركات، وأحد الأسباب هو صعوبة قراءة العواطف بطبيعتها، والسبب الآخر هو أنه غالباً ما يختلف ما يقول الموظفون أنهم يشعرون به عما يشعرون به حقاً. فما هو دور الذكاء الاصطناعي في ترجمة العواطف؟

خذ طريقة استجابة الناس لإعلانات المباراة النهائية في دوري كرة القدم الأميركية "سوبر بول" ( Super Bowl) مثلاً. في عام 2018، صوت المشاهدون على أن أفضل إعلان هو إعلان برنامج "أليكسا تفقد صوتها" (Alexa Loses Her Voice) الذي يقوم فيه بعض المشاهير بمحاولات (فاشلة) لاستبدال أليكسا، وذلك وفقاً لمؤشر الإعلانات "يو إس أيه توداي آد ميتر" (USA Today Ad Meter). أما أسوأ إعلان فقد كان لمشروب "غروف" (Groove) الذي تنتجه "دايت كوك" (Diet Coke)، إذ نرى فيه امرأة ترقص بطريقة غريبة بعد تناولها مشروب "دايت كوك تويستد مانجو" (Twisted Mango). وبناء على هذا التصويت، قد يجزم المرء أن إعلان أليكسا كان له الأثر الأكبر، ولكن هذا ليس صحيحاً وفقاً لبول زاك، الباحث في علم الأعصاب والرئيس التنفيذي لشركة "إيمرجن نيوروساينس" (Immersion Neuroscience) والذي أجرى فريقه دراسة على الانغماس العصبي في الإعلانات لدى المشاهدين. إذ قيّم فريق زاك مستوى التفاعل العاطفي لدى المشاهد عن طريق قياس التغير الذي يطرأ على مستويات الأوكسيتوسين، وهو "التوقيع العصبي للتجاوب الانفعالي" للدماغ. وتوصل البحث في الحقيقة إلى أن إعلان مشروب "غروف" كان له الأثر الأكبر، وهذا ما أثبت لزاك أنه بالنسبة لإعلانات بطولة "سوبر بول"، ليس هناك أي "علاقة ترابطية" بين ما يقوله المرء وما يشعر به في العقل الباطن.

وعندما أجرينا مقابلة شخصية مع زاك بشأن هذه الظاهرة، لخصها لنا بقوله: "يكذب الإنسان، ولكن عقله لا يكذب"،

تستعين شركات كثيرة بالاستبانات والمجموعات المركزة من أجل فهم شعور الموظفين. واليوم، يمكن لتقنية الذكاء الاصطناعي العاطفي مساعدة الشركات على جمع ردود الأفعال العاطفية الآنية، عن طريق فك رموز تعابير الوجه وتحليل أنماط الصوت ومراقبة حركة العين وقياس مستويات الانغماس العصبي، مثلاً. والنتيجة النهائية هي تحقيق فهم أفضل بكثير لزبائنها وحتى موظفيها.

مخاطر الانحياز في الذكاء الاصطناعي العاطفي

إن الذكاء الاصطناعي العاطفي هو عرضة للتحيز بصورة خاصة نظراً لطبيعة العواطف الذاتية. على سبيل المثال، وجدت إحدى الدراسات أن تقنية التحليل العاطفي تسند مشاعر سلبية لأشخاص ينتمون إلى أعراق معينة أكثر مما تسندها لغيرهم. فكر بتداعيات هذا التحيز على مكان العمل، إذا استمرت الخوارزمية بتمييز موظف معين على أنه يبدي عواطف سلبية، فقد تؤثر بذلك على تقدمه المهني.

كما أن الذكاء الاصطناعي عادة ليس متقدماً بما يكفي لفهم الاختلافات الثقافية في التعبير عن العواطف وقراءتها، وهذا يزيد من صعوبة الحصول على نتائج دقيقة. على سبيل المثال، قد يكون للابتسامة معنى معين في ألمانيا، ولكنها تعني شيئاً آخر في اليابان. وسيؤدي الخلط بين هذين المعنيين إلى اتخاذ الشركة قرارات خاطئة. تخيل أن سائحاً يابانياً يحتاج إلى مساعدة عند زيارته متجراً في برلين، إذا استخدم المتجر تقنية التعرف على العواطف كي يحدد أولوياته في دعم الزبائن، قد تخطئ تقنية المساعدة الذكية في تفسير ابتسامة السائح الياباني على أنها مؤشر لعدم حاجته إلى المساعدة، بينما هي في الحقيقة إشارة إلى التهذيب لدى اليابانيين.

باختصار، إذا لم تعالج هذه المشكلة سيبقى بإمكان التحيز الإرادي واللاإرادي إدامة الصور النمطية والافتراضات بحجم غير مسبوق.

كيف يمكن للشركات منع تسرب التحيز إلى حالات الاستخدام الشائعة؟

بناء على بحثنا وخبرتنا في العمل مع عملائنا حول العالم، نرى أن الشركات تستخدم الذكاء الاصطناعي العاطفي بطرق أربعة، وتشكل الآثار المترتبة على التحيز الخوارزمي في كل من هذه الطرق تذكيراً واضحاً بأنه لا بد للشركات وقادة التقنية من فهم مثل هذه التحيزات ومنعها من التسرب.

فهم مدى تفاعل الموظفين عاطفياً بالفعل

عندما يستخدم الذكاء العاطفي في قياس عواطف الموظفين، يمكن أن يوقع أثراً هاماً على طريقة توزيع العمل عليهم. على سبيل المثال، يفكر الموظفون عادة أنهم في الدور المناسب لهم، ولكنهم قد يجدوا عند تجربة مشاريع جديدة أن مهاراتهم تتوافق أكثر مع أدوار أخرى. تسمح بعض الشركات بالفعل لموظفيها بتجربة أدوار مختلفة مرة في الشهر لمعرفة الوظائف التي تعجبهم أكثر. وهنا، يمكن للتحيز في الذكاء الاصطناعي تعزيز الصور النمطية الحالية. على سبيل المثال، في الولايات المتحدة، حيث 89% من المهندسين المدنيين و81% من عناصر الشرطة في الخطوط الأمامية هم من الرجال، قد تواجه الخوارزمية التي تكيفت على تحليل سمات الذكور صعوبة في قراءة ردود الفعل العاطفية ومستويات التفاعل بين الموظفات النساء. وقد يؤدي ذلك إلى خلل في توزيع الأدوار واتخاذ قرارات التدريب.

تحسين القدرة على إنشاء منتجات تتكيف مع عواطف المستهلك

باستخدام تقنية تعقب العواطف، يمكن لمطوري المنتجات معرفة الميزات التي تثير أكبر قدر من الحماس والتفاعل لدى المستخدمين. خذ مثلاً منصة "أفيكتيفا أوتو أيه آي" (Affectiva’s Auto AI platform) التي يمكنها تمييز العواطف كالفرح والغضب وتكييف البيئة داخل السيارة بما يلائمها. يمكن أن تلاحظ الكاميرات وأجهزة الميكروفون شعور أحد الركاب بالنعس، فتخفض درجة الحرارة أو تهز حزام الأمان نتيجة لذلك، كما يمكن للمساعد الذكي تغيير نبرة صوته استجابة لغضب أحد الركاب. وبواسطة الذكاء الاصطناعي العاطفي، يمكن أن يصبح أي منتج أو خدمة عبارة عن تجربة تكيفية، سواء في السيارة أو في أي مكان آخر. ولكن قد يعني التكيف المتحيز داخل بيئة السيارة أن يساء فهم بعض الركاب، خذ مثلاً كبار السن، تزيد لديهم احتمالات الخطأ في تمييز إصابة السائق بالإرهاق (كلما زاد عمر الوجه تنقص احتمالات فك رموز تعابيره بدقة). وفي الوقت الذي تصبح فيه هذه الأنظمة أمراً مألوفاً، ستزداد رغبة شركات التأمين بالحصول على جزء من البيانات. وقد يعني ذلك فرض رسوم أعلى على كبار السن لأن هناك احتمالاً بأن تشير البيانات إلى أن السائق تابع القيادة رغم تنبيهات كثيرة بوجوب أخذ استراحة.

تحسين الأدوات من أجل قياس رضا الزبائن

هناك شركات مثل الشركة الناشئة "كوغيتو" (Cogito)، التي يقع مقرها في بوسطن، تمنح الشركات أدوات تساعد موظفيها على التفاعل بصورة أفضل مع الزبائن. إذ يمكن لخوارزمياتها التعرف على مشاعر "إجهاد التعاطف" لدى موظفي خدمة الزبائن، بالإضافة إلى تقديم إرشادات للموظفين بشأن طريقة الرد على المتصلين عبر تطبيق ذكي. مثلاً، يمكن أن يتصل زبون مستاء ليشتكي بشأن منتج ما، فتسجل منصة كوغيتو المحادثة وتحللها، ثم تقترح على الموظف أن يتمهل، أو تنبهه إلى الوقت المناسب لإظهار التعاطف. ولكن قد تؤدي الخوارزمية المتحيزة التي ربما تنحرف بسبب لكنة الزبون أو صوته العميق إلى معاملة بعض العملاء بشكل أفضل من غيرهم، ما يدفع من يتحملون وطأة المعاملة السيئة للابتعاد عن العلامة التجارية. وقد يكون التعاطف مع رجل متصل أقل من التعاطف مع المرأة، ما يعزز نظرة المجتمع للرجل على أنه "قوي عاطفياً". وفي الجهة المقابلة، يمكن أن تعتبر المرأة المتصلة مفاوضاً أضعف، وبالتالي يتم تقديم تعويضات أقل لها. وتكمن المفارقة في إمكانية ألا يملك الموظفون أنفسهم هذه التحيزات، ولكن قد يضللهم اعتقادهم الخاطئ بأن هذه الخوارزميات دقيقة للغاية، فيتبعوا توجيهاتها دون تردد. وبهذه الطريقة، ينتشر التحيز دون مساءلة وعلى نحو ممنهج.

تحويل تجربة التعلم

يمكن استخدام الرؤى العاطفية في تعزيز تجربة التعلم لدى جميع المستويات العمرية. على سبيل المثال، يمكن أن تتيح للمعلمين تصميم الدروس التي تحفز التفاعل بالدرجة القصوى، فتضع المعلومات الأساسية عند ذروة التفاعل وتبدل المحتوى عندما يصبح التفاعل في أدنى نقطة. كما أنها تقدم تقييمات عن الطلاب أنفسهم لتساعد في تحديد من يحتاج إلى اهتمام أكبر منهم. تقوم الصين بالفعل بوضع أنظمة التعرف على العواطف في القاعات الدراسية من أجل مراقبة مدى تركيز الطلاب. ولكن في حال وجود التحيزات، قد تؤدي الإشارة الخاطئة إلى عدم تفاعل أحد الطلاب إلى نشوء تجربة تعلم مصممة لمجموعة معينة من الطلاب دون غيرهم. فلنفكر بشأن أنماط التعلم المختلفة: البعض لديهم أسلوب تعلم مرئي، والبعض الآخر أسلوبهم في التعلم فعلي، وهناك من يفضلون التركيز في عزلة تامة، ولكن قد تفوت الخوارزمية التي صممها شخص ذو أسلوب تعلم مرئي هذه الإشارات تماماً أو تخطئ في تفسيرها. ويمكن أن تؤثر القراءة الخاطئة للتفاعل على نتائج التعلم وصولاً إلى مكان العمل، وهذا يعني أنه حتى في برامج التدريب على العمل يمكن لجزء فقط من الموظفين الحصول على تطوير مهني كامل. ويمكن أن تؤثر هذه الافتراضات الخاطئة على نتائج التعلم وصولاً إلى مكان العمل، وهذا يعني أنه حتى في برامج التدريب على العمل يمكن لجزء فقط من الموظفين الحصول على تطوير مهني كامل.

تفادي التحيز في الذكاء الاصطناعي

مع تزايد الشركات التي تدخل الذكاء الاصطناعي العاطفي إلى عملياتها ومنتجاتها، سيكون من الضروري أن تدرك احتمال تسلل التحيز إليه وأن تعمل بفعالية لمنعه.

من الواضح أن اكتشاف العواطف ليس بالمهمة السهلة، سواء كان ذلك بسبب طبيعتها الذاتية، أو بسبب الاختلافات فيها. وهناك تقنيات أفضل من غيرها في تتبع عواطف معينة، ولذلك سيساعد دمجها في الحد من التحيز. أجرت شركة "نيلسن" دراسة تختبر دقة التقنيات القائمة على علوم الأعصاب، كتقنيات تحليل رموز الوجوه والاستدلال البيولوجي والتخطيط الكهربائي للدماغ، وقد توصلت إلى أنها عندما تستخدم وحدها تكون نسب دقة نتائجها بالترتيب 9% و27% و62%. وعند دمجها جميعها معاً ارتفعت نسبة الدقة إلى 77%. وعندما اختبرت هذه النتائج مع الاستبانة ازدادت النسبة إلى 84%. وبذلك، يخدم دمج التقنيات على هذا الشكل في التحقق من دقة النتائج، أي أنه نظام مرجعي نوعاً ما.

ولكن سيحتاج احتساب الفوارق الثقافية في الخوارزميات إلى أكثر من مجرد دمج عدة تقنيات وإعدادها كمراجع، وسيكون من الضروري أن تعمل فرق متنوعة على إنشاء خوارزميات الذكاء الاصطناعي العاطفي من أجل الحد من التحيز وفهم تعقيد العواطف بصورة كاملة. ولكن لا يعني هذا التنوع الجنسي والعرقي فقط، وإنما التنوع في المركز الاقتصادي الاجتماعي ووجهات النظر، للتخلص من التحيز من أي نوع، بدءاً من كراهية الأجانب إلى رهاب المثلية الجنسية وصولاً إلى التفرقة العمرية. وكلما زاد تنوع المدخلات ونقاط البيانات، ازداد احتمال أن تتمكن من تطوير ذكاء اصطناعي عادل وغير متحيز.

ويجب على الشركات أيضاً أن تتوخى الحذر بشأن إدامة التحيزات التاريخية عند تدريب الذكاء الاصطناعي العاطفي. وفي حين يمكن استخدام البيانات التاريخية كقاعدة لتدريب الذكاء الاصطناعي على عدة حالات عاطفية، إلا أن هناك حاجة إلى بيانات حية آنية لملء السياق. خذ الابتسامات على سبيل المثال، فقد بينت إحدى الدراسات أن 6 أنواع فقط من أصل 19 نوعاً مختلف من الابتسامات تحدث عندما يكون الشخص مستمتعاً، بالإضافة إلى أننا نبتسم أيضاً عندما نتألم أو نشعر بالإحراج أو عدم الراحة، والتمييز بين أنواع الابتسامات هذه لن يتم إلا عن طريق السياق.

باختصار، سيشكل دور الذكاء الاصطناعي في ترجمة العواطف أداة قوية حقاً، وهو ما سيرغم الشركات على إعادة النظر في علاقاتها مع المستهلكين والموظفين على حد سواء. فهي لن تقدم مقاييس جديدة لفهم الناس فحسب، بل وستعيد تعريف المنتجات كما نعرفها. ولكن ستكون الحاجة إلى منع التحيز من التسرب إلى التقنيات أساسية مع اقتحام الشركات عالم الذكاء العاطفي، وبكل تأكيد، سيؤدي العجز عن اتخاذ الخطوات اللازمة إلى زيادة سوء فهمنا لمجموعات معينة أكثر من أي وقت مضى، وهذا بعيد جداً عما تعدنا به تقنيات الذكاء الاصطناعي العاطفي.

يود المؤلفون توجيه الشكر لزملاءهم من شركة "أكسينتشر ريسرتش": سياو تشانغ وبول بارباغالو وديف لايت وآتش جيمس ويلسون على مساهمتهم الكبيرة في تأليف هذه المقالة.

اقرأ أيضاً: