تمت عملية الاشتراك بنجاح
عذراً،
أنت مشترك مسبقاً بالنشرة البريدية
في حلقة "الهبوط" (Nosedive) من مسلسل "المرآة السوداء" (Black Mirror)، تعيش البطلة لاسي في عالم مفرط بالمجاملات، حيث يتم تسجيل كل تفاعل شخصي أو متعلق بالعمل. ويعتمد كل شيء على مجموعة النقاط الاجتماعية، ويجاهد الجميع من أجل الارتقاء في هذه المراتب. ولكن لعبة التقييم هذه تتضمن خللاً كبيراً، إذ أن الصعود صعب بينما السقوط أسهل بكثير.
أهلاً بكم في الذكاء الاصطناعي واقتصاد السمعة، حيث يحدد الرسم البياني الاجتماعي الفردي (وهو مجموعة البيانات الاجتماعية المتعلقة بكل فرد) قيمة الفرد في المجتمع ومدى وصوله إلى الخدمات وفرص العمل. إذاً، عندما نتحدث عن هذا النوع من الاقتصاد، تصبح السمعة هي العملة الحقيقية.
يعتمد اقتصاد السمعة على نظام النجوم المبسط للتقييم، والذي يُعد نظام تقييم فعال في هذه الحالة. فتقييم أي شخص من سائق أوبر إلى مضيف إير بي إن بي (Airbnb) يعني المشاركة في هذا النظام. ولكن ما الذي يحدث عندما تحدد الخوارزميات، بدلاً من البشر، مجموعة النقاط التي تشكل سمعة الفرد اعتماداً على مصادر بيانات متعددة وصيغ رياضية، هل يؤدي تقييم الخوارزميات إلى مزيد من الدقة والمرونة من خلال تعلم الآلة؟
تستخدم 70% من شركات الولايات المتحدة اليوم مواقع التواصل الاجتماعي لفحص أهلية الموظفين. كما تتنافس العديد من الشركات الناشئة التي تدعم الذكاء الاصطناعي في سوق تقييم الموارد البشرية باستخدام تقنيات الذكاء الاصطناعي للحصول على بيانات من حسابات التواصل الاجتماعي للمرشحين المحتملين لاستبعاد غير المناسب منهم.
في العام 2012، تقدمت شركة فيسبوك بطلب للحصول على براءة اختراع، من شأنها استخدام خوارزمية لتقييم التصنيفات الائتمانية للأصدقاء، كأحد عوامل أهلية الفرد للحصول على رهن عقاري. كما تهدف الصين إلى تطبيق نظام نقاط وطنية اجتماعية لكل مواطن بحلول العام 2020 بالاعتماد على سجلات الجرائم والتواصل الاجتماعي والمشتريات وتقييم الأصدقاء أيضاً.
عندما يبدأ الذكاء الاصطناعي في تحديد قيمة الفرد الاجتماعية، تزداد المخاطر. يقول كيم داره بحسب ما كتب في مجلة الاقتصاد الجديد (The New Economy): "بعيداً عن كون الخوارزميات المعقدة أدوات محايدة وذات معرفة شاملة لاتخاذ القرارات، إلا أنها قاصرة عملياً". إذاً، يتوجب علينا أن نطرح سؤالاً على أنفسنا: "ما مدى جودة البيانات؟ ما مدى جودة الرياضيات؟ ما مدى استعداد المجتمع ليُحكم عليه من قبل الذكاء الاصطناعي؟ وما هي الأخطاء التي قد تحدث؟
البيانات السيئة
تتعلم الخوارزميات من خلال استخراج الأنماط من مجموعات البيانات التاريخية، ومن ثم استخدام هذه الأنماط لتنبؤ المستقبل. فإذا كانت مجموعة البيانات مغلوطة ستصبح التنبؤات خاطئة.
في العام 2012، قامت ولاية أيداهو الأميركية بخفض تكلفة المساعدات الطبية المقدمة من برنامج ميديكايد (Medicaid) لأربعة آلاف شخص يعانون من إعاقات تنموية وفكرية بنسبة كبيرة تصل لحوالي 20 إلى 30 في المئة. وبعد أن رفع اتحاد الحريات المدنية الأميركية (American Civil Liberties Union) دعوى للحصول على معلومات متعمقة أكثر حول الخوارزمية التي اسُتخدمت لتحديد التخفيضات، وجدوا أنّ ثلثي البيانات التاريخية كانت فاسدة، ما أدى إلى خوارزمية تنبؤية اعتمدت على مجموعة فرعية مغلوطة مكونة من ثلث البيانات التي كانت موجودة. وكنتيجة، فقد أدت البيانات السيئة -من بين أشياء أخرى- إلى نتائج سيئة.
إلى جانب ذلك، تُعد بيانات اقتصاد السمعة المحتملة مغلوطة أيضاً. إذ يستخدم 79 في المئة من الأميركيين موقع الفيسبوك، ولكن 32 في المئة منهم فقط يستخدمون الإنستغرام و24 في المئة منهم يستخدمون تويتر. ولذلك فإنّ هذا التباين في نفاذ شبكات التواصل الاجتماعي يسهل جمع البيانات لمجموعة معينة فقط من المستخدمين، وبالتالي ستتكون مجموعة بيانات غير كاملة. بالإضافة إلى ذلك فإنّ التجزؤ عبر قنوات الاتصال يجعل تقييم العلاقات حسب المستوى الحقيقي للانتماء مستحيلاً.
ولكن الفكرة الأساسية تكمن أنه في حين ستعتمد الخوازميات لتقييم البشر، إلا أنّ الواقع يقول إنّ الحضور الرقمي للفرد نادراً ما يعكس شخصيته الحقيقية، إذ أنّ الناس ينشرون عادة ما من شأنه إظهارهم بأفضل صورة، وقد تتسم المنشورات بشيء من المبالغة. وبالتالي وبسبب هذا الواقع، لا يمكننا الاعتماد على وسائل التواصل الاجتماعي بشكل تام.
الرياضيات السيئة
لا يمكننا الاعتماد على الخوارزميات، لأنها تعيد ما تتعلمه فقط، وبالتالي تتحيز بحسب النتائج الظاهرة فقط، من هنا، تأتي أهمية اعتماد طريقة ماثواشينغ (mathwashing).
يحدث ماثواشينغ غير المتعمد عندما تُترك الخوارزميات دون إشراف، والتعلم من البيانات التاريخية يزيد من التحيز الاجتماعي. ويستخدم نظام العدالة في الولايات المتحدة خوارزمية تسمى كومباس (COMPAS) لتحديد احتمالية عودة مجرم ما إلى الإجرام. وثبت من قبل مؤسسة برو بابليكا (Pro Publica) أنّ خوارزمية كومباس تتنبأ بارتفاع معدلات معاودة الجرم عند المتهمين السود أكثر مما هم عليه فعلاً، فيما العكس لدى المتهمين البيض.
تستخدم ماثواشينغ، عندما تترك الخوارزميات من دون مراقبة. لقد قيل أنّ فيسبوك استخدم هذه التقنية عندما قامت بإلغاء الأخبار المحافظة عام 2016.
إنّ التحيز اللاواعي متأصل بقوة في النسيج الاجتماعي الأميركي. وإنّ استمرار السماح للخوارزميات بترسيخ التحيز الاجتماعي سيكون عملاً غير مسؤول، كما أنّ اتخاذ القرارات المصيرية بناء على تلك المعلومات قد يبطئ التقدم نحو المساواة الحقيقية.
الآثار غير المقصودة على المجتمع
يُعد الضغط الاجتماعي شكلاً قوياً وخفياً من السيطرة. وعندما تتم مفاقمة هذا الضغط الاجتماعي باستخدام خوارزمية غامضة يفترض أنها تراقب كل تحرك رقمي، ربما تتعرض حرية التعبير للخطر، وربما يخشى الناس التحدث خوفاً من تأثير كلامهم على إمكانية حصولهم على العمل أو البضائع أو الخدمات. يصف هذا "التعديل في السلوك الاجتماعي" ثقافة الرقابة الذاتية، إذ يقوم الناس- تطوعاً- بتعديل سلوكهم ليتوافق مع قاعدة اجتماعية معينة خوفاً من تأثير سلوكهم المراقَب رقمياً على سمعتهم.
يمارس سائقو أوبر الناجحون "التعديل في السلوك الاجتماعي" من خلال تكييف سلوكهم ليتناسب مع مستوى الخدمة المتوقع عموماً. قال أحد سائقي أوبر في مقابلة مع شبكة الحافة (The Verge): "يتوقع السائق الاحتياجات ويقوم بها بشكل سلس ويتحدث عندما يتم التحدث إليه وتكاد لا تلاحظ وجوده".
تُظهر إير بي إن بي "التعديل في السلوك الاجتماعي" في نظام استعراض المضيف/الضيف الخاص بها، حيث تعكس أسمى كلمات الثناء المستخدمة عدم رغبة المضيفين والضيوف في الحكم على الآخرين أو أن يُحكم عليهم.
نظراً للطبيعة المجردة والغامضة لتعلم الآلة، يجهل الناس متى يتم الحكم عليهم (كيف يرتبط النظام الإيكولوجي؟) أو من الذي يقوم بهذا الحكم (من لديه إمكانية الوصول إلى البيانات؟) أو ما هي الطريقة (ما هي الخوارزمية المستخدمة؟). وهذا يؤدي إلى تفادي المخاطرة، ويمنع التعبير عن الآراء المخالفة، ويقتل الإبداع أيضاً، ويصل في أسوأ الحالات إلى خلق مجتمع يخاف التعبير عن أفكاره.
إلى أين نتجه من هذه النقطة؟
مع استمرارنا في محاولة استيعاب واقعنا الرقمي الجديد، سيصبح اقتصاد السمعة الواقع الفعلي للجميع، ولن يكون خيار رفض هذا الواقع قابلاً للتطبيق، إذ يقول 57 في المئة من أصحاب العمل أنهم إذا لم يتمكنوا من إيجاد حسابات أحد المرشحين لوظيفة ما عبر الإنترنت، سينتقلون إلى المرشح التالي فوراً. ستصبح سمعتنا عملة فعلاً.
يجاهد المشرّعون وجماعات الحقوق المدنية معاً في علاج مسألة كيفية تنظيم استخدام الخوارزميات والمحافظة على نظام لمراقبة جودة الصيغ المستخدمة. وتهدف بعض الجهود، مثل إصدار الاتحاد الأوروبي للقانون العام لحماية البيانات، إلى إعادة سيطرة المستخدم على بياناته الشخصية مرة أخرى.
وفي الوقت ذاته، يتوجب على الأفراد أن يكونوا حذرين تجاه بياناتهم الشخصية التي يشاركونها عبر الإنترنت. وبالنسبة للكثير من المراهقين فإنّ إدارة السمعة عبر الإنترنت هي واقع يومي هم على دراية جيدة بها، إذ غالباً ما تكون ملفاتهم الشخصية خاصة ويقومون بتهيئتها بانتظام وينسقونها بعناية. أما حاجتهم إلى التعبير عن الذات غير الخاضع للرقابة وكذلك إلى فرصة ارتكاب الأخطاء فهي مُسندة- حتى الآن- إلى المنصات سريعة الزوال مثل السناب شات. وسوف يتطلب تغلغل الذكاء الاصطناعي إلى اقتصاد السمعة انضباطنا جميعاً في كيفية تفاعلنا وإصدارنا للأحكام عبر الإنترنت.
إذا كنا نتوقع وصولنا إلى التوظيف والبضائع والخدمات في المستقبل، لن تبقى المنصات الاجتماعية مكاناً مناسباً لتحقيق الأنا الخاصة بكل فرد منا، سمعتنا عبر الإنترنت ستسبقنا جميعاً، وهذا ما يحدثنا عنه عصر الذكاء الاصطناعي واقتصاد السمعة.
اقرأ أيضاً:
