المعضلة الأخلاقية في قلب شركات التقنية الكبرى

إذا رأيت أن هناك فضيحة جديدة كل أسبوع بشأن أخلاقيات العمل في الشركات التقنية تحديداً، فأنت لست واهماً. على الرغم من محاولة قطاع التقنية لتأسيس عادات وقوانين راسخة بشأن أخلاقيات التقنية، إلا أننا نتعلم الدروس الصعبة من الفجوة الواسعة بين ممارسات "تطبيق الأخلاقيات" وما يعتبره الناس "أخلاقياً". وهذا يساعد جزئياً في تفسير سبب الدهشة عندما قامت جوجل بحل المجلس الاستشاري لأخلاقيات الذكاء الاصطناعي الذي لم يستمر طويلاً، استجابة للاحتجاج العام على ضمه بعضاً من الأفراد المثيرين للجدل من الأعضاء السابقين في مؤسسة الميراث (Heritage Foundation)، أو عندما أدى الضغط المنظم الذي مارسه فريق الهندسة في جوجل إلى إلغاء عقود عسكرية.

تتمتع هذه الفجوة بأهمية كبيرة، فإلى جانب هذه القرارات السيئة التي اتخذها من يقودون المسؤولية عن الأخلاقيات في القطاع، يبدأ قطاع التقنية باستثمار موارد هامة في القدرات التنظيمية من أجل تحديد عواقب التقنيات الخوارزمية ومتابعتها والحد منها، ونحن الآن في مرحلة، حيث يبدو واجباً على الأكاديميين والناقدين إعلان شيء من النصر بعد أن حثّوا القطاع على التفكير بهذه الأمور على مدى عقود. إلا أنه في كثير من الحالات، تتعالى الأصوات الخارجية نفسها معترضة بقوة على خيارات قطاع التقنية، وغالباً ما تكون محقة. وفي حين بدا الجميع متفقين على معنى "الأخلاقيات في قطاع التقنية" منذ عدة أعوام، أصبح من يحدد معنى "الأخلاقيات" وممارساتها موضع جدال ساخن بما أنها أصبحت أحد مواقع القوة اليوم.

إلا أنه في وادي السيليكون لا يزال معنى كل ذلك غير واضح، وبالأخص عندما يتعلق الأمر بترجمة المبادئ الأخلاقية إلى لغة الأعمال وضروراتها العملية. هل أخلاقيات التقنية هي مجرد سعي خلف إجراءات صارمة؟ ما هي أهداف علماء الأخلاقيات وما هي نظريتهم بشأن التغيير؟ هل يمكن قياس شيء من هذا العمل ضمن أطر العمل التي تستخدمها الشركات فعلاً لاحتساب القيمة؟ ما هي القيمة التي تضيفها الأخلاقيات على تكاليف العمليات التجارية، وما هو الفرق بالنسبة للشركات الناشئة التي تتسابق باتجاه الطرح العام الأولي في البورصة أو التي أصبحت أسماء كبيرة بالفعل؟

بهدف معرفة الإجابة عن كل هذه الأسئلة، قمنا برفقة شريكتنا في تأليف البحث، دانا بويد، بإجراء دراسة على من يقومون بأعمال الأخلاقيات داخل الشركات، الذين نطلق عليهم اسم "أصحاب الأخلاقيات"، بهدف معرفة ما يرونه في الأعمال التي بين أيديهم. وكلمة "صاحب" هي لغة شائعة ضمن البنى التنظيمية الأفقية للشركات، وتعني الشخص المسؤول عن تنسيق مجال العمل عبر الوحدات المختلفة للمؤسسة. وتبين من دراستنا التي أجرينا فيها مقابلات مع هذه الفئة الجديدة من أخصائيي قطاع التقنية أن عملهم يترسخ، ببطء وبصفة مؤقتة، من خلال الانتباه إلى الإجراءات والاهتمام بالنتائج. وعرفنا أن الموظفين في هذه الأدوار الجديدة يواجهون مجموعة هامة من أوجه التعارض غير القابلة للحل أساساً. فالقضايا الأخلاقية لا يتم حلها إطلاقاً، بل تتم مناقشتها والتفاوض حولها كجزء من عمل أصحاب الأخلاقيات.

أخلاقيات العمل في الشركات التقنية

والتحدي المركزي الذي يواجهه أصحاب الأخلاقيات هو إجراء التفاوض بين الضغوط الخارجية من أجل الاستجابة للأزمة الأخلاقية في حين ينبغي عليهم الاستجابة للمنطقيات الداخلية في شركاتهم وفي القطاع نفسه. من جهة، يدفعهم الانتقاد الخارجي نحو تحدي ممارسات الأعمال الأساسية وأولوياتها، ومن الجهة الأخرى، تنشئ منطقيات وادي السيليكون والأعمال التجارية بصورة عامة ضغوطاً لإنشاء أو استعادة الممارسات والنتائج القابلة للتوقع التي ما زالت تخدم صافي المبيعات.
لقد تعرفنا على ثلاث منطقيات واضحة تميز هذا التعارض بين الضغوط الداخلية والخارجية، وهي:

حكم الجدارة:

على الرغم من أن هذا المصطلح ابتدعه أولاً عالم الاجتماع البريطاني مايكل يونغ كمصطلح ساخر في الخيال العلمي الساخر، إلا أن حكم الجدارة يخترق كل شيء في وادي السيليكون، بدءاً من ممارسات التوظيف وصولاً إلى المناصب السياسية، وهو يسوغ بأثر رجعي قوة هذا القطاع في حياتنا. وكذلك الأمر، غالباً ما توضع الأخلاقيات ضمن إطار يتطلع إلى أساليب أذكى وأفضل وأسرع، وكأنه من الممكن معالجة المشاكل التي يواجهها قطاع التكنولوجيا من خلال هذه الفضائل. وبذلك، من المتوقع أن يضع كثيرون داخل قطاع التقنية أنفسهم في موضع اللاعبين الأفضل لمعالجة التحديات الأخلاقية، بدلاً من أصحاب المصلحة الأقل براعة من الناحية التقنية، بمن فيهم المسؤولين المنتخبين ومجموعات المناصرة. وفي المقابلات التي أجريناها، تمثل ذلك في الاعتماد على المهندسين لاستخدام حكمهم الشخصي من خلال "التعامل مع الأسئلة الصعبة على الأرض"، والثقة بهم في تمييز المخاطر الأخلاقية في منتجاتهم وتقييمها. وعلى الرغم من وجود بعض الإجراءات الصارمة التي تساعد المصممين في البحث عن العواقب المترتبة على منتجاتهم، إلا أن الجلوس في غرفة ما و"التفكير بجدية" في الأضرار المحتملة التي قد يتسبب بها منتج ما في العالم الحقيقي يختلف عن الفهم العميق لطريقة تأثر شخص تختلف حياته إلى حد كبير عن حياة مهندس البرمجيات بأشياء مثل الحماية التنبؤية أو تقنية التعرف على الوجه، كأمثلة واضحة. يجد أصحاب الأخلاقيات أنفسهم مترددين بين الكادر التقني الذي يؤكد على التنافس الذي يشمل عدة مجالات، ومعارفهم الخاصة التي تقول أن الأخلاقيات هي مجال اختصاصي يتطلب فهماً عميقاً للسياق.

أصولية السوق:

على الرغم من أن شركات التكنولوجيا لن تفضل الربح على الصالح الاجتماعي دائماً، إلا أن الأمر يتطلب تسويغ الموارد التنظيمية اللازمة لانتصار الأخلاقيات بما يلائم السوق. وكما شرح أحد كبار قادة قسم البحوث، هذا "يعني أنه لا بد أن يرى الموظفون أن النظام الذي تنشئه أمر يضيف القيمة وليس حاجزاً ضخماً لا يضيف أي قيمة، لأنه إذا كان حاجزاً لا قيمة له، فالموظفين لن يضيفوا القيمة حرفياً، لأنهم ليسوا مجبرين على ذلك". وفي نهاية المطاف، يحدد السوق شروط النزاع، حتى إذا لم تكن الأرباح القصوى هي النتيجة الوحيدة المقبولة. ولذلك يجب على أصحاب الأخلاقيات التنقل بين تفادي المخاطر القابلة للقياس للجانب السلبي وتعزيز الفوائد الإيجابية المترتبة على الذكاء الاصطناعي الذي يتمتع بالأخلاقيات أكثر. والاعتراض على إطلاق منتج ما قبل خضوعه لاختبارات إضافية فيما يتعلق بالتحيز العرقي أو الجنسي، أو من أجل تجنب دعوى قضائية محتملة، يختلف في الواقع عن مناقشة أن الاختبارات الموسعة أكثر ستؤدي إلى أرقام مبيعات أكبر، فهما أمران منفصلان. كلاهما يتمتع بأهمية كبيرة، ولكن أحدهما يناسب فريق الشؤون القانونية والامتثال، والثاني يناسب فرق المنتجات أكثر.

الحلول التقنية:

عززت الأرباح، التي جناها القطاع من إنتاج تقنيات يعتقد أنه تعالج المشكلات بالفعل، فكرة أن جميع المشكلات لها حلول تقنية مرنة. وكذلك الأمر، تنتقل الممارسات التنظيمية التي تسهل النجاح التقني غالباً إلى التحديات الأخلاقية. ويتجلى ذلك في البحث عن قوائم مرجعية وإجراءات ومقاييس تقييم قد تؤدي إلى تفكيك التساؤلات الصعبة حول الأخلاقيات إلى عمل هندسي قابل للفهم. ويعادل هذا التفاؤل المخاوف بأن الأخلاقيات تصبح "عصية على الحل وكأنها مشكلة أكبر من أن نتمكن من حلها" حتى عندما يتم طرحها على أنها مشكلة تقنية. وقد ظهر هذا التعارض جلياً في معالجة التحيز وعدم الإنصاف في الذكاء الاصطناعي. فهناك العشرات من الحلول لإصلاح التحيز الخوارزمي من خلال أساليب إحصائية معقدة، ولكن ليس هناك جهود كافية لمعالجة التحيز الأساسي في جمع البيانات أو في الواقع الذي يتم جمع البيانات منه. وحتى بالنسبة للخوارزمية العادلة، ما العدل إلا مجموعة فرعية من المسائل الأخلاقية المتعلقة بمنتج ما، فبم يفيد العدل إذا لم يؤد إلا إلى تشكل مجموعة أشخاص أقل انحيازاً يصيبهم منتج خطر بالضرر؟

يبين بحثنا أن الهدف الجماعي لأصحاب الأخلاقيات لا يتمثل في "إيقاف" قطاع التقنية، حتى لو اشتركوا جميعاً في نوع من الانتقاد الموجه له. فهم، مثلهم كمثل المهندسين الذين يعملون معهم، غارقون في ثقافات تنظيمية تكافئ العمل السريع الموجه نحو القياس مع المزيد من الموارد. وهذا يزيد من الضغط للاندماج ويخفف القدرة على الاعتراض، ما يزيد من صعوبة التمييز بين النجاح والفشل، إذ قد تبدو الانتصارات الأخلاقية كعقوبة في حين تحظى المنتجات المشكوك بها أخلاقياً بمكافآت كبيرة. ولا بد من معالجة أوجه التعارض الناجمة عن ذلك مع التركيز على العملية بكل تأكيد، ومع التركيز أيضاً بشكل مباشر على النتائج قصيرة الأجل وطويلة الأجل على حد سواء، داخل الشركات وخارجها، كموظفين وكأعضاء في مجتمع أوسع بكثير في آن.

لقد شهدنا أوجه التعارض هذه عندما ساءت سمعة الباحثة الشهيرة في الذكاء الاصطناعي في في لي، وهي شريكة في تأسيس معهد ستانفورد للذكاء الاصطناعي المركز على الإنسان (HAI)، أثناء عملها لدى جوجل بسبب التحذير الذي أطلقته في رسالة إلكترونية مسربة، إذ قالت أنه يجب على موظفي جوجل عدم التحدث علناً عن دور منتجات الذكاء الاصطناعي التي يصنعونها في بناء نظام لتحليل الوجه في الطائرات العسكرية ذاتية القيادة. فبدلاً من استخدام نفوذها الكبير في مناهضة العقد العسكري الذي أبرمته جوجل لإنتاج تقنية مثيرة للجدل بصورة واضحة من الناحية الأخلاقية، قالت لي لزملائها أن مناقشة "مشروع مافين" علناً قد تؤدي إلى الإضرار بالصورة الإيجابية التي غرسوها بالتحدث عن "الذكاء الاصطناعي الإنساني".

وبالمثل، عندما قال الباحث القانوني في حقوق الإنسان فيليب ألستون على مسرح ندوة "أيه آي ناو" (AI Now) لعام 2018 بلهجة شبه مازحة: "أريد خنق الأخلاقيات"، لم يكن يعني أنه يتمنى أن تكون الشركات والموظفين أقل التزاماً بالأخلاقيات، وإنما أن "الأخلاقيات"، مقارنة بإطار العمل القانوني لحقوق الإنسان مثلاً، تعتبر عادة مسعى غير معياري و"مفتوح" و"غير محدد وغير قابل للمساءلة" يركز على تحقيق إجراءات صارمة بدلاً من تحقيق نتيجة موضوعية. ومن الغريب أن طريقة ألستون في التعامل مع الأخلاقيات تتماشى مع طريقة لي، فهما يعتبران الأخلاقيات سلسلة من العمليات يبدو أنها ليست بحاجة إلى التعهد بالتزام حقيقي بتحقيق النتائج العادلة.

وبغض النظر عن النتيجة، ستحرك معايير أخلاقيات العمل في الشركات التقنية وهذه العمليات القرارات المستقبلية للقوانين الإدارية ووثائق مساءلة الخوارزميات وأولويات الاستثمار والموارد البشرية. وعندما نجتمع لمناقشة طريقة إدارة العواقب المترتبة على التقنيات الرقمية، يتعين علينا أن نشمل مزيداً من وجهات نظر الأشخاص الذين يساهم عملهم في تشكيل هذا الجزء من مستقبلنا.