إدارة العواقب غير المقصودة للابتكارات

ملخص: تفضل شركات رأس المال المغامر (الجريء) الاستثمار في الشركات الناشئة المُزعزِعة القادرة على التوسع سريعاً والإفلات من قبضة الجهات التنظيمية والرقابية. ولكن مع ازدياد وعي المجتمع بالعواقب غير المقصودة للمؤسسات الجديدة، خاصة تلك التي تبتكر تقنية تكنولوجية تغدو جزءاً لا يتجزأ من حياتنا اليومية، فيجب أن ينتبه القائمون على هذه المشاريع بقوة لأي عواقب غير مقصودة قد تنشأ في المستقبل، كما يجب عليهم استباق الأحداث بالوقوف على هذه العواقب وتحديدها من أجل التخفيف من حدتها وهي لا تزال في مراحلها المبكرة.

وفي حين أن القرن الحادي والعشرين شهد موجة من الابتكارات غير المسبوقة بالمرة، إلا أنه في الوقت ذاته شهدنا أيضاً جملة من العواقب غير المقصودة والوخيمة للتقنيات التكنولوجية التي نشأت دون حسيب أو رقيب.

فلم ينشئ مارك زوكربيرغ، مثلاً، "فيسبوك" وفي نيته أن يتحول إلى منصة لاستغلال بيانات المستخدمين من قِبَل طرف ثالث والتدخل في الشؤون السياسية. بيد أن المنصة التي تستظل بشعار "امض سريعاً واكسر التقاليد" والتي تهدف إلى "منح الناس القدرة على المشاركة وجعل العالم أكثر انفتاحاً وترابطاً" آل بها المآل إلى التسبب في عواقب وخيمة غير مقصودة، مثل اقتحام مبنى الكابيتول مؤخراً.

ولا تقتصر العواقب غير المقصودة للتقنيات التكنولوجية على القرن الحادي والعشرين وحده. إذ سبق أن اقترح روبرت ميرتون في ثلاثينيات القرن الماضي إطار عمل لفهم النتائج غير المقصودة بمختلف أنواعها، أي الفوائد والنتائج المفاجئة والعيوب غير المتوقعة. وقد رأينا على مر التاريخ في واقع الأمر أن التقدم الصناعي والتقني كثيراً ما يأتي مصحوباً بآثار ضارة ودائمة على المجتمع، مثل تلوث الهواء وداء السكري، كما حدث إبان الثورة الصناعية أو اختراع شراب الذرة عالي الفركتوز، إلا أن عواقب تقنيات اليوم أكثر شناعة نظراً لازدياد معدلات تراكمها بصورة كبيرة. وكانت التوسعات السريعة التي أسفر عنها "قانونا مور ومتكالف" قد أفادت قطاع التكنولوجيا وأسهمت في تقويضه في الوقت ذاته بعد أن أدت إلى تفاقم عواقبها غير المقصودة.

هل هذه العواقب غير المقصودة حتمية، أي أنها ثمن لا بد من دفعه نظير التقدم البشري على جبهات أخرى؟ أم يمكننا توقعها والتخفيف من حدتها؟

تشير عبارة "غير مقصودة" ذاتها إلى عواقب يستحيل تصورها مهما حاولنا. وتنطوي جملة "حدود قدراتنا الطبيعية على التنبؤ بالمستقبل" على معنى ضمني مفاده أننا قد لا نستطيع فعل الكثير بصورة مسبقة على أرض الواقع. ويبدو أننا يجب أن نقبل بمقايضة نفعية، على أمل أن تكون أي فوائد جديدة للتكنولوجيا أكبر من كُلفتها، سواء كانت هذه الفوائد متوقعة أو غير مقصودة. قد تُفزعنا نتائج "جوجل" غير المقصودة، مثل التحيز في البحث، ولكن هل نريد حقاً التخلي عن القدرة على الوصول إلى هذا الكم الهائل من المعلومات المتوافرة بين أيدينا؟ على الرغم من الجاذبية العملية للحسابات النفعية، فإنها تولد عواقب غير مقصودة متمثلة في إبعاد رواد الأعمال ومستثمريهم عن تحمل المسؤولية. ولماذا يجب تحميلهم مسؤولية عواقب وخيمة لم يكونوا يقصدون إحداثها، خاصة أن أعمالهم حققت أيضاً الكثير من الفوائد الاجتماعية؟

على الرغم من صعوبتها، فإننا نرى أنه يجب على رواد الأعمال والمستثمرين أن يتصدوا للعواقب غير المقصودة ويسيطروا عليها في أعمالهم. وكما قال هيمانت سابقاً، فإن عقلية المؤسس تعتبر جزءاً لا يتجزأ من تحفيز التغيير فيما يتعلق بكيفية تفكير الشركات في العواقب المقصودة وغير المقصودة. وإذا لم يستعد المؤسسون بصورة مسبقة للتصدي لهذه الأسئلة الصعبة، وإن لم يحيطوا أنفسهم بمفكرين متنوعين يرشدونهم إلى الأمور الغائبة عن مداركهم، فستعجز المؤسسات عن إبصار أثر منتجاتها على المجتمع ولن تجد الوسائل اللازمة لتحقيق الضوابط والتوازنات المناسبة.

الاستفادة من خوارزميات الإنذار المبكر

كان منع الآثار السلبية غير المقصودة للابتكارات يمثل تحدياً صعباً في الماضي، ففي غياب أجهزة الكمبيوتر لم يكن أمام الشركات من حل سوى الاعتماد على القدرة البشرية على استشراف المستقبل والتنبؤ بما سيحدث، ومن ثم اتخاذ الاحتياطات المناسبة. وفي أحيان أخرى كانت تضطر الشركات إلى تكليف فرق بمراقبة كيفية تطور عواقب تقنياتها التكنولوجية عن كثب خلال انتشارها. غير أن هذه المحاذير ولا تلك الفرق المتخصصة لم تكن تكفي في معظم الأحوال، وكانت محاولات تصحيح المسار تُبذَل بعد فوات الأوان لأن المشكلات لم تكن تظهر إلا عندما تتصدر عناوين الأخبار. علاوة على ذلك، فإن ترسخ التقنيات التكنولوجية بعمق يعني بالضرورة أن الشركات التي تشغلها قد بنت عليها مصالحها الاقتصادية بدرجة كبيرة حتى إن التخلي عنها يشكل تحدياً صعباً.

وفي حين أن تقنيات اليوم باتت أكثر تعقيداً وربما يصعب التخفيف من حدتها، فقد أصبح لدينا أخيراً أداة تتيح لنا تحديد المشكلات التي قد تخرج عن نطاق السيطرة، ممثلة في الذكاء الاصطناعي.

إذ يسهم التعليم العميق للذكاء الاصطناعي في تحديد الأنماط التي قد لا يستطيع البشر تمييزها بسهولة ويمنحنا قدرة تنبؤية جديدة. ويعتبر نسج خوارزمية الإنذار المبكر في تقنياتنا خطوة أولى على طريق توقع العواقب غير المقصودة وتخفيف حدتها.

فقد رأينا، على سبيل المثال، تطوير نماذج الذكاء الاصطناعي، مثل تقنية "غروفر للذكاء الاصطناعي" (AI’s Grover) من ابتكار "معهد ألين" (The Allen Institute for AI) والتي تختص بالبحث عن "الأخبار الزائفة" ومنع المعلومات المضلّلة قبل وصولها إلى شريحة واسعة من الجمهور. كما أعد "معهد بروكينغز" مؤخراً ملفاً تعريفياً عن العديد من الأمثلة الأخرى لنماذج الذكاء الاصطناعي التي يمكنها توليد الأخبار المزيفة وتحديدها. وخلصت دراساتهم إلى أن تقنية "غروفر" كانت دقيقة بنسبة 92% من حيث اكتشاف الأخبار البشرية مقابل الأخبار المكتوبة آلياً.

ونرى أنه بالإمكان تطوير خوارزمية إنذار مبكر مماثلة للتخفيف من حدة الكثير من العواقب غير المقصودة. المشكلة أننا ننشئ خوارزميات الذكاء الاصطناعي حالياً بأثر رجعي. ونؤمن إيماناً جازماً بوجوب اضطلاع المؤسسين من الآن فصاعداً بدمج هذه الأنظمة في المراحل الأولى من عملية تطوير المنتج. فلا بد من الأخذ بنهج تصميم الأنظمة بطريقة تؤدي إلى تحمل كل فرد لمسؤولياته وصياغتها بوضوح في شكل أهداف ونتائج رئيسية لأن ذلك النهج يسمح للفرق الهندسية بتضمين خوارزميات الإنذار المبكر بعمق في تقنياتها وتتبعها كمؤشرات أداء رئيسية. وهكذا، يمكن للشركات أن تقيس الجوانب المهمة حقاً بخلاف نجاح أعمالها، أي العواقب المحتملة غير المقصودة لتقنياتها ومسؤولية قادتها في التخفيف من حدتها.

توضيح أنواع العواقب غير المقصودة

في حين أن مثال الأخبار الزائفة كنتيجة غير مقصودة لمنصات وسائل التواصل الاجتماعي يبدو واضحاً لنا تمام الوضوح في أيامنا هذه، فإن التحدي الذي يواجهه المؤسسون عند تطوير خوارزمية الإنذار المبكر هو ما يجب تدريبهم على التعامل معه وتذليله. نحتاج إلى هذه الخوارزميات للتنبؤ ديناميكياً بالعواقب غير المقصودة التي قد تنجم عن الإجراءات التي تتخذها الشركات نفسها، مثل التحديات التي تواجه خصوصية المستهلك عندما يعتمد نموذج العمل على توفير البيانات التي يمكن تحقيق الدخل منها بواسطة الإعلانات. كما أنها تحتاج أيضاً إلى تحديد عواقب الأحداث التي لا تملك بعض الشركات السيطرة عليها، ولكن يمكن تخفيف حدتها إذا استطاعت توقعها، مثل فقدان قطاعات من جيل كامل بسبب عدم الحصول على التعليم في حال إصابة العالم بجائحة. أخيراً، يجب أن نبدأ في تطوير تصنيف لتوجيه تفكيرنا بشكل جماعي، على الرغم من اختلاف أنواع العواقب غير المقصودة من شركة إلى أخرى.

يعد إطار عمل أهداف البيئة والمجتمع والحوكمة (ESG) الذي يدعو له الكثير من المستثمرين المؤثرين الآن نقطة انطلاق مفيدة لأنه يشجعنا على التفكير في العواقب غير المقصودة التي تمتد عبر الطيف البيئي والاجتماعي والحوكمة. لكن هذا التصنيف يستلزم مزيداً من التحديد حتى يكون قابلاً للتنفيذ، نظراً للتفاصيل اللازمة لتطوير خوارزمية الإنذار المبكر، ومن أبرز الأمثلة على أنواع الخصوصية التي يجب أن نبحث عنها ما يلي:

• نشر المعلومات المضلّلة.
• تركيز المعلومات والقوة السوقية في أيدي فئة قليلة من الأفراد أو الجهات.
• انتهاك الخصوصية والمعلومات الشخصية.
• تفشي عدم المساواة بين قوة العمل.
• انخفاض فرص الحصول على السلع والخدمات الأساسية.
• الإحساس بالاستبعاد أو العزلة الاجتماعية.
• الإضرار بالبيئة.

لا يمكن اعتبار هذه القائمة شاملة بأي حال من الأحوال، ولكنها تحدد أنواع العواقب غير المقصودة التي يجب أن نحذرها ونراقبها عن كثب.

إدارة العواقب غير المقصودة

لن يكون وضع إطار لتصنيف العواقب غير المقصودة مفيداً إلا إذا كان مدعوماً بمنهجية منضبطة. إذ تستطيع الخوارزميات أداء الكثير من العمل الذي لا يستطيع البشر القيام به، إلا أن قادة المؤسسات هم مَنْ يستطيعون وحدهم دفع هذه الجهود إلى ما بعد الإطار النظري. ونقدم فيما يلي بعض المقترحات حول كيفية عمل المؤسِّسين والمستثمرين والمشرّعين معاً بصورة منهجية للحد من العواقب غير المقصودة في إطار الممارسات العملية:

دراسة العواقب غير المقصودة بعناية فائقة منذ البداية

يجب على رواد الأعمال والمستثمرين الإصرار على إجراء تحليل متعمق للعواقب غير المقصودة عند تأسيس الشركات. يجب على المؤسسين تضمين هذه الاعتبارات في مواد عروضهم الترويجية، ويجب على المستثمرين دراستها بالتفصيل خلال عملية الفحص النافي للجهالة. ويجب أن يُولى توقع العواقب غير المقصودة ما يستحقه من أهمية كأي مقياس آخر للأعمال عندما يفكر رواد الأعمال والمستثمرون في عقد شراكة.

توجيه حوكمة الشركات نحو التخفيف من حدة العواقب غير المقصودة

تعتبر مجالس الإدارة هي الدعامة الأساسية لحوكمة الشركات لأنها تساعد الشركات على اتخاذ القرارات المهمة والوفاء بمسؤوليات الأمانة المهنية. ويتزايد تعيين الكثير من الشركات أيضاً لمجالس استشارية مستقلة للإسهام في توجيه أسئلة محددة حول تطوير التكنولوجيا. في سياق مماثل، يجب على الشركات التفكير في إنشاء لجان فرعية لمجالس إدارتها الحالية أو ربما إنشاء هيئات مستقلة على غرار ما تحاول "فيسبوك" تنفيذه الآن للتحكم في قدرتها على إدارة العواقب غير المقصودة، حيث يضمن القيام بذلك إعطاء العواقب غير المقصودة الأهمية نفسها التي تحظى بها العوامل الأخرى التي تتطلبها الحوكمة الرشيدة.

عقد شراكة مع الجهات الرقابية لتعزيز روح تحمّل المسؤولية

تستلزم إدارة العواقب غير المقصودة الانفتاح على الرقابة المعقولة القادرة على حماية مصالحنا الجماعية. إذ يمكن أن نحقق استفادة ملموسة من اجتماع المبتكرين معاً لاقتراح أطر عمل للرقابة الذاتية، على الرغم من أن الهيئات الرقابية قد تلعب أيضاً دوراً مفيداً. وتُعد إدارة الغذاء والدواء الأميركية مثالاً يُحتذى به للهيئات التي تدرس بعناية الأضرار الطبية غير المقصودة التي قد تنتج عن دواء أو جهاز جديد قبل اعتماده والسماح بطرحه في الأسواق. ولك أن تتخيل أن الهيئات الأخرى قد تؤدي دوراً مشابهاً في طرح التقنيات الجديدة، على الرغم من أننا نريدها أن تكون أقل تعقيداً واستهلاكاً للوقت.

تتجسد روح الجماعة التي توجّه كافة الأطراف التي تتلاقى عند نقطة تقاطع التكنولوجيا مع السياسة ورأس المال في بناء أعمال يمكنها الاستفادة من التقنيات الجديدة وتوسيع نطاقها بأسرع ما يمكن والإفلات من قبضة الجهات التنظيمية والرقابية. وقد احتفينا بالشركات المزعزعة، لكننا لم ننتبه إلى الزعزعة غير المقصودة الذي يمكن أن تتسبب فيها. وكانت النتيجة تكوين شركات أصبحت موجودة في كل مناحي حياتنا ولكنها أطلقت أيضاً العنان لمجموعة واسعة من العواقب الوخيمة غير المقصودة. ونحن ندعو إلى روح جديدة للابتكار تدرس بعناية فائقة العواقب غير المقصودة منذ البداية وتراقبها بمرور الوقت للتخفيف من حدتها بشكل كبير. ونعتقد أنه بإمكاننا تحقيق هذه الغاية من خلال مبتكري التقنيات التكنولوجية القادرين على إنشاء خوارزميات برمجية يمكن أن تكون بمثابة أداة للإنذار المبكر ضد الأضرار الناشئة، وإصرار الممولين على تقييم العواقب غير المقصودة وإدارتها، وتقييم صُناع السياسات للعواقب غير المقصودة لضمان الامتثال. هذه الروح مختلفة تمام الاختلاف، ولكن لا بد من احتضانها إذا أردنا تجنب العيش في عالم بائس.