لماذا لا نثق بالسيارات ذاتية القيادة؟

في السابع من مايو/أيار من العام 2016، كان جوشوا براون، رجل في الأربعين من العمر، جالساً خلف مقود سيارته تيسلا إس سيدان (Tesla Model S) عندما استدارت شاحنة قلاب معترضة طريقه، حيث فشلت سيارة تيسلا التي كانت تسير في وضع القيادة الذاتية في تمييز الشاحنة البيضاء تحت سماء فلوريدا المضيئة، كما أنّ براون لم يُعمل المكابح في الوقت المناسب. ما أدى إلى تحطم السيارة بسبب الاصطدام بالشاحنة التي كانت سرعتها 119 كم بالساعة وتوفي هو على الفور.

يُقتل كل عام أكثر من 30,000 شخص بسبب حوادث السيارات في الولايات المتحدة. في 90 في المئة من هذه الحوادث يكون الخطأ البشري هو السبب، لهذا يرى معظم الخبراء أنّ السيارات ذاتية القيادة ستقلل عدد الحوادث والوفيات. يكتب أدرين لوفرانس في مجلة الأتلانتيك أنّ السيارات ذاتية القيادة تنقذ أرواح 1.5 مليون إنسان في الولايات المتحدة وحدها وأكثر من 50 مليون إنسان في العالم خلال الخمسين سنة القادمة. ومع ذلك، قال 75 في المئة من المشاركين في استطلاع أجرته الجمعية الأميركية للسيارات أنهم غير مستعدين لتبني السيارات ذاتية القيادة.

قيادة السيارة أحد أكثر أفعالنا شخصية وأخطرها، من هنا يمكن تفهّم تشكيك الناس في تسليم مفاتيح القيادة لخوارزمية لا وجه لها، والجلوس بينما يُقاد بهم. لعل أول ما تتخيله عندما تفكر في كلمة “خوارزمية” أرقام يعمل الحاسوب على تحليلها لاستنباط معادلة منها أو اتباع مجموعة من الخطوات التسلسلية المبرمجة مسبقاً. لكن الخوارزميات تطورت كثيراً خلال العقد الماضي وأصبح بإمكانها استقبال البيانات والتعلم وتوليد نسخ عن نفسها أكثر تطوراً. أصبح بإمكانها قيادة سيارة.

في الواقع، نحن نعتمد على الخوارزميات في الكثير من قراراتنا وأفعالنا، بدءاً من النشاطات القليلة المخاطر، مثل: تقرير ما نشاهده على نتفليكس أو ما سنشتريه من أمازون إلى القرارات العالية المخاطر، مثل: كيفية استثمار مدخراتنا. حتى أننا لا نمانع أن يتحكم طيار آلي بطائراتنا. لهذا فإنّ هذا التشكيك الحالي بالسيارات ذاتية القيادة يطرح علينا سؤالاً: لماذا نثق بالخوارزميات في بعض الحالات دون غيرها؟

ثقتنا الانتقائية في الخوارزميات

هذا النفور لدى البشر من الخوارزميات ليس دائماً. وجد بحث أجراه أحدنا (كاتريك) على الخوارزميات التي تولد توصيات مؤتمتة للمنتجات، مثل توصية أمازون “الأشخاص الذين اشتروا المنتج أ اشتروا أيضاً المنتج ب”، أنّ الناس يحبون توصيات الخورازميات وكثيراً ما يأخذون بها. مثلاً، في دراسة أجريناها مؤخراً مع الأستاذ دوكيون لي من جامعة كارنيجي ميلون الأميركية، وضعنا مستهليكن من واحد من أكبر خمس مواقع إلكترونية لتجارة التجزئة في كندا ضمن مجموعتين. مجموعة حصلت على توصيات من خورازميات ومجموعة مرجعية لم تقدّم لها توصيات. وجدنا أنّ توصيات الخوارزميات أدت إلى 25 في المئة زيادة في عدد المنتجات التي استعرضها المستهلكون، و35 في المئة زيادة في عدد المنتجات التي تم شراؤها. في بحث إضافي، وجدنا أنّ تأثير خوارزميات التوصيات على الاختيارات يكون أكبر في المنتجات الإشباعية، التي تتصف بتوجهها لإرضاء متعة المستهلك (مثل الأفلام والعطور والقطع الفنية) مقارنة بالمنتجات المنفعية التي تكون الوظيفة التي تؤديها هي الحافز على استهلاكها (مثل، الدبابيس الورق، سائل غسل الصحون، ومنظفات المكنسة الكهربائية).

في دراسة أخرى، وجدنا أنّ حتى توصيات المنتجات المولدة عشوائياً كانت قادرة على الدفع بزيادة لا بأس بها في المشتريات عندما وسمت بأنها شخصية (لعله تأثير العلاج الوهمي). وقد أظهر استبيان أُجري بعد التجربة أنّ ثقة المستهلك بالموصي العشوائي للمنتجات لا تقل عن ثقته بمحرك متخصص يولد توصيات شخصية فعلاً. ولا تقتصر هذه الثقة فقط على توصيات المنتجات، فالتنامي السريع “للاستشاريين الآليين” مثل ويلث فرونت (Wealthfront) وبيترمنت (Betterment) يُظهر أنّ لدى الناس استعداداً للثقة بالخوارزميات في القرارات الاستثمارية المهمة التي كان يقوم بها في الماضي خبراء بشر.

مع ذلك، هناك اختلافات مهمة بين كل من توصيات المنتجات وإدارة الاستثمارات والسيارات ذاتية القيادة. وتتعلق هذه الاختلافات بمدى شخصية الحكم، وأنواع المستخدمين المستهدفين بهذه الأنظمة، ومستوى التحكم الممنوح للمستخدم في اتخاذ القرار.

صممت جنيفر لوغ، باحثة في جامعة كاليفورنيا بيركيلي أربع دراسات لاكتشاف السبب الذي يجعلنا نرتاب أحياناً في الخوارزميات على الرغم من تنامي اعتمادنا عليها. في الدراسة الأولى، كان على المشاركين القيام بتقديرين حول وزن شخص في صورة. اعتمد التقدير الأول على الحكم الشخصي للمشارك. أما في التقدير الثاني فقد أُعطي المشتركون نصيحة: منهم من أعطي نصيحة من أشخاص، ومنهم من أعطي نصيحة تولدها خوارزمية. تمكنت لوغ من قياس مدى الاختلاف بين المشاركين في ثقتهمم بالخوارزمية اعتماداً على تغيّر تقديراتهم ما بين التخمين الأولى والثاني.

بالنسبة للتقديرات والتنبؤات التي كان لها إجابة صحيحة أو إجابة يمكن التحقق من صحتها، (ليس فقط وزن شخص ما، بل أيضاً أسئلة مثل الفيلم الذي سيتصدر شباك التذاكر أو احتمالية حدث سياسي عالمي)، وجدت لوغ أنّ الناس على الأغلب سيثقون بتقديرات الخوارزميات أكثر من تقديرات الأشخاص. في دراسة أخرى ضمن نفس هذه المجموعة من الدراسات (حدد المشاركون فيها الأسئلة التي يعتقدون أنّ بإمكانهم الاعتماد في الإجابة عليها على الخوارزميات في مقابل الاعتماد على ناصحين بشر)، أوضحت لوغ أنّ الناس يثقون بالناصحين البشر أكثر من الخوارزميات في القرارات الأكثر شخصية. ليس مفاجئاً معرفة أنّ ثقة الناس بالخوارزميات في اتخاذ القرارات الشخصية أكبر من ثقتهم بها في اتخاذ القرارات الموضوعية، لكن لوغ وجدت أيضاً أنّ الثقة في الخوارزمية لا تعتمد فقط على نوع المسألة التي في متناول اليد، بل تتوقف أيضاً على صفات الأفراد: أظهر الأفراد الذين لديهم ثقافة رياضية أعلى ثقة أكبر بتخمينات الخوارزميات مقارنة بالأشخاص ذوي الثقافة الرياضية الأقل.

وفي حين يصعب تعميم اكتشافات لوغ حول التنبؤ على السيارات ذاتية القيادة، إلا أنها تشير إلى نظرية مثيرة: هل من المعقول أن يكون سبب تردد الناس في استخدام السيارات ذاتية القيادة أنهم يرون في القيادة تجربة أكثر شخصية أو خصوصية؟ وهل من الحكمة استهداف أناس لديهم ارتياح أكبر في التعامل مع العلوم والرياضيات (والتقنية كفرع لها) بدل الترويج لمقدرات السيارات ذاتية القيادة إلى السوق الكبير؟

من الطبيعي أن تكون النخبة العلمية والتقنية أول من يتبنّى أغلب التطورات التقنية، هؤلاء هم من يصلحون المشاكل ويجعلون التقنية مفهومة أكثر للسوق العامة باعتبارهم المتبنين الأوائل لها. لكن التطور التقني الضخم الذي تقدمه السيارات ذاتية القيادة باعتبارها استبدالاً كاملاً للتحكم البشري بالتحكم الآلي الخوارزمي، يجعلها هشة بشكل استثنائي في مواجهة الانتكاسات، كالتي تواجه تيسلا حالياً.

إليك الآن هذه النتائج التي توصل لها زملاؤنا في كلية وارتون في جامعة بنسلفانيا: بيركلي ديتفورست، وجوزيف سيمونز، وكيد ماسي. أظهر بحثهم أنّ الناس يفقدون من ثقتهم بالخوارزمية قدراً أكبر مما يفقدونه من ثقتهم بالمتنبئ البشري عندما يلاحظون أنهما يرتكبان نفس الأخطاء. أضف لهذا أنّ الناس أقل ميلاً لتفضيل اختيار الخوارزمية على المتنبئ البشري حتى لو تفوقت الخوارزمية على البشر في مجمل أدائها. بالمختصر، نحن غير متسامحين مع الأخطاء التي ترتبكها الخوارزميات حتى لو كان تكرار ارتكابنا لنفس الأخطاء أكثر. يترتب على هذا آثار لن يُسرّ لها مصنعو السيارات الذاتية القيادة ومناصروها: قد يفقد الناس سريعاً الثقة في تقنية السيارات ذاتية القيادة إن تكررت كثيراً حوادث مثل حادثة تيسلا، حتى ولو أثبتت التقنية أنها أكثر أماناً في المجمل. أضف لهذا أنّ الوفيات الأولى تُحرض الجمهور سريعاً على السيارات الذاتية القيادة. لهذا على المصنعين التفكير جيداً في مكان وزمان تقديم ميزة القيادة الذاتية.

لكن في المقابل، لدى ديتفورست وسيمونز وماسي أخبار جيدة أيضاً للخوارزميات التي ترتكب أخطاء: أشار الباحثون في دراسة أخرى إلى أنّ المشاركين كانوا أكثر قبولاً لأخطاء الخوارزميات وأكثر ميلاً لاختيار استخدام الخوارزمية على حساب البشر عندما كان بالإمكان تعديل تنبؤاتها. إذ طلب من المشاركين في الدراسة التنبؤ بنتائج امتحان معياري اعتماداً على بيانات تشمل 9 نقاط، ثم تُركت لهم حرية اختيار كم يريدون الاعتماد على خوارزمية غير مكتملة. كان احتمال اعتماد المشاركين على خوارزمية يمكنهم تعديلها أكبر من احتمال اعتمادهم على خوارزمية لا يستطيعون تعديلها. الأمر المشجع أكثر في الموضوع أنّ أصحاب الدراسة وجدوا أنّ الناس لم يهمهم عدد التعديلات التي أمكنهم القيام بها: كل ما أرادوه بعض التحكم بالخوارزمية. إنّ إسقاطات هذه الدراسة على السيارات ذاتية القيادة مهمة جداً: إذا أُعطي الناس الفرصة للتحكم ببعض نواحي تجربة القيادة الذاتية (مثل السرعة أو المسار) سيكونون أكثر ميلاً لجعل السيارة تتولى القيادة بنفسها. أما إزالة عنصر اتخاذ القرار الشخصي من العملية كلياً، كما قررت أن تفعل جوجل والكثير من مصنعي السيارات، فقد يقابله المستهلكون بالارتياب.

مع تطور الذكاء الاصطناعي وزيادة نضج التعلم العميق للآلة (هو فرع من تعلم الآلة يهدف إلى إعادة خلق العمليات الفعلية للأعصاب في الدماغ) سوف تدير الخوارزميات الجزء الأعظم من حياتنا. على هذا فإنّ الارتياب حيال سيارة تيسلا الذاتية القيادة يُظهر أنّ التقنية الجيدة وحدها لا تضمن النجاح. يجب أن يتم تقديم الذكاء الاصطناعي والخوارزمية الجيدة بطرق تفوز بثقة واطمئنان مستخدميهما من البشر.