خوارزمياتك ليست بمأمن من المخترقين

وفقاً لعدة دراسات استقصائية، أصبح الأمن السيبراني أحد أكبر المخاوف التي تعتري الرؤساء التنفيذيين، فتستثمر الشركات مليارات الدولارات لحماية نظمها وتدريب موظفيها. وقد قُدِّرت القيمة السوقية العالمية للأمن السيبراني بـ 77 مليار دولار عام 2015 وستصل قيمتها إلى 170 مليار دولار بحلول عام 2020. يركز هذا المجال في الغالب على حماية النظم من مواطن الضعف في البرمجيات والمعدات الحاسوبية، ولكن لم تعد التهديدات مقتصرة عليهما فقط. فبما أن المؤسسات أصبحت تعتمد أكثر فأكثر على الخوارزميات المستندة إلى البيانات، أصبحت المخاطر موجودة بشكل متزايد في البيانات نفسها.

قد تحتوي نظم تصنيف الأنماط نفسها، التي تعتمد خوارزميات تعلم الآلة عليها، على نقاط ضعف يمكن أن يستغلها المخترقون أو المخربون الآخرون. ومن بين نقاط الضعف الشائعة قدرة المهاجم على تقدير أي البيانات استُخدمت لتدريب خوارزمية تعلم الآلة وبالتالي سيصبح قادراً على التلاعب بالبيانات المدخلة في الخوارزمية نفسها.

على سبيل المثال، لطالما خمّنت الشركات المتخصصة في مجال تحسين محركات البحث (SEO) الطريقة التي يتم بها تدريب خوارزمية تعلم الآلة الخاصة بمحركات البحث، ليتمكنوا من التلاعب بمحتوى مواقعهم الإلكترونية لرفع ترتيبهم في نتائج محركات البحث. ويحاول مرسلو رسائل البريد الإلكتروني غير المهمة خداع خوارزمية تصفية رسائل البريد الإلكتروني غير المهمة من خلال تعمُّد الخطأ في تهجئة الكلمات “البذيئة” أو إضافة كلمات أو عبارات غير ذي صلة في رسائلهم، بغرض جعلها تشبه رسائل البريد الإلكتروني المشروعة.

يمر أغلبنا بأمثلة من هذا القبيل يومياً، وفي الغالب لا تُسبب لنا سوى إزعاج بسيط، فالأمر لا يتعدى الضغط على رابط سيئ أو حذف القليل من رسائل البريد الإلكتروني الإضافية. ولكن قد يترتب على هذا النوع من الاحتيال عواقب أشد خطورة. فقد تعرضتْ صناعة بطاقات الائتمان – التي اعتمدت الكثير من طرق تعلم الآلة، إضافة إلى تقنيات إحصائية أخرى تستند إلى البيانات لكشف حالات الاحتيال – إلى تهديدات من هذا القبيل لسنوات عديدة. فإذا عرف المهاجم النمط المعتاد للمتسوق يمكنه أن يُجري عمليات شراء احتيالية تختلف بقدر ضئيل للغاية عن عمليات الشراء المعتادة، وبالتالي لن تتعرف عليها نُظم كشف النشاطات الغريبة. على سبيل المثال، يمكن للمهاجم رؤية ما تم شراؤه سابقاً من شركة “هوم ديبوت” (Home Depot) وشراء منتجات بأسعار مماثلة من موقع “أمازون” (Amazon).

ويمكن أن يؤثر الاحتيال باستخدام الخوارزميات على الانتخابات أيضاً. نشرت “مجلة الأكاديمية الوطنية للعلوم” (PNAS) العلمية الرسمية بحثاً يتناول بالتفصيل كيف يمكن أن يؤثر التلاعب بمحركات البحث على الناخبين. وأجريت أبرز التجارب على الناخبين الهنديين في انتخابات الهند لعام 2014 لاختيار أعضاء مجلس النواب الهندي المعروف باسم “لوك سابها” (Lok Sabha). وقد بيّنت نتائج التجربة بوضوح أن التصنيفات المتحيزة لنتائج البحث قد تغير خيارات التصويت للناخبين المترددين بنسبة 20% أو أكثر. وعلى وجه التحديد، وُجد أن الترتيب الذي يظهر به المرشحون في نتائج البحث يمكن أن يؤثر بشكل كبير على تصورات الناخبين.

من نقاط الضعف الأخرى في خوارزميات تعلم الآلة هي أن معظمها يخضع للافتراض الشائع أن كلاً من البيانات المستخدمة لتدريب الخوارزمية والبيانات التي يتم تطبيق الخوارزمية عليها، يتم توليدها بالطريقة نفسها (أو ما يطلق عليه الإحصائيون “عينات مأخوذة من التوزيع نفسه”). وعندما يُنتهك هذا الافتراض، يمكن خداع الخوارزمية.

فقد شُن مؤخراً هجوم من هذا القبيل على نظم للاستدلال البيولوجي. إذ تتيح معظم تلك النظم التكيف مع التغيرات الطبيعية التي تطرأ على ملامح العملاء بمرور الوقت، أي أنه يتم تحديث برمجيات التعرف على الوجه شيئاً فشيئاً مع تقدمك في السن وتغير ملامح وجهك. ولكن يمكن للبرمجيات الخبيثة أن تستغل هذه القدرة على التكيف. فمن خلال عرض سلسلة متعاقبة من سمات الاستدلال البيولوجي الوهمية على المستشعر، يمكن للمهاجم تغيير ملامح وجهك تدريجياً حتى تحل محلها ملامح مختلفة بالكامل، وهو ما يتيح له في نهاية الأمر أن ينتحل شخصيتك أو شخصية أي عميل آخر مستهدف.

مع زيادة استخدامنا للأجهزة الذكية المتصلة، فنحن بذلك ننشر أيضاً خوارزميات تعلم الآلة أكثر فأكثر في حياتنا، من السيارات إلى الهواتف إلى قارئ بطاقة الائتمان إلى الأجهزة القابلة للارتداء، وكثير غيرها. ومن ثَم، باتت حماية الخوارزميات التي تشغّل هذه الأجهزة من “الاختراق الإحصائي” أو “تعلم الآلة العدائي” ضرورة ملحة. ويمكن فعل الكثير حيال هذه المشكلة، بدءاً من بناء خوارزميات تعلُّم ذات مصنّفات متعددة إلى استخدام التوزيع العشوائي.

في الوقت الذي أصبحت فيه خوارزميات الذكاء الاصطناعي تقود كل شيء، بداية من الرأي العام حتى اتخاذ القرارات المتصلة بالأعمال التجارية والعديد من القرارات الأخرى التي نتخذها كل يوم، يَجدر بنا التساؤل عن مدى أمان تلك الخوارزميات، وأيضاً ما الذي يمكننا فعله لجعلها أكثر أماناً.