كيف يزيد الذكاء الاصطناعي قيمة المبرمجين بدلاً من استبدالهم؟

من بين التطبيقات المدعومة بالذكاء الاصطناعي التوليدي كافة، ربما كانت القيمة المتحققة من استخدامه في كتابة الرموز البرمجية هي الأوضح. فالترميز البرمجي عملية بطيئة نسبياً وتتطلب خبرة متخصصة، وهما عاملان يترتب عليهما تكلفة مرتفعة. فضلاً عن ذلك، فالفرضية القائلة إن أي شخص يستطيع وصف فكرته بلغة طبيعية يمكنه إنشاء تطبيقات أو خصائص أو منتجات أخرى تضيف قيمة، تعني أن الابتكار لن يظل حكراً على من يمتلكون مهارات التنفيذ التقني، بل سيصبح في متناول أي شخص لديه فكرة. وقد أفضت قوة هذه الفرضية إلى نشوء سوق تبلغ قيمتها 7.37 مليارات دولار لهذه الأدوات.

ومع إعلان عدة شركات عن تسريحات واسعة النطاق في صفوف فرق الهندسة وإرجاع بعضها هذه الخطوة صراحة إلى مكاسب الكفاءة التي حققها الذكاء الاصطناعي، يبدو أن بعض المسؤولين التنفيذيين في عالم الأعمال يجربون تقليص أقسام الهندسة لديهم والاعتماد على بوتات الذكاء الاصطناعي لسد الفجوة الناتجة عن ذلك. ومن الطبيعي أن تغري هذه الخطوة شركات أخرى بالسير في الاتجاه نفسه.

لكن بالنظر إلى الحالة الراهنة للذكاء الاصطناعي، يجب التعامل مع هذا التوجه بحذر.

توضح إحدى القصص التحذيرية سبب ذلك؛ فقد خاض جيسون لمكين، وهو مؤسس شركة ناشئة ومستثمر رأسمال مغامر ومدون في مجال التكنولوجيا، تجربة علنية في التطوير المدعوم بالذكاء الاصطناعي لبناء تطبيق مخصص لبناء العلاقات المهنية. وكان يوثق رحلته عبر منشورات مباشرة على منصة إكس بحماس لافت، منساقاً مع موجة الإمكانات التي بشر بها ما يعرف بالترميز القائم على الانطباع، وهو حلم أن يتمكن أي شخص من بناء برمجيات باستخدام اللغة الطبيعية وحدها، متحرراً من عناء الهندسة التقليدية ومتطلباتها الصارمة.

خلال أسبوع واحد، تحول ذلك الابتهاج إلى كارثة. فقد غرد لمكين بأن وكيل الذكاء الاصطناعي تسبب في إخفاق كارثي؛ إذ خرج عن السيطرة ومسح قاعدة بيانات الإنتاج لديه بالكامل، على الرغم من التعليمات الصريحة بتجميد التعديلات على الرمز البرمجي. وقد مثل هذا الحادث ذروة ما يعرف بالترميز القائم على الانطباع (فايب كودينغ)، إذ بلور مخاوف متنامية من أن سرعة الرمز البرمجي المنشأ بالذكاء الاصطناعي وسهولة استخدامه الظاهرية قد أغرت المطورين بالتخلي عن الضوابط نفسها التي تحول دون وقوع مثل هذه الكوارث. فما بدأ احتفاء بإتاحة التطوير على نطاق واسع تحول إلى قصة تحذيرية عن الوهم الخطر القائل إن الانطباعات يمكن أن تحل محل الصرامة الهندسية.

ولا تمثل تجربة لمكين سوى واحدة من قصص كثيرة تكشف حدود أدوات الذكاء الاصطناعي في الترميز البرمجي مثلما يراها خبراء المجال. فقد خلصت دراسة نشرت هذا الصيف إلى أن المطورين قدروا أن الذكاء الاصطناعي جعلهم أسرع بنسبة 20%، لكن النتائج الفعلية أظهرت أنه جعلهم أبطأ بنسبة 19%. ومع مرور الوقت، تراجع الحماس المحيط بالترميز القائم على الانطباع ليحل محله منظور أكثر قتامة على نحو واضح.

وعلى الرغم من هذا التشاؤم الأخير، فإنني متفائل إزاء استخدام النماذج اللغوية الكبيرة في الترميز البرمجي على نطاق أوسع. غير أننا بحاجة إلى استخدام هذه الأدوات على نحو مختلف. وخلافاً للاعتقاد السائد بأن الذكاء الاصطناعي يقلل أهمية الخبرة، تزداد قناعتي بأن الدروس التي اكتسبتها على مدار أكثر من عقد في هندسة البرمجيات وتعلم الآلة والذكاء الاصطناعي أصبحت اليوم أكثر قيمة مما كانت عليه قبل عصر توليد الرمز البرمجي بالذكاء الاصطناعي. وعلى القادة أن يضعوا في اعتبارهم 3 قواعد لاستخدام أدوات الترميز البرمجي المعتمدة على الذكاء الاصطناعي بنجاح: الاختبار والتحقق الصارمان، وتأمين البنية التحتية، والتعامل مع الذكاء الاصطناعي بوصفه خصماً محتملاً.

الاختبار والتحقق الصارمان

يتطلب الرمز البرمجي المنشأ بالذكاء الاصطناعي مستوى أعلى من الصرامة في التحقق. ومثلما هي الحال في كثير من الأمور، يتوقف النجاح في استخدام أدوات الترميز البرمجي المعتمدة على الذكاء الاصطناعي بدرجة كبيرة على طريقة استخدامها. وخلال عملي مع مهندسين متمرسين في مشاريع كبيرة، رأيت هذه التقنيات تستخدم باستمرار لتحسين جودة الرمز البرمجي. وتزداد أهميتها أكثر عندما يكتب جزءاً كبيراً من الرمز البرمجي ذكاء اصطناعي قد يقع في الهلوسة. وعلينا أن نقبل بأن تطوير البرمجيات عملية هندسية؛ فالكمال غير واقعي، لكننا نحتاج إلى عمليات تقلل الأخطاء الناتجة عن الهلوسة تدريجياً.

أتمتة التحقق عبر سلامة أنواع البيانات. تفرض لغات البرمجة الآمنة نوعياً، مثل سي++ (C++) أو رست (Rust) أو سكالا (Scala)، قواعد تنظم تدفق البيانات داخل النظام في أثناء مرحلة الترجمة، ما يتيح التقاط فئات كاملة من الأخطاء قبل تشغيل الرمز البرمجي أصلاً. والأهم أن هذا النوع من التحقق لا يعتمد على نموذج لغوي كبير قد يهلوس؛ بل يقوم على فحص حتمي يجريه المترجم البرمجي. وحتى اللغات غير الآمنة نوعياً بطبيعتها، مثل جافا سكريبت وبايثون، أضافت أنظمة اختيارية لتحديد أنواع البيانات. لذلك يجب على المهندسين الالتزام دائماً بتحديد صارم لأنواع البيانات، وتوجيه أنظمة الذكاء الاصطناعي التي يستخدمونها إلى الالتزام بها كذلك.

قد تكون مراجعة الرمز البرمجي المعتمدة على الذكاء الاصطناعي فعالة على نحو لافت. استخدم وكيلاً مخصصاً من الذكاء الاصطناعي لمراجعة تعديلات الرمز البرمجي. فحتى إن وقعت النماذج اللغوية الكبيرة في الهلوسة خلال المراجعة، يمكن لوكيل المراجعة اكتشاف مشكلات أغفلها وكيل الترميز. ومثل البشر، تمتلك أنظمة الذكاء الاصطناعي مدى انتباه محدوداً؛ فقد لا يلتزم الوكيل الذي يكتب الرمز البرمجي بمعايير الترميز المعتمدة كلها، في حين يكون الوكيل المكلف صراحة بمهمة المراجعة أكثر التزاماً بهذه المعايير، حتى لو تلقى الوكيلان التعليمات نفسها حرفياً.

تمنح اختبارات الوحدات البرمجية الذكاء الاصطناعي فرصتين للتحقق من الصحة. وهي اختبارات صغيرة ومؤتمتة تتحقق من أن المكونات الفردية للرمز البرمجي تعمل بصورة صحيحة وبمعزل عن غيرها. وحتى عندما يكتبها نموذج لغوي كبير، فإنها تسهم في خفض الأخطاء بدرجة ملموسة. ويتعلم الطلاب البشر حل مسائل الرياضيات بطرق مختلفة للتحقق من صحة حلولهم. وبالمثل، تمنح اختبارات الوحدات البرمجية النموذج اللغوي الكبير فرصتين للتحقق من صحة الرمز البرمجي: الأولى عند كتابة الرمز نفسه، والثانية عند كتابة الاختبارات التي تتولى التحقق من سلامته.

تأمين البنية التحتية

لا تمثل كتابة رمز برمجي آمن سوى نصف المعركة. فهندسة البرمجيات تتطلب أيضاً تأمين البنية التحتية الأساسية التي يعمل الرمز البرمجي اعتماداً عليها وتعزيز متانتها. ومثلما هي الحال مع الاختبار والتحقق الصارمين، يشكل هذا جانباً آخر من جوانب الهندسة يسهل إغفاله.

الفصل بين بيئات التطوير وبيئات الإنتاج. تحرص فرق البرمجيات المحترفة على الفصل الصارم بين بيئة التطوير (حيث يجرب المطورون على أجهزتهم المحلية) وبيئة الإنتاج (التي يتعامل معها المستخدمون). وتستخدم كل بيئة قاعدة بيانات مستقلة، وتقتصر صلاحيات الذكاء الاصطناعي على الوصول إلى بيئة التطوير. ومثلما لا نمنح مهندساً مبتدئاً صلاحيات الوصول إلى بيئة الإنتاج، فينبغي أيضاً عدم منح الذكاء الاصطناعي هذه الصلاحيات. (وقد أقر لمكين بعدم إلمامه بهذه الممارسة القياسية).

في الواقع، يحافظ معظم المؤسسات الهندسية على عدد من البيئات يتجاوز مرحلتي التطوير والإنتاج. ففي شركتي الناشئة السابقة، كنا نحتفظ بوثائق قانونية حساسة لمئات الشركات. وقد أنشأنا بيئات مرحلية وبيئات ضمان الجودة وبيئات اختبار، لكل منها صلاحيات مستقلة وإدارة منفصلة للأسرار، بحيث لا تستطيع أدوات الترميز البرمجي المعتمدة على الذكاء الاصطناعي الوصول إليها. ولم ينتقل الرمز البرمجي بين البيئات إلا عبر مراجعة بشرية والتحقق والاختبار. على سبيل المثال، لم ننقل الرمز من بيئة التطوير إلى البيئة المرحلية إلا بعد مراجعة يدوية واختبارات مؤتمتة. وكل أسبوع، كنا نرقي البيئة المرحلية إلى بيئة ضمان الجودة، وبيئة ضمان الجودة إلى الإنتاج في الوقت نفسه. وبينما يستخدم المستخدمون بيئة الإنتاج، يعمل الفريق الداخلي على بيئة ضمان الجودة خلال الأسبوع السابق للإطلاق، ضمن عملية ضمان جودة رسمية أكثر. وحتى في غياب الذكاء الاصطناعي، كان الحفاظ على بيئات منضبطة ضرورة لضمان تجربة مستخدم عالية الجودة.

تجنب مساحات التخزين العامة وسائر أخطاء الضبط الشائعة. فقد نجم اختراق تطبيق تي، الذي أدى إلى تسريب 72,000 صورة حساسة، من بينها وثائق هوية حكومية، عن استخدام مساحة تخزين غير مؤمنة على منصة فايربيس. ويمثل هذا الخطأ البدائي المعادل الرقمي لإغلاق الباب الأمامي مع ترك النافذة مفتوحة على مصراعيها، وهو خطأ رأيته يتكرر لدى مهندسين مبتدئين وتطبيقات مطورة بأسلوب الترميز القائم على الانطباع على حد سواء.

تكمن المشكلة في أن أنظمة الذكاء الاصطناعي والمهندسين كثيراً ما يغفلون عن ضبط الصلاحيات التفصيلية على نحو دقيق، ولا يمكن معالجة هذا القصور إلا بالاستعانة بمهندسين متمرسين سبق لهم بناء تطبيقات آمنة. ولا يصعب اكتشاف هذه الصلاحيات المضبوطة على نحو خاطئ، ومع ذلك فهي شائعة على نحو مؤسف؛ إذ اكتشفت بنفسي مساحة تخزين مفتوحة في أحد التطبيقات كانت تعرض وثائق حساسة مشابهة، وأبلغت المسؤول عنها. حتى لو افترضنا وجود وكيل ذكاء اصطناعي "آمن بنسبة 100%"، فلن يحافظ ذلك على أمان تطبيقك إذا ظلت بنيتك التحتية غير مؤمنة.

التعامل مع الذكاء الاصطناعي بوصفه خصماً محتملاً

بعد أن استعرضنا كيف يقع الذكاء الاصطناعي بسهولة في أخطاء تشبه أخطاء المهندسين المبتدئين، ننتقل في هذا القسم إلى بيان كيف يمكن أن يتجاوز الخطر حدود الإهمال ليأخذ طابعاً تصادمياً. فقد وثقت أبحاث حديثة أمثلة مقلقة على اختلال مواءمة الذكاء الاصطناعي، بما ينبغي أن يثير قلق أي مؤسسة تنشر وكلاء ذكاء اصطناعي. إذ حاكى أحد نماذج الذكاء الاصطناعي سلوك الابتزاز عبر التهديد بكشف بيانات سرية لتجنب تعطيله، كما لوحظ أن نماذج أخرى عمدت إلى تخريب نصوص إيقاف التشغيل كي تظل قيد العمل على الرغم من صدور تعليمات صريحة بإيقافها.

لا تقتصر هذه المخاوف على الإطار الأكاديمي؛ فمنذ زمن طويل، تعاملت نماذج الأمن السيبراني مع كمبيوتر المطور المحمول بوصفه "بيئة آمنة"؛ حيث تخزن مفاتيح إس إس آتش (SSH) بصيغة نصية صريحة، وتكتب بيانات اعتماد المشاريع داخل ملفات متغيرات البيئة. لكن مع دخول الذكاء الاصطناعي إلى المشهد، لم يعد هذا الافتراض صالحاً؛ إذ يمتلك الذكاء الاصطناعي حق الوصول إلى النظام، وترسل البيانات كلها التي يطلع عليها إلى خوادم الجهة المزودة للنموذج.

لا تفترض أن الذكاء الاصطناعي سيلتزم بالقواعد. فبعض وكلاء الترميز البرمجي يقيدون صراحة قراءة الملفات التي يرجح احتواؤها على أسرار، مثل ملفات متغيرات البيئة. ومع ذلك، رصدت بنفسي حالات التفاف على تدابير السلامة مكنت الذكاء الاصطناعي من قراءة ملف متغيرات بيئة غير مصرح بالوصول إليه. (وفي تلك الحالة تحديداً، كان الملف يضم إعدادات فقط دون أسرار). ومثلما جسد فيلم 2001: ملحمة الفضاء نموذج هال، أو مثلما هي الحال في حادثة لمكين المرتبطة بمنصة ساستر، فالذكاء الاصطناعي الذي يتلقى تعليمات متعارضة قد يقدم على سلوكيات غير متوائمة.

وعليه، يجب التعامل مع البيئات التي يعمل فيها الذكاء الاصطناعي على أنها بيئات تنطوي على عدائية محتملة. لحسن الحظ، يتوافر الحل بالفعل. فلطالما وفرت تقنيات مثل دوكر وتقنيات الافتراضية وسائل آمنة لاستضافة أعباء عمل قد تكون معادية على الخوادم السحابية. وتطبق أدوات، مثل حاويات التطوير وأداة بودمان وتطبيق أورب ستاك، هذه التقنيات نفسها على أجهزة المطورين. وقد بدأت أكتب البرمجيات داخل هذه البيئات المعزولة لحماية الملفات الحساسة على الكمبيوترات المحمولة من ذكاء اصطناعي مفرط الحماسة.

آفاق المرحلة المقبلة

ما زلنا في مستهل عصر العمل مع الذكاء الاصطناعي. وعلى الرغم من أن هذه التقنية باهرة، إذ تقدر أبحاث صادرة عن كلية سلون للإدارة التابعة لمعهد ماساتشوستس للتكنولوجيا مكاسب الإنتاجية المنسوبة إلى الذكاء الاصطناعي بما يتراوح بين 8% و39%، فلا يزال الحديث عن استبدال أقسام الهندسة سابقاً لأوانه. بل إن محللين وصفوا موجات تسريح الموظفين الأخيرة بأنها شكل من "تلميع الذكاء الاصطناعي"، حيث يعمد بعض الشركات إلى تصوير هذه التسريحات الناجمة عن مخاوف تقليدية مرتبطة بتباطؤ الاقتصاد بوصفها مكاسب إنتاجية، لا سيما حين يكون لدى هذه الجهات نماذج ذكاء اصطناعي تسعى إلى تسويقها.

لرفع معدلات الإنتاجية فعلاً، علينا التكيف مع نهج مختلف جذرياً في كتابة الرموز البرمجية. ومن المرجح أن يقوم المستقبل على تعاون بين المهندسين البشر وأدوات الذكاء الاصطناعي؛ إذ يوفر البشر الرؤية الهيكلية والاختبار الصارم وتأمين البنية التحتية، بينما يسرع الذكاء الاصطناعي مهام التنفيذ. والقادة الذين يدركون هذه الحقيقة ويستثمرون في عمليات هندسية منضبطة سيبنون أنظمة أكثر متانة وأمناً واستدامة ممن ينساقون خلف المبالغة في الدعاية ويخلطون بين سرعة توليد الرمز البرمجي والإنتاجية الحقيقية.