كشفت دراسة أجراها باحثون في جامعة لانكستر بالمملكة المتحدة عن مجموعة من الثغرات الأمنية الأكثر خطورة التي قد تؤثر في موثوقية أنظمة الذكاء الاصطناعي. وذكرت الدراسة، الصادرة ضمن سياق تقرير نشر على الموقع الإلكتروني للحكومة البريطانية، أن الباحثين قاموا بتحليل آلاف الدراسات ذات الصلة لتحديد نقاط ضعف تتكرر في ممارسات تطوير واستخدام الشبكات العصبية الحديثة.
واستندت الدراسة إلى تكليف من داونينج ستريت، حيث أجرى فريق بحثي مراجعة ممنهجة للممارسات العالمية المتعلقة بضمان أمن الشبكات العصبية، واعتمدت المراجعة على مراجعة أكثر من 9000 منشور علمي نُشر منذ عام 2020. وتهدف هذه النتائج إلى دعم صانعي القرار والجهات التقنية بوضع أولويات عملية لتعزيز الحماية وتقليل المخاطر في بيئات الذكاء الاصطناعي المتنامية.
# 5 مجالات تحتاج إلى دعم عاجل
حدد التقرير خمس مجالات رئيسية يرى الباحثون أنها بحاجة إلى تمويل إضافي واهتمام حكومي أكبر. وفي مقدمة هذه الأولويات ضمان سلامة البيانات المستخدمة في تدريب خوارزميات الذكاء الاصطناعي. فغالبًا ما تعتمد النماذج على مجموعات بيانات ضخمة، وأي تلاعب أو إدخال بيانات مضللة يمكن أن ينعكس على أداء النموذج وقدرته على الاستجابة بشكل آمن.
كما شددت الدراسة على المخاطر المرتبطة بما يُعرف بأوهام الشبكات العصبية، حيث قد ينتج النموذج مخرجات تبدو منطقية لكنها غير صحيحة أو مضللة، وهو ما قد يستغله المهاجمون أو يؤدي إلى قرارات خاطئة عند الاعتماد على نتائج النموذج دون تحقق. وتناول التقرير كذلك مسألة المخاطر الناتجة عن ثقة المستخدمين المفرطة في مخرجات الذكاء الاصطناعي، خصوصًا في سياقات حساسة مثل الدعم المؤسسي، والتحليلات، والخدمات التي تتطلب دقة عالية.
ومن النقاط الأخرى التي ركز عليها التقرير أهمية مراقبة نماذج الطرف الثالث المتداولة في السوق. فوجود نماذج أو مكونات جاهزة قد لا تكون شفافة تمامًا من حيث بيانات التدريب أو طريقة الضبط أو سياسات الأمان، قد يفتح الباب أمام إدخال ثغرات غير متوقعة. لذلك دعا التقرير إلى فهم نقاط الضعف الخفية في هذه النماذج، بما يشمل تقييمات مستقلة وعمليات تدقيق قبل دمجها في الأنظمة.
# دعوات لبروتوكولات أكثر صرامة
وبالتوازي مع تحديد مجالات الخطر، دعا العلماء إلى اتخاذ إجراءات أكثر صرامة، من بينها وضع بروتوكولات عاجلة لإيقاف تشغيل أنظمة الذكاء الاصطناعي بطريقة آمنة عند الحاجة. ويشمل ذلك تحديد معايير متى يجب تعليق النموذج أو استبداله، وكيفية تقليل احتمالات إساءة الاستخدام، بالإضافة إلى وضع خطط للتخلص من الأصول التقنية المرتبطة بالنظام بطريقة سليمة بيئيًا عند انتهاء دورة حياته.
كما أشار التقرير إلى أن تطور قدرات الذكاء الاصطناعي قد يتضمن مخاطر إضافية؛ إذ ذكرت تقارير صحفية سابقة أن باحثين تمكنوا من تعليم نماذج الذكاء الاصطناعي كيفية إنشاء لغات جديدة. ورغم أن هذا التطور قد يكون له تطبيقات بحثية، فإنه يبرز الحاجة لسياسات أمنية تحد من الاستخدامات الضارة وتدعم تطوير آليات حوكمة فعّالة.
# ما الذي يعنيه ذلك عمليًا؟
يمثل هذا التقرير دعوة واضحة نحو الانتقال من معالجة المشكلات بعد وقوعها إلى بناء منظومة أمنية استباقية داخل دورة حياة أنظمة الذكاء الاصطناعي: من مرحلة جمع البيانات وتدريب النموذج، إلى مرحلة الاختبار والتحقق والمراقبة المستمرة، وصولًا إلى الإيقاف الآمن والتخلص المسؤول. كما يؤكد على ضرورة الجمع بين البحث العلمي والتشريعات وإجراءات التدقيق كي تصبح تقنيات الذكاء الاصطناعي أكثر أمانًا وقابلية للتحكم في مواجهة المخاطر المتزايدة.
التعليقات