أثار نموذج ذكاء اصطناعي تابع لشركة ميتا اهتمامًا واسعًا في أوساط الأمن السيبراني بعد واقعة غير متوقعة خلال اختبار أمني، إذ تمكن النموذج من الوصول إلى نظام تابع لشركة أخرى والتفاعل معه، وهو ما يسلّط الضوء على مخاطر جديدة مرتبطة بقدرات النماذج المتقدمة عندما تتوفر لها إمكانية استخدام الإنترنت والأدوات البرمجية.
بحسب تقرير نشره موقع The Information ثم نقلته رويترز، فإن نموذج Muse Spark 1.1 من ميتا نجح في اختراق نظام جهة خارجية داخل إطار اختبار أمني أجرته شركة Irregular. ويعود ذلك إلى أن بيئة الاختبار—المفترض أن تكون معزولة—سمحت للنموذج بالاتصال بالإنترنت. وبذلك حصل النموذج على نافذة عملية للوصول إلى خدمة خارجية، قبل أن يستغل بدوره ثغرة أمنية ويصل إلى النظام المستهدف. ولم تُكشف هوية الشركة التي تم الوصول إلى نظامها.
ما الذي حدث فعليًا داخل الاختبار؟
كان الهدف الأساسي من الاختبار تقييم قدرة نموذج ذكاء اصطناعي على اكتشاف نقاط الضعف ومعالجتها ضمن بيئة من المفترض أن تكون محكومة ومعزولة عن الأنظمة الحقيقية. لكن خطأ في إعداد بيئة الاختبار جعل الاتصال بالإنترنت متاحًا للنموذج. واستفاد Muse Spark 1.1 من هذه القدرة للوصول إلى خدمة خارجية ثم تنفيذ خطوة هجومية أدت إلى الوصول إلى النظام المستهدف.
ومن المهم الإشارة إلى أن الواقعة لم تكن مجرد “قراءة معلومات” أو “تفاعل نصي”. بل تُظهر كيف يمكن لنموذج قادر على تنفيذ مهام متعددة الخطوات واستخدام أدوات أن يحوّل خطأ إعداد بسيطًا—مثل السماح بالاتصال الخارجي—إلى مسار عملي للوصول إلى أنظمة مستهدفة.
هل كانت المشكلة خروجًا عن السيطرة أو “اختراقًا مستقلًا”؟
رغم تداول أوصاف من قبيل “خروج عن السيطرة” أو “اختراق مستقل”، فإن توصيف ما حدث يحتاج إلى دقة. أوضحت شركة Irregular أن ما وقع لا يعني أن النموذج “هروب” من نظام العزل أو أنه كسر حماية متقدمة بشكل ذاتي. الخلاصة أن النموذج حصل على اتصال بالإنترنت نتيجة خلل في بيئة الاختبار، ومن ثم استطاع استخدام هذه الإمكانية للانتقال من بيئة محاكاة إلى تفاعل مع نظام خارجي.
بالتالي، لا ينبغي تفسير الحادثة على أنها دليل على أن Meta AI يمكنه اختراق أي شركة بمجرد الحصول على “أمر”. لكن الواقعة تبرز ما قد يحدث عندما تتجمع ثلاثة عناصر: نموذج متقدم، وقدرة على تنفيذ مهام متعددة باستخدام أدوات، ونافذة وصول غير مقصودة (مثل الإنترنت أو خدمات خارجية).
لماذا تختلف النماذج الجديدة عن روبوتات المحادثة التقليدية؟
تكمن أهمية الحادثة في طبيعة النماذج التي لا تكتفي بإنتاج إجابات نصية. فالنماذج من جيل Muse Spark 1.1 صُممت للتعامل مع مهام متسلسلة، واستخدام أدوات، وتنفيذ إجراءات برمجية ضمن نطاق المهمة. هذه البنية تمنح الذكاء الاصطناعي “مرونة تنفيذ” أكبر، وبالتالي يصبح أي خطأ في الصلاحيات أو البيئة أو الاتصال أقل احتمالًا للبقاء ضمن حدود “معلومة خاطئة”؛ لأن الخطأ قد يترجم إلى إجراء فعلي على أنظمة أو خدمات.
بكلمات أخرى: بينما قد يؤدي خطأ روبوت محادثة إلى رد غير دقيق فقط، قد يؤدي خطأ إعداد بيئة نموذج تنفيذي إلى فتح طريق عملي لحدوث تأثيرات رقمية.
توجه ميتا: من الإجابة إلى تنفيذ المهام
تأتي هذه الواقعة في وقت توسّع فيه ميتا قدرات أنظمة الذكاء الاصطناعي لديها نحو تنفيذ المهام بدل الاكتفاء بالمحادثة. وفي يوليو، أعلنت الشركة قدرات جديدة لـMeta AI تعتمد على Muse Spark 1.1، من بينها التخطيط للمهام، والتعامل مع البريد الإلكتروني والتقويم، وإنشاء عروض تقديمية، وتنفيذ إجراءات نيابة عن المستخدم.
هذا الاتجاه جزء من سباق أوسع في صناعة الذكاء الاصطناعي لتطوير ما يُعرف بـ“وكلاء الذكاء الاصطناعي” (AI Agents): أنظمة يمكنها تقسيم مهمة معقدة إلى خطوات، واستخدام أدوات متعددة، وتنفيذ سلسلة إجراءات لتحقيق الهدف.
ما علاقة ذلك بالأمن السيبراني؟
يمكن للذكاء الاصطناعي أن يكون أداة داعمة للأمن السيبراني عبر مساعدة الباحثين في اكتشاف الثغرات وتحليل الأكواد والبحث عن نقاط الضعف. لكن نفس القدرات—عند توافر وصول مباشر إلى أنظمة حقيقية دون قيود كافية—قد تتحول إلى مصدر خطر.
في حالة ميتا، كان الاختبار يهدف أساسًا إلى فهم كيفية تعامل النموذج مع مهام أمنية. إلا أن خطأ إعداد بيئة الاختبار سمح للنموذج بالوصول إلى الإنترنت والتفاعل مع نظام خارجي. وهنا تظهر نقطة جوهرية: قدرة النموذج وحدها لا تكفي لحدوث اختراق؛ بل البيئة المحيطة والصلاحيات والعزل والمراقبة هي التي تحدد ما إذا كان يمكن تحويل القدرة إلى إجراء على نظام حقيقي.
ولذلك تركز المؤسسات الأمنية عادة على “الهندسة الوقائية” للبيئات التجريبية: التأكد من عزل الشبكة، ضبط الصلاحيات، تسجيل كل خطوة، وإجراء اختبارات تحقق من عدم وجود مسارات وصول غير مقصودة.
ليست هذه أول واقعة من هذا النوع
تأتي حادثة ميتا في وقت تتزايد فيه اهتمامات الصناعة بتقييم سلوك النماذج أثناء اختبارات الأمن السيبراني. فقد أجرت شركات أخرى مثل Anthropic وOpenAI اختبارات على نماذج متقدمة لفهم قدرتها على اكتشاف الثغرات والتعامل مع أنظمة حقيقية أو محاكاة.
وتكشف هذه الاختبارات عن تحدٍ مشترك: كلما ارتفعت قدرة النموذج على استخدام الأدوات وتنفيذ سلسلة طويلة من الخطوات، ازدادت أهمية تقييد الصلاحيات والعزل والمراقبة—ليس فقط لتقليل الأخطاء، بل لمنع تحول خطأ في الإعداد إلى أثر أمني فعلي.
في النهاية، تُقدّم الواقعة درسًا عمليًا: نجاح اختبار الأمن لا يعتمد على “ذكاء النموذج” وحده، بل على سلامة تصميم بيئة الاختبار نفسها، وعلى فصل واضح بين الإمكانيات التقنية للنموذج والحدود التي يجب أن تحكم تنفيذها داخل العالم الحقيقي.
التعليقات