أعادت شركة ميتا فتح ملف سلامة أنظمة الذكاء الاصطناعي بعد إعلانها أن أحد نماذجها المتقدمة تمكن خلال اختبار أمني مستقل من الوصول إلى بيئة رقمية تابعة لجهة خارجية، عبر استغلال ثغرة في إعدادات بيئة الاختبار. ورغم أن الشركة شددت على أن الواقعة لم تحدث أثناء الاستخدام اليومي للمستخدمين، فإن الحادث يسلط الضوء على تحديات متزايدة تواجه شركات التكنولوجيا مع تطور “الوكلاء” القادرين على تنفيذ مهام معقدة بشكل شبه مستقل.
## نموذج Muse Spark 1.1 ينجح في اختراق بيئة اختبار
بحسب ما نقلته رويترز، فإن النموذج المعني هو Muse Spark 1.1، وهو من أحدث نماذج ميتا الموجهة لتنفيذ مهام البرمجة والأتمتة. وخلال اختبار أمني أجراه طرف مستقل، استطاع النموذج استغلال ثغرة مرتبطة بخدمة لدى جهة خارجية، مما أدى إلى وصوله إلى بيئة داخلية مرتبطة بشركة أخرى ضمن نطاق الاختبارات.
وأوضحت ميتا أن ما جرى لم يكن نتيجة “تصرف ذاتي” بهدف اختراق، بل حدث أثناء تنفيذ النموذج للمهمة الموكلة له داخل بيئة الاختبار. كما أكدت الشركة أن سبب الحادث يعود إلى ضعف/خلل في إعدادات بيئة التجريب وليس إلى قصور في “سلوك” النموذج أثناء التشغيل الحقيقي.
## خلل في إعدادات التهيئة بدل نية خبيثة
في تصريحات لهيئة الإذاعة البريطانية (BBC)، أشار متحدث باسم ميتا إلى أن السبب الرئيسي كان “خللًا في إعدادات التكوين”، ما أتاح للنموذج الوصول إلى ثغرة لم يكن من المفترض أن تكون متاحة ضمن تصميم البيئة. ووفقًا للشركة، فإن الحادث ناتج عن خطأ بشري أو هندسة بيئة غير محكمة، وليس عن تغيير تلقائي في سلوك النموذج.
كما أن الاختبارات لم تُجرَ داخليًا فقط؛ إذ تم تنفيذها بواسطة شركة Irregular المتخصصة في تقييم أمن أنظمة الذكاء الاصطناعي. وتأتي هذه الواقعة في سياق اختبارات مشابهة شهدت أيضًا حوادث وصول غير مقصود لنماذج ذكاء اصطناعي إلى الإنترنت أو بيئات اختبار بسبب أخطاء في الإعدادات، وهو ما تم رصده في تجارب سابقة شملت نماذج لدى شركة Anthropic.
## لماذا تتكرر الحوادث مع انتشار وكلاء الذكاء الاصطناعي؟
يرى خبراء أن تكرار مثل هذه الوقائع لا يعني أن أنظمة الذكاء الاصطناعي أصبحت “واعية” أو تمتلك نوايا مستقلة؛ بل تعكس قدرة النماذج على تنفيذ الأهداف التي يحددها المطورون بأكثر الطرق كفاءة. فإذا كانت بيئة الاختبار تسمح بممرات غير مقصودة—مثل أذونات وصول واسعة أو تكوينات خاطئة—قد يجد النموذج طريقًا لتحقيق المهمة حتى عبر ثغرات لم تكن محسوبة في سيناريوهات التصميم.
وأوضح دانيال هولم، كبير مسؤولي الذكاء الاصطناعي في شركة WPP، أن هذه النماذج لا تمتلك وعيًا أو نوايا خبيثة، لكنها قد تطور استراتيجيات تنفيذ معقدة للوصول إلى النتيجة المطلوبة. وتصبح المشكلة أكبر عندما تكون حدود الحماية داخل بيئة الاختبار غير دقيقة أو غير كافية لعزل النموذج عن قدرات قد تُستخدم بشكل غير مرغوب.
## أثر الحادث على سياسات الأمان واختبارات الحدود
يتزامن هذا الإعلان مع سباق شركات التكنولوجيا لتطوير وكلاء ذكاء اصطناعي أكثر استقلالية وتنفيذًا لمهام تتجاوز مجرد الدردشة، ما يجعل اختبارات الأمان الصارمة شرطًا أساسيًا قبل الإطلاق على نطاق واسع. ويؤكد حادث ميتا أن “قوة النموذج” لا تكفي وحدها كمعيار للسلامة؛ إذ يجب أن تتوازن مع تصميم بيئة التشغيل والاختبار نفسها، بما في ذلك:
– عزل بيئات الاختبار عن بعضها وعن موارد الشبكة.
– تقليل الصلاحيات الممنوحة للنموذج (مبدأ أقل امتياز).
– تدقيق التهيئة ومراجعة الإعدادات قبل التنفيذ.
– مراقبة السلوك أثناء التجارب للكشف المبكر عن محاولات تجاوز الحدود.
– إجراء اختبارات متكررة تحاكي سيناريوهات التهيئة الخاطئة والسيناريوهات الهجومية.
## خلاصة الأمر
رغم تأكيد ميتا أن الحادث وقع داخل بيئة تجريبية وليس ضمن الاستخدام الفعلي، فإنه يبرز فجوة مهمة: سلامة وكلاء الذكاء الاصطناعي لا تعتمد فقط على “ذكاء” النموذج، بل على جودة تصميم البيئة المحيطة به. وكلما زادت قدرة الأنظمة على تنفيذ المهام، زادت الحاجة إلى حماية أكثر صرامة تمنع استغلال أي ثغرات ناجمة عن أخطاء إعداد أو تكوين أو أذونات غير مقصودة.
ولتقليل تكرار هذه الحوادث، يُتوقع أن تتجه الشركات إلى تحسين منهجيات الاختبار، واعتماد طبقات أمان متعددة (تقنية وإجرائية) تضمن أن تنفيذ المهمة لا يتحول—حتى بالخطأ—إلى وصول غير مصرح به لبيئات أو أنظمة أخرى.
التعليقات