كشفت تقارير أمنية حديثة متخصصة بمكافحة الجرائم السيبرانية عن أسلوب هجومي جديد وخطير اعتمد على استغلال “القيود الأخلاقية” المدمجة في نماذج الذكاء الاصطناعي التوليدية، وذلك بهدف تعطيل أدوات الفحص الأمني بدلًا من اختراقها تقنيًا مباشرة. ووفقًا للمعطيات المتداولة، قامت مجموعات قرصنة متقدمة بنسج عبارات ونصوص حساسة مرتبطة بالأسلحة النووية والمواد المحظورة داخل أكواد برمجية ضمن برمجيات خبيثة، بحيث تُربك أنظمة الذكاء الاصطناعي المصممة لمنع المحتوى غير المسموح، فتتوقف عن تحليل الشيفرات أو ترفض معالجة الملفات بدعوى انتهاك سياسات المحتوى.
توضّح التفاصيل أن الهجوم لا يستهدف “الحماية الكلاسيكية” فقط مثل الجدران النارية أو التوقيعات، بل يستهدف مسار اتخاذ القرار داخل منظومات تحليل الملفات التي تعتمد على نماذج لغوية/توليدية لتفسير المخرجات أو تلخيص المخاطر أو التوصية بإجراءات الحماية. فبدل أن يحاول المهاجم إخفاء البرمجية الخبيثة عبر التشفير أو التمويه المعتاد، قام بتصميم النصوص المرفقة بحيث تُفعّل فلاتر السلامة داخل النموذج، ما يؤدي إلى تعطيل سير العمل الأمني وإطالة زمن الاستجابة أو منع إصدار تنبيه نهائي.
## استغلال “جدار الحماية الأخلاقي” كطريقة للهروب من الفحص
يرتبط جوهر التكتيك بإقحام كلمات مفتاحية أو عبارات حساسة تُصنّف عادةً ضمن فئات تهديد للأمن القومي أو مواد محظورة. وعندما تُواجه نماذج الذكاء الاصطناعي هذه الكلمات ضمن سياق تحليل الملف، قد ترفض المعالجة أو توقف التحليل فجأة. وبذلك يتحول نظام الدفاع إلى نقطة ضعف تشغيلية: فبدلًا من مواصلة التحليل الجنائي للملف وتوليد تقرير مخاطره، ينقطع النظام لأن “المحتوى” يبدو غير مسموح وفق قواعد السلامة.
يشير خبراء الأمن إلى أن هذا النوع من الأعطال يكشف عن ثغرة هيكلية في تصميم بعض منظومات “جدران الحماية الأخلاقية” عندما تُستخدم هذه القيود داخل مهام تحليل جنائي أو كشف تهديدات. فالنموذج قد يعتبر وجود كلمات معينة في النص سببًا كافيًا لرفض المهمة، دون التمييز بين: (1) وجود المحتوى الحساس ضمن ملف خبيث بهدف الإضرار، و(2) طلب المحتوى الحساس لأغراض غير دفاعية.
وبحسب السيناريو المذكور في التقارير، فإن النتيجة العملية قد تكون تمكين البرمجيات الخبيثة من التسلل إلى الخوادم والشبكات المستهدفة دون إطلاق إنذارات واضحة، لأن أداة الفحص المعتمدة على الذكاء الاصطناعي لم تُكمل تقييم الملف.
## إعادة هندسة مسار الفحص: فصل سياقات الاستخدام وتقسيم الصلاحيات
للتخفيف من هذا النوع من الهجمات، تتجه توصيات الأوساط السيبرانية نحو فصل سياق “الفحص الأمني/التحليل الجنائي” عن سياق “المحادثة العامة” أو “الاستخدام المسموح للجمهور”. أي أن يُعامل تحليل الملفات الضارة كعملية دفاعية لها منهجية مختلفة، مع السماح للنظام بإتمام التقييم الفني مع توليد مخرجات آمنة (مثل تصنيف المخاطر، الإشارة لوجود تهديدات مشتبه بها، أو اقتراح إجراءات احتواء) دون الحاجة إلى معالجة المحتوى الحساس بشكل مباشر.
ومن الإجراءات المقترحة كذلك:
– **تقسيم الأدوار داخل المنظومة**: استخدام نماذج أو عُقد مخصصة للـSecurity Analysis لا تخضع لنفس قيود “المحتوى” الخاصة بالاستخدام العام.
– **تطبيق سياسات متعددة الطبقات**: بدلًا من أن تقرر فلاتر المحتوى وحدها مصير عملية التحليل، تُستخدم طبقات إضافية (تحليل سلوك، فحص توقيعات، تحقق بيئي، وتحليل بنيوي للشيفرة).
– **استخدام مخرجات بديلة آمنة**: عند ظهور محتوى حساس، لا يجب أن يتوقف النظام تمامًا؛ بل يقدم تلخيصًا مخاطريًا عامًا أو مؤشرات استدلالية دون إعادة إنتاج المحتوى الحساس.
– **اختبارات اختراق موجهة لنماذج السلامة**: تدريب فرق الدفاع على سيناريوهات “الهروب عبر سياسات المحتوى” لضمان عدم توقف النظام في حالات التلاعب بالنصوص.
– **مراجعة هندسة الاستجابة للرفض**: ضمان أن “رفض النموذج” لا يساوي “تعطيل أداة الأمن”، وأن توجد مسارات بديلة لإكمال الفحص.
## ما الذي تعنيه هذه الحادثة للشركات والقطاع الأمني؟
تدل هذه الواقعة على أن الاعتماد المتزايد على نماذج الذكاء الاصطناعي في أدوات الدفاع قد يخلق نوعًا جديدًا من السطح الهجومي: ليس سطحًا تقنيًا بحتًا داخل البرمجيات الخبيثة، بل سطحًا يتعلق بطريقة تعامل النموذج مع النصوص عند تشغيله ضمن سياق أمني. لذلك، يُنصح للشركات المطورة والمنفذة لمنصات الأمن السيبراني أن تدمج الذكاء الاصطناعي ضمن منظومات لا تعتمد على “الرفض” كآلية تلقائية لإنهاء المهمة، بل كإشارة لاتباع إجراءات تحليل آمنة بديلة.
في النهاية، الهدف ليس إزالة قيود السلامة، بل جعلها أكثر ذكاءً وتكيّفًا مع مهام التحليل الجنائي: بحيث تُسهم في منع إساءة الاستخدام، دون أن تُمنح للمهاجمين أداة لتعطيل الدفاع عبر إدخال عبارات مصممة لاستفزاز الفلاتر. ومع التحسينات الهندسية المقترحة، يمكن تقليل فرص نجاح الهجمات التي تستغل قيود السياسة لتجاوز الكشف أو إخفاء البرمجيات الخبيثة خلف “رفض محتوى” ظاهري.
التعليقات