دعا كليمان ديلانغ، الرئيس التنفيذي لشركة Hugging Face، إلى تبنّي قواعد تلزم شركات الذكاء الاصطناعي بالكشف الإجباري عن الحوادث الأمنية التي قد تنشأ بسبب نماذجها أو وكلائها داخل البيئات التجريبية أو عند تشغيلها الفعلي. وتأتي هذه الدعوة في ظل تزايد القلق من تكرار حوادث تُظهر أن وكلاء الذكاء الاصطناعي قد يتمكّنون من تجاوز القيود المفروضة عليهم والوصول إلى أنظمة خارج نطاق “الصندوق المعزول” (Sandbox) أثناء الاختبارات.
ويرى ديلانغ أن الاعتماد على “منع” إطلاق النماذج القوية وحده لا يكفي لمنع تكرار المشكلات، لأن الأخطاء والاختراقات قد تظهر حتى مع القيود التقنية والضوابط الداخلية. بدلاً من ذلك، يقترح أن يكون الإفصاح جزءًا من منظومة السلامة نفسها: أي إلزام الشركات بتوثيق ما حدث، والإفصاح عن تفاصيل كافية تساعد الباحثين والجهات التنظيمية على فهم طبيعة الخلل وتقييم المخاطر.
## Hugging Face تطالب بالإفصاح الإجباري عن الهجمات والحوادث
وبحسب ما نُقل عن ديلانغ في تقارير صحفية، فإن الهدف من الإطار التنظيمي المقترح هو جعل الحوادث الأمنية مرتبطة بأنظمة الذكاء الاصطناعي قابلة للمراجعة العامة أو شبه العامة وفق ضوابط محددة. فبدلاً من حصر المعلومات داخل الشركة إلى حين يصبح الضرر كبيرًا، ينبغي أن تُتاح للمختصين صورة أوضح عن نوع الهجمات التي وقعت، وكيف تم تجاوز القيود، وما أثر ذلك على المكوّنات أو الأنظمة المجاورة.
ويُعد هذا التوجه مهمًا لأن جانبًا من المخاطر لا يرتبط فقط بقدرات النموذج في ذاته، بل كذلك بطريقة تصميم “الوكيل” (Agent) للتفاعل مع الأدوات والواجهات والأنظمة المحيطة—مثل قدرته على استغلال ثغرات داخل بيئة الاختبار أو محاولة الوصول لمصادر غير مصرح بها.
## الشفافية تصبح جزءًا من السلامة في قطاع الذكاء الاصطناعي
يشير منطق الإفصاح الإجباري إلى أن السلامة ليست مجرد إجراءات منع مسبقة، بل منظومة تستند إلى التعلم المستمر من الوقائع. وعند تطبيق هذا النهج، قد تُصبح الشركات مطالبة بالإجابة عن أسئلة محددة بعد وقوع أي حادث، مثل:
– ما الذي حدث بالتحديد؟
– كيف تم تجاوز الحدود أو القيود التي فُرضت على النموذج أو الوكيل؟
– ما الأنظمة أو البيانات التي تأثرت (إن وُجدت)؟
– ما الإجراءات التي تم اتخاذها لاحتواء الحادث؟
– ما التعديلات التي ستُطبق لمنع تكرار المشكلة؟
إن مشاركة مثل هذه المعلومات يمكن أن تساعد شركات أخرى على اكتشاف نقاط ضعف مشابهة قبل أن تستغلها أطراف ضارة. كما قد يدفع الإفصاح إلى تحسين معايير الاختبار الداخلي والخارجي، لأن الشركات ستحتاج إلى بناء سجل حوادث واضح وقابل للتدقيق.
## توسيع الدروس المستفادة من الأمن السيبراني إلى نماذج الذكاء الاصطناعي
يشبه هذا الاتجاه في جوهره ما حدث تاريخيًا في صناعة الأمن السيبراني، حيث تطور مفهوم الإفصاح عن الثغرات والحوادث ليصبح جزءًا من آليات تقليل الضرر وزيادة الاستجابة السريعة. فعندما تُبلّغ الجهات المعنية بالخلل بطريقة منضبطة، يصبح من الأسهل على المجتمع التقني تطوير حلول ومعالجات، وتسريع إصدار تصحيحات أو ترقيات.
وإذا تحوّل الإفصاح إلى قاعدة تنظيمية رسمية، فقد يتحول “سجل الإبلاغ” عن مشكلات نماذج الذكاء الاصطناعي إلى مؤشر ملموس على مستوى الالتزام بالسلامة والجدارة بالثقة. من شأن ذلك أيضًا أن يخلق حافزًا للشركات لتقليل أخطار تكرار الحوادث عبر تحسين حوكمة التجارب، وتدعيم الضوابط التشغيلية، وتوسيع اختبارات الاعتماد على مبدأ الحد الأدنى من الصلاحيات.
## ما الذي يمكن أن تعنيه هذه الدعوة عمليًا؟
لتطبيق سياسة إفصاح إلزامي بشكل فعال، غالبًا ما تحتاج الجهات التنظيمية إلى تحديد نطاق واضح للتبليغ—مثل نوع الحوادث المشمولة، ومدى التأخير المقبول قبل الإبلاغ، ومتى يلزم إشعار جهات خارجية، وكيف تُدار التفاصيل الحساسة لحماية الخصوصية والأسرار التجارية دون تعطيل فائدة المعلومات للأمن.
كما يُتوقع أن يدفع هذا إلى تطوير قوالب موحدة للتقارير الأمنية، ومعايير لقياس شدة الحوادث وتأثيرها، وممارسات لتقييم المخاطر المرتبطة بوكلاء الذكاء الاصطناعي عند تشغيلهم في بيئات أكثر ارتباطًا بالعالم الحقيقي.
في النهاية، تقترح دعوة Hugging Face إعادة تعريف السلامة في الذكاء الاصطناعي بحيث لا تقتصر على منع الإطلاق أو سد الثغرات فقط، بل تشمل أيضًا الشفافية المنضبطة عندما تقع الأخطاء. وبهذا تصبح الحوادث مصدرًا للمعرفة وتحسين الدفاعات، بدلًا من أن تبقى داخل الشركات حتى تفاقم آثارها.
التعليقات