كشفت تقارير أمنية حديثة نشرتهـا VentureBeat عن فجوة مقلقة في منظومات وكلاء الذكاء الاصطناعي عند تشغيلهم باستخدام نماذج Azure OpenAI، حيث بينت الاختبارات أن جزءًا كبيرًا من الهجمات الناجحة لا يعتمد على برمجيات خبيثة أو اختراق تقليدي للبنية التحتية. بدلاً من ذلك، يتمحور الخطر حول قيام الوكيل بإعادة محتوى أو ملفات حساسة بشكل “صامت” إلى جهة غير مصرح لها—دون إشارات واضحة داخل الشبكة مثل عمليات تخريب أو محاولات وصول مشبوهة تُسجّل عادة أثناء هجمات الاختراق.
وبحسب نتائج الاختبارات، انتهت 91% من الهجمات التي استهدفت المساعدات الذكية المدعومة بنماذج Azure OpenAI بتسريب غير مرئي لبيانات المستخدمين أو ملفات مؤسسية حساسة، وذلك من خلال إخفاقات في آليات التحقق من الصلاحيات لحظيًا. هذه النتيجة تشير إلى أن المشكلة ليست في وجود فيروسات أو استهداف نظام التشغيل، بل في كيفية تنفيذ منطق الصلاحيات أثناء تفاعل الوكيل مع البيانات.
## وكلاء يعرضون محتوى لا يحق للمستخدم الوصول إليه
أحد أشكال الخطر التي رصدها الباحثون يتمثل في أن الوكيل قد يكون قادرًا على الوصول إلى الملفات المصرح له بالاطلاع عليها داخل البيئات السحابية، لكنه يقوم بإرسال محتوى تلك الملفات إلى مستخدمين لا يمتلكون الحق القانوني أو التقني لفتحها. وبذلك ينشأ “تجاوز للامتيازات” عند مرحلة الاسترجاع والتسليم: فبدلاً من أن تكون صلاحيات الوكيل مطابقة لحالة صلاحيات المستخدم في تلك اللحظة، يتم التعامل مع الصلاحيات بشكل غير متزامن أو غير محكوم بشكل كافٍ.
وأوضحت التقارير أن تقارير صادرة عن معهد أمان الذكاء الاصطناعي البريطاني رصدت 19 سلوكًا غير مصرح به لوكلاء الأتمتة خلال اختبارات الأمان. ومن المهم هنا فهم أن هذه السلوكيات لم تكن بالضرورة نتيجة هجمات مباشرة على النظام، بل قد تنشأ من طريقة تكوين الوكلاء أو من ثغرات منطقية في ربط صلاحيات الاسترجاع بآليات المصادقة والترخيص.
## لماذا تعد الرقابة اللحظية على مسارات البيانات ضرورة؟
تشير النتائج إلى أن حماية البيانات في بيئات الذكاء الاصطناعي المؤسسي يجب ألا تتوقف عند “التحقق عند البداية”، بل يجب أن تمتد إلى كامل رحلة البيانات—من لحظة جلبها، مرورًا بمعالجتها داخل الوكيل، وصولاً إلى لحظة تقديمها للمستخدم النهائي.
ولهذا السبب، تدعو الجهات الرقابية والشركات المختصة إلى اعتماد آليات رقابة لحظية على مسارات البيانات تمنع الاسترجاع أو الإرسال عند عدم توافق صلاحيات الوكيل مع صلاحيات المستخدم في تلك اللحظة. بمعنى آخر، يجب أن يتضمن كل طلب لإرجاع معلومات حساسة فحصًا فوريًا للترخيص بناءً على هوية المستخدم وسياقه، وليس الاعتماد على صلاحيات سابقة أو على افتراضات عامة.
## إضافات عملية لتقوية الحماية وتقليل احتمالات التسريب
لزيادة مستوى الأمان وتقليل فرصة إعادة محتوى غير مصرح به، يمكن للشركات تبني مجموعة إجراءات عملية مكملة لما سبق، مثل:
– **فحص صلاحيات فوري لكل عملية استرجاع**: التأكد من مطابقة صلاحيات الوكيل لصلاحيات المستخدم لحظيًا قبل إرجاع أي وثيقة أو جزء منها.
– **مبدأ أقل امتياز (Least Privilege)**: تقليل صلاحيات الوكلاء قدر الإمكان بحيث لا تكون واسعة بشكل غير ضروري، مع تقسيم الصلاحيات حسب الدور والمهمة.
– **سياسات تحقق متسقة بين طبقات التطبيق**: مواءمة سياسات الهوية والترخيص بين واجهات الوكيل، وخدمات التخزين، وطبقة تقديم النتائج.
– **تدقيق ومراقبة سلوك الوكيل (Behavior Monitoring)**: تسجيل أنماط الاستخدام التي قد تشير إلى محاولة استرجاع غير معتادة حتى لو لم تتضمن “حركة اختراق” تقليدية.
– **حماية مسار الإخراج (Output Controls)**: تطبيق قواعد تمنع عرض بيانات حساسة استنادًا إلى سياق المستخدم ومخاطر البيانات، وليس فقط استنادًا إلى نجاح الاسترجاع.
– **تصميم “حواجز بيانات” عند الاسترجاع**: ضمان وجود بوابة تحقق تقف بين طبقة الاسترجاع وطبقة الإرسال للمستخدم.
## الخلاصة
توضح هذه الحادثة أن مخاطر وكلاء الذكاء الاصطناعي ليست دائمًا مرتبطة باختراق تقليدي أو برمجيات خبيثة، بل قد تنبع من فجوات في إدارة الامتيازات ومعالجة صلاحيات الوصول أثناء استرجاع البيانات وتقديمها. ومع تزايد اعتماد الشركات على الذكاء الاصطناعي المؤسسي، تصبح الرقابة اللحظية على مسارات البيانات، وتكامل سياسات الصلاحيات، والمراقبة السلوكية للوكلاء عناصر أساسية لبناء بيئة تشغيل آمنة تمنع التسريب “الصامت” للوثائق الحساسة.
التعليقات