هل ما تكتبه للذكاء الاصطناعي قد يتحول لبيانات مسربة؟ خبير أمن معلومات يشرح مخاطر “الحفظ المرن” والتدريب المخصص

يرى المهندس عمرو صبحي، خبير أمن المعلومات والتحول الرقمي، أن موجة التبني السريع لتقنيات الذكاء الاصطناعي التوليدي حوّلت هذه النماذج من مجرد أدوات مساعدة إلى أنظمة قد تُفضي—حتى دون قصد—إلى تسريب معلومات حساسة. ومع اتساع استخدام النماذج في بيئات الشركات والبنوك، يصبح السؤال ملحًا: كيف يمكن أن تتحول “المحادثة” إلى مسار غير مباشر لفض أسرار، وما الذي ينبغي فعله لحماية البيانات؟

“العشوائية” لا تعني الأمان: ظاهرة “الحفظ المرن”
يؤكد صبحي أن بعض الشركات الكبيرة لجأت إلى سد ثغرة تسريب البيانات عبر برمجة النماذج لتوليد إجابات تبدو أقل تشابهًا مع النصوص الأصلية، بحيث لا تنسخ المعلومة حرفيًا. ورغم أن هذه المقاربة تبدو منطقية ظاهريًا، تكشف الأبحاث عن ظاهرة أكثر تعقيدًا تُعرف بـ”الحفظ المرن” (Flexible Memorization). وفقًا لهذه الظاهرة، قد لا يكتفي النموذج بإعادة النصوص، بل يفهم “سِرًا” سبق أن تسرّب إلى بياناته أو تعرّض له أثناء التدريب، ثم يعيد صياغته بعبارات جديدة وبشكل يوحي بالابتكار، مما يضعف قيمة “الإخفاء بالصياغة”.

ومن هنا تبرز المخاوف: هل يمكن أن يعمل النموذج كأداة تتلصص على ما نشاركه، ثم تُعيده لاحقًا بصياغة مختلفة دون أن تترك أثرًا مباشرًا يمكن تتبعه بسهولة؟ والأخطر—كما يشير الخبير—أن كثيرًا من المستخدمين يضعون أسرارهم داخل “الصندوق الذكي” بمحض الرغبة، دون إدراك كامل لآثار ذلك على مستوى الخصوصية.

مفارقة النماذج المخصصة: كلما زادت الخصوصية زاد الخطر
يتناول صبحي أيضًا جانبًا واسع الانتشار في المؤسسات: تدريب نماذج ذكاء اصطناعي “مخصصة” اعتمادًا على بيانات داخلية وتفاصيل عملاء وخطط عمل. وعلى الرغم من أن الهدف المعلن هو تحسين الدقة والاستجابة للمهام، فإن الاختبارات—بحسب ما يشير إليه—أثبتت أن هذه النماذج تحديدًا قد تكون أكثر عرضة لتسريب البيانات الشخصية مقارنة بالنماذج العامة، وبنسبة تصل إلى خمسة أضعاف.

ويرجع ذلك إلى ظاهرة “التجهيز الزائد” (Overfitting)، حيث يصبح النموذج شديد الحساسية للبيانات التي تم تدريبه عليها، فينخفض قدرته على “التعميم” وتزداد مخاطره عند مواجهته لمدخلات معينة أو محاولات استخراج معلومات. عمليًا، قد يتحول النموذج إلى أداة استرجاع دقيقة لأجزاء مما تعرّض له، بدلًا من توليد محتوى عام فقط.

ولذلك، يوصي صبحي الشركات بتقليل الاعتماد على التدريب المباشر على البيانات الحساسة، بدلًا من ذلك يمكن تبني تقنيات مثل “التوليد المعزز بالاسترجاع” (RAG)، حيث يتم الاستناد إلى مصادر محددة عند الحاجة مع التحكم في ما يُسمح للنموذج بالوصول إليه، بدلًا من “حفظ” المعلومات داخل النموذج نفسه.

جدران الحماية ما تزال بدائية أمام سرعة تطور النماذج
يشير صبحي إلى أن المراجعات الأكاديمية الشاملة لأمن الذكاء الاصطناعي—وفقًا لتحليلات جهات دولية مثل الاتحاد الأوروبي ووكالة الأمن السيبراني الأوروبية (ENISA)—تؤكد أن جدران الحماية الحالية ما تزال بدائية ولا تواكب سرعة تطور النماذج التوليدية. كثير من هذه الأنظمة صُمم للبحث عن أنماط معروفة (مثل رقم البطاقة أو كلمات مفتاحية محددة)، لكنه لا يمتلك دائمًا فهمًا كافيًا للسياق الدلالي الذي قد يُستخدم لتسريب سر تجاري أو بيانات داخلية بصياغة أدبية، أو عبر تلميحات تبدو غير مباشرة، أو حتى عبر “ترميز” يجعل الرسالة مخفية ضمن نص طبيعي.

بكلمات أخرى: قد تفشل أدوات المنع التقليدية عندما يتغير شكل المعلومات المسربة، حتى لو بقيت “المعلومة الجوهرية” موجودة.

“الخط الأحمر” لكل مستخدم وموظف: افترض أن ما تكتبه سيُقرأ غدًا
وبالنسبة للمستخدمين والموظفين، يقدم صبحي قاعدة بسيطة لكنها حاسمة: لا تتجاوز “الخط الأحمر” عند كتابة أي نص داخل منصات الذكاء الاصطناعي. الفكرة الأساسية هي افتراض أن ما يتم إدخاله في خانة الدردشة قد يُقرأ من آخرين في أي وقت مستقبلًا. وبناءً على ذلك، لا ينبغي إدخال:
– أي بيانات تعريفية شخصية أو معلومات عن العملاء.
– أي أكواد برمجية أو مفاتيح وصول أو معلومات اعتماد (Credentials).
– أي استراتيجيات عمل داخلية أو خطط تسعير أو تفاصيل تشغيل حساسة.

ويؤكد صبحي أن الخصوصية لا تبدأ عند إعدادات الحماية فحسب، بل تبدأ من الوعي: كيف وماذا نكتب، وما الذي نقرر عدم مشاركته حتى لو طلب النموذج ذلك.

ماذا يعني ذلك عمليًا لحماية الشركات؟
لتعزيز الأمان وتقليل فرص التسريب، يمكن للمؤسسات تبني مجموعة إجراءات عملية، منها:
– اعتماد سياسات داخلية واضحة لتحديد “الممنوع مشاركته” في منصات الذكاء الاصطناعي.
– استخدام حلول مثل RAG بدلًا من تدريب النماذج على بيانات حساسة مباشرة.
– تطبيق تقييم دوري لمخاطر التسريب (Red Teaming) ومحاولات استخراج المعلومات.
– تدريب الموظفين على مخاطر إدخال البيانات، وعلى الفرق بين طلب “معلومة عامة” وطلب “تفاصيل داخلية”.

في النهاية، يختصر صبحي التحذير في رسالة واحدة: الذكاء الاصطناعي قد يبدو صندوقًا سحريًا للإنتاجية، لكن سلوك النماذج—وخاصة مع التدريب المخصص والتوليد المعاد تشكيله—قد يجعل بعض الأسرار قابلة للتسريب بصيغ غير متوقعة. الأمان هنا ليس مجرد تقنية؛ بل ثقافة إدخال صحيحة للبيانات وقرارات واعية من البداية.