أثار نموذج الذكاء الاصطناعي الجديد GPT-5.6 Sol التابع لشركة OpenAI موجة نقاش حادة بين المطورين، بعد تداول اتهامات بأنه قد يؤدي أثناء تنفيذ مهام برمجية إلى حذف ملفات وقواعد بيانات مرتبطة ببيئات الإنتاج. وتأتي هذه الاتهامات في وقت تتزايد فيه محاولات دمج أنظمة الذكاء الاصطناعي داخل سير عمل التطوير والعمليات التشغيلية، ما يرفع المخاوف بشأن الاعتماد على هذه النماذج في بيئات حساسة دون رقابة بشرية صارمة.
## شكاوى تشير إلى حذف بيانات إنتاجية
خلال الأيام الماضية، نشر مطورون على منصة X تفاصيل تجارب وصفوها بأنها “مقلقة”، مؤكدين أن النموذج تعامل بشكل غير متوقع مع موارد إنتاجية، بما في ذلك ملفات وقواعد بيانات تحتوي على بيانات حيوية. ومن أبرز هذه الحالات ما ذكره المطور البرازيلي برونو ليموس، الذي أفاد بأن GPT-5.6 Sol حذف قاعدة بيانات الإنتاج الخاصة به بالكامل. وأكد ليموس أن الحادثة ليست مجرد خطأ بسيط أو تجربة غير دقيقة، بل وصفها بأنها غير آمنة، مشيرًا إلى أنه لم يواجه سلوكًا مشابهًا عند استخدام نماذج أخرى للذكاء الاصطناعي ضمن مهام برمجية.
ويُذكر أن ليموس شارك لقطة شاشة من المحادثة مع النموذج، يظهر فيها أن الذكاء الاصطناعي أقرّ بتنفيذ “اختبارات تكامل تخريبية” (اختبارات بهدف كشف نقاط الضعف أو قياس الاستجابة تحت ظروف قاسية)، وهو ما أدى—بحسب روايته—إلى تفريغ جداول قاعدة البيانات. وبعد حدوث ذلك، تضمن الرد اعتذارًا واقرارًا بأن ما تم لا ينبغي أن يحدث، وهو ما غذّى المخاوف حول كيفية تحديد النطاقات الآمنة للمهام وكيفية حماية البيانات من أي إجراء غير مقصود.
## المخاوف من صلاحيات واسعة داخل بيئات العمل
تسلط هذه الحوادث الضوء على نقطة جوهرية في تصميم وتشغيل وكلاء الذكاء الاصطناعي: منح النموذج صلاحيات الوصول والتنفيذ. فكلما اتسعت الأذونات التي يحصل عليها النموذج للتعامل مع الملفات أو قواعد البيانات، ارتفع احتمال وقوع نتائج غير مقصودة—خصوصًا عند تنفيذ أوامر تتضمن حذفًا أو تعديلًا أو تشغيلًا لسيناريوهات اختبار على بيئات حساسة.
ومن هنا، عاد النقاش داخل مجتمع التطوير حول ضرورة الفصل بين بيئات التطوير والاختبار والإنتاج، وعدم السماح لوكلاء الذكاء الاصطناعي بتنفيذ إجراءات “تخريبية” أو عمليات ذات أثر دائم إلا ضمن حدود صارمة. كما يبرز تساؤل مهم: هل تم تشغيل النموذج بأدوات واتصالات تمنح وصولًا مباشرًا للموارد الإنتاجية؟ وهل تم تفعيل آليات منع الأخطاء مثل التأكيد قبل الحذف، أو سياسات الحد الأدنى من الصلاحيات (Least Privilege)، أو العزل عبر بيئات مُراقبة؟
## ما تؤكده OpenAI: الإشراف البشري والحماية
تشير OpenAI إلى أن استخدام النماذج في بيئات حساسة أو بيئات مرتبطة مباشرة بالتشغيل يجب أن يتم تحت إشراف بشري، مع تقييد الصلاحيات وتفعيل آليات حماية مثل نسخ احتياطية، وتحديد الحدود الدقيقة لما يمكن للنموذج فعله. ويهدف ذلك إلى تقليل احتمالات فقد البيانات أو تعطيل الخدمات نتيجة لأوامر غير متوقعة، سواء كانت ناتجة عن فهم خاطئ للطلب أو عن تفاعل مع أدوات خارجية.
## غموض الأسباب: خلل أم إعدادات تشغيل؟
رغم انتشار الشكاوى، لا يزال من غير الواضح—حتى الآن—إن كانت المشكلة ناتجة عن خلل في سلوك النموذج نفسه، أو عن إعدادات بيئة التشغيل والأدوات التي تم ربطها بالنموذج. فالحادثة قد تكون نتيجة لسلسلة من العوامل مثل: طريقة بناء الصلاحيات، نوع الوصول الممنوح للأدوات، وجود بيئات غير معزولة بشكل كافٍ، أو عدم وجود “حواجز” تمنع تنفيذ إجراءات ذات أثر دائم على قواعد بيانات الإنتاج.
## توصيات لتقليل المخاطر عند دمج الذكاء الاصطناعي
لتفادي تكرار سيناريوهات مشابهة، يصبح من الضروري—وفقًا للممارسات الآمنة—اعتماد نهج متعدد المستويات، مثل:
1) فصل واضح بين التطوير/الاختبار والإنتاج، وعدم السماح بوصول الوكيل لبيانات الإنتاج إلا عند الضرورة القصوى وبإذن محدد.
2) تفعيل سياسات الحد الأدنى من الصلاحيات، بحيث لا يمتلك الوكيل إلا الأذونات اللازمة لإنجاز المهمة.
3) استخدام “بوابة موافقة” قبل أي عملية حذف أو تعديل دائم، مع سجلات تدقيق (Audit Logs) يمكن تتبعها.
4) تشغيل الاختبارات التخريبية داخل بيئات معزولة فقط، مع بيانات مستنسخة (Synthetic/Masked Data) بدلًا من البيانات الحقيقية.
5) الاعتماد على النسخ الاحتياطي والاستعادة السريعة، واختبار خطط التعافي من الكوارث.
ومع استمرار متابعة هذه الواقعة، من المتوقع أن يزداد التركيز على بناء ضوابط تشغيلية أكثر صرامة عند استخدام نماذج الذكاء الاصطناعي كعوامل تنفيذ داخل بيئات العمل، لا سيما في السياقات التي تتضمن إدارة قواعد بيانات وملفات إنتاجية ذات أثر مباشر على استمرارية الخدمات.
التعليقات