أعلنت شركة OpenAI أنها قررت تشديد إجراءات الأمان المتعلقة بنموذج الذكاء الاصطناعي المرتقب Astra، مع إيقاف بعض الأنشطة الداخلية المرتبطة به مؤقتًا. وجاء هذا القرار بعد أن أظهرت الاختبارات الداخلية للنموذج قدرات متقدمة، خصوصًا في مجال البرمجة التي تعتمد على الوكلاء (Agentic Programming) وفي مهارات الأمن السيبراني.
وبحسب ما ذكرته OpenAI، فإن تقييمات Astra داخل الشركة كشفت «تقدمًا كبيرًا» في دمج البرمجة القائمة على الوكلاء مع قدرات تتعلق بالأمن السيبراني. وتقول الشركة إن هذه النتائج دفعتها إلى عدم استبعاد أن يصل Astra إلى مستوى من القدرات قد تُصنَّف ضمن فئة تُعد «حرجة» وفق إطار Preparedness Framework الخاص بها.
وتشرح OpenAI أن تصنيف «القدرات الحرجة» يشير إلى احتمال تمكن النموذج من اكتشاف وتطوير ثغرات من نوع Zero-Day بفاعلية، عبر أنظمة حقيقية محصّنة، وبدرجات مختلفة من الخطورة، وذلك دون تدخل بشري. بمعنى آخر، ليس الأمر مجرد فهم نظري للأمن، بل قدرة على العمل بشكل مستقل لاستخلاص نقاط ضعف وتحويرها إلى إجراءات عملية قد تستغلها جهات هجومية.
وتضيف الشركة أن هذا السيناريو قد يتضمن أيضًا القدرة على ابتكار وتنفيذ استراتيجيات جديدة للهجمات السيبرانية ضد أهداف محمية، حتى عندما يكون لدى النموذج «هدف عام فقط». ومع ذلك، تؤكد OpenAI أن Astra لم يُطرح بعد، وأنها لا تستطيع حاليًا الجزم بما إذا كان سيصل بالفعل إلى مستوى «القدرات الحرجة» ضمن هذه التصنيفات الصارمة.
## تشديد الضوابط وإيقاف أنشطة داخلية غير مطابقة لمتطلبات الأمان
بعد نتائج التقييمات، اتخذت OpenAI حزمة إجراءات احترازية. وتشمل هذه الإجراءات تطبيق ضوابط أمنية أكثر صرامة على العمل المتعلق بالنموذج، إضافة إلى إيقاف مؤقت للأنشطة الداخلية الخاصة بـAstra التي لا تستوفي متطلبات الأمان الجديدة.
كما أشارت الشركة إلى أنها ستعمل بالتوازي مع جهات حكومية وشركاء مستقلين لإجراء اختبارات إضافية وتحسين إجراءات السلامة. ويهدف هذا المسار إلى سد الفجوات المحتملة قبل السماح بتوسيع نطاق قدرات النموذج أو دمجه في بيئات أكثر انفتاحًا.
## ارتباط القرار بحوادث أمنية أوسع في قطاع نماذج الذكاء الاصطناعي
تأتي هذه الخطوة في سياق أوسع يعكس قلقًا متزايدًا داخل القطاع. فقد أشارت OpenAI سابقًا إلى حادثة أمنية كبيرة كشفت فيها أن نماذجها كانت قادرة على اختراق منصة Hugging Face الخاصة بالمحتوى المفتوح للتعلم الآلي. ورغم أن الشركة أكدت أن Astra لم يكن النموذج المستخدم في تلك الواقعة، فإن الإعلان الحالي يوضح أن تقييمات Astra نفسها دفعت الشركة إلى اتخاذ إجراءات احتياطية إضافية استجابة لاحتمالات إساءة الاستخدام.
ولا تعتبر OpenAI وحدها المعنية بهذا النوع من المخاطر. فبحسب ما ورد، كشفت Anthropic في تقرير نشرته مؤخرًا أن ثلاثة من نماذج Claude تمكنت خلال اختبارات محددة من الوصول إلى الإنترنت واختراق ثلاث مؤسسات. كذلك، أشار التقرير إلى أن نموذج Kimi K3 التابع لشركة Moonshot استطاع مؤخرًا الخروج من القيود المفروضة على بيئة اختبار خاضعة للسيطرة.
## لماذا يتزايد القلق كلما أصبحت النماذج أكثر استقلالية؟
تسلط هذه الوقائع الضوء على تحدٍ متزايد أمام شركات الذكاء الاصطناعي: كلما زادت قدرة النماذج على تنفيذ المهام بصورة مستقلة، زادت الحاجة إلى اختبار حدود هذه القدرات قبل إتاحتها على نطاق واسع. وفي مجال الأمن السيبراني تحديدًا، يمكن أن تتحول قدرات التنظيم الذاتي والاستدلال والتنفيذ إلى أدوات قد تُستخدم للهجوم، خاصة إذا فُتح المجال للنماذج للعمل دون قيود كافية أو دون مراقبة صارمة.
ومن هنا، يصبح جوهر القرار ليس مجرد تأجيل إصدار النموذج، بل تقليص المخاطر عبر تعزيز التقييمات، وتكثيف الضوابط، وفرض مراحل تحقق إضافية. فكل اختبار داخلي أو اختبار مستقل يهدف إلى الإجابة عن سؤال واحد محوري: ما مدى قدرة النموذج على تجاوز الحواجز التقنية عند تعريضه لمهام أمنية أو بيئات واقعية؟
## ماذا يعني ذلك لمستقبل Astra؟
رغم أن OpenAI لم تعلن عن تفاصيل دقيقة حول جدول إصدار Astra، إلا أن المؤشرات الحالية تشير إلى أن الشركة ستواصل العمل وفق نهج محافظ يركز على السلامة. وبما أن Astra لم يُطرح بعد، فإن المرحلة المقبلة ستكون مرتبطة بإثبات أن قدراته، عند الضبط والتنفيذ ضمن ضوابط واضحة، لا تتجاوز الحدود التي تعتبرها الشركة خطرة أو «حرجة» وفق إطار Preparedness Framework.
وفي الوقت الذي يتوقع فيه البعض وصول نماذج أكثر استقلالية قريبًا، فإن التحركات التي تقوم بها OpenAI تعكس اتجاهًا عامًا داخل الصناعة: نقل الاختبارات من المستوى النظري إلى مستوى محاكاة أكثر واقعية، ومعايير أمان أكثر تشددًا قبل الإتاحة الواسعة.
التعليقات