تدرس الولايات المتحدة توسيع نطاق اختبارات نماذج الذكاء الاصطناعي المتقدمة التي يجري العمل بها حاليًا على النماذج المغلقة، لتشمل لاحقًا فئة «النماذج المفتوحة» عند وصولها إلى قدرات مماثلة. ويأتي هذا التوجه في وقت تتسارع فيه عملية إطلاق نماذج أقوى وأكثر استقلالًا، ما يجعل تقييم المخاطر قبل وصول التكنولوجيا للمستخدمين بندًا محوريًا لدى صناع القرار.
بحسب تقرير نشرته WIRED، فإن البيت الأبيض يبحث في إطار لاختبارات نماذج الذكاء الاصطناعي يركز على تحديد مدى المخاطر التي قد تترتب على قدرات النموذج بدلًا من الاكتفاء بالنظر إلى طريقة توزيع الأوزان أو درجة الانفتاح. ومن المفترض أن تؤثر النتائج في قرار خضوع النموذج لاختبارات إضافية أو إشراف حكومي قبل الإصدار. كما يشير التقرير إلى أن التفاصيل الدقيقة للإطار ما زالت غير منشورة بالكامل للجمهور، وأن النسخة الحالية من المنظومة تُعامل بوصفها طوعية حتى الآن.
أحد عناصر التحول يتمثل في أن النماذج المفتوحة قد تصبح ضمن دائرة الفحص عندما تصل إلى «مستويات قدرات» قريبة من تلك التي تُظهرها النماذج المغلقة. الفكرة ليست استهداف الانفتاح بحد ذاته، بل اختبار سلوك النموذج عند ممارسة مهام حساسة أو عالية التأثير، خصوصًا ما يتعلق بقدرة النموذج على تنفيذ عمليات منظمة، أو التفاعل مع أنظمة حقيقية، أو الاستفادة من أدوات خارج بيئة الدردشة التقليدية.
وتبرز هنا «معادلة صعبة» بين الأمان والابتكار. فمن جهة، إذا حصلت النماذج المغلقة وحدها على إشارات الثقة أو تقييمات حكومية، فقد تميل الشركات إلى تفضيلها على حساب النماذج المفتوحة، رغم أن النماذج المفتوحة عادةً أقل تكلفة وأقرب للمرونة وتمكّن المطورين من فحص الكود وتعديله. ومن جهة أخرى، فرض اختبارات مطولة أو متطلبات إضافية على النماذج المفتوحة قد يؤدي إلى تباطؤ دورة التطوير والإطلاق، وهو ما يتعارض مع طبيعة المنافسة في مجال الذكاء الاصطناعي التي تعتمد على السرعة.
ولزيادة تعقيد المشهد، فإن النقاش لا يقتصر على «جودة الإجابة» التي يقدمها النموذج، بل يمتد إلى مدى استقلاله. فكلما اتجهت النماذج نحو تنفيذ مهام تلقائيًا—مثل البرمجة، أو التخطيط، أو استخدام أدوات رقمية، أو إدارة سير عمل—ارتفع حجم المخاطر المحتملة. وعليه، يصبح تقييم القدرة على البرمجة واستخدام الأدوات والتفاعل مع بيئات خارجية جزءًا مهمًا من معايير الاختبار.
ولكي يظل الإطار عمليًا، من المتوقع أن يتجه التركيز إلى اختبارات تقيس سلوك النموذج في سيناريوهات واقعية، وتحدد الحدود التي يمكنه تجاوزها، ودرجة احتمال إساءة الاستخدام أو إنتاج نتائج غير آمنة. وفي حال نجحت هذه المقاربة، فقد تتحول الاختبارات من كونها شرطًا شكليًا يرتبط بنوع النموذج إلى أداة تعتمد على «مستوى القدرة» و«حجم الأثر» الذي يمكن أن يترتب على نشره.
في النهاية، يعكس التحرك الأمريكي نقلة في طريقة التعامل مع الذكاء الاصطناعي: من التركيز على شكل النموذج أو طريقة إتاحته، إلى تقييم ما يفعله فعلًا عند بلوغ قدرات متقدمة. وإذا تم اعتماد الخطة بصيغتها النهائية، فقد نشهد تغيّرًا في خريطة تطوير النماذج المفتوحة، وتأثيرًا مباشرًا في سرعة طرحها للسوق، وفي الوقت نفسه إعادة تعريف لما يعنيه «الأمان» في عصر النماذج المستقلة.
التعليقات