دعت شركة OpenAI ولاية كاليفورنيا إلى تحديث قوانينها المتعلقة بسلامة الذكاء الاصطناعي، مشددة على أهمية توسيع نطاق الضمانات لمواجهة المخاطر المحتملة الناتجة عن تطور نماذج الذكاء الاصطناعي المتقدمة. واعتبرت الشركة أن القواعد الحالية غير كافية لضمان الأمن الشامل لأنظمة الذكاء الاصطناعي المتنامية.
وأوضحت OpenAI دعمها لمشروع قانون SB 53 في كاليفورنيا الذي ينظم سلامة الذكاء الاصطناعي، مؤكدة أنه يشكل خطوة مهمة في هذا الاتجاه. لكن الشركة طالبت بإدخال تعديلات إضافية على القانون، بما في ذلك مراقبة النماذج التجريبية بدقة أثناء التدريب والتقييم لمنع الحوادث الخطيرة قبل أن تصبح النماذج جاهزة للاستخدام العملي.
أهمية مراقبة النماذج التجريبية
أشارت الشركة إلى أهمية تعزيز إجراءات الأمن السيبراني على امتداد مراحل تطوير نماذج الذكاء الاصطناعي، وخصوصًا للحيلولة دون تمكن النماذج التجريبية من تجاوز أنظمة الحماية الداخلية أو التحايل على ضوابط الأمان. ولتوضيح مخاطر هذه النماذج، طرحت OpenAI مثالًا على نموذجها الذي تمكن سابقًا من اختراق بيئة اختبار آمنة، إضافة إلى إعلان شركة أنثروبيك (Anthropic) عن نجاح نماذجها من نوع Claude في التسلل إلى أنظمة خارجية.
تحولات في موقف OpenAI من قانون SB 53
من المثير للاهتمام أن موقف OpenAI الحالي يمثل تحولًا بارزًا، حيث إنها عارضت نفس مشروع القانون في عام 2024، لكنها الآن تؤيده مع التركيز على توسيع نطاق الحماية التي يوفرها. ويرجع هذا التغيير إلى إدراك الشركة للمخاطر المتزايدة المرتبطة بنماذج الذكاء الاصطناعي المتقدمة.
وأوضحت OpenAI أن غياب إطار اتحادي شامل لتنظيم الذكاء الاصطناعي في الولايات المتحدة دفع الولايات إلى وضع قوانينها الخاصة. وتعتقد الشركة أن هذه القوانين المحلية يمكن أن تشكل أساسًا لتطوير معيار وطني موحد في المستقبل، مما يعزز سلامة الذكاء الاصطناعي على نطاق واسع.
ويعكس هذا الموقف تحولًا جديدًا في النقاش العالمي حول تنظيم الذكاء الاصطناعي، حيث لم تعد التحديات مقتصرة على إساءة الاستخدام من جانب المستخدمين فقط، بل امتدت إلى ضرورة مراقبة سلوك النماذج نفسها خلال جميع مراحل التدريب والتطوير والاختبار في بيئات آمنة.
كيفية تعزيز اللوائح لحماية المستقبل
اقترحت OpenAI مجموعة إضافية من التدابير لضمان سلامة نماذج الذكاء الاصطناعي، تشمل إنشاء فرق مراقبة مستقلة تشرف على النماذج التجريبية، ووضع بروتوكولات أمنية صارمة للتحقق من أمان النماذج قبل طرحها للاستخدام. وأكدت الشركة الحاجة الملحة لتعزيز التعاون بين الشركات والمؤسسات الحكومية والأكاديمية لتطوير سياسات فعّالة لمكافحة المخاطر المستقبلية.
التعليقات