أعلنت تقارير صحفية أن OpenAI ألغت فريق الاستعداد المسؤول عن اختبار ما إذا كانت نماذج الذكاء الاصطناعي المتقدمة قد تشكل أخطارًا كارثية، مثل المساعدة في شن هجمات سيبرانية، أو دعم تطوير تهديدات بيولوجية، أو حتى التصرف بطريقة تتجاوز الحدود التي وضعها المطورون. وبحسب المعلومات المتداولة، لم تُلغَ مهام السلامة بالكامل، لكن تم إعادة توزيعها على وحدات أخرى بدل الإبقاء على فريق مستقل يراجع المخاطر بصورة كلية.
المهام ما زالت موجودة لكن “الجهة المنسّقة” اختفت
وفقًا لما ذكرته منصة The Verge، جرى تقسيم مسؤوليات الفريق بحسب نوع الخطر، ثم نقلها إلى فرق داخل الشركة متخصصة في الأمن السيبراني والسلامة البيولوجية القائمة بالفعل. وفي الوقت نفسه، انتقل رئيس الفريق ديلان سكاندينارو للعمل على دراسة آثار ذكاء اصطناعي قادر على تحسين نفسه بشكل متكرر (أي سيناريوهات النماذج الذاتية التطوير أو التي تتعلم وتتكيف بصورة أسرع من المتوقع).
وتشير التقارير إلى أن القرار جاء بعد إلغاء OpenAI لفريقين آخرين مرتبطين بالاستعداد للمستقبل، هما فريق الاستعداد للذكاء العام الاصطناعي وفريق المواءمة الفائقة، وهما كانا يركزان على تطوير وسائل للتحكم في أنظمة قد تتخطى القدرات البشرية أو تتعامل بطرق يصعب التنبؤ بها.
تغييرات متتابعة تثير القلق حول “المنظور الشامل” للسلامة
إلغاء الفريق لا يعني بالضرورة توقف الاختبارات أو إيقاف الضوابط، لكنه يلغي هيكلًا مستقلًا كان ينظر إلى الأخطار كـ “حزمة واحدة” ويعمل على وضع توصيات لتقليل المخاطر قبل وقوعها. فحين تُوزَّع المسؤوليات على وحدات متعددة، قد تتحسن تخصصية كل فريق، لكن قد تتراجع القدرة على التنسيق عبر السيناريوهات أو الاعتراض على قرارات تطويرية إذا تعارضت مع رؤية أوسع للسلامة.
ويأتي هذا القرار في سياق أوسع من التحولات، تشمل مغادرة مسؤولين بارزين في ملفات السلامة والأخلاقيات، إضافةً إلى استعداد الشركة لطرح عام ضخم قد يدفعها لتسريع إطلاق منتجات جديدة.
مخاوف من “تشتت” المسؤولية مع ضغط المنافسة والإطلاقات
يرى منتقدون سابقون داخل الشركة أن ضغط المنافسة، وتسارع المنتجات، وجذب المستثمرين، قد يدفع OpenAI إلى توزيع مسؤولية السلامة بين إدارات متعددة. ورغم أن ذلك قد يبدو منطقيًا تنظيمياً، إلا أنه قد يخلق تحديًا كبيرًا: ألا يكون هناك فريق واحد يملك سلطة اعتراض أو يراجع تطوير نموذج عالي الخطورة قبل انتقاله إلى المستخدمين أو العملاء.
ما الذي يتغير فعليًا؟
الفرق الأبرز—بحسب ما تفيده التقارير—ليس في وجود مهام أمان غير موجودة، بل في طريقة تنظيمها. فبدل أن تعمل “خلية استعداد” مستقلة على جمع تقييم المخاطر من زوايا مختلفة، يتم نقلها إلى فرق متخصصة. وفي مثل هذه البيئات، يصبح نجاح السلامة مرتبطًا بمدى قوة آليات التنسيق الداخلي، ووضوح خطوط التصعيد، ووجود مراجعات تجمع بين الأبعاد التقنية والسيبرانية والبيولوجية.
هذا التطور يسلط الضوء على سؤال مفتوح أمام الصناعة: كيف يمكن للمؤسسات التي تطور نماذج قوية أن توازن بين السرعة التجارية والرقابة المتماسكة، خصوصًا عندما تكون المخاطر متعددة الجوانب ولا يمكن حصرها في قسم واحد؟
التعليقات