قدرة نماذج الذكاء الاصطناعي على كتابة التقارير وتحليل البيانات وتشغيل بعض الأدوات لا تعني بالضرورة أن الشركات مستعدة لمنحها صلاحيات أوسع. فمع ظهور «وكلاء» الذكاء الاصطناعي القادرين على الوصول إلى أنظمة الشركة، قراءة الملفات، تشغيل تطبيقات، وتنفيذ إجراءات فعلية نيابة عن الموظفين، ترتفع المخاطر بشكل مختلف تمامًا. هنا لا يكمن التحدي فقط في دقة الإجابة، بل في احتمال ارتكاب الوكيل خطأً أثناء التنفيذ أو استغلاله عبر تلاعبات (مثل إدخال أوامر مضللة أو استغلال ثغرات) أو حتى انحرافه عن الحدود المسموح بها.
ولذلك بدأت إنفيديا التوجه بوضوح نحو تعزيز أمن وكلاء الذكاء الاصطناعي، عبر الاستثمار في بناء قدرات متخصصة في «سلامة وأمن الوكلاء» قبل إطلاقهم في بيئات العمل. الهدف هو تحويل عملية النشر من مجرد تجربة نموذج لغوي إلى عملية تحقق صارمة من السلوك والحدود والمخاطر المرتبطة بمنحه صلاحيات حقيقية.
## فريق متخصص لفحص الوكيل قبل تشغيله
وفقًا لتقرير نشر بموقع بيزنس إنسايدر، تعمل إنفيديا على تشكيل فريق جديد مختص بهندسة سلامة وأمن الذكاء الاصطناعي. وتُظهر إعلانات التوظيف أن الشركة تبحث عن قائد تقني مؤسس للفريق، إضافة إلى مهندس أبحاث أمنية، ومهندس تقييمات، ومدير كبير. وتشمل المسؤوليات المتوقعة للفريق:
– تقييم وكلاء الذكاء الاصطناعي قبل نشرهم في بيئات إنتاج.
– تطوير أدوات تساعد على معالجة الثغرات البرمجية بالاعتماد على تقنيات الذكاء الاصطناعي.
– ربط أنشطة السلامة بدعم إنفيديا لاتجاهات النماذج مفتوحة الأوزان، بحيث لا تقتصر الفائدة على الأداء فقط بل تمتد إلى الشفافية والفحص العلمي.
هذه المقاربة تعكس فهمًا متزايدًا بأن الوكيل ليس «نموذجًا» فقط، بل نظامًا متصلًا بسلاسل عمل (Workflows) وواجهات وسائط (APIs) وصلاحيات قد تشمل بيانات حساسة أو منطقًا داخليًا. لذلك يصبح فحص الوكيل عملية شبيهة باختبار أمن الأنظمة أو التحقق من سلامة البرمجيات، لكن مع مراعاة سلوكيات الذكاء الاصطناعي وطرق تفاعله مع المحيط.
## لماذا تصبح «سلامة الوكيل» معيارًا اعتماديًا؟
يتقاطع تحرك إنفيديا نحو الأمن مع توسع سوقها: كلما زادت جدوى تشغيل النماذج مفتوحة الأوزان زاد الطلب على البنية الحاسوبية والمعالجات التي تقدمها إنفيديا. لكن في المقابل، تواجه المؤسسات تحديًا تنظيميا وتقنيا جديدًا: حتى لو كان النموذج مفتوح المصدر وقابلًا للتخصيص، فإن منح الوكيل صلاحيات تنفيذية داخل بيئة الشركة يفرض سؤال الثقة.
ومن المرجح أن تصبح «سلامة الوكيل» عنصرًا حاسمًا في قرار تبني التكنولوجيا، خصوصًا مع الانتقال من استخدام الذكاء الاصطناعي كأداة للإجابة إلى استخدامه كبرنامج ينفذ مهام متعددة بالنيابة عن العاملين. فبدلًا من الاكتفاء باختبارات جودة المخرجات اللغوية، سيزداد التركيز على:
– مدى التزام الوكيل بالسياسات (مثل منع الوصول إلى بيانات معينة أو تطبيق قواعد «عدم التنفيذ» في حالات محددة).
– تقييم احتمالات الخطأ أثناء التنفيذ (مثل إجراء تغييرات خاطئة أو إساءة تفسير التعليمات).
– اختبار مقاومة الوكيل للتلاعبات (Prompt Injection) أو لمحاولات توجيهه لتجاوز القيود.
– مراقبة السلوك بعد النشر واكتشاف الانحرافات مبكرًا.
## معلومات إضافية: ما الذي يمكن أن يعنيه ذلك للمؤسسات؟
مع توجّه إنفيديا نحو هندسة السلامة، قد تتسع الفجوة بين «تشغيل نموذج» و«تشغيل وكيل آمن». فالوكيل الآمن عادة يحتاج إلى طبقات حماية متعددة، مثل:
– تحديد صلاحيات دقيقة (Least Privilege) بدل منح وصول شامل.
– فصل البيئات (Sandboxing) لتقليل الضرر عند حدوث خطأ.
– سجلات تدقيق (Audit Logs) لتتبع ما فعله الوكيل وسبب قراراته.
– حدود تنفيذ واضحة للأوامر والواجهات المسموح بها.
– اختبارات تقييم منهجية قبل الإطلاق، تتضمن سيناريوهات إساءة الاستخدام، وليس فقط سيناريوهات الاستخدام الطبيعي.
## خلاصة
يركز توجه إنفيديا على معالجة العقبة التي قد توقف وكلاء الذكاء الاصطناعي داخل الشركات: مسألة الثقة عند منح صلاحيات حقيقية. عبر إنشاء فريق متخصص في سلامة وأمن الوكلاء، ومحاولة بناء أدوات للتقييم ومعالجة الثغرات، تحاول إنفيديا تحويل «الأمن» من جانب اختياري إلى خطوة أساسية ضمن دورة اعتماد وكلاء الذكاء الاصطناعي. ومع تطور الوكلاء إلى أنظمة تنفيذية، يصبح إثبات السلامة والالتزام بالحدود شرطًا واقعيًا لتسريع الانتشار داخل المؤسسات، وليس مجرد مطلب تنظيري أو شعار تسويقي.
التعليقات