أعلنت شركة ميتا عن توسيع منظومتها الخاصة بالأمان الرقمي الموجه للمراهقين، من خلال إطلاق مجموعة أدوات جديدة تعتمد على الذكاء الاصطناعي لرصد مؤشرات الخطر المرتبطة بالانتحار أو إيذاء النفس، ثم إشعار أولياء الأمور بتفاصيل تساعدهم على التدخل بشكل داعم في الوقت المناسب. وتأتي هذه الخطوة لتقوية الحماية داخل منصات فيسبوك وإنستجرام، خصوصًا في سياقات المحادثات التي يجريها المراهقون مع مساعدها الذكي Meta AI.
وبحسب ما أوضحته الشركة، فإن الميزة الجديدة بدأت بالفعل في الولايات المتحدة والمملكة المتحدة وكندا وأستراليا، مع خطط للتوسع تدريجيًا لتشمل دولًا إضافية خلال العام الجاري قبل نهاية 2026. وتركز ميتا على جعل إشعارات الأهل أكثر سرعة ووضوحًا، مع توفير موارد مهنية لمساعدتهم على التعامل مع المواقف الحساسة دون تصعيد أو فزع.
## تنبيهات فورية عبر Instagram Parental Supervision
تستهدف ميزة الإشعارات أولياء الأمور الذين يستخدمون Instagram Parental Supervision. في هذه الحالة، سيتم إرسال إشعار عندما يتضمن محتوى محادثات المراهقين مع Meta AI إشارات إلى الانتحار أو إيذاء النفس. وتهدف ميتا من ذلك إلى سد الفجوة بين ظهور مؤشرات الخطر وبين قدرة الوالدين على معرفة الأمر واتخاذ خطوة إرشادية مناسبة.
وتتضمن التنبيهات—إضافة إلى الإشارة إلى وجود محادثة حساسة—روابط وموارد وإرشادات من خبراء الصحة النفسية. كما تشمل توجيهات تساعد أولياء الأمور على فهم الخطوات المتوقعة للتواصل مع أبنائهم، وتقدير درجة الخطورة، واللجوء إلى دعم متخصص عند الحاجة.
## رصد مؤشرات ضمنية مع مراجعة بشرية
أكدت ميتا أن النظام المطور يعتمد على الذكاء الاصطناعي لتقدير المخاطر حتى عندما لا تُعرض الإشارة بشكل مباشر. أي أن الرصد قد يتعامل مع إشارات “غير مباشرة” أو “ضمنية” تشير إلى احتمال وجود خطر محتمل.
كما شددت الشركة على أن جميع المحادثات التي يكتشفها النظام وتُحسب ضمن سياقات حساسة تخضع لمراجعة بشرية قبل إرسال أي تنبيه لأولياء الأمور. وفي الحالات التي يكون فيها قصد المستخدم غير واضح بالكامل، تتبع ميتا نهجًا احترازيًا عبر إصدار الإشعار بما يضمن أولوية سلامة المراهق.
## استمرارية الإجراءات وتعزيز التوجيهات داخل Meta AI
لفتت ميتا إلى أنها كانت تقوم سابقًا بإرسال إشعارات للأهل في حال تكرار بحث المراهق عن محتوى متعلق بالانتحار أو إيذاء النفس عبر إنستجرام. وفي الاتجاه ذاته، تستمر Meta AI في توجيه المستخدمين نحو خطوط مساعدة متخصصة، وتشجيعهم على طلب دعم مباشر من أحد الوالدين أو مستشار نفسي عند الضرورة.
وترى الشركة أن المزج بين التوجيه الفوري داخل واجهة المساعد الذكي وبين تنبيه الأسرة يوفر مسارًا مزدوجًا: من جهة يقدَّم دعم مهني للمراهق، ومن جهة أخرى يحصل الوالدان على إشارة تساعدهم على اتخاذ موقف داعم بدلًا من ترك الأمر دون متابعة.
## آلية جديدة للتصعيد إلى خدمات الطوارئ عند الخطر الوشيك
كشف إعلان ميتا أيضًا عن ميزة تطويرية أعمق، إذ ستتيح لها التواصل مع خدمات الطوارئ عندما تشير محادثة مع Meta AI—سواء لمراهق أو لشخص بالغ—إلى وجود خطر وشيك مرتبط بالانتحار أو إيذاء النفس.
وذكرت الشركة أنها أحالت أكثر من 19 ألف حالة حول العالم خلال العام الماضي إلى جهات الاستجابة الأولى، بهدف إجراء فحوصات سلامة للأشخاص الذين يُعتقد أنهم معرضون لخطر الانتحار. وتؤكد ميتا أن الهدف من هذه الآلية هو التحرك عند تصاعد الخطورة، بدل الاكتفاء بالتوجيهات أو التنبيهات العامة.
## قاعدة خبرات واسعة لتطوير الاستجابة
ولضمان أن تكون الأدوات دقيقة وقادرة على التعامل مع التعقيد النفسي للحالات، أوضحت ميتا أن تطوير هذه الإجراءات اعتمد على مشاورات مع أكثر من 75 متخصصًا في الصحة النفسية. كما أشارت إلى التعاون مع مجلس خبراء الرفاهية في الذكاء الاصطناعي (AI Wellbeing Expert Council) ومع المجموعة الاستشارية للانتحار وإيذاء النفس.
إضافة إلى ذلك، ضمّت عملية التطوير مستشارين من فئة الشباب بهدف تحسين فهم السياقات التي قد تظهر فيها إشارات الخطر، وكيفية صياغة الاستجابة بحيث تكون أكثر ملاءمة وفعالية للمراهقين والأسر.
وفي المجمل، تمثل هذه الخطوة جزءًا من توجه أوسع لدى ميتا لتعزيز السلامة الرقمية باستخدام الذكاء الاصطناعي مع ضوابط بشرية وموارد دعم نفسي، بما يمكّن العائلات من التدخل المبكر ويزيد من احتمالات حصول الأشخاص المعرضين للخطر على المساعدة في الوقت المناسب.
التعليقات