أعلنت شركة ميتا عن إطلاق ميزة جديدة مدعومة بالذكاء الاصطناعي تهدف إلى تعزيز سلامة المراهقين على منصاتها، عبر تنبيه أولياء الأمور أو الأوصياء في حال أشارت محادثات أبنائهم مع Meta AI إلى مؤشرات محتملة على التفكير بإيذاء النفس أو الانتحار. وتأتي هذه الخطوة ضمن توسيع أدوات السلامة المخصصة لفئات صغار السن، وتركّز على توفير دعم مبكر وتقليل تأخر التدخل.
التنبيه التلقائي ودعم المراهقين أثناء المحادثة
بحسب ما ذكرته ميتا، يقوم مساعدها الذكي بتوجيه المراهقين تلقائيًا إلى جهات الدعم المناسبة عندما يكتشف وجود حديث مرتبط بإيذاء النفس أو الانتحار. ويشمل ذلك تشجيع المراهقين على التواصل مع شخص بالغ موثوق للحصول على المساندة، باعتبار أن الدعم المباشر من شخص قريب قد يساهم في تخفيف المخاطر.
إشعار استباقي للأهل مع موارد إرشادية
مع التحديث الجديد، سيحصل أولياء الأمور أو الأوصياء على إشعار استباقي يفيد بأن المراهق قد يكون معرضًا للخطر، إلى جانب مجموعة من الإرشادات والموارد التي تساعدهم على التعامل مع الموقف بطريقة أكثر فاعلية ودعمًا نفسيًا أفضل. ويهدف هذا الجانب إلى تحويل التنبيه من مجرد رسالة تحذيرية إلى حزمة عملية تساعد الأسرة على معرفة الخطوات المناسبة.
مراجعة بشرية لتقليل الإنذارات الخاطئة
أوضحت ميتا أن النظام الذي يعتمد على الذكاء الاصطناعي يرصد المحادثات المتعلقة بالمخاطر المحتملة، إلا أن جميع الحالات التي يحددها يتم إخضاعها لمراجعة بشرية قبل إرسال أي تنبيه. وتركّز الشركة بذلك على تقليل احتمالات الإنذارات غير الدقيقة. ومع ذلك، ووفقًا للمنطق الوقائي، ستفضّل ميتا إرسال الإشعار إذا استمر الشك في وجود خطر محتمل.
توافر الميزة وتوسيعها تدريجيًا
تتوفر الميزة حاليًا للمستخدمين الذين يستخدمون خاصية الإشراف الأبوي عبر إنستجرام في الولايات المتحدة والمملكة المتحدة وكندا وأستراليا. وتعتزم الشركة توسيعها عالميًا قبل نهاية العام، ما يعني أن شريحة أكبر من الأسر ستتمكن من الاستفادة من آليات الإنذار المبكر والدعم الموجه.
ميزة إضافية تتعلق بخدمات الطوارئ
إلى جانب التنبيه للأهل، كشفت ميتا أنها تعمل على تطوير ميزة تتيح الاتصال بخدمات الطوارئ في حال أظهرت محادثات المستخدم مع Meta AI خطرًا وشيكًا لإيذاء النفس، سواء كان المستخدم قاصرًا أو بالغًا. وتُعد هذه الخطوة امتدادًا لفلسفة التدخل السريع، حيث يتم ربط اكتشاف المخاطر بإجراءات ميدانية عند الضرورة.
توسيع إعداد “المحتوى المحدود” للحد من الاستجابة للمضامين الحساسة
كما وسّعت ميتا نطاق إعداد “المحتوى المحدود” ليشمل تفاعلات الذكاء الاصطناعي، بحيث يؤدي تفعيل هذا الخيار من قبل أولياء الأمور إلى تقليل استجابة المساعد الذكي للموضوعات الحساسة، ومنها المحتوى المرتبط بإيذاء النفس أو المواد غير الملائمة. وبهذا تضيف الشركة طبقة إضافية من الحماية، خصوصًا للمراهقين الذين قد تكون لديهم قابلية للتأثر بالمحتوى الخطِر.
ماذا يعني ذلك للمستخدمين والأسر؟
تعكس هذه الميزة تحولًا نحو مقاربة استباقية في مجال السلامة الرقمية: اكتشاف مبكر، توجيه للمراهقين أثناء المحادثة، إشراك الأهل عبر إشعار واضح، مع وجود مراجعة بشرية لتقليل الأخطاء، إضافة إلى خطط لتفعيل تدخلات الطوارئ عند الاشتباه بخطر وشيك. وتهدف النتيجة إلى دعم المراهقين وتقليل الوقت بين ظهور الإشارات وبين وصول المساندة الواقعية.
التعليقات