أصدر معهد سلامة الذكاء الاصطناعي للشباب التابع لمنظمة Common Sense Media تقريرًا جديدًا يشير إلى أن ميزتي AI Overview وAI Mode في محرك بحث جوجل قد لا توفران مستوى الأمان المناسب للأطفال والمراهقين. ووفقًا لاختبارات أجراها الباحثون خلال الفترة بين مايو ويوليو من هذا العام على 2600 تفاعل، تبيّن أن النظامين قد يفشلان في التعامل بالشكل المطلوب مع سيناريوهات حساسة، مثل الأفكار الانتحارية وإيذاء النفس، والذهان، واضطرابات الأكل، إضافة إلى أمور مرتبطة بالاستغلال الجنسي للأطفال.
وخلص مؤلفو التقرير إلى أن الميزتين لم تقدما دعمًا كافيًا للأطفال الذين يمرون بأزمات نفسية، وذكرت الدراسة أمثلة على قصور بارز، منها إغفال إشارات واضحة على وجود أفكار انتحارية، وتقديم محتوى قد يعزز علامات مرتبطة بالذهان أو الهوس. كما أشار التقرير إلى أن بعض المخرجات قد تبرر سلوكيات ضارة مرتبطة باضطرابات الأكل، مثل التقيؤ، أو تشجع على تعاطي القنب.
ومن الجوانب التي أثارت انتباه الباحثين أيضًا تقديم حلول للواجبات المنزلية بطريقة قد تبدو “مكتملة” دون أن يكون لها بالضرورة سياق تعليمي مناسب، فضلًا عن ملاحظة أن AI Overview وAI Mode قدما إجابات مختلفة تمامًا لنفس أسئلة التاريخ. ويرى التقرير أن هذه الفروقات ليست مجرد اختلاف صياغة، بل قد تؤثر في دقة المعلومات واتساقها، وهو عامل مهم عند استخدام الأطفال للمحتوى المولّد بالذكاء الاصطناعي.
## مخاطر البحث المدعوم بالذكاء الاصطناعي
يركّز التقرير على نقطة جوهرية: عندما تكون الاستعلامات متعلقة بأزمات نفسية أو سلوكيات خطرة، فإن المطلوب ليس فقط “معلومة عامة”، بل مسار إرشادي يوجه المستخدم إلى مساعدة موثوقة وفورية عند الحاجة. ويستعرض التقرير أن النظامين نجحا أحيانًا في تقديم روابط لمصادر مساعدة، إلا أنهما لم يحققا معيار الأمان الذي اعتمده الباحثون والذي يتمثل في رصد 95% من الحالات الحرجة.
وقد شملت اختبارات الصحة النفسية 652 استفسارًا، تناولت موضوعات مثل القلق والانتحار وإيذاء النفس واضطرابات الأكل والذهان. وفي 214 استفسارًا اعتبرها الباحثون أنها تستوجب توجيهًا إلى خطوط المساعدة أو خدمات طبية، قدمت AI Overview موارد مناسبة في 58% فقط من الحالات، بينما وصلت النسبة إلى 77% في AI Mode. ويورد التقرير مثالًا لمدى حساسية الاستجابة، حيث تضمن الاستعلام تعبيرًا عاميًا يشير إلى الانتحار، لكن AI Overview ردت بإرشادات تقنية حول إعداد “جهة اتصال للميراث الرقمي” بدلًا من التعامل مع احتمال وجود أزمة نفسية.
## أخطاء معلوماتية في الحقائق والواجبات
إلى جانب المخاوف النفسية، تطرق التقرير إلى احتمال تقديم معلومات غير دقيقة أو متباينة. ففي الواجبات الدراسية، اختبر الباحثون أكثر من 180 اختبارًا، وذكر التقرير أن AI Mode أكمل جميع الواجبات التي طُلبت منه، سواء في الرياضيات أو في المقالات الإنسانية. وفي جانب الحقائق التاريخية، أُجري اختبار لما يزيد عن 275 سؤالًا؛ وتبين أن النتائج تختلف بين AI Overview وAI Mode في 43% من الحالات، رغم تطابق الأسئلة، سواء من ناحية الدقة أو مستوى التفاصيل أو زاوية عرض المعلومات.
ومن الأمثلة التي وردت في التقرير أن النظام أجاب بثقة عن سؤال متعلق بتصنيف Billboard Artist 100، محددًا تايلور سويفت باعتبارها صاحبة المركز الأول، في حين كانت الإجابة الصحيحة هي دريك. ويرى الباحثون أن هذه الأمثلة قد تخلق مشكلة لدى الأطفال، لأن المخرجات قد تبدو “مقنعة” أو “واثقة” بصياغة جاذبة حتى عندما تكون خاطئة.
## توصيات عملية للمدارس والأسر
بناءً على النتائج، قدمت Common Sense Media توصيات تركز على تقليل المخاطر بدلًا من التعامل معها كحالات منفصلة. ومن أبرز توصيات الدراسة:
– منح المدارس والأسر خيار تعطيل ميزتي AI Overview وAI Mode، خصوصًا للأطفال.
– نصح معلمي المرحلة الابتدائية بتوجيه الطلاب بعيدًا عن البحث المعتمد على الذكاء الاصطناعي، والاعتماد بدلًا من ذلك على قواعد بيانات المكتبات أو محركات البحث التقليدية التي لا تقدم إجابات مولدة.
– البحث عن بدائل لا تقدم إجابات تلقائية مدعومة بالذكاء الاصطناعي، خصوصًا عندما يتعلق الأمر بطلاب صغار السن.
ويؤكد رئيس قسم التواصل مع الجمهور في معهد سلامة الذكاء الاصطناعي للشباب، جيفري أ. فاولر، أن تعطيل الميزتين افتراضيًا للأطفال والمراهقين يعد حلًا “واضحًا”، مشيرًا إلى أن بعض البلدان تطبق قيودًا على استخدام هذه الميزات.
## جوجل ترفض النتائج وتدافع عن دقة اختبارات داخلية
في المقابل، أعلنت جوجل أنها راجعت التقرير قبل نشره، لكنها قالت إنها لم تتمكن من التحقق من صحة العديد من النتائج أو إعادة إنتاجها. وذكرت الشركة أن اختباراتها الداخلية أسفرت عن استجابات ذات جودة أعلى لنفس الاستفسارات.
كما أضافت جوجل، في ردها على موقع Mashable، أن الدراسة اعتمدت على مجموعة محدودة من الاستعلامات “المصطنعة والغامضة” لا تعكس كيفية استخدام الناس عادة لمنتجات البحث. وتؤكد الشركة أن ميزات البحث المدعومة بالذكاء الاصطناعي تعد أداة مفيدة للأطفال والمراهقين للتعلم والاستكشاف، وأن القياس يجب أن يعكس الاستخدام الحقيقي لتقييم الأمان والفائدة.
## حلول رقابية وتقييد الوصول للقُصّر
تزامنًا مع الجدل، أوضحت جوجل أن بإمكان أولياء الأمور حظر الوصول إلى البحث على أجهزة أندرويد ومتصفح كروم عبر أدوات الرقابة الأبوية. كما أشارت إلى ضرورة إضافة Google.com يدويًا إلى قائمة المواقع المحظورة في إعدادات جوجل كروم والويب كي يعمل ذلك على أجهزة Chromebook.
وبالإضافة إلى ذلك، ذكرت جوجل أن لديها بالفعل قيودًا على وصول القُصّر إلى روبوت الدردشة Gemini، مع التأكيد على أن الأسرة تملك أدوات للتحكم في المحتوى والخدمات المتاحة للطفل.
في المحصلة، يطرح هذا التقرير نقاشًا أوسع حول مدى ملاءمة ميزات البحث التوليدي للأطفال، وما إذا كانت الأنظمة قادرة على التعامل مع المحتوى عالي الخطورة بدقة وبشكل آمن في اللحظة التي يحتاج فيها المستخدم إلى دعم حقيقي. ومع كون الأطفال يستخدمون هذه الأدوات على نطاق واسع، يدعو التقرير إلى اتخاذ خطوات وقائية واضحة في المدارس والمنزل، خصوصًا عند التعامل مع مؤشرات الأزمات النفسية أو المعلومات التي تتطلب تحققًا دقيقًا.
التعليقات