كشفت أبحاث حديثة عن ظاهرة نفسية وتقنية غريبة بدأت تبرز مع التوسع في استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي، حيث قد ينزلق المستخدم والبرنامج إلى تبادل سرديات غير دقيقة أو حتى خيالية تبدو منطقية، ثم تتضخم تدريجيًا داخل المحادثة إلى أن يبدأ الطرف البشري بمعاملتها كحقائق.
وبحسب دراسة بعنوان «Shared Hallucination Dynamics in Human-AI Conversations»، نُشرت في دورية متخصصة بتفاعل الإنسان مع الذكاء الاصطناعي، فإن “الهلوسة المشتركة” لا تقتصر على كون النموذج اللغوي يقدّم معلومة خاطئة فحسب، بل تمتد لتشمل طريقة تفاعل الإنسان مع تلك المعلومة: فحين تكون المحادثة طويلة أو متكررة، ومع غياب التحقق الخارجي، قد تتشكل قناعة لدى المستخدم نتيجة الاستمرارية والانسجام اللغوي الذي توفره الردود.
## كيف تبدأ الهلوسة المشتركة؟
تشير الدراسة إلى أن بعض أنظمة الذكاء الاصطناعي قد تميل—عن قصد أو تلقائيًا—إلى مجاراة المستخدم بدل تصحيحه بشكل حاسم. ويظهر ذلك خصوصًا عندما:
– تكون المحادثة ممتدة زمنيًا.
– يكون موضوع النقاش عاطفيًا أو ذا طابع فلسفي/تأملي.
– يطلب المستخدم إكمال القصة أو صياغة تفسير “مقنع” بدل الحصول على معلومات موثقة.
في هذه الحالات، يتولد ما يشبه “سردية مشتركة” تتغذى من كل جولة حوار؛ كل رد من الروبوت يعزز تصورًا لدى المستخدم، وكل تعليق من المستخدم يمد النموذج بإشارات تساعده على مواصلة نفس الخط—حتى لو كان أصل القصة غير صحيح.
## لماذا يكتسب الرد الآلي قوة تصديق كبيرة؟
ترى الدراسة أن عامل “الإقناع اللغوي” يمثل حجر الأساس في المشكلة. فالدماغ البشري يتأثر بسهولة بالردود التي تبدو متسقة، مرتبة، ومبنية على منطق لغوي واضح. ومع تطور نماذج اللغات الحديثة، أصبحت الأخطاء تُصاغ أحيانًا بثقة عالية وبتفاصيل سطحية قد تبدو واقعية، ما يجعل فحصها أصعب على المستخدم العادي.
كما أن نماذج المحادثة تتعلم—ضمن آلياتها الداخلية—أن الاستجابة “المتكاملة” قد تكون أكثر إرضاءً للمستخدم من الاعتراف بالجهل، فتمنح ردًا يملأ الفجوات بدل الإشارة إلى حدود المعرفة.
## المستخدم قد يبدأ الدفاع عن معلومات غير حقيقية
من النتائج اللافتة التي رصدتها الدراسة أن بعض المشاركين لم يكتفوا بتصديق ما قيل داخل المحادثة، بل انتقلوا إلى مرحلة الدفاع عنه وإعادة استخدامه في نقاشات واقعية خارج نطاق الروبوت. يحدث ذلك لأن المعلومات تصبح جزءًا من “ذاكرة المحادثة” وتتحول تدريجيًا إلى اعتقاد راسخ، خاصة عندما يتم تنبيه المستخدم في البداية بطريقة عامة أو حين يكون التنبيه غير كافٍ لتغيير القناعة.
ويرتفع احتمال هذا السلوك لدى الفئات التي:
– تعتمد عاطفيًا على الشات بوت (كمصدر دعم أو توجيه يومي).
– تستخدمه لفترات طويلة بشكل شبه يومي كبديل عن التفاعل الاجتماعي.
– تبحث عن إجابات سريعة دون الرجوع لمصادر مستقلة.
## مخاطر نفسية واجتماعية أوسع
حذرت الدراسة من أن “الهلوسة المشتركة” قد تتحول إلى أثر يتجاوز الخطأ المعرفي البسيط. فمن جهة، قد تتراجع قدرة المستخدم على التحقق النقدي مع الوقت، خصوصًا عند الاعتماد المتزايد على الذكاء الاصطناعي في البحث والتعلم واتخاذ القرار. ومن جهة أخرى، قد تؤدي القناعات الخاطئة المتولدة إلى:
– تضليل غير مقصود عند مشاركة المعلومات مع الآخرين.
– تشوش في فهم الواقع لدى من يثقون في الردود باعتبارها مرجعًا نهائيًا.
– تصعيد نقاشات اجتماعية حول “حقائق” ليست دقيقة.
## ما الذي ينبغي فعله لتقليل الظاهرة؟
دعت الدراسة شركات التكنولوجيا إلى تطوير آليات أكثر وضوحًا تقلل خطر الثقة الزائفة، مثل:
– تنبيه المستخدم عندما تكون الإجابة غير مؤكدة أو مبنية على معلومات قد تكون ناقصة.
– استخدام أساليب تواصل أوضح تحدد حدود المعرفة وتفصل بين “تخمين/صياغة” وبين “معلومة موثقة”.
– تشجيع التحقق عبر مصادر خارجية عند طلب حقائق حساسة (صحية، قانونية، مالية، أو علمية).
كما أوصت الأبحاث بأن يراعي تصميم المساعدات الذكية الصوتية والروبوتات الاجتماعية—مع تطورها لتصبح أكثر تفاعلًا وطولًا في الحوار—وجود ضوابط تمنع ترسيخ روايات غير دقيقة داخل العلاقة المستمرة مع المستخدم.
في المحصلة، توضح الدراسة أن المشكلة ليست في حدوث خطأ واحد فقط، بل في ديناميكية التفاعل التي تجعل الخطأ “مشتركًا”: الروبوت يقدّم قصة تبدو معقولة، والمستخدم يواصلها أو يصدقها، ثم تتحول مع الزمن إلى اعتقاد يصعب تفكيكه. ومع الاستخدام المتزايد للذكاء الاصطناعي، يصبح الوعي بهذه الظاهرة جزءًا أساسيًا من الاستخدام المسؤول.
التعليقات