قد يبدو أن إضافة تفسير لقرار الذكاء الاصطناعي في التشخيص الطبي خطوة بديهية لتحسين الأمان والشفافية. لكن نتائج بحث علمي حديث تكشف مفارقة لافتة: فالتفسير قد يساعد المستخدم فعلاً عندما تكون نتيجة النموذج صحيحة، غير أنه قد يدفعه أيضًا إلى قبول الخطأ بثقة أكبر، خصوصًا عندما يقدَّم له تفسير “مقنع” بلغة سهلة ومنطق ظاهر. ويطرح هذا الأمر تحديًا جوهريًا أمام أي تطبيق يعتمد على الذكاء الاصطناعي ويستهدف الجمهور مباشرة دون تدريب طبي.
شرح “مقنع” لا يساوي تشخيصًا صحيحًا
تشير الدراسة المسماة «الذكاء الاصطناعي المفسر في تشخيص الأمراض الجلدية سلاح ذو حدين بين الأطباء والجمهور»، والتي نُقلت عن موقع معهد ماساتشوستس للتكنولوجيا (MIT) ونُشرت في Nature Medicine، إلى أن طريقة عرض تفسير الذكاء الاصطناعي تؤثر بوضوح على سلوك كل من غير المتخصصين والأطباء. وقد أجريَت تجربتان واسعتان شارك فيهما مئات من غير المتخصصين وأطباء رعاية أولية، واختُبرت عدة أشكال لتقديم “تفسير” لنتيجة نموذج ذكاء اصطناعي لتشخيص أمراض جلدية، من بينها: إظهار درجة الثقة، عرض صور مشابهة، خرائط توضح مناطق الصورة الأكثر تأثيرًا، وتفسيرات مكتوبة بلغة مبسطة يولّدها نموذج لغوي كبير.
أظهرت التجارب أن بعض أساليب التفسير قد ترتبط بتحسن في الأداء، مثل النظام الذي صُمم لتحقيق أداء أكثر توازنًا عبر ألوان البشرة، ما ساعد المشاركين على رفع الدقة وتقليل بعض الفوارق المرتبطة بدرجة لون الجلد. لكن الفارق الحقيقي ظهر عند مقارنة الأساليب التفسيرية نفسها: إذ لم تكن جميع “التفسيرات” محايدة التأثير، وظهرت اختلافات ملحوظة بين الجمهور والأطباء في كيفية التعامل مع النتيجة حين تكون خاطئة.
لماذا يكون المبتدئ أكثر حساسية لتأثير التفسير؟
وجد الباحثون أن غير المتخصصين كانوا أكثر عرضة لما يُعرف بـ انحياز الأتمتة (Automation Bias)، أي الميل إلى اتباع توصية النظام حتى عندما تكون غير صحيحة. ويزداد هذا الميل عندما يكون التفسير مكتوبًا أو مُرتَّبًا بطريقة تبدو منطقية ومقنعة، خصوصًا إذا قدم النموذج شرحًا لغويًا يعطي انطباعًا بأن “الأسباب” واضحة ومتحققة.
في المقابل، أظهر أطباء الرعاية الأولية ذوي الخبرة قدرة أكبر على الاستفادة من الذكاء الاصطناعي دون الانجراف بالدرجة نفسها وراء الأخطاء. ويدل ذلك على أن الخبرة السريرية ليست مجرد “تفكير نقدي”، بل قد تمنح المستخدم القدرة على تقييم التفسير باعتباره معلومة إضافية لا كبديل عن الحكم الطبي.
ترتيب عرض المعلومات قد يغيّر القرار
تلفت الدراسة إلى أن توقيت وموقع التفسير داخل واجهة التطبيق يلعب دورًا مهمًا. فحين يرى المستخدم تشخيص الآلة قبل أن تكوّن لديه رأيه الخاص، قد يتكوّن انحياز مبكر يصعب تجاوزه لاحقًا، حتى لو لاحظ المستخدم بعد ذلك دلائل تُشير لاحتمال الخطأ. وبعبارة أخرى، ليست جودة التفسير وحدها هي التي تحدد الأثر، بل كذلك مسار اتخاذ القرار داخل التجربة.
إثراء المحتوى: ما الذي تعنيه هذه النتائج لمطوري تطبيقات التشخيص؟
ترسل الدراسة رسالة واضحة لمطوري حلول التشخيص الموجّه للجمهور: السلامة لا تتحقق بمجرد إضافة تفسير. بل يتطلب الأمر تصميم تفاعل يراعي اختلاف مستويات الخبرة، وآلية عرض المعلومة، وطريقة دعم المستخدم بدلًا من دفعه تلقائيًا إلى تصديق النموذج.
- اعتبر التفسير “اقتراحًا” لا “حقيقة”: يمكن دعم ذلك بمؤشرات واضحة مثل صياغات تحذيرية، وتأكيد أن التشخيص يحتاج تقييمًا سريريًا.
- تحكم في الترتيب: قد يكون من الأفضل عرض التفسير بعد محاولة المستخدم تكوين تقييم مبدئي، أو تقديم التفسير كخيار للشرح لا كرسالة نهائية.
- ميّز بين مؤشرات الثقة والمبررات اللغوية: التفسير المكتوب قد يُفهم كأنه “سبب مثبت”، بينما درجة الثقة أو الخرائط المرئية قد تساعد على فحص الدلائل دون أن تمنح المستخدم انطباعًا قطعيًا.
- صُمّم لاحتواء الفوارق: الدراسة أظهرت أثرًا إيجابيًا عند تحسين الأداء عبر ألوان البشرة، ما يؤكد أهمية تصميم النموذج نفسه وتحسينه، وليس فقط واجهة الاستخدام.
- اعتماد قنوات تصحيح: إضافة أسئلة توجيهية للمستخدم (مثل وجود أعراض مصاحبة أو مدة الحالة أو عوامل الخطورة) قد تقلل اندفاع “اتّباع توصية” النموذج.
تطبيقات التشخيص للجمهور: بين الشفافية والمسؤولية
في حال كانت التطبيقات متاحة للجمهور على نطاق واسع، فإن أي خلل في تصميم التفسير قد يتحول إلى مشكلة أوسع لأن ملايين المستخدمين قد يتخذون قرارات مبنية على انطباع “شرح مقنع”. لذلك، يصبح من الضروري أن تُقاس جودة حلول الذكاء الاصطناعي ليس فقط بدقة التشخيص، بل أيضًا بأثر التفسير على ثقة المستخدم وسلوكه، وبقدرة الواجهة على تقليل انحياز الأتمتة بدلًا من زيادته.
في النهاية، توضح هذه الدراسة أن شرح الذكاء الاصطناعي قد يكون سلاحًا ذو حدين: قد يحسن الفهم في بعض الحالات، لكنه قد يزيد قبول الخطأ عندما يقدَّم بطريقة تُغري المستخدم—خصوصًا المبتدئ—بالتسليم. وتظل الخطوة الأهم أن تُبنى أدوات التشخيص الموجهة للجمهور على مبدأ المسؤولية التصميمية: تفسير مدروس، توقيت مناسب، وتحذيرات واضحة، وخيارات تقلل “الوثوق الآلي” قبل أن تصبح نتائج النموذج حقيقة طبية.
التعليقات