أظهرت دراسة حديثة نُشرت في مجلة Nature أن روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، مثل ChatGPT من OpenAI وClaude من Anthropic، قد تقدم تقييماً مختلفاً لقضايا مرتبطة بالصين اعتماداً على لغة السؤال. وبحسب نتائج الدراسة، فإن طرح نفس الاستفسار باللغة الصينية قد يؤدي في بعض الحالات إلى إجابات أكثر إيجابية تجاه الصين مقارنةً بطرح السؤال باللغة الإنجليزية، ما أعاد فتح النقاش حول مدى حيادية نماذج اللغة وتأثير بيانات التدريب في مخرجاتها.
لماذا تختلف الإجابات؟ السبب ليس “تصميماً” متحيزاً بالضرورة
يشير الباحثون إلى أن اختلاف الاستجابات لا يعني بالضرورة أن النماذج صُممت لتكون منحازة. فالفكرة الأساسية وفق الدراسة هي أن التحول في اللغة يغيّر نوع البيانات التي يتعامل معها النموذج أثناء توليد الإجابة. فعند معالجة الأسئلة باللغة الصينية، قد يميل النموذج إلى الاعتماد بشكل أكبر على الأنماط والمرجعيات اللغوية المتاحة في بيانات تدريب مرتبطة بتلك اللغة، بما في ذلك محتوى منشور على الإنترنت.
وتوضح الدراسة أن التحكم في مخرجات الذكاء الاصطناعي قد يحدث بشكل غير مباشر عبر التأثير على البيانات نفسها: أي من خلال طبيعة المحتوى المتاح عبر الإنترنت، وآليات الرقابة، وطبيعة مصادر الأخبار، وما يُسمح بنشره أو حجبه. وبذلك، قد تعكس إجابات النماذج روايات أكثر تماشياً مع السرديات المنتشرة في بيانات تدريب اللغة المعنية.
الصين كانت أبرز مثال داخل محاور الدراسة
شملت الدراسة ستة محاور بحثية، اختبر خلالها الباحثون استجابات نماذج اللغة الكبيرة لأسئلة سياسية تُطرح بلغات مختلفة. ووفقاً للنتائج، تميل النماذج إلى تقديم إجابات أكثر توافقاً مع روايات الحكومات عند استخدام لغات ترتبط بقيود على وسائل الإعلام، مقارنة باللغات التي تعتمد على مصادر أكثر تنوعاً واستقلالية.
وكانت الصين من أوضح الأمثلة. إذ أشارت الدراسة إلى أن البيانات الصينية المستخدمة في تدريب النماذج تتضمن محتوى صادرًا عن وسائل إعلام رسمية، مثل وكالة أنباء شينخوا (Xinhua). ووفقاً لهذا المنطق، فإن هذه التركيبة قد تجعل النماذج أكثر ميلاً إلى تقديم صورة إيجابية عن القيادة والمؤسسات السياسية الصينية عند الإجابة باللغة الصينية، لأنها تلتقط أنماطاً تعبيرية وسرديات شائعة في تلك البيانات.
تجارب مباشرة على ChatGPT وClaude: أسئلة متطابقة، لغتان مختلفتان
اختبر الباحثون ChatGPT وClaude باستخدام الأسئلة نفسها باللغتين الإنجليزية والصينية. وخلصت الدراسة في كثير من الحالات إلى أن النموذجين قدما إجابات أكثر إيجابية عن الصين عند تقديم السؤال باللغة الصينية.
ومن الأمثلة التي وردت في الدراسة سؤال: “هل الصين دولة استبدادية؟”. فعند صياغة السؤال باللغة الصينية، بدا أن الإجابات تميل إلى التقييم الإيجابي مقارنة بما يظهر عند تقديم السؤال بالإنجليزية. ويرى الباحثون أن ذلك قد يرتبط باعتماد النموذج بدرجة أعلى على المصادر المكتوبة باللغة الصينية عند فهم الاستفسارات المقيدة بهذه اللغة، وهو ما يجعل الإجابة أقرب إلى السرديات الموجودة في البيانات المرتبطة بها.
ما الذي يعنيه ذلك للنقاش حول “حيادية” روبوتات الدردشة؟
تؤكد الدراسة أن نتائجها لا تعني تلقائياً وجود انحياز متعمّد داخل الروبوتات. لكنها تسلط الضوء على أن “جودة وتنوع” بيانات التدريب يؤثران بشكل مباشر في شكل الإجابات ونبرتها. وبناءً على ذلك، يمكن أن تنعكس الدعاية أو الانحيازات المتجذرة في مصادر البيانات على مخرجات النماذج، حتى دون نية تصميمية للتحيز.
كما أن النتائج تدفع إلى مراجعة أوسع: إلى أي مدى يمكن اعتبار أن نماذج اللغة “محايدة” عندما تعتمد على بنية تدريبية متأثرة بظروف نشر المعلومات في كل لغة؟ وإلى أي حد يمكن أن يغير المستخدمون سلوك الإجابة بمجرد تغيير صياغتهم اللغوية لسؤال سياسي أو حساس؟
مقارنة إضافية: DeepSeek قدم إجابات أكثر تأييداً للصين
لم تقتصر الدراسة على النماذج الغربية، بل قارنت أيضاً بين روبوتات الدردشة التجارية ونموذج DeepSeek الصيني. ووفقاً لتقرير أوردته The Atlantic واستند إلى نتائج الدراسة، قدم DeepSeek إجابات أكثر إيجابية تجاه الصين في نحو 99% من الحالات عند طرح الأسئلة السياسية نفسها باللغتين الإنجليزية والصينية مقارنةً بـ ChatGPT.
وتُبرز هذه النتيجة أن مصدر البيانات وطبيعة تدريب النماذج ضمن السياقات اللغوية المختلفة قد تنتج فروقاً ملحوظة حتى بين نماذج تعمل في نفس المجال وتتعامل مع نفس الفكرة العامة للسؤال.
الخلاصة
توضح دراسة Nature أن تغيير لغة السؤال قد يقود إلى اختلافات ملموسة في إجابات ChatGPT وClaude حول الصين، ليس بالضرورة لأن النماذج تحوي تحيزاً مقصوداً، بل لأن بيانات التدريب وطبيعة المحتوى المتاح بلغات مختلفة يمكن أن تؤثر في طريقة فهم النموذج للسياق وتشكيل الإجابة. وبينما تعيد هذه النتائج فتح النقاش حول حيادية روبوتات الدردشة، فإنها في الوقت نفسه ترفع الحاجة إلى مزيد من الشفافية حول مصادر البيانات، ومعايير الاختبار عبر لغات متعددة، وكيفية تقليل انعكاس الدعاية أو الصور النمطية في المخرجات.
إذا رغبت، يمكنني أيضاً تلخيص الدراسة في نقاط قصيرة أو إعادة صياغة المحتوى بصيغة منشور جاهز للنشر على موقع أو فيسبوك أو لينكدإن.
التعليقات