أزالت شركة أبل عدداً من تطبيقات الذكاء الاصطناعي التي تُستخدم لإنشاء صور عارية مزيفة لأشخاص حقيقيين دون موافقتهم، وذلك عقب تحركات قانونية من مكتب المدعي العام لمدينة سان فرانسيسكو. وتُعد هذه الخطوة جزءاً من موجة متصاعدة من الجدل حول مدى مسؤولية متاجر التطبيقات عن الحد من الأدوات التي تستغل الذكاء الاصطناعي لإنتاج محتوى ينتهك الخصوصية ويقوّض الحقوق الشخصية.
بدأت القضية بعد أن وجّه المدعي العام ديفيد تشيو خطابات إلى شركتي أبل وجوجل، متهماً إياهما بالسماح بانتشار تطبيقات قادرة على إنتاج “صور عارية مزيفة” عبر الذكاء الاصطناعي دون موافقة أصحاب الصور. وأشار الادعاء إلى أن الشركتين تجنيان عوائد مالية من هذه التطبيقات من خلال عمليات الشراء داخل التطبيقات، ما يزيد من الحاجة إلى إجراءات صارمة تمنع استمرار الربح من محتوى ضار.
وفي إطار الاستجابة، أكدت أبل أنها حذفت ثلاثة تطبيقات من التطبيقات المشار إليها رسمياً، وبدأت إجراءات إغلاق حسابات مطوريها. كما تم إخطار مطورين آخرين بضرورة الالتزام بسياسات متجر التطبيقات أو مواجهة حذف نهائي. وشددت أبل على أن متجر التطبيقات يهدف إلى توفير منصة آمنة وموثوقة، وأن التطبيقات التي تُنشئ أو تُوزع محتوى غير مطابق للإرشادات، والتي تُعرف في هذا السياق بتطبيقات “التعرية الرقمية”، تخالف قواعد المتجر منذ سنوات. وأكدت الشركة أنها ترفض هذه التطبيقات بشكل استباقي، وتحذف ما يتم اكتشافه أو ما يتم الإبلاغ عنه عبر قنوات رسمية.
على الجانب الآخر، أعلنت جوجل أنها قامت بتعليق مئات التطبيقات على نظام أندرويد التي تقدم وظائف مشابهة. كما اتخذت إجراءات داخل متجر “جوجل بلاي”، من خلال تقييد ظهور نتائج البحث لعبارات مرتبطة بهذه النوعية من التطبيقات، وإزالة التطبيقات التي وردت ضمن الشكوى القانونية. وتعكس هذه الخطوات رغبة المنصتين في خفض فرص الوصول إلى أدوات تُستعمل غالباً في الابتزاز أو التشهير أو التعدي على خصوصية الأفراد.
وتزداد المشكلة تعقيداً مع تطور تقنيات الذكاء الاصطناعي، إذ بات بالإمكان إنشاء صور أو مقاطع فيديو مزيفة لشخص حقيقي بالاعتماد على صورة واحدة فقط. وهذا يفتح الباب أمام استخدامات ضارة مثل الابتزاز، وانتهاك الخصوصية، والتشهير، وأحياناً استهداف فئات أكثر هشاشة، بما في ذلك القُصّر. ورغم أن وجود سياسات تمنع هذا النوع من التطبيقات يعد خطوة أولى، يرى خبراء ومراقبون أن ذلك لم يعد كافياً وحده، لأن تقنيات الإنشاء تتقدم بسرعة وتصبح أكثر سهولة في الاستخدام.
إحدى نقاط الخطر التي تزيد من صعوبة الرقابة أن عدداً من هذه التطبيقات لا تُصرّح بوضوح عن نواياها أو وظائفها غير اللائقة. فقد تُسوّق نفسها كأدوات لتبديل الوجوه أو تعديل الصور بشكل عام، بينما يتم إخفاء قدرات “التعرية الرقمية” داخل التطبيق أو تُفعل لاحقاً عبر مشتريات مدفوعة أو بوابات داخلية لا تظهر للعميل في الوصف الأولي. ونتيجة لذلك، يصبح اكتشاف التطبيق ومراجعته بدقة أمراً أكثر تحدياً، خصوصاً عندما يعتمد المطورون على الغموض في تسويق المنتج.
في ضوء هذه التطورات، يدعو منتقدون إلى تطوير أدوات مراقبة ورصد أكثر فاعلية من مجرد الاعتماد على السياسات والإبلاغ. ويتضمن ذلك تحسين آليات التحقق من “القدرات الفعلية” للتطبيقات قبل السماح بنشرها، ورفع كفاءة الفحص من خلال مؤشرات سلوكية وتقنية، بما يحد من وصول التطبيقات الضارة إلى المستخدمين في وقت مبكر. كما توجد حاجة لتعزيز التعاون بين الجهات التنظيمية والمنصات التقنية لوضع معايير أكثر دقة لمكافحة إساءة استخدام الذكاء الاصطناعي.
وبينما تواصل أبل وجوجل تطبيق إجراءات الحذف والتقييد، تبقى القصة أكبر من مجرد إزالة بضعة تطبيقات؛ فهي تشير إلى مرحلة جديدة تتطلب قواعد رقابة متجددة باستمرار، وآليات تحقق أسرع، لضمان حماية الخصوصية والحقوق الشخصية في بيئة يتسارع فيها استخدام الذكاء الاصطناعي لإنتاج محتوى مزيف ومن الممكن إساءة استخدامه بشكل واسع.
التعليقات