"ميتا" تحقق في صور جنسية لنساء مشهورات

واختيرت الحالتان "لتقييم ما إذا كانت قواعد ميتا وتطبيقها فعالة في معالجة مشكلة الصور الجنسية الناتجة عن الذكاء الاصطناعي"، بحسب بيان صادر عن المجلس الملقب بـ"المحكمة العليا" في مجموعة "ميتا"، نقلته وكالة "فرانس برس". ويتكون المجلس الذي أنشأته المجموعة الاجتماعية العملاقة، من أعضاء مستقلين، وهو مسؤول عن البت في القضايا الشائكة المتعلقة بالإشراف على المحتوى.

وأعطى ظهور الذكاء الاصطناعي التوليدي، القادر على إنتاج محتويات معقدة بسرعة كبيرة، زخماً جديداً لظاهرة "التزييف العميق، خصوصاً صور النساء التي يتم التلاعب بها مع إضفاء طابع جنسي عليها لأغراض التخويف أو التحرش".

وقال البيان أن الحالة الأولى التي اختارها المجلس الإشرافي لشركة "ميتا" تتعلق بصورة تم إنشاؤها بواسطة الذكاء الاصطناعي لامرأة عارية نشرت في "إنستغرام" "تشبه شخصية عامة هندية". واشتكى أحد المستخدمين من أن الشركة التي تتخذ مقراً في كاليفورنيا لم تسحب الصورة. وأشار مجلس الإدارة إلى أن "ميتا" اعتبرت أن قرارها بترك المحتوى المنشور كان خاطئاً وأزالت المنشور لانتهاكه قواعدها المتعلقة بالتنمر والتحرش".

وتتعلق الحالة الثانية بصورة منشورة في مجموعة عبر "فايسبوك" لإنشاء محتوى باستخدام الذكاء الاصطناعي، تظهر "امرأة عارية مع رجل يتحسس ثدييها". وتبدو المرأة "وكأنها شخصية عامة أميركية" وورد اسمها في التوضيح المرفق بالصورة.

وأزالت "ميتا" الصورة، وأضافتها إلى بنك المحتوى الذي يعد جزءاً من نظام تنفيذ القواعد الخاص بها، للعثور تلقائياً على الصور التي حددها الموظفون بالفعل على أنها إشكالية وإزالتها من منصاتها.

وفي كانون الثاني/يناير الماضي، شوهدت صورة إباحية مزيفة لتايلور سويفت 47 مليون مرة في منصة "إكس" قبل أن تحذفها شبكة التواصل الاجتماعي، بعد نحو 15 ساعة من نشرها عبر الإنترنت. وأثارت القضية سخط محبيها والعديد من الشخصيات وحتى البيت الأبيض.

وبحسب دراسة أجرتها شركة "سنسيتي" الهولندية المتخصصة في الذكاء الاصطناعي العام 2019، فإن 96% من مقاطع الفيديو المزيفة عبر الإنترنت هي مواد إباحية غير رضائية، وغالبيتها تصور نساء، مشهورات أو غير مشهورات.