أقرّت "غروك"، أداة المساعدة بالذكاء الاصطناعي المدمجة بمنصة "إكس"، بوجود "ثغرات" سمحت للمستخدمين بالحصول على صور جنسية فاضحة تُظهر قاصرين أو نساء، في تجاوزات أثارت انتقادات عالمية ودفعت إلى توسيع نطاق تحقيق قضائي في فرنسا.
وكتب حساب "غروك" على "إكس" رداً على شكوى أحد المستخدمين بعد أيام من ورود بلاغات على المنصة: "رصدنا ثغرات في إجراءات الحماية لدينا، ونعمل على إصلاحها بشكل عاجل. استغلال الأطفال جنسيا غير قانوني ومحظور".
وتتعلق هذه البلاغات بأفعال لمستخدمي إنترنت أرسلوا صورا أو مقاطع فيديو لأشخاص حقيقيين، بينهم أطفال ومراهقون، إلى "غروك" وطلبوا من مساعد الذكاء الاصطناعي تعديلها لإظهار عُري كامل أو جزئي.
أطفال ونساء بالغات
ولم تُصدر "إكس إيه آي"، شركة الذكاء الاصطناعي التابعة لإيلون ماسك أي رد علني على هذا الجدل الأخير المحيط بمساعده. فقد نشرت "إكس إيه آي" الجمعة ردا آلياً على استفسارات وكالة "فرانس برس" اكتفت فيه بالقول إن "وسائل الإعلام التقليدية تكذب"، من دون أي تعليق إضافي.
مع ذلك، ردّ برنامج "غروك" الآلي التابع للشركة على مستخدم للإنترنت بأن أي شركة في الولايات المتحدة: "تُعرّض نفسها للمساءلة المدنية أو الجنائية إذا سهّلت عن علم إنتاج" مواد إباحية للأطفال أو تقاعست عن منعه.
إضافة إلى القاصرين، طالت ثغرات "غروك" أيضا نساء بالغات، إذ قام البرنامج بتعديل صورهن رقمياً في مواقع التواصل الاجتماعي بناء على طلب مستخدمي الإنترنت، لكشفهن.
وقالت سامانثا سميث، وهي صحافية ومعلقة مستقلة، لهيئة الإذاعة البريطانية (بي بي سي) بأنها شعرت "بالتجريد من إنسانيتها والاختزال إلى مجرد صورة نمطية جنسية" بعد استخدام برنامج الذكاء الاصطناعي "غروك" التابع لإيلون ماسك لإزالة ملابسها رقميًا. ورصدت "بي بي سي" أمثلة عديدة في منصة "إكس" لأشخاص طلبوا من برنامج الدردشة الآلي "غروك" تجريد النساء من ملابسهن ليظهرن بملابس السباحة من دون موافقتهن، بالإضافة إلى وضعهن في مواقف جنسية. وإذ لم ترد شركة XAI، المطورة لبرنامج "غروك"، على طلب "بي بي سي"التعليق، واكتفت برد آلي جاء فيه "أكاذيب الإعلام التقليدي"، نشرت سامانثا سميث منشورًا في "إكس" تحدثت فيه عن تعديل صورتها، وتلقى المنشور تعليقات من أشخاص مروا بتجربة مماثلة، قبل أن يطلب آخرون من "غروك" إنشاء المزيد من صورها.
الهند وفرنسا
ووجهت وزارة الإلكترونيات وتكنولوجيا المعلومات الهندية إشعاراً رسمياً إلى "إكس" طالبت فيه المنصة بأن تقدّم في غضون 72 ساعة تقريراً مفصلاً عن الإجراءات المتخذة لإزالة "المحتوى الفاحش والعاري وغير اللائق والجنسي الصريح" الذي أنشأه تطبيق غروك من دون موافقة النساء المعنيات، وفق رسالة نُشرت في الصحافة الهندية.
وفي فرنسا، وسّعت النيابة العامة في باريس الجمعة تحقيقا يستهدف منصة "إكس" ليشمل أداة الذكاء الاصطناعي المدمجة فيها "غروك" بعدما أفاد ثلاثة وزراء ونائبان بأنها ولّدت ونشرت مقاطع فيديو جنسية زائفة "تُظهِر خصوصا قُصّرا".
واشتكى الوزراء والنائبان من أن مقاطع فيديو خضعت لتقنية التزييف العميق ("ديب فايك") بواسطة "غروك" ولها طابع جنسي تُنشر على "إكس" من دون موافقة الأشخاص الظاهرين فيها.
وفُتِح هذا التحقيق الذي يستهدف "إكس" منذ تموز/يوليو على إثر بلاغات ضد شبكة التواصل الاجتماعي ومسؤوليها اتهمتهم بالتلاعب بخوارزمية المنصة.
وأوضحت النيابة العامة أن "جريمة تركيب صور أو مقاطع فيديو ذات طابع جنسي لشخص من دون موافقته تُعاقَب بالسجن سنتين وغرامة قدرها 60 ألف يورو"، مؤكدة خبرا نشره موقع "بوليتيكو".
ولجأ النائبان إريك بوتوريل وآرتور دولابورت إلى القضاء الجمعة ما أدى إلى توسيع التحقيقات.
كذلك أعلن الوزراء رولان ليسكور وآن لو أينانف وأورور بيرجيه الجمعة أنهم أبلغوا النيابة العامة عن "محتويات غير مشروعة"، مطالبين "بسحبها فورا".