حواجز اللغة في "فايسبوك" تضعف مراقبة محتوى الكراهية والإرهاب

واعتذرت شركة "فايسبوك" التي يتبعها "إنستغرام" لاحقاً وأوضحت أن خوارزمياتها أخطأت في اعتبار ثالث أقدس موقع في الإسلام جماعة "كتائب شهداء الأقصى" وهي فرع مسلح من حركة "فتح". وبالنسبة للعديد من المستخدمين الناطقين بالعربية، كان ذلك مثالاً قوياً على كيفية قيام وسائل التواصل الاجتماعي بتكميم الخطاب السياسي في المنطقة.

وتعتبر اللغة العربية من بين أكثر اللغات استخداماً في "فايسبوك" وعادة ما تصدر الشركة اعتذارات بعد عمليات إزالة محتوى بالخطأ. وأوضحت الوثائق الداخلية للشركة من خلال فرانسيس هوغن، المدير السابق في "فايسبوك"، الذي تحول إلى مبلغ عن مخالفات، أن المسألة أكثر منهجية بكثير من مجرد أخطاء بسيطة، وأن الشركة تدرك عمقها منذ سنوات، ولم تفعل شيئاً لحلها، حسبما نقلت وكالة "أسوشييتد برس".

مثل هذه الأخطاء غير قاصرة على اللغة العربية. يكشف فحص الملفات أنه في اكثر المناطق اضطراباً في العالم يتم نشر محتوى الإرهاب وخطاب الكراهية لأن الشركة مازالت تفتقر إلى موظفين يتحدثون اللهجات المحلية ويفهمون السياق الثقافي. كما أنها فشلت في تطوير حلول إلكترونية تمكنها من كشف المحتوى السلبي باللغات المحلية المختلفة.

في أفغانستان وميانمار مثلاً سمحت هذه الثغرات بانتشار المحتوى الإرهابي وخطاب الكراهية والتحريض، لكن في سوريا والأراضي الفلسطينية، يقوم موقع "فايسبوك" بحظر مصطلحات وكلمات شائعة ليست ذات مدلول إرهابي او يحض على كراهية. وقال متحدث باسم الشركة أنه على مدار العامين الماضيين قامت الشركة بتعيين المزيد من الموظفين المطلعين على الثقافات واللغات المحلية، في محاولة لتجنب تلك المسألة الشائكة.

لكن بالنسبة للمحتوى العربي قالت "فايسبوك" أنه مازال أمامها المزيد من العمل للقيام به، وأنها تقوم بأبحاث لفهم المشكلة بشكل أفضل وتحديد كيفية تجنبها لتحسين المحتوى. ورغم ان هذه المشكلة تظهر أيضاً في الهند وميانمار، إلا أنها تشكل تحديات خاصة في اللغة العربية، سواء للأنظمة الآلية او البشر.

فمثلاً، تضم اللغة العربية العامية المغربية كلمات فرنسية وأمازيغية. أما العربية المصرية فتضم كلمات من أصول تركية، بينما لهجات أخرى في العالم العربي أقرب إلى لغة القرآن. وفي كثير من الحالات لا تفهم هذه اللهجات خارج موطنها، علماً أن عدد متابعي "فايسبوك" في الشرق الأوسط زاد بشكل مضطرد خلال انتفاضات الربيع العربي العام 2011، ووجد فيه المستخدمون فرصة نادرة للتعبير بحرية، ومصدراً للأخبار في منطقة تمارس فيها الحكومات ضوابط صارمة على كليهما.

لكن كل ذلك تغير في السنوات الأخيرة، حيث تم حذف حسابات العشرات من الصحافيين والناشطين الفلسطينيين. واختفت أرشيفات الحرب الأهلية السورية. وأصبحت المصطلحات العادية محظورة على المتحدثين باللغة العربية، ثالث أكثر اللغات استخداماً في "فايسبوك" من ملايين حول العالم.

فمثلا تلقى حسن اصليح، الصحافي البارز في قطاع غزة المحاصر، إشعاراً من "فايسبوك" يقول: "تم وقف حسابك بسبب انتهاك معايير مجتمع فايسبوك"، في ذروة حرب غزة العام 2014، بعد تصنيف منشوراته الإخبارية حول العنف بين إسرائيل و"حماس" على أنها انتهاكات لمعايير "فايسبوك". وفي لحظات، فقد كل ما جمعه خلال ست سنوات: ذكرياته وتقارير عن غزة وصور لغارات جوية وقصف اسرائيلي للقطاع، والاهم من ذلك 200 ألف شخص كانوا يتابعونه.

ولم تكن تلك المرة الأولى التي يوقف فيها حسابه، بل السابعة عشرة. وتعين عليه ان يبدأ من الصفر متعلماً الدرس حيث بات يتجنب كلمات مثل "شهيد" و "أسير"، وإذا كتب عن جماعات مسلحة بات يضيف رموزاً أو مسافات بين الحروف، في عمليات التفاف بات وغيره يجيدونها لخداع خوارزميات "فايسبوك".

من ذلك استخدام كتابة عربية يعود عمرها لقرون لا تستخدم النقاط او الهمزات التي تساعد على التمييز بين الأحرف المتشابهة. الا ان اصليح يعتقد أنه تم حظره لمجرد قيامه بعمله كمراسل في غزة، ينشر صور المتظاهرين الفلسطينيين المصابين والأمهات اللاتي يبكين أبناءهن، وتصريحات من حركة "حماس" التي تحكم قطاع غزة.

وجاء في إحدى وثائق "فايسبوك" أن الوضع الحالي "يحد من مشاركة المستخدمين العرب في الخطاب السياسي، مما يعيق حقهم في حرية التعبير". وتضم القائمة السوداء لـ"فايسبوك" حركة "حماس" في غزة، وحزب الله في لبنان، والعديد من الجماعات الأخرى التي ينتمي لها الكثيرون في الشرق الأوسط، كما تظهر الوثائق الداخلية.

وقالت مي المهدي، الموظفة السابقة في "فايسبوك" التي كانت تعمل على تعديل المحتوى العربي حتى العام 2017: "إذا نشرت عن نشاط متشدد من دون إدانته بوضوح، فستعامل كما يعامل هذا النشاط". من جهتها، أوضحت "فايسبوك" أنها تسعى لتطوير سياسات الاعتدال بها من خلال خبراء مستقلين لضمان عدم انحيازهم لدين أو منطقة أو منظور سياسي أو أيديولوجي. وأضافت "نعلم أن أنظمتنا ليست مثالية".

إلى ذلك، يقول موظفون سابقون في الشركة أن بعض الحكومات تمارس ضغوطاً على الشركة، وتهدد بغرامات. فإسرائيل مثلاً هي مصدر مربح لعائدات الإعلانات على "فايسبوك"، وهي الدولة الوحيدة في الشرق الأوسط التي يوجد بها مكتب لـ"فايسبوك". وتراقب أجهزة الأمن الإسرائيلية "فايسبوك" وتغرقه بآلاف الأوامر لحذف حسابات ومنشورات فلسطينية تعتبرها تحريضية.

وعلق أشرف زيتون، الرئيس السابق لسياسة منطقة الشرق الأوسط وشمال أفريقيا في الشركة، والذي غادرها العام 2017: "إنهم يهيمنون على انظمتنا ويتغلبون عليها، ما يجبر على ارتكاب أخطاء لصالح إسرائيل". وردا على ذلك قالت الشركة أنها تعامل طلبات الحكومات تماماً كتلك الواردة من المنظمات الحقوقية أو غيرها. وأضافت أن "أي اقتراح بإزالة محتوى تحت ضغط من الحكومة الإسرائيلية فقط أمر غير دقيق على الإطلاق".

كذلك اشتكى الصحافيون والناشطون السوريون، الذين يغطون أخبار المعارضة في البلاد، من الرقابة مع قيام كتائب إلكترونية تدعم الرئيس بشار الأسد بالشكوى بشكل متكرر من محتوى المعارضة لإزالته. وقال رائد، وهو مراسل سابق في "مركز حلب الإعلامي" المعارض اكتفى بذكر اسمه الاول فقط خشية الانتقام، لأن "فليسبوك" أزال معظم توثيق قصف الحكومة السورية للأحياء والمستشفيات. وأضاف: "يبلغنا فايسبوك دائماً أننا نخرق القواعد، لكنه لا يخبرنا ما هي القواعد".

وتقول إحدى الوثائق: "في كثير من أنحاء العالم العربي، تعتمد شركة فايسبوك بشكل مفرط على مرشحات الذكاء الاصطناعي التي ترتكب أخطاء". أما عندما تستعين شركة "فايسبوك" بالبشر في عمليات تعديل المحتوى فإنها تعتمد على مجموعة عاملين محليين معظمهم من المغاربة الذين يبدو أنهم يبالغون في قدراتهم اللغوية. وتقول إحدى الوثائق أنهم غالباً ما يتوهون وسط ترجمة 30 لهجة عربية مختلفة، ويشيرون إلى منشورات عربية غير مسيئة على الاطلاق على أنها محتوى إرهابي في 77% من المرات.

إحصائياً، يحتل العراق المرتبة الأولى في المنطقة من حيث بلاغات خطاب الكراهية على "فايسبوك". وقال ناشط في مجال حرية الصحافة في بغداد، تحدث شريطة عدم الكشف عن هويته خشية الانتقام: "يحاول الصحافيون فضح انتهاكات حقوق الإنسان، لكن يتم حظرنا فوراً. نحن نفهم أن فايسبوك يحاول الحد من تأثير الميليشيات، لكن الامر لا يسير على هذا النحو".