آخر تحديث:01:04(بيروت)
الجمعة 08/02/2019
share

عنصرية التكنولوجيا: خوارزميات ضد المرأة والأقليات والسود

حلا نصرالله | الجمعة 08/02/2019
شارك المقال :
عنصرية التكنولوجيا: خوارزميات ضد المرأة والأقليات والسود ساهمت منصات التواصل في تأجيج التيارات اليمينية العالمية (Getty)
زينة إمرأة في نهاية الأربعين. مات زوجها قبل عامين. وضعها المادي السيء لم يمكّنها من شراء هاتف ذكي، إلى أن اشترى لها نجلها واحداً، منذ خمسة أشهر. ثم أنشأ لها حسابات على "غوغل" و"فيسبوك"، محدّداً وضعها العائلي، في بياناتها الرقمية، كـ"أرملة". وقام لاحقاً بربط بريدها الإلكتروني بمنصّة "يوتيوب".

صدمة اليويتوب
في زيارتها الأولى لـ"يوتيوب"، اقترحت تلك المنصّة على زينة فيديوهات جديرة بالمشاهدة وبعناوين "فضائحية": "شاهد فيديو خيانة زوجة لزوجها"، و"كيف هي الحياة الجنسية للأرملة".. فأصيبت زينة، المرأة المحافظة دينياً، بصدمة كبيرة جرّاء تلك الاقتراحات الغريبة. تدخّل نجلها وعلمها آليات حظر المواد المزعجة، وتقنيات التبليغ عنها. لكن وبعد أيام من التبليغ اليومي عن عدم رغبتها بمشاهدة تلك الاقتراحات، انتهى بها الأمر مع "يوتيوب"، بأن قدّم لها الأخير اقتراحات بديلة، لموادٍ بمحتوى ديني وأحياناً عقائدي أصولي. وكان ذلك، نتيجة أيام طويلة من الأبحاث أجرتها زينة عن المواد التي تحبها، شكّلت لها بصمتها الرقمية في العالم السيبراني، التي يشار إليها بـ"الخوارزمية الشخصية". ما جعلها تندهش من دهاء تلك الاقتراحات: أناشيد دينية من هنا، وفيديوهات لتجويد القرآن، بصوت الشيخ عبدالرحمن السديس من هناك، إلى موادٍ تتعلق بالطبخ وشؤونه..

ما حدث مع زينة ربما يعتبر البعض شيئاً عابراً. لكن نموذج الاقتراحات الأولية التي قفزت أمام زينة، أتت نتيجة لتسجيل وضعها العائلي كأرملة في حساباتها الإلكترونية. وهذا ما أكّدت عليه مطوّرة البرامج والألعاب أمال الشريف، في حديث إلى "المدن": "ما قدمه يوتيوب لزينة في البداية، كان نتيجة مؤشرات أولية عنها، كعمرها، ووضعها العائلي، وجنسها، والمنطقة التي تسكنها".  

معايير إنسانية
حديث الخبراء في الذكاء الاصطناعي عن الإساءة الجنسية أو العنصرية، التي قد ترتكبها النماذج الخوارزمية، تجاه النساء أو الأقليات العرقية، بات حديث الساعة. وأضحت ضخامة البيانات الرقمية مشكلة تسعى شركات عالمية إلى حلها وترتيبها، وفق معايير إنسانية. خصوصاً أن العالم السيبراني ينضح بالبيانات الرقمية عن الحياة الشخصية لأكثر من نصف سكان الكرة الأرضية، إذ بات لكل واحد منهم خوارزميته التي تشكّلت نتيجة تفاعله مع المنصّات والشركات الرقمية.

ذكورية فيسبوك 
ارتكز حديث الخبراء على "النموذج الفكري"، الذي تأسست عليه الخوارزميات الكبرى لـ"فيسبوك" و"تويتر" و"يوتيوب" و"أمازون". فلطالما ذَكّرَت الكاتبة الأميركية مويرا ويغل، وهي زميلة الدراسة لرئيس شركة "فيسبوك" مارك زكربورغ في جامعة هارفرد، بأن الأخير بنى منصته على أساس بيانات ذكورية، مثل التلصص والسخرية من بعض الطلاب، ونشر صور طالبات من دون إذنهنّ. أو حتى اجراء مسابقات حولهنّ لاختيار الطالبة الأجمل، أو الأكثر بشاعة.

دهاء يوتيوب
بعد انتهاء الانتخابات الاميركية، طالت الفضائح مواقع التواصل الاجتماعي. وتركّز النقد حول دورها الهجين في تأجيج التيارات اليمينية العالمية. وانكشف الدور السيء الذي أدّته خوارزمية "يوتيوب"، عندما بدأت تقترح مواد تؤيد فكر اليمين المتطرف حول العالم، وأخرى توسم اليسار السياسي بالمؤامرة.

تحيّز أمازون
شركة "أمازون" ليست أفضل حالاً. فقد كشفت خوارزميتها المعتمدة في "الاختبار الذكي"، الذي تجريه للتوظيف، عن تحيّز مبالغ فيه في إختيار الموظفين. إذ غلّبت الكفة  لصالح الذكور على حساب الإناث بثلاثة أضعاف. كما تعاني خوارزمية الشركة من صعوبة في تحديد أصحاب البشرة الداكنة.

غوغل لغة التمميز
العنصرية تجاه النساء ترتكبها خدمة "google translate" أيضاً، التي غالباً ما تُترجم مختلف الضمائر إلى صيغة المذكّر. فعلى سبيل المثال عبارة " o bir muhandis" تعني باللغة التركية "هو مهندس أو هي مهندسة" لكن غوغل يترجمها إلى العربية "هو مهندس" وحسب.

عطب في عقلية الشركات
يؤمن خبراء ومحللون أن الخوارزميات الحالية منحازة، وأداة عنصرية تعمل لصالح البيض، وبأنها "متحرّشة بالنساء". وهذا عطب يساهم في تأجيج النزاعات ويحتاج إلى الإصلاح، والعمل المكثّف على تزويد الخوارزميات، بالمزيد من المعلومات عن النساء والأقليات والسود.

ويرى الخبراء أن الخلل الخوارزمي سببه "العقلية" التي تشرف على مشاريع تنظيم "البيانات الكبرى"، وتحليلها في الفضاء السيبراني. فقد ناشد مقال نشره موقع "nature"، تحت عنوان "الذكاء الاصطناعي .. متحيّز جنسياً وعنصري، ويجب تغيير ذلك!"، الشركات الكبرى ضرورة الاعتناء بآلية معالجة البيانات التي تلقّنها لأنظمتها الذكية، خصوصاً أن مستخدمين كثر لاحظوا أن موقع “imagenet” يصف كل امرأة ترتدي الفستان الأبيض بأنها "عروس". بينما عجزت خوارزميته عن تحديد عرائس من أفريقيا وآسيا، لأنهنّ لا يرتدين الفستان الأبيض التقليدي.
وقبل أسبوعين كتبت نائبة رئيس شركة "ماستر كارد" مقالة نشرته في "المنتدى العالمي للاقتصاد"، بعنوان "لماذا يخفق الذكاء الاصطناعي مع الجيل الثاني للنساء؟"، مشيرة إلى فشل خوارزمية الشركات التكنولوجية الكبرى في تحقيق المساواة بين النساء والرجال.

التداعي الأخلاقي
قد يستحضر بعضنا أسئلة مُلحة عن أسباب فشل حركات التحرر العالمية ونجاح الحركات اليمينية المتطرفة في احتكار مراكز السلطة حول العالم. وهنا نستحضر قول لعالمة الرياضيات الأميركية كاثي أونيل بأن "لكل خوارزمية بنية أخلاقية تقوم عليها". لذا ربما يكون السبب الرئيسي لهذا الفشل المخيف، اجتياح الخوارزميات، المتداعية أخلاقياً، الفضاء الرقمي من كل حدب وصوب.


شارك المقال :

التعليقات

التعليقات المنشورة تعبر عن آراء أصحابها