“فقاعات التصفية” وعنصريّة خوارزميّات مواقع التواصل الاجتماعيّ

سلطت دراسة جديدة الضوء على انتشار العنصرية في خوارزميات وسائل التواصل الاجتماعي من خلال تحليل دقة الخوارزميات في الكشف عن خطاب الكراهية على تويتر ووجدت أن هذه الخوارزميات كانت أقل دقة عند اكتشاف خطاب الكراهية الموجه إلى النساء والأشخاص الملونين.

بعد استحواذ الملياردير الأمريكي إيلون موسك على منصة “تويتر” ، تزايدت الانتقادات بزعم أن صعود المحتوى البغيض على المنصة ، إلى جانب المنصات الأخرى لم يخلو من مثل هذه الاتهامات ، مما فتح النقاش حول ذلك- دعت “خوارزميات العنصرية” واستغلالها من قبل المنبر للترويج لموضوعات تتفق مع سياساتها وتحييد مواضيع أخرى.

أحدث الاستخدام الواسع لمنصات الشبكات الاجتماعية ثورة في طريقة تفاعل الأشخاص مع بعضهم البعض ، حيث مكنت وسائل التواصل الاجتماعي الناس من التواصل مع الآخرين في جميع أنحاء العالم ، والمشاركة في المناقشات ، ومشاركة الأفكار ، ومواكبة الأخبار والمعلومات. كما تم انتقادها باعتبارها أرضًا خصبة للعنصرية وخطاب الكراهية ، حيث تلعب خوارزميات وسائل التواصل الاجتماعي دورًا مهمًا في إدامة المحتوى العنصري وتضخيمه.

قال باحثون إن انتشار العنصرية في خوارزميات مواقع التواصل الاجتماعي قضية خطيرة تتطلب اهتمامًا وعملًا من شركات التواصل الاجتماعي. المبدعين.

وفقًا للخبراء ، تمت برمجة برمجة خوارزميات الوسائط الاجتماعية لتزويد المستخدمين بمحتوى مخصص بناءً على سلوكهم عبر الإنترنت ، بما في ذلك الإعجابات والتعليقات وسجل البحث ، ويهدف هذا المحتوى المخصص إلى إبقاء المستخدمين مشاركين في النظام الأساسي ، في زيادة الوقت في النهاية ، ومع ذلك بالنسبة إلى شركة الشبكات الاجتماعية ، كانت الخوارزميات التي تقود هذه التوصيات متحيزة ومنحازة تجاه مجموعات معينة من الأشخاص ، مما يديم المحتوى العنصري والضار.

دراسة تسلط الضوء على انتشار العنصرية في خوارزميات وسائل التواصل الاجتماعي هي “التمييز من خلال التحسين: كيف يمكن أن تؤدي خدمة الإعلانات على Facebook إلى نتائج غير متكافئة” بقلم Keithin Tuner. حللت الدراسة تسليم الإعلانات على Facebook ووجدت أن خوارزميات النظام عرضت بشكل غير متناسب إعلانات عن فرص العمل والإسكان للمستخدمين البيض ، بينما تم تقديم إعلانات خدمات وضمانات إصلاح الائتمان للمستخدمين السود واللاتينيين. ووجدت الدراسة أيضًا أن المعلنين الذين يستخدمون نظام عرض الإعلانات على Facebook يمكنهم استهداف الإعلانات على أساس العرق والجنس والعوامل التمييزية الأخرى ، مما يديم العنصرية المنهجية.

في دراسة أخرى سلطت الضوء على انتشار العنصرية في خوارزميات وسائل التواصل الاجتماعي ، بعنوان “التعرض للأخبار والآراء المتنوعة إيديولوجيًا على Facebook” ، قامت الخوارزمية بتحليل موجز أخبار Facebook ووجدت أن خوارزمية المنصة تروج لمحتوى يتوافق مع معتقدات المستخدمين وقيمهم الحالية. . . يؤدي هذا إلى تأثير “فقاعة التصفية” الذي يعزز التحيزات الموجودة ويمنع التعرض لوجهات نظر مختلفة. وجدت الدراسة أيضًا أن تأثير فقاعة التصفية هذا يؤثر بشكل غير متناسب على المستخدمين الذين يعتبرون محافظين ، مما يؤدي إلى عدم التعرض لمحتوى متنوع أيديولوجيًا.

سلطت دراسة جديدة الضوء على انتشار العنصرية في خوارزميات وسائل التواصل الاجتماعي من خلال تحليل دقة خوارزميات الكشف عن خطاب الكراهية على تويتر ووجدت أن تلك الخوارزميات كانت أقل دقة عند اكتشاف خطاب الكراهية الموجه إلى النساء والملونين ، وخلصت إلى أن هذه الخوارزميات غالبًا ما تُصنف الخوارزميات على التغريدات غير البغيضة على أنها كلام يحض على الكراهية ، مما أدى إلى نقص الفهم الدقيق للسياق واللغة المستخدمة في خطاب الكراهية عبر الإنترنت.

وبحسب المسؤولين ، فإن هذه الدراسات تظهر طبيعة العنصرية في خوارزميات وسائل التواصل الاجتماعي وافتقارها إلى الحيادية ، إذ غالبًا ما تكون هذه التحيزات والقيم غير مرئية ومخفية خلف خوارزميات معقدة يصعب فهمها أو تحليلها.

يدعو خبراء وسائل التواصل الاجتماعي إلى زيادة الاستثمار في ممارسات أكثر تنوعًا وشمولية للتأكد من أن الفرق المسؤولة عن إنشاء الخوارزميات وصيانتها تمثل التركيبة السكانية المتنوعة التي تستخدم منصاتهم ، مع دمج مجموعة واسعة من وجهات النظر والخبرات في عمليات صنع القرار باستخدام الخوارزميات .