يحاول Twitter تحديد سبب إظهار ميزة معاينة الصور الخاصة به علامات التحيز العنصري. وجد العديد من المستخدمين أنه من المرجح أن يتم اقتصاص الوجوه السوداء من معاينات الصور مقارنة بالوجوه البيضاء.
عيب في خوارزمية تويتر
عندما ترى صورة على Twitter ، فهي مجرد معاينة يجب عليك النقر عليها لمشاهدة الصورة بأكملها. يستخدم Twitter خوارزمية لاقتصاص الصور ، وإملاء ما ستراه في معاينات الصور.
في عام 2018 ، أعلن Twitter عن ميزة الاقتصاص التلقائي الذكية في منشور على مدونة تويتر. تستخدم هذه الميزة "البروز" للتركيز على أبرز أجزاء الصور ، ثم تقوم بعد ذلك بقص معاينات الصورة وفقًا لذلك.
اكتشف مستخدمو Twitter أن الشبكة العصبية للمنصة قد يكون لها تحيز عنصري. نشر أحد المستخدمين صورة للسيناتور الأمريكي ميتش مكونيل إلى جانب الرئيس السابق باراك أوباما.
محاولة تجربة مروعة ...
- توني “Abolish ICE” Arcieri 🦀 (bascule) 19 سبتمبر 2020
ما الذي ستختاره خوارزمية تويتر: ميتش ماكونيل أم باراك أوباما؟ pic.twitter.com/bR1GRyCkia
تظهر معاينة الصورة بشكل صارخ وجه أوباما ، حتى عندما يكون وجهه أعلى الصورة. عندما حاول المستخدم نفسه قلب ألوان الصورة ، ظهر وجه أوباما أخيرًا في معاينة الصورة.
بدأ المستخدمون الآخرون في إجراء تجاربهم الخاصة. مرارًا وتكرارًا ، وجد المستخدمون أن الخوارزمية يبدو أنها تفضل باستمرار الوجوه البيضاء على الوجوه السوداء.
أرسلت ليز كيلي ، عضو فريق الاتصالات في تويتر ، تغريدة ردًا على نتائج مستخدمي تويتر. وأشارت إلى أنه بينما اختبر فريق تويتر بالفعل خوارزمية التحيز ، فإنه سيتعين عليه المزيد من التحقيق.
شكرا لكل من أثار هذا. اختبرنا التحيز قبل إرسال النموذج ولم نجد دليلًا على التحيز العنصري أو الجنساني في اختبارنا ، ولكن من الواضح أن لدينا المزيد من التحليل للقيام به. سنفتح مصدر عملنا حتى يتمكن الآخرون من المراجعة والتكرار. https://t.co/E6sZV3xboH
- ليز كيلي (lizkelley) 20 سبتمبر 2020
نشأت كل هذه الاكتشافات من تغريدة مستخدم حول ملف تكبير مشكلة المكالمة. فشل Zoom باستمرار في اكتشاف وجه صديقه الأسود عندما حاول استخدام خلفية افتراضية. عندما تحول المستخدم إلى Twitter لنشر لقطات شاشة للمشكلة ، قام Twitter باقتطاع صديقه الأسود من معاينة الصورة.
استبعاد التحيز من تويتر
في حين أن كل هذه التجارب غير رسمية ، يبدو أنها تسلط الضوء على مشكلة حقيقية. سيتعين على Twitter بالتأكيد إلقاء نظرة فاحصة على ميزة الاقتصاص التلقائي ، ومعرفة ما إذا كان لديه تحيز عنصري متأصل.
ومع ذلك ، فإن خوارزمية الاقتصاص التلقائي في Twitter ليست الميزة الوحيدة على Twitter التي تم انتقادها. بعد كل شيء ، العديد من المستخدمين ليسوا معجبين بخوارزمية النظام الأساسي التي ترتب خلاصتك تلقائيًا.
الخوارزميات تخدم الشبكات الاجتماعية فقط. إليك كيفية التغيير إلى موجز ويب مرتب زمنيًا على Twitter و Instagram و Facebook.
- وسائل التواصل الاجتماعي
- أخبار التكنولوجيا
- تويتر
إيما كاتبة أولى ومحررة مبتدئة لقسمي الإنترنت والإبداع. تخرجت بدرجة البكالوريوس في اللغة الإنجليزية ، وتجمع بين حبها للتكنولوجيا والكتابة.
اشترك في نشرتنا الإخبارية
انضم إلى النشرة الإخبارية لدينا للحصول على نصائح تقنية ومراجعات وكتب إلكترونية مجانية وصفقات حصرية!
خطوة أخرى أيضا…!
يرجى تأكيد عنوان بريدك الإلكتروني في البريد الإلكتروني الذي أرسلناه لك للتو.
