القاهرة : الأمير كمال فرج.

اعتذر موقع تويتر Twitter عن خوارزمية اقتصاص صور "عنصرية" ، بعد أن اكتشف المستخدمون أن الميزة كانت تركز تلقائيًا على الوجوه البيضاء على الوجوه السوداء.

وقالت الشركة إنها اختبرت الخدمة للتحقق من التحيز قبل أن تبدأ في استخدامها ، لكنها تعترف الآن بأنها لم تتوثقمن جودة الخدمة بما يكفي.

ذكر تقرير نشرته صحيفة The Guardianأن "تويتر لطالما قام باقتصاص أجزاء من الصور تلقائيًا لمنعها من شغل مساحة كبيرة جدًا في الخلاصة الرئيسية، وللسماح بعرض صور متعددة في نفس التغريدة، وتستخدم الشركة العديد من الأدوات الخوارزمية لمحاولة التركيز على أهم أجزاء الصورة، في محاولة لضمان بقاء الوجوه والنص في الجزء المقتطع من الصورة".

لكن المستخدمين بدأوا في اكتشاف العيوب في الميزة خلال عطلة نهاية الأسبوع. أول من سلط الضوء على المشكلة كان طالب الدكتوراه كولين مادلاند ، الذي اكتشف المشكلة أثناء تسليط الضوء على تحيز عرقي مختلف في برنامج مؤتمرات الفيديو زوم Zoom.

عندما نشر مادلاند ، وهو أبيض اللون ، صورة له ولزميل أسود تم مسحه من مكالمة زوم بعد أن فشلت خوارزمية التعرف على وجهه ، قام تويتر تلقائيًا بقص الصورة لإظهار مادلاند فقط.

وتابع آخرون بتجارب أكثر استهدافًا، بما في ذلك رجل الأعمال توني أرسيري ، الذي اكتشف أن الخوارزمية تقطع باستمرار لإخفاء صورة السناتور الأمريكي ميتش ماكونيل وباراك أوباما الرئيس السابق.

اعترف متحدث باسم تويتر في بيان، أن "الشركة لديها عمل ستقوم به، فقد قام فريقنا باختبار التحيز قبل إرسال النموذج ولم يجد دليلًا على التحيز العنصري أو الجنساني في اختبارنا. لكن من الواضح من هذه الأمثلة أنه لدينا المزيد من التحليل للقيام به. سنستمر في مشاركة ما تعلمناه ، والإجراءات التي نتخذها، وسنفتح مصدر تحليلنا حتى يتمكن الآخرون من المراجعة والتكرار ".

تويتر ليس بأي حال من الأحوال أول شركة تقنية تجد نفسها تكافح لشرح التحيز العنصري الواضح في خوارزمياتها. في عام 2018 ، تم الكشف عن أن جوجل Google حظرت ببساطة خدمة الصور الخاصة بها من تصنيف أي شيء على أنه غوريلا أو شمبانزي أو قرد ، بعد أن تعرضت الشركة لانتقادات بسبب نشر صور مضللة مرارًا وتكرارًا للأشخاص السود بهذه المصطلحات العنصرية.