تسجيل الدخول
برنامج ذكاء اصطناعي من غوغل يكشف السرطان       تقنية الليزر تثبت أن الديناصورات كانت تطير       يوتيوب تي في.. خدمة جديدة للبث التلفزيوني المباشر       الخارجية الأمريكية تنشر ثم تحذف تهنئة بفوز مخرج إيراني بالأوسكار       الصين تدرس تقديم حوافز مالية عن إنجاب الطفل الثاني       حفل الأوسكار يجذب أقل نسبة مشاهدة أمريكية منذ 2008       تعطل في خدمة أمازون للحوسبة السحابية يؤثر على خدمات الإنترنت       حاكم دبي يقدم وظيفة شاغرة براتب مليون درهم       ترامب يتعهد أمام الكونغرس بالعمل مع الحلفاء للقضاء على داعش       بعد 17 عاما نوكيا تعيد إطلاق هاتفها 3310       لافروف: الوضع الإنساني بالموصل أسوأ مما كان بحلب       فيتو لروسيا والصين يوقف قرارا لفرض عقوبات على الحكومة السورية       بيل غيتس يحذر العالم ويدعوه للاستعداد بوجه الإرهاب البيولوجي       ابنا رئيس أمريكا يزوران دبي لافتتاح ملعب ترامب للغولف       رونالدو وأنجلينا جولي ونانسي عجرم في فيلم يروي قصة عائلة سورية نازحة      

حل تكنولوجي للعنصرية


القاهرة : الأمير كمال فرج.

هناك الكثير من القصص حول أنظمة الذكاء الاصطناعي التي تلتقط التحيزات البشرية الكامنة "العنصرية" في البيانات المستخدمة في تقييم الموظفين أو التوظيف، لكن هل يستطيع هذه الأنظمة أن تساعد أيضًا البشر في الكشف عن تحيزاتهم اللاواعية؟

وذكر تقرير نشرته Fortune أن "هذا ما يعتقده أبورف أغاروال وعمر هارون. وهما المؤسسان المشاركان لشركة Text IQ الناشئة في نيويورك، حيث تستخدم الشركات الكبيرة برامج معالجة اللغة الطبيعية للشركة بشكل أساسي لتتبع معلومات التعريف الشخصية في مجموعات البيانات الخاصة بها لكشف أي تحيز أو مجاملة بشرية في التقييم الوظيفي"

يعد برنامج الشركة مفيدًا في الحالات التي تتعرض فيها الشركة لخرق للبيانات ويتعين عليها إبلاغ الأشخاص الذين قد تكون معلومات التعريف الشخصية الخاصة بهم قد تعرضت للاختراق، وتضمن الشركة عدم إفشاء الشركات عن طريق الخطأ عن هذه المعلومات الشخصية بما ينتهك المتطلبات القانونية أو سياسات الامتثال.

ولكن منذ وقت ليس ببعيد ، خضع أغاروال وهارون لـ  "تدريب التحيز اللاواعي" من النوع الذي أنشأته العديد من أقسام الموارد البشرية في الشركة كجزء من جهود التنوع والشمول. وفجأة كان لدى الإثنين موجة ذهنية : حيث تمكنا من تحويل أنظمة Text IQ إلى أداة لمساعدة عملائهم لمنع التحيز اللاواعي.

يعمل النظام عن طريق مسح التقييمات المكتوبة التي يكتبها المديرون للموظفين. يحلل اللغة المستخدمة في تلك التقييمات، ويصنف هل هي إيجابية أو سلبية؟. ثم يصنف المصطلحات المستخدمة إما أنها تتعلق بأداء العمل، أو سمات أكثر تركيزًا على الشخصية.

على سبيل المثال ، قد يصنف المدير موظفاته بشكل أكثر إيجابية في المتوسط ​​من موظفيه الذكور، ولكن قد يظل مذنباً بالتحيز اللاواعي إذا كان في تقييمات الأداء للموظفات يثني عليهن في المقام الأول لكونهن  "يتمتعن بموقف إيجابي ، "و" التوافق بشكل جيد مع الفريق "، وأثناء إجراء تقييمات لتقاريره المباشرة من الذكور، أشاد" بمهارات العرض الرائعة "و" الاهتمام بالتفاصيل ".

أخبرني أغاروال وهارون أنهما ما زالا يحاولان اكتشاف الطريقة الأفضل - والأكثر أخلاقية - للسماح للعملاء باستخدام أداة الكشف عن التحيز اللاواعي. يقول هارون: "إن الطريقة التي يتم بها إدارة هذا الأمر مهمة للغاية، Text IQ لا تريد أن ترى الشركات تستخدم البرنامج لمعاقبة الموظفين أو المديرين بسبب التحيز اللاواعي".

يقول: "نحن لا نريد" لحظة مسكت ". بدلاً من ذلك ، يأمل Text IQ أن تستخدمه الشركات لمساعدة الأشخاص في الكشف عن تحيزاتهم الخفية حتى تتاح لهم فرصة التحسين".

ويقول هارون : "ربما نفكر في إتاحة التقارير التفصيلية فقط للشخص الذي يكتب مراجعات الأداء". يقول أغاروال أن Text IQ قد يسمح لفريق التنوع والشمول D&I أو قسم الموارد البشرية بالوصول إلى البيانات المجمعة للشركة بأكملها، أو ربما يمنحهم الوصول إلى البيانات مجهولة المصدر.

في حين أن الأداة كانت مخصصة في البداية للاستخدام في فحص مراجعات الأداء ، يمكن بسهولة تكييف الأداة للمساعدة في البحث عن التحيز اللاواعي في الطريقة التي يكتب بها مديرو التوظيف ملاحظات حلال مقابلات التوظيف.

لقد فكر الباحثان في استخدام نسبة الذكاء في النص بجدية في كيفية معالجة التحيز الخوارزمي أيضًا. يرى أغاروال أن البيانات التي تحمل علامات بشرية، وهو ما يتم استخدامها في أغلب الأحيان لتدريب الذكاء الاصطناعي.

الأنظمة في مجال الأعمال متحيزة بطبيعتها وعرضة للخطأ. بالإضافة إلى ذلك ، فإن المصاريف والوقت اللازمين لإنشاء معظم مجموعات البيانات المشروحة من قِبل الإنسان يعني أنها ستكون دائمًا أصغر من مجموعات البيانات غير المسماة.

وهذا يعني أن كل جزء من البيانات يحمل وزنًا أكبر في تدريب الذكاء الاصطناعي ، ومن المرجح أن يتم تضخيم أي تحيز أو خطأ من جانب الفرد الذي يقوم بتطبيق الملصقات. يقول إنه يفضل استخدام أساليب التعلم غير الخاضعة للرقابة ، حيث في الذكاء الاصطناعي تتعلم الأنظمة من كميات كبيرة جدًا من البيانات غير المسماة. في حين أن هناك الكثير من الأخطاء والتحيزات المجتمعية الكامنة في هذه البيانات غير المسماة أيضًا.

يقول أغاروال إنه يعتقد أن القدرة على تدريب نظام على مجموعة بيانات أكبر بكثير تميل إلى التخفيف من بعض الآثار السيئة. وهو أيضًا من محبي البيانات التركيبية.

تاريخ الإضافة: 2021-03-31 تعليق: 0 عدد المشاهدات :112
0      0
التعليقات

إستطلاع

هل سينجح العالم في احتواء فيروس كورونا ؟
 نعم
68%
 لا
22%
 لا أعرف
12%
      المزيد
تابعنا على فيسبوك
تابعنا على تويتر
الصحافة
خدمات