القاهرة : الأمير كمال فرج.

هناك الكثير من القصص حول أنظمة الذكاء الاصطناعي التي تلتقط التحيزات البشرية الكامنة "العنصرية" في البيانات المستخدمة في تقييم الموظفين أو التوظيف، لكن هل يستطيع هذه الأنظمة أن تساعد أيضًا البشر في الكشف عن تحيزاتهم اللاواعية؟

وذكر تقرير نشرته Fortune أن "هذا ما يعتقده أبورف أغاروال وعمر هارون. وهما المؤسسان المشاركان لشركة Text IQ الناشئة في نيويورك، حيث تستخدم الشركات الكبيرة برامج معالجة اللغة الطبيعية للشركة بشكل أساسي لتتبع معلومات التعريف الشخصية في مجموعات البيانات الخاصة بها لكشف أي تحيز أو مجاملة بشرية في التقييم الوظيفي"

يعد برنامج الشركة مفيدًا في الحالات التي تتعرض فيها الشركة لخرق للبيانات ويتعين عليها إبلاغ الأشخاص الذين قد تكون معلومات التعريف الشخصية الخاصة بهم قد تعرضت للاختراق، وتضمن الشركة عدم إفشاء الشركات عن طريق الخطأ عن هذه المعلومات الشخصية بما ينتهك المتطلبات القانونية أو سياسات الامتثال.

ولكن منذ وقت ليس ببعيد ، خضع أغاروال وهارون لـ  "تدريب التحيز اللاواعي" من النوع الذي أنشأته العديد من أقسام الموارد البشرية في الشركة كجزء من جهود التنوع والشمول. وفجأة كان لدى الإثنين موجة ذهنية : حيث تمكنا من تحويل أنظمة Text IQ إلى أداة لمساعدة عملائهم لمنع التحيز اللاواعي.

يعمل النظام عن طريق مسح التقييمات المكتوبة التي يكتبها المديرون للموظفين. يحلل اللغة المستخدمة في تلك التقييمات، ويصنف هل هي إيجابية أو سلبية؟. ثم يصنف المصطلحات المستخدمة إما أنها تتعلق بأداء العمل، أو سمات أكثر تركيزًا على الشخصية.

على سبيل المثال ، قد يصنف المدير موظفاته بشكل أكثر إيجابية في المتوسط ​​من موظفيه الذكور، ولكن قد يظل مذنباً بالتحيز اللاواعي إذا كان في تقييمات الأداء للموظفات يثني عليهن في المقام الأول لكونهن  "يتمتعن بموقف إيجابي ، "و" التوافق بشكل جيد مع الفريق "، وأثناء إجراء تقييمات لتقاريره المباشرة من الذكور، أشاد" بمهارات العرض الرائعة "و" الاهتمام بالتفاصيل ".

أخبرني أغاروال وهارون أنهما ما زالا يحاولان اكتشاف الطريقة الأفضل - والأكثر أخلاقية - للسماح للعملاء باستخدام أداة الكشف عن التحيز اللاواعي. يقول هارون: "إن الطريقة التي يتم بها إدارة هذا الأمر مهمة للغاية، Text IQ لا تريد أن ترى الشركات تستخدم البرنامج لمعاقبة الموظفين أو المديرين بسبب التحيز اللاواعي".

يقول: "نحن لا نريد" لحظة مسكت ". بدلاً من ذلك ، يأمل Text IQ أن تستخدمه الشركات لمساعدة الأشخاص في الكشف عن تحيزاتهم الخفية حتى تتاح لهم فرصة التحسين".

ويقول هارون : "ربما نفكر في إتاحة التقارير التفصيلية فقط للشخص الذي يكتب مراجعات الأداء". يقول أغاروال أن Text IQ قد يسمح لفريق التنوع والشمول D&I أو قسم الموارد البشرية بالوصول إلى البيانات المجمعة للشركة بأكملها، أو ربما يمنحهم الوصول إلى البيانات مجهولة المصدر.

في حين أن الأداة كانت مخصصة في البداية للاستخدام في فحص مراجعات الأداء ، يمكن بسهولة تكييف الأداة للمساعدة في البحث عن التحيز اللاواعي في الطريقة التي يكتب بها مديرو التوظيف ملاحظات حلال مقابلات التوظيف.

لقد فكر الباحثان في استخدام نسبة الذكاء في النص بجدية في كيفية معالجة التحيز الخوارزمي أيضًا. يرى أغاروال أن البيانات التي تحمل علامات بشرية، وهو ما يتم استخدامها في أغلب الأحيان لتدريب الذكاء الاصطناعي.

الأنظمة في مجال الأعمال متحيزة بطبيعتها وعرضة للخطأ. بالإضافة إلى ذلك ، فإن المصاريف والوقت اللازمين لإنشاء معظم مجموعات البيانات المشروحة من قِبل الإنسان يعني أنها ستكون دائمًا أصغر من مجموعات البيانات غير المسماة.

وهذا يعني أن كل جزء من البيانات يحمل وزنًا أكبر في تدريب الذكاء الاصطناعي ، ومن المرجح أن يتم تضخيم أي تحيز أو خطأ من جانب الفرد الذي يقوم بتطبيق الملصقات. يقول إنه يفضل استخدام أساليب التعلم غير الخاضعة للرقابة ، حيث في الذكاء الاصطناعي تتعلم الأنظمة من كميات كبيرة جدًا من البيانات غير المسماة. في حين أن هناك الكثير من الأخطاء والتحيزات المجتمعية الكامنة في هذه البيانات غير المسماة أيضًا.

يقول أغاروال إنه يعتقد أن القدرة على تدريب نظام على مجموعة بيانات أكبر بكثير تميل إلى التخفيف من بعض الآثار السيئة. وهو أيضًا من محبي البيانات التركيبية.