القاهرة : الأمير كمال فرج.

نظرًا لعدم وجود أي معرفة تقريبًا حول GPT-4 بما في ذلك مجموعات البيانات التي تم التدريب عليها، فقد يكون استخدامها في التعليم اقتراحًا محفوفًا بالمخاطر.

ذكر بريتام بوردولوي في تقرير نشرته مجلة AIM "اليوم، نحن في مرحلة مثيرة للاهتمام في دورة الذكاء الاصطناعي. جميع الشركات، بغض النظر عن الصناعة التي تعمل فيها، تريد قطعة من كعكة الذكاء الاصطناعي التوليدية".

قبل أيام قليلة، اختار بوريس باور ، عضو الطاقم الفني في شركة أوبن إيه آي ، الهند قائلاً إنها ستكون الدولة التي سيكون للأداة GPT-4 فيها أكبر تأثير. لقد قفز قطاع تكنولوجيا التعليم الهندي بالفعل إلى عربة GPT-4 بحماس كبير.

في الآونة الأخيرة، أعلنت شركة أكاديمية خان Khan Academy للتكنولوجيا التعليمية عن مدرس مساعد للذكاء الاصطناعي يعمل بنظام GPT-4، ومساعد في الفصل يسمى Khanmigo. تعتقد المنظمة غير الربحية أنه يمكن الاستفادة من GPT-4 لتوفير خبرات تعليمية مخصصة للطلاب اعتمادًا على قدرات التعلم والفهم لديهم.

أكاديمية خان، التي تعمل في الهند أيضًا، ستوفر قريبًا مدرس الذكاء الاصطناعي الخاص بها للجميع. يبدو أيضًا أن الشركات الناشئة الأخرى في مجال تكنولوجيا التعليم في الهند تسير في مسار مماثل. ومع ذلك، لا يزال قطاع تكنولوجيا التعليم في الهند نفسه غير منظم. مع ظهور GPT-4 ، ازدادت الحاجة إلى التنظيم.

ازدهر قطاع تكنولوجيا التعليم في الهند خلال الوباء. على الرغم من أنها سهلت الوصول إلى التعليم على نطاق أوسع بغض النظر عن القيود الجغرافية واللغوية، إلا أن صناعة تكنولوجيا التعليم أثارت أيضًا مخاوف بشأن ممارسات البيع غير الأخلاقية، وآليات معالجة المظالم غير الكافية، والإفراط في تسويق قطاع التعليم.

لبعض الوقت، كان هناك طلب متزايد بين مختلف أصحاب المصلحة لتنفيذ سياسة تعليم التكنولوجيا في الهند. الآن، مع التطور سريع الخطى في الذكاء الاصطناعي، تتفاقم الحاجة أكثر.

قال المحامي ساتيا مولي، مؤسس شركة Satya Muley & Co. ، لـ AIM إن "الاستخدام المتزايد للذكاء الاصطناعي من قبل شركات تكنولوجيا التعليم في الهند يزيد الحاجة إلى التنظيم في هذا القطاع. تتمتع التقنيات القائمة على الذكاء الاصطناعي في التعليم بالقدرة على تغيير الطريقة التي يتعلم بها الطلاب ، ولكنها أيضًا تثير مخاوف بشأن الخصوصية والأمن والتحيز والاعتبارات الأخلاقية".

وأضاف "في هذا الصدد، أعلنت جمعية الإنترنت والهاتف المحمول في الهند (IAMAI) أنها ستشكل اتحاد تكنولوجيا التعليم الهندي (IEC)، وهي هيئة مستقلة وذاتية الإدارة لتعزيز التنظيم الذاتي بين شركات تكنولوجيا التعليم. ستضع اللجنة الانتخابية المستقلة (IEC) مدونة سلوك لشركات تكنولوجيا التعليم لمتابعة وإنشاء نظام لمعالجة الشكاوى لمعالجة شكاوى المستهلكين.

وتابع مولي  "ومع ذلك، لم تتحدث الجمعية كثيرًا عن استخدام أنظمة الذكاء الاصطناعي من قبل شركات تكنولوجيا التعليم الناشئة، والاعتبارات الأخلاقية التي يجب اتباعها. مع النمو غير المسبوق في قطاع الذكاء الاصطناعي وإدخال أدوات قوية مثل GPT-4، هناك حاجة لحماية أصحاب المصلحة من الآثار السلبية المعقولة لمثل هذا الذكاء الاصطناعي".

معالجة التحيزات

على الرغم من إمكانية استخدام الذكاء الاصطناعي في تكنولوجيا التعليم، إلا أنه قد يؤدي أيضًا إلى التحيزات. من الأهمية بمكان أن نضمن خلو نماذج الذكاء الاصطناعي من أي تحيزات. تم العثور على ChatGPT، روبوت الدردشة الذي صنعته شركة OpenAI، متحيزًا أيضًا ، وهناك حالات تدل على أنه مؤيدًا لليسار والليبرالية.

قال مولي: "قد تكون خوارزميات الذكاء الاصطناعي متحيزة بسهولة ضد مجموعات معينة من الطلاب، مثل أولئك الذين ينتمون إلى خلفيات محرومة، أو الذين يعانون من صعوبات التعلم، مما قد يؤدي إلى التمييز". تواصلت مجلة AIM مع أكاديمة خان لمعرفة كيف يخططون لمواجهة هذه التحديات ولكن لم يتلقوا ردًا.

وأضاف مولي: "بالإضافة إلى ذلك، هناك حاجة إلى تنظيم لضمان أن تكون التقنيات القائمة على الذكاء الاصطناعي في التعليم شفافة وقابلة للتفسير وخاضعة للمساءلة، هذا يعني أن الطلاب والمعلمين وأصحاب المصلحة الآخرين يجب أن يكونوا قادرين على فهم كيفية عمل هذه الأنظمة، وكيفية اتخاذ القرارات، ومن المسؤول عن أي أخطاء أو تحيزات".

تحديات أخرى

على العكس من ذلك، يعتقد جيريش سينجانيا، الرئيس التنفيذي لشركة EduBridge، أن استخدام GPT-4 يمكن أن يحد من القدرات المعرفية للمتعلم. وقال لـ AIM: "يجب بذل الجهود لتنظيم استخدام الأداة، والتأكد من أنها تستخدم فقط لنقل تجربة تعليمية سلسة وغامرة دون المساومة على النمو المعرفي للمتعلم".

على الرغم من أننا رأينا بالفعل العديد من حالات استخدام GPT-4، فمن المستحسن أن تتحرك صناعة تكنولوجيا التعليم بحذر. تعد نماذج اللغات الكبيرة LLM رائعة في توقع الكلمة التالية في تسلسل، ومع ذلك، فهي لا تفهم السياق حقًا.

تم توجيه نفس الانتقادات ضد LLM من قبل العديد من خبراء الذكاء الاصطناعي عدة مرات. قال يان ليكون، كبير علماء الذكاء الاصطناعي في Meta، "ليس لدى LLM أي فكرة عن الواقع الأساسي الذي تصفه اللغة".

النماذج هي هلوسة بطبيعتها. على الرغم من أن شركة OpenAI تدعي أن هلوسة GPT-4 أقل بكثير مقارنة بـ ChatGPT، المبنية على بنية GPT3.5، إلا أنها لا تزال مهلوسة.

قال مولي إن "دقة وموثوقية الاستجابات التي يتم إنشاؤها تلقائيًا من هذه الذكاء الاصطناعي ليست دليلاً كاملاً على أنها قد تعرض بعض التحيزات أو حتى معلومات غير دقيقة اعتمادًا على مجموعة البيانات التي يتم تغذيتها. قد يكون لهذا تأثير سلبي على الرفاهية العامة للطلاب وحتى على مؤهلاتهم الأكاديمية".

 أخلاقيات الذكاء الاصطناعي

اقترحت منظمة الأمم المتحدة للتربية والعلم والثقافة (اليونسكو) في تقريرها أنه يجب أن يكون هناك إطار تنظيمي فيما يتعلق باستخدام الذكاء الاصطناعي في التعليم، ويجب على الحكومة اعتبار الأخلاقيات في الذكاء الاصطناعي أولوية قصوى.

قال مولي: "نظرًا لأن قطاع تكنولوجيا التعليم ينمو بوتيرة سريعة، فهناك حاجة أكبر لبناء الثقة حول استخدام الذكاء الاصطناعي في الجمهور".

يعد الاتحاد الأوروبي أحد المناطق القليلة التي توصلت إلى إرشادات أخلاقية حول استخدام الذكاء الاصطناعي والبيانات في التدريس والتعلم للمعلمين. وبالمثل، في المملكة المتحدة، نشر معهد الذكاء الاصطناعي الأخلاقي في التعليم تقريرًا ينصح فيه كيف يمكن للمدارس والمؤسسات التعليمية استخدام أنظمة الذكاء الاصطناعي بأمان وبطريقة أخلاقية.

قال مولي "في الهند، أصدر المجلس الهندي للبحوث الطبية (ICMR) مؤخرًا إرشادات أخلاقية لتطبيق الذكاء الاصطناعي في الأبحاث الطبية الحيوية والرعاية الصحية، مما أدى إلى إدخال بعض العمليات الأخلاقية المتعلقة بالذكاء الاصطناعي في الرعاية الصحية. ويمكن اعتماد نهج مماثل في قطاع تكنولوجيا التعليم للتغلب على التحديات التي يفرضها استخدام الذكاء الاصطناعي في التعليم ".

رغم جميع السلبيات  يعتقد سينجانيا أن الذكاء الاصطناعي له ميزات مفيدة للغاية مما يجعل الإرشادات التنظيمية ضرورية. قال "هذا ينطبق بشكل خاص على التعليم، حيث يمكن للمتعلمين إنتاج المحتوى في غضون ثوانٍ دون الاستثمار في فضيلة العمل الجاد للبحث والتعلم وتطبيق المنطق للتوصل إلى آراء عضوية".

نظرًا للتقدم السريع والاعتماد السريع للذكاء الاصطناعي، ليس فقط في تكنولوجيا التعليم، ولكن عبر الصناعات، فمن الضروري أن تأتي الهند بإرشادات ومبادئ أخلاقية للتخفيف من المخاطر ذات الصلة.