القاهرة : الأمير كمال فرج.

أثارت نماذج الذكاء الاصطناعي مثل ChatGPT الجدل في العالم بسبب إمكاناتها الكبيرة في تقليد الانسان، وقدم الباحثون هذه النماذج كدليل على العمليات المعرفية القوية، مثل التفكير والإبداع والفهم السردي وما شابه، لكن هناك القليل من التقييم لهذه الادعاءات.

ذكر هربرت روتبلات في تقرير نشره موقع BDTECHTALKS "دخل رجل وكلب اسمه سيدني إلى حانة. فأخبر النادل الرجل أنه لا يستطيع إدخال الكلب إلى الحانة. "لكن،" يقول الرجل، "هذا كلب يتكلم. ليس هذا فقط، فهو يفكر ويعقل ويقيم". يقول النادل "إذا كان أي من هذا صحيحًا، فسأسمح له بالبقاء". يستدير الرجل للكلب ويسأل: "إذا لم أحلق لثلاثة أيام، كيف يكون وجهي؟" الكلب يقول "خشن". يسأل الرجل: ما هو سطح المنزل؟ الكلب يقول "سقف". لا يزال النادل لا يصدقهم، لذلك يسأل الرجل الكلب" من هو أفضل لاعب بيسبول في كل العصور؟" يجيب الكلب "بيت راعوث".

  بهذه الإجابة الأخيرة، يقوم النادل بطرد الرجل والكلب من الحانة. أثناء مغادرتهم، استدار الكلب إلى الرجل وقال، "هل كان يجب أن أقول تاي كوب؟"، وهو لاعب مدافع في كرة البيسبول في الدوري الرئيس الأمريكي.

هذه النكتة هي استعارة للوضع الحالي مع نماذج اللغات الكبيرة، والمعروفة أيضًا باسم نماذج GPT و ChatGPT و GenAI. دعنا نضع النص جانباً لمدة دقيقة ونلقي نظرة على منطق النادل.

أنتج الكلب الإجابات الصحيحة على الأسئلة المتعلقة بالحلاقة والبناء والبيسبول. ولكن، تساءل النادل، هل تشير هذه الإجابات إلى أن الكلب يعرف أشياء عن العناية، والبناء، والبيسبول؟ إذا فعل ذلك، فسيكون هذا الكلب كلبًا خارقًا يتمتع بقدرات تفوق بكثير الكلب العادي.

من ناحية أخرى، غالبًا ما يبدو صوت نباح الكلاب مثل نطق كلمات "خشن" و "سقف" و "روث". كيف يمكنني معرفة ما إذا كان الكلب يعرف كيف يجيب على هذه الأسئلة مقابل معرفة فقط كيفية إنتاج هذه الأصوات ردًا على الأسئلة؟.

كانت هناك نسخة حقيقية من نكتة الكلب هذه، لكنها تضمنت حصانًا وليس كلبًا. كان كليفر هانز حصانًا عاش في بداية القرن العشرين تقريبًا، وبدا أنه قادر على أداء المهام الرياضية والمهام المعرفية الأخرى.

كان الناس يطرحون أسئلة على الحصان وينقر الحصان على حافره ليقدم الإجابة. قام هانز ومالكه، فيلهلم فون أوستين، بجولة في ألمانيا لعرض مهارات الحصان.

في عام 1907، اكتشف عالم النفس، أوسكار بفونغست، أن "هانز" لا يعرف إجابات الأسئلة التي طُرحت عليه. بدلاً من ذلك، تعلم الحصان النقر على حافره حتى اكتشف بفونغست إشارات لا إرادية من فون أوستن أو غيره أنه يجب عليه التوقف - مما يعني أنه قدّم الإجابة الصحيحة. من هذا الموقف اكتشف بفونجست ثلاث نقاط هي:

(1) أراد الجمهور تصديق أن هانز كان متطورًا معرفيًا حيث انتشر الاهتمام بالقدرات المعرفية للحصان وقبولها على نطاق واسع.

(2) كان الحصان "هانز" ذكيًا، لكن ليس بالطريقة التي يُنسب إليه الفضل في ذلك. كانت المشكلة التي كان يحلها هانز مختلفة عن المشكلة الاسمية التي اعتقد جمهوره أنه كان يحلها.

(3) استغرق الأمر تحليلًا وتجريبًا دقيقًا لمعرفة ما كان الحصان يفعله وما لا يفعله.

هذا هو المكان الذي نحن فيه اليوم مع نماذج اللغة الكبيرة. يظهر الباحثون من خلال هذه النماذج دليلًا على العمليات المعرفية القوية، مثل التفكير والإبداع والفهم السردي وما شابه، لكن هناك القليل من التقييم لهذه الادعاءات.

يجب أن تكون هذه الادعاءات أكثر إثارة للدهشة مما ستكون عليه بالنسبة للحصان، لأنه في حين أننا لا نعرف بالضبط العمليات الحسابية التي تحدث في أدمغة الحصان أو الكلاب أو البشر، فإننا نعرف بالضبط العمليات الحسابية التي تحدث في نماذج اللغة الكبيرة. إنها نماذج كبيرة، ولكنها مفاهيمية بسيطة، من خلال التحفيز والاستجابة. يتنبأون بالكلمة التالية في تسلسل من السياق السابق.

من المؤكد أن تعلم التنبؤ بالكلمة التالية هو أكثر تعقيدًا من مراقبة التغييرات في موقف السائل الخاص بك، ولكن لا تزال هناك فجوة كبيرة بين المراهنة على أنماط الكلمات والقدرة على تحليل الحجج القانونية المعقدة، على سبيل المثال.

يمكن تغليف الاختلاف بالفرق بين معرفة الكيفية ومعرفة ذلك. تعرف نماذج اللغات الكبيرة بعض أنماط الكلمات (بكلمة "أعرف"، أعني ببساطة أن لديهم المعلومات). في بعض الأحيان، تتطابق أنماط الكلمات هذه مع الناتج المطلوب من التحليل.

إنهم يعرفون ذلك بمعنى أنهم يعرفون النمط. عندما ننسب القدرات المعرفية إلى هذه النماذج، فإننا نؤكد أنهم يعرفون كيفية تطبيق المهارة. اعتقد النادل في النكتة أن الكلب كان يعلم أن الإجابة على كل سؤال كانت مثل النباح،    ولكن عندما غادر الرجل والكلب الحانة ، كشف الكلب في خط النهاية أنه يعرف كيف يحلل لاعبي البيسبول (أو أنه على الأقل يعرف أكثر من مجرد كيف ينبح).

في عالم نماذج GPT، تختلف مهارة التحليل عن القدرة على التنبؤ بالكلمات. كلاهما ينطوي على مستوى معين من الذكاء، ولكن لا ينبغي للمرء خلط مهارة واحدة مع العلم أن الكلمات تتلاءم مع بعضها من أجل القدرة الأعمق لكيفية التفكير وما إلى ذلك.

على حد علمي، لا توجد نظرية أو حتى فرضية حول كيف يمكن للآلة التي تتعلم أنماط الكلمات أن تحول نفسها إلى آلة لديها مهارات معرفية. لا توجد آلية يمكن من خلالها تقديم مبادئ أعمق من مجرد أنماط اللغة.

يمكن لنماذج اللغة الكبيرة الإبلاغ عن نتائج التحليلات التي أجريت سابقًا (من قبل البشر) من خلال إنتاج تسلسلات كلمات مماثلة لتلك التحليلات السابقة في سياقات مماثلة. بالنظر إلى عدد المعلمات المستخدمة لتمثيل أنماط الكلمات هذه وحقيقة أن كل ما يتم نشره على الإطلاق على شبكة الويب العالمية مدرج في مجموعة التدريب الخاصة به، فإن التفسير الشيحيح لأي من المهارات الواضحة لهذه النماذج هو أنها ببساطة تعيد صياغة ما سبق رؤيته أنماط.

على الرغم من العدد الكبير والمتزايد (من إصدار إلى إصدار) للمعلمات في هذه النماذج، لا يزال هناك عدد أقل من المعلمات من أنماط الكلمات المحتملة. لذلك، يجب أن تشترك أنماط الكلمات المتعددة في نفس المعلمات. النماذج اللغوية الكبيرة ليست مجرد ببغاوات، تقتصر على نسخ ما قرأوه، ولكن ببغاوات عشوائية، تعيد صياغة النص الذي تم تدريبهم عليه.

في حالة عدم وجود تحليل نقدي وفي غياب حتى فرضية حول كيفية اكتساب نموذج لغوي للمهارات المعرفية، يبدو من المعقول أكثر بكثير افتراض أن أي ظهور واضح لهذه المهارات في نموذج لغوي كبير هو مظهر من مظاهر أنماط احتمالية الكلمات، لا شيء آخر.

الكلمات التي تُستخدم أحيانًا لشرح مظهر المهارات المعرفية، مثل النشوء، هي تسمية للظاهرة المفترضة. نتخيل أنه مع وجود ما يكفي من المعلمات بطريقة أو بأخرى سوف نلاحظ المهارات المعرفية العميقة حيث نعرف أن الآليات الحسابية لتلك المهارات ليست واردة في النموذج.

في الآونة الأخيرة، تم تداول عريضة تدعو إلى وقف مؤقت لتطوير نماذج لغوية أكثر قوة من تلك الموجودة حاليًا. وفقًا لهذا الالتماس، "تخوض مختبرات الذكاء الاصطناعي سباقًا خارج نطاق السيطرة لتطوير ونشر عقول رقمية أكثر قوة لا يمكن لأي شخص - ولا حتى منشئوها - فهمها أو التنبؤ بها أو التحكم فيها بشكل موثوق. هل يجب أن ندع الآلات تغمر قنواتنا الإعلامية بالدعاية والكذب؟، هل يجب أن نخرج جميع الوظائف آليًا، بما في ذلك الوظائف التي تفي بالغرض؟، هل يجب أن نطور عقولًا غير بشرية قد تفوق في النهاية عددًا، وتتفوق على الذكاء، وتتقادم، وتحل محلنا؟، هل يجب أن نجازف بفقدان السيطرة على حضارتنا؟".

الهدف من هذا الالتماس يستند إلى سوء فهم عميق،  نتيجة للهستيريا ، أكثر من الحالة الحالية والمتوقعة للذكاء الاصطناعي. فالنماذج اللغوية الكبيرة ليست خارجة عن السيطرة، فهي ليست عقول رقمية، ولا يمكن وصفها (يمكن فهمها). إنها ، كما أشرت سابقًا، نماذج بسيطة من الناحية المفاهيمية تختار بشكل عشوائي الكلمات المشروطة بالسياق. ليس هناك أي احتمال بأن هذه النماذج سوف تقوم بأتمتة جميع الوظائف أو استبدالنا.

السياسات واللوائح المستندة إلى الفهم غير الكافي للموقف ستكون غير فعالة أو أسوأ. تستند المخاوف التي تم التعبير عنها في هذا الالتماس إلى سوء فهم عميق للتكنولوجيا بحيث تكون أي سياسات ناتجة عن ذلك مثيرة للضحك أو بلا معنى أو حتى ضارة.

قد تكون هناك عقول رقمية في يوم من الأيام، لكن الببغاوات العشوائية ليست من بينها. إن تصوير النماذج على أنها وحوش تحت السرير والعلماء والمهندسين الذين صنعوها على أنهم فرانكنشتين حسابيون أمر غير مسؤول. حيث تؤدي إثارة الخوف إلى تفاقم حالة انعدام الثقة المنتشرة حاليًا بين العلماء والخبراء الآخرين، وقد تعرض حياة الأفراد للخطر.

نماذج اليوم هي أدوات، فهي ليست الروبوت Skynet الذي يتطلع إلى القضاء على الحياة على الأرض. مثل أي أدوات، قد تسبب ضررًا عند إساءة استخدامها.

إذا كان لابد من وجود لوائح، فيجب أن تكون هذه اللوائح موجهة نحو التخفيف من الأضرار المحتملة الحالية، وليس الخوف من أن تكون هذه النماذج بطريقة أو بأخرى خبيثة بطبيعتها. نحن بحاجة إلى الاهتمام بأنفسنا بشأن الكيفية التي قد يسيء بها الناس استخدام النماذج؛ لا داعي للقلق من أن النماذج ستصبح حكامنا الجدد.