أوبن إيه آي: GPT-5 ما زال يعاني من "الهلوسة" رغم التطور الكبير - زاجل الإخباري

أقرت شركة أوبن إيه آي أن نموذجها الأحدث للذكاء الاصطناعي GPT-5 ما زال يقع في أخطاء تعرف اصطلاحًا بـ "الهلوسة"، أي إنتاج إجابات تبدو مقنعة لكنها غير صحيحة. 

ورغم تراجع معدل هذه الأخطاء مقارنة بالإصدارات السابقة، إلا أن الشركة تعتبرها مشكلة أساسية في آلية عمل النماذج اللغوية.

جذور الظاهرة في طريقة التدريب

أوضحت الشركة أن هذه الظاهرة تعود إلى أسلوب تدريب النماذج، حيث تُبنى على التنبؤ بالكلمة التالية في النصوص. 

يحقق هذا النهج دقة عالية في الجوانب اللغوية مثل القواعد والأسلوب، لكنه يضعف في التعامل مع الحقائق الدقيقة أو النادرة، ما يجعل النموذج يقدم أحيانًا إجابات واثقة المظهر لكنها غير دقيقة.

نتائج الاختبارات الداخلية

أظهرت اختبارات أوبن إيه آي أن تحسين الدقة الكلية لا يعني بالضرورة تقليل الأخطاء. فبعض النماذج السابقة حققت معدلات أعلى من حيث الإجابات الصحيحة، لكنها ارتكبت في المقابل نسبة كبيرة من الإجابات الخاطئة. 

أما GPT-5 فقدم مستوى أقل من الدقة الإجمالية، لكنه أظهر قدرة على تجنب التخمين عندما تغيب المعرفة، ما يجعله أكثر تحفظًا وأقل عرضة للهلوسة.

دعوة لتغيير معايير التقييم

ترى الشركة أن جزءًا من المشكلة يعود إلى أساليب تقييم الأداء الحالية في صناعة الذكاء الاصطناعي، والتي تركز على عدد الإجابات الصحيحة فقط، متجاهلة خطورة الإجابات الخاطئة التي تُعرض وكأنها حقائق، لذلك دعت أوبن إيه آي إلى إعادة صياغة مؤشرات التقييم بحيث تسمح للنماذج بالاعتراف بعدم المعرفة بدلًا من تقديم إجابة خاطئة بثقة عالية.

رسالة للمستخدمين

أكدت أوبن إيه آي أن GPT-5 يمثل خطوة متقدمة نحو تقليص ظاهرة "الهلوسة"، لكنه لم يتخلص منها بشكل كامل. 

وتظل التحديات الحقيقية متمثلة في تطوير مناهج تدريب جديدة ومعايير تقييم أكثر واقعية، بما يضمن بناء نماذج أكثر موثوقية ويقلل من الفجوة بين ما يبدو صحيحًا وما هو صحيح بالفعل.