أكدت شركة أوبن إيه آي أن نموذجها الأحدث للذكاء الاصطناعي، GPT-5، ما زال يقع في أخطاء تعرف اصطلاحاً بـ"الهلوسة"، أي إنتاج إجابات تبدو مقنعة لكنها غير صحيحة، ورغم أن معدل هذه الأخطاء تراجع مقارنة بالإصدارات السابقة، إلا أن الشركة تعتبرها مشكلة متجذرة في آلية عمل النماذج اللغوية.
تعود جذور الظاهرة إلى طريقة تدريب الأنظمة، حيث تُبنى على التنبؤ بالكلمة التالية في النصوص، هذا الأسلوب يحقق نجاحاً كبيراً في الجوانب اللغوية مثل القواعد والأسلوب، لكنه يضعف عند التعامل مع الحقائق الدقيقة أو النادرة. وبذلك يمكن للنموذج أن يقدم إجابات واثقة المظهر لكنها غير دقيقة من الناحية الواقعية.
كما تشير نتائج الاختبارات الداخلية إلى أن تحسين الدقة لا يعني بالضرورة تقليل الأخطاء، ففي حين حققت بعض النماذج السابقة معدلات أعلى من حيث الإجابة الصحيحة، فإنها ارتكبت في الوقت نفسه نسبة مرتفعة من الإجابات الخاطئة، أما GPT-5 فقدم مستوى أقل من الدقة الكلية، لكنه أظهر قدرة أكبر على تجنب التخمين عندما تغيب المعرفة، ما جعله أكثر تحفظاً وأقل عرضة للهلوسة.
وترى الشركة أن جزءاً من المشكلة يرتبط بأساليب تقييم الأداء في الصناعة، إذ تركز أغلب المؤشرات على نسبة الإجابات الصحيحة فقط، متجاهلة خطورة الإجابات الخاطئة التي تعرض باعتبارها حقائق مؤكدة، لذلك تدعو أوبن إيه آي إلى إعادة صياغة معايير التقييم بحيث تمنح النماذج مساحة للاعتراف بعدم المعرفة بدلاً من دفعها إلى تقديم إجابة خاطئة بثقة عالية.
وبالنسبة للمستخدمين، فإن الرسالة الأساسية تتمثل في أن GPT-5 يمثل خطوة متقدمة نحو تقليص ظاهرة "الهلوسة"، لكنه لم يتخلص منها بشكل كامل، ويظل التحدي الحقيقي في كيفية تطوير مناهج التدريب والتقييم بما يضمن نماذج أكثر موثوقية، ويقلل من الفجوة بين ما يبدو صحيحاً وما هو صحيح بالفعل.
0 تعليق