هلوسة الذكاء الاصطناعي.. لماذا تقدم النماذج معلومات خاطئة بثقة؟

تنتج أدوات الذكاء الاصطناعي أحيانا معلومات غير صحيحة في صياغة متماسكة، وقد تنسب أقوالا إلى أشخاص لم يقولوها أو تستشهد بدراسات غير موجودة. وتعرف هذه الظاهرة باسم هلوسة الذكاء الاصطناعي، وهي تحد من موثوقية النماذج التوليدية مع اتساع استخدامها في البحث والتقارير وصناعة المحتوى.

وتكمن خطورتها في صعوبة تمييز المعلومة المختلقة عن الصحيحة، ولا سيما حين تتضمن الإجابة أسماء وتواريخ ومصادر تبدو واقعية. ولا تعني كلمة «هلوسة» أن النموذج يتعمد الكذب، بل تصف محتوى قد يبدو منطقيا لغويا من دون أن يستند إلى حقائق أو أدلة كافية.

أخبار ذات صلة

BlanchTouch تحول الجدران والمكاتب إلى أسطح تفاعلية تعمل باللمسمشروبات عشبية تدعم صحة الأمعاء وتخفف اضطرابات الهضم

أسباب هلوسة الذكاء الاصطناعي

تتعلم نماذج اللغة من كميات كبيرة من النصوص والبيانات، ثم تولد الإجابات بتوقع الكلمات أو الأجزاء اللغوية الأنسب للسياق. ولا يعني ذلك أنها تتحقق تلقائيا من كل معلومة بالرجوع إلى قاعدة حقائق مؤكدة قبل عرضها.

لذلك قد يصوغ النموذج إجابة مترابطة رغم نقص المعلومات اللازمة، كما يمكن أن تزيد البيانات المتضاربة أو غير المكتملة وصياغة السؤال الغامضة فرص الخطأ. وتناولت دراسة نشرتها شركة OpenAI في سبتمبر 2025 بعنوان «Why language models hallucinate» استمرار الظاهرة وأسبابها.

وأشارت الدراسة إلى أن بعض طرق التدريب والتقييم قد تدفع النماذج إلى التخمين؛ إذ تكافئ أحيانا تقديم إجابة حتى لو كانت غير صحيحة، ولا تمنح الاعتراف بعدم المعرفة التقدير نفسه.

إجابات واثقة ومراجع مختلقة

قد تظهر المعلومة غير الصحيحة بصياغة حاسمة ومنظمة، لكن الطلاقة اللغوية لا تثبت دقة المحتوى. ويزداد احتمال التضليل عند طلب تفاصيل مثل اسم دراسة أو تاريخ واقعة أو تصريح لشخصية عامة، إذ يمكن للنموذج إنتاج تفاصيل تبدو حقيقية من دون سند.

ومن صور الهلوسة إنشاء مرجع أكاديمي غير موجود، أو نسبة معلومة إلى دراسة مختلقة، أو تقديم رابط لا يقود إلى المصدر المذكور. وحذر المعهد الوطني الأمريكي للمعايير والتكنولوجيا، في ملفه الخاص بمخاطر الذكاء الاصطناعي التوليدي، من المعلومات المضللة والاستشهادات والمراجع التي قد تبدو داعمة للإجابة.

التحقق من الإجابات

بحث علماء في دراسة نشرتها مجلة Nature استخدام مفهوم «الإنتروبيا الدلالية» لرصد بعض حالات الهلوسة، عبر مقارنة اختلاف المعاني بين إجابات النموذج عند تكرار السؤال. ويستهدف الأسلوب تقدير مدى اليقين، لكنه لا يضمن اكتشاف كل الأخطاء.

وعند استخدام الإجابات في إعداد الأخبار والتقارير، تشمل خطوات التحقق ما يلي:

• الرجوع إلى المصدر الأصلي، لا الاكتفاء بملخص النموذج أو رابطه المقترح.
• التحقق بصورة مستقلة من الأسماء والأرقام والتواريخ والاقتباسات.
• مقارنة الإجابة بمصادر مستقلة وموثوقة.
• التأكد من أن كل مصدر يدعم المعلومة المحددة.

وتظل مراجعة الأدلة والمصادر ضرورية قبل الاعتماد على الإجابة أو نشرها، خصوصا في الصحافة والبحث العلمي، حيث قد يمنح ذكر اسم مؤسسة أو عنوان دراسة المعلومة مظهرا من المصداقية من دون أن يثبت صحتها.