الانتقال إلى المحتوى الرئيسي

ابحث في النماذج والأدوات والخدمات والشركات والمزودين وواجهات API والخطط والمقالات والأخبار.

الاستدلال والسلامة والجودة

الهلوسة

Hallucination

الهلوسة

أن يولّد النموذج معلومات خاطئة بثقة تامة — مصدر خاطئ أو مرجع غير موجود أو رقم مختلق. طرق التخفيف: RAG والنماذج الاستدلالية واشتراط مصادر قابلة للتحقق.

الهلوسة إنتاج معلومة خاطئة بثقة: مصدر غير موجود ورقم لم يُحسب وتاريخ خاطئ. النماذج تخمن دلاليًا وتسلّم التخمينات سلسة مع إحالات — لأنها درّبت على «الأرجح التالي» لا «الصادق».

التخفيف ممكن: RAG (إجابة من وثائق حقيقية)، ونماذج استدلال (تحقق متعدد الخطوات)، واشتراك إحالات قابلة للتحقق، وإنسان في الحلقة للبيانات الحساسة. الإزالة الكاملة ما زالت مفتوحة.

ثقافة العمل: عالج ناتج النموذج في العمل الحساس كمسودة لا حكمًا؛ وابنِ حلقات تحقق بالأدوات (شغّل الكود، ابحث، أحِل).

العودة إلى المسرد