پرش به محتوای اصلی

جست‌وجو در مدل‌ها، ابزارها، سرویس‌ها، شرکت‌ها، ارائه‌دهندگان، APIها، پلن‌ها، مقالات و اخبار.

استدلال، ایمنی و کیفیت

توهم

Hallucination

توهم

وقتی مدل با اطمینان کامل، اطلاعات غلط تولید می‌کند — منبع غلط، ارجاع ناموجود یا عدد ساختگی. راه‌های کاهش: RAG، مدل استدلالی و ارائه‌ی منابع قابل‌بررسی.

توهم، تولید اطلاعات نادرست با اطمینان کامل است: منبعی که وجود ندارد، عددی که ساخته نشده، تاریخی که اشتباه است. مدل «حدس معنایی» می‌زند و حدس‌هایش روان و با ارجاع‌نمایی تحویل داده می‌شوند — چون مدل برای «بعدیِ محتمل» آموزش دیده نه «راست».

کاهشش شدنی است: RAG (پاسخ از سند واقعی)، مدل استدلالی (چک چندمرحله‌ای)، درخواست ارجاع قابل‌بررسی و human-in-the-loop برای داده‌ی حساس. حذف کاملش هنوز باز است.

فرهنگ کاری: خروجی مدل را در کار حساس «پیش‌نویس» بدانید نه پاسخ نهایی؛ با ابزار تأیید (اجرای کد، جستجو، منبع) حلقه‌ی راستی‌آزمایی بسازید.

بازگشت به واژه‌نامه