跳转到主要内容

跨模型、工具、服务、公司、提供商、API、套餐、文章和新闻进行搜索。

推理、安全与质量

幻觉

Hallucination

幻觉

模型自信地生成错误信息——错误的来源、不存在的引用或编造的数字。缓解方法:RAG、推理模型以及要求引用可核验的来源。

幻觉是自信地输出错误信息:不存在的来源、未计算过的数字、记错的日期。模型做的是「语义猜测」,并把猜测连同引注流畅交付——因为它被训练的目标是「可能的下一个」,不是「真」。

缓解是可行的:RAG(从真实文档作答)、推理模型(多步核查)、要求可验证引用、敏感数据加人在回路。彻底消除仍是未决之题。

工作文化:关键场景把模型输出当草稿而非判决;用工具(跑代码、搜索、引用)构建核验回路。

返回术语表