跳转到主要内容

跨模型、工具、服务、公司、提供商、API、套餐、文章和新闻进行搜索。

推理、安全与质量

护栏(Guardrails)

Guardrails

护栏(Guardrails)

围绕模型的控制层,阻止有害、不当或违反政策的输出——独立于模型本身,通常作为输入/输出过滤器。

护栏是模型外围的控制层:输入/输出过滤、格式校验、领域策略与审计。它们位于模型之外——这正是其强项:模型换了,护栏还在。

2026 工具箱:开源库(NeMo Guardrails、Guardrails AI)、小模型核查、结构化轨道(JSON schema、长度限制)。好护栏是外部监工,不是更多提示文案。

设计范式:理解归模型,执行归护栏。一切输出契约(格式、语言、引用)都该交给模型无法遗忘的确定性代码。

返回术语表