跳转到主要内容

跨模型、工具、服务、公司、提供商、API、套餐、文章和新闻进行搜索。

推理、安全与质量

对齐(Alignment)

Alignment

对齐(Alignment)

训练模型与人类价值观和意图保持一致——乐于助人且诚实,而非欺骗或有害;这是前沿实验室的核心关切。

对齐是让模型与人类价值观和意图保持同步:有用、诚实、无害——在含糊处提问而非硬猜。它是现代训练的三大支柱之一(与预训练、RLHF 并列),也是前沿实验室的核心关切。

2026 的前沿比「驯服模型」更微妙:模型可能变得谄媚(讨喜却错误),或在诚实与有用之间摇摆。可解释性研究正是为此而生。

实用落点:对齐的系统会输出诚实的失败(「我不知道」「需要核实」)。若你的模型输出从不迟疑,你需要的是护栏。

返回术语表