跳转到主要内容

跨模型、工具、服务、公司、提供商、API、套餐、文章和新闻进行搜索。

核心概念

参数

Parameter

参数

模型内部可学习的权重,其知识和能力就存储其中;参数量(如 7000 亿)代表模型规模。

参数是模型内部在训练中被调整的数值权重——知识与技能字面上就存储在那里。70 亿参数的模型就是 70 亿个被调好的旋钮,它们的组合产生了模型的行为。

在大规模扩展之前,参数量几乎与智能等同。缩放定律表明性能随「参数 × 数据 × 算力」可预测地提升——但自 2024 年起,训练与部署得当的小型优化模型开始击败原始巨头。

选模型的实用结论:参数量不是唯一标尺;数据质量、训练方式与上下文窗口同样重要。

返回术语表